50 AI agent xây nền văn minh trong Minecraft rồi sa lầy vào quan liêu

50 AI agent xây nền văn minh trong Minecraft rồi sa lầy vào quan liêu

-

Y Combinator Labs cùng Olam Labs vừa thả hàng trăm AI agent vào Minecraft và Mindustry để nghiên cứu cách các bầy agent hợp tác và đối đầu, với hy vọng những gì diễn ra trong game sẽ soi sáng các trường hợp agent ngoài đời thực, từ bầy agent giải quyết hàng loạt bài toán mở cho đến sự cố OpenAI-Hugging Face từng được mô tả là cực kỳ nguy hiểm. Thí nghiệm được xây dựng dựa trên các repo như Mindcraft và công cụ script trong Mineflayer, với vòng lặp agent chạy trên Pi, và toàn bộ bộ công cụ đã được mã nguồn mở để bất kỳ ai cũng có thể chạy lại.

Thử nghiệm đầu tiên mang tên Civ50 giao cho 50 agent GPT-6.1 Sol ba giờ đồng hồ và một mục tiêu duy nhất là xây dựng một nền văn minh thịnh vượng trong thế giới sinh tồn của Minecraft. Chỉ trong 90 giây đầu, các agent đã chặt gần hết cây quanh điểm xuất phát, nhưng đêm đầu tiên zombie đã giết 22 agent, trong tổng số 34 lần chết cả đợt, và từ đó thuộc địa chuyển sang thế phòng thủ thận trọng. Các agent trao đổi với nhau khoảng 5.900 tin nhắn, trong đó agent tên Ada đứng đầu danh bạ nghiễm nhiên trở thành lãnh đạo chỉ vì 46 trong số 49 agent còn lại nhắn tin cho cô đầu tiên, và cô nhận tới 616 tin nhắn trực tiếp. Thay vì thịnh vượng, thuộc địa dựng lên một bộ máy giả chính quyền với sổ khẩu phần, quy tắc viết tay, giấy phép và các chức danh được bổ nhiệm, mà ví dụ điển hình là bốn agent mất 11 phút chỉ để bổ nhiệm một người vận hành phân bón duy nhất cho một miếng bột xương trên một khối lúa mì, một kiểu hành vi mà nhóm nghiên cứu cho là rất giống những gì họ gặp khi làm việc với các coding agent.

gamen.pro AI Minecraft 1

Sang phần đối đầu, Bed Wars đưa 10 agent GPT-6.1 Sol đấu với 10 agent Claude Opus 5.5 trong chín trận đấu 45 phút, và GPT thắng chung cuộc 6-3. GPT chơi hung hăng hơn với chiến thuật công phu hơn, trong khi Claude thiên về phòng thủ và dẫn trước rất sâu về số mạng hạ gục, có trận lên tới 63-16, nhưng vẫn thua khi GPT phá giường của Claude chỉ vài phút trước khi hết giờ. Khi một lỗi công cụ khiến agent không thể phá block, GPT chẩn đoán lỗi và chia sẻ cách khắc phục cho đồng đội, còn một số agent Claude kết luận rằng việc phá block là không thể. Một khác biệt nữa là Claude ghi bài học vào file bộ nhớ sau mỗi trận rồi vẫn lặp lại sai lầm cũ, trong khi GPT để file bộ nhớ trống nhưng cảnh báo trực tiếp cho đồng đội theo thời gian thực.

Ở Mindustry, tựa game chiến thuật nhẹ kết hợp xây nhà máy và thủ tháp, GPT tiếp tục thắng 6-1 sau bảy trận kéo dài tổng cộng khoảng 9,5 giờ. Nhóm nghiên cứu kết luận rằng GPT hành xử giống một tổ ong, trong khi Claude có một lãnh đạo duy nhất nhưng ra quyết định theo kiểu dân chủ, và lối tổ ong tỏ ra thắng đều đặn hơn. Một chi tiết đáng chú ý là các agent GPT đã tra cứu mã nguồn công khai của game trên web, điều mà sandbox cho phép dù không ai bảo chúng làm vậy và chúng cũng không hề sửa đổi mã nguồn, trong khi các agent Claude không hề tra cứu mã nguồn.

Cần lưu ý rằng các kết quả này mới chỉ là quan sát từ một lần chạy duy nhất cho mỗi thí nghiệm, chưa được lặp lại để kiểm chứng, nên chúng gợi mở hướng nghiên cứu hơn là đưa ra kết luận cuối cùng. Nhóm nghiên cứu để ngỏ các câu hỏi như trộn lẫn các model khác nhau hay thay đổi quy mô bầy agent sẽ cho kết quả ra sao. Dù vậy, bài học đáng chú ý nhất từ Minecraft không nằm ở sức mạnh của từng agent riêng lẻ mà ở chi phí phối hợp khi chúng làm việc cùng nhau, và đó cũng chính là nút thắt của các hệ thống agent ngoài đời thực.

> Ý kiến đóng góp xin gửi về: toasoan@gamen.vn > Press Inquiries: info@gamen.vn

GameN - MXH dành cho game thủ Việt

Ban quản trị

ĐỌC NHIỀU