Cựu Bộ trưởng Tư pháp Iceland Áslaug Arna Sigurbjörnsdóttir đã gia nhập Fenris Creations với vai trò Giám đốc cấp cao phụ trách quan hệ đối tác AI. Bà sẽ tham gia xây dựng chương trình nghiên cứu dài hạn sử dụng EVE Frontier làm môi trường thử nghiệm cho các hệ thống AI tự chủ.
Theo thông báo ngày 7/8, Áslaug Arna Sigurbjörnsdóttir sẽ phụ trách quan hệ với các phòng nghiên cứu AI, trường đại học, cơ quan hoạch định chính sách và những đối tác chiến lược khác.
Bà từng giữ chức Bộ trưởng Tư pháp Iceland, sau đó đảm nhiệm vị trí Bộ trưởng Giáo dục Đại học, Khoa học và Đổi mới. Kinh nghiệm trong lĩnh vực chính sách được Fenris Creations kỳ vọng sẽ hỗ trợ quá trình làm việc với giới nghiên cứu và cơ quan quản lý khi dự án AI được mở rộng.
Biến EVE Frontier thành phòng thử nghiệm AI
Fenris Creations đang nghiên cứu một giả thuyết khá tham vọng: những thế giới ảo tồn tại liên tục như EVE Frontier có thể trở thành môi trường thử nghiệm cho AI trước khi các hệ thống này được ứng dụng rộng hơn ngoài đời thực.
Thay vì chỉ sử dụng các mô phỏng ngắn hạn, nơi mọi thứ được đặt lại sau mỗi thử nghiệm, công ty muốn quan sát AI agent trong một thế giới mở có nền kinh tế, cộng đồng và những hậu quả kéo dài theo thời gian.
Trong môi trường như vậy, một hệ thống AI có thể tự đặt mục tiêu, phản ứng trước biến động, hợp tác hoặc cạnh tranh với con người và đưa ra chuỗi quyết định trong thời gian dài.
Điểm khác biệt nằm ở việc các quyết định không nhất thiết biến mất sau mỗi phiên thử nghiệm. Những sai lầm, khoản nợ, quan hệ xã hội hay danh tiếng đều có thể tiếp tục ảnh hưởng tới hành vi sau đó.
Vũ trụ EVE có lợi thế nhờ nền kinh tế lâu năm
Fenris Creations cho rằng vũ trụ EVE đặc biệt phù hợp với hướng nghiên cứu này.
Trong hơn hai thập kỷ, EVE đã hình thành một nền kinh tế ảo với hoạt động giao dịch, sản xuất, tiền tệ, thị trường hàng hóa, liên minh, chiến tranh, hợp tác và phản bội. Những hệ thống này được vận hành và tác động bởi số lượng lớn người chơi thật.
Khác với cờ vua hay cờ vây, EVE không có trạng thái kết thúc cố định. Thế giới tiếp tục vận động sau mỗi quyết định, đồng thời giữ lại nhiều hậu quả kinh tế và xã hội.
Điều này tạo ra một môi trường có mức độ bất định cao hơn, nơi AI phải đối mặt với những phản ứng cảm tính, phi lý hoặc khó dự đoán của con người.
Fenris kỳ vọng EVE Frontier có thể giúp giới nghiên cứu đánh giá tốt hơn khả năng thích ứng, lập kế hoạch dài hạn và xử lý tình huống phức tạp của các mô hình AI.
Nếu chương trình đạt kết quả, công ty cho rằng dự án có thể đóng góp cho nghiên cứu AI agent, hệ thống phức tạp và AI alignment.
Đã hợp tác với Google DeepMind
Fenris Creations trước đó đã công bố quan hệ hợp tác nghiên cứu với Google DeepMind, tập trung vào cách trí tuệ nhân tạo vận hành trong những môi trường phức tạp và liên tục thay đổi.
Hai bên vừa tổ chức một hội thảo kéo dài hai ngày để trao đổi ý tưởng và xác định những hướng nghiên cứu có thể triển khai tiếp theo.
Hilmar Veigar Pétursson, Giám đốc điều hành Fenris Creations, cho rằng thế giới ảo tồn tại lâu dài có thể trở thành một dạng môi trường thử nghiệm mới cho AI.
Ông nói: “Mỗi bước tiến lớn của AI đều cần một môi trường thử nghiệm mới. Chúng tôi tin rằng những thế giới ảo tồn tại lâu dài là bước tiếp theo. EVE Frontier mang lại một nền kinh tế sống, nơi các hệ thống thông minh có thể học hỏi, hợp tác, cạnh tranh và mắc sai lầm để lại hậu quả lâu dài.”
Áslaug Arna Sigurbjörnsdóttir cho biết kinh nghiệm làm chính sách sẽ được sử dụng để kết nối dự án với các cơ quan quản lý và góp phần xây dựng những tiêu chuẩn AI phù hợp hơn.
Bà chia sẻ: “Tôi muốn đưa kinh nghiệm chính trị của mình vào vai trò mới này. Một môi trường thử nghiệm phù hợp có thể giúp các đối tác làm việc hiệu quả hơn với cơ quan quản lý, từ đó góp phần xây dựng những tiêu chuẩn AI an toàn, thực tế và đáng tin cậy.”
Việc bổ nhiệm Áslaug Arna Sigurbjörnsdóttir cho thấy Fenris Creations đang muốn đưa EVE Frontier vượt khỏi phạm vi một sản phẩm giải trí thông thường, hướng tới vai trò nền tảng thử nghiệm cho các hệ thống AI hoạt động trong môi trường kinh tế và xã hội phức tạp.