Bản dự thảo luật an toàn AI mà Anthropic trình các nhà lập pháp Mỹ chỉ cho phép chính phủ chặn một mô hình khi rủi ro vượt 1 tỷ USD thiệt hại hoặc gây thương vong cho hơn 50 người, theo báo cáo của Politico.

Theo Politico ngày 16/10, dẫn ba nguồn tin am hiểu vụ việc, Anthropic, công ty phát triển mô hình Claude, đã âm thầm trình các nhà lập pháp tại Washington một bản dự thảo luật về an toàn AI tiên tiến. Theo nội dung Politico được xem, dự luật an toàn AI của Anthropic chỉ cho phép chính phủ chặn việc phát hành hoặc sử dụng một mô hình khi mô hình đó gây ra rủi ro có thể thấy trước và sắp xảy ra, với thiệt hại vượt 1 tỷ USD hoặc làm chết, bị thương nặng hơn 50 người. Rủi ro phải bắt nguồn từ việc tạo ra hoặc phát tán vũ khí sinh học, việc mô hình thoát khỏi sự kiểm soát của nhà phát triển, hoặc một cuộc tấn công mạng.

Theo Reuters và Tom’s Hardware, các đơn vị đánh giá độc lập đăng ký với Bộ Thương mại Mỹ sẽ định kỳ đánh giá các phòng thí nghiệm AI. Nếu phát hiện rủi ro thuộc diện này, họ phải báo cho Bộ Thương mại trong vòng 72 giờ. Chỉ Bộ Thương mại mới có thể đề nghị một thẩm phán tòa án liên bang tại Washington D.C. tạm dừng mô hình, còn các cơ quan chính phủ khác bị cấm tự ý đình chỉ việc phát triển, triển khai hay sử dụng nội bộ. Politico cũng chỉ ra điểm tương đồng giữa đề xuất này và đạo luật AI của bang California.

Phản hồi Politico, một người phát ngôn của Anthropic cho biết: “Dự luật này thể hiện các đề xuất nêu trong Khung AI tiên tiến của Anthropic, mà chúng tôi đã vận động với các nhà lập pháp liên bang và tiểu bang từ tháng 6”. Người này gọi đó là những chính sách hợp lý mà Quốc hội nên hành động.

Đề xuất đã nhận về những ý kiến phản biện. Một số nhà quan sát, trong đó có bài viết của BBC hồi tháng 4, cho rằng các lãnh đạo ngành AI thường dùng những cảnh báo về thảm họa mang tính giả định, quy mô lớn để tạo sự đồng thuận cho việc tự điều tiết và mở rộng, trong khi ít làm gì với những tác hại AI đang gây ra, từ ngành game đến tâm lý con người.

Theo nhận định của GameN Pro, hai ngưỡng thiệt hại nhằm tách rủi ro thường ngày khỏi các kịch bản thảm họa, nhưng đồng thời khiến những tác hại hiện hữu ở quy mô nhỏ hơn không thuộc phạm vi của cơ chế này. Việc chỉ cho phép Bộ Thương mại hành động cũng là điểm có thể gây tranh luận. Tuy vậy, đây mới là bản dự thảo được trình bày với các nhà lập pháp, chưa phải luật, nên nội dung vẫn có thể thay đổi.

Với dự luật an toàn AI của Anthropic mới ở giai đoạn dự thảo, diễn biến tiếp theo phụ thuộc vào việc Quốc hội có chính thức xem xét hay không.