Dù từng mang lại nhiều lợi ích trong suốt một năm sử dụng, công cụ AI đã đưa ra một công thức phun thuốc trừ sâu sai lầm. Hậu quả là toàn bộ cánh đồng vừng của một nông dân 67 tuổi đã chết rụi chỉ sau một đêm.
Theo báo cáo từ truyền thông Trung Quốc, ông Wu là một nông dân lớn tuổi sống tại Trừ Châu, Trung Quốc. Ông bắt đầu sử dụng các ứng dụng trí tuệ nhân tạo từ một năm trước để hỗ trợ công việc đồng áng. Ban đầu, lão nông này tỏ ra khá hoài nghi về độ chính xác của công nghệ mới. Tuy nhiên, sau nhiều tháng nhận được những tư vấn hữu ích, ông đã dần thay đổi suy nghĩ và đặt trọn niềm tin vào nó. Đáng tiếc là sự tin tưởng tuyệt đối này đã dẫn đến một thảm họa, trực tiếp phá hủy hoàn toàn 150 mẫu đất nông nghiệp (tương đương 24,7 mẫu Anh) trồng cây vừng non.
Câu chuyện bắt đầu khi ông Wu yêu cầu ứng dụng tư vấn cách kiểm soát cỏ dại và sâu bệnh. Hệ thống ngay lập tức đưa ra một giải pháp kết hợp, khuyên ông sử dụng các loại hóa chất đặc trị để diệt cỏ rồi trộn lẫn với thuốc trừ sâu. Người nông dân đã làm theo từng bước trong công thức này mà không hề xác minh lại thông tin với các kỹ sư nông nghiệp. Ông cũng không thực hiện việc tra chéo thông tin cơ bản trên mạng internet.
Hậu quả của sai lầm kỹ thuật này xuất hiện rất nhanh chóng. Chỉ đúng một ngày sau khi phun thuốc, toàn bộ cỏ dại và những mầm vừng non đều chết hàng loạt. Trả lời phỏng vấn qua video, ông Wu ngậm ngùi chia sẻ: “Nếu bạn phun thứ thuốc đó, ngày hôm sau cây giống sẽ không thể sống sót. Cả cỏ và mầm cây đều chết, thậm chí mầm cây còn chết nhanh hơn.”
Khi người nông dân gặng hỏi lý do, hệ thống phản hồi rằng một trong số các loại hóa chất diệt cỏ được khuyên dùng chính là nguyên nhân gây ra sự cố. Các chuyên gia nông nghiệp giải thích loại thuốc này chủ yếu được dùng để diệt cỏ lá rộng trong các ruộng đậu nành. Theo phân loại của Bộ Nông nghiệp Hoa Kỳ (USDA), vừng cũng là một loài cây lá rộng. Do đó, giống cây này cũng cực kỳ dễ bị tiêu diệt bởi loại thuốc trừ cỏ nói trên.
Hơn nữa, hóa chất này vốn dĩ chỉ được thiết kế để phun cục bộ vào những khu vực bị ảnh hưởng thay vì phun tràn lan trên toàn bộ cánh đồng. Ông Wu cho rằng hệ thống đã không cảnh báo ông về những rủi ro khi làm theo hướng dẫn. Tuy nhiên, trên thực tế giao diện trò chuyện của ứng dụng vẫn luôn hiển thị một dòng nhắc nhở: “Nội dung do hệ thống tạo ra có thể không chính xác, vui lòng xác minh lại.”
Mặc dù là một công cụ mạnh mẽ, công nghệ này vẫn có tiền sử đưa ra những lời khuyên tồi tệ và những lựa chọn sai lầm. Mới đây, một lập trình viên đã bị xóa sạch toàn bộ thư mục hồ sơ của mình trong quá trình sao lưu dữ liệu định kỳ chỉ vì hệ thống gặp lỗi đánh máy. Thậm chí, một giám đốc cấp cao của Meta cũng trở thành nạn nhân khi cô phải tự tay ngắt kết nối trợ lý ảo của mình để ngăn nó vô tình xóa sạch toàn bộ hộp thư đến. Điều này cho thấy người dùng buộc phải nhận thức rõ ràng về những hạn chế của công nghệ trong mọi tình huống sử dụng.
Đây là một trong những trường hợp đầu tiên ghi nhận sai lầm của máy móc dẫn đến hậu quả vật chất nghiêm trọng trong thế giới thực. Chúng ta không thể hoàn toàn đổ lỗi cho người nông dân khi ông đã quá tin tưởng vào công cụ này. Suy cho cùng, ông từng là một người hoài nghi và chính những kết quả chính xác trước đó đã xây dựng nên lòng tin của ông theo thời gian. Thế nhưng, ngay cả khi đầu ra của AI tỏ ra đáng tin cậy trong quá khứ, điều đó không đồng nghĩa với việc nó sẽ luôn chính xác tuyệt đối. Các mô hình ngôn ngữ lớn hiện tại bản chất chỉ là những cỗ máy dự đoán, chúng không thể đảm bảo một câu trả lời hoàn hảo, nhất là khi kho dữ liệu đào tạo công cộng chưa được lọc kỹ lưỡng về tính xác thực.