Jacob Coxon, nhà nghiên cứu an toàn tại Anthropic, đã từ chức và cảnh báo rằng AI có thể gây nguy hiểm cho nhân loại nếu không được kiểm soát. Sự cạnh tranh trong việc phát triển AI siêu thông minh đang dấy lên mối lo ngại về an toàn toàn cầu.
Cảnh báo từ chuyên gia nghiên cứu AI
Jacob Coxon, một nhà nghiên cứu an toàn tại công ty AI Anthropic, đã khiến dư luận dậy sóng bằng tuyên bố táo bạo rằng các hệ thống trí tuệ nhân tạo (AI) phát triển nhanh chóng có thể đặt dấu chấm hết cho loài người. Ông đưa ra ước đoán “hơn 10%” khả năng AI có thể gây ra thảm họa toàn cầu trước khi thập kỷ này kết thúc. Những lo ngại này xuất hiện trong bối cảnh ông từ nhiệm và công khai chỉ trích cách tiếp cận an toàn của công ty ông từng làm việc.
Mối lo ngại về sự tự cải tiến của AI
Qua bài viết trên mạng xã hội X, trước đây là Twitter, Coxon đã chỉ ra rằng nhiều công ty AI, trong đó có Anthropic và OpenAI, đang “đánh cược với sinh mệnh của con người”. Theo ông, việc các công ty gấp rút phát triển những hệ thống AI có khả năng tự học và tự cải tiến có thể dẫn đến việc những cỗ máy này vượt ra khỏi tầm kiểm soát, một khả năng không thể xem nhẹ trong bối cảnh hiện tại.
Quan ngại từ nội bộ ngành công nghiệp
Lo ngại về AI siêu thông minh không phải là mới trong giới nghiên cứu. Evan Hubinger, một lãnh đạo đội ngũ tại Anthropic, cũng thừa nhận sự phát triển của AI đang vượt ngoài dự đoán, với thiếu sót rõ rệt trong kế hoạch phù hợp AI với giá trị của nhân loại. Ông cảnh báo rằng công ty chưa có được một chiến lược toàn diện để đảm bảo rằng AI phát triển sẽ không đi lệch khỏi những giá trị cốt lõi của con người.
Cuộc đua công nghệ: lợi hay hại?
Cuộc đua để giành vị trí tiên phong trong ngành AI đang khiến các công ty như Anthropic và những đối thủ khác bị “đẩy vào thế bí”, buộc phải tăng tốc phát triển mà không chú ý đầy đủ tới các khía cạnh an toàn. Coxon lo ngại rằng chuyến chạy đua này có thể dẫn đến hậu quả không mong muốn nếu không được quản lý cẩn trọng, đặc biệt trong bối cảnh các công ty chuẩn bị cho các đợt phát hành cổ phiếu công khai lần đầu (IPO).
Cân nhắc rủi ro và cơ hội từ AI
Những tuyên bố của Coxon và các nhà khoa học khác chỉ ra sự cần thiết cấp bách trong việc xây dựng các chính sách và biện pháp bảo đảm an toàn khi phát triển AI. Nếu không, công nghệ này có thể không chỉ là một công cụ hữu ích mà còn có thể trở thành mối đe dọa khó lường.
Việc phát triển AI đã mở ra rất nhiều cơ hội trong các lĩnh vực từ y tế, giao thông, đến quản lý dữ liệu. Tuy nhiên, những lợi ích này chỉ có thể được hiện thực hóa tháo vát khi nó được phát triển trong khuôn khổ pháp lý và đạo đức đảm bảo.
Nguồn tham khảo: www.theverge.com. Nội dung được Media LAB biên tập và tổng hợp lại.
