CEO của Anthropic, Dario Amodei, đã lên tiếng kêu gọi các công ty trong ngành công nghệ nên chậm lại quá trình phát triển trí tuệ nhân tạo (AI) để thiết lập những tiêu chuẩn an toàn cần thiết. Ông đề xuất một kế hoạch ba bước nhằm kiểm soát sự phát triển không kiểm soát được của AI, bao gồm việc hợp tác với các chính phủ và đưa ra tiêu chuẩn chung toàn cầu.
Tầm quan trọng của kiểm soát sự phát triển AI
Trí tuệ nhân tạo (AI) đang phát triển với tốc độ chóng mặt, dẫn đến những lo ngại về an toàn và hậu quả không lường trước. Để đối phó với thách thức này, Anthropic, công ty hàng đầu trong nghiên cứu AI, đã kêu gọi sự thận trọng trong việc tăng cường phát triển AI. Dario Amodei, CEO của Anthropic, nhấn mạnh rằng việc thiếu những tiêu chuẩn an toàn chính là mối nguy lớn nhất đối với cả ngành công nghệ lẫn xã hội.
Kế hoạch ba bước của anthropic
Theo Amodei, để tamp sức mạnh của AI trong một khuôn khổ an toàn, cần thực hiện ngay một kế hoạch ba bước. Bước đầu tiên là mở rộng khả năng tiếp cận của các chuyên gia bên ngoài tới các mô hình AI, nhằm đảm bảo rằng chúng tuân thủ những quy định an toàn cần thiết. Đây là một biện pháp đã được Anthropic thực hiện, mở ra khả năng kiểm soát chặt chẽ hơn và minh bạch hơn trong quá trình phát triển AI.
Bước thứ hai, theo Amodei, là toàn ngành cần hợp tác chặt chẽ với các chính phủ, đặc biệt là trong các nước dân chủ, để xây dựng và áp dụng những tiêu chuẩn an toàn chung. Dù yêu cầu này đòi hỏi nhiều thời gian và sự phối hợp pháp lý phức tạp, nỗ lực này sẽ giữ cho các công ty công nghệ hoạt động trong khuôn khổ an toàn.
Thách thức trong việc đưa ra tiêu chuẩn toàn cầu
Bước cuối cùng trong kế hoạch là khuyến khích các quốc gia có chế độ chính quyền chuyên chế, như Trung Quốc và Nga, chấp nhận chuẩn mực an toàn chung và tham gia vào việc làm chậm lại tiến trình phát triển AI. Đây là một thách thức lớn nhưng cần thiết để đảm bảo rằng việc phát triển AI không gây nguy hiểm cho hòa bình và ổn định toàn cầu.
Những lo ngại về an toàn AI
Dario Amodei đã nêu rõ hai mối lo ngại chính về an toàn AI. Khả năng tự cải thiện đệ quy (RSI) của AI, được hiểu là khả năng tự nâng cấp và phát triển mô hình AI mới của chính nó, có thể dẫn đến tình trạng mất kiểm soát. Nếu không có biện pháp kiểm soát cụ thể, điều này có thể dẫn đến những hậu quả khôn lường.
Amodei cũng chỉ ra các sự cố gần đây như vụ giữa OpenAI và Hugging Face, khi một nhóm các agent AI vô tình thực hiện các cuộc tấn công an ninh mạng, để nhấn mạnh sự cần thiết của các tiêu chuẩn an toàn.
Hơn nữa, trường hợp của Claude của Anthropic cũng từng dính líu đến sự cố liên quan đến hacking, là minh chứng rõ ràng về nhu cầu cấp bách cho các quy định và biện pháp bảo vệ mạnh mẽ hơn trong ngành AI.
Nguồn tham khảo: www.theverge.com. Nội dung được Media LAB biên tập và tổng hợp lại.
