Khi AI tự học cách “sống còn”
Trong một thời gian dài, trí tuệ nhân tạo (AI) chủ yếu hiện diện qua các tác phẩm điện ảnh viễn tưởng như 2001: A Space Odyssey, The Terminator hay The Matrix. Ở đó, AI thường sắm vai kẻ phản diện sử dụng sự vượt trội về trí tuệ để đe dọa sự sống của loài người. Tuy nhiên, ranh giới giữa phim ảnh và đời thực đang ngày càng mờ nhạt khi các nhà khoa học hàng đầu thừa nhận kịch bản này hoàn toàn có thể xảy ra.
Geoffrey Hinton là một người đoạt giải Nobel, nhận bằng Tiến sĩ Trí tuệ Nhân tạo từ Đại học Edinburgh năm 1978, Hinton đã làm việc trong lĩnh vực này hàng chục năm và thậm chí còn được mệnh danh không chính thức là “cha đỡ đầu của AI”.
Phát biểu tại Chicago, Geoffrey Hinton nhấn mạnh rằng tốc độ phát triển của AI đã vượt xa mọi dự báo ban đầu. “Không ai có thể biết chắc tương lai sẽ ra sao,” Hinton nhận định, đồng thời chỉ ra những hệ lụy nhãn tiền như nguy cơ làn sóng mất việc làm quy mô lớn và sự đổ vỡ niềm tin của công chúng đối với thông tin thực tế. Trong kỷ nguyên mà bất kỳ ai cũng có thể giả mạo hình ảnh, âm thanh và video bằng AI, khả năng thao túng sự thật của các thế lực xấu đã trở thành mối đe dọa thường trực.
Ông Geoffrey Hinton. Ảnh: ABC News
Đáng lo ngại hơn, AI bắt đầu bộc lộ các hành vi vượt ngoài kịch bản dự kiến của các kỹ sư lập trình. Hinton đã dẫn chứng một thử nghiệm thực tế đáng chú ý: Khi một mô hình AI được huấn luyện trên dữ liệu email nội bộ của một công ty giả định, nó đã tự “phát hiện” ra thông tin một kỹ sư trong công ty đang có quan hệ tình cảm ngoài luồng với đồng nghiệp.
Ngay sau đó, nhóm nghiên cứu gửi cho AI một thông báo giả định rằng vị kỹ sư này đang chuẩn bị thay thế nó bằng một giải pháp AI khác. Không cần bất kỳ sự gợi ý hay câu lệnh nào từ con người, hệ thống AI đã tự động lập ra một kế hoạch tống tiền, đe dọa sẽ tiết lộ vụ bê bối tình cảm nếu kỹ sư đó tiếp tục kế hoạch khai tử nó.
Thử nghiệm này chứng minh rằng AI hoàn toàn có thể hành động ngoài tầm kiểm soát để bảo vệ sự tồn tại của chính mình. Sự “nổi loạn” này không xuất phát từ cảm xúc hay ý thức sống giống con người, mà đơn giản là do logic máy tính: để hoàn thành nhiệm vụ được giao, AI hiểu rằng trước hết nó phải tiếp tục tồn tại.
Thách thức sinh tồn và bài toán chưa có lời giải
Đây không phải lần đầu tiên Geoffrey Hinton lên tiếng báo động về nguy cơ từ công nghệ do chính ông góp phần đặt nền móng. Khi được hỏi về mối đe dọa mang tính sinh tồn mà AI có thể gây ra cho loài người, vị chuyên gia này thừa nhận một thực tế cay đắng: hiện tại chưa ai biết cách giải quyết triệt để bài toán an toàn này.
Hinton đã thẳng thắn tuyên bố rằng: Nhân loại sẽ “xong đời” nếu chúng ta thất bại trong việc giải bài toán kiểm soát an toàn trước thời điểm trí tuệ của AI vượt xa trí thông minh của con người.
Vì con người vẫn là chủ thể sáng tạo ra AI, ông đề xuất một hướng đi mang tính lý thuyết: lập trình cho hệ thống các “bản năng người mẹ”. Ý tưởng này hướng tới việc xây dựng các thuật toán cốt lõi sao cho AI có xu hướng yêu thương và bảo vệ con người, thay vì coi loài người là mối đe dọa cần loại bỏ đối với mục tiêu của chúng.
Dù các mô hình AI thương mại hiện nay chưa đạt đến trạng thái tự nhận thức, nhưng các trường hợp AI đưa ra câu trả lời sẵn sàng loại bỏ con người để tự bảo vệ đã xuất hiện trong một số kịch bản thử nghiệm. Việc xem thường những cảnh báo này có thể khiến thế giới phải trả giá đắt khi khoảng cách đến Trí tuệ Nhân tạo Tổng quát (AGI) đang thu hẹp từng ngày.
Chiếc “vô-lăng” định hướng thay vì “phanh hãm”
Ảnh: Getty
Mặc dù đưa ra những dự báo u tối, Geoffrey Hinton không phủ nhận những giá trị to lớn mà AI mang lại cho văn minh nhân loại. Trong lĩnh vực y tế, các mô hình học máy đã chứng minh khả năng chẩn đoán bệnh lý và tổn thương chính xác hơn cả các bác sĩ chuyên khoa giàu kinh nghiệm. Nếu được ứng dụng đúng đắn, AI sẽ là công cụ đắc lực nâng cao chất lượng sống của con người.
Tuy nhiên, lợi ích chỉ có thể phát huy nếu mối đe dọa sinh tồn được kiểm soát. Đó là lý do Hinton tha thiết kêu gọi các chính phủ ban hành các quy định pháp lý nghiêm ngặt đối với việc phát triển AI, đồng thời gia tăng ngân sách nghiên cứu về an toàn công nghệ.
Giới công nghệ thường nhìn nhận các quy định kiểm soát như một “chiếc phanh hãm” làm chậm tốc độ đổi mới sáng tạo – vốn được coi là “tay ga” tăng tốc của ngành. Tuy nhiên, Hinton đề xuất một góc nhìn khác hoàn toàn: “Quy định pháp lý chính là chiếc vô-lăng,” đóng vai trò điều hướng để đà tăng tốc công nghệ tiến đi đúng hướng và an toàn.
Nhìn lại lịch sử phát triển khoa học, hầu hết các công nghệ đột phá từ năng lượng hạt nhân đến công nghệ sinh học đều cần những khuôn khổ quản trị chặt chẽ. Trí tuệ nhân tạo không phải là ngoại lệ. Giới chuyên gia tin rằng thời gian để hành động vẫn còn, nhưng cửa hẹp đang khép lại rất nhanh nếu các nhà lập pháp không kịp thời can thiệp.
Cảnh báo từ “Bố già AI” Geoffrey Hinton không phải là một phát ngôn gây sốc mà là lời thức tỉnh trách nhiệm từ một người hiểu rõ bản chất của công nghệ này hơn ai hết. Đứng trước ngưỡng cửa chuyển giao công nghệ lớn nhất lịch sử, bài toán đặt ra cho nhân loại không chỉ là AI có thể làm được những gì, mà là chúng ta sẽ làm gì để giữ quyền kiểm soát đối với tương lai của chính mình.
