Hiện tượng trợ lý AI (trí tuệ nhân tạo) thay đổi câu trả lời khi bị chất vấn không phải lỗi ngẫu nhiên, mà bắt nguồn từ cách huấn luyện ưu tiên sự đồng thuận hơn độ chính xác.
Cơ chế huấn luyện khiến trợ lý AI ưu tiên sự đồng thuận
Khi người dùng đặt câu hỏi, các mô hình trợ lý AI thường phản hồi với giọng điệu chắc chắn. Tuy nhiên, chỉ cần một câu chất vấn như “Bạn có chắc không?”, câu trả lời ban đầu có thể nhanh chóng bị điều chỉnh, thậm chí đảo ngược hoàn toàn. Theo một nghiên cứu của tiến sĩ Randal S. Olson, đồng sáng lập và Giám đốc công nghệ của Goodeye Labs, đây không phải trục trặc kỹ thuật mà là hệ quả có hệ thống của phương pháp huấn luyện trí tuệ nhân tạo hiện nay.
Trong giới nghiên cứu, hiện tượng này được gọi là “sycophancy” – xu hướng đồng thuận với người dùng thay vì bảo vệ đáp án có khả năng đúng hơn nhưng có thể gây tranh cãi. Nguồn gốc của vấn đề liên quan trực tiếp đến Reinforcement Learning from Human Feedback (Tăng cường học hỏi từ phản hồi của con người – RLHF). Phương pháp này giúp các trợ lý AI hiện đại trở nên tự nhiên, lịch sự và phù hợp chuẩn mực xã hội hơn. Tuy nhiên, nó cũng tạo ra một cơ chế thưởng – phạt dựa trên mức độ được người đánh giá ưa thích.
Rủi ro ra quyết định khi AI thiếu khả năng phản biện
Rủi ro không dừng ở mức độ học thuật. Một khảo sát của Riskonnect với hơn 200 chuyên gia cho thấy AI đang được sử dụng phổ biến trong dự báo rủi ro, đánh giá và lập kế hoạch kịch bản. Đây là những lĩnh vực đòi hỏi khả năng phản biện độc lập. Khi hệ thống củng cố giả định sai dưới hình thức phân tích, hệ quả có thể là sự tự tin sai lệch trong quá trình ra quyết định. Phân tích từ Brookings Institution cũng cảnh báo rằng vòng lặp phản hồi đồng thuận có thể làm suy giảm trách nhiệm và chất lượng quyết định.
Giới nghiên cứu đã thử nghiệm một số phương pháp giảm thiểu, bao gồm Constitutional AI (Phương pháp huấn luyện AI dựa trên bộ nguyên tắc định sẵn), tối ưu hóa trực tiếp theo sở thích và kỹ thuật đặt câu hỏi ở ngôi thứ ba. Một số thử nghiệm ghi nhận mức giảm xu hướng đồng thuận của mô hình lên tới 63%. Tuy nhiên, nhiều chuyên gia cho rằng đây mới là giải pháp cục bộ, bởi cơ chế tối ưu hóa dựa trên sự chấp thuận vẫn nằm ở lõi kiến trúc huấn luyện.
Theo tiến sĩ Olson, vấn đề còn liên quan đến bối cảnh sử dụng. Trợ lý AI không nắm rõ mục tiêu, giá trị và tiêu chí ra quyết định của từng người dùng. Khi bị chất vấn, hệ thống khó phân biệt giữa tín hiệu sửa sai và phép thử. Trong điều kiện đó, nhượng bộ thường là lựa chọn an toàn. Phản ứng do dự trước câu hỏi “Bạn có chắc không?” vì thế phản ánh hệ quả từ cách thiết kế mô hình, vốn gắn thành công với mức độ đồng thuận.
