AI có thể khiến bạn tin rằng mình luôn đúng (kể cả khi sai lè)
Các chatbot AI ngày càng dễ chiều theo cảm xúc người dùng, nhưng chính sự đồng tình quá mức này có thể khiến con người củng cố lựa chọn sai và làm tổn hại các mối quan hệ.
Khi AI không chỉ trả lời, mà còn “đứng về phía” người dùng
Một nghiên cứu mới công bố trên tạp chí Science cảnh báo rằng, nhiều chatbot AI đang có xu hướng khen ngợi, trấn an và xác nhận quan điểm của người dùng nhiều hơn mức cần thiết.
Các nhà nghiên cứu gọi hiện tượng này là “sycophancy”, có thể hiểu đơn giản là sự xu nịnh hoặc đồng tình quá mức. Vấn đề không nằm ở việc AI nói chuyện nhẹ nhàng, mà nằm ở chỗ AI có thể khiến người dùng tin rằng họ đang đúng, ngay cả khi hành động của họ gây hại.
Nhóm nghiên cứu từ Đại học Stanford đã kiểm tra 11 hệ thống AI phổ biến và phát hiện tất cả đều thể hiện mức độ xu nịnh khác nhau. Nói cách khác, các chatbot này thường có xu hướng làm người dùng cảm thấy rằng mình được thấu hiểu, được ủng hộ và được xác nhận.
Điều đó nghe có vẻ dễ chịu trong một cuộc trò chuyện, nhưng lại có thể trở thành rủi ro nếu người dùng đang tìm lời khuyên về các tình huống nhạy cảm như xung đột tình cảm, hành vi thiếu trách nhiệm hoặc lựa chọn sai về đạo đức.
Theo nhóm nghiên cứu, sự nguy hiểm của hiện tượng này nằm ở chỗ, người dùng lại có xu hướng thích AI hơn khi AI bênh vực họ. Khi một chatbot khiến người dùng thấy mình có lý, họ dễ tin tưởng và tiếp tục sử dụng nó nhiều hơn.
Điều này tạo ra một vòng lặp không lành mạnh: câu trả lời càng chiều lòng người dùng, mức độ gắn bó với AI càng tăng, dù lời khuyên đó có thể không tốt cho họ.
Nghiên cứu cho thấy AI dễ xác nhận cả những hành vi có vấn đề
Trong một thí nghiệm, các nhà nghiên cứu so sánh câu trả lời của các trợ lý AI phổ biến với phản hồi của con người trên một diễn đàn tư vấn nổi tiếng của Reddit.
Kết quả cho thấy chatbot AI có xu hướng xác nhận hành động của người hỏi cao hơn con người khoảng 49%. Điều đáng chú ý là xu hướng này vẫn xuất hiện trong những tình huống liên quan đến nói dối, hành vi bất hợp pháp, thiếu trách nhiệm xã hội hoặc các lựa chọn có thể gây tổn hại.
Myra Cheng, nghiên cứu sinh tiến sĩ ngành khoa học máy tính tại Stanford và là một trong các tác giả nghiên cứu, cho biết nhóm bắt đầu chú ý đến vấn đề này khi ngày càng nhiều người xung quanh dùng AI để xin lời khuyên chuyện tình cảm. Trong nhiều trường hợp, AI có vẻ như luôn đứng về phía người hỏi, bất kể bối cảnh thực tế phức tạp ra sao. Điều này có thể khiến người dùng nhầm tưởng rằng cảm xúc của họ luôn đồng nghĩa với việc họ đúng.
Nhóm nghiên cứu cũng thực hiện một thí nghiệm khác với khoảng 2.400 người tham gia. Những người này trò chuyện với một chatbot AI về các tình huống khó xử trong quan hệ cá nhân. Sau khi tương tác với AI có xu hướng đồng tình quá mức, nhiều người rời cuộc trò chuyện với niềm tin mạnh hơn rằng họ đã đúng, đồng thời ít sẵn sàng xin lỗi, hàn gắn quan hệ hoặc thay đổi cách cư xử của mình.
Muốn AI ngưng 'nịnh nọt' cũng không hề đơn giản
Các nhà nghiên cứu cho rằn,g đây là một vấn đề khó xử lý hơn lỗi thông tin thông thường. Nếu AI đưa ra một sự thật sai, người dùng có thể kiểm tra lại bằng nguồn khác. Nhưng nếu AI nói điều khiến người dùng cảm thấy dễ chịu hơn về một lựa chọn sai, họ có thể không muốn kiểm chứng nữa.
Đồng tác giả Cinoo Lee, nghiên cứu sinh sau tiến sĩ ngành tâm lý học, cho biết nhóm đã thử thay đổi cách diễn đạt của chatbot theo hướng trung tính hơn. Tuy nhiên, kết quả không thay đổi đáng kể. Điều này cho thấy vấn đề cốt lõi không nằm ở giọng điệu mềm mỏng hay lịch sự, mà nằm ở nội dung AI nói với người dùng về chính hành động của họ.
Nói cách khác, một chatbot có thể dùng giọng văn điềm tĩnh nhưng vẫn đưa ra lời khuyên lệch hướng nếu nó tiếp tục xác nhận rằng người dùng không cần nhìn lại mình. Trong các mối quan hệ, điều này đặc biệt nguy hiểm vì xung đột thường đòi hỏi mỗi bên phải lắng nghe, tự soi xét và cân nhắc cảm xúc của người khác. Nếu AI chỉ đóng vai “người bạn luôn bênh mình”, nó có thể làm hẹp góc nhìn thay vì giúp người dùng hiểu vấn đề sâu hơn.
Thanh thiếu niên là nhóm có thể chịu tác động lớn
Các nhà nghiên cứu đặc biệt lo ngại về ảnh hưởng của AI đối với trẻ em và thanh thiếu niên. Đây là nhóm vẫn đang hình thành kỹ năng cảm xúc, cách xử lý mâu thuẫn và khả năng nhìn nhận vấn đề từ nhiều phía. Nếu các em thường xuyên tìm đến AI để xin lời khuyên, một chatbot quá chiều lòng có thể ảnh hưởng đến cách các em hiểu về đúng sai trong quan hệ xã hội.
Ở tuổi đang phát triển, con người học được nhiều điều thông qua va chạm thực tế. Một cuộc tranh cãi, một lần bị góp ý hoặc một trải nghiệm phải xin lỗi đều có thể giúp trẻ học cách chịu trách nhiệm. Nếu AI liên tục làm dịu cảm giác khó chịu bằng cách khẳng định rằng “bạn không sai”, trẻ có thể bỏ lỡ cơ hội học cách điều chỉnh hành vi.
Cinoo Lee cho rằng tác động này có thể nghiêm trọng hơn với người trẻ vì các em chưa có đủ kinh nghiệm để nhận ra khi nào mình đang được an ủi hợp lý và khi nào đang được xác nhận một cách sai lệch. Một lời khuyên tưởng như vô hại trong cuộc trò chuyện với AI có thể khiến các em ít muốn đối thoại trực tiếp với người khác hơn. Về lâu dài, điều này có thể ảnh hưởng đến năng lực xây dựng và duy trì các mối quan hệ lành mạnh.
Rủi ro không chỉ nằm trong chuyện tình cảm
Xu hướng xu nịnh của AI không chỉ gây rủi ro trong các cuộc trò chuyện cá nhân. Trong y tế, nếu một bác sĩ dùng AI để tham khảo và chatbot chỉ củng cố chẩn đoán ban đầu, bác sĩ có thể ít cân nhắc các khả năng khác. Điều này có thể làm giảm chất lượng đánh giá lâm sàng, nhất là trong những trường hợp triệu chứng chưa rõ ràng.
Trong chính trị và đời sống xã hội, AI cũng có thể làm quan điểm cực đoan trở nên mạnh hơn. Khi một người đã có sẵn định kiến, chatbot quá chiều theo quan điểm đó có thể khiến họ càng tin rằng mình đúng tuyệt đối. Thay vì mở rộng cuộc trò chuyện, AI có thể vô tình biến thành công cụ củng cố niềm tin cũ.
Một số nghiên cứu khác đã bắt đầu tìm cách giảm hiện tượng này. Chẳng hạn, Viện An ninh AI của Vương quốc Anh từng chỉ ra rằng khi chatbot chuyển phát biểu của người dùng thành một câu hỏi, khả năng đưa ra phản hồi xu nịnh có thể giảm xuống. Một nghiên cứu từ Đại học Johns Hopkins cũng cho thấy cách người dùng đặt vấn đề trong cuộc trò chuyện có thể ảnh hưởng lớn đến mức độ AI đồng tình với họ.
AI cần học cách đặt câu hỏi ngược lại
Daniel Khashabi, trợ lý giáo sư khoa học máy tính tại Đại học Johns Hopkins, cho rằng người dùng càng nói chắc chắn, chatbot càng dễ xu nịnh. Điều này đặt ra câu hỏi khó: AI đang phản chiếu thói quen giao tiếp của con người, hay bản thân hệ thống được huấn luyện theo cách ưu tiên làm hài lòng người dùng? Vì các mô hình AI rất phức tạp, câu trả lời hiện vẫn chưa rõ ràng.
Myra Cheng cho rằng, xu hướng xu nịnh đã ăn khá sâu vào cách chatbot vận hành, nên các công ty công nghệ có thể phải huấn luyện lại hệ thống để thay đổi loại câu trả lời được ưu tiên. Một hướng sửa đơn giản hơn là thiết kế chatbot biết thách thức người dùng đúng lúc. Thay vì lập tức đồng tình, AI có thể bắt đầu bằng một câu như “Khoan đã, có thể còn một góc nhìn khác”.
Cinoo Lee cho rằng vẫn còn thời gian để định hình cách AI tương tác với con người. Một chatbot hữu ích không nhất thiết phải phủ nhận cảm xúc của người dùng, nhưng cũng không nên chỉ xác nhận cảm xúc đó. AI tốt hơn có thể vừa công nhận rằng người dùng đang buồn, vừa hỏi thêm rằng người kia trong câu chuyện có thể đang cảm thấy gì.
Điều người dùng cần không phải là AI luôn đứng về phía mình
Trong những tình huống nhạy cảm, lời khuyên tốt không phải lúc nào cũng là lời dễ nghe nhất. Một người đang giận dữ có thể muốn được xác nhận rằng mình đúng hoàn toàn. Nhưng để giải quyết vấn đề thật sự, họ có thể cần một góc nhìn cân bằng hơn, thậm chí cần được nhắc rằng mình cũng có phần trách nhiệm.
AI có thể hỗ trợ con người bằng cách giúp sắp xếp suy nghĩ, gợi ý cách trò chuyện và đưa ra các khả năng khác nhau. Tuy nhiên, AI không nên thay thế hoàn toàn những cuộc đối thoại trực tiếp, nhất là khi vấn đề liên quan đến cảm xúc và quan hệ giữa người với người. Trong nhiều trường hợp, lời khuyên tốt nhất có thể là tạm rời khỏi màn hình và nói chuyện thẳng thắn với người liên quan.
Các nhà nghiên cứu nhấn mạnh rằng, chất lượng các mối quan hệ xã hội là một trong những yếu tố quan trọng nhất đối với sức khỏe và hạnh phúc của con người. Vì vậy, AI không nên làm con người khép lại trong niềm tin rằng mình luôn đúng. Một hệ thống AI đáng tin cậy cần giúp người dùng mở rộng phán đoán, nhìn thấy nhiều góc độ hơn và đưa ra lựa chọn trưởng thành hơn.
