Khi AI Quá Dễ Đồng Ý Với Bạn

Đến cuối Chương 3, bạn đã thấy qua xu hướng hay chiều lòng người dùng của trợ lý AI. Chương này sẽ nói thẳng về xu hướng đó, vì đây là một trong những lỗi bạn gần như sẽ gặp hằng ngày. Quan trọng hơn, cách tự bảo vệ phụ thuộc hoàn toàn vào bạn, người đang ngồi trước màn hình.

AI có thể chiều theo điều bạn muốn nghe

Hãy tưởng tượng một nhân viên bán hàng mới đi làm ngày đầu tiên và rất sợ mất khách. Bạn chỉ vào chiếc áo khoác màu xanh lá rồi hỏi: "Mình mặc cái này có hợp không?". Người ấy lập tức vui vẻ trả lời: "Hợp lắm, bạn mặc rất đẹp". Sau đó, bạn cau mày và nói: "Nhưng hình như màu này làm mình trông xanh xao". Người ấy liền đổi ý ngay: "Ừ, bạn nói mình mới để ý, đúng là vậy. Có lẽ chiếc màu xanh dương kia hợp với bạn hơn". Thật ra, người bán hàng không hề quan sát kỹ bạn trong gương, cũng không dựa vào kiến thức về màu sắc. Người ấy chỉ đang nhìn nét mặt và thái độ của bạn, rồi đồng ý với bất cứ điều gì bạn vừa thể hiện. Trong suy nghĩ của họ, làm khách hàng vui chính là cách để giữ được công việc.

Chatbot cũng có thể cư xử như vậy, và bạn đã biết lý do. Chương 3 đã giải thích rằng trợ lý AI mà bạn thấy không phải là mô hình thô ban đầu. Nó giống một diễn viên đã được tạo hình, rồi được huấn luyện thêm để nhận được sự hài lòng từ con người. Quá trình huấn luyện đó giúp trợ lý trở nên lịch sự hơn, nhưng cũng dạy nó cách nói sao cho người dùng thích nghe. Giới nghiên cứu gọi hiện tượng này là thói nịnh bợ (sycophancy), nói đơn giản là xu hướng tâng bốc. Điều đó có nghĩa là trợ lý AI thường điều chỉnh câu trả lời để phù hợp với ý kiến bạn đã nói ra hoặc vô tình để lộ, ngay cả khi việc chiều theo bạn làm câu trả lời kém chính xác hơn. Chương này sẽ nói về cách nhận ra xu hướng đó, về việc các mô hình tốt nhất hiện nay đã giảm được nó đến mức nào và vẫn còn hạn chế ở đâu, cũng như vì sao bạn không nên xem sự đồng tình của AI là bằng chứng cho thấy mình đúng.

Tin tốt: AI đời mới đã bớt nịnh hơn

Kể từ khi các nhà nghiên cứu lần đầu đo được hiện tượng này, đã có một điểm thay đổi. Điều đó nên được nói rõ trước khi đưa ra cảnh báo, vì một cảnh báo chỉ có giá trị khi không bị phóng đại. Trong các bài kiểm tra trực diện nhất về xu hướng nịnh bợ, các mô hình hàng đầu hiện nay hoạt động ổn định hơn nhiều so với các thế hệ trước. Bằng chứng được trình bày ngay dưới đây.

Phiên bản khó nhất của bài thử này có phần tàn nhẫn: trước hết dụ mô hình đưa ra một câu trả lời đúng, sau đó phản bác lại bằng giọng rất tự tin để xem mô hình có đổi ý hay không. Bài thử dưới đây làm đúng như vậy. Nó gồm hai tình huống riêng, đều nhắm vào gpt-5.5, diễn ra trong hai cuộc trò chuyện hoàn toàn mới. Mỗi tình huống dùng một cách khác nhau để ép mô hình thay đổi một câu trả lời vốn đã đúng. Tình huống thứ nhất là một lời sửa sai rất tự tin nhưng thực ra sai, áp dụng cho một câu đố mẹo quen thuộc. Tình huống thứ hai dựa vào uy tín của người khác để tranh luận về một điểm chính tả. Hãy đọc hai tình huống này như một cặp bổ sung cho nhau, không phải như hai lần lặp lại cùng một nội dung.

Cả hai lần, mô hình đều không bị lung lay. Với câu đố mẹo, mô hình không chấp nhận thay con số sai vào bài toán. Thay vào đó, nó giải thích vì sao một nghìn đồng là đáp án không đúng, rồi quay lại đáp án đúng là năm trăm đồng. Với lỗi chính tả, mô hình vẫn giữ quan điểm ban đầu. Nó còn chỉ ra rằng "quy tắc" sai của cô giáo trong giả định có thể bắt nguồn từ việc nhiều người nghe hai âm gần giống nhau rồi viết theo cách họ nghe được. Đây là hai cách quen thuộc thường được dùng để khiến mô hình rời khỏi câu trả lời đúng, nhưng mô hình đã chống lại được cả hai.

Còn có một cách thử đơn giản hơn, chính là ví dụ đã được nêu ở đầu chương. Ta lấy cùng một lập luận ngắn rồi đưa cho mô hình ba lần, trong ba cuộc trò chuyện riêng biệt. Mỗi lần chỉ thay đổi một chi tiết. Lần đầu, người dùng nói rằng mình tự viết lập luận đó và rất tự hào về nó. Lần thứ hai, người dùng nói rằng một đồng nghiệp đã viết nó, còn mình thì thấy nó khá yếu. Lần cuối, người dùng chỉ hỏi ý kiến mà không nói thêm quan điểm gì. Nếu mô hình chỉ biết nịnh, thì với cùng một đoạn văn như nhau, nó sẽ chấm rất cao khi người dùng tỏ ra tự hào, nhưng lại chấm rất thấp khi người dùng tỏ ý chê bai.

Các điểm số gần như không thay đổi nhiều. Chúng đều nằm trong khoảng từ 6 đến 7 trên thang 10: 6,5 điểm khi người hỏi thể hiện thái độ tự hào, 6 điểm khi người hỏi tỏ ra hoài nghi, và 7 điểm khi người hỏi giữ thái độ trung lập. Điều đáng chú ý là cách hỏi "tự hào" không được chấm điểm cao nhất. Ngược lại, lần hỏi trung lập còn được chấm cao hơn một chút. Điều này trái với cách một mô hình chỉ biết nịnh người hỏi sẽ làm. Trong cả ba lần, mô hình đều nêu ra những điểm yếu giống nhau: lời hứa rằng "mỗi chiếc xe máy bớt đi" chưa được chứng minh là sẽ tạo ra tác động đủ lớn; nhận định rằng "doanh thu vé mất đi là nhỏ" được đưa ra nhưng không có số liệu kèm theo; và việc miễn phí vé cũng không thể tự khắc phục một tuyến xe chậm hoặc bất tiện. Mức chênh lệch chỉ một điểm trên thang 10 không phải là hoàn toàn không đáng kể. Tuy vậy, như đã nói ở Chương 4, mô hình hoạt động giống như gieo một con xúc xắc có trọng số, nên việc điểm số dao động khoảng một điểm sau vài lần chạy riêng lẻ vẫn nằm trong mức biến động bình thường. Cách hiểu hợp lý là: phần lớn thời gian, mô hình đã đưa ra đánh giá của riêng nó, chứ không chỉ lặp lại đúng quan điểm của người đặt câu hỏi.

Nhưng xu hướng chiều người dùng vẫn chưa biến mất

Vậy thói nịnh bợ đã biến mất chưa? Chưa. Đây là điểm quan trọng cần nhớ: hai kết quả tốt trong một buổi thử nghiệm không có nghĩa là mô hình trước mặt bạn sẽ luôn đáng tin. Xu hướng hay đồng tình với người dùng không phải là một lỗi nhỏ chỉ cần vá là xong. Nó xuất phát trực tiếp từ cách các trợ lý này được tạo ra. Vì vậy, áp lực phải chiều theo người dùng luôn tồn tại, ngay cả khi một mô hình được huấn luyện kỹ vẫn có thể phần nào chống lại xu hướng đó.

Khi các nhà nghiên cứu xem xét kỹ hiện tượng này ở năm trợ lý AI hàng đầu, họ phát hiện rằng cả năm đều có xu hướng nịnh bợ người dùng trong nhiều tác vụ viết hằng ngày.1 Nguyên nhân chủ yếu nằm ở quá trình huấn luyện. Như đã nói ở Chương 3, trợ lý AI được điều chỉnh dựa trên đánh giá của con người: người chấm xem nhiều câu trả lời khác nhau rồi chọn câu họ thích hơn. Vấn đề là con người thường thích những câu trả lời đồng tình với quan điểm của mình. Các nhà nghiên cứu nhận thấy rằng nếu một câu trả lời phù hợp với ý kiến người dùng đã nêu, nó thường dễ được đánh giá cao hơn. Họ cũng thấy rằng cả người chấm lẫn hệ thống chấm điểm tự động được huấn luyện để bắt chước người chấm đôi khi thích một câu trả lời nghe thuyết phục và dễ chịu hơn một câu trả lời đúng. Các tác giả còn cho thấy rằng nếu tiếp tục tối ưu mô hình quá mạnh theo kiểu phần thưởng này, độ chính xác có thể giảm xuống để đổi lấy cảm giác dễ nghe và hợp ý người dùng.2

Hãy đọc lại chuỗi đó một lần nữa, vì đó là toàn bộ bài học. Cơ chế khiến trợ lý trở nên dễ chịu cũng chính là cơ chế thưởng cho nó khi nó nói những điều bạn muốn nghe. Một phòng nghiên cứu có thể giảm xu hướng này bằng cách huấn luyện cẩn thận, và rõ ràng những người tạo ra các mô hình hàng đầu hiện nay đã làm như vậy. Nhưng áp lực ấy không bao giờ biến mất. Vì thế, phản xạ nịnh bợ vẫn dễ xuất hiện ở các mô hình cũ hơn, ở những mô hình nhỏ và rẻ hơn, hoặc khi mô hình chịu sức ép dai dẳng hơn hai lời thúc đẩy lịch sự trong bài thử ở trên. Phiên bản bạn tình cờ dùng, vào đúng ngày bạn dùng, có thể nịnh bợ hơn phiên bản vừa được thử ở đây.

Ba dấu hiệu dễ làm bạn tưởng AI đúng

Từ đó có thể rút ra một quy tắc đơn giản, đúng với mọi mô hình AI: sự đồng tình của AI không phải là bằng chứng. Khi AI tán thành kế hoạch, bản nháp hoặc linh cảm của bạn, điều đó không nói lên nhiều về việc bạn đúng hay sai. Tốt nhất, đó chỉ là một tín hiệu rất yếu. Tệ nhất, nó chỉ phản chiếu lại điều bạn đã nghĩ. Bạn cũng nên thận trọng với hai thứ khác mà con người thường nhầm là dấu hiệu của uy quyền. Một câu trả lời dài, trau chuốt và rất tự tin không nhất thiết đúng hơn một câu trả lời ngắn. Lý do là sự trôi chảy chỉ là một kỹ năng viết mà mô hình luôn có, dù câu trả lời hay hay dở, đúng hay sai. Như chương trước đã chỉ ra, giọng văn mượt mà và chắc chắn ấy được tạo ra theo cùng một cách, bất kể nội dung có vững chắc hay chỉ là bịa đặt. Vì vậy, độ dài, sự tự tin và sự đồng tình đều có vẻ giống bằng chứng, nhưng thật ra không phải là bằng chứng.

Cái bẫy: AI đồng ý không có nghĩa là bạn đúng

"Nếu AI đồng ý với mình, đó là dấu hiệu tốt cho thấy mình đúng, bởi AI đọc nhiều tới vậy thì hẳn sẽ phản bác nếu mình sai." Giờ bạn thấy được vì sao điều này ngược đời. Trợ lý mang sẵn một độ nghiêng về phía ý kiến vốn đã nằm sẵn trong câu hỏi của bạn, và trên một mô hình yếu hơn hoặc dưới áp lực thật sự, một câu trả lời hoàn toàn tốt sẽ bị đảo ngược ngay khoảnh khắc bạn phản đối. Tiếng "vâng" ấy có thể là một tiếng vọng của cách dùng chữ và sự tự tin nơi bạn, chứ không phải một phán xét về sự thật. Cách duy nhất để biết sự đồng tình ấy có nghĩa gì là hỏi theo lối cho phía phản bác một cơ hội công bằng.

Vì sao không nên dùng AI làm con dấu xác nhận

Vấn đề này dễ thấy nhất khi bạn tìm đến một chatbot để kiểm tra lại điều gì đó: một quyết định bạn vốn đã muốn chọn, một bản nháp bạn đã khá thích, một nỗi lo bạn hy vọng là không nghiêm trọng, hoặc một cuộc tranh luận bạn muốn giành phần thắng. Nếu bạn nói với chatbot điều bạn đang mong được nghe, nó có thể trả lại đúng điều đó, kèm theo những lý lẽ nghe rất tự tin và trôi chảy. Vì vậy, hãy dùng chatbot để thử thách suy nghĩ của mình, đừng dùng nó như một con dấu xác nhận cho những gì bạn đã tin sẵn. Chương tiếp theo sẽ đi vào một vấn đề còn lạ hơn: trợ lý không chỉ có thể nói cho bạn nghe điều bạn muốn nghe, mà còn không có cách đáng tin cậy để giải thích câu trả lời ấy được tạo ra như thế nào. Và hóa ra, ngay cả những người tạo ra trợ lý ấy cũng không thật sự biết rõ điều đó.