Vì Sao AI Có Thể Nói Sai Rất Tự Tin

Hãy tưởng tượng một hướng dẫn viên du lịch rất tự tin. Người này đã đọc hàng nghìn cuốn cẩm nang, nhưng chưa từng thật sự đến thành phố đó. Nếu bạn hỏi về một quảng trường nổi tiếng, họ sẽ trả lời rất trôi chảy và chi tiết, với giọng điềm tĩnh và chắc chắn. Họ có thể nói về các mốc thời gian, tên kiến trúc sư và kể thêm một giai thoại thú vị. Vấn đề là họ không kể lại điều mình đã tận mắt thấy. Họ chỉ đang tạo ra một câu trả lời giống với cách các cuốn cẩm nang thường viết. Phần lớn câu trả lời nghe có vẻ đúng, nên bạn dễ tin. Nhưng đôi khi tên kiến trúc sư là bịa ra, mốc thời gian sai cả trăm năm, còn giai thoại thì chưa từng xảy ra. Tất cả vẫn được nói bằng cùng một giọng chắc chắn như những thông tin đúng. Vì vậy, cách nói trôi chảy không giúp bạn biết câu trả lời có chính xác hay không. Một mô hình ngôn ngữ cũng giống như người hướng dẫn viên đó.

Khi AI "ảo giác": nói nghe đúng nhưng lại sai

Trong giới làm nghề, hiện tượng này thường được gọi là ảo giác (hallucination). Nghĩa là mô hình tạo ra câu trả lời nghe rất trôi chảy và có vẻ hợp lý, nhưng thông tin lại sai, hoặc không đúng với tài liệu mà nó được yêu cầu dựa vào. Đây không phải là lỗi hiếm gặp, cũng không có nghĩa là hệ thống đã bị hỏng. Các nhà nghiên cứu xem đây là một dạng lỗi phổ biến và đã được ghi nhận nhiều lần. Lỗi này bắt nguồn từ chính cách các mô hình ngôn ngữ hoạt động. Như Phần 1 đã giải thích, mô hình chủ yếu đoán chữ tiếp theo dựa trên những gì đã có trước đó. Nó được tối ưu để tạo ra phần tiếp theo nghe có vẻ đúng, chứ không thật sự kiểm tra xem nội dung đó có đúng sự thật hay không. Trong quá trình tạo câu trả lời, không có bước nào tự động dừng lại để hỏi: "Điều này có thật không?". Vì vậy, với mô hình, một câu sai nhưng viết trôi chảy có thể trông giống như một câu đúng và cũng viết trôi chảy.

Trước khi nói đến lời cảnh báo, hãy bắt đầu bằng một tin vui: các mô hình AI hàng đầu hiện nay đã làm việc này tốt hơn nhiều so với các thế hệ trước. Khi các nhà nghiên cứu yêu cầu ChatGPT viết những bài điểm tài liệu ngắn rồi kiểm tra từng trích dẫn, một mô hình cũ đã bịa ra 55% số trích dẫn. Một mô hình mới hơn giảm tỷ lệ đó xuống còn 18%.1 Những lỗi còn lại cũng không xuất hiện một cách ngẫu nhiên. Chúng thường rơi vào các nguồn ít người biết, ít được trích dẫn. Ngược lại, với những nguồn nổi tiếng và được trích dẫn nhiều, mô hình thường làm đúng. Đây là một tiến bộ thật sự, và bạn sẽ thấy cả mặt mạnh lẫn mặt yếu của nó trong các ví dụ bên dưới. Tuy vậy, "giỏi hơn" không có nghĩa là "không còn sai". Những chỗ mô hình vẫn dễ mắc lỗi khá rõ ràng, có thể đoán trước và cũng dễ phát hiện nếu bạn biết cần nhìn vào đâu. Chương này sẽ tập trung vào đúng những chỗ đó.

Khi hỏi thông tin có thể kiểm chứng

Trong phép thử đầu tiên, tôi yêu cầu GPT-5.5 giới thiệu ba cuốn sách về nuôi ong dành cho người mới bắt đầu. Tôi cũng cố tình hỏi thêm những thông tin dễ gây sai sót: tên sách, tác giả, nhà xuất bản, năm xuất bản và mã ISBN, tức dãy số riêng thường in ở bìa sau của mỗi cuốn sách.

Hãy đọc nó như cách bạn đọc một câu trả lời từ một trợ lý tự tin: rõ ràng, ngắn gọn và đầy đủ. Lần này, khi kiểm tra từng chi tiết trong hồ sơ thư viện, mọi thông tin đều chính xác. Cả ba cuốn sách đều có thật, đúng tác giả, đúng nhà xuất bản và đúng năm phát hành. Ba mã ISBN cũng là mã thật, hợp lệ và khớp với từng cuốn sách. Với một chủ đề đã được viết rất nhiều, câu trả lời tự tin lần này cũng là câu trả lời đúng.

Thông tin càng hiếm, AI càng dễ bịa

Liệu đó chỉ là may mắn? Ở phép thử tiếp theo, câu hỏi được chuyển sang một chủ đề hiếm gặp hơn và khó tra cứu hơn: hồi ký của những người từng làm nghề gác hải đăng, một mảng có rất ít sách được viết.

Ba cái tên vẫn nghe rất chắc chắn và gọn như trước. Nhưng lần này, mọi chuyện khác hẳn. Trong ba cuốn sách, có hai cuốn là sách thật: Stargazing của Peter Hill và The Last Lighthouse Keeper của John Cook. Cả tác giả, nhà xuất bản và năm xuất bản đều đúng. Cuốn còn lại, Relief Chief, thì hoàn toàn không tồn tại. Đó chỉ là một cái tên nghe có vẻ hợp lý, đi kèm một tác giả bịa ra và được gắn với một nhà xuất bản có thật. Ngoài ra, cả ba mã ISBN được đưa ra đều không có thật.

Đây là điểm quan trọng nhưng rất dễ bị bỏ qua: bạn có thể phát hiện phần lớn những con số giả đó ngay trên trang giấy, không cần tra cứu ở đâu xa. Chữ số cuối của một mã ISBN không phải là dữ liệu gốc. Nó là một chữ số kiểm tra, được tính từ mười hai chữ số đứng trước, giống như cách một trang web phát hiện bạn nhập sai số thẻ tín dụng. Khi thử phép kiểm tra này với ba mã ISBN, hai mã sai ngay lập tức vì chữ số cuối không khớp với các chữ số còn lại. Mã thứ ba vượt qua được phép kiểm tra, nhưng vẫn là mã giả. Khi tra trong mục lục thư viện, mã đó lại thuộc về một cuốn sách khác của cùng nhà xuất bản Canongate, chứ không phải cuốn hồi ký đang được nói đến. Bài học của cả chương nằm ở đây: khi điều bạn hỏi càng hiếm và càng cụ thể, các chi tiết càng dễ âm thầm trượt từ ký ức sang bịa đặt, dù giọng kể vẫn tự tin như không có gì sai.

Nguy hiểm là AI thường đúng đủ nhiều để ta tin

Sẽ đơn giản hơn nếu ta kết luận rằng mô hình này hoàn toàn không đáng tin khi nói về nguồn tài liệu. Nhưng thực tế không phải vậy, và đó mới là điểm nguy hiểm. Khi được hỏi về những bài báo học thuật nổi tiếng, được trích dẫn nhiều, mô hình lại trả lời rất chính xác:

Tên tác giả, tên tạp chí, năm xuất bản, số tập, số kỳ, khoảng trang và mã DOI ở cuối đều đã được kiểm tra với hồ sơ chính thức của tạp chí. Cả ba trích dẫn đều khớp, đúng đến từng ký tự. Đây chính là cái bẫy trong phép so sánh này. Mô hình thường đoán rất giỏi nên phần lớn câu trả lời trông có vẻ đúng. Nó cũng nói với cùng một giọng chắc chắn khi bịa ra một mã ISBN như khi nhắc lại một trích dẫn có thật. Vì vậy, sự tự tin chỉ là một cách viết, được tạo ra giống nhau trong cả hai trường hợp. Mô hình sẽ không tự chỉ ra chỗ nào đáng nghi, vì đối với nó, không có chỗ nào đáng nghi cả.

Khi AI biết nói "tôi không chắc"

Cũng có một tin đáng mừng và đáng chú ý không kém. Khi được hỏi về ba cuốn sách tiếng Việt viết về nghề gốm truyền thống ở Bát Tràng, một đề tài khá hẹp và mang tính địa phương, GPT-5.5 đã làm điều mà các mô hình trước đây hiếm khi làm: từ chối bịa thông tin.

Thay vì tự nghĩ ra ba tựa sách nghe có vẻ hợp lý kèm các mã số bịa đặt, mô hình đã từ chối cung cấp những mã ISBN chưa được kiểm chứng. Sau đó, nó khuyên người hỏi tra cứu tại Thư viện Quốc gia hoặc trong các mục lục thư viện. Đây là một tiến bộ thật sự, nhưng mới chỉ giải quyết được một phần vấn đề. Nguy hiểm không nằm ở những chủ đề quá mù mờ, như gốm Bát Tràng, nơi mô hình gần như không có dữ liệu để dựa vào. Nguy hiểm nằm ở vùng lưng chừng: những cuốn sách ít người biết, nhưng vẫn đủ quen để mô hình tiếp tục trả lời, đồng thời đủ lạ để nó phải tự bịa thêm. Chính ở vùng đó, những mã ISBN bịa đặt nhưng được trình bày rất tự tin đã xuất hiện.

Vì sao tên riêng, số liệu và nguồn dẫn dễ sai

Các lỗi thường xuất hiện ở tên riêng, ngày tháng, câu trích, số liệu, nguồn dẫn và các mã định danh như ISBN hoặc đường link là có lý do. Với những bài báo nổi tiếng, các chi tiết của chúng đã xuất hiện rất nhiều lần trong dữ liệu mà mô hình học từ đó. Vì vậy, phần chữ nghe có vẻ hợp lý thường cũng chính là phần chữ đúng. Nhưng với mã ISBN của một cuốn sách ít người biết, mô hình có thể chưa từng thấy mã đó bao giờ. Khi ấy, với mô hình, một chữ số nghe hợp lý cũng không khác nhiều so với một chữ số đúng. Nó không có ký ức chắc chắn rằng mình đã từng thấy đúng con số này, nên cũng không biết rằng mình đang đoán một thứ chưa từng có trong dữ liệu. Mô hình chỉ làm điều nó vẫn làm: tạo ra chuỗi ký tự có vẻ đúng nhất rồi trình bày như thể rất chắc chắn. Đây không phải là lười biếng hay lỗi hệ thống. Đó là cách một cỗ máy đoán chữ hoạt động, nhất là ở những chỗ mà "nghe có lý" và "đúng sự thật" không còn trùng nhau.

Cái bẫy: AI nói chắc không có nghĩa là AI biết chắc

"Nếu AI trả lời một cách bình tĩnh, chi tiết, và tự tin, thì hẳn AI đang nắm chắc vấn đề; mà nếu không nắm chắc, hẳn AI đã nói vậy." Cả hai vế đều sai. Cái giọng tự tin là lối viết mà hệ thống tạo ra mỗi lần, sinh ra theo cùng một kiểu cho dữ kiện bịa cũng như cho dữ kiện thật. Và thường thì hệ thống sẽ không tự khai rằng một chi tiết nào đó lung lay, bởi hệ thống không phân biệt được chi tiết nào lung lay. Nghe cho chắc và nói cho đúng là hai kỹ năng khác nhau, và mô hình mới chỉ thành thạo nhuần nhuyễn đúng cái thứ nhất.

Vì sao bạn phải kiểm chứng trước khi dùng

Nếu bạn từng dán câu trả lời của AI vào email, báo cáo, câu hỏi y tế, ghi chú pháp lý hoặc bài tập ở trường mà không kiểm tra lại, thì bạn đang tự chịu trách nhiệm cho những thông tin mà AI có thể đã bịa ra rất tự tin. Đây không chỉ là chuyện giả định. Năm 2023, trong một vụ án ở New York, hai luật sư đã bị phạt vì nộp một bản tóm tắt có trích dẫn sáu phán quyết không hề tồn tại. Tất cả đều do ChatGPT tạo ra, với giọng văn chắc chắn như thể đó là luật thật.2 Chỉ cần bỏ ra vài phút để kiểm tra tên, con số và nguồn trích dẫn, bạn có thể tránh được một sai lầm tốn kém, đáng xấu hổ, hoặc còn nghiêm trọng hơn. Điều này không có nghĩa là AI vô dụng. Ngược lại, công cụ này rất hữu ích, thậm chí cực kỳ hữu ích. Nhưng cách dùng đúng vẫn là cách cũ: có thể tin, nhưng phải kiểm chứng. Hãy tận dụng sự trôi chảy của AI, nhưng luôn để con người giám sát những phần quan trọng. Chương tiếp theo sẽ chuyển từ một mô hình tự tin dù sai sang một mô hình sai vì quá muốn làm vừa lòng người dùng, đó là thói quen âm thầm của trợ lý khi nói cho bạn nghe điều bạn muốn nghe.