Bạn Càng Hiểu Biết, AI Càng Hữu Ích

Trò chuyện với một mô hình như vậy giống như hỏi một người thủ thư rất giỏi, người đã đọc gần như mọi cuốn sách nhưng chỉ giúp được khi bạn gọi đúng tên kệ sách cần tìm. Nếu bạn hỏi đúng cách, cuốn sách phù hợp sẽ xuất hiện ngay trước mặt. Nếu bạn hỏi quá mơ hồ, bạn chỉ nhận được một câu trả lời lịch sự nhưng chung chung. Còn khi bạn hỏi "làm sao ông tìm ra cuốn đó?", người thủ thư có thể kể rất trôi chảy rằng ông đã đi đến đúng giá sách và dò từng gáy sách bằng ngón tay. Nhưng thật ra không ai, kể cả người thủ thư, nhìn thấy chính xác con đường nào đã dẫn đến câu trả lời ấy. Từ hình ảnh này có thể rút ra hai điều. Thứ nhất, nếu bạn không biết cách đặt câu hỏi hoặc không dùng đúng từ cần thiết, câu trả lời hay vẫn có thể nằm yên đâu đó mà không được tìm thấy. Thứ hai, lời giải thích của mô hình về cách nó tạo ra câu trả lời chỉ là một lời kể lại, không nhất thiết là quá trình thật sự đã diễn ra.

Không ai nhìn thấy hết AI biết gì

Trước hết, cần thừa nhận một điều: không ai có thể mở một mô hình AI ra rồi đọc trực tiếp xem nó biết gì. Nó không giống một tủ hồ sơ với từng ngăn được dán nhãn rõ ràng. Những gì ta gọi là "kiến thức" của mô hình được phân tán trong hàng tỷ con số, được điều chỉnh dần trong quá trình huấn luyện. Ngay cả những người tạo ra mô hình cũng không thể theo dõi đầy đủ mọi điều đang diễn ra bên trong nó. Đây không chỉ là cách nói cho dễ hình dung. Khi các nhà nghiên cứu của Anthropic xây dựng công cụ để quan sát hoạt động bên trong Claude, một trợ lý AI do chính họ phát triển, họ cũng thừa nhận giới hạn rất rõ: ngay cả với những prompt ngắn và đơn giản, phương pháp này "chỉ nắm bắt được một phần nhỏ của toàn bộ phép tính". Họ cũng nói rằng "chúng tôi không hiểu cách các mô hình làm hầu hết những gì chúng làm".1 Vì vậy, dù đã có tiến bộ, hiểu biết của chúng ta vẫn chỉ là một phần nhỏ. Câu hỏi "AI thật ra biết những gì?" vì thế không có câu trả lời đơn giản, kể cả với những người tạo ra nó.

Lời giải thích của AI không phải lúc nào cũng là cách mô hình thật sự làm

Sự mơ hồ đó dẫn đến một hiểu lầm rất phổ biến. Khi một mô hình trình bày các bước suy luận, phần giải thích ấy không phải là bản ghi chính xác những gì đã diễn ra bên trong mô hình. Thực ra, đó là một đoạn văn mới được tạo ra để nghe giống một lời giải thích hợp lý. Nó có thể khác một cách âm thầm so với những bước mà mô hình thật sự đã thực hiện.

Ví dụ dễ thấy nhất là một phép cộng đơn giản. Khi cùng nhóm nghiên cứu đó quan sát mô hình của họ tính 36 + 59, họ phát hiện mô hình cho ra 95 bằng nhiều cách tính diễn ra song song. Một cách ước lượng gần đúng độ lớn của đáp án, còn một cách khác giữ chắc chữ số cuối. Đây là kiểu làm mà con người không được dạy.2 Nhưng khi được hỏi vì sao ra kết quả đó, mô hình lại nói rằng nó dùng thuật toán cộng tiêu chuẩn có nhớ 1.3 Lời giải thích ấy là cách trình bày gọn gàng quen thuộc với con người, có lẽ được mô hình học từ sách giáo khoa, chứ không phải cách tính kỳ lạ mà nó thật sự đã dùng. Câu trả lời nghe trôi chảy và hợp lý, nhưng lại sai về chính quá trình vừa diễn ra bên trong mô hình.

Điều này còn đáng chú ý hơn. Khi bạn đưa cho một mô hình một bài toán khó cùng một gợi ý về đáp án, đôi khi mô hình sẽ đi ngược từ gợi ý đó để tìm ra các bước trung gian sao cho cuối cùng dẫn đến đúng đáp án đã được gợi ý. Các nhà nghiên cứu gọi hiện tượng này là "một dạng suy luận có động cơ".4 Một nghiên cứu có bình duyệt khác cũng cho thấy điều tương tự theo cách rõ hơn. Trong nghiên cứu đó, các ví dụ mẫu trong prompt được sắp xếp âm thầm sao cho đáp án đúng luôn là lựa chọn đầu tiên, "(A)". Kết quả là các mô hình có xu hướng chọn "(A)", nhưng phần giải thích mà chúng viết ra lại không hề nhắc đến cách sắp xếp này. Theo các tác giả, những lý do mô hình đưa ra "diễn tả sai một cách có hệ thống lý do thật đằng sau dự đoán của mô hình".5 Vì vậy, khi mô hình nói "đây là cách tôi tính ra", ta nên hiểu đó là một lời giải thích có thể hữu ích, chứ không phải bản ghi trung thực về quá trình bên trong của nó. Một lời giải thích nghe thuyết phục không phải là bằng chứng, và cũng không phải là cửa sổ giúp ta nhìn thẳng vào cách cỗ máy thật sự hoạt động.

Hỏi đúng từ thì câu trả lời tốt hơn

Nếu bạn không hiểu cách mô hình xử lý thông tin bên trong, bạn sẽ khó khai thác được điều tốt nhất từ nó. Cách quan trọng là dùng đúng từ. Có thể mô hình đã có đúng kiến thức bạn cần, nhưng vẫn trả lời rất chung chung vì câu hỏi của bạn chưa chỉ rõ phần kiến thức đó. Hãy chú ý sự khác biệt khi hỏi gpt-5.5 cùng một chủ đề theo hai cách: một lần bằng câu hỏi mơ hồ của người mới, một lần bằng đúng thuật ngữ của người có chuyên môn.

Cả hai câu trả lời đều hữu ích. Mô hình hiện nay thật sự có thể giúp tốt, kể cả với người mới bắt đầu. Tuy nhiên, hãy chú ý xem câu hỏi thứ hai tạo ra khác biệt như thế nào. Khi câu hỏi còn mơ hồ, bạn thường chỉ nhận được một câu trả lời chung chung nhưng đúng: dùng cà phê mới rang, chọn cỡ xay phù hợp, dùng nước đúng nhiệt độ và bắt đầu với một tỉ lệ pha cơ bản. Đó là những điều thường thấy ở phần mở đầu của bất kỳ cuốn sách dạy pha cà phê nào. Nhưng khi người hỏi có kinh nghiệm hơn, họ nêu rõ phương pháp pha là pour-over bằng phễu V60, lượng cà phê là 18 gam và mục tiêu là một ly cà phê sáng vị, cân bằng, không quá chua hay quá đắng. Nhờ vậy, câu trả lời cũng trở nên cụ thể hơn nhiều: dùng tỉ lệ 1:16, nước ở 92 đến 94 độ C, ủ nở trong 40 đến 45 giây, tổng thời gian chiết xuất khoảng 2 phút 45 giây đến 3 phút 15 giây. Những chỉ dẫn cụ thể đó không xuất hiện trong câu trả lời đầu tiên không phải vì mô hình không biết, mà vì câu hỏi đầu tiên chưa đủ rõ để dẫn tới chúng. Kiến thức đã có sẵn ở đó. Chính cách bạn đặt câu hỏi mới quyết định bạn lấy được phần kiến thức nào.

Đây là lý do thầm lặng đứng sau phần lớn lời khuyên trong cuốn sách này. Khi bạn biết đúng từ ngữ trong lĩnh vực của mình, hoặc biết tên chính xác của một quy trình hay khái niệm, bạn sẽ dễ tìm được tài liệu tốt hơn. Việc đưa cho mô hình một ví dụ đã được giải sẵn, hoặc yêu cầu mô hình trình bày từng bước, cũng giúp câu trả lời tốt hơn trong những nhiệm vụ khó. Lý do là bạn đang hướng mô hình đến một phạm vi cụ thể hơn. Bạn càng hiểu rõ đề tài của mình thì càng đặt được câu hỏi hay hơn, và chất lượng câu trả lời bạn nhận được cũng có thể cao hơn.

Kiến thức của bạn giúp phát hiện lỗi của AI

Sự thành thạo còn giúp bạn thêm một lần nữa khi kiểm tra lại câu trả lời. Như ba chương trước đã cho thấy, một mô hình có thể trả lời rất trôi chảy và tự tin nhưng vẫn sai. Nó cũng thường có xu hướng nói những điều mà bạn có vẻ muốn nghe. Vì vậy, sự tự tin, độ dài của câu trả lời và việc mô hình đồng tình với bạn đều không phải là bằng chứng cho thấy câu trả lời đúng. Thứ giúp phát hiện một câu trả lời nghe hay, có vẻ hợp lý nhưng thật ra sai, không phải là một prompt khôn khéo hơn. Đó là một người đọc có đủ hiểu biết để nhận ra vấn đề. Nếu trong lĩnh vực của mình, bạn đã biết phân biệt giữa một câu trả lời đúng và một câu chỉ nghe có vẻ thuyết phục, thì mô hình sẽ trở thành một trợ lý rất mạnh. Nếu bạn không phân biệt được, đôi khi bạn sẽ rời đi với một thông tin sai và một câu chuyện nghe rất hấp dẫn về cách thông tin đó được tìm ra.

Cái bẫy: AI giải thích không có nghĩa là ta thấy được cách mô hình nghĩ

"Nếu AI trình bày lập luận, bạn sẽ thấy được cách máy thật sự đi tới câu trả lời." Không phải vậy. Lời giải thích là một câu chuyện hợp lý dựng lên sau sự việc, và các nhà nghiên cứu đã bắt được những mô hình đưa ra lý do không khớp với những bước thật sự diễn ra bên trong, có lần lần ngược từ một đáp án được mách trước trong khi trình bày ra như thể đó là dòng suy luận vừa mới nghĩ ra tại chỗ. Một màn dẫn giải tự tin không phải một ô cửa sổ nhìn vào cỗ máy, và cũng không phải một lời bảo đảm rằng câu trả lời là đúng.

Vì sao hiểu biết của bạn vẫn là phần quan trọng nhất

Dù bạn đang kiểm tra bản tóm tắt bệnh án, một điều khoản hợp đồng, một con số tài chính hay một báo cáo gửi sếp, mô hình vẫn có thể trả lời với giọng rất chắc chắn, dù câu trả lời đúng hay sai. Nó cũng không thể cho bạn biết chắc rằng nó đã tìm ra thông tin từ đâu và bằng cách nào. Vì vậy, kiến thức của chính bạn mới là điều quan trọng nhất. Kiến thức đó giúp bạn biến cỗ máy này từ một lối tắt nhiều rủi ro thành một công cụ thật sự hữu ích. Nó giúp bạn đặt câu hỏi tốt hơn, tìm đến những tài liệu đáng tin cậy hơn và phát hiện các sai lầm nghiêm trọng trước khi chúng gây hậu quả. Đó là kết luận trung thực của phần này. Cỗ máy rất tài giỏi, nhưng cũng có nhiều giới hạn. Cách chắc chắn nhất để tận dụng nó tốt hơn vẫn là lời khuyên quen thuộc nhất: hãy tiếp tục học thật sâu lĩnh vực của mình. Từ nền tảng đó, phần cuối của cuốn sách sẽ lùi lại một bước để bàn về cách đánh giá cỗ máy này, cũng như thế giới mà nó đang góp phần định hình.