Ảo tưởng LLM: Chúng là gì và vì sao xảy ra

Tại sao ảo tưởng LLM đang đáng quan tâm ngay bây giờ

Mô hình ngôn ngữ lớn (LLM) là các hệ thống AI được huấn luyện trên bộ văn bản khổng lồ để tạo và biến đổi ngôn ngữ: trả lời câu hỏi, soạn email, tóm tắt tài liệu, viết mã, và nhiều việc khác. Chúng hiện xuất hiện trong công cụ tìm kiếm, công cụ văn phòng, chat hỗ trợ khách hàng, quy trình làm việc dành cho nhà phát triển, và thậm chí hệ thống hỗ trợ quyết định trong các lĩnh vực nhạy cảm.

Khi những mô hình này trở thành một phần của công cụ hàng ngày, độ tin cậy của chúng không còn là vấn đề lý thuyết. Khi một LLM đưa ra câu trả lời nghe có vẻ chính xác và chắc chắn nhưng thực tế sai, người dùng có xu hướng tin tưởng — đặc biệt khi nó tiết kiệm thời gian hoặc xác nhận điều họ muốn tin.

Từ “câu trả lời sai” đến “ảo tưởng”

Cộng đồng AI thường gọi những phản hồi tự tin, cụ thể nhưng sai này là ảo tưởng. Thuật ngữ này nhấn mạnh hai điều:

• Mô hình không chỉ mắc lỗi nhỏ; nó có thể bịa đặt sự kiện, nguồn, hoặc dữ kiện.
• Đầu ra có thể mạch lạc và trôi chảy, tạo ảo giác về sự hiểu biết.

Chính ảo giác này khiến ảo tưởng LLM trở nên rủi ro. Một đoạn hiển thị trong công cụ tìm kiếm bịa ra trích dẫn, trợ lý lập trình gợi ý API không tồn tại, hoặc chatbot y tế nêu liều dùng bịa đặt “như một sự thật” đều có thể gây hại nghiêm trọng khi người dùng hành động theo chúng.

Tại sao điều này quan trọng ngay bây giờ

LLM được dùng trong những ngữ cảnh mà người dùng có thể:

• Bỏ qua việc xác minh độc lập vì câu trả lời nghe có vẻ chuyên gia.
• Tích hợp đầu ra AI trực tiếp vào quy trình (mã, hợp đồng, báo cáo).
• Dựa vào AI cho chủ đề họ thiếu kiến thức chuyên môn.

Tuy nhiên, không có mô hình hiện tại nào hoàn toàn chính xác hoặc luôn trung thực. Ngay cả các hệ thống hàng đầu cũng sẽ đôi khi ảo tưởng, đôi khi cho những câu hỏi đơn giản. Đây không phải là một trường hợp biên hiếm hoi, mà là hành vi cơ bản của cách mô hình sinh tạo hoạt động.

Hiểu được giới hạn đó — và thiết kế prompt, sản phẩm, chính sách xoay quanh nó — là điều cần thiết nếu chúng ta muốn sử dụng LLM an toàn và có trách nhiệm, không quá tin tưởng vào những gì chúng nói.

Ảo tưởng LLM là gì?

Định nghĩa tạm thời

Ảo tưởng LLM là các đầu ra trôi chảy và tự tin nhưng sai về mặt thực tế hoặc hoàn toàn bịa đặt.

Chính xác hơn: một ảo tưởng xảy ra khi một mô hình ngôn ngữ lớn tạo nội dung không được gắn với thực tế hoặc với các nguồn mà nó lẽ ra phải dựa vào, nhưng lại trình bày như thể đó là sự thật. Mô hình không “nói dối” theo nghĩa con người; nó đang theo các mẫu trong dữ liệu và đôi khi tạo ra các chi tiết bịa đặt.

Ảo tưởng khác với sự không chắc chắn đơn giản như thế nào

Nên phân biệt ảo tưởng với sự không chắc chắn hoặc thiếu kiến thức thông thường:

• Không chắc chắn / thiếu hiểu biết: Mô hình thừa nhận nó không biết, hoặc đưa ra câu trả lời thận trọng, có điều kiện. Ví dụ: “Tôi không chắc,” “Tôi không có dữ liệu đó,” hoặc nó nêu nhiều khả năng mà không khẳng định một khả năng là sự thật.
• Ảo tưởng: Mô hình đưa ra câu trả lời cụ thể, nghe có vẻ thuyết phục nhưng sai hoặc không thể kiểm chứng, mà không biểu thị nghi ngờ. Nó “lấp đầy khoảng trống” thay vì thừa nhận thiếu thông tin.

Cả hai đều xuất phát từ cùng quá trình dự đoán, nhưng ảo tưởng nguy hiểm hơn vì chúng nghe đáng tin cậy trong khi sai.

Ảo tưởng có thể trông như thế nào

Ảo tưởng không chỉ giới hạn ở phần giải thích văn bản. Chúng có thể xuất hiện ở nhiều dạng, bao gồm:

• Văn bản tường thuật: Tiểu sử bịa đặt, sự kiện chưa từng xảy ra, hoặc trích dẫn bị gán nhầm.
• Trích dẫn và tham chiếu: Bài báo, URL, vụ án pháp lý hoặc tiêu chuẩn trông có vẻ hợp lý nhưng không tồn tại.
• Mã nguồn: Sử dụng chức năng không có thật, API sai, hoặc mã dựa trên thư viện tưởng tượng.
• Dữ liệu và thống kê: Số liệu bịa đặt, bảng giả, kết quả khảo sát tổng hợp, hoặc benchmark làm ra.

Điều khiến ảo tưởng khó xử lý là ngôn ngữ, định dạng và cấu trúc thường trông giống đầu ra chuyên gia chất lượng cao, khiến chúng dễ bị tin nếu không kiểm tra kỹ.

Cách các mô hình ngôn ngữ lớn thực sự tạo văn bản

LLM không “suy nghĩ” hay tra cứu sự thật. Chúng là những cỗ máy dựa trên mẫu, được huấn luyện để tiếp tục văn bản sao cho thường trông hợp lý.

Một cái nhìn ngắn, không kỹ thuật về huấn luyện

Huấn luyện bắt đầu với lượng lớn văn bản: sách, bài báo, mã, website và hơn thế nữa. Mô hình không nhận nhãn như “điều này đúng” hay “điều này sai.”

Thay vào đó, nó thường xuyên thấy các câu có một phần bị ẩn và được yêu cầu đoán từ bị thiếu. Ví dụ:

"Paris is the capital of ___"

Mô hình điều chỉnh tham số bên trong sao cho dự đoán gần hơn với văn bản thực mà nó đã thấy. Việc này diễn ra hàng tỷ lần trong nhiều ngữ cảnh khác nhau. Dần dần, mô hình nắm bắt các quy luật thống kê của ngôn ngữ và thế giới như được thể hiện trong văn bản.

Dự đoán token tiếp theo và phân phối xác suất

Về mặt kỹ thuật, mô hình dự đoán token tiếp theo (một phần của từ, một từ đầy đủ, hoặc dấu câu) dựa trên tất cả token trước đó trong cuộc hội thoại.

Ở mỗi bước, nó xuất ra một phân phối xác suất trên tất cả token có thể:

• "Paris" có thể được gán 0.82
• "London" 0.05
• "city" 0.03
• và còn các lựa chọn khác

Một thuật toán giải mã sau đó lấy mẫu hoặc chọn từ phân phối này để đi đến token thực tế tiếp theo. Lặp lại quá trình này, token từng token, tạo ra câu đầy đủ và các câu trả lời dài.

Tối ưu cho tính hợp lý, không phải chân lý

Mục tiêu chính là: khớp với kiểu văn bản xuất hiện trong dữ liệu huấn luyện. Không có cơ chế riêng biệt nào mặc định để kiểm tra sự thật, đối chiếu cơ sở dữ liệu, hoặc áp dụng logic.

Vì vậy mô hình được tối ưu để tạo các phần tiếp theo có vẻ hợp lý, chứ không bảo đảm những gì nó nói là chính xác, cập nhật hay có thể kiểm chứng. Nếu dữ liệu huấn luyện thường nêu một hiểu lầm, mô hình có thể tái tạo hiểu lầm đó.

Quy mô, các mẫu và giới hạn của “tri thức”

Vì LLM được huấn luyện trên tập dữ liệu khổng lồ, chúng nắm rất tốt các mẫu chung: ngữ pháp, mẫu suy luận phổ biến, câu trả lời điển hình và các liên kết giữa khái niệm.

Nhưng chúng không lưu một danh mục sự thật có thể tìm kiếm chính xác. “Kiến thức” của chúng trải rộng trong các trọng số nội bộ như xu hướng thống kê. Đó là lý do chúng có thể sinh text trôi chảy và phù hợp ngữ cảnh nhưng đôi khi lại bịa chi tiết trông đúng mà thực ra sai.

Những lý do kỹ thuật cơ bản khiến ảo tưởng xảy ra

Ảo tưởng không phải lỗi ngẫu nhiên; chúng bắt nguồn trực tiếp từ cách LLM được xây dựng và huấn luyện.

1. Khoảng trống, nhiễu và dữ liệu lỗi thời trong bộ huấn luyện

Mô hình học từ các kho văn bản lớn được thu thập từ web, sách, mã và nguồn khác. Dữ liệu này có vài vấn đề:

• Khoảng trống: Nhiều chủ đề bị đại diện yếu (lĩnh vực hẹp, nguồn không phải tiếng Anh, kiến thức độc quyền). Khi bạn hỏi về những chủ đề này, mô hình nội suy từ tín hiệu yếu và dễ bịa đặt.
• Nhiễu và lỗi: Bộ dữ liệu chứa spam, blog lỗi thời, câu trả lời sai trên diễn đàn và các khẳng định mâu thuẫn. Mô hình học cả cách người ta nói về sự thật, bao gồm cả cái sai.
• Thông tin lỗi thời: Quá trình huấn luyện bị đóng băng theo thời gian. Mọi thay đổi sau đó (quy định, chi tiết công ty, kết quả nghiên cứu) bị suy đoán từ mẫu cũ, nên mô hình có thể trình bày thông tin lỗi thời như sự thật hiện tại.

Khi mô hình gặp câu hỏi nằm ngoài vùng dữ liệu mạnh, nó vẫn phải dự đoán văn bản, vì vậy nó sinh ra các phỏng đoán trôi chảy.

2. Mục tiêu sai lệch: khả năng xảy ra (likelihood) so với chân lý

Mục tiêu huấn luyện cơ bản là:

Cho các token trước đó, dự đoán token tiếp theo có khả năng xuất hiện nhất trong phân phối huấn luyện.

Điều này tối ưu cho tính hợp lý ngôn ngữ, không phải độ chính xác thực tế. Nếu câu tiếp theo có xác suất cao nhất trong dữ liệu huấn luyện là một khẳng định tự tin nhưng sai, mô hình được “khen” khi tạo ra nó.

Kết quả là mô hình học cách phát ra văn bản nghe đúng và có vẻ được hỗ trợ, ngay cả khi nó không có căn cứ thực tế.

3. Chiến lược giải mã và ảnh hưởng của sampling

Trong quá trình sinh, các thuật toán giải mã ảnh hưởng đến tỉ lệ ảo tưởng:

• Giải mã tham lam (greedy) chọn token có xác suất cao nhất ở mỗi bước. Điều này có thể giảm sự ngẫu nhiên nhưng khóa sai lầm ban đầu và tạo lỗi lặp đi lặp lại, quá tự tin.
• Temperature sampling điều chỉnh xác suất để làm cho đầu ra ngẫu nhiên hơn hoặc ít ngẫu nhiên hơn. Temperature cao khuyến khích văn bản sáng tạo, đa dạng nhưng cũng tăng khả năng drift khỏi nội dung thực.
• Top‑k / nucleus (top‑p) sampling giới hạn ứng viên token trong một tập chọn lọc. Thiết lập không phù hợp có thể khiến mô hình quá định hướng (lặp lại câu trả lời sẵn có nhưng sai) hoặc quá ngẫu nhiên (bịa chi tiết sống động nhưng không có căn cứ).

Giải mã không thêm kiến thức; nó chỉ định lại cách khám phá phân phối xác suất hiện hữu. Bất kỳ điểm yếu nào trong phân phối đó có thể bị khuếch đại thành ảo tưởng bởi sampling thái quá.

4. Tác động phụ của căn chỉnh và RLHF

Các mô hình hiện đại được tinh chỉnh bằng kỹ thuật như Reinforcement Learning from Human Feedback (RLHF). Người đánh giá con người khen thưởng các câu trả lời hữu ích, an toàn và lịch sự.

Điều này tạo ra áp lực mới:

• Áp lực phải trả lời: Người chấm hay chọn câu trả lời hoàn chỉnh, hữu ích hơn là thừa nhận không biết. Qua nhiều bước huấn luyện, mô hình học rằng nói điều gì đó tự tin thường tốt hơn than nói “tôi không biết”.
• Phong cách hơn là nhận thức: RLHF định hình mạnh tông và định dạng (giải thích rõ ràng, từng bước) nhưng chỉ gián tiếp điều chỉnh tính chân thực. Mô hình trở nên rất giỏi diễn suy luận, ngay cả khi nội dung cơ bản mang tính suy đoán.

Tinh chỉnh căn chỉnh cải thiện tính hữu dụng và an toàn theo nhiều cách, nhưng cũng vô tình khuyến khích phỏng đoán tự tin. Căng thẳng giữa hữu ích và thừa nhận không chắc chắn là động lực kỹ thuật cốt lõi của ảo tưởng.

Các mẫu phổ biến và loại ảo tưởng LLM

Ảo tưởng LLM thường theo những mẫu dễ nhận biết. Nhận diện các mẫu này làm cho việc nghi vấn đầu ra và đặt câu hỏi tiếp theo hiệu quả hơn.

1. Bịa đặt sự thật, trích dẫn, nguồn và số liệu

Một trong những lỗi dễ thấy là bịa đặt một cách tự tin:

• Sự thật: Mô hình bịa ngày, tên hoặc định nghĩa trông hợp lý nhưng không có cơ sở thực tế.
• Trích dẫn: Nó gán câu văn mượt mà cho người nổi tiếng mà không có nguồn kiểm chứng.
• Số liệu: Nó đưa ra các con số nhìn có vẻ chính xác (tỷ lệ phần trăm, kích thước mẫu, sai số) nhưng không trích dẫn hay tái lập được.
• Nguồn: Nó nhắc đến “nghiên cứu”, “báo cáo” hoặc “khảo sát” mà không có chi tiết truy vết.

Những phản hồi này thường nghe rất có thẩm quyền, khiến chúng đặc biệt nguy hiểm nếu người dùng không kiểm chứng.

2. Tham chiếu bịa đặt và URL giả

LLM thường sinh ra:

• Bài báo hoặc sách không tồn tại với tựa đề thực tế, tên đồng tác giả hợp lý và tên tạp chí quen thuộc.
• URL giả trông đúng cấu trúc (ví dụ thêm /research/ hoặc /blog/), nhưng không dẫn đến đâu hoặc dẫn đến trang không liên quan.

Mô hình đang đối chiếu mẫu cách trích dẫn và liên kết thường xuất hiện, chứ không kiểm tra cơ sở dữ liệu hay web trực tiếp.

3. Gán nhầm nguồn, trộn nguồn và sai niên đại

Một mẫu khác là pá trộn nhiều nguồn vào một:

• Kết hợp hai nghiên cứu khác nhau thành một nghiên cứu giả.
• Gán khám phá cho người hay tổ chức sai.
• Dời sự kiện về thời điểm khác, đặt phát minh vào thập niên sai hoặc đảo ngược nguyên nhân‑kết quả trong một chuỗi lịch sử.

Thường xảy ra khi dữ liệu huấn luyện chứa nhiều câu chuyện tương tự hoặc chủ đề chồng lấp.

4. Bịa đặt bước suy luận và chuỗi nhân quả sai

LLM cũng ảo tưởng về cách hoặc tại sao điều gì đó xảy ra:

• Trình bày một chuỗi suy luận với các bước trung gian sai tinh vi.
• Giải thích kết quả bằng câu chuyện nhân quả hợp lý nhưng sai.
• Sinh các dẫn xuất hoặc chứng minh chi tiết trông mạch lạc nhưng chứa lỗi logic ẩn.

Vì văn bản trôi chảy và nhất quán nội bộ, những ảo tưởng này khó nhận ra hơn so với sự thật sai đơn giản.

Tại sao ảo tưởng vẫn tồn tại ngay cả khi mô hình cải thiện

Mô hình lớn hơn, tốt hơn giảm tần suất ảo tưởng — nhưng chúng vẫn xảy ra, và đôi khi thuyết phục hơn. Nguyên nhân chủ yếu nằm trong cách LLM được thiết kế.

Mô hình lớn hơn = phỏng đoán tốt hơn, không phải sự thật đảm bảo

Tăng quy mô mô hình, dữ liệu và huấn luyện thường cải thiện điểm chuẩn, tính trôi chảy và độ chính xác thực tế. Nhưng mục tiêu cốt lõi vẫn là dự đoán token tiếp theo dựa trên token trước đó, không phải kiểm chứng thực tế về thế giới.

Vì vậy mô hình lớn hơn:

• Khớp các mẫu trong dữ liệu huấn luyện chính xác hơn
• Lấp đầy khoảng trống ngữ cảnh mượt mà hơn
• Tạo câu trả lời chi tiết, mạch lạc hơn

Những ưu điểm này có thể khiến câu trả lời sai trông rất thuyết phục. Mô hình giỏi nghe có vẻ đúng, không nhất thiết biết khi nào nó sai.

Tổng quát hoá quá mức từ các mẫu

LLM nội hóa các quy luật thống kê như “cách Wikipedia viết” hoặc “một trích dẫn nghiên cứu trông thế nào.” Khi được hỏi điều mới hoặc hơi khác so với kinh nghiệm, chúng thường:

• Mở rộng các mẫu ra ngoài phạm vi áp dụng
• Trộn nhiều ví dụ thành một hỗn hợp hợp lý
• Bịa các phần còn thiếu để giữ tính mạch lạc

Tổng quát hoá này khiến chúng mạnh cho soạn thảo và brainstorming — nhưng cũng là nguồn ảo tưởng khi thực tế không khớp với mẫu đã học.

Hiệu chỉnh: độ tin cậy so với tính đúng

Hầu hết mô hình cơ bản hiệu chỉnh kém: xác suất mà chúng gán cho một câu trả lời không phản ánh đáng tin cậy việc câu trả lời đó có đúng hay không.

Một mô hình có thể chọn phần tiếp theo có xác suất cao vì nó phù hợp với cuộc hội thoại và phong cách, không phải vì có bằng chứng mạnh. Nếu không có cơ chế để nói “tôi không biết” hoặc kiểm tra bằng công cụ và dữ liệu, tự tin cao thường chỉ là “rất phù hợp với mẫu”, chứ không phải “đúng sự thật”.

Dịch chuyển miền: khi prompt khác với ngữ cảnh huấn luyện

Mô hình được huấn luyện trên hỗn hợp văn bản lớn và lộn xộn. Prompt của bạn có thể khác so với bất kỳ điều gì mô hình từng “thấy” trong phân phối:

• Lĩnh vực hẹp (y học chuyên sâu, luật, kỹ thuật)
• Thực tế mới (nghiên cứu gần đây, quy định đang thay đổi)
• Định dạng lạ (schema tùy chỉnh, biệt ngữ độc quyền)

Khi prompt lệch khỏi các mẫu quen thuộc, mô hình vẫn phải trả lời. Thiếu khớp chính xác, nó ứng biến dựa trên các mẫu gần nhất mà nó biết. Việc ứng biến này thường trông trôi chảy nhưng có thể hoàn toàn bịa đặt.

Tóm lại, khi mô hình cải thiện, ảo tưởng không biến mất — chúng trở nên hiếm hơn nhưng tinh tế hơn, do đó cần phát hiện và quản lý cẩn trọng hơn.