AI bịa trích dẫn, số hiệu văn bản và đường link vì nó học rất kỹ hình dạng của những thứ đó, nhưng không học thuộc từng cái một. Một trích dẫn khoa học luôn có tên tác giả, năm, tên bài, tên tạp chí; một văn bản pháp luật luôn có số, năm, ký hiệu loại văn bản; một đường link luôn có tên miền, các thư mục, tên trang. Mô hình nắm khuôn rất chắc, nên khi phải đưa ra một nguồn mà nó không thật sự nhớ, nó điền vào khuôn những mảnh nghe hợp lý.
Kết quả là thứ "đúng khuôn mà rỗng ruột": nhìn qua không khác gì thật, kiểm mới thấy không tồn tại hoặc không nói điều được gán cho nó. Đây là kiểu bịa gây hậu quả lớn nhất vì người đọc thường coi nguồn dẫn là bằng chứng. Bài này giải thích cơ chế, các dạng thường gặp, và vì sao văn bản pháp luật là vùng đặc biệt dễ sai.
Trích dẫn là một khuôn mà mô hình thuộc lòng
Trong dữ liệu huấn luyện có hàng triệu trích dẫn: danh mục tài liệu tham khảo cuối bài báo khoa học, chú thích trong sách, dẫn chiếu văn bản trong bài báo pháp luật. Mô hình học được rằng sau cụm "theo nghiên cứu của" thường là một họ người, một năm trong ngoặc; rằng tên bài báo khoa học thường dài, có dấu hai chấm, có thuật ngữ chuyên ngành; rằng tạp chí trong lĩnh vực y sinh có những cái tên na ná nhau. Những quy luật này lặp lại hàng triệu lần nên được học cực kỳ chắc.
Còn từng trích dẫn cụ thể, ví dụ một bài báo cụ thể của một nhóm tác giả cụ thể năm cụ thể, thì phần lớn chỉ xuất hiện vài lần. Mô hình nhớ được những bài kinh điển được dẫn đi dẫn lại; bài ít được dẫn thì nhớ mờ hoặc không nhớ. Khi bị yêu cầu dẫn nguồn cho một nhận định, mô hình viết tiếp theo khuôn: một tên tác giả hay làm về đề tài đó, một năm gần gần, một tên bài khớp với nhận định. Tất cả đều hợp lý, chỉ có điều tổ hợp đó có thể chưa từng tồn tại.
Chính vì khuôn chắc mà trích dẫn bịa khó phát hiện bằng mắt. Nó không có lỗi chính tả, không thiếu thành phần, định dạng chuẩn. Đôi khi người bị gán tên là chuyên gia thật trong lĩnh vực đó, khiến trích dẫn càng có vẻ đáng tin.
Nguồn có thật, nội dung không có thật
Bịa hoàn toàn chưa phải dạng khó nhất. Dạng khó hơn là bịa một nửa: nguồn có thật nhưng nội dung được gán cho nó thì không. Một cuốn sách có thật, nhưng câu trích "trong sách" không có trong sách. Một bộ luật có thật, nhưng điều khoản được dẫn không quy định điều đó, hoặc đã bị sửa. Một tổ chức quốc tế có thật, nhưng con số "theo báo cáo của tổ chức này" là con số không ai công bố.
Cơ chế vẫn như cũ. Mô hình biết cuốn sách nổi tiếng nào hay được nhắc khi bàn về một chủ đề, biết tổ chức nào hay công bố số liệu về lĩnh vực nào. Khi cần một nguồn cho câu nó vừa viết, cái tên có xác suất cao nhất được chọn. Nhưng việc tên đó hay đi cùng chủ đề không có nghĩa là nó nói đúng điều mô hình đang gán.
Dạng này nguy hiểm vì người đọc đã quen kiểm theo kiểu "nguồn có tồn tại không". Tra thấy cuốn sách có thật, bộ luật có thật, họ yên tâm. Muốn bắt được, phải đi thêm một bước: mở nguồn ra, tìm đúng đoạn, đọc xem nó có nói như thế không. Bước này tốn công hơn, nhưng là bước duy nhất có giá trị.
Những thứ có khuôn cố định mà AI hay bịa
Mọi loại thông tin có định dạng chuẩn đều có thể bị bịa theo cùng cơ chế. Các ví dụ dưới đây đều là ví dụ giả định, mô tả kiểu lỗi chứ không dẫn trường hợp cụ thể.
| Loại | Khuôn mà AI nắm | Kiểu sai hay gặp |
|---|---|---|
| Bài báo khoa học | Tác giả, năm, tên bài, tạp chí, số trang | Bài không tồn tại; tác giả thật gắn với bài không phải của họ |
| Văn bản pháp luật | Loại văn bản, số, năm, cơ quan ban hành | Sai số hiệu, sai năm; dẫn văn bản đã hết hiệu lực |
| Điều, khoản | Điều mấy, khoản mấy, điểm gì | Nội dung không khớp với điều được dẫn |
| Đường link | Tên miền, thư mục, tên trang | Tên miền thật, đường dẫn bịa nên mở ra trang lỗi |
| Câu danh ngôn | Câu hay, tên người nổi tiếng | Câu do người khác nói, hoặc không ai nói |
| Bản án, vụ việc | Tên các bên, toà, năm | Vụ việc không tồn tại hoặc tình tiết bị trộn |
Đường link là trường hợp thú vị: mô hình thường nhớ đúng tên miền của các trang lớn, và biết các trang đó hay đặt đường dẫn theo kiểu nào, nên ghép ra một địa chỉ trông rất chuẩn. Mở ra thì trang báo lỗi không tìm thấy. Cũng có lúc link mở được nhưng dẫn tới một trang khác hẳn nội dung được nói đến.
Bài học từ vụ luật sư ở New York năm 2023
Trường hợp được nhắc nhiều nhất là một vụ kiện dân sự ở toà liên bang tại New York, Mỹ, năm 2023. Luật sư của một bên nộp bản trình bày có dẫn nhiều án lệ để hỗ trợ lập luận. Phía bên kia và thẩm phán không tìm thấy những án lệ đó ở đâu cả. Hoá ra luật sư đã dùng ChatGPT để tìm án lệ, và chatbot tạo ra những vụ việc nghe rất thật, có tên các bên, có số hồ sơ, có cả trích đoạn phán quyết. Khi được hỏi lại, chatbot còn khẳng định các vụ đó có thật. Toà đã xử phạt các luật sư liên quan.
Điều đáng học không phải là công cụ nào có lỗi, vì mọi mô hình ngôn ngữ đều có thể làm điều tương tự trong hoàn cảnh đó. Điều đáng học là người dùng đã hỏi lại chính chatbot để xác minh, tức là dùng nguồn có thể bịa để kiểm tra chính nó. Mô hình không có khả năng đặc biệt nào để biết thứ mình vừa viết là bịa; hỏi lại chỉ thu được thêm một lần viết tiếp nữa.
Sau vụ này, một số thẩm phán và toà án ở Mỹ cùng vài nước khác đã yêu cầu người nộp hồ sơ khai báo việc dùng AI hoặc cam kết tự kiểm tra mọi trích dẫn. Trong các ngành khác như báo chí, nghiên cứu, giáo dục, bài học cũng giống hệt: trích dẫn do AI đưa ra chưa phải trích dẫn, cho tới khi bạn tự mở nguồn và thấy đúng.
Văn bản pháp luật Việt Nam: vì sao đặc biệt dễ sai
Số lượng văn bản lớn, số hiệu na ná nhau. Mỗi năm có rất nhiều nghị định, thông tư, quyết định với số hiệu chỉ khác nhau vài chữ số và năm. Mô hình dễ nhầm số của văn bản này với văn bản khác cùng lĩnh vực, hoặc ghép số đúng với năm sai.
Văn bản thay đổi, thay thế liên tục. Một luật được sửa đổi, một nghị định bị thay thế, một thông tư hết hiệu lực. Dữ liệu huấn luyện chứa cả văn bản cũ lẫn mới, và văn bản cũ thường được nhắc nhiều hơn vì đã tồn tại lâu hơn. Mô hình rất dễ dẫn văn bản đã hết hiệu lực một cách tự tin.
Bộ máy và tên cơ quan đã đổi. Đợt sắp xếp bộ máy và đơn vị hành chính năm 2025 làm nhiều bộ, sở, cơ quan đổi tên hoặc sáp nhập; thẩm quyền giải quyết một số thủ tục cũng chuyển chỗ. Câu trả lời dựa trên dữ liệu cũ có thể chỉ bạn tới một cơ quan không còn tồn tại.
Nội dung điều khoản bị diễn giải lại. Ngay cả khi số hiệu đúng, mô hình thường tóm tắt điều khoản theo kiểu dễ hiểu, và trong quá trình đó có thể thêm, bớt điều kiện. Với pháp luật, một chữ "hoặc" đổi thành "và" là đổi hẳn nghĩa.
Dấu hiệu gợi ý một trích dẫn có thể là bịa
Không có dấu hiệu nào chắc chắn, vì trích dẫn bịa được viết theo đúng khuôn. Nhưng một số đặc điểm đáng khiến bạn dừng lại kiểm kỹ hơn:
- Tên bài khớp quá hoàn hảo với câu hỏi của bạn. Bài báo thật thường có tên nói về một nghiên cứu cụ thể, hẹp hơn; tên bài nghe như được đặt để trả lời đúng câu bạn hỏi là một tín hiệu đáng ngờ.
- Tìm chính xác tên bài không ra kết quả nào. Một bài báo thật, một văn bản thật hầu như luôn để lại dấu vết ở thư viện, cơ sở dữ liệu, trang của cơ quan ban hành.
- Tác giả có thật nhưng làm ở lĩnh vực khác. Mô hình hay mượn tên chuyên gia nổi tiếng và gắn với đề tài gần gần.
- Hỏi lại ở cuộc trò chuyện mới, nguồn đổi. Nguồn thật thì được nhớ ổn định; nguồn bịa thường mỗi lần một khác.
- Số trang, số tập, số hiệu quá tròn hoặc quá gọn. Không phải luôn đúng, nhưng chi tiết kiểu này là nơi mô hình hay điền bừa.
Những dấu hiệu này chỉ để quyết định nên kiểm ở đâu trước. Một trích dẫn không có dấu hiệu nào vẫn có thể bịa, nên cách duy nhất là tìm thấy nguồn gốc và đọc đúng đoạn.
Có công cụ tìm kiếm thì đỡ được bao nhiêu
Khi chatbot thật sự tìm kiếm trên mạng hoặc trong cơ sở dữ liệu rồi dẫn nguồn, khả năng bịa trích dẫn hoàn toàn giảm đi rõ rệt, vì nguồn được lấy từ kết quả tìm kiếm chứ không phải tự viết ra. Đây là cải tiến có ý nghĩa, và với câu hỏi cần nguồn, nên ưu tiên những công cụ có tính năng này.
Nhưng dạng "nguồn có thật, nội dung không có thật" vẫn còn. Mô hình đọc trang tìm được, tóm tắt lại, và có thể diễn giải sai, gán một con số vào trang không chứa con số đó, hoặc trộn nội dung của hai nguồn. Ngoài ra, nguồn tìm được có thể là nguồn kém: một trang tổng hợp chép lại sai từ chỗ khác. Phần này được bàn kỹ hơn trong bài về tìm kiếm web và tài liệu đính kèm của cùng danh mục.
Nguyên tắc rút ra rất đơn giản: trích dẫn do AI đưa chỉ là gợi ý nơi để tìm. Với văn bản pháp luật, tra trên cơ sở dữ liệu văn bản chính thức của nhà nước và hỏi người có chuyên môn khi việc có hậu quả. Với tài liệu khoa học, tra trên cơ sở dữ liệu học thuật hoặc thư viện. Với đường link, bấm vào và đọc.
Câu hỏi thường gặp
Vì sao hỏi lại AI "nguồn này có thật không" mà nó vẫn nói có?
Vì mô hình không có cách tự kiểm. Câu trả lời cho câu hỏi kiểm tra cũng được viết tiếp theo cùng cơ chế, và mô hình có xu hướng nhất quán với điều đã nói trước đó trong cuộc trò chuyện. Muốn kiểm, phải dùng nguồn bên ngoài như cơ sở dữ liệu, thư viện, trang chính thức.
Đường link AI đưa mở được thì có phải là đúng không?
Chưa chắc. Link mở được chỉ chứng minh trang đó tồn tại. Bạn vẫn cần đọc xem trang có nói đúng điều AI gán cho nó không. Có trường hợp link dẫn tới trang chủ của một tổ chức thật, trong khi số liệu được gán cho tổ chức đó không có ở đâu.
Trích dẫn sai có phải luôn là bịa hoàn toàn không?
Không. Có ba mức: nguồn hoàn toàn không tồn tại; nguồn có thật nhưng thông tin chi tiết sai như năm, tên tạp chí; và nguồn có thật nhưng nội dung được gán không có trong đó. Mức thứ ba khó phát hiện nhất vì kiểm sơ qua sẽ thấy nguồn có thật.
Sinh viên dùng AI tìm tài liệu tham khảo có nên không?
Có thể dùng AI để gợi ý hướng tìm, từ khoá, tên tác giả hay làm về đề tài. Nhưng mọi tài liệu đưa vào bài phải được tìm thấy và đọc thật, ít nhất phần liên quan. Nộp bài có trích dẫn bịa có thể bị coi là vi phạm liêm chính học thuật dù không cố ý.
Vì sao câu danh ngôn AI đưa ra hay bị gán nhầm người nói?
Danh ngôn trên mạng vốn đã bị gán nhầm rất nhiều, và mô hình học cả những lần gán nhầm đó. Thêm vào đó, mô hình hay gán một câu hay cho người nổi tiếng nhất trong lĩnh vực, vì tên đó có xác suất cao nhất. Câu trích nên được kiểm trong tác phẩm gốc.