Phần lớn thời gian, mô hình AI không chép nguyên văn dữ liệu đã học: nó rút ra quy luật rồi viết câu mới. Nhưng các nhà nghiên cứu đã chứng minh mô hình vẫn có thể nhả ra gần nguyên văn những đoạn từng đọc, nhất là đoạn xuất hiện lặp lại nhiều lần trong dữ liệu. Hiện tượng này gọi là ghi nhớ (memorization), và nó nằm ở trung tâm của nhiều tranh cãi về bản quyền và quyền riêng tư.
Bài này giải thích ranh giới giữa học quy luật và học thuộc, vì sao một số đoạn bị ghi nhớ, các hãng giảm chuyện này thế nào, và điều đó có ý nghĩa gì khi bạn dùng chữ hoặc ảnh do AI tạo ra. Phần tranh luận pháp lý và đạo đức rộng hơn về quyền của tác giả được bàn ở danh mục AI và xã hội; ở đây tập trung vào cơ chế.
Học quy luật và học thuộc: hai đầu của một dải
Một học sinh ôn thi văn có thể học theo hai kiểu. Kiểu thứ nhất là hiểu cách phân tích một bài thơ, rồi tự viết được bài phân tích cho bài thơ chưa gặp. Kiểu thứ hai là thuộc lòng vài bài văn mẫu và chép lại khi gặp đúng đề. Phần lớn học sinh làm cả hai ở mức khác nhau: có đoạn tự viết, có câu thuộc lòng từ sách tham khảo.
Mô hình ngôn ngữ cũng nằm trên một dải như vậy. Mục tiêu của huấn luyện là khái quát, tức là nắm quy luật để xử lý được câu chưa gặp. Nhưng nhiệm vụ đoán chữ tiếp theo không cấm học thuộc: nếu một đoạn văn xuất hiện hàng trăm lần trong dữ liệu, cách đoán chính xác nhất chính là nhớ nguyên đoạn đó. Mô hình không phân biệt được "đây là quy luật nên học" với "đây là văn bản cụ thể không nên chép"; nó chỉ tối ưu việc đoán đúng.
Vì vậy khi bạn yêu cầu mô hình đọc lại lời mở đầu của một bản tuyên ngôn nổi tiếng hay một bài thơ được trích dẫn khắp nơi, nó thường làm được gần đúng từng chữ. Còn với một bài báo bình thường chỉ đăng một lần, mô hình thường chỉ giữ được ý chung, và nếu bị ép đọc lại nguyên văn, nó sẽ tạo ra một đoạn nghe giống nhưng sai nhiều chỗ.
Chính trường hợp sau là nguồn gốc của một kiểu bịa quen thuộc: bạn hỏi nguyên văn một điều luật, một câu nói của nhân vật lịch sử, mô hình trả về một đoạn trơn tru có vẻ chính xác, nhưng đem đối chiếu thì sai chữ, sai số điều, thậm chí sai cả ý. Mô hình không biết mình đang nhớ đúng hay đang tái dựng, nên không báo trước cho bạn. Với mọi trích dẫn nguyên văn quan trọng, hãy đối chiếu với văn bản gốc.
Đoạn nào dễ bị ghi nhớ nhất
Đoạn lặp lại nhiều lần trong dữ liệu. Đây là yếu tố mạnh nhất. Văn bản pháp lý mẫu, điều khoản sử dụng được chép sang hàng nghìn trang, lời bài hát phổ biến, đoạn mã giấy phép phần mềm, câu trích nổi tiếng. Lặp càng nhiều, càng dễ được nhả ra nguyên văn.
Đoạn có cấu trúc riêng biệt, khó đoán. Một chuỗi ký tự ngẫu nhiên như mã khoá, địa chỉ, số định danh không có quy luật để khái quát, nên nếu mô hình nhớ được thì chỉ có thể là nhớ nguyên văn. Đây chính là loại dữ liệu nhạy cảm nhất khi bị lộ.
Mô hình càng lớn càng nhớ nhiều. Các nghiên cứu ghi nhận mô hình có nhiều tham số hơn có xu hướng ghi nhớ nhiều hơn, vì có "chỗ" để lưu thêm chi tiết. Năng lực lớn đi kèm khả năng thuộc lòng lớn.
Đoạn được mồi đúng phần mở đầu. Nếu người hỏi cung cấp vài câu đầu chính xác của một văn bản, mô hình dễ viết tiếp phần sau gần nguyên văn hơn hẳn so với khi chỉ được hỏi chung chung. Đây cũng là cách các nhà nghiên cứu dùng để đo mức ghi nhớ.
Những nghiên cứu và vụ việc đã làm vấn đề này nổi lên
Vài mốc dưới đây có tài liệu công khai rõ ràng; chi tiết diễn biến pháp lý mới nhất bạn nên kiểm từ nguồn tin cập nhật:
- Năm 2021: nhóm của Nicholas Carlini công bố nghiên cứu trích xuất dữ liệu huấn luyện từ mô hình GPT-2, cho thấy có thể lấy ra nguyên văn các đoạn có trong dữ liệu, trong đó có cả thông tin cá nhân như tên, địa chỉ liên lạc từng xuất hiện trên mạng.
- Năm 2023: một nghiên cứu tương tự với mô hình tạo ảnh cho thấy mô hình có thể tái tạo những bức ảnh rất gần với ảnh trong dữ liệu huấn luyện, đặc biệt là ảnh bị lặp lại nhiều lần.
- Cuối năm 2023: báo The New York Times khởi kiện OpenAI và Microsoft tại Mỹ, trong đơn kiện có dẫn các ví dụ mô hình đưa ra đoạn văn rất gần nguyên văn bài báo của họ. Vụ việc này cùng nhiều vụ kiện khác của tác giả, nhà xuất bản, hãng ảnh vẫn đang được theo dõi.
- Nhiều nghiên cứu sau đó: các nhóm khác nhau tiếp tục đo mức ghi nhớ của các mô hình đời mới, với kết quả chung là ghi nhớ giảm khi dữ liệu được lọc trùng kỹ nhưng không biến mất.
Điểm chung của các mốc này: ghi nhớ không còn là giả thuyết, nó đã được đo và minh hoạ. Câu hỏi còn tranh cãi là ở mức độ nào thì việc mô hình học từ một tác phẩm trở thành sao chép tác phẩm đó, và câu hỏi này được trả lời khác nhau theo pháp luật từng nước.
Các hãng giảm ghi nhớ bằng cách nào
Không có biện pháp nào triệt để. Bảng dưới liệt kê các cách được mô tả công khai trong tài liệu nghiên cứu, cùng điểm mạnh và giới hạn của mỗi cách.
| Biện pháp | Nguyên lý | Giới hạn |
|---|---|---|
| Lọc trùng dữ liệu | Xoá các bản sao lặp lại để mô hình không xem một đoạn quá nhiều lần | Không bắt được bản sao bị sửa nhẹ; đoạn xuất hiện một lần vẫn có thể bị nhớ |
| Lọc thông tin cá nhân trước khi huấn luyện | Dò và xoá số điện thoại, thư điện tử, số giấy tờ trong dữ liệu | Bộ dò không bắt hết, nhất là thông tin viết theo kiểu lạ |
| Bộ lọc đầu ra | Kiểm câu trả lời, nếu trùng dài với văn bản đã biết thì chặn hoặc cắt | Chỉ chặn được những gì có trong danh sách so sánh |
| Dạy mô hình từ chối | Tinh chỉnh để mô hình không đọc lại toàn văn lời bài hát, sách có bản quyền | Có thể bị lách bằng cách hỏi khéo; đôi khi từ chối cả việc hợp lý |
| Kỹ thuật huấn luyện bảo vệ riêng tư | Thêm nhiễu có kiểm soát trong quá trình học để mô hình khó nhớ từng mẫu riêng lẻ | Thường làm giảm chất lượng, ít được dùng cho mô hình lớn nhất |
Nhìn vào bảng sẽ thấy phần lớn biện pháp là lớp chắn đặt trước hoặc sau mô hình, không phải thay đổi bản chất của việc học. Đó là lý do câu trả lời trung thực cho câu hỏi "AI có chép không" là: hiếm, nhưng có thể, và rủi ro cao nhất ở những văn bản nổi tiếng hoặc lặp lại nhiều.
Ghi nhớ và bản quyền: vì sao tranh cãi khó ngã ngũ
Phía các hãng AI thường lập luận rằng huấn luyện giống việc con người đọc để học: đọc nhiều tác phẩm để rút ra cách viết, không phải để sao chép, và mô hình phần lớn tạo ra nội dung mới. Ở Mỹ, lập luận này thường dựa vào học thuyết sử dụng hợp lý (fair use). Phía tác giả, nhà báo, nhà xuất bản phản bác rằng việc sao chép hàng loạt tác phẩm vào kho huấn luyện đã là một hành vi sử dụng cần xin phép, và hiện tượng ghi nhớ cho thấy mô hình có thể thay thế chính tác phẩm gốc.
Ghi nhớ làm cho tranh cãi thêm phức tạp vì nó nằm giữa hai cách nhìn. Nếu mô hình không bao giờ nhả ra nguyên văn, lập luận "chỉ học như người" mạnh hơn. Khi mô hình có thể nhả ra đoạn dài gần nguyên văn, lập luận "mô hình chứa bản sao" có thêm chứng cứ. Các toà án và cơ quan lập pháp ở nhiều nước đang xử lý câu hỏi này theo những cách khác nhau.
Ở Việt Nam, khung pháp lý về sở hữu trí tuệ và về AI đang tiếp tục được hoàn thiện. Bài viết không phải tư vấn pháp lý; nếu bạn làm nghề sáng tác, xuất bản hoặc dùng AI cho sản phẩm thương mại, hãy kiểm văn bản hiện hành và hỏi người có chuyên môn.
Điều này có ý nghĩa gì với người dùng bình thường
Với phần lớn câu trả lời thường ngày, khả năng bạn nhận về một đoạn chép nguyên văn từ tác phẩm có bản quyền là thấp. Nhưng nếu bạn dùng AI để viết bài sẽ đăng công khai, đặc biệt là đề tài phổ biến, đáng làm thêm một bước: kiểm trùng lặp bằng công cụ dò đạo văn, và viết lại những đoạn nghe quen thuộc một cách đáng ngờ. Trách nhiệm về nội dung đăng tải thuộc về người đăng, không thuộc về chatbot.
Với ảnh tạo bằng AI, rủi ro tương tự xuất hiện khi yêu cầu bắt chước một tác phẩm, nhân vật hoặc phong cách rất nổi tiếng: mô hình có thể cho ra hình gần với tác phẩm gốc. Trang AI Hình Ảnh có các bài bàn về dùng ảnh AI an toàn; cơ chế tạo ảnh được giải thích ở danh mục AI tạo ảnh, giọng nói, video của trang này.
Cuối cùng là chiều ngược lại: thông tin của bạn. Những gì xuất hiện công khai nhiều lần trên mạng, chẳng hạn một số điện thoại đăng khắp các trang rao vặt, có khả năng bị ghi nhớ cao hơn. Hạn chế công khai thông tin cá nhân lặp đi lặp lại là cách bảo vệ thiết thực, cả trước AI lẫn trước những kẻ thu thập dữ liệu thông thường.
Câu hỏi thường gặp
Mô hình có chứa nguyên một cuốn sách bên trong không?
Không theo nghĩa lưu tệp. Nhưng với những cuốn sách nổi tiếng xuất hiện nhiều lần trong dữ liệu, mô hình có thể tái tạo được những đoạn khá dài. Mức độ khác nhau rất nhiều giữa các mô hình và các tác phẩm, và các hãng thường đặt lớp chặn để mô hình không đọc lại toàn văn.
Văn bản AI viết có bị coi là đạo văn không?
Phần lớn câu chữ AI tạo ra là mới, nhưng có thể trùng một phần với văn bản có sẵn, nhất là các câu định nghĩa, câu trích phổ biến. Nếu dùng cho học thuật hoặc xuất bản, quy định của trường, của toà soạn về việc dùng AI và dẫn nguồn quan trọng hơn chuyện trùng chữ.
Có thể hỏi AI để lấy thông tin cá nhân của người khác không?
Các hãng đã đặt nhiều lớp lọc và dạy mô hình từ chối, và cố tình khai thác thông tin cá nhân của người khác là hành vi có thể vi phạm pháp luật về bảo vệ dữ liệu cá nhân. Câu hỏi này nên được hiểu như một rủi ro cần phòng ngừa, không phải một khả năng để thử.
Vì sao chatbot từ chối đọc lời bài hát?
Lời bài hát được chép rất nhiều trên mạng nên dễ bị ghi nhớ, và có bản quyền rõ ràng. Nhiều hãng vì vậy dạy mô hình chỉ tóm tắt hoặc trích một đoạn ngắn, không đọc lại toàn văn. Đây là lựa chọn chính sách để giảm rủi ro pháp lý.
Ghi nhớ có phải lúc nào cũng xấu không?
Không hẳn. Ghi nhớ đúng những sự thật cơ bản, định nghĩa chuẩn, câu trích nổi tiếng là một phần lý do mô hình hữu ích. Vấn đề nằm ở ghi nhớ thông tin cá nhân, nội dung có bản quyền bị nhả ra dài, và những bí mật vô tình lọt vào dữ liệu.
Xoá bài đăng của mình trên mạng thì mô hình có quên không?
Mô hình đã huấn luyện xong không tự quên, vì dữ liệu đã ảnh hưởng tới tham số. Xoá bài giúp các lần thu thập sau không lấy được nữa. Kỹ thuật làm mô hình quên một mẩu dữ liệu cụ thể đang được nghiên cứu nhưng chưa phải việc làm thường quy.