Mô hình AI không tự học ngay từ những gì bạn nói trong lúc trò chuyện: tham số của nó đứng yên suốt cuộc hội thoại. Nhưng chatbot vẫn có thể "nhớ" theo ba cách khác nhau: nhớ tạm trong một cuộc trò chuyện, lưu ghi chú về bạn nếu bật tính năng bộ nhớ, và hãng có thể dùng cuộc trò chuyện làm dữ liệu cho lần huấn luyện phiên bản sau, tuỳ chính sách và cài đặt.
Ba chuyện này thường bị gộp làm một, khiến người dùng hoặc quá lo ("nói gì AI cũng học hết") hoặc quá yên tâm ("AI có nhớ gì đâu"). Bài này tách từng kiểu nhớ, giải thích cơ chế của mỗi kiểu bằng ví dụ đời thường, và nói rõ chỗ nào phụ thuộc chính sách từng hãng mà bạn cần tự kiểm. Phần cài đặt quyền riêng tư cụ thể được trang AI Bảo Mật hướng dẫn riêng.
Vì sao mô hình không tự học trong lúc trò chuyện
Như các bài về tiền huấn luyện và tinh chỉnh đã giải thích, mô hình học bằng cách chỉnh hàng tỷ tham số qua một quy trình tốn kém, có kiểm soát. Khi huấn luyện xong, bộ tham số được cố định và được sao ra để phục vụ hàng triệu người cùng lúc. Lúc bạn gõ câu hỏi, bộ tham số đó chỉ được dùng để tính ra câu trả lời, không có bước nào sửa lại nó.
Có lý do kỹ thuật lẫn lý do an toàn cho thiết kế này. Về kỹ thuật, nếu mỗi cuộc trò chuyện được phép chỉnh tham số, hàng triệu người sẽ kéo mô hình về hàng triệu hướng khác nhau cùng lúc, không thể kiểm soát chất lượng. Về an toàn, bài học được nhắc nhiều là chatbot Tay của Microsoft năm 2016, được thiết kế để học từ tương tác trên mạng xã hội và bị gỡ chỉ sau khoảng một ngày vì bị người dùng cố tình dạy nói lời xúc phạm.
Vì vậy nếu bạn sửa một lỗi của chatbot và nó xin lỗi, nói rằng "sẽ ghi nhớ", hãy hiểu đó là câu lịch sự được dạy, không phải lời hứa có cơ chế đứng sau. Mở một cuộc trò chuyện mới, khả năng cao nó lặp lại lỗi cũ, trừ khi tính năng bộ nhớ có ghi lại điều bạn nói.
Ba kiểu "nhớ" đặt cạnh nhau
Bảng dưới so sánh ba kiểu nhớ theo những câu hỏi người dùng hay đặt ra. Chi tiết từng ứng dụng khác nhau và thay đổi theo thời gian, nên cột cuối chỉ là nguyên tắc chung.
| Kiểu nhớ | Cơ chế | Kéo dài bao lâu | Có đổi tham số mô hình không |
|---|---|---|---|
| Nhớ trong cuộc trò chuyện | Toàn bộ nội dung cuộc trò chuyện được gửi lại cho mô hình đọc mỗi lượt | Trong cuộc trò chuyện đó, và chỉ khi còn nằm trong giới hạn độ dài mô hình đọc được | Không |
| Tính năng bộ nhớ | Ứng dụng lưu vài ghi chú về bạn, rồi tự chèn chúng vào đầu các cuộc trò chuyện sau | Đến khi bạn hoặc hệ thống xoá ghi chú | Không |
| Dùng cho huấn luyện về sau | Hãng gom một phần dữ liệu trò chuyện, xử lý, rồi đưa vào lần huấn luyện phiên bản mới | Ảnh hưởng nằm trong mô hình mới, rất khó gỡ ra sau đó | Có, ở phiên bản sau, không phải mô hình bạn đang dùng |
Hai kiểu đầu là chuyện của ứng dụng, giống như một cuốn sổ tay đặt cạnh mô hình. Chỉ kiểu thứ ba mới thực sự là "học" theo nghĩa thay đổi mô hình. Phân biệt được như vậy, bạn sẽ biết cài đặt nào ảnh hưởng đến chuyện gì.
Kiểu một: nhớ trong cuộc trò chuyện, thật ra là đọc lại
Mỗi lượt là một lần đọc lại từ đầu. Khi bạn gửi câu thứ năm, ứng dụng gửi cho mô hình cả bốn câu trước cùng các câu trả lời, rồi mới tới câu mới. Mô hình không giữ trạng thái giữa các lượt; nó đọc lại toàn bộ đoạn hội thoại mỗi lần. Cảm giác "nó nhớ điều mình vừa nói" thực ra là nó vừa đọc lại.
Có giới hạn độ dài. Lượng chữ mô hình đọc được mỗi lần có hạn, gọi là cửa sổ ngữ cảnh. Cuộc trò chuyện rất dài có thể bị cắt bớt phần đầu hoặc được tóm tắt lại, nên chatbot "quên" chi tiết bạn nói từ sớm. Cơ chế cửa sổ ngữ cảnh được giải thích kỹ ở danh mục mô hình ngôn ngữ hoạt động thế nào.
Đọc lại không phải hiểu đều. Ngay cả khi toàn bộ hội thoại còn trong cửa sổ, mô hình có thể chú ý kém tới các chi tiết nằm giữa một đoạn rất dài. Nếu một thông tin quan trọng, việc nhắc lại nó gần câu hỏi giúp câu trả lời bám đúng hơn.
Kiểu hai: tính năng bộ nhớ, một cuốn sổ ghi chú về bạn
Một số chatbot có tính năng lưu những điều về bạn qua nhiều cuộc trò chuyện: bạn làm nghề gì, thích câu trả lời ngắn hay dài, đang học ngoại ngữ nào. Về cơ chế, đây là một danh sách ghi chú được lưu cùng tài khoản. Khi bạn mở cuộc trò chuyện mới, ứng dụng chèn các ghi chú đó vào đầu nội dung gửi cho mô hình, nên mô hình như thể đã biết bạn.
Có hệ thống tự quyết định điều gì đáng ghi, có hệ thống chỉ ghi khi bạn yêu cầu, có hệ thống còn tra lại các cuộc trò chuyện cũ để lấy bối cảnh. Thông thường người dùng có chỗ xem lại, sửa, xoá từng ghi chú hoặc tắt hẳn tính năng. Cách làm cụ thể mỗi ứng dụng mỗi khác và thay đổi theo phiên bản, bạn nên kiểm phần cài đặt của chính công cụ mình dùng.
Điểm cần nhớ: bộ nhớ tiện lợi nhưng cũng là một kho thông tin cá nhân gắn với tài khoản. Nếu bạn từng kể chuyện sức khoẻ, tiền bạc, gia đình, những chi tiết đó có thể được lưu lại và xuất hiện trở lại ở cuộc trò chuyện khác. Thói quen an toàn là xem lại danh sách ghi chú định kỳ và không kể với chatbot những gì bạn không muốn được lưu.
Kiểu ba: dữ liệu trò chuyện đi vào lần huấn luyện sau như thế nào
Đây là phần phụ thuộc chính sách nhiều nhất. Theo những gì các hãng mô tả công khai ở mức chung, quy trình nếu có thường gồm các bước sau.
- Thu thập theo chính sách. Tuỳ loại tài khoản và cài đặt, cuộc trò chuyện có thể được giữ lại để cải thiện dịch vụ. Nhiều hãng cho phép người dùng cá nhân tắt việc này; tài khoản doanh nghiệp thường có điều khoản riêng. Mặc định bật hay tắt khác nhau giữa các hãng và thay đổi theo thời gian.
- Chọn lọc và xử lý. Không phải mọi cuộc trò chuyện đều được dùng. Hãng thường lọc, cố gắng xoá thông tin nhận dạng cá nhân, và chọn những mẫu hữu ích. Việc xoá thông tin cá nhân bằng máy không bao giờ hoàn hảo.
- Có thể có người đọc. Để chấm chất lượng hoặc kiểm tra an toàn, một phần nhỏ cuộc trò chuyện có thể được người của hãng hoặc đối tác xem lại, theo điều khoản đã công bố.
- Đưa vào phiên bản sau. Dữ liệu đã xử lý được dùng trong các chặng tinh chỉnh hoặc đánh giá của mô hình tiếp theo. Mô hình bạn đang dùng hôm nay không thay đổi vì cuộc trò chuyện của bạn.
- Khó gỡ ra sau đó. Khi đã ảnh hưởng tới tham số của mô hình mới, việc "xoá" một mẩu dữ liệu khỏi mô hình là bài toán kỹ thuật còn đang được nghiên cứu, chưa có cách làm đơn giản.
Vì bước cuối, thời điểm quan trọng nhất để bảo vệ thông tin là trước khi bấm gửi. Che tên, số giấy tờ, số tài khoản, thông tin khách hàng trước khi dán vào chatbot vẫn là thói quen đáng giữ dù bạn đã tắt tuỳ chọn huấn luyện.
Những hiểu lầm hay gặp về chuyện chatbot nhớ
"Nói chuyện nhiều thì AI sẽ hiểu mình hơn theo thời gian." Nếu không bật tính năng bộ nhớ, mỗi cuộc trò chuyện mới bắt đầu từ con số không. Cảm giác chatbot ngày càng hợp ý thường đến từ việc bạn đã quen cách hỏi, hoặc từ phiên bản mô hình mới được hãng cập nhật, chứ không phải nó học riêng từ bạn.
"AI đang học lén từ mọi thứ mình gõ." Mô hình bạn dùng không thay đổi trong lúc trò chuyện. Chuyện dữ liệu có được dùng cho lần huấn luyện sau hay không là quyết định của hãng theo chính sách đã công bố và cài đặt của bạn, không phải hành vi tự phát của mô hình.
"Xoá cuộc trò chuyện là xoá sạch mọi dấu vết." Xoá khỏi lịch sử thường làm cuộc trò chuyện biến mất khỏi giao diện và khỏi bộ nhớ của ứng dụng, nhưng hãng có thể giữ thêm một thời gian theo điều khoản. Nếu dữ liệu đã được dùng cho huấn luyện trước khi xoá, ảnh hưởng của nó nằm trong mô hình mới và không gỡ ra được bằng nút xoá.
"Chatbot của công ty thì an toàn tuyệt đối." Tài khoản doanh nghiệp thường có cam kết chặt hơn về việc không dùng dữ liệu cho huấn luyện, nhưng dữ liệu vẫn đi qua máy chủ của bên cung cấp và vẫn chịu rủi ro tài khoản bị lộ. Quy định nội bộ về loại thông tin được đưa vào AI vẫn cần thiết.
Đánh giá mức lo lắng cho hợp lý
Khả năng một câu bạn gõ hôm nay được mô hình đời sau nhắc lại nguyên văn cho người khác là rất thấp với thông tin xuất hiện một lần, vì như bài về hiện tượng ghi nhớ đã giải thích, mô hình chủ yếu nhớ những gì lặp lại nhiều. Nhưng rất thấp không phải bằng không, và rủi ro thực tế hơn nằm ở chỗ khác: cuộc trò chuyện được lưu trên máy chủ, có thể bị người được phép xem lại, có thể bị lộ nếu tài khoản bị chiếm.
Vì vậy câu hỏi đáng đặt ra không chỉ là "AI có học không" mà là "thông tin này nằm ở đâu, ai xem được, giữ bao lâu". Câu trả lời nằm trong điều khoản và cài đặt của từng dịch vụ, không nằm trong cơ chế học của mô hình. Với thông tin của người khác như khách hàng, học sinh, bệnh nhân, bạn còn có trách nhiệm pháp lý theo quy định về bảo vệ dữ liệu cá nhân, nên kiểm văn bản hiện hành.
Câu hỏi thường gặp
Tắt tuỳ chọn huấn luyện thì cuộc trò chuyện có bị lưu không?
Tắt tuỳ chọn huấn luyện thường chỉ có nghĩa là dữ liệu không được dùng để cải thiện mô hình. Cuộc trò chuyện vẫn có thể được lưu một thời gian vì lý do vận hành hoặc an toàn, theo điều khoản của từng hãng. Hai chuyện lưu trữ và huấn luyện cần được kiểm riêng.
Chế độ trò chuyện tạm thời khác gì trò chuyện thường?
Ở nhiều ứng dụng, chế độ tạm thời không lưu vào lịch sử, không dùng bộ nhớ và không dùng cho huấn luyện, dù vẫn có thể được giữ ngắn hạn cho mục đích an toàn. Tên gọi và phạm vi khác nhau giữa các hãng, nên đọc mô tả của chính ứng dụng.
Nếu sửa lỗi cho chatbot, người khác có được hưởng không?
Không ngay lập tức. Lời sửa của bạn chỉ có tác dụng trong cuộc trò chuyện đó. Nếu hãng dùng dữ liệu phản hồi cho lần huấn luyện sau và lời sửa được chọn, nó có thể góp một phần rất nhỏ vào phiên bản mới, nhưng không có gì bảo đảm.
Chatbot nói nó không nhớ gì về bạn có đúng không?
Mô hình có thể không biết ứng dụng đang lưu gì, vì nó chỉ thấy những gì được chèn vào cuộc trò chuyện. Câu tự khai của chatbot về chuyện lưu trữ không đáng tin bằng phần cài đặt và chính sách công bố của dịch vụ.
Mô hình chạy trên máy cá nhân có học từ người dùng không?
Mô hình tải về chạy trên máy cũng có tham số cố định khi trò chuyện, nên không tự học. Dữ liệu ở lại trên máy của bạn nếu phần mềm không gửi đi đâu. Đây là một lý do một số người chọn chạy mô hình cục bộ cho việc nhạy cảm, đổi lại mô hình thường nhỏ hơn.