Khi một chatbot mở cuộc trò chuyện mới mà vẫn biết bạn là giáo viên tiểu học ở Nghệ An và thích câu trả lời ngắn, đó không phải vì mô hình đã học thêm về bạn. Hệ thống đã lưu những ghi chú về bạn ở một chỗ riêng, và chép chúng vào phần đầu mỗi cuộc trò chuyện mới để mô hình đọc trước khi trả lời. Bộ nhớ dài hạn, về bản chất, là một cuốn sổ đặt cạnh mô hình chứ không nằm trong mô hình.
Hiểu điều này giúp bạn trả lời nhiều câu hỏi thực tế: vì sao chatbot có lúc nhớ có lúc quên, vì sao nó nhớ sai, xoá bộ nhớ thì mất gì, và nên để nó nhớ những gì. Bài này giải thích theo nguyên lý chung; tên gọi và cách bật tắt khác nhau giữa các sản phẩm và thay đổi theo thời gian, nên bạn cần xem phần cài đặt của công cụ mình đang dùng.
Hai loại "nhớ" hay bị gọi chung một tên
Loại thứ nhất là nhớ trong một cuộc trò chuyện. Mỗi khi bạn gửi tin nhắn mới, hệ thống gửi lại cho mô hình toàn bộ đoạn hội thoại trước đó, hoặc phần lớn của nó, nên mô hình "nhớ" bạn vừa nói gì. Giới hạn của loại này là cửa sổ ngữ cảnh: cuộc trò chuyện quá dài thì phần đầu bị cắt bớt hoặc tóm tắt lại. Cơ chế này thuộc về cách mô hình ngôn ngữ hoạt động và được giải thích kỹ ở danh mục riêng.
Loại thứ hai là nhớ qua nhiều cuộc trò chuyện, tức bộ nhớ dài hạn. Bạn đóng cửa sổ, hôm sau mở cuộc mới, chatbot vẫn biết vài điều về bạn. Mô hình tự nó không giữ được gì giữa hai lần chạy; mỗi lần gọi mô hình là một lần bắt đầu từ trang trắng. Muốn có trí nhớ qua ngày, hệ thống phải tự lưu thông tin ở ngoài rồi đưa lại vào.
Phân biệt hai loại này quan trọng vì chúng hỏng theo cách khác nhau. Quên trong một cuộc trò chuyện dài thường do vượt cửa sổ ngữ cảnh. Quên hoặc nhớ sai giữa các cuộc trò chuyện thường do hệ thống ghi chép không lưu, lưu sai, hoặc không lấy ra đúng lúc.
Ba cách hệ thống tạo ra trí nhớ dài hạn
Sổ ghi chú về bạn. Trong lúc trò chuyện, khi bạn nói điều có vẻ đáng nhớ, như nghề nghiệp hay cách xưng hô bạn thích, mô hình ghi một dòng ngắn vào sổ. Đầu mỗi cuộc trò chuyện mới, cả cuốn sổ được chép vào phần chỉ dẫn ẩn. Nhiều sản phẩm cho bạn xem, sửa và xoá từng dòng này.
Tra lại các cuộc trò chuyện cũ. Một số hệ thống không ghi chú riêng mà tìm trong lịch sử trò chuyện những đoạn liên quan tới câu hỏi hiện tại rồi đưa vào, đúng theo nguyên lý tìm kiếm tăng cường. Cách này nhớ được nhiều chi tiết hơn, nhưng khó kiểm soát chính xác nó đang dựa vào đoạn nào.
Chỉ dẫn do bạn tự viết. Nhiều công cụ có ô để bạn viết sẵn thông tin về mình hoặc về một dự án, như "luôn trả lời bằng tiếng Việt", "đây là tài liệu của lớp 9A". Đây là bộ nhớ do bạn chủ động soạn, dễ đoán nhất và dễ sửa nhất. Nhược điểm là nó không tự cập nhật: khi bạn đổi việc hay đổi dự án mà quên sửa, chatbot vẫn trả lời theo bối cảnh cũ một cách rất tự tin.
Một ngày của bộ nhớ dài hạn: ví dụ giả định
Để thấy sổ ghi chú hoạt động thế nào, hãy theo một ví dụ giả định về một chủ tiệm bánh ở Đà Lạt dùng chatbot trong ba ngày liên tiếp.
| Thời điểm | Chủ tiệm nói | Hệ thống ghi vào sổ | Ảnh hưởng về sau |
|---|---|---|---|
| Ngày 1 | Tiệm nhỏ, bán bánh mì và bánh ngọt, khách chủ yếu là sinh viên | Chủ tiệm bánh nhỏ, khách là sinh viên | Gợi ý sau này hợp ngân sách sinh viên |
| Ngày 1 | Đang thử làm bánh không đường cho một khách quen | Đang làm bánh không đường | Dòng này có thể bị áp vào mọi gợi ý về sau, dù chỉ là việc tạm |
| Ngày 2 | Hỏi cách viết lời chào khách mới | Không ghi thêm | Lời chào nhắc tới sinh viên nhờ dòng ngày 1 |
| Ngày 3 | Hỏi công thức bánh sinh nhật cho con | Không ghi thêm | Chatbot tự ý gợi ý bản không đường vì đọc thấy dòng cũ |
Dòng thứ hai cho thấy điểm yếu điển hình: hệ thống không biết thông tin nào là lâu dài, thông tin nào chỉ đúng trong một tuần. Một ghi chú cũ, đúng lúc ghi, trở thành thiên kiến khi bối cảnh đã đổi. Cách xử lý đơn giản là thỉnh thoảng mở sổ ra xem và xoá những dòng không còn đúng.
Vì sao các hãng làm trí nhớ bằng sổ ghi chép thay vì cho mô hình tự học
Nghe qua, cách tự nhiên nhất để chatbot nhớ bạn là cho mô hình học thêm từ các cuộc trò chuyện của bạn, giống người nhớ bạn bè qua nhiều lần gặp. Trên thực tế gần như không sản phẩm phổ biến nào làm vậy cho từng người dùng, vì ba lý do khá đời thường.
Thứ nhất là chi phí. Huấn luyện thêm một mô hình lớn tốn rất nhiều tài nguyên tính toán; làm riêng cho hàng triệu người dùng, mỗi người một bản, là điều không thực tế. Một cuốn sổ ghi chép vài trăm chữ thì gần như không tốn gì để lưu và đọc lại.
Thứ hai là khả năng sửa và xoá. Thông tin đã được học vào bên trong mô hình rất khó gỡ ra một cách chắc chắn, giới nghiên cứu vẫn đang tìm cách làm việc này. Còn một dòng trong sổ thì bạn xoá là hết, hệ thống không đọc lại nữa. Với quyền riêng tư, khả năng xoá được là điều kiện tối thiểu.
Thứ ba là sự minh bạch. Sổ ghi chép là chữ, bạn đọc được và biết chatbot đang dựa vào gì. Thứ mô hình học được thì nằm rải rác trong hàng tỉ con số, không ai đọc trực tiếp được. Vì vậy, khi nghe nói "AI càng dùng càng hiểu bạn", bạn có thể hiểu là cuốn sổ ngày càng dày hơn, chứ không phải bộ não ngày càng lớn lên.
Vì sao chatbot nhớ sai hoặc nhớ lung tung
Nhiều người ngạc nhiên khi chatbot nhắc lại một chi tiết mà họ không nhớ đã nói, hoặc nhớ sai hẳn. Nguyên nhân thường nằm ở những chỗ sau.
- Ghi chép là do mô hình đoán. Việc quyết định điều gì đáng nhớ và tóm nó thành một dòng do chính mô hình làm, nên có thể tóm lệch. Bạn nói "đang tìm hiểu về nghề kế toán" có thể bị ghi thành "làm kế toán".
- Lấy nhầm ký ức. Với cách tra lịch sử trò chuyện, hệ thống có thể kéo về một đoạn cũ không liên quan chỉ vì gần nghĩa.
- Trộn người với người. Nếu nhiều người dùng chung một tài khoản, sổ ghi chú trộn sở thích của cả nhà thành một hồ sơ kỳ quặc.
- Bịa ký ức. Mô hình vốn có xu hướng điền chỗ trống, nên đôi khi nói "như bạn đã kể lần trước" về điều chưa từng có. Đây là cùng cơ chế với hiện tượng bịa nói chung.
- Nhớ mà không dùng. Ngược lại, sổ có ghi nhưng mô hình không để ý tới dòng đó khi trả lời, nhất là khi sổ đã dài.
Biết các kiểu lỗi này, bạn sẽ không còn thấy bí ẩn khi chatbot "nhớ" điều lạ. Mở phần quản lý bộ nhớ ra xem là cách nhanh nhất để biết nó đang dựa vào gì.
Bộ nhớ dài hạn và quyền riêng tư
Bộ nhớ dài hạn tiện vì bạn không phải giới thiệu lại bản thân mỗi lần. Cái giá là thông tin bạn kể sẽ được lưu lâu hơn và được đọc lại trong những cuộc trò chuyện về sau, kể cả những cuộc bạn không muốn nó xuất hiện. Một chi tiết sức khoẻ kể lúc hỏi chuyện riêng có thể được nhắc lại khi bạn đang trình chiếu màn hình cho đồng nghiệp xem.
Nguyên tắc an toàn là không kể với chatbot những gì bạn không muốn được ghi lại: số giấy tờ tuỳ thân, thông tin tài khoản, bệnh án, chuyện riêng của người khác, bí mật kinh doanh. Nếu cần hỏi chuyện nhạy cảm, nhiều công cụ có chế độ trò chuyện tạm không lưu vào bộ nhớ, và bạn nên kiểm tra chính sách hiện hành của dịch vụ đang dùng. Các bước cài đặt cụ thể được trang AI Bảo Mật hướng dẫn.
Một chuyện hay bị nhầm: xoá một dòng trong bộ nhớ không đồng nghĩa với việc hãng đã xoá mọi bản ghi về cuộc trò chuyện chứa thông tin đó. Lịch sử trò chuyện, bản sao lưu và chính sách lưu trữ là những thứ riêng. Việc dữ liệu của bạn có được dùng để huấn luyện mô hình hay không lại là câu hỏi khác nữa, được bàn ở danh mục AI học từ đâu.
Nên để chatbot nhớ những gì
Thông tin có ích và ít rủi ro là những thứ về cách bạn muốn được trả lời: ngôn ngữ, độ dài, mức chuyên sâu, giọng điệu, lĩnh vực bạn làm việc ở mức chung. Những thông tin này giúp câu trả lời sát hơn mà lộ ra cũng ít hại.
Thông tin nên cân nhắc là chi tiết dự án đang làm, tên người, tên công ty, địa chỉ. Với việc công ty, cách gọn hơn là dùng khu vực dự án hoặc chỉ dẫn riêng cho đúng việc đó, tách khỏi bộ nhớ cá nhân, để chuyện công không lẫn vào chuyện nhà.
Cuối cùng, nên coi bộ nhớ như một ghi chép cần dọn định kỳ. Vài tháng mở ra một lần, xoá những dòng đã cũ hoặc ghi sai. Một bộ nhớ gọn, đúng, giúp chatbot hữu ích hơn một bộ nhớ dài mà lẫn lộn. Và khi muốn hỏi một câu hoàn toàn khách quan, không bị ảnh hưởng bởi những gì nó biết về bạn, một cuộc trò chuyện tạm thời là lựa chọn sạch nhất.
Câu hỏi thường gặp
Chatbot có tự học thêm từ những gì bạn kể trong bộ nhớ không?
Bộ nhớ dài hạn không làm thay đổi mô hình. Nó chỉ là ghi chú được đọc lại. Còn việc các cuộc trò chuyện có được hãng dùng để huấn luyện phiên bản mô hình sau hay không là chính sách riêng của từng dịch vụ, thường có tuỳ chọn tắt. Hai chuyện này tách biệt và nên kiểm riêng.
Vì sao chatbot trên điện thoại và trên máy tính nhớ khác nhau?
Nếu bạn đăng nhập cùng một tài khoản, bộ nhớ thường được đồng bộ. Khác biệt có thể do một bên chưa đăng nhập, dùng tài khoản khác, hoặc tính năng bộ nhớ chưa có ở phiên bản ứng dụng đó. Kiểm tài khoản đang đăng nhập là bước đầu tiên khi thấy chuyện lạ.
Tắt bộ nhớ có làm chatbot kém thông minh đi không?
Không. Khả năng suy luận và kiến thức của mô hình giữ nguyên. Bạn chỉ mất phần cá nhân hoá, tức là phải nói lại bối cảnh khi cần. Với nhiều người, nói bối cảnh ngắn gọn ở đầu mỗi cuộc trò chuyện còn cho kết quả dễ đoán hơn để hệ thống tự nhớ.
Chatbot có nhớ được thông tin của người khác mà bạn kể không?
Có, nếu bạn kể và hệ thống quyết định ghi lại. Đây là lý do không nên kể chi tiết riêng tư của người khác, như bệnh tình, chuyện gia đình hay số điện thoại. Người đó không đồng ý cho thông tin của họ nằm trong sổ ghi chú của bạn.
Tác tử AI có cần bộ nhớ dài hạn không?
Với việc kéo dài nhiều ngày, như theo dõi một dự án, tác tử cần một chỗ ghi tiến độ để lần sau làm tiếp mà không bắt đầu lại. Nhiều hệ thống cho tác tử ghi tệp nhật ký riêng. Nguyên lý vẫn giống: ghi ra ngoài, lần sau đọc lại, mô hình bên trong không tự nhớ.
Làm sao biết chatbot đang nhớ gì về bạn?
Nhiều sản phẩm có trang quản lý bộ nhớ trong phần cài đặt, liệt kê các dòng đã ghi. Bạn cũng có thể hỏi thẳng chatbot nó đang biết gì về bạn, nhưng câu trả lời đó do mô hình viết nên có thể thiếu hoặc diễn đạt lệch. Trang cài đặt là nguồn đáng tin hơn.