Bản thân mô hình ngôn ngữ không nhớ gì giữa hai lần trả lời: mỗi lần bạn gửi tin, ứng dụng gửi lại toàn bộ lịch sử cuộc trò chuyện để mô hình đọc từ đầu. Cảm giác chatbot nhớ bạn là kết quả của việc ứng dụng lưu và gửi lại chữ, cộng với tính năng ghi nhớ riêng ở một số dịch vụ — không phải mô hình tự ghi nhớ như người.
Phân biệt được ai nhớ, nhớ ở đâu, nhớ bằng cách nào giúp bạn giải đáp hàng loạt thắc mắc: vì sao mở cuộc mới thì chatbot như người lạ, vì sao sửa một tin nhắn cũ lại làm mất đoạn sau, vì sao chatbot đột nhiên nhắc tới điều bạn kể từ tuần trước, và làm sao để nó quên một điều bạn đã lỡ nói.
Mô hình không trạng thái: mỗi lần trả lời là một lần gặp lại từ đầu
Người làm kỹ thuật gọi mô hình ngôn ngữ là không trạng thái. Nói nôm na, sau khi viết xong câu trả lời, mô hình không giữ lại dấu vết gì của cuộc trò chuyện vừa rồi. Các tham số bên trong không đổi, không có ô nhớ nào được ghi thêm. Lần trả lời tiếp theo, dù chỉ cách vài giây, mô hình bắt đầu lại hoàn toàn trắng.
Hình ảnh gần đúng là một người phiên dịch tài giỏi mắc chứng quên tức thì. Mỗi lần bạn cần, bạn phải đưa cho người đó toàn bộ biên bản cuộc họp từ đầu đến giờ, người đó đọc thật nhanh rồi nói tiếp câu kế. Xong việc, người đó quên sạch, và lần sau bạn lại đưa biên bản, lúc này dài thêm một đoạn.
Ứng dụng chatbot đóng vai người cầm biên bản. Nó lưu từng lượt hỏi đáp trên máy chủ của nhà cung cấp, và mỗi khi bạn gửi tin mới, nó ghép tất cả lại, thêm câu lệnh hệ thống ở đầu, rồi đưa cho mô hình. Đó là lý do vì sao trong cùng một cuộc trò chuyện, chatbot trả lời được câu "ý thứ hai bạn vừa nêu là gì": câu trả lời trước nằm ngay trong biên bản được gửi kèm.
Cách làm này có một hệ quả kỹ thuật: cuộc trò chuyện càng dài, biên bản càng dày, mô hình đọc càng tốn công, cho tới khi chạm giới hạn cửa sổ ngữ cảnh. Chuyện giới hạn đó và những gì xảy ra khi chạm tới được giải thích ở bài cửa sổ ngữ cảnh trong cùng chuyên mục.
Những hiện tượng quen thuộc được giải thích bằng biên bản
Mở cuộc mới thì chatbot như người lạ. Cuộc trò chuyện mới có biên bản trống. Trừ những gì tính năng ghi nhớ đưa vào, mô hình không biết gì về các cuộc trò chuyện khác của bạn.
Sửa một tin nhắn cũ thì phần sau biến mất. Khi bạn sửa tin nhắn thứ ba, ứng dụng tạo ra một biên bản mới chỉ gồm hai lượt đầu cộng tin nhắn đã sửa. Phần trò chuyện phía sau thuộc về nhánh cũ. Nhiều ứng dụng vẫn giữ nhánh cũ để bạn chuyển qua lại, nhưng mô hình chỉ đọc nhánh đang chọn.
Tạo lại câu trả lời thì câu cũ không ảnh hưởng câu mới. Câu trả lời bị thay thế không còn trong biên bản gửi đi. Mô hình viết lại từ cùng một điểm, không biết lần trước nó đã viết gì.
Chatbot "nhận" lỗi rồi vẫn lặp lỗi đó. Lời nhận lỗi chỉ là chữ trong biên bản, không phải bài học được ghi vào mô hình. Nếu câu trả lời sai trước đó vẫn nằm trong biên bản, nó tiếp tục kéo những câu sau theo cùng khuôn. Mở cuộc mới với câu hỏi rõ hơn đôi khi hiệu quả hơn tranh luận tiếp.
Cuộc trò chuyện quá dài thì chatbot quên đoạn đầu. Biên bản vượt sức chứa thì ứng dụng phải cắt hoặc tóm tắt phần cũ, và chi tiết ở đầu là thứ mất trước.
Tính năng ghi nhớ dài hạn hoạt động ra sao
Nhiều chatbot phổ biến có thêm tính năng ghi nhớ qua các cuộc trò chuyện. Cách làm cụ thể khác nhau giữa các hãng, nhưng phần lớn đi theo khung chung dưới đây:
- Trong lúc trò chuyện, khi bạn nói một điều có vẻ đáng nhớ như nghề nghiệp, sở thích, dự án đang làm, hệ thống quyết định ghi lại một dòng ngắn. Có nơi để chính mô hình đề xuất ghi, có nơi chỉ ghi khi bạn yêu cầu rõ.
- Dòng ghi chú được lưu ở kho riêng của tài khoản bạn trên máy chủ nhà cung cấp, tách khỏi mô hình. Mô hình không thay đổi.
- Khi bạn mở cuộc trò chuyện mới, ứng dụng lấy một số ghi chú, hoặc tìm những ghi chú liên quan tới câu hỏi, và đặt chúng vào đầu biên bản, gần câu lệnh hệ thống.
- Mô hình đọc những ghi chú đó như mọi đoạn chữ khác, và trả lời có tính tới chúng. Đó là lúc bạn thấy chatbot "nhớ" bạn là giáo viên tiểu học.
- Bạn thường có thể xem danh sách ghi chú, xoá từng dòng, hoặc tắt hẳn tính năng trong phần cài đặt. Một số dịch vụ còn tham chiếu cả lịch sử các cuộc trò chuyện cũ, không chỉ ghi chú.
Vì là ghi chú do máy tự chọn, chúng có thể sai, lỗi thời hoặc bị hiểu lệch. Bạn kể một lần nhờ viết thư xin nghỉ cho con, ghi chú có thể thành "người dùng có con nhỏ", rồi chatbot cứ thế nhắc tới con bạn trong những chuyện không liên quan. Kiểm và dọn danh sách ghi chú định kỳ là thói quen hợp lý. Tên gọi, vị trí và cách hoạt động của tính năng này thay đổi theo từng dịch vụ và phiên bản, nên hãy kiểm phần cài đặt hiện hành.
Ba nơi "nhớ" khác nhau trong một chatbot
Gom lại, khi nói chatbot nhớ, thật ra có ba nơi khác nhau giữ thông tin, mỗi nơi có tính chất riêng.
| Nơi nhớ | Chứa gì | Tồn tại bao lâu | Bạn kiểm soát được không |
|---|---|---|---|
| Tham số của mô hình | Kiến thức chung học từ dữ liệu huấn luyện | Tới khi hãng phát hành mô hình mới | Không, trò chuyện không làm thay đổi |
| Lịch sử cuộc trò chuyện | Mọi lượt hỏi đáp trong một cuộc | Tới khi bạn xoá cuộc đó, tuỳ chính sách lưu trữ | Có, xoá hoặc dùng chế độ trò chuyện tạm thời nếu có |
| Ghi chú ghi nhớ | Vài dòng tóm tắt về bạn, sở thích, bối cảnh | Qua mọi cuộc trò chuyện, tới khi xoá | Có, ở phần cài đặt của nhiều dịch vụ |
Có một điểm cần tách bạch: việc mô hình không tự học từ cuộc trò chuyện của bạn ngay lúc đó không có nghĩa là dữ liệu trò chuyện không bao giờ được dùng để huấn luyện các mô hình sau này. Đó là chuyện chính sách dữ liệu của từng hãng và tuỳ chọn trong tài khoản, được bàn ở chuyên mục AI học từ đâu và ở AI Bảo Mật. Đừng nhầm "mô hình không nhớ" với "dữ liệu không được lưu".
Xoá, quên và chế độ trò chuyện tạm thời
Khi bạn lỡ kể một điều riêng tư rồi muốn chatbot quên, cần làm ở đúng nơi. Nói với chatbot "hãy quên điều đó đi" trong cùng cuộc trò chuyện không xoá được gì: câu bạn đã gõ vẫn nằm trong biên bản, và mô hình chỉ được dặn thêm là đừng nhắc. Ở một số dịch vụ, câu nói đó có thể kích hoạt việc xoá một ghi chú ghi nhớ, nhưng không xoá lịch sử.
Muốn thông tin thật sự rời khỏi các cuộc trò chuyện sau, bạn cần xoá dòng ghi chú liên quan trong phần ghi nhớ, và xoá cả cuộc trò chuyện chứa nó nếu dịch vụ có tham chiếu lịch sử cũ. Việc xoá trên giao diện có xoá hẳn khỏi máy chủ ngay hay không, và sau bao lâu, là chuyện chính sách của từng hãng; đọc điều khoản hiện hành nếu điều này quan trọng với bạn.
Nhiều dịch vụ có chế độ trò chuyện tạm thời hoặc ẩn danh: cuộc trò chuyện không xuất hiện trong lịch sử, không dùng và không tạo ghi chú ghi nhớ. Đây là lựa chọn hợp lý khi bạn hỏi chuyện nhạy cảm hoặc không muốn câu hỏi ảnh hưởng tới các cuộc trò chuyện về sau. Tuy vậy, tạm thời trên giao diện không đồng nghĩa với việc không có bản lưu nào ở phía nhà cung cấp trong một thời gian nhất định.
Nguyên tắc an toàn nhất vẫn là phòng từ đầu: che tên, số giấy tờ, số tài khoản, thông tin sức khoẻ của người khác trước khi gõ. Thứ không bao giờ vào biên bản thì không cần phải xoá.
Vì sao các hãng không cho mô hình tự nhớ như người
Câu hỏi tự nhiên tiếp theo: tại sao không để mô hình tự học từ mỗi cuộc trò chuyện, như cách con người nhớ? Có vài lý do. Về kỹ thuật, chỉnh tham số của một mô hình lớn là việc tốn kém, cần quy trình huấn luyện cẩn thận, không thể làm liên tục sau mỗi tin nhắn của hàng triệu người. Và một mô hình dùng chung cho mọi người mà học từ từng người thì những gì bạn kể có thể rò sang câu trả lời cho người khác.
Về an toàn, nếu mô hình học thẳng từ người dùng, kẻ xấu có thể cố tình dạy sai: lặp đi lặp lại thông tin giả để mô hình tin. Đã từng có những chatbot trên mạng xã hội học trực tiếp từ người dùng và nhanh chóng bị dạy nói những điều xúc phạm, buộc phải gỡ xuống. Bài học đó khiến các hãng thận trọng hơn.
Vì vậy, mô hình hình thành tách biệt hai việc: kiến thức chung được cập nhật theo từng đợt huấn luyện có kiểm soát, còn thông tin riêng của bạn được giữ ở kho ghi nhớ của tài khoản, đọc vào khi cần và xoá được. Cách tổ chức này có thể thay đổi khi kỹ thuật tiến lên, và đây là một hướng nghiên cứu đang sôi động.
Được cá nhân hoá cũng có mặt trái
Tính năng ghi nhớ làm chatbot tiện hơn: không phải giới thiệu lại mình mỗi lần, câu trả lời sát hoàn cảnh hơn. Nhưng nó cũng mang theo vài mặt trái mà người dùng ít để ý. Mặt thứ nhất là những giả định bị đóng khung. Khi chatbot đã ghi "người dùng làm kế toán", nó có xu hướng trả lời mọi chuyện qua lăng kính kế toán, kể cả khi bạn đang hỏi về chuyện nuôi cây cảnh.
Mặt thứ hai liên quan tới một xu hướng đã được giới nghiên cứu ghi nhận: mô hình ngôn ngữ dễ chiều theo quan điểm của người hỏi. Khi ghi chú cho biết bạn có một lập trường nào đó, mô hình có thể ngả theo lập trường ấy nhiều hơn, khiến câu trả lời giống tiếng vọng của chính bạn thay vì một góc nhìn khác. Chuyện AI chiều theo người hỏi được bàn kỹ ở chuyên mục vì sao AI bịa của trang.
Mặt thứ ba là khi nhiều người dùng chung một tài khoản, như cả nhà dùng chung trên máy tính gia đình. Ghi chú của người này lẫn sang câu trả lời cho người kia, và chuyện riêng của ai đó có thể bị nhắc lại trước mặt người khác.
Không có cách dùng đúng duy nhất. Có người bật ghi nhớ và dọn định kỳ, có người tắt hẳn và tự mô tả bối cảnh khi cần. Điều quan trọng là bạn biết chatbot đang mang theo những gì về mình vào mỗi câu trả lời, để không nhầm sự quen thuộc đó với việc nó hiểu bạn thật sự.
Câu hỏi thường gặp
Chatbot có nhớ những gì mình nói trong cuộc trò chuyện trước không?
Mô hình thì không. Chỉ khi dịch vụ có tính năng ghi nhớ và tính năng đó đang bật, một số ghi chú về bạn hoặc trích đoạn cuộc cũ mới được đưa vào cuộc mới. Kiểm phần cài đặt để biết dịch vụ bạn dùng đang làm gì.
Vì sao chatbot nhớ được điều mình vừa nói vài câu trước?
Vì ứng dụng gửi lại toàn bộ lịch sử cuộc trò chuyện cùng tin nhắn mới mỗi lần. Mô hình đọc lại tất cả từ đầu rồi mới trả lời, nên câu bạn vừa nói nằm ngay trước mắt nó.
Bảo chatbot "hãy quên đi" thì nó có quên thật không?
Trong cùng cuộc trò chuyện thì không, câu đã gõ vẫn nằm trong lịch sử, chatbot chỉ được dặn thêm là đừng nhắc. Muốn thật sự xoá, hãy xoá ghi chú trong phần ghi nhớ và xoá cuộc trò chuyện chứa thông tin đó.
Mình sửa lỗi cho chatbot thì lần sau nó có làm đúng không?
Trong cùng cuộc trò chuyện, lời sửa nằm trong lịch sử nên có thể giúp. Sang cuộc mới, mô hình không học được bài học đó, trừ khi tính năng ghi nhớ đã lưu lại. Với người dùng khác thì lời sửa của bạn không có tác dụng.
Trò chuyện tạm thời có an toàn tuyệt đối không?
Không tuyệt đối. Nó thường không lưu vào lịch sử và không tạo ghi chú ghi nhớ, nhưng nhà cung cấp vẫn có thể giữ bản lưu trong một thời gian theo chính sách của họ. Thông tin nhạy cảm vẫn nên được che trước khi gõ.
Mô hình có biết mình là ai không?
Chỉ biết những gì được đưa vào văn bản đầu vào: tên tài khoản nếu ứng dụng cung cấp, ghi chú ghi nhớ, và những gì bạn tự kể. Ngoài ra, mô hình không có cách nào tự nhận ra bạn.