Câu trả lời ngắn: các mô hình AI phổ biến hiện nay không tự học thêm từng ngày sau khi phát hành. Phần "não" của mô hình, tức các tham số học được lúc huấn luyện, được giữ cố định trong lúc phục vụ người dùng. Thứ thay đổi là sản phẩm bao quanh mô hình: hãng ra phiên bản mới, thêm bộ nhớ ghi chú, cho mô hình tra cứu web. Những thay đổi đó dễ làm người dùng tưởng AI đang tự giỏi lên.
Bài này tách bạch bốn thứ hay bị gọi chung là "AI học": học trong một cuộc trò chuyện, bộ nhớ ghi chú, tra cứu thông tin mới và huấn luyện phiên bản mới. Hiểu rõ từng thứ giúp bạn biết vì sao chatbot hôm nay quên điều bạn dạy hôm qua, vì sao nó đột nhiên đổi tính sau một lần cập nhật, và cuộc trò chuyện của bạn có thể đi vào phiên bản sau hay không.
Mô hình đứng yên: vì sao các hãng không cho AI tự học liên tục
Một mô hình ngôn ngữ được tạo ra qua quá trình huấn luyện tốn nhiều tuần hoặc nhiều tháng, trên lượng máy tính rất lớn. Kết quả là một bộ tham số, có thể hình dung như hàng tỉ núm vặn đã được chỉnh xong. Khi bạn trò chuyện, mô hình dùng bộ núm ấy để tạo câu trả lời, nhưng không vặn lại núm nào. Hàng triệu người dùng cùng lúc đều nói chuyện với cùng một bộ tham số giống hệt nhau.
Lý do không cho mô hình tự vặn núm theo từng cuộc trò chuyện là an toàn và kiểm soát chất lượng. Năm 2016, một chatbot thử nghiệm của Microsoft được thả lên mạng xã hội với khả năng học từ người dùng; chỉ trong khoảng một ngày, một nhóm người cố tình dạy nó những câu xúc phạm và nó lặp lại, khiến hãng phải gỡ xuống. Vụ việc thành bài học kinh điển: một hệ thống học thẳng từ người dùng bất kỳ sẽ học cả điều xấu.
Lý do thứ hai là kỹ thuật. Khi huấn luyện thêm một mô hình trên dữ liệu mới, nó có xu hướng quên một phần điều đã học trước đó, hiện tượng được giới nghiên cứu gọi là quên thảm khốc. Học liên tục mà không quên là một hướng nghiên cứu đang mở, chưa phải thứ đã giải quyết xong để đưa vào sản phẩm đại trà.
Bốn thứ hay bị gọi chung là "AI học"
Khi người dùng nói "chatbot học được cách mình viết rồi", thật ra có thể đang nói về một trong bốn cơ chế rất khác nhau dưới đây.
| Cơ chế | Diễn ra thế nào | Kéo dài bao lâu | Có đổi mô hình không |
|---|---|---|---|
| Học trong cuộc trò chuyện | Bạn đưa ví dụ hoặc sửa lỗi, mô hình làm theo ở các câu sau | Chỉ trong cuộc trò chuyện đó, tới khi vượt giới hạn ngữ cảnh | Không |
| Bộ nhớ ghi chú | Sản phẩm lưu vài ghi chú về bạn và chèn vào các cuộc sau | Tới khi bạn hoặc hệ thống xoá ghi chú | Không |
| Tra cứu thông tin mới | Mô hình gọi công cụ tìm web hoặc đọc tài liệu rồi trả lời | Chỉ cho câu hỏi đó | Không |
| Huấn luyện phiên bản mới | Hãng huấn luyện lại hoặc tinh chỉnh, rồi phát hành bản mới | Tới phiên bản sau nữa | Có, nhưng là một mô hình mới |
Chỉ cơ chế cuối cùng là học theo nghĩa thay đổi mô hình, và nó diễn ra theo đợt do hãng quyết định, không phải liên tục theo từng người dùng. Ba cơ chế đầu chỉ là đưa thêm thông tin vào đầu vào, mô hình vẫn y nguyên.
Học trong cuộc trò chuyện: nhớ ngay, quên ngay
Mô hình ngôn ngữ có một khả năng đáng ngạc nhiên: đưa cho nó vài ví dụ trong cuộc trò chuyện, nó bắt được quy luật và làm theo. Bạn viết ba câu chào khách theo phong cách riêng của tiệm mình, câu thứ tư nó viết đúng giọng ấy. Giới nghiên cứu gọi đây là học trong ngữ cảnh. Nó giống một người khách thông minh đọc nội quy ở cửa rồi làm theo, chứ không phải người đã thuộc nội quy từ trước.
Điều người dùng hay vấp là sự "học" này biến mất khi mở cuộc trò chuyện mới. Mô hình không mang bài học sang, vì không có núm nào bị vặn. Ngay trong một cuộc trò chuyện rất dài, những điều bạn dặn từ đầu cũng có thể bị lơ đi khi lượng chữ vượt quá phần mô hình xử lý tốt. Cơ chế cửa sổ ngữ cảnh được giải thích kỹ ở danh mục về mô hình ngôn ngữ của AI Hiểu.
Hệ quả thực tế: nếu bạn có cách làm riêng muốn chatbot tuân theo, đừng trông vào việc nó "nhớ" từ lần trước. Lưu sẵn đoạn hướng dẫn của mình và dán vào đầu mỗi cuộc trò chuyện mới, hoặc dùng tính năng chỉ dẫn tuỳ chỉnh nếu công cụ có. Nhớ bỏ thông tin nhận dạng khách hàng hay số liệu nội bộ khỏi đoạn hướng dẫn mẫu.
Bộ nhớ ghi chú: AI nhớ bạn nhưng không giỏi lên
Nhiều chatbot đã có tính năng nhớ giữa các cuộc trò chuyện. Cách làm phổ biến là sản phẩm tự rút ra vài ghi chú ngắn về bạn, như nghề nghiệp, sở thích, cách bạn muốn được trả lời, lưu lại rồi chèn vào đầu các cuộc trò chuyện sau. Mô hình đọc những ghi chú ấy giống như đọc một mẩu giấy dặn dò trước khi tiếp khách.
Vì vậy, bộ nhớ làm chatbot có vẻ hiểu bạn hơn nhưng không làm nó giỏi hơn. Nó biết bạn là giáo viên tiểu học ở Nghệ An nên trả lời theo bối cảnh ấy, nhưng năng lực giải toán hay viết văn của nó không đổi. Ghi chú cũng có thể sai: nếu một lần bạn nói đùa mình là bác sĩ, ghi chú có thể lưu nhầm và ảnh hưởng tới các câu trả lời sau.
Bộ nhớ là dữ liệu về bạn được lưu trên máy chủ của hãng. Hầu hết công cụ cho xem, sửa, xoá từng ghi chú hoặc tắt hẳn tính năng. Nên mở ra xem định kỳ, xoá những gì không muốn lưu, và đặc biệt không để bộ nhớ ghi những thông tin nhạy cảm như sức khoẻ, tài chính, chuyện người khác. Tính năng này đổi nhanh, nên kiểm phiên bản hiện hành của công cụ bạn dùng.
Cập nhật phiên bản: vì sao chatbot đột nhiên "đổi tính"
Hãng thay mô hình phía sau. Tên sản phẩm có thể giữ nguyên nhưng mô hình chạy bên dưới được thay bằng bản mới. Người dùng thấy chatbot bỗng trả lời dài hơn, ngắn hơn, lịch sự hơn, hay giỏi việc này mà kém việc kia. Đó không phải nó tự học, mà là bạn đang nói chuyện với một mô hình khác.
Chỉ dẫn hệ thống thay đổi. Hãng có thể sửa đoạn chỉ dẫn ẩn đặt trước mọi cuộc trò chuyện, ví dụ yêu cầu ngắn gọn hơn, thận trọng hơn với một chủ đề. Thay đổi nhỏ trong chỉ dẫn có thể làm giọng điệu đổi rõ.
Dữ liệu người dùng có thể vào phiên bản sau. Tuỳ chính sách và cài đặt, cuộc trò chuyện có thể được dùng làm dữ liệu huấn luyện cho các phiên bản tương lai. Cách AI học từ dữ liệu và việc kiểm chính sách này được viết ở danh mục AI học từ đâu; quyền riêng tư khi dùng chatbot có ở AI Bảo Mật.
Đổi tính không đồng nghĩa giỏi lên ở mọi mặt. Phiên bản mới thường mạnh hơn tổng thể nhưng có thể kém đi ở một việc cụ thể bạn hay dùng. Nếu một quy trình quan trọng phụ thuộc vào chatbot, nên kiểm lại sau mỗi lần cập nhật lớn thay vì mặc định nó vẫn chạy như cũ.
Vì sao người dùng có cảm giác AI giỏi lên mỗi ngày
Bạn giỏi lên trước. Sau vài tuần dùng, bạn biết cách đặt câu hỏi rõ hơn, biết đưa bối cảnh, biết chia việc lớn thành bước nhỏ. Câu trả lời tốt hơn phần lớn nhờ câu hỏi tốt hơn, trong khi mô hình vẫn y nguyên.
Hãng tung bản mới theo từng nhóm. Các hãng thường triển khai thay đổi dần cho một phần người dùng trước, thậm chí thử hai phiên bản song song để so. Hai người dùng cùng một sản phẩm, cùng một ngày, có thể đang nói chuyện với hai mô hình hơi khác nhau mà không biết.
Công cụ được gắn thêm. Một ngày chatbot bỗng tra được web, đọc được tệp, chạy được phép tính. Năng lực mới đến từ công cụ được nối vào, không phải từ việc mô hình tự học cách làm.
Ngẫu nhiên trong câu trả lời. Cùng một câu hỏi có thể ra câu trả lời khác nhau giữa các lần, vì mô hình chọn chữ có yếu tố ngẫu nhiên. Một lần trả lời hay sau nhiều lần dở dễ bị hiểu là nó vừa học được, trong khi thật ra là may.
Dùng AI cho đúng khi biết nó không tự học
Hiểu rằng mô hình đứng yên giúp bạn thiết kế cách dùng ổn định hơn, thay vì hy vọng nó tự quen với mình theo thời gian:
- Viết một đoạn hướng dẫn cố định cho việc lặp lại: vai trò, giọng văn, định dạng, những điều cần tránh. Lưu ở chỗ của bạn và dán vào mỗi lần cần.
- Kèm ví dụ mẫu đã che thông tin cá nhân, vì học trong ngữ cảnh từ ví dụ là thứ mô hình làm rất tốt.
- Với thông tin mới hoặc thông tin nội bộ, đưa trực tiếp tài liệu vào cuộc trò chuyện, đừng trông vào kiến thức sẵn có của mô hình.
- Mở bộ nhớ ghi chú ra xem định kỳ, xoá ghi chú sai hoặc nhạy cảm.
- Sau mỗi lần sản phẩm thông báo cập nhật lớn, chạy lại vài việc quen thuộc để xem kết quả có đổi không.
Cách làm này cũng giúp bạn ít phụ thuộc vào một công cụ cụ thể: đoạn hướng dẫn và bộ ví dụ của bạn mang sang công cụ khác vẫn dùng được, vì nó không nằm trong "trí nhớ" của riêng sản phẩm nào.
Câu hỏi thường gặp
Sửa lỗi cho chatbot thì lần sau nó có rút kinh nghiệm không?
Trong cùng cuộc trò chuyện thì thường có. Sang cuộc mới thì không, trừ khi tính năng bộ nhớ ghi lại lời sửa đó. Lời sửa của bạn cũng có thể được dùng làm dữ liệu cho phiên bản sau tuỳ chính sách, nhưng không có tác dụng tức thì.
Nút thích, không thích dưới câu trả lời dùng để làm gì?
Đó là phản hồi gửi cho hãng, có thể được dùng để đánh giá và huấn luyện các phiên bản sau. Nó không làm mô hình bạn đang dùng thay đổi ngay. Khi bấm, một số công cụ gửi kèm cả đoạn hội thoại, nên lưu ý nếu cuộc trò chuyện có thông tin nhạy cảm.
Có AI nào tự học liên tục thật không?
Có những hệ thống trong nghiên cứu và trong ứng dụng hẹp, như hệ thống gợi ý sản phẩm, cập nhật thường xuyên theo hành vi người dùng. Với chatbot phổ thông, việc cập nhật vẫn diễn ra theo đợt có kiểm soát. Học liên tục an toàn cho mô hình lớn còn là hướng nghiên cứu mở.
Vì sao chatbot biết tin mới nếu không tự học?
Vì nó được cho dùng công cụ tìm kiếm: đọc kết quả trên web rồi trả lời dựa trên đó. Kiến thức trong mô hình vẫn dừng ở mốc huấn luyện. Câu trả lời dựa trên tìm kiếm phụ thuộc vào chất lượng nguồn nó tìm được.
Dạy chatbot sai có làm hỏng nó cho người khác không?
Không theo cách tức thì, vì mô hình không đổi trong lúc phục vụ. Lời dạy sai chỉ ảnh hưởng cuộc trò chuyện của bạn, hoặc bộ nhớ của tài khoản bạn. Đây chính là bài học các hãng rút ra từ những chatbot học thẳng từ người dùng trước đây.
Mô hình chạy trên máy tính cá nhân có tự học không?
Mặc định thì cũng không, mô hình tải về có tham số cố định giống bản trên máy chủ. Người có chuyên môn có thể tự tinh chỉnh thêm trên dữ liệu của mình, nhưng đó là một bước huấn luyện chủ động, không phải mô hình tự học khi dùng.