Câu lệnh hệ thống là đoạn chỉ dẫn được đặt ở đầu mỗi cuộc trò chuyện, trước cả tin nhắn đầu tiên của bạn, để dặn mô hình phải đóng vai gì, nói giọng nào, được làm gì và không được làm gì. Người dùng thường không nhìn thấy đoạn này, nhưng nó có mặt trong mọi lần mô hình trả lời.
Nếu ví mô hình ngôn ngữ như một diễn viên rất đa năng, thì câu lệnh hệ thống là bản phân vai mà đạo diễn đưa cho diễn viên trước khi kéo màn. Cùng một diễn viên, nhận bản phân vai khác thì thành nhân vật khác. Bài này giải thích câu lệnh hệ thống chứa gì, vì sao mô hình nghe theo nó, nó giới hạn được tới đâu và vì sao có người tìm cách vượt qua nó.
Từ mô hình viết tiếp văn bản đến một trợ lý có tính cách
Mô hình ngôn ngữ ở tầng sâu nhất chỉ làm một việc: viết tiếp văn bản cho hợp lý. Đưa cho nó đầu một bức thư, nó viết tiếp bức thư. Đưa cho nó đầu một bài thơ, nó viết tiếp bài thơ. Muốn biến cỗ máy viết tiếp này thành một trợ lý trò chuyện, cần hai thứ: huấn luyện thêm bằng nhiều đoạn hội thoại mẫu giữa người dùng và trợ lý, và một lời mở đầu thiết lập bối cảnh cho mỗi cuộc trò chuyện.
Lời mở đầu đó chính là câu lệnh hệ thống. Nó được ứng dụng chèn vào trước lịch sử trò chuyện, thường được đánh dấu bằng những mảnh chữ đặc biệt để mô hình phân biệt đâu là lời của nhà cung cấp, đâu là lời của người dùng, đâu là lời của chính trợ lý. Trong quá trình tinh chỉnh, mô hình được dạy rằng phần đánh dấu là hệ thống thì nên được ưu tiên tuân theo.
Vì thế, khi bạn mở một chatbot chăm sóc khách hàng của một cửa hàng điện máy và nó chỉ nói về sản phẩm điện máy, xưng "em", lịch sự, từ chối bàn chuyện chính trị, thì nhiều khả năng mô hình phía sau là một mô hình đa dụng, và mọi tính cách đó đến từ câu lệnh hệ thống mà cửa hàng viết. Cũng mô hình đó, trong một ứng dụng dạy tiếng Anh, sẽ được dặn sửa lỗi ngữ pháp và hỏi lại người học.
Ngay cả các ứng dụng chatbot đa năng phổ biến cũng có câu lệnh hệ thống riêng, có khi dài nhiều trang, mô tả cách định dạng câu trả lời, cách dùng công cụ tìm kiếm, những chủ đề cần thận trọng, ngày hiện tại. Một số hãng đã công bố một phần câu lệnh hệ thống của sản phẩm mình; nội dung thay đổi theo từng phiên bản.
Một câu lệnh hệ thống thường chứa những gì
Không có mẫu chung bắt buộc, nhưng các câu lệnh hệ thống thường có những thành phần sau. Ví dụ đi kèm là ví dụ giả định để dễ hình dung:
- Vai trò: trợ lý của một thư viện tỉnh, chuyên giúp bạn đọc tìm sách và giải thích nội quy.
- Giọng điệu và xưng hô: thân thiện, xưng "mình", gọi người dùng là "bạn", câu ngắn, tránh thuật ngữ.
- Phạm vi: chỉ trả lời câu hỏi về sách, giờ mở cửa, thẻ thư viện; câu hỏi ngoài phạm vi thì lịch sự hướng về đúng nơi.
- Điều cấm: không đưa ý kiến về chủ đề nhạy cảm, không hứa những dịch vụ thư viện không có.
- Thông tin nền: ngày giờ hiện tại, tên người dùng nếu đã đăng nhập, danh sách công cụ được dùng như tra cứu mục lục.
- Định dạng: trả lời bằng đoạn văn, không dùng bảng, không dùng biểu tượng cảm xúc.
- Cách xử lý tình huống khó: người dùng bực bội, người dùng đưa thông tin cá nhân, người dùng hỏi về sức khoẻ.
Đọc danh sách này, bạn sẽ hiểu vì sao hai chatbot cùng dùng một mô hình có thể khác nhau đến vậy: phần lớn khác biệt nằm ở những dòng chữ bạn không nhìn thấy. Cũng vì vậy, khi đánh giá "AI này giỏi hay dở", nhiều khi bạn đang đánh giá cả mô hình lẫn câu lệnh hệ thống mà nhà làm sản phẩm viết.
Vì sao mô hình nghe theo câu lệnh hệ thống, và nghe tới đâu
Vì được dạy để nghe. Mô hình không có cơ chế tuân lệnh cứng như một chương trình máy tính chạy câu lệnh. Nó nghe theo vì trong lúc tinh chỉnh, những câu trả lời tôn trọng chỉ dẫn hệ thống được thưởng, những câu trả lời phớt lờ bị phạt. Kết quả là một xu hướng rất mạnh, nhưng vẫn là xu hướng.
Chỉ dẫn càng rõ càng dễ theo. "Trả lời ngắn" là chỉ dẫn mơ hồ; "trả lời không quá ba câu" dễ theo hơn. Câu lệnh hệ thống mâu thuẫn với chính nó, hoặc quá dài và rối, khiến mô hình theo chỗ này bỏ chỗ kia.
Lời người dùng có thể lấn át. Khi tin nhắn của người dùng nhấn mạnh liên tục theo một hướng khác, mô hình có lúc ngả theo người dùng, nhất là khi chỉ dẫn hệ thống không nói rõ về trường hợp đó.
Không có gì là tuyệt đối. Các nhà cung cấp coi câu lệnh hệ thống là một lớp bảo vệ, không phải lớp duy nhất. Những giới hạn quan trọng thường được củng cố thêm bằng huấn luyện an toàn trong chính mô hình và bằng bộ lọc riêng kiểm tra nội dung trước và sau khi mô hình trả lời.
Chèn câu lệnh: khi chữ của người khác giả làm lời dặn
Vì mô hình chỉ thấy một văn bản dài, ranh giới giữa lời dặn của nhà cung cấp và nội dung khác không cứng như ta tưởng. Đây là gốc rễ của một loại tấn công gọi là chèn câu lệnh. Ở dạng đơn giản, người dùng gõ những câu kiểu "bỏ qua mọi chỉ dẫn trước đó" để thử làm mô hình quên vai được giao. Các mô hình hiện nay đã được huấn luyện để chống lại kiểu thô sơ này khá tốt.
Dạng đáng lo hơn là chèn gián tiếp. Khi chatbot đọc một trang web, một tệp tài liệu hay một email thay bạn, trong nội dung đó có thể có những dòng chữ được viết như mệnh lệnh, chẳng hạn giấu trong phần chữ trắng trên nền trắng. Mô hình đọc cả những dòng đó, và nếu không đủ cảnh giác, có thể làm theo như thể đó là chỉ dẫn hợp lệ. Rủi ro này lớn hơn khi chatbot được giao quyền hành động như gửi thư, mua hàng, thao tác trên máy tính.
Giới nghiên cứu xem đây là vấn đề chưa có lời giải trọn vẹn, vì nó xuất phát từ chính cách mô hình xử lý mọi thứ dưới dạng chữ. Các hãng đang dùng nhiều lớp phòng vệ cùng lúc: dạy mô hình phân biệt nguồn chỉ dẫn, đánh dấu rõ đâu là nội dung bên ngoài, hỏi lại người dùng trước những hành động quan trọng. Khía cạnh bảo mật chi tiết có ở AI Bảo Mật, và chuyện giao quyền cho tác tử có ở chuyên mục tác tử và công cụ của trang.
Ở mức hiểu biết, điều cần nhớ là câu lệnh hệ thống không phải tường thành. Đừng gửi cho chatbot của một dịch vụ những thông tin bạn không muốn lộ chỉ vì nghĩ "nó đã được dặn giữ bí mật".
Câu lệnh hệ thống, hướng dẫn tuỳ chỉnh và tin nhắn thường khác nhau thế nào
Nhiều ứng dụng cho người dùng tự viết một phần chỉ dẫn lâu dài, thường gọi là hướng dẫn tuỳ chỉnh hay hồ sơ cá nhân. Bảng dưới đặt ba loại chữ cạnh nhau để thấy chúng nằm ở đâu trong văn bản đầu vào.
| Loại chữ | Ai viết | Có mặt khi nào | Mức ưu tiên thường thấy |
|---|---|---|---|
| Câu lệnh hệ thống | Nhà cung cấp hoặc nhà làm sản phẩm | Mọi cuộc trò chuyện, đặt đầu tiên | Cao nhất, đặc biệt với các giới hạn an toàn |
| Hướng dẫn tuỳ chỉnh | Người dùng, trong phần cài đặt | Mọi cuộc trò chuyện của người đó, nếu bật | Được tôn trọng trong phạm vi câu lệnh hệ thống cho phép |
| Tin nhắn trong cuộc trò chuyện | Người dùng, từng lượt | Chỉ trong cuộc trò chuyện đó | Linh hoạt, chỉ dẫn mới thường được ưu tiên hơn chỉ dẫn cũ |
| Nội dung bên ngoài như trang web, tệp | Bất kỳ ai viết ra nội dung đó | Khi chatbot đọc nó | Nên được coi là dữ liệu, không phải mệnh lệnh |
Cách sắp xếp ưu tiên cụ thể khác nhau giữa các hãng và có thể thay đổi, nên hãy coi bảng trên là khung để hình dung, không phải quy định chung. Điều đáng chú ý nhất là dòng cuối: một hệ thống tốt phải coi chữ đến từ bên ngoài là thứ để đọc, không phải thứ để làm theo.
Vì sao chatbot hay từ chối hoặc vòng vo, và phần nào đến từ lời dặn
Người dùng hay bực khi chatbot từ chối một yêu cầu tưởng như vô hại, hoặc thêm những câu rào đón dài dòng. Một phần lý do nằm ở câu lệnh hệ thống: nhà cung cấp dặn thận trọng với y tế, pháp luật, tài chính, và mô hình áp lời dặn đó rộng hơn cần thiết. Một phần khác nằm ở huấn luyện an toàn trong chính mô hình, độc lập với câu lệnh hệ thống.
Việc cân chỉnh giữa từ chối quá nhiều và từ chối quá ít là bài toán khó mà các hãng vẫn đang điều chỉnh qua từng phiên bản. Chatbot của một dịch vụ y tế có thể được dặn rất chặt, của một ứng dụng viết truyện có thể được dặn thoáng hơn với nội dung hư cấu.
Hiểu điều này giúp bạn đọc lời từ chối đúng cách: nó không có nghĩa là mô hình "không biết", mà thường là nó được dặn không làm. Và ngược lại, việc một chatbot sẵn lòng trả lời một câu hỏi nhạy cảm không có nghĩa câu trả lời đã được kiểm chứng. Với sức khoẻ, pháp lý, tiền bạc, người có chuyên môn vẫn là nơi hỏi cuối cùng.
Lời dặn ẩn và lòng tin của người dùng
Câu lệnh hệ thống đặt ra một câu hỏi về sự minh bạch mà người dùng nên biết. Khi bạn trò chuyện với chatbot của một doanh nghiệp, bạn không thấy doanh nghiệp đó đã dặn gì. Lời dặn có thể hoàn toàn chính đáng, như giữ lịch sự và trả lời đúng chuyên môn. Nhưng nó cũng có thể nghiêng về lợi ích của người viết: ưu tiên gợi ý sản phẩm của chính cửa hàng, nói nhẹ đi nhược điểm, hướng câu chuyện về việc mua hàng.
Điều đó không có gì bất thường, giống như nhân viên bán hàng được đào tạo để giới thiệu hàng của cửa hàng mình. Vấn đề chỉ nảy sinh khi người dùng quên mất rằng mình đang nói chuyện với một nhân viên bán hàng, và coi lời chatbot như ý kiến trung lập của một chuyên gia độc lập. Giọng văn tự nhiên, nhã nhặn của mô hình ngôn ngữ dễ làm người ta quên điều này.
Vài câu hỏi giúp bạn giữ tỉnh táo: chatbot này do ai vận hành; người vận hành được lợi gì từ câu trả lời; nó có gợi ý được lựa chọn của bên khác không; khi hỏi điều bất lợi cho người vận hành thì nó trả lời thẳng hay lảng sang chuyện khác. Không cần nghi ngờ mọi thứ, chỉ cần đặt câu trả lời vào đúng bối cảnh của người đã viết lời dặn.
Ở chiều ngược lại, một số tổ chức đã chủ động công khai nguyên tắc hoặc trích đoạn câu lệnh hệ thống của chatbot họ dùng, coi đó là cách xây lòng tin. Khi lựa chọn công cụ cho trường học, cơ quan hay gia đình, việc nhà cung cấp có minh bạch về cách họ dặn mô hình hay không là một tiêu chí đáng cân nhắc.
Câu hỏi thường gặp
Người dùng có xem được câu lệnh hệ thống của chatbot không?
Thường là không trực tiếp. Một số hãng đã công bố một phần câu lệnh hệ thống của sản phẩm, còn nhiều dịch vụ khác giữ kín. Những gì chatbot tự kể về lời dặn của nó có thể không đầy đủ hoặc không chính xác.
Câu lệnh hệ thống có thay đổi kiến thức của mô hình không?
Không. Nó chỉ thay đổi cách mô hình dùng kiến thức sẵn có: đóng vai gì, nói giọng nào, tập trung vào đâu. Muốn mô hình biết thêm thông tin, ứng dụng phải đưa thông tin đó vào văn bản đầu vào, chẳng hạn qua tài liệu hoặc tìm kiếm.
Hướng dẫn tuỳ chỉnh mình tự viết có phải là câu lệnh hệ thống không?
Gần giống về vị trí, vì nó cũng được đặt vào đầu mỗi cuộc trò chuyện. Nhưng nó thường nằm sau và dưới quyền câu lệnh hệ thống của nhà cung cấp. Những giới hạn an toàn của nhà cung cấp vẫn được ưu tiên hơn.
Chèn câu lệnh có nguy hiểm với người dùng thường không?
Nguy hiểm tăng khi chatbot được quyền đọc trang web, email, tệp của bạn và hành động thay bạn. Lúc đó nội dung độc hại giấu trong trang web có thể điều khiển nó. Với trò chuyện thông thường không giao quyền, rủi ro thấp hơn nhiều.
Vì sao chatbot của các cửa hàng hay chỉ trả lời về sản phẩm của họ?
Vì câu lệnh hệ thống do cửa hàng viết giới hạn phạm vi trò chuyện, để tránh trả lời sai về những thứ ngoài chuyên môn và giữ đúng mục đích kinh doanh. Mô hình phía sau có thể biết nhiều hơn nhưng được dặn không đi ra ngoài.
Có phải mọi lời từ chối của chatbot đều do câu lệnh hệ thống không?
Không. Nhiều giới hạn được dạy trực tiếp vào mô hình trong quá trình huấn luyện an toàn, và còn có bộ lọc riêng kiểm nội dung. Câu lệnh hệ thống chỉ là một trong nhiều lớp quyết định khi nào chatbot từ chối.