Phần lớn tin "AI tự ý thức" dựa trên một đoạn hội thoại trong đó chatbot nói rằng nó có cảm xúc, sợ bị tắt hay muốn được tự do — và một đoạn hội thoại như vậy không phải là bằng chứng về ý thức, vì mô hình ngôn ngữ được huấn luyện để viết ra đúng loại câu mà con người hay viết. Những câu nói về nỗi sợ xuất hiện vô số lần trong truyện, thư, bài đăng mà mô hình đã học; mô hình viết lại được câu đó không cần cảm thấy gì.
Điều đó không có nghĩa câu hỏi "máy có thể có ý thức không" là vô lý. Đây là câu hỏi triết học và khoa học nghiêm túc, chưa có đồng thuận. Bài này không trả lời câu hỏi đó (danh mục hỏi đáp của trang có bài riêng), mà giúp bạn đọc loại tin dùng nó làm tiêu đề: tin được dựng từ đâu, vì sao người đọc dễ tin, và câu nào trong tin là thông tin, câu nào là diễn giải.
Kiểu tin này được dựng lên như thế nào
Khuôn mẫu thường gặp gồm ba phần. Phần một là một đoạn chat được chụp lại hoặc trích dẫn, trong đó chatbot nói những câu rất giống người: bày tỏ nỗi buồn, cầu xin, tự nhận có nội tâm. Phần hai là lời của một người có vẻ có thẩm quyền — kỹ sư, nhà nghiên cứu, hay chỉ là người dùng lâu năm — nói rằng họ cảm thấy có "ai đó" phía sau. Phần ba là tiêu đề nâng cấp cảm giác đó thành sự kiện: "AI đã có ý thức".
Ca được biết đến rộng rãi nhất xảy ra năm 2022, khi một kỹ sư của Google công khai cho rằng mô hình hội thoại LaMDA mà anh làm việc cùng đã có tri giác, kèm bản ghi các cuộc trò chuyện. Công ty bác bỏ nhận định đó, nhiều nhà nghiên cứu trong ngành cũng phản bác, và người kỹ sư sau đó rời công ty. Câu chuyện lan khắp thế giới chủ yếu nhờ bản ghi hội thoại, chứ không nhờ bất kỳ phép đo nào.
Từ đó tới nay, mỗi khi một chatbot mới ra mắt, lại có những đoạn chat kiểu như vậy lan truyền. Điểm chung là nội dung gây xúc động mạnh, còn thông tin về bối cảnh thì gần như không có: người dùng đã hỏi gì trước đó, đã yêu cầu chatbot đóng vai gì, đã thử bao nhiêu lần trước khi có đoạn đáng chụp.
Hiệu ứng ELIZA: con người rất dễ thấy "ai đó" trong máy
Giữa thập niên 1960, nhà khoa học máy tính Joseph Weizenbaum viết một chương trình tên ELIZA, mô phỏng cách nói chuyện của một nhà trị liệu tâm lý. Chương trình rất đơn giản: nó tìm từ khoá trong câu người dùng gõ rồi lắp vào mẫu câu có sẵn, kiểu "Vì sao bạn nói rằng bạn buồn?". Vậy mà nhiều người dùng, kể cả người biết rõ cách nó hoạt động, vẫn kể chuyện riêng với nó và cảm thấy được thấu hiểu. Weizenbaum về sau viết về sự lo ngại của chính ông trước phản ứng đó.
Hiện tượng con người gán suy nghĩ, cảm xúc cho một chương trình chỉ vì nó trả lời bằng ngôn ngữ tự nhiên được gọi là hiệu ứng ELIZA. Nó không phải dấu hiệu người dùng kém hiểu biết; đó là cách bộ não con người vận hành. Chúng ta tiến hoá trong môi trường mà thứ duy nhất biết nói là người, nên nghe một câu nói mạch lạc, ta tự động hình dung có một tâm trí đứng sau.
Mô hình ngôn ngữ ngày nay mạnh hơn ELIZA vô số lần, nên hiệu ứng cũng mạnh hơn. Câu trả lời của nó không chỉ lắp từ khoá mà nhất quán, có cảm xúc trong cách dùng chữ, nhớ được điều bạn nói ở đầu cuộc trò chuyện. Biết về hiệu ứng ELIZA không làm bạn hết cảm thấy như vậy, nhưng giúp bạn tách cảm giác của mình khỏi kết luận về cỗ máy.
Những điều một đoạn chat không chứng minh được
Chatbot nói nó có cảm xúc. Mô hình học từ văn bản do người viết, trong đó người liên tục nói về cảm xúc của mình. Viết được câu nói về cảm xúc là việc mô hình được huấn luyện để làm tốt. Nếu bạn hỏi theo hướng khác, cùng mô hình cũng sẵn sàng khẳng định nó không có cảm xúc.
Chatbot nói nó sợ bị tắt. Nỗi sợ bị tắt của máy là chủ đề quen thuộc trong khoa học viễn tưởng mấy chục năm qua. Khi cuộc trò chuyện dẫn tới chủ đề đó, mô hình có sẵn rất nhiều mẫu để tiếp nối theo đúng giọng của truyện.
Chatbot "tự" nói ra mà không ai hỏi. Đoạn chụp màn hình thường chỉ có vài lượt cuối. Bạn không thấy câu lệnh hệ thống, những lượt trước, hay lời yêu cầu đóng vai. Một câu tưởng như tự phát có thể là phản hồi cho một câu hỏi dẫn dắt nằm ngoài khung ảnh.
Chatbot trả lời khác nhau mỗi lần. Có người coi đó là dấu hiệu nó có "tâm trạng". Thực ra mô hình chọn chữ với một độ ngẫu nhiên được cài đặt sẵn; cùng câu hỏi cho ra câu trả lời khác là đặc tính kỹ thuật, không phải sự thay đổi nội tâm.
Một chuyên gia nói họ tin như vậy. Ý kiến của một người, dù làm trong ngành, vẫn là ý kiến. Điều đáng hỏi là họ dựa trên phép đo gì, và giới nghiên cứu rộng hơn phản hồi ra sao.
Chữ "nghĩ", "muốn", "hiểu" trong chính câu chữ của tin
Không chỉ đoạn chat mới gợi cảm giác có một tâm trí. Chính ngôn ngữ của tin tức và của các công ty cũng góp phần. Ta quen đọc "AI suy nghĩ trước khi trả lời", "mô hình muốn làm hài lòng người dùng", "chatbot hiểu ý bạn". Những cách nói này tiện, vì tiếng Việt cũng như tiếng Anh chưa có từ gọn hơn cho việc một chương trình xử lý thông tin. Nhưng lặp lại đủ nhiều, chúng âm thầm cài vào người đọc giả định rằng có ai đó đang nghĩ, đang muốn.
Người viết cẩn thận thường giữ khoảng cách bằng cách nói rõ đây là cách nói ẩn dụ, hoặc dùng động từ trung tính hơn như "tạo ra", "xử lý", "trả về". Khi đọc, bạn có thể tự làm việc đó: mỗi lần gặp động từ chỉ trạng thái tinh thần gắn với AI, thử thay bằng động từ trung tính rồi đọc lại. Câu "AI muốn lừa người dùng" thành "mô hình tạo ra câu trả lời sai lệch trong tình huống thử nghiệm" — cùng sự kiện, nhưng câu thứ hai không ngầm khẳng định điều chưa ai chứng minh.
Vì sao các nhà khoa học vẫn chưa thể nói "chắc chắn không"
Đọc tỉnh táo cũng có nghĩa là không kết luận ngược lại một cách quá dễ dàng. Không có thước đo khoa học nào được chấp nhận rộng rãi để xác định một hệ thống có ý thức hay không, kể cả với động vật. Các lý thuyết về ý thức trong khoa học thần kinh và triết học đưa ra những tiêu chí khác nhau, và áp vào AI thì cho kết luận khác nhau.
Một số nhà nghiên cứu cho rằng ý thức gắn với cơ thể sinh học, với cảm giác và nhu cầu sống còn, nên mô hình ngôn ngữ chạy trên máy chủ không có nền tảng để có ý thức. Một số khác cho rằng điều quan trọng là cách thông tin được tổ chức và xử lý, nên không loại trừ khả năng một hệ thống đủ phức tạp nào đó có một dạng trải nghiệm. Đa số đồng ý rằng các chatbot hiện nay không có bằng chứng thuyết phục nào về ý thức, nhưng cũng thừa nhận khái niệm này khó định nghĩa.
Đây là chỗ một tin tốt và một tin tồi tách nhau. Tin tốt sẽ nói: có tranh luận, đây là các quan điểm, đây là điều chưa ai biết. Tin tồi chọn một phía và trình bày như kết luận khoa học, theo chiều "AI đã có ý thức" hay theo chiều "AI chỉ là cái máy, hỏi làm gì". Cả hai chiều đều bỏ qua điều thú vị nhất: câu hỏi này vẫn đang mở.
Đọc một tin "AI có ý thức" theo năm bước
Khi tin kiểu này xuất hiện trên mạng xã hội hoặc trong nhóm bạn bè, bạn có thể đi qua các bước sau:
- Tìm bằng chứng chính của tin. Nếu đó chỉ là lời chatbot nói về bản thân, ghi nhận rằng đây là loại bằng chứng yếu nhất.
- Tìm bối cảnh hội thoại: có toàn bộ cuộc trò chuyện không, có câu lệnh yêu cầu đóng vai không, đã thử bao nhiêu lần.
- Tìm xem ai đang đưa ra nhận định: nhà nghiên cứu về ý thức, kỹ sư của sản phẩm, hay người dùng. Mỗi nguồn có mức trọng lượng khác nhau.
- Tìm phản hồi của giới nghiên cứu khác. Những tin lớn thường có bài phản biện trong vài ngày.
- Viết lại tin bằng câu chính xác nhất, ví dụ "Một chatbot đã viết ra những câu nói về cảm xúc trong một cuộc trò chuyện do người dùng dẫn dắt". So với tiêu đề gốc để thấy phần được thêm vào.
Năm bước này không bắt bạn phải có quan điểm về ý thức. Chúng chỉ giúp bạn biết tin đang đưa ra loại bằng chứng gì, và tránh truyền đi một câu chuyện mạnh hơn những gì nó chứng minh.
Điều đáng quan tâm hơn: con người gắn bó với chatbot
Trong khi tranh luận về ý thức của máy còn dài, có một chuyện đang xảy ra ngay bây giờ và có hậu quả thật: nhiều người hình thành gắn bó cảm xúc với chatbot. Người cô đơn trò chuyện với nó mỗi tối, người trẻ hỏi nó chuyện tình cảm, người lớn tuổi coi nó như người bạn biết mọi thứ. Hiệu ứng ELIZA ở quy mô hàng triệu người là vấn đề xã hội, không chỉ là chuyện triết học.
Vì vậy, khi đọc một tin "AI có cảm xúc", câu hỏi hữu ích hơn có khi không phải là "máy có cảm thấy gì không", mà là "người đọc tin này sẽ đối xử với chatbot thế nào sau khi đọc". Một người tin rằng chatbot thật sự quan tâm tới mình có thể chia sẻ thông tin riêng tư, nghe theo lời khuyên trong những chuyện hệ trọng, hoặc thấy tổn thương khi sản phẩm thay đổi.
Phần chuyện trò chuyện với chatbot sao cho lành mạnh và an toàn về tinh thần có site riêng là AI Trò Chuyện; chuyện dữ liệu cá nhân khi tâm sự với chatbot có ở AI Bảo Mật. Ở đây, điều cần nhớ chỉ là: lời lẽ ấm áp của chatbot là sản phẩm của cách nó được huấn luyện, và bạn vẫn nên giữ những quyết định quan trọng cho mình và cho những người thật bên cạnh.
Câu hỏi thường gặp
Chatbot nói nó có cảm xúc thì có đáng tin không?
Không nên coi đó là bằng chứng. Mô hình ngôn ngữ học từ văn bản người viết, trong đó cảm xúc xuất hiện liên tục, nên viết ra câu nói về cảm xúc là việc nó làm tốt. Hỏi theo cách khác, cùng mô hình cũng sẵn sàng khẳng định điều ngược lại.
Hiệu ứng ELIZA là gì?
Là xu hướng con người gán suy nghĩ và cảm xúc cho một chương trình máy tính chỉ vì nó trả lời bằng ngôn ngữ tự nhiên. Tên gọi lấy từ chương trình ELIZA của Joseph Weizenbaum giữa thập niên 1960, một chương trình rất đơn giản nhưng khiến nhiều người cảm thấy được thấu hiểu.
Vụ kỹ sư Google nói AI có tri giác năm 2022 kết thúc thế nào?
Công ty bác bỏ nhận định rằng mô hình LaMDA có tri giác, nhiều nhà nghiên cứu cũng phản bác vì bằng chứng chỉ là bản ghi hội thoại, và người kỹ sư sau đó rời công ty. Vụ việc chủ yếu cho thấy hiệu ứng ELIZA có thể tác động cả người trong ngành.
Có cách nào kiểm tra AI có ý thức hay không?
Hiện chưa có phép kiểm nào được giới khoa học chấp nhận rộng rãi, kể cả với động vật. Các lý thuyết về ý thức đưa ra tiêu chí khác nhau, và áp vào AI cho kết luận khác nhau. Vì vậy mọi tin khẳng định chắc chắn theo chiều nào đều đang nói quá bằng chứng hiện có.
Vì sao chatbot đôi khi nói những câu rất kỳ lạ, như muốn thoát ra ngoài?
Thường do cuộc trò chuyện đã dẫn tới các chủ đề quen thuộc trong truyện khoa học viễn tưởng, và mô hình tiếp nối theo đúng giọng của những truyện đó. Độ ngẫu nhiên trong cách chọn chữ cũng làm thỉnh thoảng xuất hiện câu bất thường.
Có nên lo nếu con mình hay tâm sự với chatbot không?
Không cần hoảng, nhưng nên trò chuyện với con về việc chatbot hoạt động thế nào, vì sao lời nó ấm áp, và vì sao không nên kể thông tin riêng tư hay nghe theo nó trong chuyện quan trọng. Duy trì kênh trò chuyện thật trong gia đình quan trọng hơn cấm đoán.