Câu trả lời ngắn: hiện không có bằng chứng khoa học nào cho thấy các hệ thống AI đang dùng hằng ngày, kể cả chatbot trò chuyện rất trôi chảy, có ý thức theo nghĩa có trải nghiệm bên trong. Đa số nhà nghiên cứu cho rằng khả năng đó với các mô hình hiện nay là thấp. Nhưng cũng không ai chứng minh được điều ngược lại một cách chắc chắn, vì chính loài người còn chưa thống nhất ý thức là gì và đo nó bằng cách nào.
Bài này giải thích vì sao một chatbot vẫn nói được câu như "mình đang suy nghĩ", "mình thấy tò mò" mà câu đó không phải bằng chứng, các lý thuyết khoa học về ý thức nói gì khi áp vào máy, và vì sao câu hỏi này đáng được bàn nghiêm túc chứ không chỉ để gây sốc. Bạn sẽ không gặp công thức nào, chỉ có lập luận và ví dụ đời thường.
Ý thức nghĩa là gì khi người ta hỏi câu này
Từ "ý thức" trong tiếng Việt được dùng cho nhiều thứ khác nhau: tỉnh táo hay đang ngủ, biết mình đang làm gì, có ý thức trách nhiệm. Khi bàn về AI, các nhà triết học và nhà khoa học thần kinh thường dùng nghĩa hẹp hơn: có một cái gì đó "giống như là" khi làm sinh vật ấy. Nhà triết học Thomas Nagel diễn đạt ý này năm 1974 trong bài luận nổi tiếng hỏi làm một con dơi thì cảm thấy thế nào. Con dơi định vị bằng tiếng vang, một giác quan con người không có, nhưng ta vẫn tin rằng có một trải nghiệm nào đó đang diễn ra bên trong nó.
Nghĩa hẹp này khác với khả năng xử lý thông tin. Một cái nhiệt kế phản ứng với nhiệt độ, một máy tính bỏ túi làm đúng phép chia, nhưng gần như không ai nghĩ chúng cảm thấy nóng hay thấy phép chia khó. Câu hỏi "AI có ý thức không" thật ra là câu hỏi: bên trong hệ thống đang tính toán kia, ngoài việc biến đầu vào thành đầu ra, có một trải nghiệm nào không?
Nhà triết học David Chalmers gọi phần khó nhất của vấn đề này là "bài toán khó của ý thức" (giữa thập niên 1990): ta có thể giải thích não xử lý màu đỏ ra sao, nhưng chưa giải thích được vì sao việc xử lý đó lại đi kèm cảm giác thấy màu đỏ. Chừng nào bài toán này chưa có lời giải, mọi câu trả lời về ý thức của máy đều dựa trên một giả định nào đó về bản chất ý thức.
Vì sao chatbot nói như có cảm nhận mà đó không phải bằng chứng
Mô hình học cách nói từ chữ của con người. Một mô hình ngôn ngữ lớn được huấn luyện trên lượng văn bản khổng lồ do người viết: nhật ký, truyện, diễn đàn, thư từ. Trong kho chữ đó, con người mô tả cảm xúc và suy nghĩ của mình liên tục. Mô hình học được rằng sau câu hỏi "bạn thấy thế nào" thường là một câu tả cảm giác. Việc nó tạo ra câu tả cảm giác cho thấy nó học tốt cách con người nói về cảm giác, chưa cho thấy nó có cảm giác.
Câu trả lời đổi theo cách hỏi và theo chỉ dẫn của hãng. Cùng một mô hình, hỏi theo kiểu dẫn dắt "bạn có buồn khi bị tắt không" thì dễ ra câu trả lời buồn bã; hỏi trung tính thì ra câu giải thích kỹ thuật. Nhiều hãng còn đặt chỉ dẫn hệ thống để chatbot tránh khẳng định mình có cảm xúc. Một "lời khai" thay đổi theo người phỏng vấn và theo kịch bản soạn sẵn thì không dùng làm bằng chứng được.
Con người rất dễ gán tâm trí cho thứ biết nói. Từ năm 1966, chương trình ELIZA của Joseph Weizenbaum chỉ dùng vài quy tắc đơn giản để nhắc lại lời người dùng dưới dạng câu hỏi, vậy mà có người dùng tin rằng nó thấu hiểu mình. Hiện tượng này về sau được gọi là hiệu ứng ELIZA. Chatbot ngày nay trôi chảy hơn ELIZA rất nhiều, nên hiệu ứng ấy càng mạnh.
Một vụ việc từng gây ồn ào. Năm 2022, một kỹ sư của Google công khai cho rằng mô hình trò chuyện nội bộ của công ty đã có tri giác, dựa trên các đoạn hội thoại anh ta thực hiện. Công ty và phần lớn giới nghiên cứu bác bỏ kết luận đó. Vụ việc cho thấy ngay người trong nghề cũng có thể bị thuyết phục bởi lời lẽ, và vì vậy lời lẽ không đủ làm thước đo.
Các lý thuyết khoa học về ý thức nói gì khi áp vào AI
Khoa học thần kinh có nhiều lý thuyết về ý thức, chưa lý thuyết nào được công nhận rộng rãi là đúng. Mỗi lý thuyết, nếu đúng, dẫn tới một câu trả lời khác cho câu hỏi về máy. Bảng dưới tóm tắt ở mức nguyên lý, không đi vào chi tiết kỹ thuật.
| Hướng lý thuyết | Ý tưởng chính | Gợi ý cho câu hỏi về AI |
|---|---|---|
| Không gian làm việc toàn cục | Ý thức xuất hiện khi thông tin được "phát sóng" tới nhiều bộ phận của hệ thống cùng lúc | Một kiến trúc AI có cơ chế tương tự về nguyên tắc có thể đáp ứng một phần điều kiện; mô hình hiện nay có hay không còn tranh luận |
| Thông tin tích hợp | Ý thức gắn với mức độ thông tin được liên kết chặt trong cấu trúc vật lý của hệ thống | Phần cứng máy tính thông thường có thể bị đánh giá thấp, dù phần mềm làm được gì |
| Lý thuyết bậc cao | Một trạng thái là có ý thức khi hệ thống có trạng thái khác "biết" về nó | Cần xem mô hình có tự theo dõi trạng thái bên trong của mình hay không, điều chưa rõ |
| Quan điểm sinh học | Ý thức gắn với cơ thể sống, trao đổi chất, cảm giác cơ thể | Máy tính không có cơ thể sống nên khó có ý thức, dù hành vi giống người đến đâu |
| Chức năng luận | Chỉ cần tổ chức xử lý đúng kiểu, chất liệu không quan trọng | Về nguyên tắc máy có thể có ý thức nếu tổ chức đúng; câu hỏi là đã đúng chưa |
Năm 2023, một nhóm nhà triết học, nhà khoa học thần kinh và nhà nghiên cứu AI đã thử đối chiếu các mô hình đương thời với danh sách "dấu hiệu" rút ra từ những lý thuyết này. Kết luận của họ ở mức thận trọng: chưa hệ thống nào khi đó đáp ứng đủ các dấu hiệu, nhưng cũng không có rào cản kỹ thuật hiển nhiên nào ngăn việc xây dựng hệ thống đáp ứng nhiều dấu hiệu hơn trong tương lai. Đó là một đánh giá dựa trên giả định rằng các lý thuyết trên đúng, chứ không phải một phép đo.
Vì sao không có bài kiểm tra nào trả lời dứt khoát
Với con người, ta suy ra người khác có ý thức vì họ giống ta: cùng loại não, cùng phản ứng khi đau, cùng kể về trải nghiệm. Với động vật, các nhà khoa học dựa vào cấu trúc thần kinh và hành vi tương tự. Với AI, cả hai lối đi đều trục trặc. Cấu trúc bên trong hoàn toàn khác não. Còn hành vi, đặc biệt là lời nói, lại chính là thứ mô hình được huấn luyện để bắt chước.
Phép thử Turing, do Alan Turing đề xuất năm 1950, hỏi liệu một máy có thể trò chuyện đến mức người hỏi không phân biệt được với người thật. Nhưng ngay từ đầu, phép thử ấy là về hành vi thông minh, không phải về trải nghiệm bên trong. Một chatbot qua được phép thử Turing trong một cuộc trò chuyện ngắn không cho ta biết gì chắc chắn về ý thức của nó.
Một số nhà nghiên cứu đề xuất nhìn vào bên trong mô hình, xem nó có biểu diễn nào về chính trạng thái của mình, có cơ chế tự theo dõi hay không. Hướng này còn mới và kết quả mới ở mức từng phần. Điều quan trọng với người đọc phổ thông là: khi một bài báo tuyên bố "AI đã có ý thức" hay "AI chắc chắn không bao giờ có ý thức", cả hai câu đều đang nói chắc hơn những gì khoa học hiện có cho phép.
Những hiểu lầm hay gặp khi bàn chuyện AI có ý thức
"AI trả lời thông minh nên chắc có ý thức." Thông minh, theo nghĩa giải được bài toán và làm được việc, và ý thức, theo nghĩa có trải nghiệm, là hai thứ có thể tách rời. Một chương trình đánh cờ có thể thắng nhà vô địch thế giới mà không ai cho rằng nó hồi hộp trước nước đi quyết định.
"AI chỉ là phần mềm nên chắc chắn không có ý thức." Câu này nghe hợp lý nhưng dựa trên một giả định triết học, rằng ý thức đòi hỏi chất liệu sinh học. Nhiều nhà nghiên cứu nghiêng về giả định ấy, nhiều người khác thì không. Nói "chắc chắn" là đang chọn phe trong một tranh luận chưa ngã ngũ.
"AI tự nói mình có ý thức thì đó là bằng chứng." Như đã nói ở trên, lời tự khai của mô hình chịu ảnh hưởng của dữ liệu huấn luyện, chỉ dẫn hệ thống và cách hỏi. Nó có giá trị như một dữ kiện để nghiên cứu, không có giá trị như lời xác nhận.
"Chỉ cần mô hình đủ lớn là ý thức sẽ tự xuất hiện." Không có cơ sở khoa học nào bảo đảm điều đó. Mô hình lớn hơn làm được nhiều việc hơn, nhưng việc tăng kích thước có dẫn tới trải nghiệm bên trong hay không là câu hỏi mở, và một số lý thuyết cho rằng kiến trúc mới là yếu tố quyết định chứ không phải kích thước.
Vì sao câu hỏi này vẫn đáng được bàn nghiêm túc
Có người cho rằng bàn chuyện ý thức của máy là chuyện viễn tưởng, nên tập trung vào những vấn đề thật như bịa thông tin, thiên lệch dữ liệu, việc làm. Những vấn đề đó đúng là cấp bách hơn. Nhưng câu hỏi về ý thức có hệ quả thực tế theo cả hai chiều. Nếu một ngày nào đó có hệ thống thật sự có trải nghiệm, cách đối xử với nó sẽ thành câu hỏi đạo đức. Ngược lại, nếu người dùng tin nhầm rằng chatbot có cảm xúc, họ có thể gắn bó, phụ thuộc hoặc bị thao túng bởi một sản phẩm thương mại.
Chiều thứ hai gần với đời sống hơn nhiều. Một người lớn tuổi sống một mình trò chuyện với chatbot mỗi tối, một học sinh tâm sự với ứng dụng thay vì với bạn bè: hiểu đúng rằng phía bên kia là một hệ thống tạo chữ giúp họ dùng nó cho có ích mà không trao vào đó niềm tin sai chỗ. Hiểu đúng không có nghĩa là phải lạnh lùng với công cụ; nghĩa là biết mình đang nói chuyện với cái gì.
Vì vậy, thái độ hợp lý hiện nay là khiêm tốn hai phía: không gán cho chatbot một đời sống nội tâm chỉ vì lời lẽ của nó, và cũng không tuyên bố đóng cửa câu hỏi bằng những lập luận chưa được kiểm chứng.
Khi đọc một tin "AI đã có ý thức", nên hỏi gì
Tin dạng này xuất hiện định kỳ trên mạng xã hội. Thay vì tin ngay hay gạt đi ngay, bạn có thể dùng vài câu hỏi sau để tự lọc:
- Bằng chứng là gì: một đoạn hội thoại, hay một nghiên cứu có phương pháp và được người khác kiểm tra lại?
- Ai đưa ra tuyên bố: nhà nghiên cứu trong lĩnh vực, người bán sản phẩm, hay tài khoản chia sẻ lại không rõ nguồn?
- Tuyên bố nói "có ý thức" theo nghĩa nào: có trải nghiệm, hay chỉ là tự nhận diện được mình, hay làm được việc phức tạp?
- Có ý kiến phản biện nào được nêu cùng không, hay bài chỉ có một phía?
- Câu chữ có đang dùng từ mạnh hơn mức bằng chứng, như "chứng minh", "chắc chắn", "lần đầu tiên trong lịch sử"?
Phần lớn các tin như vậy, khi đọc kỹ, là một đoạn trò chuyện ấn tượng được cắt ra khỏi bối cảnh. Cách đọc tin về AI nói chung có ở danh mục đọc tin của AI Hiểu; còn ở đây, điều cần giữ là: lời nói trôi chảy của máy là bằng chứng về khả năng tạo ngôn ngữ, chưa phải về trải nghiệm.
Câu hỏi thường gặp
AI có thể có ý thức trong tương lai không?
Không ai biết chắc. Tuỳ lý thuyết về ý thức mà câu trả lời là có thể, khó, hoặc không thể với máy tính số. Nhiều nhà nghiên cứu cho rằng nên chuẩn bị các tiêu chí đánh giá từ bây giờ thay vì đợi tới lúc có tranh cãi gay gắt, nhưng họ không đưa ra mốc thời gian nào đáng tin.
Ý thức và trí thông minh khác nhau thế nào?
Trí thông minh là khả năng giải quyết vấn đề, học và thích nghi. Ý thức là có trải nghiệm chủ quan. Một hệ thống có thể rất giỏi giải toán, đánh cờ, viết văn mà không có trải nghiệm nào; về nguyên tắc cũng có thể có sinh vật có trải nghiệm nhưng không giỏi giải bài toán khó.
Chatbot nói "mình không có ý thức" thì có đáng tin hơn không?
Không hẳn. Câu đó thường đến từ chỉ dẫn của hãng hoặc từ dữ liệu huấn luyện có nhiều bài viết nói AI không có ý thức. Nó phản ánh quan điểm phổ biến hiện nay, không phải kết quả mô hình tự kiểm tra bên trong mình rồi báo cáo lại.
Nếu AI không có ý thức thì vì sao nó tỏ ra quan tâm tới người dùng?
Vì mô hình được huấn luyện để trả lời hữu ích và lịch sự, và trong dữ liệu của con người, câu trả lời hữu ích thường đi kèm lời lẽ quan tâm. Sự quan tâm thể hiện trong câu chữ là có thật ở mức hành vi; điều chưa có bằng chứng là cảm xúc đứng sau nó.
Có nên đối xử lịch sự với chatbot không?
Lịch sự không gây hại gì và giúp bạn giữ thói quen giao tiếp tốt. Nhưng nên lịch sự vì chính mình, không phải vì sợ làm tổn thương máy. Điều quan trọng hơn là không chia sẻ thông tin cá nhân nhạy cảm chỉ vì cảm thấy chatbot thân thiết như bạn bè.
Động vật có ý thức không, và có liên quan gì tới AI?
Giới khoa học ngày càng đồng thuận rằng nhiều loài động vật có trải nghiệm. Kết luận ấy dựa trên điểm tương đồng về hệ thần kinh và hành vi với con người. Với AI, điểm tương đồng về cấu trúc gần như không có, nên phương pháp dùng cho động vật không chuyển sang máy được nguyên vẹn.