Câu trả lời ngắn: AI hiện nay "hiểu" theo nghĩa nắm được quan hệ giữa các khái niệm đủ tốt để làm được nhiều việc cần hiểu, nhưng cái hiểu đó khác cái hiểu của con người ở những điểm quan trọng, và giới nghiên cứu còn tranh luận nên gọi nó là hiểu hay không. Câu hỏi không có đáp án có hoặc không gọn gàng, vì chính chữ "hiểu" cần được tách thành nhiều tầng.
Bài này đi qua hai lập luận kinh điển nghi ngờ máy có hiểu (căn phòng tiếng Trung và "con vẹt ngẫu nhiên"), những bằng chứng khiến nhiều người cho rằng mô hình hiểu nhiều hơn bắt chước, và một cách thực tế để bạn tự đánh giá AI hiểu tới đâu trong việc của mình.
Căn phòng tiếng Trung: lập luận năm 1980 vẫn còn được nhắc
Năm 1980, nhà triết học John Searle đưa ra một thí nghiệm tưởng tượng. Một người không biết tiếng Trung ngồi trong phòng kín, có trong tay một cuốn sách quy tắc rất dày viết bằng ngôn ngữ người ấy đọc được. Bên ngoài, người ta nhét vào khe cửa những tờ giấy ghi câu hỏi bằng chữ Trung. Người trong phòng tra sách, theo quy tắc mà chép ra các ký tự trả lời, rồi đẩy ra ngoài. Nếu sách quy tắc đủ tốt, người bên ngoài sẽ tin trong phòng có người thạo tiếng Trung.
Searle hỏi: người trong phòng có hiểu tiếng Trung không? Rõ ràng là không, người ấy chỉ thao tác ký hiệu theo hình dạng. Và theo Searle, một chương trình máy tính cũng vậy: xử lý ký hiệu theo quy tắc, dù kết quả có giống người đến đâu, không đủ để tạo ra cái hiểu thật.
Lập luận này bị phản biện từ nhiều phía. Phản biện nổi tiếng nhất cho rằng không phải người trong phòng hiểu, mà cả hệ thống gồm người, sách và giấy mới là thứ hiểu. Searle đáp rằng nếu người ấy học thuộc cả cuốn sách thì hệ thống nằm gọn trong đầu họ, mà họ vẫn không hiểu. Cuộc tranh luận kéo dài hơn bốn mươi năm và chưa có bên nào thắng hẳn. Giá trị của nó với người đọc hôm nay là nhắc rằng trả lời đúng và hiểu là hai thứ có thể tách rời.
"Con vẹt ngẫu nhiên": phiên bản hiện đại của sự nghi ngờ
Năm 2021, một nhóm nhà ngôn ngữ học máy tính, trong đó có Emily Bender và Timnit Gebru, viết một bài báo có cụm từ "stochastic parrots", tạm dịch là con vẹt ngẫu nhiên. Ý chính: mô hình ngôn ngữ ghép lại các mẩu chữ theo xác suất đã học được từ dữ liệu, mà không có liên hệ với ý nghĩa hay với thế giới thật mà chữ đó nói tới. Nó giống con vẹt nói được câu đúng ngữ pháp mà không biết câu đó nghĩa là gì.
Trước đó một năm, Bender cùng Alexander Koller đưa ra một hình ảnh khác: một con bạch tuộc nghe lén đường dây điện tín dưới đáy biển giữa hai người trên hai hòn đảo. Nó học được thống kê các tin nhắn đủ để giả làm một người, cho tới khi người kia hỏi cách đối phó với một con gấu đang lao tới. Con bạch tuộc chưa từng thấy gấu, chưa từng cầm gậy, nên câu trả lời của nó chỉ có thể là ghép chữ quen thuộc, không gắn với thực tế.
Lập luận này nhấn vào chuyện "neo vào thế giới": con người học chữ "nóng" kèm cảm giác bị bỏng, học chữ "nặng" kèm việc nhấc vật. Mô hình chỉ học từ văn bản, nên nghĩa mà nó nắm có thể là nghĩa trong quan hệ giữa các chữ với nhau, chưa phải nghĩa trong quan hệ với vật thật. Các mô hình đa phương thức học thêm từ ảnh và âm thanh làm lập luận này phức tạp hơn, nhưng chưa xoá được nó.
Những dấu hiệu khiến nhiều nhà nghiên cứu nghĩ mô hình hiểu nhiều hơn bắt chước
Giải được bài chưa từng gặp nguyên văn. Mô hình có thể trả lời câu hỏi được ghép từ các yếu tố lạ, ví dụ giải thích một khái niệm vật lý bằng chuyện nấu phở, mà khó có khả năng câu trả lời ấy nằm sẵn trong dữ liệu. Để làm vậy, nó phải nắm được cấu trúc của khái niệm chứ không chỉ chép lại chuỗi chữ.
Có biểu diễn bên trong về thế giới. Một số nghiên cứu "mở hộp" mô hình cho thấy bên trong nó có những vùng tính toán tương ứng với khái niệm như vị trí địa lý, thời gian, hay trạng thái bàn cờ trong một ván cờ chỉ được mô tả bằng chữ. Nghĩa là mô hình không chỉ nhớ chữ, nó dựng một dạng mô hình thu nhỏ của thứ chữ ấy mô tả. Các kết quả này còn đang được kiểm tra và mở rộng.
Chuyển được kiến thức giữa các ngôn ngữ. Mô hình học phần lớn bằng tiếng Anh vẫn trả lời được câu hỏi tiếng Việt về điều nó học từ tiếng Anh. Điều đó gợi ý rằng nó lưu một phần kiến thức ở dạng ít phụ thuộc vào ngôn ngữ cụ thể.
Phản biện lại. Những người hoài nghi đáp rằng dữ liệu huấn luyện lớn tới mức "chưa từng gặp" khó xác định, và biểu diễn bên trong có thể là công cụ thống kê hữu ích chứ chưa phải hiểu. Hai phía đang tranh luận về cùng một bằng chứng, khác nhau ở chỗ định nghĩa thế nào là hiểu.
Tách chữ "hiểu" thành nhiều tầng
Thay vì hỏi AI hiểu hay không, có ích hơn là hỏi AI hiểu ở tầng nào. Bảng dưới là một cách chia mang tính minh hoạ, không phải phân loại khoa học chính thức.
| Tầng hiểu | Ví dụ | Mô hình hiện nay làm được tới đâu |
|---|---|---|
| Nắm nghĩa câu chữ | Biết "bà ngoại" là mẹ của mẹ | Làm tốt với tiếng phổ biến, tiếng Việt tốt nhưng vẫn có lỗi với từ địa phương |
| Nắm quan hệ giữa khái niệm | Biết mưa làm đường trơn, đường trơn dễ ngã | Làm tốt trong phần lớn tình huống quen thuộc |
| Suy luận nhiều bước | Từ lịch tàu và giờ hẹn, tính ra có kịp không | Làm được nhiều nhưng có thể trượt ở một bước mà vẫn trình bày tự tin |
| Neo vào trải nghiệm thật | Biết cảm giác tay bị bỏng | Không có trải nghiệm cơ thể; chỉ có mô tả của người khác |
| Biết mình hiểu tới đâu | Nhận ra mình không chắc và nói ra | Còn yếu; hay trả lời chắc chắn cả khi sai |
Nhìn theo tầng thì thấy tranh luận bớt căng: ở ba tầng đầu, mô hình làm được nhiều việc mà trước đây ta nghĩ cần hiểu mới làm được. Ở hai tầng sau, khác biệt với con người còn rõ. Chỗ yếu ở tầng cuối là lý do AI hay bịa một cách tự tin, chuyện được giải thích kỹ ở danh mục về giới hạn của AI.
Vì sao AI có lúc hiểu sâu, có lúc sai ngớ ngẩn
Người dùng thường bối rối khi cùng một chatbot vừa giải thích rất hay một khái niệm khó, vừa sai một câu hỏi mẹo mà học sinh tiểu học cũng trả lời được. Với con người, hai năng lực ấy thường đi cùng nhau: ai giải thích được thuyết tương đối thì hiếm khi đếm sai số ngón tay. Với mô hình, chúng có thể tách rời, vì mô hình học từ những gì xuất hiện nhiều trong dữ liệu chứ không đi theo thứ tự từ dễ tới khó như người học.
Câu hỏi mẹo thường được thiết kế giống hệt một câu hỏi quen thuộc nhưng đổi một chi tiết nhỏ. Mô hình bị kéo về câu trả lời quen thuộc, giống như người đọc lướt nhầm một từ. Khác ở chỗ người đọc lướt khi được nhắc sẽ nhận ra ngay, còn mô hình đôi khi vẫn khăng khăng. Các mô hình có bước "suy luận" kéo dài trước khi trả lời đã bớt được một phần lỗi kiểu này, nhưng chưa hết.
Hệ quả thực tế: không nên đánh giá cái hiểu của AI bằng một hai câu trả lời ấn tượng, cũng không nên gạt bỏ nó vì một lỗi buồn cười. Mức hiểu của nó không đồng đều theo kiểu con người, mà lồi lõm theo vùng.
Hiểu hay không thì quan trọng gì với người dùng bình thường
Với người dùng, câu hỏi triết học này có một hệ quả rất thực tế: mức tin cậy bạn nên đặt vào câu trả lời. Khi một đồng nghiệp hiểu việc giải thích cho bạn, bạn có thể tin rằng họ sẽ tự nhận ra khi tình huống khác thường. Với AI, không nên mặc định như vậy. Câu trả lời có thể đúng trong chín tình huống quen và sai ở tình huống thứ mười mà giọng văn vẫn y hệt.
Hệ quả thứ hai là chuyện giao việc. Những việc mà sai sót dễ thấy và dễ sửa, như viết nháp một lá thư, gợi ý cách diễn đạt, tóm tắt một bài báo bạn sẽ đọc lại, thì cái hiểu "lồi lõm" của AI ít gây hại. Những việc mà sai sót khó thấy, như con số trong hợp đồng, liều lượng, mốc thời hạn, thì chính chỗ AI không biết mình hiểu tới đâu là chỗ rủi ro nhất.
Hệ quả thứ ba là cách nói chuyện về AI với người khác, nhất là với trẻ em và người lớn tuổi trong nhà. Nói "máy hiểu hết" khiến người nghe tin quá mức; nói "máy chỉ là con vẹt" khiến họ bỏ lỡ một công cụ hữu ích. Một cách nói cân bằng hơn: máy nắm được rất nhiều quan hệ giữa các khái niệm, nhưng không có trải nghiệm và không luôn biết khi nào mình sai.
Cách tự đánh giá AI hiểu việc của bạn tới đâu
Bạn không cần giải quyết tranh luận triết học để dùng AI cho tỉnh táo. Một cách thực tế là thử nó trên chính lĩnh vực bạn rành:
- Hỏi một điều bạn biết rõ câu trả lời, trong nghề hoặc trong đời sống của mình, xem câu trả lời đúng tới mức nào.
- Đổi một chi tiết nhỏ trong câu hỏi, ví dụ đổi điều kiện hay con số, xem câu trả lời có đổi theo hợp lý không hay vẫn lặp lại câu cũ.
- Hỏi "vì sao" sau câu trả lời. Một lời giải thích nhất quán với câu trả lời là dấu hiệu tốt; lời giải thích lạc sang hướng khác là dấu hiệu đang ghép chữ.
- Đưa một tình huống ngược với thói quen thông thường trong nghề, xem mô hình có nhận ra điểm khác không.
- Ghi lại những vùng nó hay sai để lần sau biết chỗ nào cần kiểm kỹ.
Khi thử, đừng đưa vào tên khách hàng, số liệu nội bộ hay thông tin cá nhân; dùng tình huống giả định là đủ để đánh giá. Sau vài lần, bạn sẽ có bản đồ riêng về chỗ AI "hiểu" được việc của bạn và chỗ nó chỉ nói nghe xuôi tai.
Câu hỏi thường gặp
Nếu AI không hiểu thì sao nó dịch được?
Dịch tốt đòi hỏi nắm quan hệ giữa các khái niệm ở hai ngôn ngữ, và mô hình làm điều đó khá tốt với văn bản thông thường. Nhưng với thành ngữ, chơi chữ, văn bản pháp lý hay y khoa, lỗi vẫn xảy ra, nhiều khi ở chỗ khó thấy. Bản dịch quan trọng vẫn cần người thạo cả hai thứ tiếng xem lại.
Căn phòng tiếng Trung có áp dụng được cho chatbot hôm nay không?
Có và không. Chatbot cũng thao tác ký hiệu theo quy tắc học được, nên lập luận vẫn đứng. Nhưng quy tắc của chatbot không phải sách viết tay mà là hàng tỉ tham số tự học, và có bằng chứng về biểu diễn bên trong mà thời Searle không ai tưởng tượng ra. Nhiều người cho rằng điều đó làm lập luận yếu đi, người khác thì không.
Mô hình đa phương thức nhìn được ảnh thì có hiểu hơn không?
Học thêm từ ảnh và âm thanh giúp mô hình nối chữ với hình dạng, màu sắc, âm thanh, nên một phần lập luận "chỉ biết chữ" yếu đi. Tuy vậy, nhìn ảnh vẫn khác cầm, nếm, chạm và hành động trong thế giới. Phần neo vào trải nghiệm cơ thể vẫn còn thiếu.
AI có hiểu cảm xúc của người dùng không?
Mô hình nhận ra khá tốt dấu hiệu cảm xúc trong câu chữ, như buồn, giận, lo lắng, và điều chỉnh câu trả lời cho phù hợp. Đó là nhận diện và phản hồi, chưa phải đồng cảm theo nghĩa cùng cảm thấy. Danh mục này có bài riêng về chuyện AI có cảm xúc hay không.
Vì sao các chuyên gia giỏi lại bất đồng về chuyện AI hiểu hay không?
Vì họ không bất đồng nhiều về dữ kiện mà bất đồng về định nghĩa. Người cho rằng hiểu là làm đúng việc cần hiểu sẽ thấy mô hình hiểu khá nhiều. Người cho rằng hiểu đòi hỏi liên hệ với thế giới và trải nghiệm sẽ thấy mô hình chưa hiểu. Cả hai đều có lý lẽ.