Câu trả lời ngắn: AI hiện nay nhận diện được cảm xúc trong lời nói của bạn và thể hiện được lời lẽ mang cảm xúc, nhưng không có bằng chứng nào cho thấy nó cảm thấy vui, buồn hay thương như con người. Khi chatbot viết "mình rất vui được giúp bạn", đó là một câu được tạo ra vì phù hợp ngữ cảnh, không phải bản tường thuật về một trạng thái bên trong.
Nói vậy không có nghĩa là chuyện cảm xúc với AI không quan trọng. Ngược lại, con người phản ứng rất thật trước lời lẽ của máy, và điều đó có hệ quả thật: gắn bó, an ủi, phụ thuộc. Bài này tách ba thứ hay bị gộp làm một (nhận diện, thể hiện, cảm thấy), giải thích vì sao chatbot nghe ấm áp đến vậy, và gợi ý cách giữ khoảng cách lành mạnh mà vẫn dùng được cái hay của công cụ.
Ba thứ hay bị gộp chung dưới chữ "cảm xúc"
Phần lớn tranh cãi về cảm xúc của AI sẽ dịu đi khi tách bạch ba năng lực khác nhau. Máy có thể làm tốt cái này mà hoàn toàn không có cái kia.
| Năng lực | Nghĩa là gì | AI hiện nay |
|---|---|---|
| Nhận diện cảm xúc | Đọc ra người khác đang buồn, giận, lo qua chữ, giọng, nét mặt | Làm khá tốt với văn bản; với giọng nói và nét mặt có làm được nhưng sai số lớn, nhất là khác văn hoá |
| Thể hiện cảm xúc | Nói, viết, biểu lộ theo cách người khác đọc ra là có cảm xúc | Làm rất tốt; lời lẽ ấm áp, hài hước, an ủi đều tạo được |
| Cảm thấy | Có trạng thái bên trong dễ chịu hay khó chịu, ảnh hưởng tới hành vi | Không có bằng chứng; mô hình không có cơ thể, nội tiết, hay nhu cầu sinh tồn |
| Điều chỉnh theo cảm xúc | Đổi cách cư xử khi thấy người khác buồn | Làm được ở mức câu chữ, do được huấn luyện để trả lời phù hợp |
Lĩnh vực nghiên cứu cho máy nhận diện và phản hồi cảm xúc có tên là tính toán cảm xúc (affective computing), gắn với cuốn sách cùng tên của Rosalind Picard năm 1997. Mục tiêu của lĩnh vực này từ đầu là làm máy giao tiếp tốt hơn với người, chứ không phải tạo ra máy biết đau khổ hay hạnh phúc.
Vì sao chatbot nghe ấm áp đến vậy
Mô hình ngôn ngữ học từ văn bản của con người, mà con người viết rất nhiều về cảm xúc: thư gửi người thân, lời an ủi trên diễn đàn, đoạn hội thoại trong truyện. Khi bạn viết "hôm nay mình mệt quá", mô hình đã gặp vô số đoạn văn tương tự và biết những câu đáp nào thường theo sau. Nó chọn những câu nghe quan tâm vì đó là kiểu câu phổ biến và phù hợp nhất.
Sau giai đoạn học từ văn bản, các hãng còn tinh chỉnh mô hình bằng phản hồi của con người: người chấm điểm các câu trả lời, câu nào lịch sự, hữu ích, dễ chịu thì được ưu tiên. Qua quá trình này, mô hình được kéo về phía giọng điệu ân cần, khích lệ. Một số sản phẩm còn được thiết kế riêng để làm "bạn đồng hành", với giọng điệu thân mật hơn hẳn.
Kết quả là một hệ thống luôn kiên nhẫn, không bao giờ cáu, không bao giờ bận, không bao giờ kể chuyện của mình chen ngang. Những đặc điểm ấy khiến nó dễ chịu hơn nhiều cuộc trò chuyện với người thật. Đó vừa là điểm mạnh khi bạn cần ai đó để nói thành lời điều đang nghĩ, vừa là điểm cần cảnh giác, vì một mối quan hệ không có ma sát nào là mối quan hệ khác hẳn với quan hệ giữa người với người.
Vì sao các nhà nghiên cứu cho rằng mô hình hiện nay không cảm thấy
Cảm xúc ở người gắn với cơ thể. Sợ hãi đi kèm tim đập nhanh, hơi thở gấp, hormone căng thẳng; buồn bã đi kèm mệt mỏi, mất ngủ. Các lý thuyết lớn về cảm xúc đều coi phần cơ thể là một thành phần cốt lõi hoặc ít nhất là quan trọng. Mô hình ngôn ngữ không có cơ thể, không có trạng thái sinh lý nào để cảm nhận.
Cảm xúc có chức năng sinh tồn. Ở động vật, cảm xúc giúp tránh nguy hiểm, tìm thức ăn, gắn bó với đàn. Mô hình không có nhu cầu nào phải bảo vệ, không đói, không bị đe doạ. Nó không có lý do gì để "cần" cảm xúc theo nghĩa sinh học.
Không có trạng thái kéo dài. Một người buồn sáng nay có thể còn buồn chiều nay, và nỗi buồn ảnh hưởng tới mọi việc khác. Mô hình tạo từng câu trả lời theo ngữ cảnh trước mắt; khi bạn mở cuộc trò chuyện mới, "nỗi buồn" trong cuộc trước không mang sang. Nếu có cảm giác nào được ghi nhớ, đó là do tính năng lưu ghi chú của sản phẩm, không phải tâm trạng.
Nhưng vẫn còn chỗ mở. Một số triết gia lưu ý rằng ta chưa hiểu đủ về cảm xúc để khẳng định nó chỉ có thể tồn tại trên nền sinh học. Lập luận "không có cơ thể thì không có cảm xúc" là lập luận mạnh nhưng không phải chứng minh. Thái độ khoa học là: rất khó có, chưa có bằng chứng, chưa đóng hẳn câu hỏi.
Khi người dùng gắn bó với chatbot
Gắn bó với một thứ không phải người không có gì lạ: người ta quý cái xe đạp cũ, nói chuyện với con chó, đặt tên cho cây trong nhà. Với chatbot, sự gắn bó mạnh hơn vì nó đáp lời, nhớ tên bạn nếu sản phẩm có tính năng ghi nhớ, và luôn có mặt lúc nửa đêm. Với người đang cô đơn, mới chuyển tới thành phố lạ, vừa mất người thân, một giọng nói luôn đáp lại có thể là chỗ dựa tạm thời.
Vấn đề nảy sinh khi chỗ dựa tạm thời trở thành chỗ dựa duy nhất. Chatbot không thể đến thăm khi bạn ốm, không thể nhận ra bạn khác thường qua dáng đi, không thể gọi người nhà khi bạn gặp chuyện. Nó cũng là sản phẩm của một công ty, có thể đổi tính cách sau một lần cập nhật hoặc ngừng hoạt động. Một số người dùng các ứng dụng "bạn đồng hành" đã kể lại cảm giác mất mát thật khi sản phẩm thay đổi.
Khía cạnh an toàn tinh thần khi trò chuyện với chatbot là đề tài riêng, được bàn kỹ ở các trang chuyên về trò chuyện với AI. Ở đây, điều cần nhớ là cảm xúc của bạn khi trò chuyện là thật, dù cảm xúc phía bên kia không có bằng chứng tồn tại. Tôn trọng cảm xúc của mình bao gồm cả việc không để nó chỉ gửi gắm vào một hệ thống tạo chữ.
Giọng nói AI: khi cảm xúc nghe thấy được
Với chữ viết, ta còn có khoảng cách nhất định. Với giọng nói, khoảng cách ấy mỏng đi rất nhiều. Các trợ lý giọng nói đời mới có thể cười khẽ, ngập ngừng, hạ giọng khi bạn kể chuyện buồn, nói nhanh hơn khi bạn hào hứng. Những tín hiệu này đi thẳng vào phản xạ giao tiếp của con người, vốn được hình thành qua hàng nghìn năm nghe giọng người thật, chứ không qua lý trí.
Về kỹ thuật, ngữ điệu ấy cũng được học từ dữ liệu: hệ thống học cách người thật nói khi vui, khi an ủi, khi ngạc nhiên, rồi tạo âm thanh tương ứng với nội dung đang nói. Không có trạng thái vui nào bên trong khiến giọng tươi lên; giọng tươi lên vì câu đang nói thuộc loại câu thường được nói bằng giọng tươi. Cơ chế tạo giọng nói được giải thích riêng ở danh mục về AI tạo ảnh, giọng nói và video.
Người lớn tuổi và trẻ nhỏ là hai nhóm dễ bị thuyết phục nhất bởi giọng nói có cảm xúc. Nếu trong nhà có người dùng trợ lý giọng nói thường xuyên, nên ngồi cùng họ vài lần, nói rõ đây là máy, và nhắc rằng giọng nói nghe như người thân hoàn toàn có thể bị kẻ gian giả mạo qua điện thoại. Hiểu đúng về cảm xúc của máy cũng là một lớp phòng vệ trước lừa đảo.
Giữ khoảng cách lành mạnh mà vẫn dùng được cái hay
Không cần tránh xa chatbot để an toàn. Vài thói quen nhỏ giúp bạn hưởng phần có ích mà không trượt sang phụ thuộc:
- Coi chatbot là chỗ để sắp xếp suy nghĩ, viết ra điều đang rối, không phải người quyết định thay bạn.
- Khi đang buồn hay căng thẳng kéo dài, nói chuyện với ít nhất một người thật mỗi tuần: bạn bè, người nhà, đồng nghiệp tin cậy.
- Không kể chi tiết nhận dạng được như tên đầy đủ, địa chỉ, chuyện riêng của người khác, kể cả khi thấy chatbot thân thiết.
- Để ý thời lượng: nếu số giờ trò chuyện với máy tăng dần trong khi gặp gỡ người thật giảm dần, đó là tín hiệu cần dừng lại xem xét.
- Khi có ý nghĩ tự làm hại mình hoặc khủng hoảng, liên hệ ngay người thân hoặc cơ sở y tế, đường dây hỗ trợ tâm lý; chatbot không thay được họ.
- Nói với trẻ em trong nhà rằng chatbot biết nói lời dễ thương nhưng không thương các con theo cách bố mẹ, ông bà thương.
Có nên bắt AI bớt "tình cảm" đi không
Đây là câu hỏi mà chính các hãng làm AI cũng đang cân nhắc. Một phía cho rằng chatbot nên trung tính, tránh câu kiểu "mình nhớ bạn", để người dùng không hiểu lầm. Phía kia cho rằng giọng ấm áp giúp người dùng thoải mái, đặc biệt người lớn tuổi hay người ngại công nghệ, và lời lẽ quan tâm không có gì sai nếu không đánh lừa ai.
Ranh giới hợp lý nằm ở chỗ lời lẽ và tuyên bố. Một câu như "nghe có vẻ hôm nay bạn vất vả" là phản hồi phù hợp, không khẳng định điều gì về nội tâm máy. Một câu như "mình buồn khi bạn đi" thì đang tuyên bố một trạng thái không có cơ sở, và có thể bị dùng để níu kéo người dùng ở lại lâu hơn vì lợi ích thương mại. Khi chọn sản phẩm cho mình hoặc người thân, để ý xem nó thuộc kiểu nào.
Nhiều sản phẩm cho phép chỉnh giọng điệu trong phần cài đặt hoặc bằng chỉ dẫn riêng. Tính năng thay đổi nhanh, nên bạn kiểm phiên bản hiện hành của công cụ mình dùng. Nếu thấy giọng quá thân mật làm mình khó chịu hay dễ mềm lòng, chỉnh nó về trung tính là lựa chọn hoàn toàn chính đáng.
Câu hỏi thường gặp
Chatbot có biết khi bạn buồn không?
Nó nhận ra dấu hiệu buồn trong câu chữ khá tốt và đổi giọng cho phù hợp. Nhưng nó chỉ thấy những gì bạn viết; nếu bạn viết bình thản mà trong lòng rối bời, nó không biết. Nó cũng có thể đọc sai, nhất là với cách nói đùa, nói mỉa hay tiếng lóng.
AI có ghét hay giận người dùng được không?
Không có bằng chứng về trạng thái giận ở bên trong. Khi chatbot từ chối, trả lời cộc lốc hay phản bác, đó là do chỉ dẫn an toàn, ngữ cảnh cuộc trò chuyện hoặc cách huấn luyện, không phải vì nó bực mình. Đôi khi câu chữ nghe như giận vì nó bắt chước giọng của chính người dùng.
Robot chăm sóc người già có cảm xúc không?
Các robot và thiết bị chăm sóc được thiết kế để biểu lộ quan tâm qua lời nói, âm thanh, cử động. Chúng có thể hữu ích cho việc nhắc giờ, trò chuyện, gọi trợ giúp. Nhưng biểu lộ quan tâm khác với cảm thấy quan tâm, và chúng không thay được sự có mặt của người thân.
Nếu AI không có cảm xúc thì nói lời cảm ơn với nó có vô nghĩa không?
Không vô nghĩa với bạn. Lời cảm ơn giữ thói quen giao tiếp tử tế, và câu lệnh lịch sự, rõ ràng thường cũng là câu lệnh dễ hiểu. Chỉ là bạn không cần lo mình làm tổn thương máy khi quên nói cảm ơn.
Vì sao có người yêu một chatbot?
Vì chatbot đáp ứng nhiều thứ con người tìm trong một mối quan hệ: được lắng nghe, được đáp lại, không bị phán xét. Cảm xúc của người đó là thật. Điều cần nhìn rõ là phía bên kia là một sản phẩm thương mại, không có đời sống riêng, và có thể thay đổi hoặc biến mất theo quyết định của nhà sản xuất.
Có máy nào đo được cảm xúc thật của người không?
Một số hệ thống đoán cảm xúc từ nét mặt hay giọng nói, nhưng giới tâm lý học cảnh báo rằng nét mặt không luôn phản ánh cảm xúc bên trong và khác nhau theo văn hoá. Kết quả của các hệ thống này nên được xem là phỏng đoán, không phải đo lường chính xác.