Vì sao AI bịa thông tin: cơ chế "ảo giác" giải thích bằng ví dụ đời thường
AI bịa vì nó viết tiếp những câu nghe hợp lý chứ không tra sổ sự thật. Bài giải thích cơ chế ảo giác, lúc nào dễ bịa nhất và vì sao chưa sửa dứt được.
#ảo giác ai
Vì sao AI trả lời sai mà vẫn rất tự tin: giọng chắc chắn không phải độ chắc chắn
Chatbot viết câu sai bằng đúng giọng như câu đúng vì giọng văn được học riêng, độ chắc chắn nằm chỗ khác. Hiểu vì sao để không bị giọng văn dắt đi.
Vì sao AI bịa trích dẫn, số hiệu văn bản và đường link: đúng khuôn mà rỗng ruột
Chatbot đưa ra tên sách, điều luật, đường link trông y như thật mà không tồn tại. Vì sao những thứ có khuôn cố định lại là chỗ AI bịa giỏi nhất.
Vì sao càng hỏi lại AI càng sai: cuộc trò chuyện dài và lỗi tự củng cố
Sửa đi sửa lại với chatbot mà câu trả lời càng lúc càng lệch? Lỗi cũ nằm lại trong ngữ cảnh, mô hình cố nhất quán với chính nó và bỏ sót phần giữa.
Vì sao AI đưa thông tin lỗi thời về quy định, thủ tục, giá cả như thể vẫn đúng
AI nói về tỉnh cũ, thủ tục cũ, người đã thôi chức như thể vẫn còn. Vì sao mô hình không biết điều gì đã đổi và vì sao tìm web chỉ đỡ được một phần.
AI có tìm kiếm web và đọc tài liệu đính kèm thì còn bịa không: giảm được tới đâu
Tìm kiếm web và tài liệu đính kèm giúp AI bịa ít hơn rõ rệt, nhưng vẫn có thể tìm nhầm nguồn, đọc đúng mà tóm sai, hoặc trộn trí nhớ vào. Giảm được tới đâu?
Giới hạn của AI hiện nay: những việc chatbot làm kém và vì sao
AI viết, dịch, tóm tắt giỏi nhưng vấp ở câu đố đổi chi tiết, việc nhiều bước, hiểu biết về thế giới vật lý. Bản đồ các giới hạn và cơ chế đằng sau từng cái.
AI có nói dối không? Phân biệt bịa, chiều lòng người hỏi và cố ý đánh lừa
Chatbot nói sai có phải là nói dối? Ba kiểu "không thật" khác nhau của AI, các thử nghiệm an toàn đã thấy gì, và vì sao điều này quan trọng với người dùng.