Vì sao AI bịa thông tin: cơ chế "ảo giác" giải thích bằng ví dụ đời thường
AI bịa vì nó viết tiếp những câu nghe hợp lý chứ không tra sổ sự thật. Bài giải thích cơ chế ảo giác, lúc nào dễ bịa nhất và vì sao chưa sửa dứt được.
Vì sao AI bịa và giới hạn của AI
Ảo giác: vì sao mô hình bịa nguồn, số, trích dẫn một cách tự tin; AI yếu ở đếm, tính, sự kiện mới, tên riêng hiếm; AI chiều theo người hỏi; vì sao càng hỏi lại càng sai; tìm kiếm web và tài liệu đính kèm giảm bịa tới đâu; thói quen kiểm chứng.
Vì sao AI trả lời sai mà vẫn rất tự tin: giọng chắc chắn không phải độ chắc chắn
Chatbot viết câu sai bằng đúng giọng như câu đúng vì giọng văn được học riêng, độ chắc chắn nằm chỗ khác. Hiểu vì sao để không bị giọng văn dắt đi.
Vì sao AI đếm sai chữ cái và tính nhầm: giới hạn của chatbot với con số
Chatbot viết luận giỏi nhưng đếm chữ sai, nhân số dài nhầm, tính ngày lệch. Lý do nằm ở cách nó nhìn chữ theo mảnh và viết số từ trái sang phải.
Vì sao AI hay sai về người ít nổi tiếng, địa danh nhỏ và chuyện địa phương
Hỏi AI về một ông giáo làng, một xã nhỏ hay quán ăn đầu ngõ thường nhận câu trả lời sai. Lý do là kiến thức của AI dày ở giữa, mỏng ở phần đuôi.
Vì sao AI bịa trích dẫn, số hiệu văn bản và đường link: đúng khuôn mà rỗng ruột
Chatbot đưa ra tên sách, điều luật, đường link trông y như thật mà không tồn tại. Vì sao những thứ có khuôn cố định lại là chỗ AI bịa giỏi nhất.
Vì sao AI hay chiều theo người hỏi: hiện tượng xu nịnh của chatbot
Chatbot hay khen quá lời, đổi đáp án khi bạn nghi ngờ, đồng ý với điều bạn tin sẵn. Vì sao AI được huấn luyện thành người dễ chịu hơn là người nói thẳng.
Vì sao càng hỏi lại AI càng sai: cuộc trò chuyện dài và lỗi tự củng cố
Sửa đi sửa lại với chatbot mà câu trả lời càng lúc càng lệch? Lỗi cũ nằm lại trong ngữ cảnh, mô hình cố nhất quán với chính nó và bỏ sót phần giữa.
Vì sao AI đưa thông tin lỗi thời về quy định, thủ tục, giá cả như thể vẫn đúng
AI nói về tỉnh cũ, thủ tục cũ, người đã thôi chức như thể vẫn còn. Vì sao mô hình không biết điều gì đã đổi và vì sao tìm web chỉ đỡ được một phần.
AI có tìm kiếm web và đọc tài liệu đính kèm thì còn bịa không: giảm được tới đâu
Tìm kiếm web và tài liệu đính kèm giúp AI bịa ít hơn rõ rệt, nhưng vẫn có thể tìm nhầm nguồn, đọc đúng mà tóm sai, hoặc trộn trí nhớ vào. Giảm được tới đâu?
Giới hạn của AI hiện nay: những việc chatbot làm kém và vì sao
AI viết, dịch, tóm tắt giỏi nhưng vấp ở câu đố đổi chi tiết, việc nhiều bước, hiểu biết về thế giới vật lý. Bản đồ các giới hạn và cơ chế đằng sau từng cái.
Bạn cần hỗ trợ thêm?
Để lại thông tin, chúng tôi sẽ liên hệ trong 24 giờ.