Các tin cảnh báo AI có thể đe doạ loài người thường dựa trên lời của những nhà nghiên cứu có thật, có uy tín, và mối lo của họ là nghiêm túc — nhưng đó là một phía của một cuộc tranh luận chưa ngã ngũ, và những rủi ro họ nói tới phần lớn là giả định về tương lai, khác với các rủi ro AI đang gây ra hôm nay. Đọc đúng loại tin này là giữ được cả hai điều: không gạt đi, cũng không hoảng.
Bài này nhắc lại vài mốc có thật đã tạo nên làn sóng tin cảnh báo từ năm 2023, phân biệt các loại rủi ro được bàn, giới thiệu các phía trong tranh luận, và đưa ra cách đọc một tin cảnh báo mà không bị cuốn theo tiêu đề. Bài không đưa dự đoán, vì không ai có đủ cơ sở để đưa.
Những mốc khiến tin cảnh báo xuất hiện dày đặc
Lo ngại về rủi ro của AI tiên tiến đã có trong giới học thuật nhiều năm, nhưng chỉ trở thành tin thường xuyên trên báo chí từ năm 2023. Một số mốc có thật được nhắc nhiều:
- Tháng 3 năm 2023, một thư ngỏ do tổ chức Future of Life Institute khởi xướng kêu gọi các phòng thí nghiệm tạm dừng ít nhất sáu tháng việc huấn luyện các hệ thống mạnh hơn GPT-4. Thư có nhiều chữ ký nổi tiếng; việc tạm dừng không diễn ra.
- Tháng 5 năm 2023, Geoffrey Hinton, một trong những người đặt nền móng cho học sâu, rời Google và nói rằng ông muốn được tự do lên tiếng về rủi ro của AI.
- Cũng trong tháng 5 năm 2023, một tuyên bố chỉ một câu do Center for AI Safety công bố, được nhiều nhà nghiên cứu và lãnh đạo công ty ký, nói rằng giảm thiểu nguy cơ tuyệt chủng do AI nên là ưu tiên toàn cầu, bên cạnh các rủi ro quy mô xã hội khác như đại dịch và chiến tranh hạt nhân.
- Tháng 11 năm 2023, hội nghị thượng đỉnh về an toàn AI được tổ chức tại Bletchley Park, Anh, với đại diện nhiều chính phủ, mở đầu một loạt hội nghị tương tự.
Những mốc này là thật, và người tham gia là những người có hiểu biết sâu về AI. Điều cần lưu ý là cùng thời điểm đó, nhiều nhà nghiên cứu có uy tín tương đương công khai không đồng ý với mức độ cảnh báo, hoặc cho rằng nó làm lu mờ những vấn đề cấp bách hơn.
Khi tin tức chỉ trích một phía, người đọc dễ hiểu rằng giới khoa học đã đồng thuận. Thực tế, đây là một trong những chủ đề gây chia rẽ nhất trong ngành.
Ba loại rủi ro hay bị gộp làm một
Chữ "AI nguy hiểm" trong tiêu đề có thể chỉ những thứ rất khác nhau. Tách chúng ra giúp bạn biết tin đang nói về loại nào.
| Loại rủi ro | Ví dụ | Trạng thái |
|---|---|---|
| Rủi ro đang xảy ra | Lừa đảo bằng giọng nói giả, nội dung sai lan truyền, thiên lệch trong quyết định tự động, lộ dữ liệu cá nhân | Có thật, có ca cụ thể, có thể đo |
| Rủi ro lạm dụng ở quy mô lớn | Dùng AI để hỗ trợ tấn công mạng, thao túng thông tin có tổ chức, giám sát diện rộng | Có dấu hiệu, mức độ còn được nghiên cứu |
| Rủi ro mất kiểm soát hệ thống tiên tiến | Hệ thống rất mạnh theo đuổi mục tiêu lệch với ý định con người và khó dừng lại | Giả định về tương lai, đang tranh luận về khả năng và thời điểm |
Tin cảnh báo "đe doạ loài người" thường nói về dòng thứ ba. Những rủi ro ở dòng đầu ít kịch tính hơn nhưng đang ảnh hưởng tới người thật ngay bây giờ, kể cả ở Việt Nam. Một tin tốt sẽ nói rõ mình đang bàn loại nào; một tin tồi trộn cả ba để tăng sức nặng.
Các phía trong tranh luận
Ba người được trao giải Turing năm 2018 vì công trình về học sâu là Geoffrey Hinton, Yoshua Bengio và Yann LeCun. Hai người đầu đã lên tiếng mạnh mẽ về rủi ro của AI tiên tiến; người thứ ba nhiều lần công khai cho rằng mối lo về nguy cơ tuyệt chủng là quá mức. Chỉ riêng chi tiết này đã đủ cho thấy: những người hiểu sâu nhất về công nghệ cũng không thống nhất.
Phía lo ngại cho rằng khi hệ thống ngày càng có năng lực và được giao quyền tự hành động, việc đảm bảo chúng làm đúng điều con người muốn là bài toán khó chưa có lời giải, và nên đầu tư nghiêm túc trước khi quá muộn. Phía hoài nghi cho rằng các hệ thống hiện tại còn xa mức có thể gây rủi ro như vậy, các kịch bản dựa trên nhiều giả định chưa kiểm chứng, và nói quá nhiều về tương lai xa có thể làm xao nhãng các tác hại đang xảy ra.
Còn một phía thứ ba hay bị bỏ qua: những nhà nghiên cứu tập trung vào tác hại hiện tại như thiên lệch, quyền riêng tư, lao động, tập trung quyền lực. Họ đôi khi phê phán cả hai phía kia vì cùng làm AI có vẻ quyền năng hơn thực tế. Một bài viết cân bằng sẽ cho bạn nghe ít nhất hai trong ba giọng này.
Đọc một tin cảnh báo: năm điều cần tách
Ai đang cảnh báo, với tư cách gì? Nhà nghiên cứu độc lập, lãnh đạo công ty AI, tổ chức vận động, chính trị gia. Lãnh đạo công ty vừa cảnh báo rủi ro vừa phát triển sản phẩm là tình huống phức tạp: có người cho rằng họ thật lòng lo, có người cho rằng cảnh báo cũng là cách làm sản phẩm trông quyền năng hơn. Không cần chọn phía, chỉ cần biết điều này tồn tại.
Cảnh báo về loại rủi ro nào? Dùng bảng ở trên để xếp. Nếu tin dùng ví dụ của rủi ro hiện tại để minh hoạ cho rủi ro mất kiểm soát, nó đang trộn hai chuyện.
Có bằng chứng gì, hay là lập luận? Một số lo ngại dựa trên thí nghiệm, ví dụ cho thấy mô hình có hành vi không mong muốn trong tình huống thử nghiệm. Số khác dựa trên lập luận về tương lai. Cả hai đều hợp lệ trong thảo luận, nhưng có trọng lượng khác nhau.
Thí nghiệm diễn ra trong điều kiện nào? Tin kiểu "AI tìm cách lừa nhà nghiên cứu" thường đến từ thử nghiệm được thiết kế riêng để tìm hành vi xấu. Đó là công việc quan trọng, nhưng kết quả cho biết điều có thể xảy ra trong tình huống đó, không phải điều chatbot bạn dùng đang làm.
Đề xuất là gì? Lời cảnh báo nghiêm túc thường đi kèm đề xuất cụ thể: kiểm định, minh bạch, quy định. Tin chỉ có lời cảnh báo mà không có đề xuất thường thiên về gây chú ý.
Để ý những chữ chỉ mức chắc chắn
Tin cảnh báo thường sống nhờ vài chữ nhỏ. Bản gốc của một nhà nghiên cứu có thể viết "có khả năng", "trong một số kịch bản", "nếu không có biện pháp", nhưng khi qua tiêu đề, những chữ này rơi mất và câu trở thành khẳng định. "AI có thể gây rủi ro nghiêm trọng nếu phát triển thiếu kiểm soát" biến thành "AI sẽ huỷ diệt loài người".
Một thói quen đơn giản là khi đọc lời trích, tìm xem có các từ chỉ điều kiện và xác suất không: "nếu", "có thể", "một số", "trong dài hạn", "chưa loại trừ". Rồi so với tiêu đề. Khoảng cách giữa hai bên cho biết bao nhiêu phần là của người viết tin.
Ngược lại, cũng có những bản tin xoa dịu quá mức: "chuyên gia khẳng định AI hoàn toàn vô hại". Không có nhà nghiên cứu nghiêm túc nào khẳng định điều đó về mọi loại rủi ro; câu này thường cũng là sản phẩm của việc lược bỏ. Các nhà khoa học hoài nghi về nguy cơ tuyệt chủng vẫn thừa nhận những tác hại hiện tại của AI.
Khi nghe một con số xác suất kiểu "khả năng thảm hoạ là X phần trăm", hãy nhớ đó là ước đoán chủ quan của một người hoặc một nhóm, không phải kết quả đo. Các con số như vậy hữu ích để biết người nói lo tới đâu, không phải để biết điều gì sẽ xảy ra.
Không gạt đi, không hoảng: thái độ hợp lý cho người đọc
Với người không làm trong ngành, việc phán xét ai đúng trong tranh luận về rủi ro dài hạn là điều không cần thiết và cũng khó làm. Thái độ hợp lý hơn là thừa nhận rằng đây là câu hỏi mở, có những người nghiêm túc ở các phía, và việc xã hội đầu tư nghiên cứu an toàn là hợp lý ngay cả khi rủi ro chưa chắc chắn.
Đồng thời, đừng để những tin về tương lai xa che mất những rủi ro gần. Cuộc gọi giả giọng người thân để vay tiền, ảnh giả dùng để bôi nhọ, thông tin sai do chatbot bịa ra rồi được tin là thật — những chuyện này đang xảy ra và bạn có thể tự bảo vệ mình cùng gia đình. Phần phòng tránh lừa đảo bằng AI được hướng dẫn kỹ ở AI Bảo Mật; nhận diện ảnh, giọng, video giả ở AI Hiện Thân.
Nếu tin cảnh báo khiến bạn hay người thân lo lắng, hãy nhớ rằng nỗi lo hữu ích khi nó dẫn tới hành động cụ thể. Với rủi ro dài hạn, hành động của cá nhân là theo dõi thông tin cân bằng và ủng hộ những chính sách hợp lý. Với rủi ro hiện tại, hành động là học cách nhận diện và phòng tránh.
Với trẻ em và học sinh, nên giải thích theo cách tương tự: có những nhà khoa học lo lắng và có những nhà khoa học không đồng ý, người lớn đang bàn cách làm cho AI an toàn, và việc của con là học cách dùng công cụ cẩn thận, biết hỏi người lớn khi thấy điều lạ.
Câu hỏi thường gặp
AI có thật sự đe doạ loài người không?
Đây là câu hỏi đang tranh luận, không có đồng thuận khoa học. Một số nhà nghiên cứu hàng đầu cho rằng hệ thống tiên tiến trong tương lai có thể gây rủi ro rất lớn nếu không kiểm soát được, số khác có uy tín tương đương cho rằng mối lo này bị thổi phồng. Rủi ro hiện tại như lừa đảo, thông tin sai thì đã có thật.
Thư ngỏ năm 2023 kêu gọi tạm dừng AI có kết quả gì?
Thư kêu gọi tạm dừng ít nhất sáu tháng việc huấn luyện các hệ thống mạnh hơn GPT-4 và nhận được nhiều chữ ký nổi tiếng. Việc tạm dừng không diễn ra, nhưng thư góp phần đưa chủ đề an toàn AI vào thảo luận công khai và chính sách ở nhiều nước.
Vì sao các nhà khoa học hàng đầu lại bất đồng về rủi ro AI?
Vì họ có giả định khác nhau về tốc độ tiến bộ, về việc hệ thống hiện tại có thể dẫn tới hệ thống rất mạnh hay không, và về mức độ khó của việc kiểm soát. Không có thí nghiệm nào hiện nay đủ để phân xử dứt khoát giữa các quan điểm.
Rủi ro AI nào đáng lo nhất với người bình thường hiện nay?
Lừa đảo bằng giọng nói và hình ảnh giả, thông tin sai do AI tạo ra lan truyền, lộ dữ liệu cá nhân khi dùng chatbot, và tin vào câu trả lời sai của AI trong chuyện quan trọng. Đây là những rủi ro có thể phòng tránh bằng hiểu biết và thói quen kiểm chứng.
Tin "AI tìm cách lừa con người" trong thí nghiệm có đáng lo không?
Đáng được chú ý như một kết quả nghiên cứu, vì nó cho thấy hành vi có thể xuất hiện trong tình huống được thiết kế để thử. Nhưng nó không có nghĩa chatbot bạn dùng hằng ngày đang lừa bạn. Đọc kỹ điều kiện thí nghiệm trước khi rút ra kết luận.
Nên giải thích về rủi ro AI cho con thế nào?
Nói thật rằng người lớn và các nhà khoa học đang bàn về cách làm AI an toàn, có người lo nhiều có người lo ít. Tập trung vào điều con làm được: dùng công cụ cẩn thận, không tin hết mọi điều AI nói, không chia sẻ thông tin riêng, và hỏi người lớn khi thấy lạ.