Khi AI gây lỗi, trách nhiệm thường rơi vào con người hoặc tổ chức đứng sau việc sử dụng nó: người dùng chịu trách nhiệm với thứ mình ký tên, gửi đi; doanh nghiệp chịu trách nhiệm với khách hàng về công cụ mình đưa ra phục vụ; hãng làm AI có thể chịu trách nhiệm khi sản phẩm có khuyết tật. Máy không phải là chủ thể pháp lý, nên "do AI làm" không phải là câu trả lời.
Tuy vậy, chia cụ thể ai chịu bao nhiêu trong từng vụ việc là chuyện phức tạp, vì AI đi qua một chuỗi dài các bên và hành vi của nó khó đoán trước. Bài này giải thích chuỗi đó, vài vụ việc đã được công bố rộng rãi, các nguyên tắc đang hình thành, và câu hỏi bạn nên tự đặt trước khi dựa vào AI cho việc có hậu quả. Bài không phải tư vấn pháp lý cho vụ việc cụ thể.
Vì sao câu hỏi trách nhiệm khó hơn với AI
Với một chiếc máy giặt hỏng làm ngập nhà, câu hỏi trách nhiệm khá rõ: lỗi sản xuất thì nhà sản xuất, lắp sai thì thợ lắp, dùng sai thì người dùng. AI làm câu hỏi rối hơn ở ba điểm.
Thứ nhất, chuỗi các bên dài: công ty làm mô hình nền, công ty khác tinh chỉnh, một doanh nghiệp tích hợp vào ứng dụng, một nhân viên dùng ứng dụng đó để trả lời khách. Lỗi có thể nằm ở bất kỳ khâu nào, hoặc ở sự kết hợp giữa các khâu. Thứ hai, hành vi của mô hình không được lập trình từng dòng như phần mềm thông thường, nên chính người làm ra cũng không đoán trước được mọi câu trả lời. Thứ ba, AI thường được giới thiệu là "trợ lý", "gợi ý", khiến ranh giới giữa người quyết định và máy đề xuất trở nên mờ.
Một số nhà nghiên cứu gọi đây là "khoảng trống trách nhiệm": khi kết quả xấu xảy ra mà không bên nào có vẻ đủ lỗi để chịu hoàn toàn. Pháp luật và các tổ chức đang tìm cách lấp khoảng trống này, chủ yếu bằng cách xác định rõ nghĩa vụ của từng bên trước khi có chuyện.
Chuỗi các bên và khi nào mỗi bên có thể phải chịu trách nhiệm
Bảng dưới mô tả các bên thường gặp trong chuỗi AI và tình huống điển hình khiến từng bên bị xem xét trách nhiệm. Đây là nguyên lý chung; cách áp dụng cụ thể tuỳ luật mỗi nước.
| Bên | Vai trò | Có thể bị xem xét trách nhiệm khi |
|---|---|---|
| Hãng phát triển mô hình | Huấn luyện, phát hành mô hình | Sản phẩm có khuyết tật đã biết mà không cảnh báo, vi phạm nghĩa vụ an toàn theo luật |
| Doanh nghiệp tích hợp, triển khai | Đưa AI vào sản phẩm, dịch vụ cho khách | Dùng AI cho việc không phù hợp, không kiểm tra, không có người giám sát, không báo cho khách |
| Người dùng chuyên nghiệp | Luật sư, bác sĩ, kế toán, nhà báo dùng AI trong nghề | Dùng kết quả AI mà không kiểm chứng trong khi nghề đòi hỏi phải kiểm |
| Người dùng cá nhân | Dùng AI cho việc riêng | Dùng AI để gây hại, lừa đảo, xúc phạm người khác, hoặc chia sẻ thông tin sai gây thiệt hại |
| Cơ quan quản lý | Đặt và thực thi quy định | Chịu trách nhiệm chính trị, hành chính nếu buông lỏng quản lý ở lĩnh vực rủi ro cao |
Trong nhiều vụ việc, trách nhiệm được chia cho nhiều bên cùng lúc. Bên trực tiếp tiếp xúc với người bị thiệt hại thường là bên bị đòi đầu tiên, sau đó họ có thể đòi lại các bên phía trước theo hợp đồng.
Ba vụ việc đã được công bố rộng rãi
Chatbot của hãng hàng không trả lời sai chính sách. Năm 2024, một hội đồng giải quyết tranh chấp dân sự ở tỉnh British Columbia (Canada) yêu cầu hãng Air Canada bồi thường cho một hành khách, sau khi chatbot trên trang web của hãng hướng dẫn sai về chính sách giảm giá vé cho người có tang. Hãng lập luận rằng chatbot là một thực thể riêng chịu trách nhiệm về lời nói của nó; hội đồng bác lập luận này và cho rằng hãng chịu trách nhiệm về mọi thông tin trên trang web của mình.
Luật sư nộp án lệ do chatbot bịa ra. Năm 2023, trong một vụ kiện tại toà liên bang ở New York, luật sư nộp văn bản trích dẫn các án lệ không có thật do chatbot tạo ra. Toà đã xử phạt các luật sư liên quan. Đây trở thành ví dụ kinh điển: người hành nghề chịu trách nhiệm về tài liệu mình nộp, bất kể ai soạn.
Xe thử nghiệm tự lái gây tai nạn chết người. Năm 2018, một xe thử nghiệm tự lái của Uber tông chết một người đi bộ ở Tempe, bang Arizona (Mỹ). Cuộc điều tra chỉ ra nhiều nguyên nhân, cả về hệ thống lẫn người lái dự phòng không chú ý. Về sau, người lái dự phòng bị truy tố và nhận tội ở mức nhẹ hơn, cho thấy con người "trong vòng kiểm soát" vẫn có thể phải chịu trách nhiệm.
Doanh nghiệp không thể đổ lỗi cho chatbot
Vụ việc của Air Canada cho thấy một nguyên tắc đang được nhiều nơi chấp nhận: nếu doanh nghiệp đưa chatbot ra để nói chuyện với khách, khách có quyền tin vào những gì chatbot nói như tin vào thông tin của doanh nghiệp. Doanh nghiệp không thể vừa hưởng lợi từ việc tự động hoá, vừa từ chối trách nhiệm khi công cụ trả lời sai.
Điều này có hệ quả thực tế. Doanh nghiệp dùng AI chăm sóc khách hàng cần giới hạn những gì chatbot được hứa, đặc biệt về giá, hoàn tiền, bảo hành, điều khoản; có cơ chế chuyển sang người thật khi câu hỏi vượt phạm vi; và lưu lại cuộc trò chuyện để xử lý khi có tranh chấp. Thêm một dòng chú thích "thông tin có thể không chính xác" không đủ để miễn trách nhiệm trong nhiều trường hợp.
Ở Việt Nam, Bộ luật Dân sự có các quy định về bồi thường thiệt hại, và pháp luật về bảo vệ quyền lợi người tiêu dùng đặt nghĩa vụ cung cấp thông tin chính xác cho người bán. Những quy định này áp dụng bất kể thông tin do nhân viên hay do phần mềm cung cấp. Chi tiết áp dụng cho từng tình huống, bạn nên hỏi luật sư hoặc dịch vụ hỏi đáp pháp lý như AI Cố Vấn.
Người dùng chịu trách nhiệm với thứ mình ký tên
Với người dùng, nguyên tắc dễ nhớ nhất là: bạn chịu trách nhiệm về thứ bạn gửi đi, ký tên, nộp lên, đăng công khai, dù AI soạn ra phần lớn. Vụ án lệ bịa ở New York là ví dụ rõ nhất, nhưng điều tương tự áp dụng cho kế toán nộp báo cáo, giáo viên gửi nhận xét, nhân viên gửi báo giá, sinh viên nộp luận văn.
Lý do không phải vì pháp luật khắt khe với người dùng, mà vì AI hiện nay không phải là chủ thể có thể chịu trách nhiệm. Nó không có tài sản để bồi thường, không thể bị kỷ luật, không thể xin lỗi một cách có ý nghĩa. Trách nhiệm luôn cần một người hoặc tổ chức đứng tên. Vì sao AI có thể bịa một cách tự tin, bạn có thể đọc ở danh mục riêng về giới hạn của AI trên trang này.
Với người dùng cá nhân, rủi ro thường nằm ở việc chia sẻ. Chia sẻ một bức ảnh giả do AI tạo về một người có thật, hoặc lan truyền thông tin sai do chatbot đưa ra, có thể gây thiệt hại cho người khác và khiến bạn phải chịu trách nhiệm, dù bạn không phải người tạo ra nó.
Luật đang thích nghi như thế nào
Các nước đang điều chỉnh luật theo hai hướng. Hướng thứ nhất là mở rộng luật trách nhiệm sản phẩm sẵn có để bao gồm cả phần mềm và AI: nếu sản phẩm có khuyết tật gây thiệt hại, nhà sản xuất chịu trách nhiệm mà người bị hại không cần chứng minh lỗi cụ thể. Liên minh châu Âu đã sửa quy định về trách nhiệm sản phẩm theo hướng bao gồm phần mềm.
Hướng thứ hai là đặt nghĩa vụ trước cho từng bên trong chuỗi, như cách Đạo luật AI của châu Âu làm với hệ thống rủi ro cao: phải có quản lý rủi ro, ghi nhật ký, có người giám sát. Khi có chuyện, việc bên nào đã làm hay không làm nghĩa vụ của mình sẽ là căn cứ để xét trách nhiệm. Nhật ký hoạt động của hệ thống trở thành bằng chứng quan trọng.
Còn nhiều câu hỏi chưa có lời giải thống nhất: người bị hại làm sao chứng minh lỗi khi không thể nhìn vào bên trong mô hình; mô hình mã nguồn mở do cộng đồng phát triển thì ai chịu trách nhiệm; tác tử AI tự thực hiện chuỗi hành động thì ranh giới giữa công cụ và người đại diện ở đâu. Những câu hỏi này đang được giới luật học và các nhà làm luật tiếp tục bàn.
Câu hỏi nên tự đặt trước khi dựa vào AI cho việc có hậu quả
Hiểu nguyên tắc trách nhiệm giúp bạn dùng AI thận trọng hơn ở đúng chỗ cần thận trọng. Trước khi dùng kết quả AI cho việc quan trọng, thử đi qua các câu hỏi sau:
- Nếu kết quả này sai, ai bị thiệt và thiệt đến mức nào?
- Người chịu trách nhiệm cuối cùng là ai, có phải là mình không?
- Mình đã kiểm tra những điểm quan trọng nhất (số liệu, tên, ngày, trích dẫn, điều khoản) với nguồn gốc chưa?
- Người nhận có cần được biết phần nào do AI tạo không?
- Mình có đưa thông tin cá nhân hay bí mật của người khác vào công cụ không, đã che chưa?
- Nếu có tranh chấp, mình có lưu lại bằng chứng về quá trình làm và kiểm tra không?
Không phải việc nào cũng cần đi hết sáu câu. Nhờ AI gợi ý tên món cho bữa tối thì không cần. Nhưng khi kết quả sẽ đến tay khách hàng, cơ quan nhà nước, toà án, bệnh nhân, học sinh, những câu hỏi này giúp bạn không trở thành người đứng tên cho lỗi của máy.
Câu hỏi thường gặp
Chatbot của một cửa hàng hứa giảm giá sai, khách có đòi được không?
Theo nguyên tắc đang được nhiều nơi áp dụng, doanh nghiệp chịu trách nhiệm về thông tin do công cụ của mình đưa ra cho khách. Kết quả cụ thể tuỳ luật bảo vệ người tiêu dùng hiện hành và hoàn cảnh vụ việc. Khách nên lưu lại cuộc trò chuyện làm bằng chứng.
AI có thể bị kiện ra toà không?
Hiện nay AI không phải chủ thể pháp lý, nên không thể bị kiện hay chịu trách nhiệm như người hay công ty. Vụ kiện sẽ nhắm vào các tổ chức hoặc cá nhân phát triển, triển khai hoặc sử dụng AI. Đã có đề xuất học thuật về tư cách pháp lý cho AI, nhưng chưa được chấp nhận rộng rãi.
Dòng chú thích "AI có thể mắc lỗi" có giúp doanh nghiệp miễn trách nhiệm không?
Thường là không đủ, nhất là khi doanh nghiệp dùng AI để thay nhân viên trả lời thông tin quan trọng như giá, chính sách, điều khoản. Chú thích có giá trị nhắc nhở nhưng không thay được nghĩa vụ cung cấp thông tin chính xác cho khách.
Bác sĩ dùng AI hỗ trợ chẩn đoán mà sai thì ai chịu trách nhiệm?
Theo nguyên tắc chung, người hành nghề chịu trách nhiệm chuyên môn về quyết định của mình, kể cả khi tham khảo công cụ. Nếu công cụ có khuyết tật, nhà sản xuất có thể cùng chịu trách nhiệm. Quy định cụ thể tuỳ luật khám chữa bệnh và thiết bị y tế hiện hành.
Tác tử AI tự đặt mua hàng nhầm thì người dùng có phải trả tiền không?
Đây là vùng còn nhiều tranh luận. Nhìn chung, người cho phép tác tử thao tác thay mình thường bị xem là đã chấp nhận rủi ro ở mức nào đó, nhưng kết quả còn tuỳ điều khoản của dịch vụ và luật hiện hành. Nên giới hạn quyền của tác tử với việc liên quan đến tiền.
Chia sẻ lại ảnh giả do AI tạo có bị coi là có lỗi không?
Có thể, nếu nội dung gây thiệt hại cho danh dự, uy tín của người khác hoặc gây hoang mang, tuỳ quy định hiện hành và mức độ. Không phải người tạo ra không có nghĩa là không có trách nhiệm khi lan truyền. Nên kiểm tra trước khi chia sẻ.