Ảnh AI hay sai bàn tay và chữ viết vì mô hình học hình dạng theo kiểu "trông có vẻ đúng" chứ không học cấu trúc có quy tắc: nó không đếm ngón tay, không biết bàn tay có xương khớp gập theo hướng nào, và không biết chữ là những ký tự có mặt chữ cố định. Bàn tay lại là thứ đổi hình dạng liên tục theo góc nhìn, hay bị che một phần, còn chữ thì chỉ cần lệch một nét là người đọc nhận ra ngay.
Các phiên bản mô hình mới đã đỡ hơn rõ rệt, nhưng lỗi chưa biến mất, nhất là với chữ tiếng Việt có dấu, bàn tay đang cầm nắm đồ vật, hay cảnh đông người. Bài này giải thích cơ chế đằng sau, vì sao các hãng cải thiện được và vì sao những lỗi này vẫn là dấu hiệu hữu ích, dù không còn là bằng chứng chắc chắn, khi bạn nghi một bức ảnh do AI tạo.
Mô hình nhìn ảnh như một tổng thể, không đếm từng chi tiết
Khi được huấn luyện, mô hình tạo ảnh học cách các điểm ảnh thường đi với nhau: vùng da cạnh vùng da, ngón tay dài và thon, móng tay ở đầu ngón. Nó học rất tốt những quy luật "cục bộ" như vậy. Thứ nó không có sẵn là một khái niệm kiểu "bàn tay người có đúng năm ngón". Con người biết điều đó không phải nhờ nhìn nhiều ảnh mà nhờ hiểu cơ thể, nhờ chính đôi tay mình. Mô hình thì chỉ có ảnh.
Hãy thử hình dung bạn phải vẽ lại một hàng rào cọc tre dài chỉ bằng cách nhớ "cọc tre trông thế nào" và "cọc nọ đứng sát cọc kia". Bạn sẽ vẽ ra một hàng rào rất giống thật, nhưng nếu ai hỏi chính xác bao nhiêu cọc thì không ai đảm bảo được. Ngón tay với mô hình cũng vậy: một chuỗi vật dài, thon, đứng cạnh nhau. Bốn, năm hay sáu cái đều "trông giống" bàn tay ở mức tổng thể.
Thêm vào đó, như đã nói ở bài về mô hình khuếch tán, bố cục lớn được quyết định ở những lượt gỡ nhiễu đầu tiên, khi ảnh còn rất mờ. Ở giai đoạn đó, bàn tay chỉ là một vệt màu da nhỏ. Số ngón và cách chúng xếp được "chốt" khi thông tin còn ít, và những lượt sau chỉ làm nét thêm chứ hiếm khi đếm lại.
Vì sao riêng bàn tay lại khó đến vậy
Bàn tay đổi hình liên tục. Một khuôn mặt nhìn thẳng thường có bố cục ổn định: hai mắt, một mũi, một miệng. Bàn tay thì có thể nắm, xoè, chỉ, cầm cốc, đan vào nhau, khuất sau lưng. Cùng một bàn tay cho ra hàng trăm hình dạng khác nhau trên ảnh, nên quy luật thống kê về nó rối hơn hẳn.
Ngón tay hay bị che. Trong ảnh thật, ta thường chỉ thấy ba hay bốn ngón vì số còn lại bị khuất. Mô hình học từ những ảnh đó nên không có "kinh nghiệm" rằng ngón khuất vẫn tồn tại. Khi vẽ, nó có thể thêm hay bớt ngón mà vẫn thấy hợp lý.
Bàn tay chiếm diện tích nhỏ. Trong ảnh chân dung hay ảnh toàn thân, bàn tay thường chỉ vài phần trăm khung hình. Khi huấn luyện, ảnh còn bị thu nhỏ, nên chi tiết ngón tay gần như nhoè hết. Mô hình nhận được ít tín hiệu học về đúng phần khó nhất.
Chú thích hiếm khi tả bàn tay. Dòng chú thích đi kèm ảnh thường viết "người phụ nữ cười trong quán cà phê", rất ít khi viết "tay trái cầm cốc bằng ba ngón". Phần chữ điều khiển gần như không nói gì về tay, nên mô hình không được nhắc phải để ý.
Tay tương tác với đồ vật còn khó hơn. Tay cầm đũa, tay gảy đàn, hai người bắt tay: chỗ tay chạm đồ vật đòi hỏi hiểu vật nào ở trước, vật nào ở sau, lực đặt ra sao. Đây là chỗ ngay cả mô hình mới vẫn hay để lộ ngón dính vào cán, đũa xuyên qua lòng bàn tay.
Chữ trong ảnh: với mô hình, chữ chỉ là hoa văn
Con người đọc chữ theo ký tự: chữ "a" là chữ "a" dù viết bằng phông nào. Mô hình tạo ảnh thời đầu không có khái niệm ký tự. Nó thấy trên biển hiệu, bao bì, trang sách những vệt nét đen trắng xếp thành hàng, và học rằng "chỗ này thường có những vệt như thế". Kết quả là những dòng trông giống chữ từ xa nhưng lại gần thì không đọc được, giống chữ của một ngôn ngữ không tồn tại.
Một lý do kỹ thuật nữa nằm ở cách mô hình đọc câu mô tả. Bộ mã hoá văn bản thường cắt chữ thành các mẩu nhỏ theo nghĩa, không giữ chính xác từng chữ cái. Khi bạn yêu cầu một biển hiệu ghi đúng tên quán, thông tin về đúng từng ký tự đã mờ đi trước khi tới phần vẽ. Các mô hình mới cải thiện bằng cách dùng bộ mã hoá giữ chi tiết ký tự tốt hơn, huấn luyện thêm nhiều ảnh có chữ kèm chú thích ghi đúng nội dung chữ, và tăng độ phân giải khi làm việc.
Với tiếng Việt, khó khăn nhân đôi. Dấu thanh và dấu phụ là những nét nhỏ nằm trên, dưới hoặc dính vào chữ cái, đúng loại chi tiết dễ nhoè nhất. Dữ liệu ảnh có chữ tiếng Việt cũng ít hơn nhiều so với tiếng Anh. Vì vậy bạn hay gặp chữ "ư" mất móc, dấu hỏi thành dấu ngã, hay dấu nằm lệch sang chữ bên cạnh. Những người làm thiết kế thường chọn cách tạo ảnh không có chữ rồi đặt chữ bằng phần mềm riêng; phần thao tác đó thuộc các trang chuyên về đồ hoạ.
Những lỗi "kinh điển" khác cùng chung một nguyên nhân
Tay và chữ là hai lỗi nổi tiếng nhất, nhưng cùng một cơ chế "đúng ở tổng thể, sai ở chỗ cần đếm hoặc cần logic" còn sinh ra nhiều lỗi khác. Bảng dưới gom lại để bạn thấy chúng là một họ chứ không phải những lỗi rời rạc.
| Lỗi thường gặp | Vì sao xảy ra | Mức cải thiện ở bản mới |
|---|---|---|
| Răng quá nhiều, đều như hạt bắp | Răng là chuỗi vật nhỏ lặp lại, giống ngón tay | Đã đỡ nhiều ở chân dung cận |
| Kim đồng hồ, phím đàn, bậc cầu thang lệch | Cần đếm và cần quy luật hình học chặt | Còn hay sai |
| Kính mắt hai bên khác nhau, khuyên tai lệch đôi | Mô hình không bắt buộc hai bên cân xứng | Đỡ hơn nhưng vẫn gặp |
| Người ở nền dính vào nhau, mặt méo | Chi tiết nhỏ ở xa, ít điểm ảnh để học | Còn rõ ở cảnh đông người |
| Bóng đổ ngược hướng nắng, phản chiếu sai | Mô hình học "trông giống bóng" chứ không tính đường ánh sáng | Khó phát hiện bằng mắt thường |
| Hoa văn vải, gạch lát bị đứt đoạn | Hoa văn lặp phải khớp qua chỗ gấp và chỗ che | Tuỳ mô hình |
Điểm chung của cả bảng: những thứ con người "biết" bằng hiểu biết về thế giới thật (người có hai tai, bóng đi ngược nguồn sáng) thì mô hình chỉ "đoán" từ thống kê ảnh. Càng nhiều dữ liệu và mô hình càng lớn thì đoán càng trúng, nhưng chưa có gì đảm bảo trúng mọi lần.
Các hãng đã sửa thế nào, và vì sao lỗi vẫn chưa hết
Những năm gần đây, tỉ lệ bàn tay sai giảm thấy rõ. Theo những gì các nhóm phát triển chia sẻ ở mức chung, có mấy hướng chính. Thứ nhất là dữ liệu: chọn lọc kỹ hơn, thêm ảnh có tay rõ, viết lại chú thích chi tiết hơn bằng máy để phần chữ có nhắc tới tay và tư thế. Thứ hai là mô hình lớn hơn, làm việc ở độ phân giải cao hơn, nên chi tiết nhỏ ít bị nhoè. Thứ ba là bước sửa sau: một số công cụ tự phát hiện vùng tay hoặc mặt rồi tạo lại riêng vùng đó.
Với chữ, nhiều mô hình mới đã viết được những dòng tiếng Anh ngắn khá chính xác, một bước tiến lớn so với vài năm trước. Một số hệ thống tạo ảnh gắn chặt với mô hình ngôn ngữ, nên "hiểu" chữ cần viết tốt hơn. Nhưng chữ dài, chữ nhỏ, chữ có dấu và chữ trên bề mặt cong vẫn là chỗ yếu.
Lỗi chưa hết vì nguyên nhân gốc vẫn còn: mô hình vẫn học từ thống kê ảnh, không có một "luật" nào ép bàn tay phải có năm ngón. Cải thiện là làm cho xác suất ra đúng cao hơn, không phải đổi bản chất. Vì thế ở những tình huống ít gặp trong dữ liệu, như tay người đang làm một nghề thủ công đặc thù hay biển hiệu chữ Việt viết tay, lỗi cũ dễ quay lại.
Dùng những lỗi này để nghi ngờ một bức ảnh: được tới đâu
Tay và chữ từng là "dấu vân tay" dễ nhận nhất của ảnh AI. Giờ chúng vẫn hữu ích, nhưng cần dùng đúng cách:
- Thấy tay sáu ngón, chữ vô nghĩa trên biển hiệu thì khả năng cao ảnh có can thiệp của AI, dù cũng có thể là ảnh thật bị lỗi chụp, ảnh ghép tay hay tranh vẽ.
- Không thấy lỗi thì không có nghĩa là ảnh thật. Ảnh AI mới, hoặc ảnh đã được người dùng chọn lọc và sửa tay, có thể không còn lỗi nào thấy bằng mắt.
- Nhìn kỹ những vùng nhỏ và ít quan trọng: người ở hậu cảnh, chữ trên vật dụng xa, phản chiếu trong kính. Người tạo ảnh hay chỉ chăm chút chủ thể chính.
- Một dấu hiệu đơn lẻ chỉ là gợi ý. Với ảnh liên quan tới tiền bạc, danh dự hay tin tức, hãy kiểm nguồn gốc: ai đăng đầu tiên, có ảnh khác cùng sự kiện không, có thông tin nguồn gốc nội dung đi kèm không. Bài về máy dò ảnh AI trong danh mục này nói rõ giới hạn của các công cụ kiểm.
- Đừng dùng lỗi tay hay chữ để buộc tội ai đó đã dùng AI. Kết luận chỉ dựa vào mắt dễ oan, nhất là với ảnh chất lượng thấp đã bị nén nhiều lần.
Lừa đảo bằng ảnh giả và cách phòng thủ được trang AI Bảo Mật trình bày kỹ; nhân vật số và video giả mặt thuộc phạm vi của trang AI Hiện Thân.
Câu hỏi thường gặp
Ảnh AI bây giờ còn vẽ sai tay nhiều không?
Ít hơn hẳn so với những năm đầu, nhất là ở ảnh chân dung đơn giản với tay để tự nhiên. Lỗi vẫn hay gặp khi tay cầm nắm đồ vật, khi hai người chạm tay nhau, khi cảnh đông người hoặc khi bàn tay nhỏ ở xa. Mức độ còn tuỳ công cụ và phiên bản, nên một nhận xét chung không áp được cho mọi trường hợp.
Vì sao AI viết chữ tiếng Anh được mà tiếng Việt thì hay sai dấu?
Dữ liệu ảnh có chữ tiếng Anh nhiều hơn rất nhiều, nên mô hình gặp đủ mẫu để học. Dấu tiếng Việt lại là nét nhỏ, dễ mất khi ảnh bị thu nhỏ lúc huấn luyện, và bộ mã hoá câu chữ có thể không giữ nguyên từng ký tự có dấu. Hai yếu tố đó cộng lại khiến chữ Việt sai nhiều hơn.
Tay đẹp và đủ năm ngón thì có chắc là ảnh thật không?
Không. Đó chỉ là thiếu một dấu hiệu, không phải bằng chứng ảnh thật. Ảnh từ mô hình mới thường không còn lỗi tay, và người tạo ảnh có thể tạo nhiều lần rồi chọn tấm đẹp nhất hoặc sửa lại vùng tay. Muốn biết nguồn gốc, bạn cần kiểm người đăng, bối cảnh và thông tin nguồn gốc nội dung nếu có.
Có phải AI cố tình để lại lỗi để người ta nhận ra không?
Không có cơ sở cho thấy lỗi tay hay chữ là cố ý. Chúng là hệ quả tự nhiên của cách mô hình học ảnh. Việc đánh dấu ảnh AI có chủ đích được làm bằng cách khác, như thuỷ vân ẩn hoặc thông tin nguồn gốc nhúng vào tệp, và không phụ thuộc vào việc ảnh có lỗi hay không.
Vì sao mặt người thì đẹp mà tay lại xấu trong cùng một ảnh?
Khuôn mặt là chủ thể của vô số ảnh trên mạng, thường được chụp rõ, chính diện và được chú thích kỹ, nên mô hình học rất kỹ. Bàn tay ít được chú ý, hay bị che và chiếm ít điểm ảnh. Cùng một mô hình nhưng lượng tín hiệu học cho mặt và tay chênh nhau rất xa.
Mô hình tạo video có gặp lỗi tay và chữ giống ảnh không?
Có, và còn thêm một tầng khó: tay và chữ phải giữ đúng qua nhiều khung hình liên tiếp. Bạn có thể thấy ngón tay đổi số lượng khi nhân vật cử động, hay chữ trên áo biến dạng khi người quay đi. Bài về AI tạo video trong danh mục này giải thích vì sao sự nhất quán giữa các khung hình là bài toán khó.