Mô hình ngôn ngữ lớn và nhỏ khác nhau chủ yếu ở số lượng tham số — những con số điều chỉnh được bên trong mô hình: mô hình lớn biết rộng hơn, lập luận vững hơn nhưng cần máy chủ mạnh; mô hình nhỏ chạy được trên điện thoại hay máy tính cá nhân, nhanh và riêng tư hơn nhưng dễ hụt khi việc khó. Không có cỡ nào tốt nhất cho mọi việc.
Gần đây người dùng gặp ngày càng nhiều cách gọi như "mô hình nhẹ", "bản mini", "AI chạy trên máy", "mô hình suy luận". Bài này giải thích những khác biệt cốt lõi ở mức nguyên lý: lớn nghĩa là gì, vì sao lớn hơn thường giỏi hơn, vì sao người ta vẫn cần mô hình nhỏ, và những đánh đổi bạn đang chấp nhận mỗi khi chọn một chế độ nhanh hay chế độ mạnh trong ứng dụng.
"Lớn" ở đây nghĩa là gì
Một mô hình ngôn ngữ, ở mức đơn giản nhất, là một hệ thống rất nhiều con số được sắp xếp thành nhiều lớp. Những con số đó gọi là tham số, và quá trình huấn luyện là quá trình chỉnh chúng cho tới khi mô hình đoán chữ tiếp theo đủ tốt. Kích thước mô hình thường được nói bằng số tham số: vài trăm triệu, vài tỉ, hàng chục tỉ, hàng trăm tỉ. Ví dụ một mốc được công bố rộng rãi: mô hình GPT-3 ra mắt năm 2020 có 175 tỉ tham số.
Có thể hình dung tham số như số ô nhớ trong một thư viện khổng lồ, nhưng thư viện này không cất sách nguyên cuốn. Nó cất những quy luật đã rút ra từ việc đọc: từ nào hay đi với từ nào, ý nào dẫn tới ý nào, cách một lập luận thường triển khai. Thư viện càng nhiều ô thì càng chứa được nhiều quy luật tinh tế, nhiều kiến thức hiếm.
Nhiều hãng hiện không công bố số tham số của mô hình mạnh nhất của họ, nên các con số lan truyền trên mạng về những mô hình đó thường chỉ là ước đoán. Bạn cũng sẽ gặp những kiến trúc mà chỉ một phần tham số làm việc cho mỗi mảnh chữ, khiến chuyện so kích thước càng phức tạp. Vì vậy hãy hiểu "lớn" và "nhỏ" như hai đầu của một dải, không phải hai hạng mục có ranh giới rõ.
Một điều nên nhớ: số tham số không phải thước đo duy nhất. Lượng và chất dữ liệu huấn luyện, cách tinh chỉnh, cách xử lý tiếng Việt đều ảnh hưởng mạnh. Một mô hình nhỏ huấn luyện kỹ có thể làm tốt hơn một mô hình lớn hơn nhưng huấn luyện kém ở một số việc.
Vì sao lớn hơn thường giỏi hơn
Chứa được nhiều kiến thức hiếm hơn. Mô hình nhỏ phải "nén" mọi thứ đã đọc vào ít ô nhớ hơn, nên những chi tiết ít gặp như tên một nhà khoa học ít nổi tiếng, một điều khoản hiếm, một từ địa phương thường bị bỏ trước. Mô hình lớn giữ được phần đuôi dài này tốt hơn.
Lập luận nhiều bước vững hơn. Những việc cần nối nhiều ý, như giải một bài toán đố, phân tích một tình huống có nhiều điều kiện, thường được mô hình lớn làm tốt hơn. Giới nghiên cứu từng ghi nhận một số khả năng chỉ thấy rõ khi mô hình vượt qua một quy mô nhất định, dù cách hiểu hiện tượng này vẫn còn tranh luận.
Theo chỉ dẫn phức tạp tốt hơn. Một yêu cầu có năm điều kiện cùng lúc, như viết đúng độ dài, đúng giọng, tránh vài chủ đề, giữ định dạng, mô hình nhỏ dễ quên một hai điều.
Ít bịa hơn ở kiến thức phổ thông, nhưng không phải không bịa. Mô hình lớn nhìn chung trả lời đúng hơn với các câu hỏi kiến thức, nhưng vẫn có thể bịa tự tin ở chỗ không biết. Lớn hơn làm giảm, không xoá được hiện tượng này.
Nhưng lợi ích giảm dần. Tăng gấp đôi kích thước không làm mô hình giỏi gấp đôi. Mỗi bước tăng thêm tốn kém hơn hẳn mà phần cải thiện nhỏ dần, nên các hãng đầu tư mạnh vào cách khác như dữ liệu tốt hơn, huấn luyện khéo hơn, cho mô hình suy nghĩ lâu hơn khi trả lời.
Đánh đổi giữa mô hình lớn và mô hình nhỏ
Bảng dưới so sánh ở mức nguyên lý. Từng sản phẩm cụ thể có thể khác, và ranh giới đang dịch chuyển nhanh khi mô hình nhỏ ngày càng giỏi.
| Khía cạnh | Mô hình lớn | Mô hình nhỏ |
|---|---|---|
| Nơi chạy | Trung tâm dữ liệu với nhiều bộ xử lý chuyên dụng | Có thể chạy trên điện thoại, máy tính cá nhân, thiết bị trong nhà máy |
| Tốc độ trả lời | Chậm hơn, phụ thuộc mạng và tải máy chủ | Nhanh, có thể gần như tức thì với việc ngắn |
| Cần mạng | Có | Không nhất thiết nếu chạy trên máy |
| Kiến thức và lập luận | Rộng, vững hơn ở việc khó | Hẹp hơn, hay hụt ở chi tiết hiếm và việc nhiều bước |
| Dữ liệu của bạn đi đâu | Lên máy chủ của nhà cung cấp | Có thể ở lại trên thiết bị nếu thật sự chạy cục bộ |
| Tốn điện và tài nguyên | Nhiều cho mỗi câu trả lời | Ít hơn hẳn, nhưng làm nóng và hao pin thiết bị |
Dòng về dữ liệu cần đọc kỹ: một tính năng có chữ "AI trên máy" chưa chắc mọi việc đều xử lý trên máy. Nhiều hệ thống làm việc dễ ngay trên thiết bị và gửi việc khó lên máy chủ. Hãy đọc mô tả của nhà sản xuất về việc khi nào dữ liệu rời khỏi thiết bị, và kiểm lại sau mỗi lần cập nhật.
Làm sao để mô hình nhỏ mà vẫn giỏi
Mô hình nhỏ ngày nay giỏi hơn nhiều so với mô hình cùng cỡ vài năm trước. Có vài cách chính, giải thích ở mức nguyên lý. Cách thứ nhất là cho học từ dữ liệu được chọn lọc kỹ hơn: bớt rác, nhiều văn bản giải thích mạch lạc, nhiều ví dụ lập luận chất lượng. Với sức chứa có hạn, mỗi ô nhớ được dùng cho thứ đáng học hơn.
Cách thứ hai là cho mô hình nhỏ học theo mô hình lớn, thường gọi là chưng cất. Hình dung một học trò không đọc toàn bộ thư viện mà học qua bài giảng cô đọng của một thầy giỏi: học trò không biết hết những gì thầy biết, nhưng nắm được phần cốt lõi nhanh hơn nhiều so với tự mày mò.
Cách thứ ba là nén mô hình sau khi huấn luyện, chẳng hạn lưu mỗi tham số bằng ít chữ số hơn, đổi lấy dung lượng nhỏ và tốc độ nhanh, chấp nhận mất một chút độ chính xác. Đây là lý do có những mô hình dung lượng vừa đủ để tải về điện thoại.
Những kỹ thuật này có tên riêng và được giải thích kỹ ở chuyên mục thuật ngữ của trang. Ở đây chỉ cần nắm ý chính: mô hình nhỏ thường không phải bản thu nhỏ ngẫu nhiên, mà là kết quả của nhiều công đoạn cố ý để giữ lại phần hữu ích nhất trong khuôn khổ hạn chế.
Bạn đang gặp mô hình nhỏ ở đâu mà không để ý
Mô hình ngôn ngữ cỡ nhỏ đã có mặt trong nhiều sản phẩm quen thuộc, thường không ghi rõ tên. Một số nơi hay gặp:
- Bàn phím điện thoại gợi ý từ tiếp theo, sửa lỗi gõ, gợi ý câu trả lời nhanh cho tin nhắn.
- Tính năng tóm tắt thông báo, tóm tắt email ngắn ngay trên điện thoại.
- Trợ lý giọng nói xử lý câu lệnh đơn giản không cần mạng.
- Chế độ "nhanh" hay "nhẹ" trong ứng dụng chatbot, dùng cho câu hỏi đơn giản để trả lời tức thì.
- Phần mềm văn phòng gợi ý viết tiếp câu, đặt tiêu đề cho tài liệu.
- Hệ thống phân loại tin nhắn, lọc bình luận, gắn nhãn văn bản trong doanh nghiệp, nơi cần xử lý số lượng lớn với chi phí thấp.
Nhiều ứng dụng chatbot hiện nay còn dùng cách định tuyến: một bộ phận nhỏ đọc câu hỏi trước, đoán độ khó, rồi chuyển câu dễ cho mô hình nhỏ và câu khó cho mô hình lớn. Người dùng thấy một ô chat duy nhất, nhưng phía sau có thể là nhiều mô hình cỡ khác nhau thay phiên. Điều này giải thích vì sao chất lượng câu trả lời đôi khi dao động trong cùng một ứng dụng.
Ví dụ giả định: cùng một ngày, hai cỡ mô hình
Hình dung một nhân viên văn phòng ở Đà Nẵng trong một ngày làm việc bình thường. Buổi sáng, điện thoại tóm tắt hai mươi thông báo nhóm chat thành vài dòng. Việc này có thể do một mô hình nhỏ chạy ngay trên máy làm: thông tin nằm sẵn trong tin nhắn, không cần kiến thức bên ngoài, chỉ cần rút ý. Kết quả nhanh, không tốn mạng, và tin nhắn không phải gửi đi đâu nếu tính năng thật sự chạy cục bộ. Thỉnh thoảng bản tóm tắt bỏ sót một chi tiết, như giờ họp bị đổi, nên người đó vẫn liếc qua tin gốc với việc quan trọng.
Buổi chiều, người đó cần hiểu một điều khoản rắc rối trong hợp đồng thuê văn phòng, có dẫn chiếu qua lại giữa nhiều mục và vài ngoại lệ. Đây là việc cần đọc kỹ, nối nhiều điều kiện, và nắm thuật ngữ pháp lý. Một mô hình nhỏ có thể tóm được ý chung nhưng dễ bỏ sót ngoại lệ hoặc hiểu lệch quan hệ giữa các mục. Một mô hình lớn thường xử lý vững hơn, giải thích từng điều kiện rõ hơn.
Nhưng ngay cả với mô hình lớn, đây vẫn là ví dụ cho thấy giới hạn của mọi cỡ mô hình: lời giải thích chỉ để hiểu văn bản, không thay được ý kiến của người có chuyên môn pháp lý khi phải ký kết hay tranh chấp. Và trước khi đưa hợp đồng lên một dịch vụ trên máy chủ, cần che tên các bên, địa chỉ, số tiền nếu không cần cho câu hỏi.
Ví dụ này cho thấy lựa chọn hợp lý thường không phải "luôn dùng mô hình mạnh nhất", mà là dùng đúng cỡ cho đúng việc, và giữ thói quen kiểm lại ở những chỗ quan trọng dù dùng cỡ nào.
Chọn cỡ nào: câu hỏi nên tự đặt
Người dùng thường không phải chọn mô hình theo số tham số, nhưng ngày càng hay gặp lựa chọn kiểu "nhanh" hay "chuyên sâu", "mini" hay bản đầy đủ. Ở mức nguyên lý, có thể tự hỏi vài câu. Việc này có cần kiến thức hiếm hay lập luận nhiều bước không? Nếu chỉ là sửa câu, dịch đoạn ngắn, gợi ý tiêu đề thì mô hình nhỏ thường đủ. Nếu là phân tích một tình huống phức tạp, tổng hợp nhiều nguồn, thì nên dùng chế độ mạnh hơn.
Sai một chút có sao không? Với việc mà sai sót gây hậu quả, như thông tin sức khoẻ, pháp lý, tiền bạc, chọn mô hình mạnh hơn là hợp lý, nhưng quan trọng hơn vẫn là kiểm chứng ở nguồn đáng tin và hỏi người có chuyên môn, vì mô hình nào cũng có thể sai.
Dữ liệu có nhạy cảm không? Nếu văn bản chứa thông tin cá nhân hay bí mật công việc, khả năng xử lý ngay trên thiết bị là một lợi thế đáng cân nhắc, với điều kiện bạn đã kiểm chắc rằng dữ liệu thật sự không rời máy. Nếu phải dùng dịch vụ trên máy chủ, hãy che thông tin trước khi đưa vào.
Cuối cùng, kích thước chỉ là một yếu tố. Một mô hình hợp với tiếng Việt, hợp với loại việc của bạn, minh bạch về dữ liệu có giá trị hơn một con số tham số lớn trên bảng quảng cáo. Trang này trung tính với các hãng; tính năng và cỡ mô hình thay đổi nhanh, nên hãy kiểm thông tin hiện hành khi chọn.
Câu hỏi thường gặp
Tham số của mô hình ngôn ngữ là gì?
Là những con số điều chỉnh được bên trong mô hình, được chỉnh trong lúc huấn luyện để mô hình đoán chữ tiếp theo tốt hơn. Số tham số thường dùng để nói kích thước mô hình, từ vài trăm triệu tới hàng trăm tỉ.
Mô hình càng nhiều tham số thì càng thông minh phải không?
Thường giỏi hơn nhưng không tuyệt đối. Chất lượng dữ liệu, cách huấn luyện và tinh chỉnh ảnh hưởng mạnh. Một mô hình nhỏ huấn luyện kỹ có thể vượt mô hình lớn hơn ở một số việc, và lợi ích của việc tăng kích thước giảm dần.
AI chạy trên điện thoại có cần mạng không?
Nếu thật sự chạy trên máy thì không cần mạng cho những việc đó. Nhưng nhiều tính năng kết hợp cả hai: việc đơn giản làm trên máy, việc phức tạp gửi lên máy chủ. Hãy đọc mô tả của nhà sản xuất để biết khi nào dữ liệu rời khỏi thiết bị.
Mô hình nhỏ có an toàn hơn về quyền riêng tư không?
Khi chạy hoàn toàn trên thiết bị, dữ liệu không phải gửi lên máy chủ, đó là lợi thế rõ. Nhưng an toàn còn phụ thuộc ứng dụng có gửi dữ liệu đi nơi khác hay không, thiết bị có được bảo vệ tốt không. Kích thước mô hình tự nó không bảo đảm riêng tư.
Vì sao các hãng không công bố số tham số của mô hình mạnh nhất?
Mỗi hãng có lý do riêng, thường liên quan tới cạnh tranh. Vì thế các con số lan truyền về những mô hình đó thường là ước đoán. Khi đọc tin, hãy xem con số được công bố chính thức hay chỉ là suy đoán của người viết.
Chế độ "nhanh" trong ứng dụng chatbot có phải dùng mô hình nhỏ không?
Thường là mô hình nhẹ hơn hoặc mô hình được cấu hình để trả lời ngắn, ít suy nghĩ hơn. Cách làm cụ thể khác nhau giữa các dịch vụ và hay thay đổi. Với việc khó hoặc quan trọng, chế độ mạnh hơn thường cho kết quả vững hơn.