Mô hình ngôn ngữ lớn và nhỏ khác nhau thế nào: chạy ở đâu, giỏi gì, đánh đổi gì
Mô hình lớn biết rộng, lập luận tốt nhưng cần máy chủ mạnh; mô hình nhỏ chạy trên điện thoại, nhanh, riêng tư hơn mà hay hụt. Giải thích đánh đổi bằng ví dụ đời
Mô hình lớn biết rộng, lập luận tốt nhưng cần máy chủ mạnh; mô hình nhỏ chạy trên điện thoại, nhanh, riêng tư hơn mà hay hụt. Giải thích đánh đổi bằng ví dụ đời
Chưng cất là cách huấn luyện mô hình nhỏ bắt chước mô hình lớn để chạy nhanh, rẻ hơn. Cơ chế thầy trò, cái được, cái mất và tranh cãi quanh nó.