Nhóm nghiên cứu vừa ra mắt Bonsai Image 4B, một dòng mô hình tạo ảnh siêu nhỏ gọn có thể chạy trực tiếp trên thiết bị cá nhân như laptop và smartphone. Đây là bước đột phá giúp đưa AI tạo hình ảnh xuống phần cứng phổ thông, thay vì phải phụ thuộc vào đám mây hay GPU đắt tiền.

Nén cực sâu, hiệu năng bất ngờ

Bonsai Image 4B có hai biến thể: bản 1-bit và bản ternary. Bản 1-bit sử dụng trọng số nhị phân {−1, +1} với hệ số tỷ lệ FP16, chỉ tốn 1,125 bit cho mỗi trọng số, giúp giảm bộ nhớ transformer từ 7,75 GB xuống còn 0,93 GB, tức giảm 8,3 lần so với mô hình gốc FLUX.2 Klein 4B. Bản ternary dùng {−1, 0, +1} cho chất lượng hình ảnh tốt hơn, vẫn chỉ chiếm 1,21 GB. Cả hai đều chạy được trên Apple Silicon và thậm chí trên iPhone, điều chưa từng có với mô hình 4B tham số.

Ý nghĩa với người dùng thường

Thay vì phải kết nối Internet hay thuê dịch vụ API đắt đỏ, giờ đây người dùng có thể tạo ảnh AI ngay trên máy tính xách tay hoặc điện thoại. Bonsai Image 4B là mô hình có trọng số mở, giúp các nhà phát triển và startup dễ dàng tích hợp mà không lo chi phí hạ tầng. Đây cũng là bước tiến cho AI tạo sinh trên thiết bị di động, khi các thiết bị phổ thông có thể khai thác sức mạnh của diffusion transformer mà không cần đầu tư vào GPU đắt tiền.