Google (GOOGL) vừa giới thiệu EmbeddingGemma 2, phiên bản mới của mô hình embedding nhẹ đã được tải hơn 20 triệu lần. Điểm khác biệt lớn nhất: mô hình không chỉ hiểu văn bản mà còn xử lý được mã nguồn, hình ảnh, video và âm thanh trong cùng một không gian dữ liệu. Mô hình dùng giấy phép Apache 2.0, cho phép đưa vào sản phẩm thương mại.

Tìm kiếm thông minh ngay trên thiết bị

Embedding là cách AI biến nội dung thành các dãy số để máy tính so sánh ý nghĩa. Nhờ vậy, bạn có thể gõ vài chữ để tìm lại một đoạn video hay một đoạn ghi âm dài hàng giờ mà không cần nhớ chính xác tên tệp. Với 740 triệu tham số, EmbeddingGemma 2 chạy trực tiếp trên điện thoại, chỉ cần khoảng 567MB RAM cho bản đa phương thức đầy đủ trên Pixel 11 Pro sau khi lượng tử hóa. Dữ liệu cá nhân không phải gửi lên máy chủ, nên riêng tư hơn.

Nhẹ, linh hoạt và mạnh hơn về code

Mô hình có thiết kế dạng module: chỉ 270M tham số nếu bạn cần xử lý văn bản. Công nghệ Matryoshka giúp thu nhỏ vector từ 768 xuống 128 chiều, tiết kiệm đến 6 lần dung lượng lưu trữ. Điểm benchmark MTEB Code tăng từ 68,76 lên 78,68, hữu ích cho việc tìm kiếm trong kho code. Cửa sổ ngữ cảnh 8K token xử lý được tới 5,5 phút âm thanh hoặc 29 hình ảnh.

Đây là bước tiến đáng chú ý của AI trên thiết bị cá nhân, mở ra nhiều ứng dụng mới cho lĩnh vực công nghệ.