Etched, startup do hai nhà sáng lập bỏ học Harvard lập ra, vừa đạt định giá 5 tỷ USD sau khi ký được các hợp đồng trị giá 1 tỷ USD cho chip AI chuyên dụng. Điều khiến giới công nghệ chú ý không phải con số, mà cách công ty đạt được nó. Thay vì làm GPU đa năng như Nvidia, Etched chế tạo ASIC, tức chip chuyên dụng, chỉ để chạy suy luận cho mô hình transformer, kiến trúc nền tảng của hầu hết mô hình AI hiện nay. Theo công bố của công ty, chip này có tốc độ cao hơn GPU thông thường nhiều lần, trong khi tiêu thụ điện thấp hơn hẳn. Bí quyết nằm ở một cấu trúc phần cứng tồn tại từ thập niên 1980 nhưng giờ trở thành vũ khí cạnh tranh trực tiếp với Nvidia: mảng systolic (systolic array).

Mảng systolic hoạt động ra sao

Hãy hình dung mảng systolic như dây chuyền lắp ráp gồm hàng nghìn ô vuông nhỏ xếp thành lưới, mỗi ô chỉ làm đúng một việc: nhân hai số rồi cộng dồn kết quả. Dữ liệu được nạp từ hai cạnh của lưới, chảy qua từng ô theo nhịp đồng hồ, giống như máu bơm qua tim. Vì thế, tên gọi "systolic" bắt nguồn từ nhịp co bóp của tim. Mỗi ô nhận dữ liệu từ ô bên cạnh, tính toán, rồi đẩy kết quả sang ô kế tiếp, không ô nào cần quay lại hỏi bộ nhớ trung tâm xem phải làm gì tiếp theo. Phép nhân ma trận, phần chiếm khối lượng tính toán lớn nhất khi transformer suy luận, được thực hiện ngay khi dữ liệu đi qua lưới một lần.

Vì sao cách này hiệu quả hơn GPU

Một GPU, dù có hàng nghìn nhân xử lý, vẫn vận hành theo nguyên lý von Neumann cổ điển: mỗi nhân phải liên tục đọc lệnh từ bộ nhớ, giải mã, lấy dữ liệu, tính toán, rồi ghi kết quả trở lại bộ nhớ trước khi lặp lại phép tính kế tiếp. Việc di chuyển dữ liệu qua lại giữa nhân xử lý và bộ nhớ tốn năng lượng gấp nhiều lần chính phép tính, đây là "bức tường bộ nhớ" nổi tiếng trong ngành công nghệ. Mảng systolic tránh được vấn đề này bằng cách để dữ liệu chảy trực tiếp từ ô này sang ô khác, tái sử dụng ngay thay vì ghi rồi đọc lại. Vì transformer chủ yếu lặp đi lặp lại phép nhân ma trận, việc khắc cố định kiểu tính toán này vào silicon giúp Etched loại bỏ gần hết chi phí điều khiển và truy xuất bộ nhớ dư thừa.

Cái giá của sự chuyên dụng

Đánh đổi ở đây rất rõ: GPU có thể chạy game, dựng hình 3D, huấn luyện mô hình hay xử lý gần như mọi tác vụ song song, còn ASIC dạng systolic của Etched gần như chỉ làm một việc là chạy suy luận cho transformer. Chính vì từ bỏ khả năng lập trình linh hoạt, con chip không cần logic điều khiển phức tạp hay bộ giải mã lệnh cồng kềnh, nên diện tích và năng lượng tiết kiệm được dồn hết cho tính toán thuần túy, tạo ra mức tăng tốc gấp hàng chục lần cho đúng một tác vụ. Đó là lý do giới đầu tư, từng thờ ơ với ý tưởng này năm 2023, nay đổ tiền vào Etched: khi thị trường dồn vào một kiến trúc AI ở quy mô khổng lồ, việc khắc cố định thuật toán vào phần cứng không còn là rủi ro mà trở thành lợi thế.