Công NghệGrokking

OpenAI ra mắt GPT-5.6 và ChatGPT Work cho hàng triệu người dùng toàn cầu, nhưng anycast routing và CDN edge caching hoạt động ra sao?

OpenAI vừa tung GPT-5.6 và công cụ ChatGPT Work, phục vụ tức thì cho người dùng khắp thế giới. Bí quyết đứng sau tốc độ đó là anycast routing và CDN edge caching, hai công nghệ mạng ít được nhắc tới nhưng quyết định việc mọi yêu cầu có được xử lý trong tích tắc hay không.

Minh Trí|
OpenAI ra mắt GPT-5.6 và ChatGPT Work cho hàng triệu người dùng toàn cầu, nhưng anycast routing và CDN edge caching hoạt động ra sao?
Photo: Brett Sayles — via Pexels • Nguồn ảnh

Ngày 9/7/2026, OpenAI tung ra GPT-5.6 với ba phiên bản Sol, Luna và Terra, kèm theo công cụ mới tên ChatGPT Work, có thể tự gom dữ liệu từ email, ổ đĩa và ứng dụng nội bộ để soạn tài liệu, bảng tính, slide thay người dùng. Ứng dụng hiện có trên bản desktop cho Mac và Windows ở tất cả các gói dịch vụ; bản web và di động sẽ được triển khai trong vài ngày tới. Hãy hình dung hàng chục triệu nhân viên văn phòng ở New York, Tokyo, São Paulo cùng giao việc cho ChatGPT Work gần như đồng thời, và phần lớn nhận phản hồi trong chưa đầy một giây. Tốc độ đó không chỉ đến từ mô hình AI bên trong, mà còn từ một tầng hạ tầng mạng ít ai để ý phía sau: anycast routing kết hợp với CDN edge caching.

Một địa chỉ IP, hiện diện ở hàng trăm nơi trên thế giới

Thông thường, một địa chỉ IP chỉ trỏ đến một máy chủ vật lý tại một địa điểm. Anycast hoạt động khác: hàng trăm điểm hiện diện, gọi tắt là PoP, tại Tokyo, London, Singapore, São Paulo cùng công bố lên Internet một địa chỉ IP giống nhau. Khi máy tính ở Hà Nội gửi yêu cầu tới ChatGPT Work, gói tin không biết trước sẽ đi qua PoP nào. Tất cả phụ thuộc vào cách các bộ định tuyến trên đường truyền chọn tuyến.

BGP chọn đường gần nhất ra sao

BGP là cơ chế đưa ra quyết định đó. Đây là giao thức định tuyến cốt lõi của Internet, nơi hàng chục nghìn mạng độc lập trao đổi các bảng định tuyến để tìm đường tới một địa chỉ IP. BGP không đo khoảng cách địa lý theo km. Thay vào đó, nó đếm số chặng mạng, gọi là AS-path, rồi ưu tiên tuyến ngắn nhất về cấu trúc mạng. Vì vậy một PoP ở Singapore có thể phục vụ người dùng Hà Nội nhanh hơn một PoP ở Bangkok gần hơn về địa lý, chỉ vì tuyến cáp quang và nhà mạng trung gian kết nối tốt hơn. Nhờ đó, lưu lượng tự động chuyển tới PoP gần nhất theo cấu trúc mạng mà không cần máy chủ trung tâm điều phối thủ công.

Dữ liệu được lưu ở biên mạng, không phải lúc nào cũng gọi về máy chủ gốc

Đến được PoP gần nhất mới chỉ là một nửa câu chuyện. Nửa còn lại nằm ở việc PoP đó có sẵn dữ liệu cần thiết hay không. Với các thành phần ít thay đổi như mã giao diện, hình ảnh hay tệp tĩnh của ChatGPT Work, máy chủ biên có thể lưu sẵn một bản sao, gọi là cache hit, nên phản hồi gần như tức thì mà không cần gọi về trung tâm dữ liệu gốc ở Mỹ. Nếu dữ liệu chưa từng được yêu cầu trước đó, tức cache miss, máy chủ biên phải truy xuất từ máy chủ gốc rồi lưu lại. Những yêu cầu tiếp theo từ khu vực đó vì thế sẽ nhanh hơn đáng kể.

Lợi ích kép: vừa nhanh vừa tăng khả năng chống chịu

Thiết kế này còn mang lại một lợi ích quan trọng là tăng khả năng chống chịu. Nếu một PoP ở Singapore gặp sự cố phần cứng hoặc bị tấn công từ chối dịch vụ, BGP sẽ phát hiện tuyến đó không còn khả dụng và chuyển lưu lượng sang PoP gần nhất tiếp theo, thường chỉ trong vài giây. Người dùng cuối vì thế gần như không cảm nhận được gián đoạn. Đây là lý do các nền tảng quy mô toàn cầu như OpenAI, Cloudflare hay Akamai đều dựa vào hạ tầng mạng phân tán kiểu này thay vì đặt cược vào một trung tâm dữ liệu khổng lồ duy nhất.

Chia sẻ

Bình luận (0)

0/1000
Đang tải...

Tin cùng chuyên mục

Xem tất cả →
Grokking: Lỗi thực thi mã từ xa trong PHP nguy hiểm đến mức nào
Grokking

Lỗi thực thi mã từ xa trong PHP nguy hiểm đến mức nào

Hai lỗ hổng thực thi mã từ xa trong PHP đạt điểm CVSS 9,2 đã được vá khẩn cho bản 8.2–8.5. Palo Alto Networks ước tính hơn 22,6 triệu máy chủ có thể bị ảnh hưởng.

Dành cho bạn