Kỹ sư Dan Luu cho rằng nhờ các mô hình AI viết code, giới lập trình có thể xây những phần mềm từng bị coi là quá lớn để một người tự làm. Ông thừa nhận làn sóng phần mềm kém chất lượng, chạy chậm nhưng vẫn khoe benchmark đẹp đang tràn ngập. Tuy vậy, theo ông, điều đó không ngăn người làm nghề nghiêm túc tạo ra sản phẩm tốt nếu chịu kiểm thử và đo đạc cẩn thận.

Những dự án tưởng chừng mất cả năm

Dan Luu tự xây một công cụ regex có thể tinh chỉnh để nhanh hơn các thư viện regex đa dụng trên đúng tác vụ ông cần, một bản fork của ripgrep dùng trình biên dịch mã gốc từ engine regex, chạy nhanh hơn với các tác vụ ripgrep của codex ông dùng, và một công cụ giúp build các dự án Rust của ông nhanh hơn, cải thiện lớn với cold build, vừa phải với warm build. Ông nói mình không phải chuyên gia về regex, trình biên dịch hay thuật toán chuỗi, nên nếu làm theo cách cũ, mỗi dự án có thể tốn hơn một năm. Ông cũng nhắc tới dự án pgrust, một dự án quá lớn để khả thi trước đây.

Khi AI nhanh gấp 10 đến 100 lần

Sau khi nghe tin OpenAI sẽ dùng Cerebras cho các mô hình hàng đầu, chứ không chỉ cho các mô hình nhanh nhưng chất lượng thấp như 5.3-Codex-Spark, ông thử hình dung nếu dùng mô hình hàng đầu nhưng nhanh gấp 10 đến 100 lần. Khi đó, các điểm nghẽn sẵn có sẽ càng tệ hơn: tìm kiếm văn bản, thời gian build, và đặc biệt là các lệnh gọi hệ thống cùng chi phí hệ thống tệp, vốn không được thiết kế cho hiệu năng ổ đĩa hiện đại. Với ổ đĩa hiện đại, việc viết bộ công cụ phát triển dùng direct I/O thay cho thao tác hệ thống tệp thông thường từng là chuyện phi lý, nhưng nay hoàn toàn khả thi. Với người dùng bình thường, điều này hứa hẹn công nghệ nhanh và mượt hơn.