Sebastian Raschka, tác giả cuốn Build Reasoning Model (From Scratch), vừa công bố tám video hướng dẫn lập trình, tổng cộng khoảng 11 giờ, giúp người xem tự xây một mô hình AI suy luận từ đầu bằng Python và PyTorch. Bài viết giới thiệu khóa học đã thu hút nhiều lượt upvote trên Hacker News.

Mô hình suy luận là gì?

Hiểu đơn giản, mô hình suy luận là phiên bản nâng cấp của AI dạng LLM thông thường. Nó được huấn luyện thêm bằng reinforcement learning với phần thưởng có thể kiểm chứng, nhờ vậy giải tốt hơn các bài toán khó như toán học hay lập trình. Theo Raschka, gần như mọi LLM thế hệ hiện tại đều là mô hình suy luận hoặc có chế độ suy luận.

Động cơ và chiếc xe

Raschka dùng phép so sánh dễ hình dung: mô hình là động cơ, còn agent harness là phần khung xe giúp động cơ làm được nhiều việc hơn. Harness quản lý ngữ cảnh và cho phép LLM dùng các công cụ bên ngoài, từ các tác vụ lập trình lớn đến đặt vé du lịch hay làm trợ lý cá nhân.

Vì sao đáng chú ý?

Khóa học bắt đầu từ một LLM đã được pre-train, rồi hướng dẫn cách đánh giá và cải thiện nó bằng Python và PyTorch. Cuốn sách đi kèm của Raschka đề cập inference scaling, reinforcement learning và distillation. Với các lập trình viên Việt Nam, đây là cơ hội để hiểu cách các mô hình suy luận vận hành bên trong. Bạn có thể xem thêm các tin khác về công nghệ trên VnRead.