AI
OpenCV 5 ra mắt: Bước tiến lớn nhất cho thị giác máy tính trong lịch sử
OpenCV 5 ra mắt với engine deep learning được viết lại hoàn toàn, hỗ trợ ba nền tảng song song, đánh dấu bước tiến lớn nhất trong lịch sử thị giác máy tính nguồn mở.
#Deep Learning
Denoising diffusion thêm và bớt nhiễu theo lịch trình cố định
Stanford mở khóa học CS336: Xây dựng LLM từ đầu
10Reinforcement Learning dạy AI tự học từ thưởng và phạt bằng cách nào?
8Backpropagation, thuật toán 40 tuổi đằng sau cơn sốt máy chủ AI 16 tỷ USD của Dell, dạy AI học ra sao?
RLHF huấn luyện AI tuân theo ý muốn con người bằng phần thưởng
RLHF là quy trình ba giai đoạn giúp mô hình AI học tuân theo ý muốn con người thông qua SFT, Reward Model và PPO, với KL penalty ngăn reward hacking.
2Gradient checkpointing đánh đổi tính toán lấy bộ nhớ khi huấn luyện
Gradient checkpointing giúp huấn luyện mô hình lớn hơn bằng cách chỉ lưu một phần activation, tính lại phần còn lại khi cần, đạt tiết kiệm bộ nhớ tối ưu O(sqrt(n)).
DDIM bỏ qua bước nhiễu để sinh ảnh nhanh hơn 10 lần
DDIM tái định nghĩa quá trình khử nhiễu thành dạng tất định non-Markovian, cho phép sinh ảnh nhanh hơn 10-20 lần mà không cần huấn luyện lại mô hình khuếch tán.