Nếu bạn đã làm việc với Stable Diffusion hay DALL-E, bạn biết mô hình khuếch tán (diffusion model) tạo ảnh bằng cách khử nhiễu dần dần qua hàng trăm, thậm chí hàng nghìn bước. DDPM (Denoising Diffusion Probabilistic Model) gốc cần khoảng 1.000 bước để biến nhiễu Gaussian thuần túy thành một bức ảnh sắc nét. DDIM (Denoising Diffusion Implicit Models) của Jiaming Song và cộng sự tại Stanford giải quyết nút thắt này: cùng một mô hình đã huấn luyện, nhưng chỉ cần 50 đến 100 bước mà chất lượng ảnh gần như không đổi.

Vấn đề của DDPM: quá trình Markov chậm chạp

DDPM mô hình hóa quá trình ngược (từ nhiễu về ảnh) như một chuỗi Markov, mỗi bước chỉ phụ thuộc vào bước ngay trước đó. Nói cách khác, không thể bỏ qua bước nào: mỗi bước t phải dựa vào bước t+1 để tính phân phối xác suất. Giống như bạn phải đi bộ qua từng bậc thang thay vì nhảy cóc, dù đích đến đã rõ ràng.

Cách DDIM "nhảy bước": quá trình non-Markovian

Ý tưởng cốt lõi của DDIM là tái định nghĩa quá trình ngược thành một dạng non-Markovian. Thay vì chỉ phụ thuộc vào bước liền kề, DDIM cho phép bước hiện tại suy ra trực tiếp ảnh gốc x₀. Cụ thể, công thức cập nhật của DDIM tính trực tiếp ước lượng x₀ từ bước hiện tại, sau đó nội suy giữa ước lượng đó và nhiễu để nhảy đến bất kỳ bước nào trong chuỗi. Vì không bị ràng buộc bởi chuỗi Markov, bạn có thể chọn một tập con nhỏ các bước (ví dụ 50 bước thay vì 1.000) và DDIM vẫn hoạt động tốt.

Tham số eta: nút điều chỉnh giữa ODE và SDE

DDIM có một tham số eta (η) cho phép kiểm soát mức độ ngẫu nhiên trong quá trình lấy mẫu. Khi η = 0, quá trình trở thành hoàn toàn tất định, tương đương với việc giải một phương trình vi phân thường (ODE). Khi η = 1, bạn quay lại DDPM gốc với đầy đủ tính ngẫu nhiên (SDE). Giữa hai cực này, bạn có thể chọn mức độ "sáng tạo" của mô hình: η thấp cho kết quả ổn định và có thể tái tạo, η cao cho đa dạng hơn nhưng cần nhiều bước hơn để hội tụ.

Lợi ích thực tế: tốc độ và tính nhất quán

Với η = 0, DDIM mang lại hai lợi thế lớn. Thứ nhất, tốc độ: giảm từ 1.000 xuống 50 bước đồng nghĩa với tốc độ nhanh hơn khoảng 10 đến 20 lần trên cùng phần cứng. Thứ hai, tính tất định: cùng một nhiễu ban đầu luôn cho ra cùng một ảnh, rất hữu ích cho chỉnh sửa ảnh và nội suy ngữ nghĩa trong không gian tiềm ẩn. Đây là lý do AI sinh ảnh hiện đại như Stable Diffusion mặc định sử dụng các sampler dựa trên DDIM thay vì DDPM gốc.

So sánh với các phương pháp khác

DDIM không phải sampler duy nhất cải thiện tốc độ. DPM-Solver và DPM-Solver++ dùng phương pháp bậc cao hơn để giải ODE, cho chất lượng tốt chỉ sau 10 đến 25 bước. Consistency Models của OpenAI còn tham vọng hơn khi cố gắng sinh ảnh trong một bước duy nhất. Tuy nhiên, DDIM vẫn là nền tảng quan trọng vì nó chứng minh nguyên lý cốt lõi: bạn không cần huấn luyện lại mô hình, chỉ cần thay đổi cách lấy mẫu là đủ để tăng tốc đáng kể. Mọi công nghệ sampler nhanh sau này đều xây dựng trên trực giác non-Markovian mà DDIM đặt ra.