#Fine-tune

WorldTUI: AI 360M tham số giả lập cả một terminal, không cần shell thật

Một mô hình 360M tham số được fine-tune để giả lập terminal: nhận từng phím bấm và dự đoán màn hình thay đổi, có thể chạy vim, tmux và chơi snake ngay trên trình duyệt.

Thinking Machines ra mắt Inkling, mô hình AI mở trọng số 975B tham số

Thinking Machines phát hành Inkling, mô hình AI MoE 975B tham số với trọng số mở, cho phép tải toàn bộ trọng số và tinh chỉnh trên nền tảng Tinker.

Grokking

QLoRA kết hợp quantization 4-bit và LoRA để fine-tune mô hình 65B trên một GPU duy nhất

QLoRA cho phép fine-tune mô hình 65B tham số trên một GPU 48GB duy nhất bằng cách kết hợp lượng tử hóa 4-bit NormalFloat với LoRA adapter, đạt 99,3% hiệu năng ChatGPT.

16x DGX Sparks: Bài toán GPU khủng, cộng đồng AI vào cuộc

Bài đăng trên Reddit về cụm 16 node DGX Sparks với 128 GPU gây sốt cộng đồng AI, mở ra cuộc thảo luận về cách tận dụng sức mạnh tính toán khủng cho fine-tune mô hình, mô phỏng khoa học, và phát triển dịch vụ AI giá rẻ.