Một dự án công nghệ mã nguồn mở mới có tên PS5LM đang gây chú ý trên cộng đồng lập trình viên: biến chiếc PlayStation 5 đã jailbreak thành một máy chủ AI riêng tư ngay trong nhà bạn.
Chạy trực tiếp trên GPU của console
PS5LM dùng llama.cpp với backend Vulkan trên GPU RDNA 2 của máy, dành khoảng 11,4 GB bộ nhớ dùng chung cho mô hình và ngữ cảnh. Chỉ cần nạp một file GGUF, máy sẽ phục vụ laptop, điện thoại hay các công cụ lập trình trong mạng nội bộ. Không cần PC chạy kèm, không cần cloud, không cần tài khoản.
Tương thích API quen thuộc
Console trả lời qua API chuẩn của OpenAI và Anthropic, nên các công cụ như Claude Code có thể kết nối trực tiếp. Mọi yêu cầu còn hiển thị trên TV dưới dạng một cuộc trò chuyện, cho biết thiết bị nào hỏi, hỏi gì và câu trả lời đang được viết ra sao. Ứng dụng cũng theo dõi nhiệt độ, điện năng, tải GPU và CPU, tự chọn ngữ cảnh dài nhất vừa với bộ nhớ trống và tải mô hình từ Hugging Face.
Thêm mô hình ra quyết định
PS5LM còn chạy các mô hình ra quyết định, trả về lựa chọn kèm xác suất chỉ trong một lần xử lý, không cần sinh văn bản. Ví dụ, nó có thể đọc tin nhắn khách hàng và xác định họ muốn hoàn tiền hay hủy dịch vụ. Với người dùng bình thường, đây là minh chứng cho thấy AI riêng tư có thể chạy trên thiết bị gia đình quen thuộc.
