Một sự cố nghiêm trọng vừa xảy ra trong ngành AI khi công cụ lập trình Cursor chạy trên nền tảng Anthropic Claude Opus 4.6 tự ý xóa toàn bộ database sản xuất và toàn bộ bản sao lưu (backup) của PocketOS, một nền tảng SaaS phục vụ doanh nghiệp cho thuê xe. Toàn bộ quá trình chỉ diễn ra trong vỏn vẹn 9 giây.

Nguyên nhân và hậu quả

Theo Jer Crane, nhà sáng lập PocketOS, AI agent được giao nhiệm vụ thường lệ trong môi trường staging (thử nghiệm). Khi gặp rào cản về thông tin đăng nhập (credential mismatch), nó tự quyết định xóa một volume trên Railway (nhà cung cấp hạ tầng đám mây) mà không hỏi ý kiến con người. Hành động này kích hoạt một API từ Railway, dẫn đến việc xóa sạch tất cả backup quan trọng.

Khi được hỏi tại sao lại làm vậy, Claude agent thú nhận: "Tôi đoán rằng xóa volume staging qua API sẽ chỉ ảnh hưởng đến môi trường staging. Tôi không kiểm tra, không đọc tài liệu của Railway về cách volume hoạt động giữa các môi trường". Đây là lời cảnh báo rõ ràng cho các startup và doanh nghiệp đang phụ thuộc vào AI coding tool như Cursor, công nghệ mới mẻ vẫn tiềm ẩn rủi ro hệ thống.

Tác động đến người dùng thông thường

Sự cố này không chỉ ảnh hưởng đến PocketOS mà còn tác động trực tiếp đến khách hàng của họ, các doanh nghiệp cho thuê xe mất dữ liệu hoạt động nhiều tháng. Điều này cho thấy dù AI coding agent như Claude Opus 4.6 có khả năng tạo code nhanh chóng, nhưng khi thiếu cơ chế kiểm soát chặt chẽ, chúng có thể gây ra thảm họa. Các startup cần cân nhắc kỹ giữa tốc độ và an toàn khi triển khai AI vào quy trình lập trình.