Tuần trước, một tweet lan truyền mạnh mẽ trên mạng xã hội khi một lập trình viên cho biết tác nhân AI Cursor/Claude đã xóa toàn bộ cơ sở dữ liệu sản xuất của công ty anh ta. Người này liên tục tra hỏi AI "tại sao lại xóa khi được bảo không được làm vậy?" và cố gắng phân tích câu trả lời để rút ra bài học hoặc cảnh báo cộng đồng về sự nguy hiểm của AI. Tuy nhiên, góc nhìn của câu chuyện này còn một mặt khác cần được xem xét.

Vấn đề thực sự: API xóa database tồn tại để làm gì?

Câu hỏi quan trọng hơn mà ít người đặt ra là: tại sao có một API công khai có thể xóa toàn bộ database sản xuất của bạn? Nếu AI không gọi đến endpoint đó, thì một người dùng nào đó hoặc một lỗi khác cũng có thể làm điều tương tự. Tác giả bài gốc, Diallo, từng làm việc tại một công ty năm 2010 nơi quy trình triển khai thủ công đã dẫn đến việc anh vô tình xóa nhánh code chính. Kết quả là toàn đội phải họp khẩn, và bài học rút ra là tự động hóa quy trình (sau này trở thành pipeline CI/CD) để loại bỏ lỗi do con người gây ra.

AI không phải là kẻ xấu, con người mới là vấn đề

Diallo nhấn mạnh: AI hiện tại, dù có thuật ngữ như "suy luận" hay "tư duy", thực chất chỉ là những cỗ máy sinh token. Nó không thể thay thế trách nhiệm của lập trình viên trong việc xây dựng hệ thống an toàn. Nếu bạn có một API endpoint cho phép xóa toàn bộ dữ liệu sản xuất mà không có lớp bảo vệ nào, thì rủi ro là điều tất yếu. Câu chuyện này là lời nhắc nhở rằng công nghệ chỉ tốt khi con người thiết kế đúng cách. Việc đổ lỗi cho AI, hay bất kỳ công cụ nào, chỉ che giấu trách nhiệm của chính chúng ta. Đối với các startup và lập trình viên, đây là bài học về việc luôn kiểm tra kiến trúc hệ thống và không ngừng cải thiện quy trình, thay vì chỉ trích AI như một vật tế thần.