Tội phạm đã sử dụng mô hình AI để đánh cắp thông tin y tế, tài chính và thông tin đăng nhập của chính phủ, đe dọa tiết lộ dữ liệu trừ khi được trả hơn $500,000

Anthropic cho biết một tội phạm mạng đã sử dụng mô hình trí tuệ nhân tạo (AI) của họ để đánh cắp thông tin cá nhân nhạy cảm và yêu cầu khoản tiền chuộc lớn để không tiết lộ thông tin đó.

Các thành viên trong nhóm tình báo mối đe dọa của Anthropic gồm Alex Moix, Ken Lebedev và Jacob Klein cho biết trong một báo cáo mới rằng một tội phạm mạng đã lạm dụng chatbot Claude của công ty AI này để hỗ trợ việc đánh cắp dữ liệu và yêu cầu tiền chuộc.

“Gần đây, chúng tôi đã ngăn chặn một tội phạm mạng tinh vi sử dụng Claude Code để thực hiện hành vi trộm cắp và tống tiền dữ liệu cá nhân trên quy mô lớn. Đối tượng này đã nhắm mục tiêu ít nhất 17 tổ chức khác nhau…

Đối tượng đã sử dụng AI ở mức độ mà chúng tôi tin là chưa từng có. Claude Code được sử dụng để tự động hóa việc trinh sát, thu thập thông tin đăng nhập của nạn nhân và xâm nhập vào các mạng lưới. Claude được phép đưa ra cả quyết định chiến thuật và chiến lược, chẳng hạn như quyết định dữ liệu nào sẽ lấy đi và cách soạn thảo các yêu cầu tống tiền nhắm vào tâm lý. Claude đã phân tích dữ liệu tài chính bị lấy cắp để xác định số tiền chuộc phù hợp, và tạo ra các thông báo tống tiền với hình ảnh gây sốc được hiển thị trên máy tính của nạn nhân.”

Anthropic cho biết tội phạm mạng này đã tổ chức “một chiến dịch tấn công có hệ thống tập trung vào việc đánh cắp dữ liệu toàn diện và tống tiền” bằng cách sử dụng mô hình AI.

“Đối tượng đã cung cấp cho Claude Code các TTP (Chiến thuật, Kỹ thuật và Quy trình) vận hành ưa thích của họ trong tệp CLAUDE.md, được sử dụng như một hướng dẫn để Claude Code phản hồi các yêu cầu theo cách mà người dùng mong muốn…

Cách tiếp cận có hệ thống của đối tượng đã dẫn đến việc xâm phạm các hồ sơ cá nhân, bao gồm dữ liệu y tế, thông tin tài chính, thông tin đăng nhập của chính phủ và các thông tin nhạy cảm khác, với các yêu cầu tiền chuộc trực tiếp đôi khi vượt quá 500,000 USD.”

Công ty cũng cho biết việc sử dụng các mô hình AI của họ cho mục đích phi pháp vẫn đang diễn ra bất chấp những nỗ lực ngăn chặn.

“Chúng tôi đã phát triển các biện pháp an toàn và bảo mật tinh vi để ngăn chặn việc lạm dụng các mô hình AI của mình. Mặc dù các biện pháp này nhìn chung hiệu quả, nhưng tội phạm mạng và các đối tượng độc hại khác liên tục tìm cách vượt qua chúng.”

Hình ảnh được tạo: Midjourney