Sâu Zero-Click GenAI Lây Lan Malware, Độc Hại Mô Hình AI

- Một loại sâu máy tính mới, được gọi là Zero-Click GenAI Worm, đã được phát triển để lây lan malware và độc hại cho các mô hình AI tạo sinh như ChatGPT.
- Sâu này sử dụng "adversarial self-replicating prompts" - các dấu nhắc tự sao chép đối kháng, để lừa các ứng dụng AI tạo sinh phát tán malware và các nội dung độc hại khác.
- Ba nhà nghiên cứu từ Israel đã chứng minh trong một môi trường phòng thí nghiệm cách một kẻ tấn công có thể thiết kế các dấu nhắc này để thuyết phục một mô hình tạo sinh sao chép đầu vào thành đầu ra, cho phép malware lan truyền sang các đại lý AI khác.
- Các dấu nhắc có thể được sử dụng để đánh cắp thông tin, phát tán spam, độc hại mô hình, và nhiều mục đích khác.
- Sâu này được đặt tên là "Morris II", theo tên của malware tự sao chép nổi tiếng đã làm sập một phần mười Internet vào năm 1988.
- Để minh họa cách malware AI tự sao chép có thể hoạt động, các nhà nghiên cứu đã thực hiện một thí nghiệm.

📌 Sự xuất hiện của Zero-Click GenAI Worm (được đặt tên là "Morris II") đánh dấu một bước tiến mới trong việc lợi dụng AI tạo sinh để phát tán malware và độc hại mô hình. Sâu này sử dụng các dấu nhắc tự sao chép đối kháng để lừa các ứng dụng AI như ChatGPT phát tán nội dung độc hại, mở ra một kênh tấn công mới mà các nhà bảo mật cần phải đối mặt. Ba nhà nghiên cứu từ Israel đã chứng minh khả năng của loại sâu này trong một môi trường phòng thí nghiệm, làm nổi bật nguy cơ từ các cuộc tấn công tinh vi sử dụng AI. Điều này không chỉ làm dấy lên mối lo ngại về an ninh mạng mà còn nhấn mạnh tầm quan trọng của việc phát triển các biện pháp bảo vệ hiệu quả hơn đối với các mô hình AI tạo sinh.

Citations:
[1] https://www.darkreading.com/application-security/zero-click-genai-worm-malware-poisoning-models