Các cuộc tấn công này không làm tổn hại đến các tác nhân AI, mà dựa vào kỹ nghệ xã hội để đánh lừa người dùng tải xuống các tệp chứa mã độc có khả năng thực thi lệnh, tải xuống dữ liệu và cài đặt các thành phần phụ thuộc ẩn.
Cũng giống như các nền tảng phân phối AI khác, cả Hugging Face và ClawHub đều cho phép các nhà phát triển dễ dàng chia sẻ mã nguồn. Vì điều này, các đối tượng xấu đang lợi dụng lòng tin của người dùng vào chúng để thực hiện các mục đích bất chính.
“Một khía cạnh quan trọng của hoạt động này là việc lạm dụng lòng tin giữa người dùng, các tác nhân AI và các nguồn lực bên ngoài. Thông qua các kỹ thuật như chèn prompt, kẻ tấn công nhúng các chỉ thị ẩn có thể được thực thi bởi các hệ thống AI mà người dùng không hề hay biết”, Acronis giải thích.
Trên ClawHub, công ty xác định gần 600 skill độc hại trên 13 tài khoản nhà phát triển được thiết kế để phát tán Trojan, phần mềm khai thác tiền điện tử hay phần mềm đánh cắp thông tin, nhắm mục tiêu vào hệ thống Windows và macOS, nổi bật nhất là hai tài khoản “hightower6eu” và sakaen736jih “199 kỹ năng”.
Trong hệ sinh thái OpenClaw, các skill là những phần mở rộng do cộng đồng xây dựng, cho phép người dùng mở rộng khả năng của các tác nhân AI. Kiến trúc mô-đun này cũng có nghĩa là AI có thể thực thi mã bên ngoài với quyền hạn cao.
Bằng cách chèn các prompt vào các tài nguyên mà AI đọc, kẻ tấn công hướng dẫn các tác nhân tải xuống và thực thi mã trên máy tính của người dùng, dẫn đến lây nhiễm phần mềm độc hại. Một trong những loại mã độc được xác định nhắm mục tiêu vào người dùng macOS là Atomic macOS Stealer (AMOS) Stealer khét tiếng.
“Có vẻ như việc phát tán phần mềm độc hại thông qua các phương thức truyền thống như quảng cáo độc hại đang được các tin tặc chuyển dần sang tấn công các kênh phân phối đáng tin cậy. Đặc biệt, các hệ sinh thái nền tảng liên quan đến AI như ClawHub đang bị lợi dụng để phát tán mã độc, đồng thời lợi dụng lòng tin của người dùng vào các công cụ AI trông có vẻ hợp pháp”, Acronis cho biết.
Thông qua hai chiến dịch lợi dụng Hugging Face, những kẻ tấn công đã tạo ra các kho lưu trữ tệp tin độc hại với các chuỗi lây nhiễm nhiều bước, dẫn đến phát tán nhiều loại mã độc khác nhau nhắm mục tiêu vào Windows, Linux và Android.
Theo Acronis, các chiến dịch khác cũng có thể lợi dụng nền tảng này cho các mục đích tương tự, khi các tin tặc tận dụng sự phổ biến ngày càng tăng và sự mở rộng nhanh chóng của Hugging Face. “Việc đo lường chính xác toàn bộ phạm vi là rất khó khăn, do quy mô của nền tảng và tính chất động của nội dung được lưu trữ. Quy mô thực sự của hoạt động này có thể cao hơn nhưng cần được điều tra sâu rộng hơn”, Acronis nhận định.
