Популярные ИИ-приложения научились вовлекать в ботнеты
Исследователи из американской компании Intuit, а также израильских Тель-Авивского университета и Университета Технион разработали схему атаки HalluSquatting на приложения с искусственным интеллектом. Она позволяет выполнять на компьютерах пользователей произвольный код и формировать из ИИ-приложений ботнеты.
Источник изображения: Towfiqu barbhuiya / unsplash.com
В основу атаки легла склонность ИИ-моделей к галлюцинациям — выдаче правдоподобных, но заведомо неверных ответов. Ранее была известна схема атаки TypoSquatting. Она предполагает создание вредоносных ресурсов, адреса которых незначительно отличаются от адресов популярных сайтов — злоумышленники надеются, что пользователь совершит опечатку.
Аналогичным образом работает схема HalluSquatting — злоумышленники рассчитывают, что ИИ-модель систематически ссылается на некий несуществующий ресурс либо проект, регистрируют его и размещают по соответствующему адресу скрытый запрос к модели ИИ, например, на выполнение вредоносного кода без участия пользователя. В результате из пострадавших компьютеров формируется ботнет — сеть для проведения DDoS-атак или развёртывания теневых прокси-серверов.
При тестировании этого метода атаки исследователи обращались к таким сервисам помощника программиста как Cursor, Cursor CLI, Windsurf, GitHub Copilot, Cline и Gemini CLI, к приложениям ИИ-агентов OpenClaw, ZeroClaw и NanoClaw. Они успешно добились удалённого доступа к большим языковым моделям и управления ими, а также удалённого выполнения кода.
В качестве защиты от подобных атак исследователи предлагают блокировать прямое обращение к ресурсам, чтобы ИИ-приложения сначала подключали штатные средства поиска, а также ужесточить схемы наименования проектов и перейти на глобально уникальные имена ресурсов. Но это, признают эксперты, потребует сотрудничества различных сторон и займёт некоторое время.
Источник:
var addthis_config = {«data_track_clickback»:true,ui_language:»ru»,data_ga_property: ‘UA-7209516-1’}
Если вы заметили ошибку — выделите ее мышью и нажмите CTRL+ENTER.
Материалы по теме
У ИИ-модели OpenAI GPT-5.6 Sol нашли такие же уязвимости, как у Fable 5
У ИИ-агента GitHub нашлась способность передавать данные из закрытых репозиториев
Несмотря на запрет Пентагона, власти США используют Anthropic Mythos для поиска уязвимостей в правительственном ПО
GPT-5.6 Sol за час доказала математическую гипотезу, над которой учёные бились более 50 лет
Европа обязала Google открыть Android для сторонних ИИ-помощников и делиться поисковыми данными с конкурентами
Samsung Health пообещала не удалять данные пользователей, запретивших обучать на них ИИ