Исследователи создали ИИ-червя, который сам захватывает устройства без участия человека
Команда учёных из Университета Торонто, Кембриджского университета и компании ServiceNow опубликовала на сервере препринтов arXiv работу, демонстрирующую принципиально новый тип кибератаки. Исследователи создали прототип компьютерного червя, который использует общедоступные языковые модели ИИ для самостоятельного распространения по сети, адаптируясь к каждой новой цели без вмешательства оператора.
Как это работает
Традиционный компьютерный червь — это вредоносная программа, которая распространяется сама, эксплуатируя уязвимости в программном обеспечении. Однако его стратегия атаки фиксирована заранее. Новый ИИ-червь устроен иначе: попав на устройство, он использует вычислительные мощности жертвы для запуска языковой модели, которая анализирует конфигурацию системы, ищет уязвимости и вырабатывает стратегию следующей атаки — всё это происходит в режиме реального времени.
Особенно важно то, что используемые модели — открытые и бесплатные (так называемые open-weight LLM). Это означает, что для развёртывания такого червя не нужен доступ к платным облачным сервисам: он работает локально на захваченных машинах, питаясь их ресурсами. Каждая новая «жертва» становится дополнительным вычислительным узлом для продолжения атаки.
Результаты лабораторного эксперимента
Все испытания проводились в изолированной виртуальной среде. Испытательная сеть состояла из 33 устройств — под управлением Linux, Windows и различного IoT-оборудования с типичными корпоративными уязвимостями:
- Червь проводил в среднем 15 самостоятельных «забегов»
- В каждом забеге он находил в среднем 31,3 уязвимости и компрометировал 23,1 хоста
- Root-доступ на хостах с «однодневными» уязвимостями был получен в 61% попыток
- В ряде испытаний червь прошёл семь поколений самокопирования
- Достаточно было одного публично доступного документа с описанием уязвимости, чтобы червь научился её эксплуатировать
Почему это опасно и что с этим делать
Руководитель исследования профессор Николас Паперно сформулировал суть угрозы лаконично: прежде хакеры вынуждены были расставлять приоритеты, потому что время и вычислительные ресурсы были ограничены. Теперь, когда червь питается ресурсами жертв, стоимость каждой следующей атаки падает практически до нуля.
Существующие системы защиты основаны на базах данных известных угроз: антивирус или брандмауэр блокируют то, что уже видели раньше. ИИ-червь, адаптирующий стратегию под каждую конкретную систему, не вписывается в эти базы данных. При этом традиционное «залатывание дыр» также оказывается недостаточным: в испытаниях червь успешно комбинировал несколько менее критичных уязвимостей для достижения цели даже на частично обновлённых системах.
Читайте также по теме: рисках и возможностях объяснимого ИИ.
Исследование опубликовано именно как предупреждение, а не инструкция: учёные намеренно не раскрывают технические детали реализации, однако настаивают на том, что профессиональное сообщество должно знать о существовании этого класса угроз до того, как им воспользуются реальные злоумышленники.
