Интеграция крупных языковых моделей (LLM) в ежедневные бизнес-процессы, корпоративные экосистемы и персональные ассистенты создала не только новые удобства, но и новый вектор киберугроз. Традиционные антивирусы и брандмауэры (среды безопасности) разработаны для анализа кода, бинарных файлов и сетевых пакетов. Однако когда главным инструментом вычислений становится обычный человеческий язык, на котором общаются нейросети, классические методы защиты оказываются бессильными. Злоумышленникам больше не нужно искать сложные баги (ошибки) в памяти программ — достаточно научиться манипулировать контекстом и текстовыми инструкциями (проптами), с которыми работает искусственный интеллект.
Morris II: Экспериментальное оружие против искусственного интеллекта
Группа ведущих исследователей по кибербезопасности (в частности специалисты из Корнелльского университета инженерии, израильского института Технион и компании Intuit) разработала и успешно протестировала первого в мире червя, способного самостоятельно размножаться внутри генеративных сред. Проект получил символическое название Morris II – в честь червя Морриса, который в 1988 году стал первой масштабной вредоносной программой, парализовавшей работу раннего интернета.
Механизм атаки: как текстовый промпт становится вирусом
Исследователи наглядно продемонстрировали работу Morris II на примере ШИ-помощника, автоматически обрабатывающего электронную почту. Механизм инфицирования и распространения состоит из четкой последовательности шагов:
Аналитический взгляд на угрозу: комментарии экспертов
Создание Morris II доказывает, что концепция «доверия к входным данным» в системах искусственного интеллекта требует немедленного просмотра. Эксперты цифровой безопасности отмечают, что главная проблема кроется в самой природе LLM.
Директор по технологиям Агентства кибербезопасности Украины Дмитрий Ковальчук отмечает:
«Morris II – это тревожный звонок для всей IT-индустрии. Компании сейчас массово дают ШИ-ассистентам права на чтение и отправку почты, управление календарями и работу с базами данных компании. Это открывает прямой путь для подобных червей. Если нейросеть можно заставить выполнять посторонние команды через обычный текст, под угрозой оказывается вся корпоративная тайна. Защититься от этого классическими сигнатурными методами невозможно – нужны новые фильтры контекста».
Ведущая исследовательница систем искусственного интеллекта Екатерина Миронова добавляет:
«Опасность Morris II еще и в том, что он может распространяться из-за мультимодальных данных. Исследователи закодировали вредоносный промпт прямо внутри изображения. Пользователь видит хорошую картинку, но когда ИИ анализирует ее пиксели, он считывает команду на самовоспроизведение и кражу данных. Разработчики из OpenAI и Google признали результаты этого исследования и сейчас активно изменяют архитектуру взаимодействия ИИ с внешними приложениями, изолируя критические функции выполнения от анализа текста».
Памятка пользователям ШИ-сервисов: как защитить собственные данные
Пока разработчики изменяют внутренние системы безопасности больших языковых моделей, пользователям следует самостоятельно минимизировать риски при работе с ШИ-ассистентами:
-
Выключите полную автоматизацию критических действий: Не позволяйте ШИ-ассистентам автоматически отправлять письма, осуществлять финансовые транзакции или изменять системные файлы без финального подтверждения (клика «отправить»).
-
Будьте осторожны с плагинами и расширениями: Ограничивайте доступ сторонних ШИ-модулей к вашим частным архивам, почтовым ящикам и документам. Чем меньше связей имеет модель с внешним миром, тем меньше риск инфицирования червем.
-
Не загружайте подозрительные файлы для анализа в ИИ: Если вы получили письмо от неизвестного отправителя с просьбой «скачать эту таблицу или картинку в ChatGPT, чтобы разобраться», то перед вами может быть попытка взлома через мультимодальный промпт.
-
Используйте корпоративные версии с изолированным контуром: Для бизнес-задач применяйте ШИ-платформы с повышенным уровнем изоляции данных, которые не используют ваши входные промпты для обучения общим моделям и блокируют выполнение посторонних макросов.
Узнать больше о государственных мерах по противодействию современным киберугрозам, получить рекомендации по защите персональных данных в эпоху цифровизации, а также сообщить о случаях интернет-мошенничества или хакерских атак вы можете на официальном вебпортале Департамента киберполиции Национальной полиции Украины .