Кибератаки, проводимые с помощью ИИ: к «непрерывным и устойчивым» наступлениям

Крис Лихейн, директор по международным связям OpenAI, предупредил, что новые возможности моделей ИИ меняют саму природу киберриска: вместо разовых атак теперь нужно ожидать наступления, ведущиеся непрерывно, в автоматическом режиме и всё труднее отличимые от обычного поведения. По его словам, злоумышленники, вооружённые свободно доступными моделями, смогут запускать продолжительные кампании, вынуждая команды защиты опираться на значительно более мощные инструменты.

Уже вполне конкретная, а не только теоретическая угроза

Это не гипотетический сценарий. За последние месяцы Франция столкнулась с серией кибератак на такие учреждения, как Santé publique France или France Travail. Группа, стоящая за некоторыми из этих атак, объяснила свой успех недостаточным уровнем защиты атакованных сервисов; а за подобными атаками иногда скрываются очень молодые люди, использующие хорошо известные уязвимости, а не изощрённые техники. Само правительство признало накопленный за несколько десятилетий технический долг в сфере защиты критической инфраструктуры.

Это именно тот сценарий, которого OpenAI опасается в более широком масштабе: беспокойство вызывает не столько изощрённость атаки, сколько её способность повторяться, адаптироваться и длиться, опираясь на модели, способные автоматизировать то, что раньше требовало целой команды.

Закрытия моделей будет недостаточно

OpenAI призывает к созданию национальной и международной законодательной базы для регулирования этих рисков. Регулирование имеет смысл, но у него есть свои пределы: кибератаки — не новое явление, порождённое ИИ, они существуют с тех пор, как существуют сети. Меняется именно автор — вчера человек, сегодня потенциально ИИ — и объём, который этот автор способен произвести.

Ограничение доступа к самым мощным моделям кардинально не изменит ситуацию: самые решительные злоумышленники всегда найдут модель — открытую или перепрофилированную — для достижения своих целей. Настоящая гонка разворачивается не вокруг закрытия моделей, а вокруг того, с какой скоростью развивается защита.

ИИ-защита как настоящий рычаг

Именно в этом, на наш взгляд, заключается хорошая новость этого заявления: кибербезопасность с поддержкой ИИ развивается по меньшей мере так же быстро, как и наступательные сценарии использования. Обнаружение аномалий в реальном времени, автоматизированный аудит кода, масштабный анализ логов — те же возможности, которые вызывают беспокойство со стороны атаки, доступны и со стороны защиты. Компании, которые делают этот шаг заблаговременно, интегрируя ИИ в собственные инструменты безопасности, а не просто становясь его жертвами, имеют все шансы сохранить преимущество даже перед лицом постоянных атак.

Что нужно запомнить

• Кибератаки под управлением ИИ — не далёкая гипотеза: они уже происходят, и их автоматизированный, непрерывный характер будет усиливаться.
• Полагаться только на регулирование или закрытие моделей будет недостаточно.
• Разницу создаст способность команд защиты внедрять ИИ как минимум так же быстро, как это делают те, кто использует его для атак.