ИИ-агенты: Новая угроза кибербезопасности

В своем свежем докладе рассматриваются три ключевые области: ИИ, киберпреступность и государственные акторы. Использование ИИ на стороне атакующих становится все более распространенным. Хакеры применяют его для повышения скорости атак, разработки вредоносного программного обеспечения и проведения информационных операций. Особое внимание уделяется переходу к ИИ-агентам, способным запускать целые цепочки атак. Prompt injection представляет собой одну из главных новых угроз, и Google ожидает значительного увеличения таких атак на корпоративные AI-системы. Социальная инженерия с использованием ИИ также является важной темой. Голосовой фишинг, при котором клонируется голос руководителей или IT-персонала, станет распространенным явлением. Агентный сдвиг в безопасности предполагает, что ИИ-агенты меняют архитектуру защиты. Google предвидит появление направления “agentic identity management”, где каждый агент получает собственную цифровую идентичность с минимальными привилегиями и временным доступом. Теневые агенты представляют собой скрытую угрозу изнутри. Сотрудники будут самостоятельно разворачивать ИИ-агентов для рабочих задач, минуя корпоративные политики. Это создает неконтролируемые потоки чувствительных данных. Запрет на это оказывается неэффективным – пользователи уходят с радаров. Решением является выстраивание управляемой ИИ-инфраструктуры с аудитом.