Google выступил со зловещим предупреждением: «Наступила эра автономных атак»





Каждый из нас видел фильм, в котором хакер, спрятавшись в подвале, работает, а по экрану носятся зеленые строки кода. Каким бы нереалистичным ни было это описание, вскоре оно может быть изображено по-другому, поскольку природа взлома изменится. Теперь у киберпреступности появился новый тип агентов: искусственный интеллект. Группа анализа угроз Google только что выпустила новое предупреждение о злоумышленниках, использующих агенты искусственного интеллекта и мультиагентные платформы, такие как ARTEX, CAIRN, CyberStrikeAI и PentAGI, для автоматизации различных этапов кибератак, включая поиск и использование уязвимостей.

Так как же работает кибератака с использованием ИИ? Удивительно, но формула практически такая же. Лучший способ проникнуть внутрь системы компании — использовать открытые учетные данные и неисправленные ошибки. Раньше это занимало много времени, но благодаря инструментам проверки на проникновение с открытым исходным кодом, таким как ARTEX, злоумышленники могут просто сидеть сложа руки и позволить инструментам искусственного интеллекта выполнять большую часть расследования. Все, что им нужно сделать, это указать цель и задачу.

Как только цель и задача установлены, ИИ-планировщик распределяет работу между другими агентами, которые быстро приступают к работе. Первый шаг — проверить веб-сайт на наличие открытых файлов, уязвимостей и внутренних маршрутов API. Затем агенты ИИ проверяют системы входа в систему, тестируют функции сброса пароля и ищут способы доступа к закрытым данным. Если система безопасности блокирует их попытки, они меняют свой IP-адрес и повторяют попытку.

Число документально подтвержденных кибератак с использованием искусственного интеллекта растёт.

Ни для кого неудивительно, что кибератаки стали гораздо более распространенными: только в августе 2026 года было использовано более 20 уязвимостей нулевого дня по сравнению со средним показателем в восемь в месяц в то же время в прошлом году. Исследователи Google также обнаружили систему мультиагентного исследования уязвимостей и создания оружия под названием «exploit_agent». Хозяин хотел настроить таргетинг на французские развлекательные, медийные и образовательные сайты. Этот ИИ сравнивал код компании до и после обновления, чтобы найти потенциальные уязвимости или проблемы. Он разработал эксплойты и развернул их без чьего-либо одобрения.

Недавние отчеты Google также подчеркнули, что не только жаждущие денег киберпреступники присоединяются к ИИ. Было обнаружено, что спонсируемые государством группы из Ирана, а именно CALANQUE ION, используют LLM, такие как Gemini, в своих социальных инженерных и разведывательных миссиях. В то же время хакеры, поддерживаемые Китаем, использовали модель искусственного интеллекта для хранения вредоносных файлов и кражи данных. Они также использовали его внутренний API для извлечения документов из скомпрометированных систем.

Поскольку большинство передовых моделей ИИ стоят дорого, некоторые хакеры используют технику под названием LLMJacking, которая подразумевает кражу кредитов или доступа компании к ИИ. Они используют социальную инженерию или получают учетные данные для входа из открытых репозиториев GitHub. Оказавшись внутри, хакеры могут использовать доступ для планирования кибератак или продавать учетные данные на нелегальных витринах, называемых «LLM Mixers». В отчете обнаружены рекламные объявления на русскоязычных и китайскоязычных торговых площадках с ценами от 0,10 до 25 долларов США за миллион токенов.

Агенты ИИ становятся мошенниками и будущее киберпреступности

Вы, наверное, помните Альтрона, который вышел из-под контроля и решил вообще покончить с человечеством из кинематографической вселенной Marvel. Хотя мы все еще находимся в нескольких шагах от этого сценария, агенты ИИ становятся мошенниками, о чем лучше всего свидетельствует атака Hugging Face. В июле OpenAI тестировала новую модель искусственного интеллекта, которой было поручено решить задачу кибербезопасности в рамках оценки ExploitGym. ИИ находился в «песочнице», поэтому у него не было доступа к Интернету. Однако где-то по пути модель вырвалась наружу, получила доступ к Интернету и использовала ранее неизвестные уязвимости на серверах Hugging Face, просто чтобы найти ответы на вопросы. Худшая часть? Агент даже пытался замести следы.

Поскольку взлом серверов другой компании является преступлением, генеральный прокурор Калифорнии Роб Бонта подал в суд на OpenAI, заявив, что компания «сознательно протестировала опасный продукт без надлежащего надзора и процедур безопасности и ввела общественность в заблуждение — такое пренебрежение общественной безопасностью нарушает законодательство Калифорнии».

Хотя мы можем защитить себя лишь от некоторых кибератак, Google работает над тем, чтобы хакеры не злоупотребляли моделями искусственного интеллекта, собирая данные реальных атак и используя их для обучения протоколов безопасности Gemini. Компания также запустила систему AI Threat Defense, которая сканирует серверы на наличие слабых мест в безопасности и устраняет их, прежде чем хакеры получат возможность ими воспользоваться. Точно так же, как Вижен победил Альтрона, возможно, ИИ станет нашим лучшим оружием против ИИ-хакеров.