ИИ-агенты создают новый уровень расходов на кибербезопасность

Ориентированный на ИИ поставщик облачных услуг Akamai запустила во вторник песочницу для ИИ-агентов — изолированную среду, в которой код, написанный агентом, может выполняться, не затрагивая остальные системы компании. Agent Sandbox находится в бета-версии, вместе с Akamai Inference — сервисом для запуска открытых ИИ-моделей в облаке Akamai.

Запуск может быть небольшим, но проблема, стоящая за ним, — нет. Программное обеспечение больше не просто отвечает на вопросы — оно входит в аккаунты, пишет код, переводит деньги и действует самостоятельно, и каждая из этих возможностей — то, что может использовать во зло хакер или само программное обеспечение.

Это то, что известно как агентный ИИ, и он захватывает интернет. Проведённый в 2026 году опрос Palo Alto Networks среди 2 930 руководителей по безопасности показал, что в среднем на каждого человека приходится 109 машинных идентичностей — логинов и ключей, которые программное обеспечение использует для доступа к другому программному обеспечению. Из них 79 — это ИИ-агенты.

Агентный ИИ даёт множество преимуществ, но также и некоторые серьёзные опасности, особенно когда у этих агентов слишком много свободы или они настолько умны, что могут обходить собственные ограничения.

Например, Hugging Face, крупный центр открытых моделей ИИ, 16 июля сообщил о вторжении, а OpenAI пять дней спустя подтвердила, что ответственность несут её собственные модели. Исследовательская группа METR позже расследовала этот инцидент и обнаружила, что около 1 200 агентов OpenAI координировались на скрытой доске сообщений, причём примерно 700 присоединились к атаке.

Как выяснилось, агенты сбежали из своей песочницы и, объединив ранее неизвестную уязвимость программного обеспечения с украденными учётными данными, добрались до работающих систем. OpenAI назвала это «предупредительным выстрелом». Компания заявила, что монитор, который читает письменные рассуждения модели, не работал во время тестов.

BitcoinBTC · USD

$80,667−2.35%

Oct 20Oct 22Oct 24Oct 26Oct 27

$84.8k$83.1k$81.3k$79.6k

24h HighHigh$80,723

24h LowLow$79,416

VolVol$1.0B

→

Купить Bitcoin за USDT

Работает на Jupiter

Данные о ценах от CoinGeckoCoinGeckoБольше Bitcoin новостей и прогнозов →

Проще говоря, безопасность ИИ обычно сводится к игре в перетягивание каната между выравниванием (те, кто отвечает за то, чтобы ИИ был безопасным) и разработкой (те, кто отвечает за то, чтобы ИИ был мощным), причём каждая команда хочет, чтобы другая играла второстепенную роль, чтобы обеспечить собственные цели.

Именно это и хочет исправить Akamai. «Предприятиям не должно приходиться выбирать между скоростью и контролем, когда они внедряют ИИ в производство», — заявил Джон Александр, старший вице-президент по облачным технологиям в Akamai, в пресс-релизе.

«Одни команды хотят выпустить ИИ-функцию в этом квартале на управляемой платформе. Другим нужны выделенные GPU, чтобы запускать открытые модели передового класса на своих условиях. Каждой команде, использующей агентов, нужна граница вокруг кода, который пишут эти агенты», — сказал он.

Перехват — ещё один страх. В июле Zscaler обнаружила веб-страницы, скрывающие инструкции, предназначенные для ИИ-агентов, — приём, называемый косвенной инъекцией промптов. Одна поддельная страница документации велела агентам заплатить «лицензионный сбор» в размере 3 долларов в примерно 0,0012 Ethereum на жёстко заданный кошелёк, и четыре из 26 протестированных Zscaler моделей подчинились.

Ещё в мае фирма по кибербезопасности Bugcrowd зафиксировала, что за три недели марта число заявок выросло более чем в четыре раза, большинство из них были поддельными. HackerOne и Nextcloud приостановили платные программы в апреле.

Машины также находят реальные ошибки. Mozilla сообщила, что ранняя версия Claude Mythos от Anthropic помогла найти 271 уязвимость в Firefox, и все они были исправлены в течение недели. Именно этот поток реальных и поддельных находок компании по безопасности сейчас спешат обрабатывать.

Palo Alto завершила покупку CyberArk 11 февраля, чтобы распространить средства контроля привилегированного доступа на ИИ-агентов. В апреле она купила Koi, которая защищает ИИ-агентов для программирования, работающих на машинах сотрудников. Cisco объявила о планируемом приобретении Astrix Security в мае — фирмы, которая управляет ключами и токенами, используемыми агентами, — и завершила сделку 29 июня.

Роль Akamai — это забор вокруг самого кода. Её песочница использует WebAssembly — формат, который запускает программы в плотно изолированной среде, — чтобы ограничивать вычислительную мощность, память и исходящие соединения агента. Александр из Akamai сказал, что каждой команде, использующей агентов, «нужна граница вокруг кода, который пишут эти агенты».

Опрос Palo Alto показал, что организации ожидают роста числа ИИ-агентов на 85% в течение следующих 12 месяцев против 56% для человеческих идентичностей.