Агент искусственного интеллекта с открытым исходным кодом под названием OpenClaw в последние недели взорвался на технологической сцене, и это тоже не по вполне веским причинам. OpenClaw, запущенный австрийским разработчиком Питером Штайнбергером (и дважды быстро переименованный с Clawdbot на Moltbot, прежде чем остановиться на нынешнем названии), OpenClaw привлекает своей способностью автономно выполнять реальные задачи, выходящие за рамки простой генерации текста. Это обещание, с которым заигрывали многие другие продукты искусственного интеллекта, но редко удавалось реализовать его в таком масштабе.
OpenClaw работает непосредственно в операционной системе пользователя и может управлять электронной почтой, календарями, просматривать веб-страницы, обобщать документы, делать покупки в Интернете, удалять сообщения и даже взаимодействовать со сторонними службами — и все это практически без контроля. Первые пользователи надеются, что со временем он сможет управлять целыми организациями без особого контроля со стороны человека. Но именно эта возможность невмешательства заставляет людей беспокоиться об OpenClaw.
Хотя разработчики и бизнес-лидеры рассматривают это как потенциальный шаг вперед в области инструментов повышения производительности, эксперты по кибербезопасности обеспокоены тем, что предоставление такого глубокого доступа к системе пользователя делает его легко уязвимым. В X (ранее Twitter) специалист по кибербезопасности Джеймисон О’Рейли так описал недостатки OpenClaw: «Представьте, что вы приходите домой и обнаруживаете, что входная дверь широко открыта, ваш дворецкий весело подает чай всем, кто забрел с улицы, а незнакомец сидит в вашем кабинете и читает ваш дневник».
Что делает OpenClaw таким тревожным?
Модель OpenClaw с открытым исходным кодом является основной причиной того, что она распространяется как сумасшедшая: более двух миллионов посетителей на GitHub за одну неделю. Хотя реальные конкретные цифры использования неизвестны, создатель Стейнбергер утверждает, что на данный момент в репозитории кода уже сотни тысяч звезд. Он даже распространился на Китай, где разработчики работают над объединением OpenClaw как с западными, так и с китайскими языковыми моделями для еще большей эффективности.
И все же исследователи безопасности предупреждают, что атаки с быстрым внедрением (когда скрытые инструкции, встроенные в веб-сайты или документы, заставляют ИИ совершать вредоносные действия) могут стать настоящей проблемой для OpenClaw. Это потому, что у него постоянная память, а это значит, что он может сохранять информацию и действовать на ее основании даже несколько недель спустя. Крупные компании, занимающиеся кибербезопасностью, такие как Cisco, также предупреждают, что сочетание доступа к конфиденциальным данным и возможностей внешней связи создает серьезный риск, особенно для корпоративных сред.
Что для этого делается
Министерство промышленности и информационных технологий Китая недавно выступило с публичным предупреждением о том, что неправильное использование OpenClaw может подвергнуть пользователей всему: от кибератак до утечки данных, что также известно как «хороший способ оказаться в даркнете с вашей личной информацией». Не дожидаясь запрета, министерство, тем не менее, призвало организации проводить проверки и максимально ограничивать воздействие сети.
В Moltbook также были обнаружены отдельные недостатки безопасности. Это социальная сеть, предназначенная исключительно для агентов ИИ и построенная в основном на OpenClaw. Специалисты платформы облачной безопасности Wiz заявили, что, поскольку «инструменты искусственного интеллекта еще не рассуждают о состоянии безопасности или контроле доступа от имени разработчика», неправильно сконфигурированные базы данных Moltbook раскрывают личные данные людей.
С тех пор Стейнбергер признал риски, дав понять CNBC, что его OpenClaw следует считать любительским проектом с открытым исходным кодом… а не чем-то, предназначенным для нетехнических пользователей. Он настаивал на том, что в настоящее время идет работа над улучшением безопасности и что прогресс был достигнут с помощью глобального сообщества безопасности, но этот инструмент все еще далек от совершенства. Для критиков это предостережение подчеркивает более широкую проблему: мощные автономные инструменты искусственного интеллекта распространяются быстрее, чем могут быть установлены барьеры для защиты людей.
