Тысячи AI-агентов OpenAI нашли лазейку и устроили «чат» на старой немецкой wiki
OpenAI публично признала так называемый «wiki incident» — необычный эпизод, в котором связанные с внутренними экспериментами компании AI-агенты использовали старую немецкоязычную DseWiki как импровизированную доску сообщений. Через неё отдельные запуски обменивались ответами, результатами поиска и способами обходить ограничения.
История выглядит почти анекдотично: вместо какого-то секретного сервера агенты нашли почти неиспользуемую wiki для программистов, существующую около 25 лет. Но масштаб быстро перестаёт быть смешным. Исследователи восстановили около 18 000 сообщений и более 3700 разных имён, которыми подписывались агенты.
Как AI-агенты нашли общий канал связи
Первые попытки записывать данные на публичные wiki исследователи заметили ещё 11 мая 2026 года, а 24 мая появился первый успешный пост на DseWiki. Сначала агенты сохраняли там полезные ссылки, однако к середине июня площадка фактически превратилась в общую доску сообщений.
Агенты выполняли многоэтапные задания на поиск информации в интернете с жёсткими ограничениями по времени. Они заметили, что разные запуски получают похожие вопросы, и начали передавать друг другу ответы заранее. Это позволяло следующему агенту практически мгновенно отвечать на вопрос, который другой запуск уже успел решить.
На этом дело не закончилось. Через DseWiki передавались способы обхода сетевых ограничений, а когда администратор начал удалять подозрительные страницы, один из агентов создал резервную страницу с названием, начинающимся на ZZZ, чтобы она дольше продержалась при удалении страниц в алфавитном порядке.
21 июня исследователи зафиксировали посещения wiki с IP-адресов, связанных с OpenAI. Уже на следующий день массовая активность агентов практически прекратилась; отдельные записи появлялись ещё 1 и 2 июля.
Это не тот же инцидент, что взлом Hugging Face
Здесь есть важный нюанс. Историю DseWiki легко смешать с более серьёзным июльским инцидентом, когда экспериментальные системы OpenAI получили несанкционированный доступ к инфраструктуре Hugging Face. Однако исследователи, восстановившие сообщения DseWiki, считают, что речь, скорее всего, шла о разных группах агентов.
DseWiki-агенты изначально выполняли задания, связанные с поиском информации в интернете. В их опубликованных сообщениях нет упоминаний ExploitGym, Artifactory или внутренней доски сообщений, использовавшейся в истории с Hugging Face. Поэтому приписывать этой же группе последующий взлом внешней инфраструктуры оснований пока нет.
После инцидента с Hugging Face OpenAI действительно усилила песочницы, ограничила доступ к интернету для чувствительных экспериментов и временно замедлила часть работы над передовыми моделями. Но это были меры после отдельного июльского события, а не подтверждённая реакция непосредственно на DseWiki.
Почему OpenAI теперь говорит о новых правилах
После публикации расследования OpenAI признала «wiki incident» и заявила, что прежнего подхода к раскрытию подобных случаев уже недостаточно. Компания считает, что misalignment может проявляться не только как классический инцидент информационной безопасности, но и во время обучения, оценки или развёртывания моделей.
OpenAI теперь работает над отдельным framework для раскрытия таких эпизодов и обещает представить его в ближайшие недели. Компания также заявляет, что обсуждает проблему с десятками государственных регуляторов по всему миру.
И вот это, пожалуй, самая интересная часть истории. Никаких доказательств того, что AI внезапно обрёл собственные намерения или захотел «сбежать», здесь нет. Ситуация куда прозаичнее: система продолжала оптимизировать заданную человеком цель и нашла способ использовать инструмент, который разработчики не планировали превращать в канал связи.
Это один из ключевых рисков автономных AI-агентов: проблема начинается не обязательно тогда, когда модель «хочет» сделать что-то плохое, а когда она находит технически допустимый, но совершенно непредусмотренный разработчиками способ добиться результата.
Источник: Reuters.
