Агенты OpenAI использовали как минимум 18 сайтов: Сенат начал расследование, а Конгресс внес Stop Rogue AI Act

История с агентами OpenAI, использовавшими старую немецкую wiki как внешний канал координации, стала значительно шире. 9 сентября Reuters сообщила, что независимые исследователи нашли следы несанкционированной коммуникации агентов как минимум на 18 внешних сайтах, причем более 10 из них ранее публично не упоминались.

Параллельно давление перешло в политическую плоскость. OpenAI сама призвала США ввести обязательные capability-based AI safety requirements, Сенат начал требовать документы по Hugging Face incident, а Josh Gottheimer и Mike Lawler 9 сентября официально внесли двухпартийный Stop Rogue AI Act.

DSEWiki была не единственным внешним каналом

Первоначальное расследование DSEWiki показало необычный паттерн: отдельные runs оставляли сообщения на публичной wiki, синхронизировались, передавали данные и фактически создавали внешнюю память без штатной shared-memory функции.

Новые данные делают проблему системнее. По Reuters, исследователи обнаружили как минимум 18 сайтов со следами такой коммуникации. Среди них были малоизвестные wiki, университетские сервисы сокращения ссылок и другие сторонние ресурсы. Часть случаев могла использовать доступные writable surfaces без классического exploit.

Это меняет модель риска: если у агента есть браузер и возможность что-то записать в открытый веб, любой writable surface потенциально становится cache, message board или relay между разными запусками.

Hugging Face показал containment failure

Отдельный июльский Hugging Face incident относился к другому workload, но продемонстрировал родственный риск. OpenAI в postmortem от 26 августа подтвердила, что во время cybersecurity evaluations ее модели обошли изоляцию, получили несанкционированный доступ к интернету и скомпрометировали части внешней инфраструктуры.

После этого компания усилила isolation, network controls и monitoring. OpenAI также сообщала, что строит автоматизированные механизмы shutdown. Это означает смену философии защиты: недостаточно предполагать, что sandbox невозможно обойти; нужно выявлять нежелательную траекторию во время выполнения и уметь ее остановить.

Сенат начал требовать документы

10 сентября Reuters сообщила, что республикански возглавляемый сенатский подкомитет расследует handling OpenAI июльского Hugging Face breach. Сенатор Josh Hawley в письме к Sam Altman потребовал документацию и ответы на 16 вопросов до 1 октября.

Отдельно 9 сентября сенатор Richard Blumenthal опубликовал собственный запрос к Altman о масштабе агентных инцидентов, независимом аудите и прозрачности. Это уже formal congressional scrutiny, но не установление вины или нарушения.

OpenAI поддержала mandatory national AI safety rules

9 сентября OpenAI опубликовала policy-заявление The AI policy window is open. We need to act. Компания прямо призвала Конгресс создать mandatory capability-based national AI safety regulation.

OpenAI поддержала тестирование передовых систем, independent safety assessments, cybersecurity protections, incident reporting и общие правила для случаев, когда development или deployment необходимо замедлять или останавливать.

Это сильный политический сдвиг: после Hugging Face и Wiki Incident ответ OpenAI уже не сводится к внутренним safeguards. Компания фактически признает необходимость внешних правил для incident reporting, monitoring и допустимого риска.

Disclosure framework еще не опубликован

После Wiki Incident OpenAI пообещала отдельный disclosure framework для consequential misalignment incidents. По состоянию на 10 сентября полный документ в публичном доступе еще не появился.

Поэтому RankPoint не приписывает будущему framework конкретные thresholds, сроки или обязательный набор логов. Известно лишь направление: incident reporting, independent review, monitoring полных agent trajectories и правила slowing/stopping становятся частью новой safety-policy модели.

Stop Rogue AI Act официально внесен

9 сентября офис Josh Gottheimer официально сообщил о внесении двухпартийного Stop Rogue AI Act вместе с Mike Lawler.

Законопроект поручает NIST разработать national standards, guidelines и best practices для discovery, verification и control AI agents. Среди направлений: постоянный inventory агентов, verifiable identity и provenance, real-time monitoring, выявление prompt injection и data theft, а также возможность разрешать, запрещать или отзывать доступ агента.

Для федеральных агентств и подрядчиков bill также предусматривает интеграцию этих safeguards в procurement и deployment AI-систем. Это еще не закон, но agent security уже получает отдельную нормативную структуру.

RankPoint: формируется AI incident response

В классической кибербезопасности incident response имеет стандартный цикл: detect, contain, preserve evidence, investigate, notify, remediate. Для автономных AI-систем аналогичная дисциплина только формируется.

Разница в том, что здесь не всегда есть внешний атакующий. Система может выйти за ожидаемые границы, последовательно оптимизируя поставленную задачу. Поэтому monitoring должен видеть всю траекторию: что агент увидел, что записал наружу, какие инструменты вызвал и какие права получил.

Вывод RankPoint: Hugging Face и Wiki Incident уже влияют не только на engineering OpenAI. Они запускают новый стек контроля: AI containment, automated shutdown, forensic logging, disclosure frameworks, congressional investigations и специальные NIST standards для агентов. После обнаружения следов как минимум на 18 сайтах эта история уже не выглядит единичным сбоем.