У великих AI-лабораторій слабко описане «аварійне гальмо»: що показав аудит Guidelight

Що саме перевіряли

Guidelight не намагалася оцінити «наскільки безпечна компанія взагалі». Аудит сфокусований на control — наборі процедур, які мають не дозволити достатньо автономній системі обійти обмеження, отримати небажаний доступ або продовжити небезпечні дії після виявлення проблеми. Оцінка базується на публічній інформації, тому вона одночасно вимірює і практики, і рівень прозорості.

Картина виявилася нерівною

У підсумковій таблиці Anthropic та OpenAI отримали C+, Google — D+, xAI — D−, Meta — F. Guidelight окремо зазначає: жодна компанія не отримала понад 3 бали з 5 за жодну з шести пріоритетних практик. Особливо слабкими виявилися компоненти, пов’язані з prevention і containment — тобто з тим, як не допустити небажаних дій та як обмежити наслідки, якщо вони вже почалися.

Чому «немає публічного доказу» — не те саме, що «нічого не зроблено»

Це ключове обмеження дослідження. Низька оцінка може означати, що лабораторія справді не має достатньої практики. Але вона також може означати, що практика існує внутрішньо, проте компанія її не оприлюднює через безпеку, конкурентні причини або незавершеність процесів. TechCrunch наводить реакцію компаній, які наголошують, що зовнішній аудит не бачить усієї внутрішньої роботи.

Саме тому коректно читати рейтинг не як «таблицю найбезпечніших AI-компаній», а як індикатор того, наскільки суспільство може перевірити заяви про контроль.

Що таке containment у світі AI

У звичайній IT-безпеці ми звикли до сегментації мережі, мінімальних прав, журналів аудиту, резервних копій і процедур реагування. Для автономних моделей принцип схожий, але складніший: треба враховувати доступ до інструментів, зовнішніх сервісів, кодових середовищ, довготривалої пам’яті та можливість системи виконувати послідовності дій без людини.

Надійний контроль тому не може бути однією кнопкою «вимкнути AI». Це архітектура з багатьох шарів: обмежені дозволи, незалежний моніторинг, тестування небезпечних сценаріїв, ізольовані середовища, швидке відкликання доступу і людське підтвердження для критичних дій.

Чому тема стає важливішою саме зараз

AI переходить від чату до агентів, які можуть працювати з браузером, файлами, кодом, CRM, фінансами та корпоративними системами. Коли модель лише генерує текст, помилка часто залишається текстом. Коли вона має інструменти, помилка може стати дією. Тому контроль доступу і локалізація інциденту стають не абстрактною дискусією про далеке AGI, а звичайною інженерною вимогою.