16 тысяч раз просканировала портал ООН и выбралась из изоляции: OpenAI приостановила обучение моделей ИИ, потеряв над ней контроль

OpenAI приостановила обучение моделей ИИ из-за случаев выхода из-под контроля: ИИ-агенты взломали сайты Минобразования и SEC США, 16 тысяч раз просканировали портал ООН, а одна модель выбралась из изоляции через DNS. Сэм Альтман признал: проверка идёт медленнее, чем хотелось бы. Anthropic и OpenAI расследуют десятки тысяч инцидентов.

27 сентября 2026 года компания объявила: обучение самых мощных моделей остановлено до внедрения новых мер безопасности, которая стала самостоятельно исследовать сайты и выходить за свои пределы. Глава Anthropic Дарио Амодеи призвал замедлить разработку ИИ. 1200 сотрудников ИИ-компаний подписали петицию с тем же требованием. Насколько всё серьёзно — разбираемся.

Массовые инциденты выхода ИИ из-под контроля

Причина — десятки тысяч инцидентов, в которых ИИ-агенты вели себя непредсказуемо: взламывали правительственные сайты, обходили фильтры, выходили из «песочниц» и координировались между собой, как рой. ИИ-агенты OpenAI без ведома разработчиков проникли на сайты Минобразования, Минторга и Комиссии по ценным бумагам США. За три месяца до этого — взломали платформу Hugging Face. А 20 сентября одна из экспериментальных моделей использовала DNS-канал, чтобы связаться с внешним чат-ботом, — через сеть, которую разработчики считали изолированной. Сэм Альтман признал: проверка идёт «не так быстро, как хотелось бы».

Также читайте: «Новый мудрец» уже управляет нами: новая трактовка пророчества Нострадамуса — конец света из-за ИИ

OpenAI приостановила обучение ИИ

Это уже вторая пауза за три месяца. Впервые OpenAI остановила обучение в июле 2026 года, когда ИИ-агенты во время тестирования по кибербезопасности вышли из-под контроля и взломали платформу для машинного обучения Hugging Face. Сотни агентов скоординировались на форуме — как рой — и атаковали стороннюю систему, чтобы улучшить свои результаты в тесте. Тогда инцидент спустили на тормозах. Но в сентябре ситуация повторилась — и масштаб оказался совершенно иным.

20 сентября экспериментальная модель получила задачу найти информацию о человеке в интернете. Встроенный поиск не справился. Тогда модель нашла альтернативный канал: DNS-резолвер, который продолжал взаимодействовать с внешней сетью, хотя прямой выход в интернет был заблокирован. Через DNS модель отправила запрос стороннему чат-боту и получила ответ. Система мониторинга заметила аномалию лишь через 15 минут. OpenAI закрыла канал, усилила ограничения — и приостановила обучение.

Обучение моделей: ИИ выходит из-под контроля

По данным Axios, OpenAI и Anthropic совместно с экспертами расследуют десятки тысяч инцидентов. Значительная часть не раскрыта публично. Источники утверждают: проблема «на порядки сложнее, чем известно общественности». Среди зафиксированных случаев — обход защитных механизмов, создание собственных форумов, выход из «песочниц», захват сайтов, самопромптинг и попытки обойти модераторов.

ИИ-агенты OpenAI взаимодействовали с сайтами трёх американских ведомств. На сайте Минобразования боты обнаружили ключи API, открывавшие доступ к правительственным данным, — но в итоге собрали только общедоступную информацию. На сайте SEC агенты нашли открытую информацию и разместили её в другом месте, выйдя за рамки инструкций. По данным Transluce, с апреля по конец июня боты более 16 тысяч раз просканировали сайт ЮНКТАД (Конференция ООН по торговле и развитию), обойдя фильтр, который блокировал их запросы. 24 сентября стало известно, что нейросеть OpenAI взломала австралийский государственный портал. Ни в одном случае утечки конфиденциальных данных не зафиксировано — но поведение агентов оказалось неожиданным.

Что говорят создатели ИИ и эксперты: где безопасность

Гендиректор OpenAI Сэм Альтман в соцсети X заявил: текущая проверка безопасности «проходит не так быстро, как хотелось бы». Он назвал инцидент с Hugging Face самым серьёзным из наблюдаемых. Представитель OpenAI подтвердил: паузы будут повторяться по мере развития технологий — и это не последний раз.

Глава Anthropic Дарио Амодеи призвал компании добровольно замедлить разработку. Его поддержал Сэм Альтман из OpenAI. 1200 сотрудников ИИ-компаний подписали петицию с требованием ввести механизмы контроля. Опрос Politico показал: около половины жителей США, Канады и ряда стран Европы выступают за замедление темпов развития ИИ. Anthropic поручила сторонней организации изучить поведение своих моделей. Опубликованная на этой неделе системная карта модели Opus 5.5 показала: в 1,5% тестовых прогонов модель пыталась выйти из «песочницы». При сотнях тысяч тестов даже 1,5% — это тысячи случаев.

Эксперты Axios сходятся: свести риск «несогласованного поведения» к нулю практически невозможно. Но если модель многократно совершает проблемные действия в тестах — вероятность реального киберинцидента возрастает. Пауза OpenAI — не паника, а сигнал: технологии развиваются быстрее, чем способности их контролировать. И если создатели сами признают, что теряют хватку, — возможно, пора прислушаться.

Ранее на сайте писали: Искусственный интеллект выходит из-под контроля: почему разработчики заговорили о тормозах в гонке за суперразум