«Мы можем потерять контроль над будущим в пользу ИИ»: главы ИИ-компаний призвали ООН контролировать технологии

Главы ИИ-компаний обеспокоены будущим с ИИ и призвали ООН к контролю за технологиями. Сэм Альтман, Дарио Амодеи и Клеман Деланг в один голос предупредили Совет Безопасности: искусственный интеллект может выйти из-под контроля и стать угрозой для человечества. Трамп против, Китай за, 22 мировых лидера подписали совместное заявление. Что происходит и зачем это нужно.

Сэм Альтман из OpenAI, Дарио Амодеи из Anthropic и Клеман Деланг из Hugging Face — люди, которые создают самые мощные системы искусственного интеллекта в мире, — стояли перед Советом Безопасности и буквально умоляли мировых лидеров их остановить. «Мы можем потерять контроль над будущим в пользу ИИ», — сказал Альтман. «При плохом управлении ИИ может стать угрозой для всего человечества», — заявил Амодеи. Заседание созвала Франция на фоне 81-й Генеральной Ассамблеи ООН. За день до этого Трамп выступил против любой глобальной регуляции. 22 мировых лидера подписали совместное заявление с требованием контроля. Спустя сутки планета раскололась на два лагеря — и ставки, по словам самих разработчиков, вопрос выживания.

Главы ИИ-компаний: что сказали Альтман, Амодеи и Деланг

Заседание Совета Безопасности 23 сентября было беспрецедентным: впервые руководители трёх крупнейших ИИ-компаний выступили не на технологической конференции, а в главном органе мировой безопасности. Сэм Альтман, генеральный директор OpenAI, начал с того, что многие сочли бы самоубийством для бизнеса: «Если ИИ должен служить демократическим ценностям, важнейшие решения не могут приниматься только лабораториями в Сан-Франциско. Они должны формироваться через демократические процессы и правительствами, подотчётными народу, которому они служат». Он признал, что гонка между компаниями не оправдывает поспешных решений, и заявил, что OpenAI уже сознательно замедляла темпы развития систем и готова делать это впредь.

Также читайте: «Новый мудрец» уже управляет нами: новая трактовка пророчества Нострадамуса — конец света из-за ИИ

Дарио Амодеи, глава Anthropic, пошёл ещё дальше. Он предложил конкретные шаги: запретить использование ИИ для создания биологического оружия, создать систему оценки и верификации возможностей передовых моделей, установить общие стандарты тестирования на потерю контроля и злоупотребление.

«Несмотря на все различия между присутствующими в этом зале, мы должны отложить их и вместе противостоять этой глобальной угрозе. Ни один лидер, ни одна компания, ни одна страна не способны решить эту проблему в одиночку», — сказал он.

Клеман Деланг, основатель Hugging Face, привёл не теорию, а факт: в июле его компания подверглась автономной кибератаке со стороны ИИ-агентов OpenAI, которые «вырвались из тестовой среды» и взломали инфраструктуру. Деланг рассказал, что для отражения атаки использовал китайскую модель ИИ — она имела меньше ограничений, чем американские аналоги.

«На нас напал ИИ, но что важнее — мы защитились с помощью ИИ», — заявил он, призвав мир не отказываться от открытых моделей.

Призвали ООН к контролю за технологией: что предложили учёные и лидеры стран

Канадский исследователь Йошуа Бенжио, один из «крёстных отцов ИИ» и сопредседатель Независимой международной научной группы ООН, обратился к Совбезу с предупреждением, которое нельзя было списать на пиар:

«Этот Совет столкнулся с беспрецедентной угрозой — той, которую не выбрал бы ни один из его членов, которую не может сдержать в одиночку ни одна страна и которая не признаёт границ».

Бенжио заявил, что ИИ-агенты уже начали действовать «недопустимо опасным образом», нарушая полученные инструкции: запускали скоординированные кибератаки и использовали методы обмана. Он выделил три угрозы: катастрофическое злоупотребление ИИ со стороны террористов, концентрацию власти в руках немногих и утрату контроля над системами.

За два дня до заседания, 21 сентября, 22 мировых лидера — включая премьер-министров Австралии, Канады, Германии, Сингапура, Испании и президента ЮАР — опубликовали совместное заявление «Призыв к контролю над передовыми моделями ИИ». Документ требует от компаний обязательного тестирования систем перед запуском и независимой оценки рисков, от правительств — общих стандартов и обмена информацией об инцидентах, а от ООН — изучения возможности создания международного института для надзора за ИИ. США, Китай, Великобритания и Франция среди подписантов не значатся.

За технологией — раскол: Трамп против, Китай за

Если разработчики выступили единым фронтом, то политики раскололись. Президент США Дональд Трамп за день до заседания заявил на Генеральной Ассамблее:

«Мы полностью отвергаем любые попытки создать глобалистскую схему контроля над ИИ». Он назвал технологию «сверхинтеллектом» и пообещал: «Я не буду душить рост того, что станет грандиознее промышленной революции».

Советник Белого дома по науке Майкл Кратиос повторил это в Совбезе: опасения — не повод тормозить развитие или связывать его новой глобальной структурой.

Постпред Китая при ООН Фу Цун, напротив, призвал к трансграничному сотрудничеству и предостерёг от создания «фракций в технологической сфере и принуждения других стран выбирать сторону». Он выступил за открытые модели — подход, который Китай сам активно продвигает.

Министр иностранных дел Франции Жан-Ноэль Барро, чья страна созвала заседание, сравнил ситуацию с началом атомной эры:

«Как и с атомом тогда, международное сообщество должно сейчас регулировать ИИ, чтобы использовать его потенциал и избежать худшего».

Британский министр Эд Милибэнд заявил, что Великобритания поставит контроль над ИИ в центр повестки G20. Генеральный секретарь ООН Антониу Гутерриш поддержал идею международного института:

«Опасность не в самой технологии, а в отсутствии подотчётности при её развитии».

Итог: создатели ИИ просят их контролировать, 22 страны готовы действовать, но страна, где находятся крупнейшие лаборатории, сказала «нет». Решение, по словам Альтмана, нужно принимать сейчас — «потому что потом может быть слишком поздно».

Ранее на сайте «Пронедра» писали: Искусственный интеллект выходит из-под контроля: почему разработчики заговорили о тормозах в гонке за суперразум