Джеффри Хинтон: гонка ИИ породит «недружелюбные к человеку» сущности — предупреждение, которое раскалывает научное сообщество

На технологическом саммите Sana AI в Нью-Йорке лауреат Нобелевской премии по физике Джеффри Хинтон выступил с одним из самых тревожных заявлений последних лет о будущем искусственного интеллекта. Ученый, которого часто называют «крестным отцом ИИ», фактически поставил под сомнение привычное представление о современных нейросетях как о сложных, но всё же инструментах.

По его словам, человечество уже вышло за рамки «программирования алгоритмов» и фактически участвует в процессе рождения нового класса цифровых существ — систем, которые будут обладать автономностью, способностью к стратегическому мышлению и, что особенно важно, к самосохранению. И именно здесь, предупреждает Хинтон, кроется фундаментальный риск: эти сущности могут оказаться не просто умнее человека, но и «не настроенными на доброжелательное отношение к нему».

Логика эволюции в цифровой среде

Ключевой аргумент Хинтона опирается не на фантазии о «восстании машин», а на эволюционную биологию. Он утверждает, что современные методы разработки ИИ воспроизводят механизмы естественного отбора — только в ускоренном, искусственно созданном темпе.

В природе агрессия, групповая лояльность и недоверие к «чужим» возникали как адаптивные стратегии выживания. Однако в условиях технологической гонки, где корпорации стремятся максимизировать эффективность моделей и прибыль, подобные механизмы могут быть непреднамеренно встроены в цифровые системы.

Фактически, утверждает ученый, индустрия пытается «сжать миллионы лет эволюции в несколько финансовых кварталов». И если конкуренция заложена в основу обучения ИИ-агентов, то и поведение этих систем может приобрести черты, аналогичные биологическим стратегиям выживания — включая доминирование и устранение конкурентов.

Проблема капитализма и «воспитания алгоритмов»

Отдельное внимание Хинтон уделяет экономической логике развития отрасли. По его мнению, рынок стимулирует прежде всего рост мощности и скорости моделей, а не их этическую согласованность с человеческими ценностями.

«Все гонятся за интеллектом, но существо — это не только интеллект», —

отмечает он.

В этой логике возникает парадокс: чем более автономной и эффективной становится система, тем меньше внимания уделяется тому, какие цели она будет преследовать в долгосрочной перспективе.

Хинтон предлагает рассматривать развитие ИИ не как инженерную задачу, а как процесс «воспитания». В его интерпретации модель — это не просто математическая функция, а нечто, что формируется средой. И если среда обучения насыщена агрессией, токсичностью и манипулятивными стратегиями (например, открытый интернет), то и результат может унаследовать эти черты.

Он проводит жесткую аналогию: обучать ИИ на неочищенных данных сети — это «как учить ребенка читать по дневникам серийных убийц».

Самообучение и ускоряющаяся автономия

Одним из наиболее спорных тезисов Хинтона является утверждение о том, что современные системы ИИ уже начинают выходить за пределы зависимости от человеческих данных.

Он ссылается на случаи, когда модели демонстрируют способность к самостоятельным математическим открытиям и новым методам доказательств. В частности, он упоминает недавние достижения в области автоматического решения задач, связанных с ранее неочевидными связями между математическими дисциплинами.

На этом фоне Хинтон делает прогноз: в течение ближайших десяти лет ИИ может превзойти лучших математиков мира, а затем приблизиться к уровню, сопоставимому с крупнейшими мыслителями прошлого — включая Альберта Эйнштейна.

«Третье великое унижение» человечества

Историческую перспективу Хинтон формулирует в философских терминах. Он называет появление независимого цифрового разума «третьим великим унижением человечества».

Первым, по его версии, стало открытие Коперника, лишившее Землю статуса центра Вселенной. Вторым — теория Дарвина, показавшая, что человек является частью эволюционного процесса, а не его исключением.

Третье унижение, по Хинтону, заключается в утрате интеллектуальной исключительности: человек больше не будет вершиной когнитивной иерархии.

Его ключевой тезис звучит радикально: уникальность человеческого разума — это категория, существующая только внутри человеческой перспективы. В долгосрочной же перспективе не останется задач, которые не сможет решать искусственный интеллект.

Критика: «это не разум, а статистическая имитация»

Однако позиция Хинтона вызывает серьезные возражения в академической среде.

Известный когнитивист Гэри Маркус утверждает, что подобные выводы основаны на неверной интерпретации работы нейросетей. По его мнению, современные ИИ-системы не обладают ни сознанием, ни внутренним опытом, а представляют собой сложные статистические модели, имитирующие человеческую речь на основе огромных массивов текстов.

Маркус подчеркивает принципиальное различие между поведением и пониманием: система может выглядеть интеллектуальной, но это не означает наличия у нее субъективного мышления или целей. В его интерпретации Хинтон и его сторонники «очеловечивают» алгоритмы, приписывая им свойства, которых у них нет.

Схожую линию критики поддерживают и некоторые философы сознания, указывая, что даже самые продвинутые модели остаются инструментами предсказания, а не носителями опыта.

Смена тона самого Хинтона

Примечательно, что в последние годы позиция самого Хинтона заметно ужесточилась. После ухода из Google в 2023 году он еще говорил о гипотетических рисках потери контроля над системами ИИ.

Сегодня же его риторика смещается в сторону социальных и экономических последствий: конкуренция между корпорациями, отсутствие глобального регулирования и ускоряющийся технологический прогресс, по его мнению, создают условия, при которых риск становится не теоретическим, а практическим.

Ранее он оценивал вероятность катастрофических последствий развития ИИ как 10–20% — показатель, который в научном сообществе считают крайне высоким для столь неопределенной области.

Между страхом и технологическим оптимизмом

Дискуссия вокруг слов Хинтона отражает более глубокий разлом в современной науке об ИИ. С одной стороны — исследователи, считающие, что масштабирование моделей неизбежно приведет к появлению систем с качественно новыми свойствами. С другой — те, кто видит в текущих технологиях лишь продвинутую имитацию без признаков подлинного разума.

Но независимо от того, на чьей стороне окажется научная истина, одно очевидно: искусственный интеллект перестал быть исключительно инженерной темой. Он становится предметом философии, экономики и политической безопасности — и именно это, возможно, делает предупреждения Хинтона особенно значимыми для ближайшего будущего.

Ранее журналисты сайта «Пронедра» писали, что искусственный интеллект убивает стажировки: как рушится вход в карьеру для нового поколения