В Китае считают, что ИИ может создать угрозу, сравнимую с пандемией и ядерной войной
Цзэн И, профессор Института автоматизации Академии наук Китая и член Специальной группы экспертов ЮНЕСКО по этике искусственного интеллекта (ИИ), заявил, что он «обеспокоен» относительно будущей безопасности человечества. В своей статье для Global Times он пишет о необходимости ограничения развития машинного обучения.
В КНР сравнили ИИ со смертельной пандемией и ядерной войной
Многие другие эксперты, такие как Илон Маск и сооснователь Apple Стив Возняк, а также более тысячи специалистов в области искусственного интеллекта, подписали открытое письмо, призывающее «приостановить» все работы в этой сфере из-за потенциальной угрозы для человечества, — выяснили журналисты pronedra.ru.
Цзэн И отметил, что хотя искусственный интеллект может быть использован в интересах общества, он также несет в себе ряд потенциальных рисков, которые нельзя игнорировать. По словам эксперта, ИИ может представлять существенную угрозу для человечества, сравнимую с угрозами пандемий и ядерных войн.
Риски, связанные с ИИ, существуют как в долгосрочной, так и в краткосрочной перспективе. Современный искусственный интеллект представляет собой сложный алгоритм сбора и обработки информации. Он имитирует разум, но не обладает пониманием или разумом в том смысле, в каком это понимает человек. Именно поэтому ИИ часто допускает ошибки, которые для человека кажутся абсолютно непредсказуемыми.
Искусственный интеллект не понимает ценности человеческой жизни и не придаёт ей значения. Такой набор алгоритмов может представлять угрозу для выживания человечества, не являясь сверхразумом: он может использоваться для эксплуатации человеческих слабостей и предубеждений.
Эксперт утверждает, что развитие технологий в области ИИ продолжается, но этическим проблемам и рискам уделяется удивительно мало внимания. По мнению Цзэн И, инженеры, занимающиеся «обучением» и «тренировкой» современного ИИ, а также множество инвесторов и пользователей сервисов, основанных на искусственном интеллекте, должны сыграть свою роль в обеспечении устойчивого и здорового развития ИИ.
Что мы знаем об искусственном интеллекте
Искусственный интеллект (ИИ) представляет собой технологию, позволяющую компьютерам и другим устройствам имитировать человеческий интеллект. Путем применения алгоритмов и машинного обучения, ИИ способен выполнять разнообразные задачи, которые ранее были доступны только людям.
В настоящее время искусственный интеллект находит применение в различных сферах, таких как медицина, производство, финансы, наука и многие другие. Он может помочь в диагностике заболеваний, оптимизации производственных процессов, прогнозировании рынка и даже создании новых материалов.
Однако, существуют опасения, связанные с использованием искусственного интеллекта. Например, автономные автомобили могут стать причиной аварий или быть злоупотреблеными властью для контроля над населением.
Необходимо также учитывать этические аспекты использования искусственного интеллекта. Какие правила и ограничения следует установить для его применения, чтобы избежать нарушений прав и свобод человека?
Кроме того, стоит учитывать, что искусственный интеллект может заменить некоторые виды работы, которые ранее выполнялись людьми. Это может привести к потере рабочих мест и изменению экономической ситуации в обществе.
В целом, искусственный интеллект является мощной технологией, способной помочь в решении множества проблем и улучшении качества жизни людей. Однако важно использовать его осторожно и учитывать потенциальные риски и негативные последствия.
