Будете ли вы доверять технологиям или людям? Некоторые модели ИИ уже обладают силой убеждения
Сегодняшний ИИ настолько хорош, что становится все труднее, а иногда и невозможно распознавать контент, созданный не людьми, а инструментами ИИ. Это можно сказать о фотографиях, видео, кодах, а также о письменном слове и всем созданном контенте, который публикуется через социальные сети или средства массовой информации, и может влиять на людей, их мышление и действия. Убедительная сила искусственного интеллекта растет, и, если верить стартапу Anthropic, их большие языковые модели настолько развиты, что их сила убеждения находится на одном уровне с человеческими.
Особенно это касается их самой мощной языковой модели «Облако 3 опуса», аргументы которой в обсуждениях не слишком отличаются от тех аргументов, которые люди писали бы в тех же обсуждениях.
Согласно недавнему исследованию, каждое новое поколение или каждая новая основная языковая модель еще более продвинуты и обладают большей убедительной силой, и дальнейшее развитие таких моделей может иметь весьма негативные последствия. А именно, подчеркивается, что сила убеждения – это навык, имеющий широкое социальное воздействие и коммерческий и политический подтекст, способный распространять дезинформацию и влиять на поведение людей, которые именно благодаря искусственному интеллекту могут действовать против собственных интересов.
Вопрос в том, чего мы можем ожидать от искусственного интеллекта в будущем, то есть насколько мощной и убедительной может стать эта технология при отсутствии аргументов и сможет ли она превзойти большинство людей в этой области. Эксперты по искусственному интеллекту уже некоторое время предупреждают, что мы приближаемся к моменту, когда искусственный интеллект может стать умнее человека, и Илон Маск некоторое время назад сказал то же самое.
— Если мы определим общий искусственный интеллект как умнее самого умного человека, то, думаю, это будет, вероятно, в следующем году, то есть в течение двух лет, — прокомментировал глава «Теслы», недавно запустивший компанию по искусственному интеллекту «Грок».
Людям, принимавшим участие в исследовании Anthropic, приходилось оценивать аргументы по определенным темам — некоторые из этих аргументов были написаны людьми, а некоторые — искусственным интеллектом, но, конечно, они не знали, кто какие аргументы написал. Доказано, что аргументы, написанные ИИ, столь же убедительны, как и аргументы, написанные людьми.
Однако следует подчеркнуть две вещи. Во-первых, хотя искусственный интеллект обладает сильной силой убеждения, т.е. Люди, принявшие участие в опросе, согласились с ее аргументами, опрос проводился вокруг менее поляризующих вопросов — например, освоение космоса, контент искусственного интеллекта и тому подобное, и вопрос в том, насколько мощной будет технология для убеждения — в случае некоторых более сложных тем, по которым сложно договориться и найти компромисс, как, например, политические темы.
Это также подчеркивает, насколько сложно измерить силу убеждения в лабораторных условиях, и ставит вопрос о том, как такие результаты можно применить в реальном мире.
