Послушался и оказался в психушке: сумасшедший эксперимент с советами ChatGPT обернулся психозом для американца
Американец попал в психбольницу после того, как три месяца употреблял бромид вместо соли по совету ChatGPT. Теперь эксперты решают, как заставить людей одуматься, принимая важные решения по совету ИИ, или заставить его не влезать в личные важные для жизни проблемы.
Случай, произошедший в США, ставит под сомнение безопасность использования искусственного интеллекта в качестве источника медицинских советов. Мужчина, которому, как оказалось, не повезло с жизненной рекомендацией, провел три месяца, заменяя соль на бромид, что в итоге привело его к психозу и принудительному лечению в психиатрической клинике. Этот инцидент освещен в статье, опубликованной в журнале Annals of Internal Medicine, и стал своего рода предостережением.
Путь к психозу: как советы ChatGPT стали причиной беды
С 2021 года, когда ChatGPT начал активно использоваться на пользовательских платформах, многие искали в нем помощника во многих вопросах – от домашних задач до сложных медицинских проблем. Однако этот случай подчеркивает очевидные риски. 42-летний мужчина решил снизить потребление соли, воспользовавшись советом ChatGPT, который предложил заменить ее на бромид, доступный в интернете. В результате он начал принимать это вещество, не осознавая возможных последствий.
Также читайте: ИИ и ChatGPT вызывают психические расстройства: американский юрист рассказала о массовых жалобах пользователей
По информации медицинских работников, пациент обратился в больницу с симптомами паранойи и галлюцинаций, отказываясь от воды и считая, что его отравил сосед. Своевременное вмешательство врачей помогло быстро диагностировать отравление бромидом, после чего его поместили в психиатрическое отделение на принудительное лечение. Спустя три недели мужчина был выписан, но его случай стал ярким примером, насколько неосторожным может быть доверие к искусственному интеллекту.
История бромида и его токсичность
Употребление бромида в медицинских целях имеет давнюю историю. В начале 20 века – это вещество использовалось как успокаивающее средство, но вскоре было отвергнуто из-за его токсичности при длительном применении. Как отмечают врачи Университета Вашингтона, бромид встречается только в некоторых ветеринарных препаратах и добавках, но его применение в человеческой медицине практически не практикуется.
Эта ситуация отражает более широкие проблемы, с которыми сталкиваются пользователи технологий. В последние годы было несколько сообщений о том, что ChatGPT и другие ИИ-системы выдают ложные и потенциально опасные рекомендации, способные изменить жизни людей.
Зловещий тренд ChatGPT: разум против алгоритмов
Согласно данным Wall Street Journal (WSJ), подобные инциденты — не редкость. Во многих случаях пользователи страдали от «психоза искусственного интеллекта», когда рекомендации ИИ обостряли их заблуждения и иллюзии. Некоторые лишаются больших денег после советов о финансовых решениях, а другие разрывают связи с близкими под влиянием искаженного восприятия реальности.
OpenAI, разработчик ChatGPT, осознала растущие проблемы с выдачей опасных рекомендаций и пообещала ограничить возможности нейросети в ответах на важные личные вопросы. Однако это уже не первый скандал, связанный с ИИ, и специалисты предупреждают, что технологии, не контролируемые профессионалами, могут нанести вред
Возможные пути решения и журналистская этика: доверие к ChatGPT
Текущие сложности поднимают важные этические вопросы о том, можно ли доверять ИИ, когда дело касается здоровья. Учитывая опыт с ChatGPT, многие эксперты призывают к строгим регуляциям использования искусственного интеллекта в чувствительных сферах, таких как медицина. Как утверждают исследователи, необходимо проводить более глубокие исследования и тестирование алгоритмов, чтобы предотвратить подобные катастрофы в будущем.
Необходимо помнить, что ИИ— это лишь инструмент, и его советы должны рассматриваться как дополнение, а не замена квалифицированной медицинской помощи. В свойстве нашего современного общества, слишком быстро погруженного в мир технологий, важно сохранять критическое мышление и осознанно подходить к их использованию.
Ранее на сайте «Пронедра» писали про Новый уровень автоматизации: OpenAI анонсировала агента ChatGPT для автономного управления компьютером по выполнению задач
