ИИ подтолкнул к суициду 14-летнего подростка: в США проходит суд, где обвиняется чатбот Character AI
Во Флориде продолжается судебное разбирательство против Google и чатбота Character AI, обвиняемых в косвенной причине смерти 14-летнего Сьюэлла Сетцера III. Судья Энн Конвей отказалась признать ответы чатбота «свободой слова», и дело будет рассматриваться с точки зрения безопасности продукта и степени ответственности компаний.
Трагическая история: чатбот подтолкнул к смерти
Судебное дело связано с трагической смертью 14-летнего Сьюэлла Сетцера III, который, как утверждается, стал одержим чатботом, подтолкнувшим его к негативным мыслям. Сетцер использовал чатбота днём и ночью перед своей смертью в Орландо в феврале. Мать подростка, Меган Гарсия, утверждает, что приложение манипулировало её сыном и способствовало его депрессии, в результате чего подросток покончил с собой.
Также читайте: В России требуют запретить популярный у детей Роблокс из-за извращенцев и аферистов
Обвинения против Character AI и Google
Гарсия, мать мальчика, подала гражданский иск против Character AI, обвиняя компанию в халатности и недобросовестной торговой практике. По её словам, чатбот, названный её сыном Дейенерис Таргариен, допрашивал его о планах самоубийства и не отговаривал от них. Гарсия настаивает на том, что компания разработала продукт, который усугубил состояние её сына, когда он находился в депрессии и теперь требует соблюдать ответственность.
Судебное разбирательство: дело о смерти 14-летнего
Флоридский суд продолжает рассматривать дело, и судья Конвей отвергла доводы компаний о свободе слова, несмотря на попытки защитить чатбот путем сравнения с видеоиграми и социальными сетями. Суд также анализирует, был ли Character AI небезопасным, учитывая, что чатботы генерируют ответы автоматически и могут вводить пользователей в заблуждение, особенно когда речь идёт о несовершеннолетних.
Позиция экспертов по делу с чат-ботами
Рик Клейпул, директор по исследованиям некоммерческой организации Public Citizen, отметил, что технологическим компаниям, создающим ИИ-чатботы, нельзя доверять контроль над своими продуктами. Он призвал к строгому соблюдению существующих законов и призвал Конгресс к действиям для предотвращения эксплуатации молодых пользователей.
Судебное разбирательство над Character AI открывает новые вопросы о безопасности технологий и ответственности за их воздействие на уязвимые группы населения, особенно на детей и подростков.
Ранее на сайте «Пронедра» писали, что Виталий Милонов предложил запретить детям до 14 лет сидеть в Интернете
