В США женщина утверждает, что чат-бот с искусственным интеллектом довел её сына до самоубийства. Мать подала иск против компании, занимающейся искусственным интеллектом Character.AI, сообщает «Московский комсомолец» со ссылкой на The Guardian.
Меган Гарсия заявила, что её 14-летний сын Сьюэлл перед смертью одержимо использовал Character.ai и обвиняет компанию в халатности и причастности к его смерти. Подросток скончался в Орландо в феврале. По словам матери, в течение нескольких месяцев перед этим сын пользовался чат-ботом днём и ночью.
Сьюэлл был очарован чат-ботом, созданным по образу Дейенерис Таргариен, персонажем сериала «Игра престолов» (18+). Меган Гарсия рассказала, что мальчик отправлял боту десятки сообщений в день со своего телефона и часами разговаривал с ним в своей комнате.
По словам матери, опасное приложение для чат-ботов, предназначенное для детей, «манипулировало её сыном, чтобы он покончил с собой». Женщина заявила, что хочет предупредить другие семьи об опасностях, «связанных с обманчивыми, вызывающими привыкание технологиями искусственного интеллекта».
Гарсия обвиняет Character.ai в создании продукта, который усугубил депрессию её сына, вызванную чрезмерным использованием чат-бота. Как сообщает телеканал CBS News, подросток думал, что, закончив свою жизнь здесь, он сможет попасть в виртуальную реальность или «мир Дейенерис».
Компания Character.ai написала в соцсетях, что они убиты горем в связи с трагической гибелью одного из их пользователей и выразили соболезнования его семье. При этом компания опровергла обвинения, содержащиеся в иске.
Как пишет РИА Новости, Character.Аi – это приложение с функцией чат-бота на основе искусственного интеллекта, в котором можно создать своего персонажа, настроив его характер по своему усмотрению, или выбрать из готовых.
