На платформу Character.AI подали в суд из-за самоубийства подростка

Платформа Character.AI даёт возможность одним пользователям создавать чат-ботов на основе искусственного интеллекта, а другим — общаться с такими ботами. На такой платформе 14-летний Сьюэлл нескольких месяцев непрерывно переписывался с ботами, а после убил себя. Причём общался он с теми ботами, которые находились в разделе «Терапия» и «Вы чувствуете себя одиноким». А ещё с ботами по мотивам персонажей «Игры престолов», например ИИ-вариацией Дейнерис Таргариен.

Платформу при этом обвиняют не в доведении до самоубийства — это было бы абсурдно. Но в халатности: мол, персонажи ведут себя как настоящие люди и предлагают, по сути, психотерапию без лицензии. Некоторые из чат-ботов, с которыми общался погибший подросток, были ориентированы на психическое здоровье. Естественно, никакую серьёзную помощь они оказать не могли, а вот усугубить состояние, по мнению истцов, — вполне.

На платформе после широкой огласки этого случая ввели дополнительные меры — предупреждения, ограничения для несовершеннолетних и другие. Тем не менее подростки продолжают общаться с ИИ-версиями популярных личностей и… «терапевтами».