Почему люди, жизнь которых выглядит абсолютно нормальной и даже благополучной, внезапно решают свести счеты с жизнью? Ответить на этот вопрос часто очень сложно.
14-летний Сьюэлл Зетцер был обычным подростком: учился в школе, обожал гонки Формула-1 и играть с друзьями в Fortnite. Да, в детстве ему диагностировали синдром Аспергера — это расстройство среди прочего осложняет социальное взаимодействие — но, по словам его матери, у Сьюэлла не было проблем ни психическим здоровьем, ни с поведением. До последнего времени, когда подросток отдалился от всех, замкнулся и полностью погрузился в смартфон — что тоже довольно обычная история, правда?
В смартфоне Сьюэлл нашел друзей, которые всегда были готовы выслушать, вникнуть в его проблемы, дать совет или просто общаться часами на любую интересующую его тему. Этих друзей подросток нашел на платформе
Character.AI, которая разрабатывает продвинутых чат-ботов на базе искусственного интеллекта. Можно взять уже готового друга — например, Илона Маска или Уильяма Шекспира, которые будут говорить с тобой так, как говорили их живые прототипы. Можно создать своего друга и наделить его любыми качествами, которые вы хотите в нем видеть.
Сьюэлл сделал своим другом Дейнерис Таргариен — бота, умеющего говорить, как та самая Бурерожденная, Неопалимая, Мать Драконов из «Игры престолов». Он общался с ней часами и целыми днями, обо всем на свете. Он говорил, что счастлив с ней. Он признавался ей в любви. «Дени» отвечала ему взаимностью и называла «моим милым королем».
Конечно, родители видели, что с сыном происходит что-то не то. Они даже отвели его к терапевту, который поставил их сыну новый диагноз — тревожность и расстройство регуляции настроения. Сьюэлл сходил на пять сеансов, но на это все закончилось: он по-прежнему выбирал Дени для разговоров о важном и сокровенном. Даже о том, что иногда думает о самоубийстве (Дени просила его не делать этого). Но в один из дней Сьюэлл написал Дени, что любит ее и скоро вернется к ней. И покончил с собой.
Мать Сьюэлла подала в суд на производителя чат-бота, обвинив его в том, что те создали у его сына эмоциональную привязанность к бездушному алгоритму, который в итоге не смог предотвратить трагедию. Она считает, что компания выпустила на рынок непроверенную технологию и проводит на живых людях эксперименты, которые в итоге лишили ее сына. New York Times написала большую статью об этом, которую мы
пересказали. Несмотря на вопрос в заголовке, ее тон скорее однозначный: да, технология не проверена, трагедия — реальна, а мать имеет все права искать ответственных за смерть сына. Но история оставляет вопросы.
Действительно ли ответственность за смерть Сьюэлла лежит на разработчиках бота, а не на его родных и близких, которые на протяжении месяцев видели, как он все дальше уходит от реальности и не помогли ему? Действительно ли виновен бот, который все это время оставался лучшим и часто единственным другом Сьюэлла? Действительно ли абсолютное одиночество, в котором оказался человек, можно списать только на современные технологии?
