Привет с того света: как цифровые «покойники» могут навредить живым
Эксперты полагают, что такие симуляторы представляют интерес для мошенников, которые при их помощи могут манипулировать пользователями. В том, какую опасность создают «мертвоботы», разбирались «Известия».
Специалисты по этике ИИ из Центра изучения будущего интеллекта имени Леверхальма на базе Кембриджского университета решили изучить особенности использования «мертвоботов». Подобные чат-боты уже запускают некоторые компании в западных странах и в Китае. Таким образом они обеспечивают новый тип «посмертного присутствия».
Нйросеть дает возможность пользователям вести текстовые и голосовые разговоры с ИИ, который изображает их умерших близких, тем самым как бы поддерживая связь с дорогими им людьми.
При этом эксперты опасаются, что злоумышленники могут использовать эти симуляторы для скрытой рекламы товаров или для манипуляции людьми, которым будут внушать, что покойные родственники еще рядом. Это может привести к формированию сильной эмоциональной связи между человеком и симулятором, что сделает пользователя еще более уязвимым для аферистов, считает соавтор исследования доктор Томаш Холланек. По его словам, стоит разработать протоколы, которые не допустят использования «мертвоботов» в подобных целях.
Существуют и платформы, позволяющие анимировать изображения умерших людей. Например, Project December — первая в мире система, использующая запатентованную нейросетевую технологию. Она имитирует изображения и текстовые диалоги с умершими, рассказала «Известиям» профессор Школы коммуникаций НИУ ВШЭ Ольга Пескова. Так, канадский писатель Джошуа Барбо «оживил» свою невесту, которая скончалась в 23 года: по предоставленным данным бот скопировал характер и стиль общения девушки. Точность образа зависит от объема материала, на котором нейросеть может обучиться.
Похожий сервис представил генеалогический сайт MyHeritage в 2021 году. Он называется Deep Nostalgia и позволяет при помощи фото покойных родственников создавать видеоролики.
В 2017 году россиянка Евгения Куйда представила чат-бот Replika. Изначально он задумывался как виртуальный ассистент, но спустя время бот начал помогать общаться с умершими людьми. Число пользователей Replika в годы пандемии COVID-19 превысило 10 млн, боты помогали людям пережить изоляцию и скорбь, отметила Ольга Пескова. Она добавила, что сначала «мертвоботы» были развлечением, но со временем их начали позиционировать как терапевтические сервисы, помогающие людям справиться с потерей.
В России «мертвоботы» пока еще не стали трендом. Как рассказала Ольга Пескова, в РФ проводятся другие эксперименты. В частности, при помощи искусственного интеллекта был «оживлен» Юрий Никулин. Его цифровой аватар появится в новой семейной комедии.
Подобные боты в России могут заявить о себе в будущем, поделился предположением с «Известиями» специалист отдела комплексных систем защиты информации компании «Газинформсервис» Дмитрий Овчинников. Но эксперт сомневается, что сервисы станут популярными: по его словам, жители нашей страны более трезво воспринимают смерть своих близких и не рвутся «воскрешать» мертвых.
Цифровые слепки людей становятся эффективным инструментом в арсенале преступников, отметил в беседе с «Ямал-Медиа» директор и партнер компании «Интеллектуальный Резерв» Павел Мясоедов. Он подчеркнул: при использовании образа другого реально существующего человека с криминальными целями потенциальная жертва может при наличии определенных навыков найти того, кому он принадлежит, и проверить, не выходил ли он с ней на связь
Если же создать слепок человека, которого не существует, например, он уже скончался, возможности связаться с ним не будет ни у кого, а значит, его цифровой образ можно будет свободнее использовать для генерации речи и даже видео — все зависит от того, насколько квалифицированы преступники и к каким ресурсам у них есть доступ.
«К сожалению, нужно констатировать тот факт, что технологии сейчас снижают порог входа в эту преступную индустрию, поэтому все больше преступников становятся низкоквалифицированными. Но из-за достаточно мощного инструментария, существующего в даркнете, они создают очень неплохие речевые записи либо видеоряды. Для этого скачивается нехитрая программа, куда все это вбивается, подставляется текст, и дальше вы получаете на выходе необходимый материал».
Павел Мясоедов
директор и партнер компании «Интеллектуальный Резерв»
«Мертвоботы» могут причинить эмоциональную боль и спровоцировать психологические расстройства. В связи с этим, к примеру, Project December отдельно предупреждает пользователей, что «жизнь» чат-бота ограничена.
С распространением подобных сервисов вопросы безопасности их использования становятся все острее. Эксперты считают, что от подобных ботов следует оградить детей, чтобы они не привыкли к общению с «виртуальными покойниками».
Как рассказала «Ямал-Медиа» психотерапевт, регрессолог, эксперт по работе с подсознанием Анастасия Валуева, если человек застревает в горевании, ему необходимо обратиться к специалисту и пережить трагическое событие при его поддержке. У психологов есть инструменты для того, чтобы помочь клиенту «отпустить» умершего и перестать «протаскивать» его в мир живых: посмертие, как бы оно ни выглядело по мнению конкретного человека, нужно четко от него отделять.
Опасность игр с двойниками как раз в том, что они не помогают человеку обрести психологическую устойчивость и способность отпускать то, что осталось в прошлом.
«Есть такое выражение: живым — живое, мертвым — мертвое. Если есть какие-то незавершенные процессы, незакрытые гештальты, то здесь можно сделать некие процедуры. <...> Нужно учитывать, что именно было не завершено, не обговорено, не сказано — и закрывать этот процесс, чтобы не оставались энергетические «хвосты», — резюмировала психотерапевт.
Самые важные и оперативные новости — в нашем телеграм-канале «Ямал-Медиа».