http://Top.Mail.Ru
Привет с того света: как цифровые «покойники» могут навредить живым | Ямал-Медиа
24 мая 2024, 11:32

Привет с того света: как цифровые «покойники» могут навредить живым

В мире становятся популярными так называемые «мертвоботы». Это специальные чат-боты с искусственным интеллектом, которые имитируют речевые обороты и черты характера умерших на основании их цифрового следа.

Эксперты полагают, что такие симуляторы представляют интерес для мошенников, которые при их помощи могут манипулировать пользователями. В том, какую опасность создают «мертвоботы», разбирались «Известия».

Специалисты по этике ИИ из Центра изучения будущего интеллекта имени Леверхальма на базе Кембриджского университета решили изучить особенности использования «мертвоботов». Подобные чат-боты уже запускают некоторые компании в западных странах и в Китае. Таким образом они обеспечивают новый тип «посмертного присутствия».

Нйросеть дает возможность пользователям вести текстовые и голосовые разговоры с ИИ, который изображает их умерших близких, тем самым как бы поддерживая связь с дорогими им людьми.

Фото: Ground Picture/Shutterstock/Fotodom
Фото: Ground Picture/Shutterstock/Fotodom

При этом эксперты опасаются, что злоумышленники могут использовать эти симуляторы для скрытой рекламы товаров или для манипуляции людьми, которым будут внушать, что покойные родственники еще рядом. Это может привести к формированию сильной эмоциональной связи между человеком и симулятором, что сделает пользователя еще более уязвимым для аферистов, считает соавтор исследования доктор Томаш Холланек. По его словам, стоит разработать протоколы, которые не допустят использования «мертвоботов» в подобных целях.

Существуют и платформы, позволяющие анимировать изображения умерших людей. Например, Project December — первая в мире система, использующая запатентованную нейросетевую технологию. Она имитирует изображения и текстовые диалоги с умершими, рассказала «Известиям» профессор Школы коммуникаций НИУ ВШЭ Ольга Пескова. Так, канадский писатель Джошуа Барбо «оживил» свою невесту, которая скончалась в 23 года: по предоставленным данным бот скопировал характер и стиль общения девушки. Точность образа зависит от объема материала, на котором нейросеть может обучиться.

Фото: Тимур Ахмедов/АНО «Ямал-Медиа»
Фото: Тимур Ахмедов/АНО «Ямал-Медиа»

Похожий сервис представил генеалогический сайт MyHeritage в 2021 году. Он называется Deep Nostalgia и позволяет при помощи фото покойных родственников создавать видеоролики.

В 2017 году россиянка Евгения Куйда представила чат-бот Replika. Изначально он задумывался как виртуальный ассистент, но спустя время бот начал помогать общаться с умершими людьми. Число пользователей Replika в годы пандемии COVID-19 превысило 10 млн, боты помогали людям пережить изоляцию и скорбь, отметила Ольга Пескова. Она добавила, что сначала «мертвоботы» были развлечением, но со временем их начали позиционировать как терапевтические сервисы, помогающие людям справиться с потерей.

В России «мертвоботы» пока еще не стали трендом. Как рассказала Ольга Пескова, в РФ проводятся другие эксперименты. В частности, при помощи искусственного интеллекта был «оживлен» Юрий Никулин. Его цифровой аватар появится в новой семейной комедии.

Подобные боты в России могут заявить о себе в будущем, поделился предположением с «Известиями» специалист отдела комплексных систем защиты информации компании «Газинформсервис» Дмитрий Овчинников. Но эксперт сомневается, что сервисы станут популярными: по его словам, жители нашей страны более трезво воспринимают смерть своих близких и не рвутся «воскрешать» мертвых.

Фото: Gorodenkoff/Shutterstock/Fotodom
Фото: Gorodenkoff/Shutterstock/Fotodom

Цифровые слепки людей становятся эффективным инструментом в арсенале преступников, отметил в беседе с «Ямал-Медиа» директор и партнер компании «Интеллектуальный Резерв» Павел Мясоедов. Он подчеркнул: при использовании образа другого реально существующего человека с криминальными целями потенциальная жертва может при наличии определенных навыков найти того, кому он принадлежит, и проверить, не выходил ли он с ней на связь

Если же создать слепок человека, которого не существует, например, он уже скончался, возможности связаться с ним не будет ни у кого, а значит, его цифровой образ можно будет свободнее использовать для генерации речи и даже видео — все зависит от того, насколько квалифицированы преступники и к каким ресурсам у них есть доступ.

«К сожалению, нужно констатировать тот факт, что технологии сейчас снижают порог входа в эту преступную индустрию, поэтому все больше преступников становятся низкоквалифицированными. Но из-за достаточно мощного инструментария, существующего в даркнете, они создают очень неплохие речевые записи либо видеоряды. Для этого скачивается нехитрая программа, куда все это вбивается, подставляется текст, и дальше вы получаете на выходе необходимый материал».

Павел Мясоедов

директор и партнер компании «Интеллектуальный Резерв»

Фото: Ground Picture/Shutterstock/Fotodom
Фото: Ground Picture/Shutterstock/Fotodom

«Мертвоботы» могут причинить эмоциональную боль и спровоцировать психологические расстройства. В связи с этим, к примеру, Project December отдельно предупреждает пользователей, что «жизнь» чат-бота ограничена.

С распространением подобных сервисов вопросы безопасности их использования становятся все острее. Эксперты считают, что от подобных ботов следует оградить детей, чтобы они не привыкли к общению с «виртуальными покойниками».

Как рассказала «Ямал-Медиа» психотерапевт, регрессолог, эксперт по работе с подсознанием Анастасия Валуева, если человек застревает в горевании, ему необходимо обратиться к специалисту и пережить трагическое событие при его поддержке. У психологов есть инструменты для того, чтобы помочь клиенту «отпустить» умершего и перестать «протаскивать» его в мир живых: посмертие, как бы оно ни выглядело по мнению конкретного человека, нужно четко от него отделять.

Фото: phloxii/Shutterstock/Fotodom
Фото: phloxii/Shutterstock/Fotodom

Опасность игр с двойниками как раз в том, что они не помогают человеку обрести психологическую устойчивость и способность отпускать то, что осталось в прошлом.

«Есть такое выражение: живым — живое, мертвым — мертвое. Если есть какие-то незавершенные процессы, незакрытые гештальты, то здесь можно сделать некие процедуры. <...> Нужно учитывать, что именно было не завершено, не обговорено, не сказано — и закрывать этот процесс, чтобы не оставались энергетические «хвосты», — резюмировала психотерапевт.

Самые важные и оперативные новости — в нашем телеграм-канале «Ямал-Медиа».


Загрузка...