ГЛАВНАЯ // NEWS


Вечная память или цифровое проклятие? Воскрешая умерших, ИИ наносит психологический вред

Эксперты из Кембриджского университета выразили обеспокоенность в связи с развитием технологий искусственного интеллекта, которые позволяют вести текстовые и голосовые беседы с умершими. По мнению исследователей, такие технологии, получившие название «грифботы» или «мертвец-боты», могут нанести психологический вред и создать иллюзию присутствия умерших, что названо «цифровым преследованием».

В статье, опубликованной в журнале Philosophy and Technology , говорится о потенциальной опасности злоупотребления такими ИИ-чатботами, включая скрытую рекламу товаров и услуг или создание беспокойства среди детей утверждениями о том, что умерший родитель все еще «с ними». К тому же, интерактивное взаимодействие с «мертвец-ботами» может стать «подавляющим эмоциональным бременем».

Исследователи из Центра будущего разума в Кембридже предложили разработать особые протоколы дизайна для таких платформ, чтобы предотвратить использование «мертвец-ботов» в непочтительных целях, например, для рекламы или активности в социальных сетях. Они также настаивают на необходимости получения согласия от лиц, данные которых используются для создания ботов, до их смерти.

Одна из предложенных сценариев в статье — компания «Paren’t», которая создает бота для помощи восьмилетнему ребенку в преодолении горя после смерти матери. Начальный успех терапевтического бота со временем приводит к путанице у ребенка из-за неоднозначных ответов ИИ.

Томаш Холланек, соавтор исследования, предложил ввести возрастные ограничения для использования «мертвец-ботов» и обеспечить «значимую прозрачность» для того, чтобы пользователи всегда осознавали, что их собеседник —

Источник: SecurityLab


Powered by Отряд им. 7-го МАЯ