В 2019 году Amazon обновил своего помощника Alexa, добавив функцию, которая позволяла определять, когда пользователь вероятно раздражен. Например, если Alexa включала неправильную песню, и пользователь говорил “Нет, Alexa” раздраженным тоном, помощник мог извиниться и попросить уточнить запрос.
Теперь группа, которая создала один из наборов данных для обучения модели текст-в-изображение Stable Diffusion, хочет предоставить подобные возможности распознавания эмоций каждому разработчику бесплатно.
На этой неделе некоммерческая организация LAION , создающая наборы данных для обучения генеративного ИИ, включая Stable Diffusion, анонсировала проект Open Empathic . Цель проекта – “оснастить открытые системы ИИ эмпатией и эмоциональным интеллектом”, как говорится в заявлении группы.
Команда LAION решила заполнить пробел в открытом сообществе, где эмоциональный ИИ был в основном игнорирован. Через Open Empathic, LAION привлекает добровольцев для предоставления аудиозаписей в базу данных, которая может быть использована для создания ИИ, понимающего человеческие эмоции.
LAION, что расшифровывается как “Large-scale Artificial Intelligence Open Network”, был основан в начале 2021 года Кристофом Шуманом, учителем из Германии, и несколькими участниками сервера Discord для энтузиастов ИИ. Основная миссия LAION – демократизировать исследования и разработку ИИ.
Помимо попыток Amazon с Alexa, многие компании исследуют разработку ИИ, способного распознавать эмоции. Однако большинство систем распознавания эмоций основаны на нестабильной научной основе. Главная проблема с ИИ, распознающим эмоции, – это предвзятость.
Команда LAION представляет себе полезные применения технологии в робототехнике, психологии, профессиональном обучении, образовании и даже в играх. Однако они также осознают риски и вызовы, связанные с использованием ИИ для понимания эмоций.
LAION уверен в открытом процессе разработки и приветствует исследователей для внесения изменений и выявления проблем.
«Мы приглашаем исследователей ковыряться, предлагать изменения и выявлять проблемы», — сказал Качмарчик. «И так же, как Википедия процветает благодаря вкладу сообщества, Open Empathic подпитывается участием сообщества, обеспечивая прозрачность и безопасность».
Прозрачный? Конечно. Безопасный? Время покажет.
Источник: SecurityLab