Команда учёных из Нью-Йоркского университета разработала нейронную сеть, способную объяснить, как она делает свои предсказания. Эта работа проливает свет на принципы функционирования нейронных сетей, которые являются основой искусственного интеллекта и машинного обучения.
Основное направление исследования связано со специфическим применением нейронных сетей, активно используемым в последние годы – решением сложных биологических задач. Основой стало изучение процесса сплайсинга РНК, играющего ключевую роль в передаче информации от ДНК к функциональным РНК и белковым продуктам.
“Многие нейронные сети остаются черными ящиками, поскольку не могут объяснить свою работу, что вызывает опасения относительно их надежности,” – говорит Одед Регев, профессор по информатике из Института математических наук Куроно Нью-Йоркского университета. Он добавляет, что благодаря новому методу, который улучшает объем и качество данных для обучения машин, была разработана интерпретируемая
Источник: SecurityLab