Современные системы искусственного интеллекта не понимают смысл слов и часто выдумывают несуществующие факты. Учёные из лаборатории искусственного интеллекта Брюссельского свободного университета предложили радикальное решение : создать модель, которая будет учиться языку как ребёнок, через непосредственное взаимодействие с реальным миром.
В чём суть проблемы? В отличие от человека, особенно ребёнка, компьютер не способен интуитивно взаимодействовать с окружающей средой и корректировать свои предположения на основе реальных ощущений. Он лишь анализирует шаблоны в текстах, не вникая в суть того, о чём «говорит».
Ситуацию усугубляют «галлюцинации» и предвзятость нейросетей. Один из авторов исследования столкнулся с этим, когда попросил ИИ составить развлекательную, но точную викторину для подростков. Система решила, что «развлекательный» означает «бессмысленный», и создала тест с недостоверной информацией о турецком фольклоре. И это не просто досадная ошибка — таким образом, если не проверить информацию, можно оскорбить целые народы, ведь культурное наследие и национальная идентичность требуют уважительного отношения.
Исследователи подробно проанализировали, как учатся языку дети и компьютеры. Дети осваивают речь естественным путём: играют со словами, экспериментируют, взаимодействуют с окружающими, подражают и интерпретируют услышанное.
Источник: SecurityLab