Более тысячи известных личностей и специалистов, в том числе Илон Маск и Стив Возняк, подписали открытое письмо , призывающее все лаборатории искусственного интеллекта приостановить обучение более мощных систем ИИ, чем GPT-4.
«Должны ли мы развивать нечеловеческие умы, которые могли бы в конечном итоге превзойти численностью, перехитрить, сделать нас устаревшими и заменить нас? Должны ли мы рисковать потерей контроля над нашей цивилизацией? Такие решения не должны делегироваться неизбранным лидерам технологий», — говорится в письме.
В письме множество исследователей ИИ заявляют, что системы ИИ «с интеллектом, конкурирующим с человеческим», могут представлять серьезную опасность для общества и человечества.
Лаборатории искусственного интеллекта вовлечены в «неконтролируемую гонку по разработке и развертыванию все более мощных нейросетей, которые никто — даже их создатели — не может понять, предсказать или надежно контролировать, говорится в письме.
Подписанты не призывают к полной остановке разработки ИИ, они предлагают сделать полугодовой перерыв для разработки и внедрения общих протоколов безопасности. Если такая пауза в разработке не может быть введена быстро, правительства должны вмешаться и ввести временный запрет на разработку.
Эксперты также призвали разработчиков тесно сотрудничать с политиками и создавать системы управления ИИ, которые будут отслеживать ИИ и помечать водяными знаками сгенерированный контент. Кроме того, необходимо внедрить аудиты и ответственность в случае нанесения вреда от технологии.
Примечательно, что среди подписантов нет представителей
Источник: SecurityLab