ГЛАВНАЯ // NEWS


Макс Тегмарк: развитие ИИ может привести к вымиранию человечества

Учёный-физик и борец за безопасность искусственного интеллекта, Макс Тегмарк, предупреждает: технологические гиганты отвлекают внимание мира от экзистенциального риска, который ИИ по-прежнему представляет для человечества.

Выступая на Саммите по ИИ в Сеуле , Тегмарк предупредил, что смещение фокуса с угрозы вымирания жизни на общие вопросы безопасности может затянуть разработку ограничений для создателей мощнейших интеллектуальных систем.

Ученый провел прямую параллель с одним из самых важных событий в истории ядерной физики:

«В 1942 году Энрико Ферми построил под футбольным полем в Чикаго первый в мире реактор с самоподдерживающейся цепной ядерной реакцией. Когда ведущие физики того времени узнали об этом, они пришли в настоящий ужас, потому что поняли: только что рухнуло главное препятствие на пути к созданию ядерного оружия. Они осознали, что создание бомбы — вопрос ближайших лет, и действительно, до Тринити оставалось всего три года».

По мнению Тегмарка, модели искусственного интеллекта, способные пройти тест Тьюринга и неотличимые от человека в общении — такой же тревожный сигнал, ведь никто не гарантирует, что однажды мы не утратим контроль над алгоритмами. Именно поэтому в последнее время тревогу начали бить такие пионеры отрасли, как Джеффри Хинтон, Йошуа Бенджио, а также руководители многих технологических корпораций, хоть и не публично.

В прошлом году некоммерческая организация Future of Life («Будущее жизни») под руководством Тегмарка выступила с призывом ввести шестимесячный мораторий на исследования в области ИИ. Когда

Источник: SecurityLab


Powered by Отряд им. 7-го МАЯ