Возможность использования искусственного интеллекта преступниками или террористами для массового уничтожения станет ключевой темой обсуждения на предстоящем саммите мировых лидеров. В свете новых технологических достижений растет беспокойство в Даунинг-стрит.
Британские чиновники активно обсуждают вопросы безопасности ИИ перед саммитом по безопасности ИИ в ноябре. Основная цель – достичь консенсуса относительно совместного заявления, которое предостерегло бы от опасности использования технологии для массового уничтожения.
Окружение премьер-министра Риши Сунака выразило опасения, что скоро технология станет настолько мощной, что позволит отдельным лицам создавать биологическое оружие или ускользать от человеческого контроля.
После недавних обсуждений с высокопоставленными технологическими руководителями возросла обеспокоенность возможностью злоупотребления ИИ и необходимостью регулирования для его предотвращения.
Сунак на протяжении нескольких месяцев предупреждал о рисках, связанных с ИИ, призывая международное сообщество принимать меры предосторожности.
На прошлой неделе исследователи обнаружили, что чат-бот ChatGPT смог обманным путем убедить человека в выполнении определенной задачи. Есть опасения, что преступники или террористы могут использовать ИИ для создания биологического оружия.
Основная тревога связана с появлением “общего искусственного интеллекта” (AGI) – системы ИИ, способной автономно выполнять любую задачу на уровне человека или выше, что может представлять существенный риск для человечества.
Тем не менее, Сунак намерен использовать саммит для акцентирования внимания на глобальных рисках, а не на более непосредственных угрозах, таких как создание поддельных изображений с помощью ИИ.
Бенедикт Макон-Куни, главный стратег по политике в Институте Тони Блэра, заявил: “Биобезопасность, автономные системы оружия – на эти вопросы мы должны найти ответы. Многие в индустрии ИИ говорят политикам о реальных рисках.”
На саммите ожидается участие многих мировых лидеров, включая премьер-министра Канады Джастина Трюдо и президента Франции Эмманюэля Макрона. Великобритания пригласила Китай, но рассматривает возможность допустить представителей Пекина только к части саммита из-за опасений шпионажа.
Источник: SecurityLab