США ввели новые рекомендации по безопасности для укрепления защиты критически важной инфраструктуры от угроз, связанных с искусственным интеллектом. Руководство было разработано в рамках межведомственных усилий по оценке рисков ИИ во всех 16 критически важных секторах инфраструктуры.
Основное внимание в новых рекомендациях уделено использованию ИИ для усиления и масштабирования атак, манипулированию системами ИИ противниками, а также недостаткам в таких системах, которые могут привести к непредсказуемым последствиям. Подчёркивается необходимость прозрачности и разработки безопасных систем с самого начала для оценки и смягчения рисков ИИ.
Четыре ключевые функции новой системы включают управление, картографирование, измерение и контроль рисков на всех этапах жизненного цикла ИИ, включая:
создание культуры управления рисками ИИ в организациях;
понимание контекста использования ИИ и профиля рисков;
разработку систем для оценки и отслеживания рисков ИИ;
приоритизацию и принятие мер в отношении рисков для безопасности.
Кроме того, Министерство внутренней безопасности США (
Источник: SecurityLab