Если сотрудники думают, что за их работой никто не следит, мы скажем, что работодатели в США могут использовать военный ИИ для слежки за своими работниками.
За последние 10 лет появились десятки компаний, которые продают руководителям американских фирм подписки на услуги OSINT (open source intelligence – открытая разведка), «управление репутацией» и «оценка внутренней угрозы». Эти инструменты созданы оборонными подрядчиками для разведки. Однако с развитием глубокого обучения и новых источников данных такие инструменты стали намного лучше. Теперь любой шеф может анализировать данные и находить профсоюзников, информаторов и критиков.
Ни для кого не секрет, что компании типа Amazon следят за профсоюзами. Но мало кто знает о том, как распространены и опасны инструменты для отслеживания работников. Если они такие мощные, как заявляют производители, следует обсудить, стоит ли давать информационное оружие в частные руки. Военный ИИ был сделан для борьбы с внешними врагами под контролем демократических правительств с защитой от злоупотреблений. Нас должно беспокоить то, что те же системы теперь могут купить любые частные компании.
Например, один стартап по борьбе с терроризмом, который продавал свои услуги военным теперь предлагает свои инструменты корпорациям и полиции, которые могут собирать и анализировать все данные из интернета, включая посты пользователей в соцсетях.
Инструмент компании не просто считает ключевые слова, он может определять связи между людьми, читать текст на картинках и даже находить объекты, эмоции и концепции в мультимедиа. Более того, инструмент, который позиционируется как средство для «управления рисками в цепочке поставок», может предсказывать забастовки.
Инструменты для анализа сетей, которые были сделаны для выявления террористов, теперь могут использоваться для выявления лидеров профсоюзов и увольнения их до того, как они сформируют профсоюз. Эти инструменты также могут помешать найму таких людей. А стратегии оценки рисков, которые были задуманы для предупреждения атак, теперь могут влиять на инвестиции, например, отказ от регионов и поставщиков с высоким потенциалом профсоюзной деятельности.
Не факт, что такие инструменты работают так, как они обещают. Например, эти инструменты могут поместить пользователя в «зону риска» – просто потому, что он подписан на определенную страницу или аккаунт.
Возможности таких систем растут быстро. Компании говорят, что скоро они добавят в свои инструменты слежки технологии ИИ нового поколения. Производители обещают сделать исследование данных легче с помощью подсказок. Но их настоящая цель — это создать рутинную, полуавтоматическую систему слежки за профсоюзами.
Такая индустрия слежки несовместима с демократией. Компании, которые используют такие инструменты, должны сообщать об этом публично, чтобы к ним могли быть применены законы. Также нужны новые правила. В прошлом году Национальный совет по трудовым отношениям объявил, что он хочет запретить «навязчивую» и «оскорбительную» слежку за сотрудниками.
Кроме того, работники и профсоюзы должны участвовать в законодательных слушаниях о регулировании ИИ и слежки на рабочих местах. Людям нужны конкретные правила, которые скажут, какие виды использования ИИ, данных и методов разрешены и в каких условиях они могут быть использованы.
Источник: SecurityLab