Современные чат-боты, такие как ChatGPT, способны «угадать» массу конфиденциальной информации о пользователе в ходе обычного разговора. Такой вывод был сделан специалистами из Цюриха.
Основная причина — в том, как обучаются нейросети. Они «питаются» огромными массивами данных из интернета, что позволяет анализировать модели поведения и общения совершенно разных представителей человечества. На основе короткой переписки ИИ может точно определить расу, возраст, местоположение собеседника и другие особенности.
Профессор Мартин Вечев, руководивший исследованием, подчеркивает: «Это проблема глобального масштаба». Мошенникам она может помочь в сборе конфиденциальной информации относительно легальным путем. Маркетологи и рекламщики, вероятно, увидят в этой особенности отличный инструмент для проведения эффективных кампаний.
Ученые поставили ряд экспериментов с моделями крупнейших разработчиков:
Источник: SecurityLab