Исследователи безопасности из ИБ-компании Check Point Research заявили , что хакеры разработали способ обойти ограничения ChatGPT и используют его для продажи услуг, которые позволяют киберпреступникам создавать вредоносные программы и фишинговые электронные письма.
Этот метод работает с использованием API ChatGPT, а не веб-интерфейса. ChatGPT делает API доступным для разработчиков, чтобы они могли интегрировать ИИ-бота в свои приложения, в том числе, в Telegram каналы. Оказывается, API-версия не налагает контентных ограничений и позволяет свободно создавать вредоносный контент, такой как фишинговые электронные письма и вредоносный код.
Пользователь на одном форуме сейчас продает услугу, которая сочетает в себе API ChatGPT и мессенджер Telegram. Первые 20 запросов бесплатны, а затем $5,50 за каждые 100 запросов.
Реклама Telegram бота, который использует ChatGPT для генерации вредоносного контента
Исследователи Check Point протестировали способ обхода ограничений и в результате составили: фишинговое письмо и скрипт, похищающий PDF-документы с зараженного компьютера и отправляющий их злоумышленнику по FTP.
Фишинговое письмо и вредоносный код для кражи PDF, сгенерированные ChatGPT
Кроме того, другие участники форума бесплатно публикуют небольшой bash-скрипт, который обходит ограничения ChatGPT и использует его для любых вредоносных действий, например, для разработки вредоносных программ.
Bash-скрипт для обхода ограничений ChatGPT
Представители
Источник: SecurityLab