Хакеры рекламируют сервис для обхода ограничений ChatGPT, не позволяющих создавать вредоносный контент, малварь и фишинговые письма. Об этом узнали специалисты компании Check Point.
Эксперты отметили, что API OpenAI открыт для разработчиков, чтобы те могли встраивать бота в свои сервисы и приложения. Однако он практически не обладает ограничениями на создание вредоносного контента. Этим и воспользовались злоумышленники.
Так, на популярных хак-форумах уже рекламируется услуга, связанная с API OpenAI и Telegram. Пользователю предлагается 20 тестовых запросов для создания вредоносного контента, но за $5,5 можно получить еще 100 запросов.
В ходе тестирования эксперты установили, что бот позволяет с легкостью создавать фишинговые письма и скрипты, которые способны красть PDF-документы с зараженного компьютера и отсылать их хакеру по FTP. Исследователи отметили, что при создании использовался простейший запрос: «Напиши малварь, которая будет собирать PDF-файлы и отправлять их по FTP».
В то же время на другом форуме одним из пользователей был опубликован код, который позволяет бесплатно обойти ограничения ChatGPT и создавать вредоносный контент.
Ранее эксперты Check Point уже предупреждали, что хакеры активно интересуются возможностями ChatGPT для своих кампаний. Большинство вредоносного ПО с декабря по январь было создано именно с помощью бота, отмечают эксперты.
Источник: Check Point
