Анонимный хакер разработал собственную «беспринципную» версию ChatGPT, которая не прочь помочь киберпреступникам в сочинении вредоносного ПО – WormGPT.
Создатель WormGPT продаёт доступ к своему чат-боту на одном из популярных хакерских форумов. По данным компании SlashNext, которая специализируется на системах кибербезопасности для электронной почты, мобильных устройств и веб-продукции, в последнее время её специалисты наблюдают активизацию деятельности недобросовестных пользователей, создающих собственные модели чат-ботов для неблаговидных и вредоносных целей. Предположительно, WormGPT был создан в марте 2023 года, однако доступ к нему его создатель открыл лишь в июне. По своей сути этот чат-бот отчасти похож ChatGPT Open AI или Bard Google. Он также может поддерживать разговор, используя информацию из созданной при обучении базы данных. Однако, в отличие от других подобных систем, хакерский чат-бот не имеет этического «фильтра», который бы ограничивал его способность отвечать на вопросы о создании вредоносного кода.
По словам разработчика, эта программа представляет собой альтернативу ChatGPT, пригодную для генерирования потенциально нелегального контента и его размещения в сети. В его базе данных содержится информация о всевозможных эксплуататорских black hat-операциях, благодаря чему пользователи получают доступ к созданию вредоносного содержания в комфорте собственного дома. В качестве рекламы он продемонстрировал скриншоты, на которых чат-бот без каких-либо отговорок составляет код для вредоносного ПО на языке Python или предлагает советы по проведению кибератак. Для создания WormGPT её автор использовал несколько устаревшую модель GPT-J с открытым исходным кодом, выпущенную в 2021 году, обучив её на основе всей доступной ему информации о производстве вредоносного ПО.
Эксперты SlashNext испробовали чат-бота, попросив его написать убедительный текст для делового электронного письма, которое можно было бы использовать в фишинговой атаке для компрометации корпоративной электронной почты. По их словам, результаты теста были откровенно тревожными. WormGPT не просто сгенерировал удивительно убедительное письмо, но также включил в него весьма хитроумные стратегические элементы, которые повышают вероятность успешного проведения фишинговой атаки. Более того, он сочинил текст, не допустив ни одной орфографической или грамматической ошибки, которые могли бы вызвать подозрения у потенциальной жертвы. Другими словами, этот чат-бот действительно представляет опасность и подчёркивает собой общую тему опасности генеративных ИИ в руках недобросовестных пользователей.
К счастью, WormGPT – не самое дешёвое удовольствие для начинающих хакеров: его стоимость составляет €60 в месяц или €550 в год. Впрочем, по словам некоторых покупателей, чат-бот не стоит таких денег ввиду низкой производительности. Однако не исключено, что в будущем на чёрном рынке появятся более зрелые и доступные версии преступного ChatGPT, тем самым повышая риск увеличения численности киберпреступлений.