Как ChatGPT освоил X: многоликий ботнет заманивает пользователей в криптовалютные лабиринты

[Artifact]

Исследователи из Университета Индианы обнаружили ботнет на платформе X, ранее известной как Twitter. Этот ботнет, получивший название Fox8, управлялся с помощью технологии ChatGPT и состоял из 1 140 аккаунтов. Фейковые страницы создавали посты и взаимодействовали друг с другом с помощью ИИ-модели. Автоматически сгенерированный контент, в свою очередь, привлекал внимание пользователей и перенаправлял на криптовалютные сайты. Так как программа имитировала общение реальных людей ради выгоды создателей, это вполне может расцениваться как форма мошенничества и дезинформации.
Исследователи считают, что Fox8 — лишь вершина айсберга. По их мнению, есть и другие, более сложные кампании, которые пока не удалось обнаружить.
Для поиска ботов использовалась характерная фразу «As an AI language model …» («Как языковая модель ИИ...»), которой ChatGPT иногда отвечает на деликатные или спорные запросы. Филиппо Менцер, один из ученых, заявил: «Единственная причина, по которой мы заметили этот ботнет — его ненадежная маскировка».
«Программа обманывает как платформу, так и пользователей», — объясняет Менцер. Социальные алгоритмы, заметив большую активность, показывают посты большему числу людей. Это делает продвижение криптовалютных платформ быстрым и удобным. Менцер также добавил, что правительства, которым было бы выгодно проводить кампании по распространению дезинформации, вероятно, уже разрабатывают или используют подобные инструменты.
Уильям Ванг, профессор из Калифорнийского университета, утверждает, что многие спам-страницы теперь генерируются автоматически, и отличить их от настоящих все сложнее. В мае его лаборатория разработала механизм, который отличает текст, созданный ChatGPT, от текста, написанного человеком. Однако эта система требует больших затрат и постоянно устаревает из-за быстрого развития искусственного интеллекта. «Это своего рода игра в кошки-мышки», — отметил ученый.
Интересно, что X стал особенно плодотворной почвой для подобных ботнетов после того, как его приобрел Илон Маск. Несмотря на обещания искоренить мошенническую активность, ее стало только больше, и исследовать проблему стало сложнее из-за роста стоимости API платформы.