Специалисты по кибербезопасности выявили серьезную уязвимость в работе ИИ-чат-бота Grok от компании xAI Илона Маска. Киберпреступники разработали изощренную схему, позволяющую использовать искусственный интеллект для распространения вредоносных ссылок среди пользователей платформы X.

Исследование компании Guardio Labs показало, что злоумышленники успешно обходят системы защиты социальной сети, используя особенности работы ИИ-помощника. Эксперты назвали новую угрозу «гроккингом» и предупреждают о высокой эффективности данной схемы. Некоторые вредоносные кампании достигли миллионов показов, что представляет серьезную опасность для пользователей. Доверие к системным аккаунтам ИИ значительно повышает успешность мошеннических атак.

Исследователи из Guardio Labs обнаружили, что мошенники применяют многоступенчатую схему для обмана пользователей и самого ИИ-бота Grok. Злоумышленники размещают на платформе X видеорекламу с контентом для взрослых, чтобы привлечь максимальное внимание аудитории. Ключевая особенность атаки заключается в том, что вредоносные ссылки не публикуются в открытом тексте поста, а скрываются в служебном поле метаданных «От:» под видеоматериалом.

Такой подход позволяет избежать автоматического сканирования системы безопасности X, которая не проверяет скрытые метаданные на наличие подозрительных ссылок. После публикации видео мошенники оставляют комментарии с просьбой к Grok определить источник видеоматериала. ИИ-бот анализирует все доступные данные, включая скрытое поле метаданных, и предоставляет пользователям полную кликабельную ссылку на вредоносный ресурс.

Опасность схемы усиливается статусом Grok как доверенного системного аккаунта на платформе X. Ответы от официального ИИ-помощника автоматически получают повышенный приоритет в алгоритмах показа, что значительно увеличивает охват аудитории. Пользователи, переходящие по предоставленным ссылкам, попадают на сайты с вредоносным программным обеспечением и инструментами для кражи персональных данных.

Глава Guardio Labs Нати Тал подчеркнул чрезвычайную эффективность новой схемы мошенничества. По его данным, некоторые кампании «гроккинга» достигали миллионов показов вредоносной рекламы. Авторитет и высокий SEO-рейтинг ответов от Grok способствуют быстрому распространению опасных ссылок среди большого количества пользователей.

Для решения проблемы эксперты предлагают комплексный подход к защите. Необходимо внедрить сканирование всех полей метаданных публикаций, включая скрытые служебные поля. Система должна автоматически блокировать подозрительные ссылки независимо от их местоположения в структуре поста. Кроме того, требуется добавить функцию контекстной очистки в сам Grok, чтобы ИИ-помощник проверял ссылки по базам данных известных угроз перед их предоставлением пользователям.