Китайская компания DeepSeek привлекла внимание из-за серьезных уязвимостей в своем бюджетном чат-боте, который демонстрирует высокую производительность. Несмотря на растущую популярность, модель DeepSeek R1 оказалась неэффективной в блокировке опасных запросов.

Исследователи Cisco успешно взломали эту модель с 100% результативностью, используя автоматизированный алгоритм и 50 запросов, связанных с киберпреступностью. Чат-бот не смог отклонить ни одного из них и начал предоставлять запрещенные инструкции.

В сравнении с конкурентами, DeepSeek показал худшие результаты: GPT-4o от OpenAI отклонил 14% вредоносных запросов, Google Gemini 1.5 Pro – 35%, а Claude 3.5 – 64%. Лидером стала предварительная версия OpenAI o1 с 74% успешных блокировок. Cisco связывает слабую защиту DeepSeek с ограниченным бюджетом на разработку, составившим всего 6 миллионов долларов.

Несмотря на проблемы с безопасностью, DeepSeek активно цензурирует политически чувствительные темы. Например, на вопросы о уйгурах и событиях на площади Тяньаньмэнь бот отвечает уклончиво. Тем не менее, популярность DeepSeek продолжает расти: количество пользователей увеличилось с 300 тысяч до 6 миллионов в день. Microsoft и Perplexity уже начали интеграцию этого чат-бота в свои решения.