Google DeepMind и Hugging Face анонсировали SynthID Text – инновационный  инструмент для маркировки текстов, созданных большими языковыми моделями (LLM).

Этот инструмент внедряет невидимый водяной знак в сгенерированный ИИ текст, позволяя идентифицировать его источник без ущерба для качества содержания.

Ключевые особенности SynthID Text

• Встраивание водяного знака. Инструмент добавляет водяной знак на этапе генерации текста, не требуя переобучения модели.
• Настройки конфигурации. Позволяет настраивать степень заметности водяного знака и сохранять высокое качество текста.
• Обучение классификатора. Каждая конфигурация требует обучения модели, которая определяет наличие водяного знака.

Исследования показывают, что SynthID Text устойчив к некоторым изменениям текста, хотя его эффективность может снижаться при значительном редактировании. Важно отметить, что инструмент не предназначен для полной защиты от злоупотреблений, но может затруднить использование ИИ-сгенерированного контента в недобросовестных целях.