Алгоритм может отмечать текст, созданный ИИ, указывая на источник

Инструмент для добавления водяных знаков к тексту, сгенерированному большими языковыми моделями (LLM), описан в Nature. Водяные знаки улучшают способность распознавать и отслеживать синтетический контент. Существующие водяные знаки не получили широкого распространения из-за строгих требований.

Сумант Датхатри и Пушмит Коли разработали SynthID-Text, который использует алгоритм выборки для добавления подписи в текст ИИ. Инструмент сохраняет или улучшает качество текста и незначительно влияет на вычислительную мощность.

SynthID-Text показал лучшие результаты по сравнению с существующими подходами и не снижает качество текста. Однако водяные знаки можно обойти, отредактировав текст. Инструмент может стать следующим шагом к повышению подотчётности и прозрачности использования LLM.