Компания Anthropic раскрыла детали работы цифровых водяных знаков в ответах нейросети Claude

Разработчики объяснили механизм скрытой маркировки текста. Инновация внедряется для соблюдения закона Евросоюза об ИИ и не повлияет на качество ответов, пишет TechCrunch.

Компания Anthropic опубликовала подробности работы встроенной системы маркировки сгенерированного текста в нейросети Claude. Нововведение призвано соответствовать требованиям закона Европейского союза об искусственном интеллекте, который обязывает маркировать созданный нейросетями контент. Внедрение технологии вызвало бурную дискуссию среди пользователей, опасающихся раскрытия факта использования нейросети.

Разработчики пояснили, что водяной знак формируется за счет статистического выбора слов в ситуациях с минимальным влиянием на смысл текста. В компании задействовали алгоритм SynthID-Text от Google DeepMind, который оставляет математический паттерн, незаметный для обычного читателя. Для распознавания меток Anthropic планирует выпустить специальный инструмент API.

В компании заверили, что технология не увеличивает стоимость запросов и не влияет на написание программного кода. Однако полноценная переработка текста полностью удаляет маркировку.

Нашли ошибку в публикации?Сообщите нам об этом.