OpenAI введет невидимые цифровые водяные знаки для текстов ChatGPT в странах Евросоюза

Компания внедряет маркировку сгенерированного текста и кода для соблюдения закона ЕС об искусственном интеллекте, пишет TechCrunch.

Компания OpenAI объявила о планах по внедрению невидимых цифровых водяных знаков в тексты и программный код, создаваемые сервисами ChatGPT и Codex. Изменение затронет пользователей всех тарифных планов, однако на начальном этапе нововведение будет действовать исключительно на территории Европейского союза. Решение связано с необходимостью соблюдения требований статьи 50 Европейского закона об ИИ (EU AI Act), регулирующего прозрачность работы генеративных нейросетей.

Технология под названием textGrain встраивает скрытый статистический сигнал в процесс выбора слов моделью, не снижая качество генерации ответов. Для клиентов, использующих API OpenAI по всему миру, маркировка станет доступна по желанию, но по умолчанию останется отключенной.

Разработчики подчеркивают, что водяные знаки не содержат персональных данных пользователей и не связываются с промптами или аккаунтами. Доступ к инструменту проверки водяных знаков получат только аккредитованные исследователи и профильные организации. По данным компании, редактирование текста или синонимизация существенно снижают распознаваемость метки, а для математических вычислений эффективность метода ниже из-за строгости формулировок.

Нашли ошибку в публикации? Сообщите нам об этом.