Что меняется в ChatGPT для пользователей из ЕС
- В ближайшие недели OpenAI добавит невидимые водяные знаки в текст ChatGPT и Codex для всех планов, но только в Европейском союзе.
- Для разработчиков, использующих API OpenAI, водяные знаки доступны уже сегодня для отдельных моделей, но по умолчанию они выключены.
- Водяной знак не виден читателю: он встроен в выбор слов моделью и сохраняется при копировании и вставке текста.
- OpenAI утверждает, что заметного ухудшения качества ответов при включённом водяном знаке нет.
- Метод называется textGrain; технический отчёт опубликован совместно с исследователями из Университета Пенсильвании и Йеля.
Стоит ли включать водяные знаки в API OpenAI
Если вы разрабатываете продукт, который должен соответствовать AI Act или внутренним политикам прозрачности, включение водяного знака через API может быть простым способом маркировки сгенерированного текста. Однако помните: OpenAI предупреждает, что отсутствие водяного знака не доказывает, что текст написан человеком, а сам знак не идентифицирует пользователя. Детектор на старте доступен только одобренным исследователям и экспертным организациям, поэтому проверить надёжность в своих сценариях вы пока не сможете.
Учитывайте ограничения: при замене 10% слов синонимами точность детектирования падает с 92% до 66%, а короткие отрывки, математические ответы и переводы распознаются хуже. Если ваш сервис работает с такими типами контента, водяной знак может не дать ожидаемой гарантии. Решение Anthropic внедрить аналогичную маркировку глобально вызвало недовольство части пользователей, поэтому если ваша аудитория чувствительна к подобным изменениям, возможно, стоит протестировать влияние на удержание до полного включения.
