OpenAI начинает постепенно добавлять невидимые водяные знаки в тексты, созданные ChatGPT и Codex. Технология получила название textGrain — она меняет статистическую вероятность выбора слов и токенов при генерации текста, не добавляя видимых символов или пробелов.
На первом этапе маркировка заработает для пользователей в Евросоюзе — это связано с требованиями Закона ЕС об искусственном интеллекте, который предусматривает машинное распознавание контента, созданного генеративными моделями. Функция будет доступна на всех тарифных планах ChatGPT и Codex в течение нескольких недель.
Пользователи OpenAI API по всему миру уже могут включить маркировку добровольно для ряда моделей. Компания также откроет доступ к детектору водяных знаков — в первую очередь для исследователей и профильных организаций в индивидуальном порядке.
OpenAI подчёркивает, что невидимый знак не раскрывает личность пользователя, его аккаунт или содержание переписки, а детектор может ошибаться — пропускать существующий знак или сообщать о несуществующем. По данным компании, точность textGrain сопоставима с аналогичной технологией SynthID от Google DeepMind.
