Тексты ChatGPT начнут тайно помечать: OpenAI вводит невидимые водяные знаки

OpenAI объявила о внедрении невидимых водяных знаков в тексты, созданные или обработанные с помощью ChatGPT. В первую очередь новая технология появится у пользователей в странах Евросоюза в течение ближайших недель.

Система получила название textGrain. В отличие от обычных водяных знаков, она не добавляет в текст скрытые символы, пробелы или специальную пунктуацию. Вместо этого технология незаметно изменяет статистическую закономерность выбора слов моделью. Для читателя такой текст визуально ничем не отличается от обычного.

Метка может присутствовать не только в материале, полностью написанном ChatGPT. Она также способна указывать на то, что система OpenAI участвовала в обработке или редактировании части текста. При этом по водяному знаку нельзя определить, насколько значительным был вклад человека в итоговый материал.

В OpenAI подчеркивают, что обнаружение такой метки не позволяет установить конкретного пользователя, его аккаунт, запросы или переписку с ChatGPT. Водяной знак также не подтверждает достоверность текста и не определяет его авторство в юридическом смысле.

При этом технология имеет ограничения. Существенное переписывание, перефразирование или перевод материала могут сделать водяной знак менее заметным для системы обнаружения. Особенно сложно определять его в коротких текстах.

Одновременно OpenAI открывает доступ к детектору textGrain, способному находить такие метки. Однако на первом этапе воспользоваться им смогут только одобренные исследователи и экспертные организации — публичным сервисом для всех пользователей он пока не станет.

Внедрение технологии в Евросоюзе связано с требованиями закона ЕС об искусственном интеллекте, предусматривающего машиночитаемую идентификацию сгенерированного контента. За пределами ЕС глобального обязательного включения водяных знаков на старте не планируется.

Ранее москвичка попала в больницу после рецепта ИИ-знахарки. Подробнее об этом читайте в материале Общественной службы новостей.