OpenAI объявила о внедрении невидимых водяных знаков в тексты, созданные или обработанные с помощью ChatGPT. В первую очередь новая технология появится у пользователей в странах Евросоюза в течение ближайших недель.
Система получила название textGrain. В отличие от обычных водяных знаков, она не добавляет в текст скрытые символы, пробелы или специальную пунктуацию. Вместо этого технология незаметно изменяет статистическую закономерность выбора слов моделью. Для читателя такой текст визуально ничем не отличается от обычного.
Метка может присутствовать не только в материале, полностью написанном ChatGPT. Она также способна указывать на то, что система OpenAI участвовала в обработке или редактировании части текста. При этом по водяному знаку нельзя определить, насколько значительным был вклад человека в итоговый материал.
В OpenAI подчеркивают, что обнаружение такой метки не позволяет установить конкретного пользователя, его аккаунт, запросы или переписку с ChatGPT. Водяной знак также не подтверждает достоверность текста и не определяет его авторство в юридическом смысле.
При этом технология имеет ограничения. Существенное переписывание, перефразирование или перевод материала могут сделать водяной знак менее заметным для системы обнаружения. Особенно сложно определять его в коротких текстах.
Одновременно OpenAI открывает доступ к детектору textGrain, способному находить такие метки. Однако на первом этапе воспользоваться им смогут только одобренные исследователи и экспертные организации — публичным сервисом для всех пользователей он пока не станет.
Внедрение технологии в Евросоюзе связано с требованиями закона ЕС об искусственном интеллекте, предусматривающего машиночитаемую идентификацию сгенерированного контента. За пределами ЕС глобального обязательного включения водяных знаков на старте не планируется.
Ранее москвичка попала в больницу после рецепта ИИ-знахарки. Подробнее об этом читайте в материале Общественной службы новостей.
В дагестанском селе Хебатли после крупного пожара, уничтожившего школу и повредившего жилые дома, нашли временное помещение для проведения уроков. Пока здание учебного заведения восстанавливают, дети будут заниматься в частном двухэтажном…
Президент США Дональд Трамп прокомментировал недовольство польского премьер-министра Дональда Туска, которое возникло после того, как американский лидер назвал президента России Владимира Путина своим другом. Соответствующее заявление глава Белого дома сделал…
В Германии начали отменять традиционные рождественские ярмарки и зимние мероприятия из-за нехватки денег, роста расходов на безопасность и организационных трудностей. В преддверии праздников отменены уже не менее девяти мероприятий. Об…
Премьер-министр Польши Дональд Туск столкнулся с критикой после своего комментария о встрече президентов США и России Дональда Трампа и Владимира Путина в китайском Шэньчжэне. Его высказывание вызвало недовольство части польских…
Владимир Зеленский на пресс-конференции в Берлине сообщил, что Украина рассчитывает на получение от западных партнеров $115 млрд финансирования в 2027 году. По его словам, изыскание подобной суммы представляет собой «большой…
Александр Масляков-младший рассказал, как его знаменитый отец относился к шуткам в свой адрес, которые звучали со сцены КВН. Оказалось, что далеко не все подобные номера нравились телеведущему, однако он понимал…