OpenAI объявила о внедрении невидимых водяных знаков в тексты, созданные или обработанные с помощью ChatGPT. В первую очередь новая технология появится у пользователей в странах Евросоюза в течение ближайших недель.
Система получила название textGrain. В отличие от обычных водяных знаков, она не добавляет в текст скрытые символы, пробелы или специальную пунктуацию. Вместо этого технология незаметно изменяет статистическую закономерность выбора слов моделью. Для читателя такой текст визуально ничем не отличается от обычного.
Метка может присутствовать не только в материале, полностью написанном ChatGPT. Она также способна указывать на то, что система OpenAI участвовала в обработке или редактировании части текста. При этом по водяному знаку нельзя определить, насколько значительным был вклад человека в итоговый материал.
В OpenAI подчеркивают, что обнаружение такой метки не позволяет установить конкретного пользователя, его аккаунт, запросы или переписку с ChatGPT. Водяной знак также не подтверждает достоверность текста и не определяет его авторство в юридическом смысле.
При этом технология имеет ограничения. Существенное переписывание, перефразирование или перевод материала могут сделать водяной знак менее заметным для системы обнаружения. Особенно сложно определять его в коротких текстах.
Одновременно OpenAI открывает доступ к детектору textGrain, способному находить такие метки. Однако на первом этапе воспользоваться им смогут только одобренные исследователи и экспертные организации — публичным сервисом для всех пользователей он пока не станет.
Внедрение технологии в Евросоюзе связано с требованиями закона ЕС об искусственном интеллекте, предусматривающего машиночитаемую идентификацию сгенерированного контента. За пределами ЕС глобального обязательного включения водяных знаков на старте не планируется.
Ранее москвичка попала в больницу после рецепта ИИ-знахарки. Подробнее об этом читайте в материале Общественной службы новостей.
Эксперт по социально-экономической политике Яков Якубович в комментарии для ИА RuNews24.ru перечислил факторы, которые затрудняют применение методик, направленных на повышение эффективности и производительности труда. На первом месте среди препятствий находится…
В Калуге началась подготовка к восстановлению новостроек, поврежденных в результате атаки беспилотников в минувшие выходные. О планах городских властей рассказал глава Калуги Дмитрий Денисов во время планерки. К градоначальнику обратились…
Олимпийская чемпионка и депутат Госдумы Светлана Журова назвала несправедливой дисквалификацию российского теннисиста Даниила Медведева в полуфинальном матче турнира в Пекине против серба Новака Джоковича. Своим мнением она поделилась с РИА…
С приходом холодов перед каждым владельцем автомобиля встаёт задача замены летних шин на зимние. Если заранее не позаботиться о записи в сервис, есть риск провести несколько часов в ожидании или…
Король Великобритании Карл III отказался выделять средства своему брату Эндрю Маунтбеттену-Виндзору на оспаривание правомерности полицейских действий при задержании. Об этом в понедельник, 5 октября, сообщает РИА Новости со ссылкой на…
Некоторые привычки во время обычной ходьбы способны увеличить нагрузку на колени и со временем привести к появлению боли. Специалисты назвали пять распространенных ошибок, на которые стоит обратить внимание. Одной из…