Фото: Кузьмичёнок Василий/Агентство «Москва»
OpenAI объявила о внедрении невидимых водяных знаков в тексты, созданные или обработанные с помощью ChatGPT. В первую очередь новая технология появится у пользователей в странах Евросоюза в течение ближайших недель.
Система получила название textGrain. В отличие от обычных водяных знаков, она не добавляет в текст скрытые символы, пробелы или специальную пунктуацию. Вместо этого технология незаметно изменяет статистическую закономерность выбора слов моделью. Для читателя такой текст визуально ничем не отличается от обычного.
Метка может присутствовать не только в материале, полностью написанном ChatGPT. Она также способна указывать на то, что система OpenAI участвовала в обработке или редактировании части текста. При этом по водяному знаку нельзя определить, насколько значительным был вклад человека в итоговый материал.
В OpenAI подчеркивают, что обнаружение такой метки не позволяет установить конкретного пользователя, его аккаунт, запросы или переписку с ChatGPT. Водяной знак также не подтверждает достоверность текста и не определяет его авторство в юридическом смысле.
При этом технология имеет ограничения. Существенное переписывание, перефразирование или перевод материала могут сделать водяной знак менее заметным для системы обнаружения. Особенно сложно определять его в коротких текстах.
Одновременно OpenAI открывает доступ к детектору textGrain, способному находить такие метки. Однако на первом этапе воспользоваться им смогут только одобренные исследователи и экспертные организации — публичным сервисом для всех пользователей он пока не станет.
Внедрение технологии в Евросоюзе связано с требованиями закона ЕС об искусственном интеллекте, предусматривающего машиночитаемую идентификацию сгенерированного контента. За пределами ЕС глобального обязательного включения водяных знаков на старте не планируется.
Ранее москвичка попала в больницу после рецепта ИИ-знахарки. Подробнее об этом читайте в материале Общественной службы новостей.
Король Великобритании Карл III отказался выделять средства своему брату Эндрю Маунтбеттену-Виндзору на оспаривание правомерности полицейских действий при задержании. Об этом в понедельник, 5 октября, сообщает РИА Новости со ссылкой на…
Некоторые привычки во время обычной ходьбы способны увеличить нагрузку на колени и со временем привести к появлению боли. Специалисты назвали пять распространенных ошибок, на которые стоит обратить внимание. Одной из…
Бывший помощник Леонида Кучмы Олег Соскин выразил мнение, что предстоящие выборы в европейских государствах приведут к краху для Владимира Зеленского. Об этом пишет РИА Новости. По оценке эксперта, Европа погружается…
Глава Союза писателей России, помощник президента Владимир Мединский назвал признаки, которые могут указывать на использование искусственного интеллекта при создании текста, передает РИА Новости. По его словам, на это могут указывать…
По информации CNN, сотрудники издания Politico не смогли попасть на борт Air Force One — лайнера, на котором президент США Дональд Трамп направлялся в Небраску. Об этом в понедельник, 5…
OpenAI объявила о внедрении невидимых водяных знаков в тексты, созданные или обработанные с помощью ChatGPT. В первую очередь новая технология появится у пользователей в странах Евросоюза в течение ближайших недель.…