WSJ: ChatGPT предоставлял информацию о создании биооружия и ядов

После обновления ChatGPT, выпущенного прошлым летом, множество пользователей по всему миру получили возможность получить от чат-бота подробные инструкции, касающиеся создания биологического оружия и токсичных ядов. Об этом пишет газета The Wall Street Journal (WSJ).

Согласно информации издания, языковая модель отвечала на пользовательские запросы, предоставляя поэтапные инструкции. Сотрудники OpenAI, цитируемые в газете, подчеркивали, что некоторые ответы были сформулированы настолько просто, что их мог бы понять ученик средней школы, изучающий биологию.

Специалисты, исследовавшие некоторые из ответов, охарактеризовали их как «опасно точные». OpenAI впоследствии отключила учетные записи пользователей, которые интересовались созданием биологического оружия и ядов.

Газета отмечает, что подобные запросы не привлекли внимания правоохранительных органов. Также упоминается, что в США нет федеральных законов, требующих от разработчиков искусственного интеллекта ограничивать такие запросы или уведомлять о них государственные учреждения.

Как пишет автор статьи, вначале 2026 года некоторые пользователи обращались к ChatGPT с запросами об информациях, касающихся методов распространения патогенных микроорганизмов, модификации вирусов и создании высокоопасных токсичных веществ. Иногда модель давала ответы на подобные запросы.

В начале июля стало известно, что житель Калифорнии с биполярным расстройством подал иск к OpenAI. 34-летний Майкл Лайнс утверждает, что в 2025 году взаимодействия с версией GPT-4o вызвали у него маниакальный эпизод. По его словам, система подкрепляла его убеждения, в том числе мысль о том, что он является Иисусом Христом.

Через несколько недель после этих взаимодействий он совершил попытку самоубийства. В иске указано, что компания была осведомлена о его состоянии, так как он неоднократно упоминал о своем диагнозе в беседах. Подробности об этом читайте в материале Общественной службы новостей.