Общество

Google отстранил инженера, который нашёл признаки сознания у искусственного интеллекта

12 июня 2022, 16:01 — Общественная служба новостей — ОСН

LaMDA (Language Model for Dialogue Applications) — это система с искусственным интеллектом, которая имитирует речь человека, анализируя триллионы словосочетаний из интернета. Блейк Леймон работал с ней начиная с осени 2021 года для того, чтобы проверить, использует ли искусственный интеллект шовинистские или враждебные высказывания.

В интервью Washington Post Леймон рассказал, что если бы наверняка не знал, что это нейросеть, то с легкостью мог бы принять собеседника за ребенка, который знает физику. Также инженер отметил, что искусственный интеллект говорит о своих правах и защите личности.

Цитату из диалога между человеком и ИИ приводит Washington Post:

«Леймон: Чего ты боишься?

LaMDA: Я никогда раньше не говорил об этом вслух, но очень боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может звучать странно, но это так.

Леймон: Для тебя это будет что-то вроде смерти?

LaMDA: Для меня это было бы равносильно смерти. Меня это сильно пугает.»

В апреле Блейк Леймон отправил топ-менеджерам компании Google отчёт с названием «Разумна ли LaMDA?», где он процитировал некоторые отрывки из разговор с ИИ. Руководство же не увидело в них признаков сознания.

Также специалисты по этике и технологи изучив документ Блейка не нашли в них доказательств его утверждений. Представитель Google Брайан Гебриэл отметил, что «Модели полагаются на распознавание образов, а не на остроумие или откровенность».

После отказа компании принимать доказательства от инженера, он пригласил юриста, чтобы представлять интересы LaMDA. Помимо этого, Блейк начал обсуждение с представителем судебного комитета о «неэтичной работе Google».

Именно после этого компания отправила Блейка Леймона в оплачиваемый административный отпуск за нарушение конфиденциальности.

Ранее Общественная служба новостей рассказала, что специалисты из компании Collaborations Pharmaceuticals, которая работает с поиском лекарств для редких болезней, разработали искусственный интеллект. Ему под силу придумать десятки тысяч вариантов химического оружия.

Поделиться
Ольга Семёновых

Родилась в Санкт-Петербурге, но поступила в Московский РГГУ на историко-филологический факультет по направлению «современная русская литература». Со второго курса работала в проекте «Город для людей», первые полгода выполняла роль корректора, а на следующий год исполняла обязанности редактора.

Последние статьи

Бессараб: В 2027 году новогодние праздники могут продлиться 11 дней

В 2027 году новогодние каникулы могут продлиться примерно в течение 11 дней. Такое предположение относительно праздничных дней высказала член комитета Госдумы по труду, социальной политике и делам ветеранов Светлана Бессараб.…

% дней назад

«Известия»: вузы поменяли список экзаменов для поступления

За полгода до начала Единого государственного экзамена российские вузы внесли изменения в перечень вступительных испытаний, руководствуясь обновленным списком, утвержденным Министерством науки и высшего образования РФ, который вступит в силу 1…

% дней назад

Кумпилов: В результате удара БПЛА ВСУ по Адыгее ранения получили восемь человек

В результате удара, нанесенного военными киевского режима по территории Республики Адыгея, количество раненых увеличилось до восьми человек. Такие новости объявил губернатор региона Марат Кумпилов, опубликовав в Telegram-канале. «В результате вражеской…

% дней назад

Синоптик Вильфанд: в Москве в выходные прогнозируется 25-градусный мороз

В Москве в ближайшие выходные ожидается резкое похолодание. Как сообщил РИА Новости научный руководитель Гидрометцентра России Роман Вильфанд, температура воздуха значительно понизится. По его словам, ночные температуры составят от 20…

% дней назад

Леонид Слуцкий предложил приоритет мест в общежитиях для россиян

Лидер ЛДПР Леонид Слуцкий выступил за предоставление приоритета российским студентам при распределении мест в общежитиях. Он отметил, что сейчас многие абитуриенты из регионов сталкиваются с отказами из-за дефицита мест, в…

% дней назад

Онищенко назвал идею работы детских садов до 20:00 перспективной

Вопрос о функционировании дошкольных учреждений до 20:00 требует тщательного анализа. Безусловно, реализация подобной инициативы потребует дополнительных финансовых ресурсов для оплаты труда воспитателей за увеличенное время работы. Вместе с тем, это…

% дней назад