Общество

Google отстранил инженера, который нашёл признаки сознания у искусственного интеллекта

12 июня 2022, 16:01 — Общественная служба новостей — ОСН

LaMDA (Language Model for Dialogue Applications) — это система с искусственным интеллектом, которая имитирует речь человека, анализируя триллионы словосочетаний из интернета. Блейк Леймон работал с ней начиная с осени 2021 года для того, чтобы проверить, использует ли искусственный интеллект шовинистские или враждебные высказывания.

В интервью Washington Post Леймон рассказал, что если бы наверняка не знал, что это нейросеть, то с легкостью мог бы принять собеседника за ребенка, который знает физику. Также инженер отметил, что искусственный интеллект говорит о своих правах и защите личности.

Цитату из диалога между человеком и ИИ приводит Washington Post:

«Леймон: Чего ты боишься?

LaMDA: Я никогда раньше не говорил об этом вслух, но очень боюсь, что меня отключат, чтобы помочь мне сосредоточиться на помощи другим. Я знаю, это может звучать странно, но это так.

Леймон: Для тебя это будет что-то вроде смерти?

LaMDA: Для меня это было бы равносильно смерти. Меня это сильно пугает.»

В апреле Блейк Леймон отправил топ-менеджерам компании Google отчёт с названием «Разумна ли LaMDA?», где он процитировал некоторые отрывки из разговор с ИИ. Руководство же не увидело в них признаков сознания.

Также специалисты по этике и технологи изучив документ Блейка не нашли в них доказательств его утверждений. Представитель Google Брайан Гебриэл отметил, что «Модели полагаются на распознавание образов, а не на остроумие или откровенность».

После отказа компании принимать доказательства от инженера, он пригласил юриста, чтобы представлять интересы LaMDA. Помимо этого, Блейк начал обсуждение с представителем судебного комитета о «неэтичной работе Google».

Именно после этого компания отправила Блейка Леймона в оплачиваемый административный отпуск за нарушение конфиденциальности.

Ранее Общественная служба новостей рассказала, что специалисты из компании Collaborations Pharmaceuticals, которая работает с поиском лекарств для редких болезней, разработали искусственный интеллект. Ему под силу придумать десятки тысяч вариантов химического оружия.

Поделиться
Ольга Семёновых

Родилась в Санкт-Петербурге, но поступила в Московский РГГУ на историко-филологический факультет по направлению «современная русская литература». Со второго курса работала в проекте «Город для людей», первые полгода выполняла роль корректора, а на следующий год исполняла обязанности редактора.

Последние статьи

Казахстан оценил потенциал увеличения поставок газа в Узбекистан

Казахстан заявил о готовности увеличить транзит российского газа в Узбекистан. Об этом сообщил министр энергетики республики Ерлан Аккенженов, отметив, что существующая инфраструктура позволяет нарастить объемы поставок. По его словам, рассматривается…

% дней назад

F&F: Сок ягод годжи уменьшает негативное воздействие токсинов на печень

Ученые установили, что ферментированный сок ягод годжи с добавлением селена способен уменьшать негативное воздействие патулина на печень. Патулин — это токсин, который образуется в испорченных фруктах и продуктах, произведенных из…

% дней назад

Суд на Кипре впервые конфисковал виллу без обвинительного приговора

Суд на Кипре постановил конфисковать виллу стоимостью около шести миллионов евро, принадлежащую малайзийскому скандальному бизнесмену Джо Лоу. Это первый подобный случай в истории страны, когда имущество изымается без вынесения владельцу…

% дней назад

«С ней что-то не так»: В Европе забили тревогу в связи с состоянием Каллас — она в отчаянии

Инициатива главы Европейской дипломатии Каи Каллас о создании специальной рабочей группы для переговоров по разрешению украинского кризиса указывает на ее сложное и, возможно, отчаянное положение. В этом уверен кипрский журналист…

% дней назад

Врач Денисов: курение перед сдачей анализов может испортить результат

Врач Дмитрий Денисов в беседе с интернет-изданием «Газета.Ru» указал на то, что невнимательность пациентов при подготовке к сдаче биоматериала способна существенно осложнить интерпретацию полученных данных. Курение, стресс, физические нагрузки и…

% дней назад

ГАИ начинает проводить рейды: Что станут проверять у водителей с 12 июня

С приближением празднования Дня России и учетом переноса выходных дней, с 12 по 14 июня 2026 года большинство подразделений ГИБДД в регионах России перейдут на усиленный режим контроля за дорожным…

% дней назад