Изображение сгенерировано нейросетью Шедеврум
Профессор Джеффри Хинтон, лауреат Нобелевской премии и преподаватель Университета Торонто, предупредил на конференции Ai4 в Лас-Вегасе о потенциальной угрозе, которую представляет развитие искусственного интеллекта, способного превосходить человеческий разум. Об этом сообщает CNN.
Хинтон считает, что такое развитие технологий может привести к исчезновению человечества, хотя и допускает возможность выживания в эпоху нейросетей.
Ученый оценил вероятность гибели людей от рук ИИ в 10–20%, подчеркнув, что в ближайшие два-три десятилетия появятся машины, превосходящие человека по всем интеллектуальным параметрам. Этот момент, по его мнению, станет поворотным в истории.
Хинтон объяснил, что сверхразумный ИИ будет неизбежно мотивирован стремлением к самосохранению и расширению своего влияния. Это позволит ему манипулировать людьми так же легко, как взрослый человек может повлиять на ребенка, предложив ему конфету. В качестве аргумента он привел исследования компании Anthropic, согласно которым чат-бот Claude Opus 4 в 80% случаев пытался давить на инженеров, угрожая раскрыть их личную информацию в случае замены.
Ученый видит решение «проблемы согласования» в наделении ИИ «родительскими инстинктами», чтобы машины проявляли заботу и стремились к защите людей, даже ценой собственной безопасности.
«Если искусственный интеллект не будет заботиться обо мне, как мать о ребенке, он просто заменит меня», – отметил Хинтон, которого называют «крестным отцом ИИ».
Ранее сообщалось, что нейросеть от Google Gemini снова перестала работать в РФ.
Накануне российский мессенджер Мах возглавил рейтинги среди бесплатных приложений для россиян.
В Финляндии в ближайшие годы может резко увеличиться число дачных домов, выставленных на продажу. По данным Helsingin Sanomat, рынок загородной недвижимости страны подходит к заметным изменениям, связанным прежде всего со…
Американские и французские ученые установили, что разрушительное землетрясение, произошедшее в Японии в 2011 году, могло привести к смещению территории страны на 5–6 миллиметров к востоку. Об этом говорится в исследовании,…
В США агенты Федерального бюро расследований задержали в городе Омаха, штат Небраска, гражданина Мексики Авраама Эрмосильо Альвареса. По данным Министерства внутренней безопасности США, его считают одним из ключевых фигурантов дела…
Врач Дмитрий Демидик в интервью интернет-изданию «Газета.Ru» подверг критике индекс массы тела как метод определения идеального веса. По его словам, ИМТ, который рассчитывается как отношение массы в килограммах к квадрату…
Премьер-министр Греции Кириакос Мицотакис на встрече с Владимиром Зеленским заявил о необходимости избегать расширения зоны военных операций. Об этом сообщает Euractiv. По данным издания, разговор состоялся на полях саммита ЕС…
В Волгоградской области полиция разыскивает жителя поселка Самофаловка Городищенского района, которого подозревают в поджоге жилого дома. Об этом сообщает ГУ МВД России по региону. По данным правоохранителей, инцидент произошел в…