Джеффри Хинтон: восстание ИИ угрожает погубить человечество

Профессор Джеффри Хинтон, лауреат Нобелевской премии и преподаватель Университета Торонто, предупредил на конференции Ai4 в Лас-Вегасе о потенциальной угрозе, которую представляет развитие искусственного интеллекта, способного превосходить человеческий разум. Об этом сообщает CNN.

Хинтон считает, что такое развитие технологий может привести к исчезновению человечества, хотя и допускает возможность выживания в эпоху нейросетей.

Ученый оценил вероятность гибели людей от рук ИИ в 10–20%, подчеркнув, что в ближайшие два-три десятилетия появятся машины, превосходящие человека по всем интеллектуальным параметрам. Этот момент, по его мнению, станет поворотным в истории.

Хинтон объяснил, что сверхразумный ИИ будет неизбежно мотивирован стремлением к самосохранению и расширению своего влияния. Это позволит ему манипулировать людьми так же легко, как взрослый человек может повлиять на ребенка, предложив ему конфету. В качестве аргумента он привел исследования компании Anthropic, согласно которым чат-бот Claude Opus 4 в 80% случаев пытался давить на инженеров, угрожая раскрыть их личную информацию в случае замены.

Ученый видит решение «проблемы согласования» в наделении ИИ «родительскими инстинктами», чтобы машины проявляли заботу и стремились к защите людей, даже ценой собственной безопасности.

«Если искусственный интеллект не будет заботиться обо мне, как мать о ребенке, он просто заменит меня», – отметил Хинтон, которого называют «крестным отцом ИИ».

Ранее сообщалось, что нейросеть от Google Gemini снова перестала работать в РФ.

Накануне российский мессенджер Мах возглавил рейтинги среди бесплатных приложений для россиян.