Изображение сгенерировано нейросетью Шедеврум
Искусственный интеллект, который всё чаще привлекают для поиска внеземной жизни, может оказаться крайне ненадёжным инструментом. Исследователи из Университета штата Мичиган экспериментально доказали, что современные алгоритмы машинного обучения можно обмануть в ста процентах случаев. Как сообщает журнал Popular Science, инженер Анкит Гупта и его коллега Кристоф Адами провели эксперимент с симулятором эволюции Avida, обучив нейросеть различать самовоспроизводящиеся цифровые цепочки на десятках тысяч примеров.
На этапе обучения точность алгоритма была впечатляющей, однако при встрече с новыми, незнакомыми образцами система дала сбой. Достаточно было внести 150 незначительных изменений в программный код симулированных организмов, чтобы нейросеть начала массово принимать ложные сигналы за признаки жизни. По словам Адами, это подтверждает фундаментальную слабость ИИ: он способен уловить закономерность, но совершенно неверно её интерпретировать, что делает его уязвимым даже при наличии качественных обучающих данных.
Авторы подчёркивают, что эта проблема не ограничивается астробиологией. Ложные срабатывания могут поставить под угрозу работу систем распознавания лиц, беспилотных автомобилей и медицинских сканеров, где ошибка классификации стоит человеческих жизней. Учёные не призывают отказываться от технологий, но настаивают на обязательном человеческом контроле и наличии независимых механизмов проверки работы алгоритмов. В итоге, даже самый сложный ИИ остаётся лишь инструментом, и доверять ему без критического взгляда человека — опасный путь.
Президент США Дональд Трамп, на полях состоявшегося саммита НАТО, заявил о том, что Вашингтон планирует передать Украине лицензии на производство ракет для комплексов ПВО Patriot. «Теперь Вы не сможете жаловаться,…
Российская блогерша Валерия Чекалина, известная под псевдонимом Лерчек, объявила о запуске собственного бренда одежды LEA. Это событие произошло на фоне её борьбы с четвертой стадией рака, о чем сообщило издание…
На реке Алдан в Якутии перевернулась лодка с пятью пассажирами. Инцидент произошел на водном объекте, который является одним из крупнейших притоков Лены. Четверо человек числятся пропавшими без вести, одному удалось…
Глава Приднестровья Вадим Красносельский заявил, что 50 тысяч жителей региона обратились за гражданством РФ после указа президента России Владимира Путина. Об этом пишет РИА Новости. 16 мая Путин подписал указ,…
Министерство по делам гражданской обороны, чрезвычайным ситуациям и ликвидации последствий стихийных бедствий подготовило поправки в статью 256 Трудового кодекса. Изменения закрепят за приемными родителями право оформлять отпуск по уходу за…
Вооруженные силы Украины нанесли удар по автозаправочной станции, расположенной в хуторе Фонов Рыльского района Курской области. Атака была проведена с применением беспилотного летательного аппарата. В результате обстрела пострадал местный житель…