Изображение сгенерировано нейросетью Шедеврум
Искусственный интеллект, который всё чаще привлекают для поиска внеземной жизни, может оказаться крайне ненадёжным инструментом. Исследователи из Университета штата Мичиган экспериментально доказали, что современные алгоритмы машинного обучения можно обмануть в ста процентах случаев. Как сообщает журнал Popular Science, инженер Анкит Гупта и его коллега Кристоф Адами провели эксперимент с симулятором эволюции Avida, обучив нейросеть различать самовоспроизводящиеся цифровые цепочки на десятках тысяч примеров.
На этапе обучения точность алгоритма была впечатляющей, однако при встрече с новыми, незнакомыми образцами система дала сбой. Достаточно было внести 150 незначительных изменений в программный код симулированных организмов, чтобы нейросеть начала массово принимать ложные сигналы за признаки жизни. По словам Адами, это подтверждает фундаментальную слабость ИИ: он способен уловить закономерность, но совершенно неверно её интерпретировать, что делает его уязвимым даже при наличии качественных обучающих данных.
Авторы подчёркивают, что эта проблема не ограничивается астробиологией. Ложные срабатывания могут поставить под угрозу работу систем распознавания лиц, беспилотных автомобилей и медицинских сканеров, где ошибка классификации стоит человеческих жизней. Учёные не призывают отказываться от технологий, но настаивают на обязательном человеческом контроле и наличии независимых механизмов проверки работы алгоритмов. В итоге, даже самый сложный ИИ остаётся лишь инструментом, и доверять ему без критического взгляда человека — опасный путь.
Группе греческих учёных после проведения обширной серии тестов удалось подтвердить свои догадки по поводу того, что фенольные соединения, присутствующие в оливковом масле первого холодного отжима, способны сдерживать развитие одной из…
Чудотворная Тихвинская икона Пресвятой Богородицы будет пребывать в Москве и Московской области с 27 августа по 27 сентября. Информация о графике принесения святыни опубликована в понедельник, 24 августа, на официальном…
Министр финансов Соединенных Штатов Скотт Бессент сделал резкое заявление, предупредив иностранные государства и международные организации о последствиях продолжения экономического взаимодействия с Тегераном. Об этом в понедельник, 24 августа, сообщает РИА…
В понедельник вечером врач Андрей Соловьев проинформировал о том, что серьёзнейшие негативные последствия способны возникнуть при недостаточной гигиене пупка. Его утверждения по этому вопросу привело интернет-издание «Газета.Ru», напомнив, что накопление…
Три человека доставлены в больницу после того, как легковой автомобиль врезался в остановочный павильон в Нижнем Новгороде. Об этом в понедельник, 24 августа, сообщает ТАСС. Информацию о происшествии подтвердили в…
Капитан давно работающего с частными заказчиками рыболовного судна Дэймон Сакко и его клиент Уолтер Чепмен стали участниками неординарного события, выловив у берегов Соединённых Штатов Америки атлантического голубого марлина внушительных размеров.…