Yandex Metrika
1
3 репоста, 1 голос

Представьте, что мы отправляем дорогостоящий марсоход на поиски внеземных цивилизаций. Бортовой искусственный интеллект сканирует грунт, анализирует пробы и вдруг выдает сенсационный результат: «Жизнь обнаружена». Но что, если это просто программный сбой или ошибка в алгоритме? Новое исследование доказывает: современные нейросети не просто ошибаются, а делают это систематически, когда речь заходит о поиске биосигнатур.

Оказывается, обмануть искусственный интеллект намного проще, чем обмануть человека. И если мы не поймем эту уязвимость сейчас, то рискуем получить волну ложных открытий, которые всколыхнут научный мир и введут в заблуждение миллионы людей. В этой статье мы разберем, как именно ученые «взломали» ИИ, почему нейросети видят жизнь в неживых объектах и что это значит для будущего астробиологии.

Искусственный интеллект
Искусственный интеллект можно обмануть, заставив его заявить, что неживой объект является живым. Изображение: Mr. Hatch/Shutterstock

Цифровой микромир: как ученые создали «виртуальную жизнь»

Чтобы понять, насколько легко одурачить искусственный интеллект, исследователи из Мичиганского университета (Ankit Gupta и Christoph Adami) пошли на хитрость. Они не стали тратить время на поиски реальных микроорганизмов, а создали их цифровые копии — так называемые «цифровые организмы». Это не просто абстрактные модели, а полноценные компьютерные программы, способные к саморепликации (размножению) с мутациями, что имитирует эволюционный процесс.

Для этих целей использовалась программа Avida — легендарный инструмент для изучения эволюции в цифровой среде. Ученые создали десятки тысяч таких «виртуальных существ». При этом часть популяции действительно жила и размножалась (передавая свои коды с небольшими изменениями), а другая часть оставалась просто статичным набором команд — «неживой» материей.

Как обучали нейросеть и что пошло не так

Задача перед искусственным интеллектом стояла простая: отличить живых цифровых существ от мертвых. На первом этапе нейросеть блестяще справилась с экзаменом, показав точность распознавания в 99,97%. Казалось бы, вот оно — идеальное решение для автоматического поиска жизни на других планетах.

Однако, как только исследователи попытались дать ИИ «незнакомые» объекты, случилась катастрофа. Выяснилось, что нейросеть не понимает сути жизни, а просто заучивает статистические паттерны. И эти паттерны оказалось невероятно легко взломать.

Эксперимент со взломом: 150 шагов к ложной сенсации

Ученые взяли заведомо «неживой» цифровой организм (просто набор команд, не способный к размножению). И начали вносить в его код крошечные изменения на молекулярном уровне.

Что же произошло? После внесения всего 150 правок в программный код, ситуация кардинально изменилась. Несмотря на то, что организм по-прежнему не умел размножаться и эволюционировать, нейросеть уверенно заявляла: «Да, это живой объект». Причем обмануть алгоритм удалось в 100% случаев.

«Неважно, с какой последовательности команд мы начинали, нам всегда удавалось обмануть ИИ», — признается Анкит Гупта (Ankit Gupta), аспирант кафедры компьютерных наук.

Это всё равно, что натренировать собаку искать наркотики, а потом показать ей кусок мыла, обработанный специальным составом, — собака укажет на мыло, думая, что нашла запрещенку. ИИ просто находит знакомые узоры, игнорируя глубинный смысл.

Почему это проблема для NASA и частного космоса?

Использование искусственного интеллекта в космических миссиях — это не фантастика, а реальность. NASA уже десятилетиями применяет алгоритмы машинного обучения для анализа данных с телескопов и марсоходов. Однако новое исследование показывает, что полагаться на них в вопросах поиска внеземной жизни — смертельно опасно для науки.

Представьте, что марсоход с ИИ на борту присылает на Землю доклад об обнаружении биосигнатур. Начинается ажиотаж, выделяются миллиарды долларов на повторные миссии, готовятся официальные заявления. А через год выясняется, что это был ложный сигнал, вызванный простой программной ошибкой или воздействием космической радиации на сенсоры.

Проблема ложноположительных срабатываний

Этот кейс — не единичный случай. Схожие тревожные выводы были опубликованы в The Planetary Science Journal, где ученые из Юго-Западного исследовательского института проверили качество работы ИИ при создании каталогов лунных кратеров. Оказалось, что алгоритмы генерируют массу ложных объектов и неточностей, если применять к ним те же стандарты строгости, что и к работе человека.

То есть, ИИ действительно может быстро обрабатывать терабайты данных и замечать закономерности, но цена этой скорости — низкое качество и огромное количество «ложных срабатываний» (false positives).

Ахиллесова пята искусственного интеллекта

Кристоф Адами (Christoph Adami), профессор микробиологии и астрофизики, так описывает эту проблему:

«У ИИ есть ахиллесова пята. Он может видеть шаблон и полностью неправильно его классифицировать.»

Ученый сравнивает работу нейросети с игрой в испорченный телефон: она видит шум, принимает его за сигнал и строит на этом свои выводы.

Проблема кроется в самом принципе работы машинного обучения. Нейросеть не понимает физики процесса, биологии или химии. Она просто ищет совпадения с примерами из обучающей выборки. Если вы покажете ей хаотичный набор данных, но с «правильной» статистической структурой, она поверит, что это жизнь.

Человеческий фактор как главный фильтр

Значит ли это, что от ИИ нужно отказаться? Конечно нет. Ученые сходятся во мнении, что будущее — за симбиозом человека и машины. Профессор Адами подчеркивает:

«В процессе обязательно должен участвовать человек.»

Именно человеческая интуиция, способность мыслить абстрактно и видеть контекст — это тот предохранитель, который не даст нам принять ложное открытие за истину.

Исследователи планируют повторить этот эксперимент, но теперь уже на реальных биологических данных, чтобы понять, насколько сильно эта проблема проявляется в органическом мире. Пока же ясно одно: эра «автоматических открытий» не наступит, пока мы не научим нейросети задавать вопрос «Почему?», а не просто отвечать на «Да или Нет?».

Что это значит для всех нас?

Ложные открытия в науке — это не просто досадная ошибка. Это потеря времени, денег и, что самое важное, доверия общества к научным институтам. Если завтра новостные заголовки запестрят сообщениями об инопланетной жизни, а послезавтра выяснится, что это сбой ИИ, мы рискуем погрузиться в эру скептицизма, где любое серьезное открытие будет встречено в штыки.

Поэтому так важно понимать границы возможностей современных технологий. Нейросети — это мощные, но очень наивные инструменты. Они отличные счетчики, но ужасные философы. И пока мы не решим проблему контекстуального понимания, последнее слово всегда останется за человеком.

Заметили ошибку в тексте? Выделите её мышкой и нажмите Ctrl + Enter

Следите за нашими новостями:


Понравилось? Поделитесь с друзьями!

✏️ Сообщить об ошибке

Вы заметили ошибку в следующем тексте: