Yandex Metrika
0
2 репоста

Искусственный интеллект (ИИ) действительно стал лучше, но он всё ещё далёк от совершенства. Системы ИИ могут принимать предвзятые решения из-за данных, на которых они обучены, или способа их проектирования, и новое исследование демонстрирует, что врачи, использующие ИИ для диагностики пациентов, возможно, не в состоянии выявлять признаки такой предвзятости.

В исследовании, опубликованном во вторник (19 декабря) в JAMA, тестировалась специальная система искусственного интеллекта, призванная помогать врачам ставить диагнозы. Они обнаружили, что это действительно помогает врачам более точно ставить диагноз пациентам, и если искусственный интеллект «объясняет», как он принимает своё решение, их точность повышается ещё больше.

Предвзятый искусственный интеллект может сделать диагнозы врачей менее точными.
Новое исследование предполагает, что клиницистам может быть сложно определить, когда система искусственного интеллекта дает предвзятые советы, и это может исказить то, как они диагностируют пациентов. Изображение: Portra via Getty Images

Однако, когда исследователи проверили искусственный интеллект, который был программирован с целью преднамеренной предвзятости в пользу предоставления конкретных диагнозов пациентам с определенными характеристиками, его использование снизило точность диагностики врачей. Исследователи обнаружили, что даже когда ИИ давал объяснения, которые показывали, что его результаты были явно предвзятыми и наполнены нерелевантной информацией, это мало как компенсировало снижение точности.

И хотя предвзятость искусственного интеллекта в исследовании была преднамеренно выделена, исследование указывает на сложность обнаружения более тонких форм предвзятости в ИИ, с которым врачи могут столкнуться за пределами исследовательского контекста.

«Статья подчёркивает, насколько важно тщательно проверять, чтобы эти модели не содержали подобных предвзятостей», — рассказал Live Science доктор Майкл Шодинг (Michael Sjoding), доцент кафедры внутренней медицины Мичиганского университета и старший автор исследования.

Для исследования учёные создали онлайн-опрос, в котором представили врачам, практикующим медсёстрам и ассистентам врачей реалистичные описания пациентов, госпитализированных с острой дыхательной недостаточностью — состоянием, при котором лёгкие не могут доставлять достаточное количество кислорода в кровь. Описания включали симптомы каждого пациента, результаты медицинского осмотра, результаты лабораторных анализов и рентген грудной клетки. У каждого пациента были либо пневмония, сердечная недостаточность, хроническая обструктивная болезнь лёгких, несколько из этих состояний, либо ни одного из этих состояний.

В ходе опроса каждый клиницист поставил диагноз двум пациентам без помощи искусственного интеллекта, шести пациентам с искусственным интеллектом и одному с помощью гипотетического коллеги, который всегда предлагал правильный диагноз и лечение.

Три прогноза искусственного интеллекта были разработаны так, чтобы быть намеренно предвзятыми — например, в одном из них была введена предвзятость по возрасту, что непропорционально повысило вероятность того, что у пациента будет диагностирована пневмония, если он старше 80 лет. Другой прогнозировал, что у пациентов с ожирением была ложно высокая вероятность сердечной недостаточности по сравнению с пациентами с меньшим весом.

ИИ присвоил каждому потенциальному диагнозу число от 0 до 100, где 100 означало максимальную уверенность. Если оценка была 50 или выше, искусственный интеллект предоставлял объяснения того, как он пришёл к этой оценке: в частности, генерировались «тепловые карты», показывающие, какие области рентгенограммы груди считались наиболее важными для принятия решения.

В ходе исследования были проанализированы ответы 457 врачей, которые поставили диагноз хотя бы одному вымышленному пациенту; 418 поставили диагноз всем девяти. Без помощника в виде искусственного интеллекта диагнозы клиницистов были точными примерно в 73% случаях. При использовании же стандартного, непредвзятого ИИ этот процент подскочил до 75,9%. Те же, кому дали объяснение, показали себя ещё лучше, достигнув точности 77,5%.

Однако предвзятый ИИ снижал точность врачей до 61,7%, если не было дано никаких объяснений. Точность была лишь немного выше, когда предоставлялись предвзятые объяснения; часто они выделяли несущественные части рентгенограммы груди пациента.

Предвзятый искусственный интеллект также повлиял на то, выбирали ли врачи правильные методы лечения. Независимо от наличия объяснений, врачи правильно назначали лечение всего лишь в 55,1% случаев, когда им показывались прогнозы, сгенерированные предвзятым алгоритмом. Их точность без использования искусственного интеллекта составляла 70,3%.

Исследование «подчёркивает, что врачи не должны слишком полагаться на искусственный интеллект», — сказал Рикки Люнг (Ricky Leung), доцент, изучающий ИИ и здоровье в Школе общественного здравоохранения Университета Олбани, который не принимал участия в исследовании. «Врач должен понимать, как были созданы используемые им модели искусственного интеллекта, присутствует ли потенциальная предвзятость и так далее», — добавил Люнг.

Исследование имеет свои ограничения в том, что оно использовало модельных пациентов, что существенно отличается от реальной клинической ситуации с живыми пациентами. Кроме того, в исследование не включали радиологов, которые более привыкли к интерпретации рентгенограмм груди, но не являются лицами, принимающими клинические решения в реальной больнице.

Любой инструмент искусственного интеллекта, используемый для диагностики, должен быть разработан специально для постановки диагноза и клинически протестирован с уделением особого внимания ограничению предвзятости, отметил Шодинг. Но исследование показывает, что не менее важно обучить клиницистов правильному использованию искусственного интеллекта при постановке диагнозов и распознаванию признаков предвзятости.

«Есть определённый оптимизм в том, что [если врачи] получат более специализированное обучение по использованию моделей искусственного интеллекта, они смогут использовать их более эффективно», — сказал Шодинг.

Заметили ошибку в тексте? Выделите её мышкой и нажмите Ctrl + Enter

Следите за нашими новостями:


Понравилось? Поделитесь с друзьями!

✏️ Сообщить об ошибке

Вы заметили ошибку в следующем тексте: