Yandex Metrika
0
3 репоста

Исследование, проведённое в октябре 2022 года под руководством Black Dog Institute в Университете Нового Южного Уэльса, показало, что модели искусственного интеллекта (ИИ) превзошли оценки клинического риска. Было проанализировано 56 исследований, проведённых с 2002 по 2021 год, в результате чего было обнаружено, что ИИ правильно предсказал 66% людей, которые испытают суицидальный исход, и предсказал 87% людей, которые этого не сделают. Для сравнения, традиционные методы оценки, применяемые медицинскими работниками, лишь немного лучше, чем случайные (рандомные).

Искусственный интеллект широко исследуется в других областях медицины, таких как рак. Однако, несмотря на свои обещания, модели искусственного интеллекта для психического здоровья ещё не получили широкого применения в клинических условиях.

ИИ может помочь в предсказании самоубийств.Изображение: Nikodash/Shutterstock

Почему предсказать самоубийство так сложно

Исследование, проведённое в 2019 году Каролинским институтом, Швеция, показало, что четыре традиционные шкалы, используемые для прогнозирования риска самоубийства после недавних эпизодов членовредительства, показали плохие результаты. Проблема прогнозирования суицида связана с тем, что намерения пациента могут быстро меняться.

Например, в руководстве по членовредительству, используемом медицинскими работниками в Англии, прямо говорится, что на инструменты и шкалы оценки риска самоубийства полагаться не следует. Вместо этого специалисты должны использовать клиническое интервью. И хотя врачи действительно проводят структурированные оценки риска, они задействуются для максимального использования интервью, а не для определения того, кто получит лечение.

Риски при использовании ИИ

Исследование, проведённое Black Dog Institute, показало многообещающие результаты, но если 50-летние исследования традиционного (не ИИ) прогнозирования позволили получить методы, которые лишь немногим лучше случайных, нам нужно спросить, должны ли мы доверять ИИ. Когда новая разработка даёт нам то, что мы хотим (в данном случае лучшие оценки риска самоубийства), может возникнуть соблазн перестать задавать вопросы. Но мы не можем позволить себе торопиться с этой технологией. Последствия неправильного понимания — это буквально жизнь и/или смерть.

ИИ может помочь в предсказании самоубийств.Изображение: Chanintorn.v/Shutterstock

У моделей ИИ всегда есть ограничения, в том числе то, как оценивается их производительность. Например, использование точности в качестве показателя может ввести в заблуждение, если набор данных несбалансирован. Модель может достичь точности 99%, всегда предсказывая отсутствие риска самоубийства, если только 1% пациентов в наборе данных относится к группе высокого риска.

Также важно оценивать модели ИИ на данных, отличных от тех, на которых они обучаются. Это делается для того, чтобы избежать переобучения, когда модели могут научиться точно прогнозировать результаты на основе учебного материала, но с трудом работают с новыми данными. Модели могут работать безупречно во время разработки, но ставить неверные диагнозы реальным пациентам.

Например, было обнаружено, что ИИ лучше подходит для хирургических отметин на коже пациента при использовании для выявления меланомы (типа рака кожи). Для выделения подозрительных поражений врачи используют синие ручки, а ИИ научился связывать эти отметки с более высокой вероятностью рака. Это привело к ошибочному диагнозу на практике, когда синяя подсветка не использовалась.

Также может быть трудно понять, чему научились модели ИИ, например, почему они предсказывают определённый уровень риска. Это распространённая проблема с системами ИИ в целом, и она привела к целой области исследований, известной как объяснимый ИИ.

Black Dog Institute обнаружил, что 42 из 56 проанализированных исследований имели высокий риск систематической ошибки. В этом сценарии смещение означает, что модель завышает или занижает прогноз среднего уровня самоубийств. Например, данные содержат показатель самоубийств в 1%, но модель предсказывает показатель в 5%. Высокая предвзятость приводит к ошибочному диагнозу, либо пропуская пациентов с высоким риском, либо чрезмерно присваивая риск пациентам с низким риском.

Эти предубеждения связаны с такими факторами, как отбор участников. Например, в нескольких исследованиях было высокое соотношение «случай-контроль», а это означает, что уровень самоубийств в исследовании был выше, чем в действительности, поэтому модель ИИ, вероятно, предполагала слишком высокий риск для пациентов.

Многообещающая перспектива

В моделях в основном использовались данные из электронных медицинских карт. Но некоторые также включали данные из интервью, самостоятельных опросов и клинических заметок. Преимущество использования ИИ заключается в том, что он может учиться на больших объёмах данных быстрее и эффективнее, чем люди, и выявлять закономерности, которые пропускают перегруженные работой медицинские работники.

Несмотря на достигнутый прогресс, подход искусственного интеллекта к предотвращению самоубийств ещё не готов к практическому использованию. И тем не менее, исследователи продолжают работать над решением многих проблем с моделями предотвращения самоубийств с помощью ИИ — например, насколько сложно объяснить, почему алгоритмы делают свои прогнозы.

Однако прогнозирование самоубийств — не единственный способ снизить уровень самоубийств и спасти жизни. Точный прогноз не поможет, если он в итоге не приведёт к эффективному вмешательству.

Само по себе предсказание самоубийств с помощью ИИ не предотвратит каждую смерть. Но это может предоставить специалистам в области психического здоровья ещё один инструмент для ухода за своими пациентами. Это могло бы изменить жизнь так же, как современная операция на сердце, если бы указало на пациентов, которые действительно нуждаются в серьёзной помощи.

Заметили ошибку в тексте? Выделите её мышкой и нажмите Ctrl + Enter

Следите за нашими новостями:


Понравилось? Поделитесь с друзьями!

✏️ Сообщить об ошибке

Вы заметили ошибку в следующем тексте: