Комплекс Кассандры: Почему медики не доверяют искусственному интеллекту

Доктор Ф. Перри Уилсон из Йельской медицинской школы в своем исследовании затрагивает одну из наиболее актуальных и важных тем в современной медицине - роль искусственного интеллекта в прогнозировании и лечении. Ученый поднимает интересный вопрос: почему, несмотря на точные прогнозы алгоритмов машинного обучения, медицина все равно сталкивается с «комплексом Кассандры».

Фото из открытых источников

Для понимания этой проблемы важно вернуться к древней греческой мифологии. Кассандра была дочерью Приама, царя Трои, и была одарена богом Аполлоном даром пророчества. Однако, после того как она отвергла Аполлона, он проклял ее, делая пророчества бесполезными, поскольку никто не верил в их достоверность. Кассандра предсказала падение Трои, но ей не поверили, что привело к катастрофе.

По аналогии с Кассандрой, искусственный интеллект в медицине сталкивается с комплексом Кассандры. Современные электронные медицинские записи обеспечивают огромное количество данных, которые алгоритмы машинного обучения используют для прогнозов о заболеваниях и лечении. Однако, даже если эти прогнозы точны, они могут оказаться бесполезными, если медицинские специалисты не доверяют им или не следуют им.

Доктор Уилсон отмечает, что многие сосредотачиваются исключительно на точности прогнозирования, забывая о важности того, как эти прогнозы могут изменить результаты лечения пациентов. Прогнозы становятся бесполезными, если их игнорируют или если они не приводят к изменениям в клинической практике.

Исследования в этой области зависят от больших наборов данных и разработки более совершенных алгоритмов. Но, как учит нас история Кассандры, даже совершенные прогнозы бесполезны, если их игнорируют.

Доктор Уилсон предлагает решение, которое заключается в том, чтобы относиться к искусственному интеллекту в медицине так же, как к новому лекарству. Он призывает проводить рандомизированные исследования, чтобы оценить, как прогнозы модели могут изменить лечение и, следовательно, спасти жизни пациентов.

Примером этого подхода служит исследование Шеннона Уокера из Вандербильта, в котором эксперты изучали, как автоматизированная прогностическая модель в электронных медицинских записях может помочь предотвратить внутрибольничные венозные тромбоэмболии среди детей и подростков. Их исследование выявило, что, несмотря на точность модели, первичные клинические бригады не всегда следовали рекомендациям, подчеркивая важность доверия и изменения в поведении.

И так, искусственный интеллект в медицине предоставляет прогнозы о заболеваниях и их лечении, но чтобы изменить результаты, нам нужно поверить этим прогнозам и действовать в соответствии с ними. Это ключевой вызов современной медицины, и пока он не будет преодолен, точные прогнозы останутся бесполезными, как пророчества Кассандры, игнорируемыми и недооцененными.