Искусственный интеллект может существенно помочь врачам в диагностике и лечении, однако, по данным ученых из Массачусетского технологического института, нынешние системы ИИ порой вводят медиков в заблуждение — из‑за того, что слишком уверенно выдают ошибочные решения.
Исследователи предлагают создать более «скромные» ИИ‑системы: они будут сигнализировать о собственной неуверенности в диагнозе или рекомендациях и подсказывать, какие дополнительные данные нужно собрать. Такой ИИ должен выступать не безошибочным оракулом, а наставником или «вторым пилотом», помогая эффективнее анализировать информацию. Разработанная структура вычислительных модулей позволит выстроить партнерство врачей и ИИ — и снизить чрезмерное влияние алгоритмов на принятие решений. Исследование опубликовано в BMJ Health and Care Informatics.
Один из модулей оценивает уверенность ИИ при постановке диагноза с помощью показателя эпистемической добродетели (Epistemic Virtue Score), созданного Янаном Арсланом и Куртом Бенке из Мельбурнского университета. Если система обнаруживает, что ее уверенность превышает достоверность данных, она приостанавливается и запрашивает дополнительные анализы, историю болезни или консультацию специалиста.
Команда внедряет новую структуру в системы ИИ на базе базы данных MIMIC (Medical Information Mart for Intensive Care) медицинского центра Beth Israel Deaconess и знакомит с ней врачей в системе здравоохранения Beth Israel Lahey. Подход применим и в других сферах — например, при анализе рентгеновских снимков или выборе тактики лечения в неотложной помощи.
Еще одна проблема текущих ИИ‑систем для диагностики — обучение на электронных медицинских картах, изначально не предназначенных для этой задачи. Из‑за этого в данных отсутствует важный контекст для постановки диагнозов. Кроме того, многие пациенты (например, жители сельской местности) вовсе не попадают в такие наборы данных из‑за ограниченного доступа к медицинской помощи.
Ранее Наука Mail рассказывала о том, что рентгенологи и ИИ не смогли отличить снимки-дипфейки от настоящих.
