22:00 
ИИ уже способствует положительным результатам в здравоохранении и обещает добиться еще большего. Однако важно, чтобы внедрение инструментов искусственного интеллекта, особенно в сфере здравоохранения, решающего вопрос жизни и смерти, происходило вдумчиво и размеренно, предупреждает Шэнпу Тан, доцент кафедры компьютерных наук в Университете Эмори.
Тан и его коллеги обнаружили недостаток во многих рецензируемых исследованиях с использованием метода искусственного интеллекта, известного как обучение с подкреплением, в качестве теоретического руководства по лечению сепсиса.
Журнал npj Digital Medicine опубликовал свою работу результаты.
С помощью симуляционных экспериментов они продемонстрировали проблему с широко используемым методом предварительной обработки и индексации данных, связанных с лечением сепсиса. Этот ошибочный метод приводит к небольшому смещению времени, в результате чего ИИ-агент ускользает от стрелы времени, что приводит к тому, что он иногда использует будущее событие для предсказания прошлого.
Если данные тестирования модели смещены таким же образом, проблема остается скрытой, предупреждают исследователи.
Недостаток маскируется за «завышенными» показателями производительности, которые отлично смотрятся на бумаге, но не работают на практике».
Шэнпу Тан, доцент Исследователи показали, что если бы эти несовершенные системы лечения сепсиса были внедрены в медицинских учреждениях, они бы рекомендовали либо избыточное, либо недостаточное лечение почти в половине случаев пациентов.
"Мы обнаружили, что подавляющее большинство статей, в которых используется обучение с подкреплением для анализа лечения сепсиса за последнее десятилетие, допустили эту ошибку несовпадения во времени, включая нашу собственную работу", - говорит Тан, первый автор текущей статьи.
Тан и его коллеги разработали простой обходной путь, позволяющий избежать этого недостатка, что представляет собой фундаментальный сдвиг в формулировке проблем в обучении с подкреплением в здравоохранении.
Их эксперименты по моделированию, основанные на реальных клинических данных, показали, что, когда недостаток не устранен, алгоритм обучения с подкреплением для управления лечением сепсиса не снижает и не увеличивает уровень смертности пациентов.
Однако устранение недостатка временного сдвига приводит к снижению смертности пациентов на 8-10%, симуляции показал.
"Мы надеемся, что эта работа послужит тревожным сигналом и дорожной картой для создания более безопасных и надежных моделей обучения с подкреплением для клинической практики", - говорит Тан.
Соавторами статьи являются Сонали Парбху, доцент кафедры электротехники и электроники Имперского колледжа в Лондоне; Дженна Винс, профессор компьютерных наук и инженерии в Мичиганском университете, и Цзяю Яо, работавшая над статьей в то время; постдокторант Колумбийского университета.
Высокое число случаев сепсиса
Сепсис — это серьезное заболевание, возникающее, когда инфекция вызывает опасную для жизни цепную реакцию в организме. Пациенты больниц часто особенно уязвимы из-за нарушения иммунной системы. По данным Центров по контролю и профилактике заболеваний, каждый третий взрослый человек, умирающий в больнице, перенес сепсис.
Некоторые системы здравоохранения уже используют инструменты искусственного интеллекта для мониторинга. Алгоритмы для этих инструментов прогнозирования часто разрабатываются с использованием метода машинного обучения, известного как контролируемое обучение. Большие наборы данных о жизненно важных показателях и другие статистические данные о пациентах, у которых развился или не развился сепсис, вводятся в модель во время обучения. Модель ИИ затем может быть развернута в реальных ситуациях, предупреждая медицинских работников о пациентах с повышенным риском.
Эффективность инструментов прогнозирования риска побудила ученых-компьютерщиков захотеть сделать еще один шаг вперед, чтобы помочь ИИ. руководство протоколами лечения. Быстрое лечение после постановки диагноза имеет решающее значение для предотвращения повреждения тканей, отказа органов или смерти. Однако, в отличие от оценки риска, прогнозирование протокола лечения требует синхронизации множества наборов данных в динамической среде - различные виды лечения, такие как внутривенное введение жидкости, антибиотики, лекарства от артериального давления и хирургическое вмешательство; дозировка или интенсивность лечения; жизненные показатели пациента до и после лечения, а также уровень выживаемости/смертности;
Другая структура обучения
Обучение с подкреплением необходимо, чтобы справиться с этой динамической средой и принимать последовательность решений, происходящих с течением времени, без единого заранее определенного ответа «да» или «нет». Например, обучение с подкреплением используется для обучения алгоритмов ИИ для участия в пошаговых играх, таких как шахматы: агент ИИ наблюдает за доской, выбирает действие или ход, а затем конфигурация доски постоянно меняется, и процесс повторяется дискретно. раундов.
В последние годы алгоритмы обучения с подкреплением применялись для решения ряда последовательных задач по принятию решений в здравоохранении.
