14:00 
Чрезмерная зависимость от генеративного ИИ рискует подорвать навыки критического мышления новых и будущих врачей, а также потенциально усилить существующую предвзятость данных и неравенство, предупреждает редакционная статья, опубликованная в онлайн-журнале BMJ Evidence Based Medicine.
Инструменты GenAI уже широко используются в условиях отсутствия институциональной политики и нормативных указаний, отмечают авторы, которые призывают медицинских преподавателей проявлять бдительность и корректировать учебные программы и обучение. чтобы смягчить подводные камни этой технологии.
Использование ИИ в настоящее время используется для решения широкого спектра различных задач, но вместе с его растущим потенциалом растет риск чрезмерного доверия к нему и множество потенциальных проблем для студентов-медиков и врачей-стажеров, отмечают авторы из Университета Миссури, Колумбия, США.
К ним относятся:
? автоматизация - некритическое доверие к автоматизированной информации после длительного использования использовать
? когнитивную разгрузку и передачу ИИ поиска, оценки и синтеза информации, меняющего рассуждения, что подрывает критическое мышление и сохранение памяти.
• Устранение навыков и притупление навыков, что особенно важно для студентов-медиков и новых врачей, которые изучают эти навыки в первую очередь и которым не хватает опыта, чтобы проверить советы ИИ.
• усиление существующих предвзятостей в данных и неравенство
? галлюцинации — беглая и правдоподобная, но неточная информация.
? нарушение конфиденциальности, безопасности и управления данными — особая проблема, связанная с деликатным характером медицинских данных.
Авторы предлагают различные изменения, чтобы помочь минимизировать эти риски, включая оценку процесса, а не только конечного продукта в образовательных оценках, исходя из предположения, что учащиеся будут использовать ИИ.
Оценка критических навыков которые исключают необходимость разработки ИИ с использованием контролируемых станций или личных осмотров, что особенно важно для общения у постели больного, физического осмотра, командной работы и профессионального суждения, - предполагают авторы.
И, возможно, было бы разумно оценить сам ИИ как компетенцию, потому что «грамотность в области данных и обучение проектированию, разработке и оценке ИИ сейчас важнее, чем когда-либо, и эти знания больше не являются роскошью для студентов-медиков и стажеров», добавляют они.
Стажерам-медикам необходимо понимать принципы и концепции, лежащие в основе сильных и слабых сторон ИИ, а также то, где и как инструменты ИИ можно с пользой внедрить в клинические рабочие процессы и методы оказания медицинской помощи. Они также подчеркивают, что стажерам необходимо знать, как оценивать запланированные результаты и потенциальные предвзятости с течением времени.
"Особенно необходимо углубленное обучение критическому мышлению, чего можно достичь путем создания случаев, когда результаты ИИ представляют собой смесь правильных и намеренно ошибочных ответов... Затем учащиеся будут принимать, изменять или отклонять и обосновывать свое решение первичными источниками, основанными на фактических данных", - предполагают авторы.
Регулирующие органы, профессиональные общества и образовательные ассоциации по всему миру также должны сыграть свою роль, создавая и регулярно обновляя руководства по влиянию ИИ на медицинское образование, призывают авторы.
Они заключают: «Генераторный ИИ имеет задокументированные и хорошо изученные преимущества, но он не лишен недостатков, особенно для медицинского образования и начинающих учащихся. Эти инструменты могут фабриковать источники, кодировать предвзятость, приводить к чрезмерной зависимости и негативное воздействие на образовательный процесс.
"Медицинские программы должны внимательно относиться к этим рискам и корректировать свои учебные планы и программы обучения, чтобы опережать их и снижать их вероятность."
