«Безумный мусор»: Почему медицинские советы за нейросетью нужно перепроверять

15.04.2026 344

Нет надежной статистики, насколько корректные медицинские советы дает ИИ, но в любом случае полностью полагаться на нейросеть в вопросах здоровья нельзя, заявил НСН Борис Зингерман.

Люди советуются с нейросетями по поводу здоровья, так как это удобнее, чем обращаться ко врачу. Но как распоряжаться полученными от чат-ботов рекомендациями — это уже ответственность самого пациента, рассказал НСН руководитель Ассоциации разработчиков и пользователей искусственного интеллекта в медицине «Национальная база медицинских знаний» Борис Зингерман.

Ранее международная группа ученых поделилась результатами исследования, в рамках которого они оценивали ответы популярных чат-ботов по вопросам медицины и здоровья. В статье, опубликованной в журнале BMJ Open, отмечается, что только половина ответов нейросетей не вызвала у врачей сомнений, треть результатов они оценили, как сомнительные, а 19,6% — как крайне проблематичные. Зингерман подчеркнул, что пока нет надежной статистики, которая отражала бы, как много людей пользуются ИИ для решения медицинских вопросов, а также единых данных о корректности работы чат-ботов в этом направлении.

Он объяснил, почему люди обращаются к чат-ботам в поисках информации о своем здоровье.

«Ситуация здесь довольно простая. Пациенту легко получить ответ от нейросети и иногда бывает трудно получить ответ от врача, потому что к нему трудней записаться, до него нужно доехать, там он еще, может быть, на какие-то обследования пошлет. А нейросеть с тобой будет говорить в приятной тебе манере. Поэтому есть, безусловно, сдвиг в эту сторону. И здесь принципиальный вопрос в том, что должна быть ответственность самого человека за то, насколько он доверяет сведениям, полученным от нейросети. Это же аналогично тому, как мы используем поиск в интернете уже много лет. Мы с вами понимаем, что люди находят там от вполне надежной медицинской информации до безумного мусора. Вопрос в том, как человек это сортирует, чему он доверяет больше, чему меньше, это зависит от самого человека. И, к сожалению, вот с этой ситуацией мы уже 10 лет сталкиваемся с поиском диагнозов в интернете, но сейчас эта история усугубится появлением нейросетей», — сказал эксперт.

Собеседник НСН отметил, что в отдельных случаях ИИ может быть эффективен, так как в сжатые сроки способен обработать большой массив данных. Однако специалист считает, что это стоит использовать, как дополнительный инструмент, а не основном метод постановки диагноза.

«Есть мнение, что нейросети в некоторых вопросах могут быть точнее именно потому, что они обрабатывают огромные массивы информации. В части, например, редких заболеваний, с которыми врачи в повседневной жизни сталкиваются крайне редко. Но в этом смысле стоит ориентироваться на мнение нейросети, но все-таки разумнее перепроверять его у врача или, может быть, у нескольких нейросетей. Или, получив ответ от нейросети, просто поиском найти те ссылки и более глубоко их проанализировать. Но это уже процесс, связанный именно с заботой о собственном здоровье», - посоветовал он.

Зингерман уверен, что даже создание узконаправленной медицинской нейросети не будет давать стопроцентного результата, и в любом случае будет риск ошибки.

Источник : Ссылка