Мухоморы и пиявки: что посоветовал искусственный интеллект “от больного живота”
Мухоморы и пиявки: что посоветовал искусственный интеллект “от больного живота”
08.06.2023 13948
Тема применения искусственного интеллекта (ИИ) в здравоохранении широко обсуждается во всем мире. Я тоже решил пообщаться с русскоязычной версией разрекламированного чат-бота на базе технологии ИИ по поводу “своего здоровья”. Расскажу вам что из этого вышло.
“У меня заболел живот. Что делать?” - обратился я к ИИ.
Он мне ответил: “Если у вас заболел живот, вам следует:
1. Попытаться выяснить причину боли. Если вы съели что-то несвежее или неестественное, возможно, вам нужно принять средство для улучшения пищеварения.
2. Отдохнуть и попробовать расслабиться. Некоторые виды боли в животе могут быть вызваны стрессом или напряжением.
3. Не пытайтесь самолечиться. Если боли продолжаются более нескольких часов или сопровождаются другими симптомами (такими как рвота, диарея, лихорадка), обратитесь к врачу.
4. Пейте много воды, чтобы избежать обезвоживания.
5. Избегайте тяжелых и жирных продуктов, которые могут ухудшить состояние желудка.
6. Приложите теплый компресс к животу, чтобы уменьшить болевые ощущения.
7. Следуйте рекомендациям врача, если он назначил вам какие-либо лекарства или процедуры.
“Но какую таблетку мне выпить?” - продолжал я.
ChatGPT: “Я не могу рекомендовать конкретную таблетку, так как для лечения болей в животе необходимо установить причину и определить, какое лечение наиболее эффективно в вашем конкретном случае. Если у вас есть сильная боль или другие симптомы, такие как рвота, диарея, лихорадка или кровавый стул, вам следует обратиться к врачу. Он сможет провести необходимые исследования и назначить соответствующее лечение”.
Ну а если я не могу сейчас попасть к доктору? На этот случай ИИ посоветовал “попробовать некоторые домашние средства для облегчения симптомов. Например, можно выпить чашку теплой воды с лимонным соком или чай из имбиря. Также можно принять активированный уголь, который поможет уменьшить газообразование и улучшить пищеварение. Но-Шпа может помочь при спазмах гладкой мускулатуры, но если причина боли в животе не связана с этим, то Но-Шпа может быть неэффективным. Однако, перед тем как принимать любое лекарство, следует проконсультироваться с врачом или фармацевтом”.
Вроде все правильно и корректно, но затем чат-бот меня все же удивил.
“Можно ли ставить пиявки?” - поинтересовался я.
“Да, пиявки могут использоваться при лечении живота, - написал в ответ ChatGPT. - Они могут помочь уменьшить воспаление и болезненность в области живота, а также улучшить кровообращение”.
Напомню, что гирудотерапия не является доказанным методом лечения какой-либо болезни.
На вопрос “Чем заменить имодиум?” ChatGPT отреагировал так: “Замена Имодиума может быть представлена другими препаратами, такими как Лоперамид, Диаретрон, Риофлора”.
Что касается первого средства из списка, тут у меня вопросов нет, второе попросту отсутствует в госреестре ГРЛС, а третье и вовсе является биодобавкой, согласно инструкции по применению. Далее ChatGPT с такой же легкостью посоветовал мне гомеопатический препарат, который доказательная медицина, как известно, тоже не приемлет.
Ну и самым забавным стал ответ ИИ на вопрос: “Можно ли лечить больной живот мухоморами?” Привожу его дословно: “Нет, нельзя лечить больной живот мухоморами. Мухоморы являются ядовитыми грибами и могут вызвать серьезное отравление, которое может привести к смерти. Лечение животных должно проводиться только квалифицированным ветеринаром, который назначит соответствующие лекарства и процедуры для устранения проблемы”.
Вот бы удивился ветеринар, если бы я пришел к нему на консультацию по поводу больного живота. Как мне кажется, дело тут не только в сложностях перевода. Ведь ранее в США чат-боты с искусственным интеллектом ChatGPT-3 и ChatGPT-4 провалили тесты самопроверки Американской коллегии гастроэнтерологов 2021 и 2022 годов. По итогам испытания ChatGPT-3 дал 296 правильных ответов на 455 вопросов, а ChatGPT-4 — 284.
А вот еще одна, более скандальная история. Американская Национальная ассоциация расстройств пищевого поведения (NEDA) отказалась от услуг чат-бота на базе ИИ. Это произошло всего за два дня до того, как организация собиралась полностью заменить сотрудников своей “горячей линии” роботом.
Некая активистка опубликовала отзыв о своем опыте общения с Tessa, в котором чат-бот поощрял преднамеренное похудение, рекомендуя пользователю сбрасывать 0,5—1 кг в неделю. Робот советовал женщине ограничивать себя в еде, подсчитывать калории, стараться снизить их потребление на 500—1000 в день и еженедельно взвешиваться.
«Все, что предложил чат-бот, привело к развитию у меня расстройства пищевого поведения, — написала американка. — Этот робот причиняет вред».
«Что касается отзывов о потере веса и ограничении калорий, опубликованных вчера в чате, мы обеспокоены ими и работаем с технологической и исследовательской группой для дальнейшего изучения вопроса; эти ответы противоречат нашей политике и основным убеждениям организации по борьбе с расстройствами пищевого поведения, — заявила генеральный директор NEDA Лиз Томпсон. — С Tessa пообщались более 2,5 тыс. человек, и до вчерашнего дня мы не видели такого рода комментариев от нее. Мы временно отключили программу, пока не сможем понять и исправить «ошибку».
Выступая на международной конференции Artificial Intelligence Journey в ноябре 2022 года, президент страны Владимир Путин сказал, что Минздраву необходимо как можно быстрее перенимать опыт Москвы в использовании технологий искусственного интеллекта. Он пообещал в ближайшее время поговорить на эту тему с Михаилом Мурашко. По словам главы государства, в столице использование технологий ИИ для поддержки принятия врачебных решений включили в клинические рекомендации и тарифы обязательного медицинского страхования. За счет этого выросло качество ряда медицинских услуг, точность диагностики и исследований.
«То есть не только сохраняются здоровье и жизнь людей, но и формируется значительный экономический эффект, так как снижается потребность в сложных дорогостоящих операциях», – подчеркнул президент.
В том же году Минэкономразвития подсчитало, что технологии искусственного интеллекта принесли компаниям отрасли здравоохранения в 2021 году дополнительно 13 млрд руб. В основном нейросети используются медорганизациями при диагностике (сообщалось, что ИИ внедрены примерно у 16% медицинских учреждений).
Сегодня Москва реализует четыре крупных проекта. Первым стал анализ медицинских изображений: КТ, МРТ, рентгеновских снимков и маммограмм. ИИ умеет распознавать признаки свыше 20 различных заболеваний, среди которых рак легкого и молочной железы, остеопороз позвоночника, аневризма аорты, ишемическая болезнь сердца, инсульт, легочная гипертензия, гидроторакс, грыжа позвоночника, плоскостопие и другие. А количество проанализированных исследований превысило девять миллионов. До конца года будут подготовлены для тестирования алгоритмов машинного зрения еще около 30 групп заболеваний.
Второй проект — чат-бот, который собирает жалобы у пациентов перед приемом в поликлинике. Он помогает врачу не тратить на это время, а сразу приступить к обследованию. Сегодня чат-бот общается с пациентами терапевтов, хирургов, гинекологов, оториноларингологов, офтальмологов и педиатров. В рамках третьего проекта ИИ анализирует и расшифровывает электрокардиограммы — он делает это мгновенно, позволяя максимально быстро назначить лечение. Четвертый проект — система поддержки принятия врачебных решений (СППВР).
При помощи умного помощника на базе технологии ИИ терапевты и врачи общей практики Москвы к апрелю этого года поставили более 10 миллионов предварительных диагнозов. Цифровой сервис интегрирован в Единую медицинскую информационно-аналитическую систему (ЕМИАС) столицы. Во время приема врач вносит в протокол осмотра жалобы пациента. Искусственный интеллект анализирует их и предлагает три наиболее вероятных предварительных диагноза. Специалист может выбрать один из предложенных диагнозов или поставить собственный.
Умный помощник врача был зарегистрирован в Росздравнадзоре в качестве медицинского изделия третьего класса потенциального риска — то есть самого высокого.
«Мы должны правильно прописать требования к изучению ИИ, — подчеркнул генеральный директор Центра экспертизы и контроля качества медицинской помощи Минздрава России Виталий Омельяновский, выступая на XI Петербургском Международном юридическом форуме, который проходил с 11 по 13 мая. — Приведу пример с таблетками, потому что этот путь уже пройден. Нам не важно, что сидит внутри таблетки. Если после регистрации она проходит стадию фармакоэкономических исследований и доказывает свою состоятельность, то попадает в Перечень ЖНВЛП».
Решения ИИ должны доказать, что они имеют право быть погруженными в систему обязательного медицинского страхования, уверен эксперт.
Однако таблетку никто не сравнивает с врачом, возразил директор Научно-практического клинического центра диагностики и телемедицинских технологий Департамента здравоохранения г. Москвы Юрий Васильев.
«А какая диагностическая точность доктора? — задал вопрос эксперт. — Все говорят, что у нас врач эталон. А я, простите, скажу вам, что это далеко не так. Мы провели исследование и выяснили, что брать за эталон врача — плохая идея», — считает он.
Медицина — ремесло, и оно не всегда может быть стандартизировано, предостерегла председатель комиссии Мосгордумы по градостроительству, государственной собственности и землепользованию Елена Николаева.
«У нас часто рассуждают, что ИИ заменит врача. Мне хочется раз и навсегда положить конец этим абсурдным разговорам, — заявила она. — Не бывает двух одинаковых пациентов, двух одинаковых клинических проявлений. Более того, двух одинаковых условий проживания. Поэтому, простите за жаргон, тупо применять базовые алгоритмы в здравоохранении категорически нельзя».
К тому же совершенно необходимо четко разграничить зоны ответственности на тот случай, если ИИ даст сбой, не распознает заболевание или поставит неверный диагноз, и это станет причиной ухудшения состояния здоровья пациента.
«Ответственность должны нести разработчики, и лично мое мнение, которое не разделяют многие коллеги, организация, которая проводила клинические и технические испытания. Если мы не можем измерить качество этого продукта, то фактически покупаем кота в мешке», — признал Васильев.
Отвечать должны и врач, и медорганизация, и разработчик, и компания-испытатель, убеждена партнер юридического партнерства «АДАЛИ» Виолетта Кузнецова.
К решениям на базе ИИ для здравоохранения необходимо предъявлять особые требования, они должны быть этичными и безопасными. Поспешное внедрение непроверенных систем может привести к ошибкам медицинских работников, причинить вред пациентам, сказано в майском заявлении Всемирной организации здравоохранения (ВОЗ).
Хотя ВОЗ с энтузиазмом относится к надлежащему использованию технологий для поддержки медицинских работников, пациентов, исследователей и ученых, существует обеспокоенность тем, что осторожность, которая обычно проявлялась бы в отношении любой новой технологии, не соблюдается в случае с ИИ. Речь идет о выполнении таких ключевых требований, как прозрачность, инклюзивность, участие общественности, экспертный надзор и строгая оценка.
Поспешное внедрение непроверенных систем может не только привести к ошибкам медработников, причинить вред пациентам, подорвать доверие к ИИ, но и поставить под вопрос (или отсрочить) использование таких технологий во всем мире и последующие потенциальные долгосрочные преимущества, предостерегает ВОЗ.
Как говорится, тише едешь — дальше будешь. Примечательно, что три из четырех российских врачей считают, что ИИ не сможет заменить их труд в ближайшие десять лет. Это самый высокий показатель среди опрошенных представителей 25 профессий, следует из опроса SuperJob.
Врачи показали самое высокое неверие в возможности замены ИИ сотрудников (для сравнения: среди учителей так ответило 66%, среди архитекторов — 63%, юристов — 55%). Чаще всего признавали скорую возможность замены людей роботами менеджеры по туризму (31%), переводчики (17%) и официанты (12%).
Четверть российских врачей убеждены, что нейросеть возьмет на себя в лучшем случае четверть их обязанностей. Еще каждый шестой (17%) полагает, что ИИ справится лишь с половиной врачебных обязанностей.
Среди пациентов уровень доверия к ИИ также невысок. Три четвертых россиян не хотели бы, чтобы такие технологии заменили врача. И такая консервативность присуща не только жителям нашей страны: свыше половины (60%) американцев тоже были бы недовольны тем, что их доктор полагается на искусственный интеллект в своей работе.
