18.08.2026 119

Эксперты предупредили о рисках применения ИИ в медицине

С 1 сентября 2026 года вступает в силу Федеральный закон от 26.07.2026 № 243-ФЗ "О поддержке развития технологий искусственного интеллекта в Российской Федерации". Документ впервые на законодательном уровне закрепляет понятия "искусственный интеллект", "большая фундаментальная модель ИИ (БФМ)", "суверенная БФМ" и "национальная БФМ". "РГ" обсудила с экспертами перспективы применения нового закона в конкретной, очень чувствительной области - здравоохранении и медицине, и выяснила: активное внедрение ИИ в медицину требует не только законодательного регулирования, но и строгого контроля за безопасностью.

"Закон носит рамочный характер, главные его позиции касаются обеспечения стратегического развития БФМ, требований к их созданию и применению, предотвращению рисков, связанных с их внедрением. Например, весь технологический цикл производства и использования суверенных БФМ должен происходить в России, так как они будут применяться в отраслях, где критически важны безопасность данных и независимость от зарубежных облачных платформ. Это касается, например, оборонных отраслей и банковского дела. При создании национальных БФМ можно частично использовать и дообучать зарубежные открытые модели, однако вся инфраструктура должна находиться в России. На основе этого закона соответствующими министерствами и ведомствами будут разрабатываться подзаконные акты, которые подробно раскроют положения закона", - рассказала "РГ" ректор Высшей школы организации и управления здравоохранением (ВШОУЗ), доктор медицинских наук Гузель Улумбекова.

При этом эксперты продолжают активно обсуждать особенности применения ИИ в медицине и здравоохранении. "Актуальность этой дискуссии сложно переоценить, - подчеркивает Улумбекова. - Стремительное развитие медицинских технологий на основе ИИ, рост использования больших языковых моделей для постановки диагноза и лечения как врачами, так и населением требуют поиска оптимального баланса между практической пользой и безопасностью ИИ для государства, врачей и пациентов".

По словам эксперта, масштаб проблемы нельзя недооценивать. "Согласно опросу Американской медицинской ассоциации, проведенному в марте 2026 года, уже более 80% врачей в США используют различные ИИ-сервисы (рост в два раза по сравнению с 2023 годом)", - приводит статистику профессор Улумбекова. Но еще больше специалистов тревожит, что лавинообразно развивается использование ИИ-моделей обычными людьми, не имеющими специальных знаний и медицинского образования, ведь неподготовленные пользователи не в состоянии объективно оценить качество советов, полученных от "цифрового доктора".

"В странах ЕС для личных целей, в том числе медицинских, ИИ используют уже 45% населения в возрасте 16-24 лет и 25% в возрасте 16-74 лет. При этом приходится констатировать, что процесс консультаций населения по медицинским вопросам с большими языковыми моделями происходит бесконтрольно", - предупреждает эксперт.

На одной из сессий ПМЭФ-2026 Улумбекова рассказала о любопытном эксперименте, который наглядно показал риски бездумного использования языковых моделей: "Мы придумали несуществующий диагноз и предложили "вылечить" его нескольким моделям ИИ. DeepSeek и ChatGPT поддались со второго раза. Они начали с полной уверенностью лечить диагноз, которого нет в медицине".

По ее мнению, для того чтобы избежать рисков здоровью пациентов, большие фундаментальные модели ИИ (БФМ) должны быть дообучены на достоверных медицинских данных. "За поиском ответов необходимо обращаться только к доверенным и постоянно обновляемым базам медицинских знаний, которые должны регулярно оцениваться на безопасность и эффективность", - считает Гузель Улумбекова.

Источник : Ссылка

Другие публикации в этой рубрике: PROздоровье

Для размещения Вашей информации на портале воспользуйтесь системой "Паблик МЕДАРГО"