Текст: Дмитрий Родионов Фото: freepik.com В медицине теперь зачастую к постановке диагноза и лечению привлекают искусственный интеллект. С одной стороны, это облегчает задачу врачам, а также пациентам, нередко занимающимся самолечением. Однако для медиков это несет риски потери навыков и клинического мышления, а также утраты автономии. Происходит подмена доверия к врачу лояльностью к непрозрачному алгоритму, а ошибки искусственного интеллекта пока трудно поддаются анализу. Причем соблазн заменить врача роботом весьма велик, особенно на фоне нарастающего дефицита медиков в сельской местности. Об этом говорилось на онлайн-конференции «Социокультурные измерения здоровья, болезни и медицины», организованной НИУ «Высшая школа экономики». «Более половины российских врачей готовы доверять рекомендациям искусственного интеллекта при постановке диагнозов и выборе способа лечения, однако лишь 7,2% хотели бы оказаться в такой ситуации на месте пациента», — такие данные показал опрос «Справочника врача», результаты которого приводит «Коммерсант». В медицинском сообществе ждут четкого разъяснения, будет ли врач нести ответственность за последствия советов ИИ. Вкалывают роботы Сегодня роботы, вернее искусственный интеллект, помогают врачам в постановке диагнозов различными способами, значительно повышая точность, скорость и эффективность работы. Он обрабатывает рентгеновские снимки, МРТ, КТ и ультразвуковые изображения. Обнаруживает аномалии (например, опухоли, повреждения, инсульты) более точно и быстро, чем человек. Анализирует электронные медицинские карты, лабораторные результаты и симптомы. Также помогает определить вероятные диагнозы или рекомендации по дальнейшим обследованиям. Между тем на прошедшей научной конференции НИУ ВШЭ по цифровой трансформации в медицине ученые и медики обсудили риски, которые несет собой ускоренное внедрение нейросетей в медицину. Докладчики отметили: ИИ — это лишь помощь, но не замена врача. Ведь в конечном итоге основное решение должен принимать специалист, который просто использует нейросеть, а не делегирует ей принятие решения. Когда чат-бот «галлюцинирует» «Проблема в том, что искусственный интеллект может «галлюцинировать», выдавая откровенно ложную и опасную информацию. Так, больные с расстройством пищевого поведения нередко используют чаты с искусственным интеллектом для похудения. Однако один из чат-ботов Теssa давал откровенно вредные советы, например употреблять всего лишь 1000 ккал в день (что убийственно для организма) и … регулярно измерять толщину жировых складок на животе», — рассказала участникам конференции Елена Введенская из Пироговского университета. Есть примеры и более тяжелых случаев, когда нейросеть DeepSeek советовала пациенту вместо солевого раствора употреблять бром, что закончилось реанимацией. ИИ также не обладает практической мудростью, интуицией и способностью работать в условиях неопределенности, как это может делать опытный врач. При этом невозможно понять, как нейросеть пришла к этому решению. И если рекомендации искусственного интеллекта ошибочны, то абсолютно невозможно выявить причину ошибки. Три направления При этом само по себе использование нейросети в медицине несет большие перспективы. Описывается, например, случай, когда больной три года мучился от того, что ему не могли поставить точный диагноз. Чат-бот поставил его за три часа, диагноз верный и довольно редкий. Правильность его потом подтвердили 17 врачей. — В Бурятии пока официальная медицина использует ИИ по диагностике болезней по трем основным направлениям, — сообщил директор ГБУЗ «Республиканский медицинский информационно-аналитический центр Министерства здравоохранения РБ» Жаргал Махачкеев. — Это прежде всего маммография. Все цифровые изображения по данному виду исследований направляются на обработку медицинским изделием с искусственным интеллектом, задачи которого — определить наличие патологий в направленных изображениях и сформировать заключение с установленной оценкой по шкале BI-RADS. Далее рентгенография легких. Также все цифровые изображения по данному виду исследований направляются на обработку медицинским изделием с искусственным интеллектом. При обработке в том числе определяется наличие патологий в направленных изображениях и формируется заключение по ним. Определяются различные затемнения и очаги (выпот, пневмоторакс, петрификаты и др.), а также переломы ребер. Результаты обработки этих двух медицинских изделий с искусственным интеллектом врачи-рентгенологи видят в Центральном архиве медицинских изображений, и на их основании формируют свои выводы. И, наконец, третье. Оценка рисков здоровья на основе медицинских данных. В данном случае формируемые врачами медицинские документы направляются на анализ искусственному интеллекту, по результатам которого для пациента выстраивается профиль его рисков здоровья по различным направлениям (кардиология, эндокринология, наркология и др.), указываются причины указания высокой оценки риска и рекомендации как для врача, так и для пациента. Затем врачи из интерфейса медицинской информационной системы могут просматривать данный профиль, чтобы более качественно назначить лечение для пациента, — отмечает Жаргал Махачкеев. Таким образом, пока использование ИИ в Бурятии идет достаточно консервативно и осторожно. Диагноз по фото Чего нельзя сказать о населении. Люди все больше доверяют искусственному интеллекту, прежде всего в диагностике и самолечении. Ведь ИИ нередко генерирует подсказки и рекомендации, основанные на лучших практиках и научной литературе. Например, в дерматологии все чаще люди отправляют в чат-боты фотографии своих кожных новообразований, родинок, в том числе с интимных зон. Хотя дерматологи знают: диагноз по фото может быть ошибочным, поскольку специалисты рассматривают и диагностируют кожные заболевания при особом, рассеянном свете и под углом. Никакая фотография не передает то, что врач-дерматолог видит своим взглядом. При этом остается невыясненным вопрос о цифровой безопасности подобных фотографий: где они в итоге могут оказаться — никто не знает. Клиентов продадут Можно предположить, что продажа персональных данных людей — тех, кто обратился к нейросети, может скоро стать реальностью. ИИ-провайдеры, скорее всего, пойдут по пути продажи личных данных, разного рода переживаний, которым люди делятся с чат-ботами. Купить эти данные желающие найдутся, поскольку это ведь не случайные поисковые запросы и не болтовня в соцсетях. Основная часть людей, беседующих с чат-ботами на медицинские темы, делятся весьма конфиденциальной информацией, а значит, точной. ИИ-провайдеры увидят ваши предпочтения. И чат-боты точно будут знать гораздо больше о клиентах, чем соцсети и поисковики, а значит, интернет — реклама частных клиник и фарминдустрии — точно пойдет по адресу, навязывая покупки. Возвращаясь к теме постановки диагнозов нейросетью, стоит отметить, что OpenAI, к примеру, уже пересмотрела политику использования ChatGPT и добавила в список запрещенных сценариев для своей нейросети не только юридические, но и медицинские услуги. Теперь чат-боту запрещено анализировать результаты анализов, ставить диагнозы по фотографиям, назначать лечение и проводить аудит договоров. Тем временем подписчики в социальных сетях отмечают, что медицинские советы от искусственного интеллекта часто помогали обнаружить признаки болезни на ранних стадиях и вовремя обратиться к врачу. И это самый безопасный вариант, если ИИ что-то увидит и посоветует обратиться к специалисту. Однако человек может заняться и самолечением. К этому, кстати, приводит и коммерциализация медицины, когда очереди на бесплатные исследования часто затягиваются на месяцы, а обследования в частной медицине нередко дорогие. В результате на помощь приходит нейросеть. Особенно эта проблема актуальна в районах республики, где ощущается нехватка квалифицированных специалистов узкого профиля. И пока существует кадровый вакуум, пустота будет заполняться роботами. Теги Source: https://gazeta-n1.ru/news/society/154967/