ВОЗ перечислила риски внедрения ChatGPT в медицину

Новости17 May 2023

Несмотря на то, что искусственный интеллект заметно упрощает работу врачей, он может нанести вред здоровью пациента. И риски сильно возрастают, если ориентироваться только на него, предупреждает Всемирная организация здравоохранения.

По словам экспертов, необходимо тщательно исследовать риски при использовании ChatGPT, Bard, Bert и других платформ. 

«Поспешное внедрение непроверенных систем может привести к ошибкам медицинских работников, причинить вред пациентам, подорвать доверие к ИИ и тем самым отсрочить потенциальные долгосрочные преимущества и использование таких технологий во всем мире», — говорится в официальном заявлении организации. 

В числе рисков ВОЗ назвала следующие факторы: искусственный интеллект могут обучать на основе предвзятых данных, из-за чего он будет генерировать «ложную или неточную информацию, которая может принести ущерб здоровью и инклюзивности», иногда чат-боты генерируют ответы, которые кажутся пользователю достоверными и правдоподобными, но на деле являются совершенно неверными. 

Кроме того, не все чат-боты обучены защищать предоставленную им пользователем чувствительную информацию, в том числе касающуюся его здоровья. Стоит помнить, что чат-боты могут генерировать информацию в форме текста, аудио- и видеоконтента, которая выглядит «очень убедительно», а пользователи не всегда в состоянии отличить обман от достоверных данных.

Эксперты подчеркнули важность «прозрачности, инклюзивности, участия общественности, контроля экспертов и тщательной оценки», прежде чем чат-боты начнут активно применяться в здравоохранении.

Искусственный интеллект уже активно помогает врачам в России. Например, в Москве заработал новый сервис, который распознает рассеянный склероз на магнитно-резонансной томографии головного мозга. Теперь нейросети помогают врачам в поиске признаков рассеянного склероза на лучевых снимках. 

Рассеянный склероз стал 21-й патологией, диагностируемой при помощи нейросетей в лучевой диагностике в медучреждениях столицы.

«Это опасное неврологическое заболевание обычно начинает развиваться в молодом возрасте и со временем может привести к тяжелой инвалидности. Технологии искусственного интеллекта позволят медикам повысить скорость и точность его диагностики на МРТ головного мозга», — прокомментировала Анастасия Ракова, заместитель мэра Москвы по вопросам социального развития.

Google Chrome Firefox Opera