Искусственный интеллект в медицине: проблемы контроля и безопасности

Ученые из Колумбийского университета говорят, что искусственный интеллект (ИИ) в медицине развивается очень быстро, но его еще не проверяют и не контролируют должным образом. Это может быть опасно для пациентов.

ИИ-помощники, которые сейчас используются в трети больниц, записывают разговоры врачей с пациентами и помогают врачам меньше времени тратить на бумажную работу. Но ученые Максим Топаз, Чжихун Чжан и Лаура Мария Пелтонен предупреждают, что такие системы пока не проверены и могут ошибаться.

Они говорят, что ИИ хуже понимает речь темнокожих людей и тех, кто плохо говорит по-английски. Это может привести к тому, что врачи будут хуже понимать жалобы таких пациентов и пропускать важную информацию, которая нужна для лечения.

Сейчас ИИ-помощники не считаются медицинскими устройствами, поэтому их не проверяют специальные органы, как, например, Управление по санитарному надзору за качеством продуктов и лекарств.

Ученые предлагают несколько способов, как сделать использование ИИ безопасным для пациентов. Например, проверять такие системы, чтобы они работали правильно, и защищать права пациентов и врачей. Они считают, что важно не просто использовать ИИ, а делать это правильно, чтобы все работали честно и эффективно.