С расширением внедрения искусственного интеллекта в медицинское оборудование растет число сообщений о хирургических ошибках или ошибках при распознавании анализов пациентов, где была использована технология. Об этом пишет Reuters.
В 2021 году компания Acclarent представила навигационную систему TruDi, в которую был внедрен обучаемый ИИ.
В период с конца 2021 года по ноябрь 2025 года появилось как минимум десять сообщений о травмах пациентов из-за ошибок хирургов, получивших неверную информацию от TruDi во время операций.
Ошибки привели к нескольким случаям повреждений крупных артерий, а также к вытеканию ликвора (спинномозговой жидкости) у одного из пациентов, которому врач по ошибке проколол череп, пишет Reuters, исследовавший иски пациентов и отчетыагентства FDA (Управление по санитарному надзору за качеством пищевых продуктов и медикаментов подчиняется Минздраву США), занимающегося сертификацией медицинских технологий. Два человека в Техасе подали иски, утверждая, что использование ИИ в системе TruDi «способствовало получению их травм».
В компании Integra LifeSciences, которой принадлежит Acclarent и система TruDi, в ответ на запрос Reuters заявили, что отчеты FDA «лишь указывают на то, что система TruDi использовалась во время операции, в результате которой произошел нежелательный инцидент». «Нет никаких достоверных доказательств причинно-следственной связи между навигационной системой TruDi, технологией искусственного интеллекта и любыми предполагаемыми травмами», — заявила пресс-служба Integra LifeSciences. Само управление FDA предупреждает, что отчеты, которые оно публикует, часто содержат неполную информацию, редактируются в целях защиты коммерческой или медицинской тайны и не позволяют напрямую установить ответственность за ошибку, пишет Reuters.
Так, в FDA с 2021 года по октябрь 2025-го получили не менее 1,4 тыс. отчетов о проблемах с медицинскими устройствами с ИИ, включенных в реестр управления.
В 115 случаях упоминались проблемы с программным обеспечением или алгоритмами. В одном из сообщений FDA от июня 2025 года вовсе говорилось, что система ИИ, применяемая при пренатальном ультразвуковом исследовании, некорректно распознавала части тела плода.
FDA с трудом справляется с потоком медицинских устройств с использованием ИИ, претендующих на одобрение, после потери ключевых сотрудников, заявили пять действующих и ушедших ученых управления Reuters. После возвращения в Белый дом Дональда Трампа в 2025 году группа по изучению ИИ в управлении была расформирована в рамках программы сокращения расходов. 15 из 40 ученых, занимавшихся вопросами использования ИИ в медицине, ушли из FDA, рассказали источники в ведомстве. По словам двух бывших сотрудников, нагрузка некоторых экспертов при проверке медицинских изделий в управлении увеличилась почти вдвое.
Кроме того, для одобрения новых медицинских устройств, в которые был внедрен ИИ, не нужно проводить тесты на пациентах, в отличие от проверки медикаментов.
Для получения разрешения от управления производители ссылаются на предыдущее одобрение, выданное компании на это же устройство, в котором прежде не использовался ИИ, объяснил преподаватель медицинской школы Университета Вашингтона в Сент-Луисе Александр Эверхарт.
По его словам, представление новых устройств как обновлений существующих — это давно устоявшаяся практика. «Я думаю, что традиционный подход FDA к регулированию оборота медицинских изделий не справляется с задачей обеспечения безопасности и эффективности технологий, использующих искусственный интеллект», — сказал Эверхарт.
