Искусственный интеллект в ветеринарии: каковы этические и юридические последствия?
05.10.2023
Эксперты обсуждают потенциальные возможности использования и недостатки этой новой технологии в области ветеринарной радиологии.
Искусственный интеллект (ИИ) и машинное обучение, тип ИИ, включающий глубокое обучение, который производит данные с несколькими уровнями абстракции, являются новыми технологиями, которые потенциально могут изменить то, как практикуется ветеринарная медицина. Они были разработаны, чтобы помочь улучшить прогностическую аналитику и диагностические показатели, тем самым поддерживая принятие решений при анализе медицинских изображений практикующими врачами. Но в отличие от медицины человека, для ветеринарной медицины не требуется предпродажный скрининг инструментов искусственного интеллекта.
Это поднимает важные этические и юридические соображения, особенно когда речь идет о состояниях с плохим прогнозом, когда такие интерпретации могут привести к принятию решения об эвтаназии, и делает еще более важным для ветеринарной профессии разработку наилучших методов защиты медицинских бригад, пациентов и клиентов.
Так считает доктор Эли Коэн, клинический профессор диагностической визуализации в Государственном колледже ветеринарной медицины Северной Каролины. Он представил вебинар "Не навреди: этические и юридические последствия искусственного интеллекта", который дебютировал в конце августа на AVMA Axon, платформе цифрового образования AVMA.
Во время презентации он исследовал потенциал искусственного интеллекта для повышения эффективности и точности в радиологии, но также признал его недостатки и риски.
Потенциальные применения
Использование искусственного интеллекта в практике клинической диагностики будет продолжать расширяться, главным образом потому, что большая часть данных — рентгенограммы, ультразвук, КТ, МРТ и ядерная медицина — и соответствующие им отчеты находятся в цифровой форме, согласно статье Currents in One Health, опубликованной в JAVMA в мае 2022 года.
Доктор Райан Эпплби, доцент Ветеринарного колледжа Университета Гвельфа в провинции Онтарио, автор статьи, сказал, что искусственный интеллект может оказать большую помощь в ускорении выполнения задач.
Например, ИИ можно использовать для автоматического поворота или позиционирования цифровых рентгенограмм, составления протоколов подвешивания — которые представляют собой инструкции о том, как расположить изображения для оптимального просмотра, — или вызова шаблонов отчетов на основе частей тела, включенных в исследование.
В более общем плане ИИ может упорядочивать рабочие процессы, делая первый заход в различные исследования визуализации, и отдавать приоритет более критичным пациентам в начале очереди, сказал доктор Эпплби, который является председателем Комитета по искусственному интеллекту Американского колледжа ветеринарной радиологии (ACVR).
Тем не менее, когда дело доходит до интерпретации рентгенограмм, ИИ должен не только выявлять распространенные случаи заболевания, но и выявлять пограничные случаи, чтобы гарантировать точность лечения пациентов и сделать его полезным.
"Как специалист, я нахожусь там в течение определенного периода времени, когда происходит что-то необычное", - сказал доктор Коэн, который является совладельцем Dragonfly Imaging, телерадиологической компании, где он работает рентгенологом. "Хотя ИИ будет совершенствоваться, он не идеален. Мы должны иметь возможность устранять неполадки в нем, когда он не работает должным образом".
Проблемы, связанные с искусственным интеллектом
Разработчики медицинских устройств должны получить одобрение Управления по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA) на свои устройства и разрешение продавать свой продукт в США Медицинские устройства с искусственным интеллектом и машинным обучением для людей классифицируются FDA как медицинские устройства.
Однако компании, разрабатывающие медицинские устройства для животных, не обязаны проходить предпродажный скрининг, в отличие от компаний, разрабатывающих устройства для людей. ACVR выразила обеспокоенность по поводу отсутствия надзора за программным обеспечением, используемым для считывания рентгенограмм.
"Логично, что если FDA предоставляет рекомендации и осуществляет надзор за медицинскими устройствами, используемыми на людях, то аналогичные меры должны быть приняты и в отношении ветеринарных медицинских устройств, чтобы помочь защитить наших домашних животных", - сказал доктор Тод Дрост, исполнительный директор Американского колледжа ветеринарной радиологии. "Цель состоит не в том, чтобы подавить инновации, а в том, чтобы иметь нейтральную третью сторону, которая обеспечивала бы сдерживание и противовесы развитию этих новых технологий".
Для обучения алгоритмам машинного обучения необходимы огромные объемы данных, а обучающие изображения необходимо аннотировать вручную. Из-за отсутствия регулирования для разработчиков ИИ и компаний компании не обязаны предоставлять информацию о том, как их сотрудники обучали или проверяли свою продукцию. Многие из этих алгоритмов часто называют работающими в "черном ящике".
"Это поднимает довольно важные этические соображения, если мы используем их для постановки диагноза и проведения лечения", - сказал доктор Коэн.
Поскольку у ИИ нет совести, сказал он, те, кто разрабатывает и использует ИИ, должны иметь совесть и не могут позволить себе быть равнодушными. "ИИ может быть умным, но это не значит, что он этичен", - сказал он.
В случае медицины "черного ящика" "не существует эксперта, который мог бы предоставить практикующим врачам полезные причинно-следственные или механистические объяснения внутренних процедур принятия решений системами", согласно исследованию, опубликованному 14 июля 2022 года в журнале Frontiers.
Доктор Коэн говорит: "Поскольку мы внедряем искусственный интеллект и внедряем его в ветеринарию разумным и преднамеренным образом, новой наилучшей практикой в идеале было бы совместное использование человеческого опыта и искусственного интеллекта, а не замена людей искусственным интеллектом".
Он предложил привлечь эксперта по предметной области ко всем этапам ИИ — от разработки продукта, валидации и тестирования до клинического применения, оценки ошибок и надзора за этими продуктами.
Консенсус множества ведущих радиологических обществ, включая Американский колледж радиологии и Общество информатики визуализации в медицине, заключается в том, что этичное использование ИИ в радиологии должно способствовать благополучию и минимизировать вред.
"Важно, чтобы ветеринарные специалисты играли активную роль в повышении безопасности медицины, поскольку использование искусственного интеллекта становится все более распространенным. Мы надеемся, что ветеринары узнают о сильных и слабых сторонах этого нового диагностического инструмента, изучив текущую литературу и посетив презентации для повышения квалификации ", - сказал доктор Эпплби.
Другие соображения
Доктор Коэн рекомендует ветеринарам получить согласие владельца, прежде чем использовать искусственный интеллект при принятии решений, особенно если дело связано с консультацией или направлением. И в процессе принятия решений практикующим врачам следует проявлять бдительность в отношении ИИ, ставящего диагноз, который усугубляет человеческие и когнитивные предубеждения.
"Мы должны быть абсолютно уверены, что, когда мы решаем принять это решение, оно максимально обосновано и указано", - сказал доктор Коэн.
Согласно 2022 ветеринарной рентгенологии и ультразвуковой статьи , написанные доктором Коэном, если не внимательно следить, ИИ имеет потенциал, чтобы причинить вред. Например, продукт искусственного интеллекта может поставить ложноположительный диагноз, что приведет к проведению тестов или вмешательств, или привести к ложноотрицательным результатам, что, возможно, задержит диагностику и лечение. Он также может быть применен к неподходящим наборам данных или популяциям, таким как применение алгоритма к ультразвуковому исследованию лошади, который собирал информацию о случаях заболевания мелких животных.
Он добавил, что ветеринарным специалистам необходимо подумать, этично ли перекладывать ответственность на врачей общей практики, ветеринаров скорой помощи или специалистов, не занимающихся визуализацией, которые используют продукт, точность которого не опубликована или иным образом известна.
"Как нам обеспечить надлежащий надзор для защиты наших коллег, наших пациентов и наших клиентов, а также убедиться, что мы не спим за рулем, когда внедряем эту новую технологию и применяем ее ответственно?" - спросил доктор Коэн.
Источник: Veterinary Digest\
www.avma.org
Искусственный интеллект (ИИ) и машинное обучение, тип ИИ, включающий глубокое обучение, который производит данные с несколькими уровнями абстракции, являются новыми технологиями, которые потенциально могут изменить то, как практикуется ветеринарная медицина. Они были разработаны, чтобы помочь улучшить прогностическую аналитику и диагностические показатели, тем самым поддерживая принятие решений при анализе медицинских изображений практикующими врачами. Но в отличие от медицины человека, для ветеринарной медицины не требуется предпродажный скрининг инструментов искусственного интеллекта.
Это поднимает важные этические и юридические соображения, особенно когда речь идет о состояниях с плохим прогнозом, когда такие интерпретации могут привести к принятию решения об эвтаназии, и делает еще более важным для ветеринарной профессии разработку наилучших методов защиты медицинских бригад, пациентов и клиентов.
Так считает доктор Эли Коэн, клинический профессор диагностической визуализации в Государственном колледже ветеринарной медицины Северной Каролины. Он представил вебинар "Не навреди: этические и юридические последствия искусственного интеллекта", который дебютировал в конце августа на AVMA Axon, платформе цифрового образования AVMA.
Во время презентации он исследовал потенциал искусственного интеллекта для повышения эффективности и точности в радиологии, но также признал его недостатки и риски.
Потенциальные применения
Использование искусственного интеллекта в практике клинической диагностики будет продолжать расширяться, главным образом потому, что большая часть данных — рентгенограммы, ультразвук, КТ, МРТ и ядерная медицина — и соответствующие им отчеты находятся в цифровой форме, согласно статье Currents in One Health, опубликованной в JAVMA в мае 2022 года.
Доктор Райан Эпплби, доцент Ветеринарного колледжа Университета Гвельфа в провинции Онтарио, автор статьи, сказал, что искусственный интеллект может оказать большую помощь в ускорении выполнения задач.
Например, ИИ можно использовать для автоматического поворота или позиционирования цифровых рентгенограмм, составления протоколов подвешивания — которые представляют собой инструкции о том, как расположить изображения для оптимального просмотра, — или вызова шаблонов отчетов на основе частей тела, включенных в исследование.
В более общем плане ИИ может упорядочивать рабочие процессы, делая первый заход в различные исследования визуализации, и отдавать приоритет более критичным пациентам в начале очереди, сказал доктор Эпплби, который является председателем Комитета по искусственному интеллекту Американского колледжа ветеринарной радиологии (ACVR).
Тем не менее, когда дело доходит до интерпретации рентгенограмм, ИИ должен не только выявлять распространенные случаи заболевания, но и выявлять пограничные случаи, чтобы гарантировать точность лечения пациентов и сделать его полезным.
"Как специалист, я нахожусь там в течение определенного периода времени, когда происходит что-то необычное", - сказал доктор Коэн, который является совладельцем Dragonfly Imaging, телерадиологической компании, где он работает рентгенологом. "Хотя ИИ будет совершенствоваться, он не идеален. Мы должны иметь возможность устранять неполадки в нем, когда он не работает должным образом".
Проблемы, связанные с искусственным интеллектом
Разработчики медицинских устройств должны получить одобрение Управления по санитарному надзору за качеством пищевых продуктов и медикаментов (FDA) на свои устройства и разрешение продавать свой продукт в США Медицинские устройства с искусственным интеллектом и машинным обучением для людей классифицируются FDA как медицинские устройства.
Однако компании, разрабатывающие медицинские устройства для животных, не обязаны проходить предпродажный скрининг, в отличие от компаний, разрабатывающих устройства для людей. ACVR выразила обеспокоенность по поводу отсутствия надзора за программным обеспечением, используемым для считывания рентгенограмм.
"Логично, что если FDA предоставляет рекомендации и осуществляет надзор за медицинскими устройствами, используемыми на людях, то аналогичные меры должны быть приняты и в отношении ветеринарных медицинских устройств, чтобы помочь защитить наших домашних животных", - сказал доктор Тод Дрост, исполнительный директор Американского колледжа ветеринарной радиологии. "Цель состоит не в том, чтобы подавить инновации, а в том, чтобы иметь нейтральную третью сторону, которая обеспечивала бы сдерживание и противовесы развитию этих новых технологий".
Для обучения алгоритмам машинного обучения необходимы огромные объемы данных, а обучающие изображения необходимо аннотировать вручную. Из-за отсутствия регулирования для разработчиков ИИ и компаний компании не обязаны предоставлять информацию о том, как их сотрудники обучали или проверяли свою продукцию. Многие из этих алгоритмов часто называют работающими в "черном ящике".
"Это поднимает довольно важные этические соображения, если мы используем их для постановки диагноза и проведения лечения", - сказал доктор Коэн.
Поскольку у ИИ нет совести, сказал он, те, кто разрабатывает и использует ИИ, должны иметь совесть и не могут позволить себе быть равнодушными. "ИИ может быть умным, но это не значит, что он этичен", - сказал он.
В случае медицины "черного ящика" "не существует эксперта, который мог бы предоставить практикующим врачам полезные причинно-следственные или механистические объяснения внутренних процедур принятия решений системами", согласно исследованию, опубликованному 14 июля 2022 года в журнале Frontiers.
Доктор Коэн говорит: "Поскольку мы внедряем искусственный интеллект и внедряем его в ветеринарию разумным и преднамеренным образом, новой наилучшей практикой в идеале было бы совместное использование человеческого опыта и искусственного интеллекта, а не замена людей искусственным интеллектом".
Он предложил привлечь эксперта по предметной области ко всем этапам ИИ — от разработки продукта, валидации и тестирования до клинического применения, оценки ошибок и надзора за этими продуктами.
Консенсус множества ведущих радиологических обществ, включая Американский колледж радиологии и Общество информатики визуализации в медицине, заключается в том, что этичное использование ИИ в радиологии должно способствовать благополучию и минимизировать вред.
"Важно, чтобы ветеринарные специалисты играли активную роль в повышении безопасности медицины, поскольку использование искусственного интеллекта становится все более распространенным. Мы надеемся, что ветеринары узнают о сильных и слабых сторонах этого нового диагностического инструмента, изучив текущую литературу и посетив презентации для повышения квалификации ", - сказал доктор Эпплби.
Другие соображения
Доктор Коэн рекомендует ветеринарам получить согласие владельца, прежде чем использовать искусственный интеллект при принятии решений, особенно если дело связано с консультацией или направлением. И в процессе принятия решений практикующим врачам следует проявлять бдительность в отношении ИИ, ставящего диагноз, который усугубляет человеческие и когнитивные предубеждения.
"Мы должны быть абсолютно уверены, что, когда мы решаем принять это решение, оно максимально обосновано и указано", - сказал доктор Коэн.
Согласно 2022 ветеринарной рентгенологии и ультразвуковой статьи , написанные доктором Коэном, если не внимательно следить, ИИ имеет потенциал, чтобы причинить вред. Например, продукт искусственного интеллекта может поставить ложноположительный диагноз, что приведет к проведению тестов или вмешательств, или привести к ложноотрицательным результатам, что, возможно, задержит диагностику и лечение. Он также может быть применен к неподходящим наборам данных или популяциям, таким как применение алгоритма к ультразвуковому исследованию лошади, который собирал информацию о случаях заболевания мелких животных.
Он добавил, что ветеринарным специалистам необходимо подумать, этично ли перекладывать ответственность на врачей общей практики, ветеринаров скорой помощи или специалистов, не занимающихся визуализацией, которые используют продукт, точность которого не опубликована или иным образом известна.
"Как нам обеспечить надлежащий надзор для защиты наших коллег, наших пациентов и наших клиентов, а также убедиться, что мы не спим за рулем, когда внедряем эту новую технологию и применяем ее ответственно?" - спросил доктор Коэн.
Источник: Veterinary Digest\
www.avma.org
