ШІ створює “правову невизначеність” у медицині

Розвиток штучного інтелекту у сфері охорони здоров’я може створити серйозні юридичні труднощі у випадках медичних помилок. Експерти зазначають, що використання ШІ у клінічних системах зростає вибуховими темпами. Водночас, застерігають вони, ефективність і безпечність багатьох таких розробок залишаються недостатньо перевіреними, передає The Guardian.

“Обов’язково будуть випадки, коли щось піде не так, і люди озирнуться навколо, щоб когось звинуватити”, — сказав професор Дерек Ангус з Університету Піттсбурга, провідний автор звіту.

Про це йдеться у звіті, підготовленому групою провідних науковців і юристів після Саміту з питань штучного інтелекту, організованого виданням Journal of the American Medical Association (JAMA). Документ наголошує, що швидке впровадження алгоритмів у медичну практику створює новий рівень складності в юридичних конфліктах.

За словами професора Гарвардської школи права Гленна Коена, пацієнтам може бути важко довести помилки у використанні продуктів ШІ, адже доступ до інформації про внутрішню роботу алгоритмів зазвичай обмежений. Крім того, учасники процесу — лікарі, компанії-розробники та лікарні — можуть перекладати відповідальність один на одного.

“Взаємодія між сторонами також може створювати труднощі для подання позову — вони можуть вказувати одна на одну як на винувату сторону”, — зазначив Коен.

Професорка Стенфордської школи права Мішель Мелло підкреслила, що суди загалом здатні розв’язувати такі питання. Тільки ця процедура потребує часу.

“Ця невизначеність збільшує витрати для всіх в екосистемі інновацій та впровадження штучного інтелекту”, — сказала Мелло.

Автори звіту звертають увагу на ще одну проблему — слабкий нагляд за медичними системами ШІ. Значна частина інструментів залишається поза сферою регулювання таких органів, як Управління з контролю за харчовими продуктами та лікарськими засобами США (Food and Drug Administration, FDA).

“Для клініцистів ефективність означає покращення результатів лікування, але немає гарантії, що регуляторний орган вимагатиме доказів цього”, — наголосив Ангус. Він зазначив, що після випуску інструменти ШІ можуть використовуватися у непередбачуваних умовах і з різним рівнем підготовки користувачів, що підвищує ризики помилок.

У звіті підкреслюється, що нинішні методи оцінки таких технологій є дорогими та складними, а для повноцінного аналізу часто необхідне їхнє практичне застосування. Ангус закликав інвестувати у цифрову інфраструктуру та фінансування незалежних досліджень, щоб забезпечити якісну перевірку ефективності.

“Одним із питань, які обговорювалися під час саміту, було те, що інструменти, які найкраще оцінюються, найменше впроваджуються. Інструменти, які найчастіше впроваджуються, найменше оцінюються”, — підсумував провідний автор звіту.

А дослідниця охорони здоров’я Шарлотта Бліз стверджує, що ШІ має потенціал рятувати більше життів, ніж люди, оскільки він здатний долати проблеми людських помилок, вчинених через перевантаженість чи застаріння знань у медицині. Статистика вказує на те, що діагностичні помилки лікарів є значною проблемою, тоді як ШІ здатний безперервно аналізувати величезні обсяги даних і вже продемонстрував вищу точність у діагностиці рідкісних захворювань, ніж лікарі.