Jak na bezpečnou integraci AI ve zdravotnictví – Transparentnost pro zdravotnické prostředky využívající strojové učení (Díl 2.)

Americký Úřad pro kontrolu potravin a léčiv (FDA), Health Canada a britská Agentura pro regulaci léčiv a zdravotnických výrobků (MHRA) již v roce 2021 společně vytvořily 10 hlavních zásad, které byly podkladem pro vývoj takzvané Správné praxe strojového učení (Good Machine Learning Practice – GMLP). GMLP podporuje vývoj bezpečných, účinných a vysoce kvalitních technologií umělé inteligence/strojového učení, které se mohou učit z reálného používání a v některých případech zlepšovat výkonnost zařízení.

FDA, Health Canada a MHRA v roce 2024 dále rozpracovaly a stanovily hlavní zásady transparentnosti pro zdravotnické prostředky s podporou strojového učení (MLMD – Machine Learning-Enabled Medical Device). Tyto zásady vycházejí ze 7. a 9. zásady GMLP:

• Zásada 7: Je kladen důraz na výkonnost týmu Člověk – umělá inteligence (AI)
• Zásada 9: Uživatelům jsou poskytovány jasné a zásadní informace

Transparentnost popisuje míru, do jaké jsou o MLMD jasně sdělovány informace včetně zamýšleného použití, vývoji, výkonnosti nebo logice příslušným skupinám uživatelů. Mírou vysvětlitelnosti se rozumí, jak lze tuto logiku vysvětlit způsobem, který je pro člověka srozumitelný. Logikou se rozumí informace o tom, jak bylo výstupu nebo výsledku dosaženo. Logika a vysvětlitelnost jsou aspekty efektivní transparentnosti.

Efektivní transparentnost tedy:

• zajišťuje, aby byly sdělovány informace, které by mohly ovlivnit rizika a výsledky pacientů.
• zohledňuje informace, které zamýšlený uživatel nebo publikum potřebuje, a kontext, v němž jsou používány.
• používá nejlepší média, načasování a strategie pro úspěšnou komunikaci,
• se opírá o holistické porozumění uživatelům, prostředím a pracovním postupům.

Dalším důležitým pojmem souvisejícím s transparentností je „human-centered design“ neboli design zaměřený na člověka. Jedná se o iterativní proces, který se zabývá celou uživatelskou zkušeností a zapojuje příslušné strany do celého procesu návrhu a vývoje.

Hlavní zásady pro transparentnost MLMD tedy zohledňují následující:

• Kdo (relevantní publikum)
• Proč (motivace)
• Co (relevantní informace)
• Kde (umístění informací)
• Kdy (načasování)
• Jak (metody používané k podpoře transparentnosti)

Kdo (relevantní publikum)

Relevantní publikum, kterému by měly být informace sdělovány, zahrnuje zdravotnický personál, pacienty, pečovatele, podpůrný personál, administrátory, plátce a řídící orgány.

Proč (motivace)

Transparentnost je klíčová pro péči zaměřenou na pacienta, bezpečnost a účinnost zařízení. Umožňuje identifikaci a hodnocení rizik a přínosů a podporuje bezpečné a efektivní používání zařízení. Transparentní informace také pomáhají odhalit chyby, spravedlivě posuzovat systém a podporovat údržbu a trvalou bezpečnost zařízení. Kromě toho posilují důvěru v technologii a podporují její přijetí.

Co (relevantní informace)

Typ informací, které by měly být sdíleny, se liší podle jednotlivých zařízení a jejich rizik a přínosů. Zahrnuje informace o lékařském účelu a funkci zařízení, stavech, které má řešit, zamýšlených uživatelích a prostředí použití. Dále je důležité vysvětlit, jak zařízení zapadá do pracovního procesu ve zdravotnictví, včetně popisu zamýšlených vstupů a výstupů a jejich vlivu na rozhodování. Informace o vývoji produktu a řízení rizik v průběhu jeho životního cyklu jsou rovněž zásadní, včetně tréninkových a testovacích dat, klinických studií, monitorování výkonu a správy změn.

Kde (umístění informací)

Informace o zařízení by měly být snadno dostupné prostřednictvím uživatelského rozhraní, které zahrnuje školení, fyzické ovládací prvky, displeje, obaly, označení a alarmy. Uživatelské rozhraní by mělo být optimalizováno tak, aby informace byly personalizované a přizpůsobivé, reagující na potřeby uživatelů pomocí různých způsobů, jako je zvuk, video, text, výstrahy a diagramy.

Kdy (načasování)

Načasování komunikace je klíčové v každé fázi životního cyklu výrobku. Podrobné informace o zařízení jsou potřebné při jeho pořízení, zavádění a používání. Včasná oznámení při aktualizaci zařízení nebo při zjištění nových informací mohou být rovněž užitečná.

Jak (metody používané k podpoře transparentnosti)

Metody na podporu transparentnosti zahrnují uplatnění zásad designu zaměřeného na člověka, který je iterativní a zohledňuje celkovou uživatelskou zkušenost. Informace by měly být přístupné a použitelné, což zahrnuje poskytování odpovídající úrovně podrobnosti pro zamýšlené publikum a uspořádání obsahu podle důležitosti. Použití jednoduchého jazyka pro širokou veřejnost a odborného jazyka pro klinické uživatele zajišťuje srozumitelnost a použitelnost informací.

Tyto hlavní zásady transparentnosti jsou shrnuty v tabulce 1.