Ministerstvo zdravotnictví ve spolupráci s Národním centrem elektronického zdravotnictví (NCEZ) vydalo nový Metodický pokyn pro poskytovatele zdravotních služeb k využívání umělé inteligence. Cílem je poskytnout zdravotníkům praktická doporučení pro zapojení umělé inteligence do každodenní praxe. Zároveň má Metodický pokyn nastavit etická pravidla pro bezpečné a odpovědné využívání AI.
Koho se nový pokyn týká?
Pokyn je určen všem poskytovatelům zdravotních služeb a jejich zaměstnancům. Rovněž externím pracovníkům a studentům na praxích v nemocnicích a jiných zdravotních zařízeních, kteří využívají umělou inteligenci při své práci.
Jaké systémy umělé inteligence mohou zdravotníci využít?
Zdravotníci by se měli vyhnout všem systémům umělé inteligence, které mohou sloužit k manipulaci či zneužití dat. Zejména je zakázáno, aby systémy hodnotily nebo klasifikovaly fyzické osoby na základě např. sociálního chování, biometrických znaků, politických názorů, náboženského vyznání či jiných diskriminačních znaků.
Jaká pravidla pokyn zavádí?
Pokyn sice nepředepisuje závazná pravidla. Přesto nabízí soubor doporučení, která mají zdravotníkům pomoci bezpečně a efektivně začlenit umělou inteligenci do každodenní klinické praxe. O jaká doporučení se jedná?
Transparentnost
Základním principem je transparentní komunikace. Zdravotníci musí informovat pacienty i své kolegy, kdy a jak je umělá inteligence využívána při poskytování zdravotní péče, a zároveň vysvětlit její možné limity a rizika. Přičemž každé rozhodnutí či postup, na kterém se umělá inteligence podílí, by mělo být jasně označeno v protokolu pro zpětnou dohledatelnost a audit.
Odpovědnost
Jedním z hlavních rizik umělé inteligence je její nespolehlivost. Proto by zdravotníci měli kriticky ověřovat veškeré výstupy, které umělá inteligence vygeneruje, a využívat je pouze jako podpůrný nástroj, nikoliv jako primární zdroj svého rozhodování bez dalšího. Konečná odpovědnost za použití výstupů vždy zůstává na odborníkovi. Obecně se doporučuje zavést mechanismy pro pravidelnou kontrolu výstupů a minimálně jednou ročně školit zaměstnance o principu fungování umělé inteligence a pravidlech k jejímu používání nastavených daným zdravotnickým zařízením.
Ochrana osobních údajů
Je nutné zajistit, aby citlivá data nebyla nikdy zadávána do neověřených či nedůvěryhodných cloudových služeb nebo systémů umělé inteligence. Proto by měly být využívány pouze systémy schválené zdravotnickým zařízením. Dále se klade důraz na minimalizaci objemu osobních údajů vkládaných do umělé inteligence. V případě, že nebude možné se vyhnout použití osobních údajů, měly by být zpracovávány jen ty údaje, které jsou nezbytné pro splnění konkrétního úkolu.
Zabezpečení
Každý uživatel systému by měl navíc dbát na bezpečné uchovávání svých přihlašovacích údajů. Je nezbytné, aby tyto údaje nebyly nikdy sdíleny s třetími stranami, čímž se snižuje riziko neoprávněného přístupu a případného úniku dat. Opatření jako dvoufaktorové ověřování, pravidelná změna hesel a kontrola přístupových práv patří mezi doporučené mechanismy, které výrazně zvyšují bezpečnost při práci s umělou inteligencí ve zdravotnictví.
Kyberbezpečnost
Na závěr mají nemocnice zavést robustní mechanismy hlášení jakýchkoli chyb a událostí, které by mohly ohrozit bezpečnost dat, vést ke zneužití informací nebo jinému porušení pravidel práce s umělou inteligencí. Na základě těchto hlášení by měla být stanovena jasná pravidla a sankce pro případy porušení povinností ze strany zdravotníků.
Úplné znění metodického pokynu naleznete na stránkách Ministerstva zdravotnictví.
V případě potřeby nebo jakýchkoliv dotazů jsme Vám připraveni pomoct.
Další články autorky: