Evropa posouvá náběh pravidel pro vysoce rizikovou umělou inteligenci. Nemocnice, výrobci zdravotnického softwaru i dodavatelé AI nástrojů tím získávají čas, aby si ujasnili účel systémů, odpovědnost, dokumentaci, lidský dohled a bezpečné zapojení do péče. Pro zdravotnictví to není výjimka z regulace, ale začátek přípravného období.
Evropa nemění pravidla, ale tempo
Konkrétně jde o předběžnou dohodu Rady EU a Evropského parlamentu ze 7. května 2026 k úpravám AI Actu v rámci balíčku Digital Omnibus. Cílem je zjednodušit digitální regulaci a snížit administrativní zátěž. V praxi jde především o posun harmonogramu pro vysoce rizikové systémy umělé inteligence.
U samostatných vysoce rizikových AI systémů se má plný režim uplatňovat od 2. prosince 2027. U vysoce rizikových systémů zabudovaných do regulovaných produktů má být rozhodným datem 2. srpen 2028.
Komise tím reaguje na praktický problém. Povinnosti se mají naplno uplatňovat až ve chvíli, kdy budou dostupné standardy, metodiky a nástroje pro jednotné uplatnění. Evropa tak nechce spustit pravidla dříve, než bude jasné, jak je mají firmy, nemocnice a veřejné instituce v praxi splnit.
Ve zdravotnictví je riziko konkrétní
Pojem vysoce riziková AI má ve zdravotnictví velmi praktický význam. Umělá inteligence zde může hodnotit snímky, upozorňovat na zhoršení stavu pacienta, podporovat klinické rozhodování nebo vstupovat do komunikace s pacientem.
Proto se nebude posuzovat pouze výkon a rychlost. Stejně důležitá bude bezpečnost, kvalita dat, srozumitelnost výstupů a možnost lidské kontroly. Čím větší dopad může mít systém na zdraví pacienta nebo bezpečnost péče, tím vyšší nároky budou kladeny na jeho vývoj, testování, dokumentaci a provozní dohled.
Citlivým bodem zůstává souběh AI Actu s MDR a IVDR. AI nástroj se zdravotnickým účelem může spadat pod více režimů současně. Nová dohoda proto míří na omezení zbytečných překryvů a na pokyny, které firmám pomohou postupovat prakticky, jednotně a bez nadměrné administrativy.
| Infobox – Evropa neposouvá podstatu pravidel, ale jejich náběh. U samostatných vysoce rizikových AI systémů se má plný režim uplatňovat od 2. prosince 2027, u systémů zabudovaných do regulovaných produktů od 2. srpna 2028. – Zdravotnická AI zůstává citlivou oblastí. U klinicky významných systémů bude nutné doložit bezpečnost, kvalitu dat, validaci, lidský dohled, sledování výkonu a odpovědnost. – Odklad není pauza. Firmy mají čas na klasifikaci produktu, dokumentaci, klinické hodnocení, správu dat a nastavení provozního dohledu. – Nemocnice nebudou posuzovat jen cenu a funkce. Klíčové bude rozlišit, zda nakupují administrativní nástroj, podpůrnou aplikaci, klinický systém nebo zdravotnický prostředek s AI. |
Medtech sektor nedostal výjimku
Podle MedTech Europe úprava AI Actu nevyjímá zdravotnické technologie s AI z vysoce rizikového režimu. Průmysl prosazoval, aby se povinnosti plnily výhradně přes MDR a IVDR. Tento model ale neprošel.
Pro výrobce zdravotnického softwaru, diagnostických nástrojů, klinických rozhodovacích systémů i digitálních terapeutik je to jasný signál. Posun termínů jim dává čas na sladění dokumentace, řízení rizik, klinického hodnocení, správy dat a kyberbezpečnosti.
Rozhodující bude schopnost doložit účel AI systému, použitá data, způsob testování, sledování výkonu po nasazení, odpovědnost i lidský dohled. U zdravotnické AI nebude stačit tvrdit, že je přesná. Bude nutné vysvětlit, pro koho je určena, kde funguje a kde má limity.
Pro nemocnice začne regulace u nákupu
Souběh AI Actu, MDR a IVDR neznamená, že pro zdravotnickou AI vznikne jedna univerzální dokumentace. Část podkladů se bude překrývat, například popis účelu systému, řízení rizik, klinické nebo výkonnostní hodnocení, kyberbezpečnost, návod k použití, dohled po uvedení na trh a evidence incidentů.
AI Act ale přidá vlastní vrstvu. Bude se více ptát na kvalitu dat, způsob trénování a validace, transparentnost výstupů, logování, lidský dohled a chování systému v reálném provozu. MDR a IVDR zůstanou zaměřené především na bezpečnost a výkonnost zdravotnického prostředku, klinické důkazy a dohled po uvedení na trh.
Pro nemocnice z toho plyne praktický závěr. Nebudou pasivně přebírat software od dodavatele. Budou muset vědět, zda nasazují administrativní nástroj, klinický rozhodovací systém nebo zdravotnický prostředek s AI. Od toho se bude odvíjet smluvní nastavení, školení personálu, auditní stopa, řízení incidentů i zapojení systému do klinického workflow. Poskytovatel péče tak nebude řešit jen licenci a cenu. Bude muset znát určený účel systému, nastavit odpovědnost, lidský dohled a postup pro situace, kdy je výstup AI nejistý nebo odporuje klinickému úsudku zdravotníka.
Čas navíc není důvod čekat
AI Act platí od 1. srpna 2024 a jeho části nabíhají postupně. Od 2. února 2025 se uplatňují zakázané praktiky a povinnost AI gramotnosti, od 2. srpna 2025 pravidla pro obecné modely AI. Nová dohoda zpřesňuje hlavně časový rámec pro vysoce rizikové systémy.
Roky 2027 a 2028 mohou působit vzdáleně. Ve zdravotnictví se ale nové technologie nezavádějí během několika týdnů. Pokud má AI nástroj vstoupit do klinického použití, získat důvěru poskytovatelů a přiblížit se úhradám, musí být regulatorně připravován už při návrhu produktu.
Odklad proto není prostor k pasivitě. Firmy dostaly čas, aby si ujasnily účel řešení, klinické tvrzení, práci s daty, validaci, zařazení mezi zdravotnické prostředky a způsob doložení lidského dohledu. Právě toto období rozhodne, kdo zvládne náběh pravidel včas a kdo bude dohánět zpoždění.
Český trh se musí naučit rozlišovat
Úprava AI Actu ukazuje, že digitalizace zdravotnictví vstupuje do další fáze. Po období nadšení z modelů, chatbotů a rychlých pilotů přichází čas provozu, odpovědnosti a důkazů.
Pro české zdravotnictví z toho plyne jeden důležitý závěr. Bude nutné přesněji rozlišovat mezi různými typy digitálních řešení. Právě toto rozlišení bude v příštích letech rozhodující pro regulátory, investory, nemocnice, pojišťovny i pacienty. AI ve zdravotnictví se nebude posuzovat podle toho, jak moderně působí, ale podle účelu, rizika a schopnosti toto riziko řídit.
Evropa tedy AI Act nebrzdí proto, aby oslabila ochranu pacientů. Dává trhu čas, aby ji dokázal zavést prakticky a bez chaosu. Ve zdravotnictví totiž nestačí, aby byla AI chytrá. Musí být také kontrolovatelná, vysvětlitelná a bezpečně zasazená do každodenní péče.
Zpracováno dle zdroje: Council of the EU
Petr Moláček, digitalhealth.cz