Evropa chce být vnímána jako strážce našich digitálních práv a ochrany před technologií, která se nám snad může vymknout z rukou. Je ale otázkou, zda tenhle generátor předpisů někdy sám sebe příliš nezahlcuje. Ve snaze všechno dokonale zkrotit možná zapomíná, že rychlost inovací je v tomto sektoru stejně důležitá jako jejich regulace. Kdo ví, možná jednou budeme mít umělou inteligenci, která bude psát předpisy rychleji než naši europoslanci… ale samozřejmě až poté, co jí to EU povolí.
Jakých předpisů si tedy musíte být vědomi při vývoji nástroje umělé inteligence?
Zde je přehled 11 důležitých předpisů, na které je třeba brát ohled.
1/ Akt EU o umělé inteligenci/ EU AI ACT
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=OJ:L_202401689
Zastřešující regulační rámec pro systémy AI v EU. Jeho cílem je zajistit etický vývoj AI a zároveň chránit zdraví, bezpečnost a základní práva občanů EU. Jeho nedodržení může mít za následek právní problémy a omezení přístupu na trh.
2/ Evropský prostor pro zdravotní data/ European Health Data Space (EHDS)
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A52023AP0462&qid=1725607603461
EHDS (European Health Data Space) je iniciativa Evropské unie zaměřená na vytvoření bezpečného a integrovaného prostoru pro sdílení zdravotních dat napříč Evropou. Jejím cílem je usnadnit přístup k elektronickým zdravotním záznamům, podporovat výzkum a inovace v oblasti zdravotní péče a zlepšit kvalitu poskytovaných služeb. EHDS má zároveň zajistit ochranu soukromí a bezpečnost osobních údajů pacientů.
3/ Obecné nařízení o ochraně osobních údajů/ General Data Protection Regulation (GDRP)
https://eur-lex.europa.eu/eli/reg/2016/679/oj
GDPR je právní rámec pro ochranu osobních údajů v EU. Upravuje ochranu údajů, přístup k nim a jejich (další) používání, které jsou pro vývoj a používání AI zásadní. Porušení GDPR může vést k významným pokutám a poškození pověsti.
4/ Nařízení o zdravotnických prostředcích/ Regulation on medical devices (MDR):
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=celex%3A32017R0745
Nařízení o zdravotnických prostředcích zajišťuje konzistentní fungování zdravotnických prostředků a jejich soulad s požadavky na bezpečnost a výkon. Nesoulad s předpisy může zabránit přístupu na trh a ohrozit bezpečnost pacientů.
5/ Nařízení o diagnostických zdravotnických prostředcích in vitro/ Regulation on in vitro diagnostic medical devices (IVDR):
https://eur-lex.europa.eu/eli/reg/2017/746/oj
Nařízení o diagnostice in vitro stanoví specifické požadavky na diagnostické nástroje založené na umělé inteligenci. Definuje třídy rizik a postupy posuzování shody. Nedodržení požadavků může zabránit přístupu na trh a ohrozit bezpečnost pacientů.
6/ Nařízení o správě dat/ Regulation on European data governance (Data Governance Act):
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A32022R0868
Nařízení zvyšuje dostupnost údajů a usnadňuje jejich sdílení. Stanoví podmínky pro opakované použití některých chráněných údajů v držení subjektů veřejného sektoru, včetně údajů chráněných právy duševního vlastnictví. Stanovuje také postupy a struktury pro usnadnění dobrovolného sdílení údajů.
7/ Nařízení o harmonizovaných pravidlech pro spravedlivý přístup k datům a jejich využívání/ Regulation on harmonised rules on fair access to and use of data (Data Act):
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A32023R2854&qid=1725367010394
Data Act podporuje spravedlivý přístup k údajům vytvořeným produkty nebo službami a jejich využívání. Stanovuje požadavky na přístupnost a předávání generovaných údajů, které jsou zásadní pro vývoj a využití umělé inteligence ve zdravotnictví.
8/ Nařízení o interoperabilní Evropě/ Interoperable Europe Act:
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A32024R0903&qid=1725367177747
Regulace specifikuje rámec pro přeshraniční interoperabilitu veřejných služeb, včetně zdravotnických systémů. Zajišťuje standardy interoperability pro systémy veřejného zdravotnictví v členských státech EU. Zásadní pro bezproblémovou výměnu dat a integraci nástrojů umělé inteligence v různých systémech zdravotní péče.
9/ Směrnice o otevřených datech a opakovaném použití informací veřejného sektoru/ Directive on open data and the re-use of public sector information (Open Data Directive)
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A32019L1024&qid=1725617318516
Podporuje využívání otevřených dat a stimuluje inovace produktů a služeb. Stanovuje pravidla pro opakované použití informací veřejného sektoru, které mohou být cenné pro vývoj umělé inteligence ve zdravotnictví. Poskytuje přístup k potenciálně cenným datům veřejného sektoru pro vývoj a školení AI.
10/ Směrnice o opatřeních k zajištění vysoké společné úrovně kybernetické bezpečnosti/ Directive on measures for a high common level of cybersecurity (NIS 2 Directive):
https://eur-lex.europa.eu/legal-content/EN/TXT/?uri=CELEX%3A32022L2555&qid=1725367467567
NIS2 se zaměřuje na zvýšení kybernetické bezpečnosti v kritických odvětvích, včetně zdravotnictví. Organizacím ukládá přísnější bezpečnostní požadavky a povinnost hlásit incidenty. Její význam pro nástroje zdravotnických prostředků s umělou inteligencí spočívá v zaměření na ochranu citlivých zdravotnických údajů a zajištění odolnosti zdravotnických systémů proti kybernetickým hrozbám.
11/ Nařízení o obecné bezpečnosti výrobků/ Regulation on general product safety (GPSR):
https://eur-lex.europa.eu/eli/reg/2023/988/oj
Obecné nařízení o bezpečnosti výrobků představuje široký rámec pro bezpečnost výrobků uváděných na trh EU. Vztahuje se na technologie umělé inteligence zabudované do jiných výrobků, na které se nevztahují odvětvová nařízení.
Které nařízení nebo směrnice nám uteklo?
Zpracováno s využitím podkladů Sigrid Berge van Rooijen
Petr Moláček, Digitalhealth