Rozporządzenie UE o AI dla ochrony zdrowia: zgodność z wysokim ryzykiem AI medycznym
AI stosowany do diagnozy medycznej, triażu pacjentów i zaleceń leczniczych jest wysokiego ryzyka zgodnie z rozporządzeniem UE o AI. Ten przewodnik wyjaśnia, jak rozporządzenie wchodzi w interakcję z rozporządzeniem w sprawie wyrobów medycznych (MDR) i IVDR, oraz co artykuły 9, 10, 12 i 14 wymagają od dostawców AI klinicznego i szpitali, które je wdrożą.
Rozporządzenie UE o AI dla ochrony zdrowia: zgodność z wysokim ryzykiem AI medycznym
AI stosowany do diagnozy medycznej, triażu pacjentów i zaleceń leczniczych jest wysokiego ryzyka zgodnie z rozporządzeniem UE o AI. Ten przewodnik wyjaśnia, jak rozporządzenie wchodzi w interakcję z rozporządzeniem w sprawie wyrobów medycznych (MDR) i IVDR, oraz co artykuły 9, 10, 12 i 14 wymagają od dostawców AI klinicznego i szpitali, które je wdrożą.
Ostatnia aktualizacja: 4 lipca 2026
Dlaczego AI kliniczny jest wysokiego ryzyka
AI w ochronie zdrowia osiąga poziom wysokiego ryzyka poprzez dwie odrębne ścieżki, a wiele systemów dotyka obu:
- Artykuł 6(1) — produkty medyczne regulowane. AI, który jest urządzeniem medycznym lub składową bezpieczeństwa (obrazowanie diagnostyczne, oprogramowanie wspomagające decyzje, analizatory IVD) jest wysokiego ryzyka, gdy już wymaga oceny zgodności przez stronę trzecią zgodnie z MDR (rozporządzenie UE 2017/745) lub IVDR (rozporządzenie UE 2017/746).
- Punkt 5(d) załącznika III — triaż w sytuacjach awaryjnych. AI stosowany do triażu pacjentów lub dysponowania usługami pierwszej pomocy jest wymieniony bezpośrednio w załączniku III, niezależnie od statusu urządzenia.
- Punkt 5(a) załącznika III — dostęp do opieki zdrowotnej. AI, który ocenia uprawnienia osoby do publicznych świadczeń i usług zdrowotnych, jest również wysokiego ryzyka.
Narzędzia do zaleceń leczniczych i wspomagania diagnostyki zwykle kwalifikują się jako wysokiego ryzyka. Ogólne aplikacje wellness bez celu medycznego zwykle nie — klasyfikuj każdy system przeciwko artykułowi 6 i załącznikowi III, zamiast zakładać.
Wzajemne powiązanie z MDR i IVDR
Rozporządzenie o AI nie zastępuje prawa dotyczącego urządzeń medycznych — nakłada się na nie.
Dla AI, który jest urządzeniem medycznym, wymagania dotyczące wysokiego ryzyka rozporządzenia o AI są zintegrowane z istniejącą procedurą oceny zgodności MDR/IVDR, a nie prowadzone jako oddzielny tor, więc pojedyncza ocena jednostki notyfikowanej może objąć oba reżimy. Producentom nadal potrzebne jest oznaczenie CE zgodnie z MDR/IVDR, a rozporządzenie o AI dodaje obowiązki — zarządzanie ryzykiem, zarządzanie danymi, rejestrowanie, nadzór ludzki i dokumentacja techniczna — na szczycie obowiązków oceny klinicznej i nadzoru rynku, które już ponoszą.
Konsekwencja praktyczna: plik techniczny MDR i dokumentacja załącznika IV rozporządzenia o AI powinny być opracowane jako jeden spójny zestaw dowodów, a nie dwa.
Podstawowe obowiązki dla AI klinicznego
Artykuły nośne dla systemu AI wysokiego ryzyka w ochronie zdrowia:
- Artykuł 9 — zarządzanie ryzykiem. Ciągły, przez cały cykl życia system zarządzania ryzykiem obejmujący rozsądnie przewidywalne kliniczne przypadki użycia i resztkowe ryzyko dla pacjentów.
- Artykuł 10 — zarządzanie danymi. Dane szkoleniowe, walidacyjne i testowe muszą być istotne i odpowiednio reprezentatywne; zestawy danych klinicznych wymagają badania pod kątem stronniczości i udokumentowanego pochodzenia, a artykuł 10(5) zezwala na ograniczone przetwarzanie specjalnych kategorii danych zdrowotnych wyłącznie w celu wykrycia i skorygowania stronniczości, pod warunkiem zabezpieczeń.
- Artykuł 12 — rejestrowanie. Automatyczne rejestrowanie zdarzeń w trakcie całego cyklu życia systemu, aby można było odtworzyć i prześledzić decyzję kliniczną.
- Artykuł 14 — nadzór ludzki. Osoba musi być w stanie zrozumieć, monitorować, anulować lub zignorować dane wyjściowe AI — osoba w pętli klinicznej pozostaje klinicznie i prawnie odpowiedzialna za pacjenta.
Jak AIAgentree pomaga
AIAgentree przechwytuje każdą decyzję AI kliniczną jako niewrażliwy na zmiany zapis z potwierdzeniem klinicysty, dając wam dowód z artykułu 12 i dowód nadzoru z artykułu 14 w jednym miejscu.
- Niewrażliwe na zmiany zapisy decyzji dla każdego wyjścia diagnostycznego, triażu lub zalecenia leczniczego — powody, dane wejściowe i klinicysta, który je przeglądał
- Przepływy pracy nadzoru i zatwierdzania ludzkiego, które wymagają potwierdzenia klinicysty przed lub po zaleceniu AI, z zapisem kto/kiedy/dlaczego dla artykułu 14
- Przechowywanie zgodne z przepisami zgodnie z artykułem 19, z rezydencją danych UE (Niemcy) w celu wyrównania z RODO dotyczącym danych pacjentów, plus wyszukiwanie poprzednich decyzji i śledzenie wyników
- Integracja za pomocą SDK Python i TypeScript za pośrednictwem REST, MCP, A2A i OpenTelemetry — rozpocznij na bezpłatnym poziomie 25 śladów z opóźnieniem rejestrowania asynchronicznego poniżej 10 ms
Często zadawane pytania
Czy sztuczna inteligencja diagnostyki medycznej jest wysokiego ryzyka zgodnie z rozporządzeniem UE w sprawie sztucznej inteligencji?
Tak. Sztuczna inteligencja, która jest urządzeniem medycznym lub składową bezpieczeństwa, jest wysokiego ryzyka zgodnie z art. 6 ust. 1, o ile wymaga już oceny zgodności przez stronę trzecią na mocy rozporządzenia MDR lub IVDR. Sztuczna inteligencja do tryażu pacjentów w sytuacjach awaryjnych jest oddzielnie wymieniona jako wysokiego ryzyka w załączniku III pkt 5 lit. d.
Czy rozporządzenie w sprawie sztucznej inteligencji zastępuje MDR i IVDR dla sztucznej inteligencji medycznej?
Nie. Uzupełnia je. Wymagania dotyczące wysokiego ryzyka określone w rozporządzeniu w sprawie sztucznej inteligencji są zintegrowane z istniejącą procedurą oceny zgodności MDR/IVDR, więc jedna ocena może obejmować oba, ale nadal potrzebne jest oznaczenie CE zgodnie z prawem dotyczącym urządzeń medycznych oraz obowiązki zarządzania ryzykiem, zarządzania danymi, rejestrowania i nadzoru określone w rozporządzeniu w sprawie sztucznej inteligencji.
Co oznacza nadzór ludzki zgodnie z art. 14 w szpitalu?
Wykwalifikowany klinicysta musi być w stanie zrozumieć dane wyjściowe sztucznej inteligencji, monitorować jej użycie i anulować lub zignorować ją. Sztuczna inteligencja jest systemem wspomagania decyzji; klinicysta zachowuje odpowiedzialność kliniczną i prawną za pacjenta. Akcje zatwierdzania i anulowania powinny być rejestrowane.
Czy możemy używać danych pacjentów do szkolenia i testowania sztucznej inteligencji klinicznej zgodnie z art. 10?
Dane muszą być istotne, reprezentatywne i sprawdzane pod kątem uprzedzeń. Art. 10 ust. 5 zezwala na przetwarzanie danych specjalnych kategorii zdrowia ściśle w celu wykrycia i skorygowania uprzedzeń w systemach wysokiego ryzyka, pod warunkiem zabezpieczeń. RODO nadal ma zastosowanie na podstawie obowiązków zarządzania danymi określonych w rozporządzeniu w sprawie sztucznej inteligencji.
Kiedy mają zastosowanie obowiązki dotyczące wysokiego ryzyka w ochronie zdrowia?
Obowiązki dotyczące wysokiego ryzyka określone w rozporządzeniu (UE) 2024/1689 mają zastosowanie od dnia 2 sierpnia 2026 r. Dostawcy sztucznej inteligencji medycznej powinni dostosować swoje dowody MDR/IVDR i dokumentację dotyczącą sztucznej inteligencji już teraz, zamiast traktować je jako odrębne programy.
Kontynuuj eksplorację przewodnika po Akt AI UE
Przewodnik po zgodności z Aktem AI UE
Kompletny przewodnik po zgodności z Aktem AI UE dla agentów AI — zacznij tutaj.
Artykuł 12 — Rejestracja i logowanie
Co każdy system AI o wysokim ryzyku musi logować i jak to przechwytywać.
Artykuł 14 — Nadzór ludzki
Projektowanie skutecznych kontroli z udziałem człowieka w podejmowaniu decyzji przez AI.
Załącznik III — Systemy AI o wysokim ryzyku
Które przypadki użycia AI są klasyfikowane przez Akt jako o wysokim ryzyku.
Lista kontrolna zgodności z Aktem AI UE
Krok po kroku lista kontrolna do osiągnięcia i udokumentowania zgodności.
Kalkulator kosztów zgodności
Oszacuj wysiłek i koszt zgodności z Aktem AI UE.
Terminy i harmonogram
Kluczowe daty egzekwowania, w tym termin 2 sierpnia 2026 r.
Kary i sankcje
Stopnie kar aż do 35 mln euro lub 7% globalnego rocznego obrotu.
Zobowiązania do przejrzystości (Art. 13 i 50)
Obowiązki ujawniania informacji o systemach AI i ich danych wyjściowych.
Zarządzanie ryzykiem i ocena zgodności
Zbuduj system zarządzania ryzykiem i oceniaj zgodność.
Zobowiązania GPAI
Przepisy dla dostawców ogólnych modeli AI.
Akt AI UE dla firm amerykańskich
Zakres terytorialny i co muszą robić amerykańscy dostawcy.
Aktualizacja Omnibus
Najnowsze zmiany w harmonogramie i przepisach Akty AI UE.
Kalkulator kar
Oszacuj maksymalną karę zgodnie z poziomami artykułu 99.
Artykuł 11 + Załącznik IV
Jakie dokumentacja techniczna jest wymagana przez unijne prawo dotyczące sztucznej inteligencji.
Artykuł 26: Zobowiązania wdrożeniowe
Co muszą robić wdrożeniowie sztucznej inteligencji o wysokim ryzyku, w tym przechowywanie logów.
Artykuł 17: Zarządzanie jakością
Jaki system zarządzania jakością muszą udokumentować dostawcy sztucznej inteligencji o wysokim ryzyku.
Artykuł 10: Zarządzanie danymi
Jakość danych, ograniczanie stronniczości i obowiązki związane z zarządzaniem.
Artykuł 4: Literatura sztucznej inteligencji
Obowiązek literatury sztucznej inteligencji dla personelu, który obowiązuje od lutego 2025.
Wdrożeniowie a dostawcy
Kto ponosi jakie zobowiązania — i kiedy wdrożeniowie stają się dostawcami.
FRIA (Artykuł 27)
Kto musi przeprowadzić ocenę wpływu na podstawowe prawa, i jak.
Do kogo ma zastosowanie?
Zakres, operatorzy i terytorialny zasięg unijnego prawa dotyczącego sztucznej inteligencji.
Monitorowanie rynku po wprowadzeniu do obrotu
Artykuły 72–73: ciągłe monitorowanie i raportowanie incydentów.
ISO 42001 a unijne prawo dotyczące sztucznej inteligencji
Jak dobrowolny standard i wiążące prawo pasują do siebie.
NIST AI RMF a unijne prawo dotyczące sztucznej inteligencji
Praktyczne zestawienie między ramą a prawem.
Unijne prawo dotyczące sztucznej inteligencji w usługach finansowych
Ocena kredytowa, ustalanie cen ubezpieczeń i istniejące regulacje finansowe.
Unijne prawo dotyczące sztucznej inteligencji w HR i zatrudnieniu
Zatrudnianie sztucznej inteligencji o wysokim ryzyku, a także nakładanie się z NYC LL144 i EEOC.