Systemy AI wysokiego ryzyka: załącznik III, obowiązki firm i termin 2.12.2027

👁 179 przeczytań

System AI jest wysokiego ryzyka, jeśli działa w jednym z 8 obszarów z załącznika III AI Act - m.in. rekrutacja, ocena kredytowa, edukacja, biometria - albo jest elementem bezpieczeństwa produktu z załącznika I. Po zmianach z rozporządzenia 2026/1744 wymogi dla załącznika III obowiązują od 2 grudnia 2027 (przesunięcie o 16 miesięcy), a dla załącznika I od 2 sierpnia 2028 (o 12 miesięcy). Na 1 października 2026 zostało więc ok. 14 i 22 miesiące, a część pracy trzeba zacząć już teraz.

8 obszarów wysokiego ryzyka - załącznik III (od 2.12.2027)

Z punktu 5 wyłączono systemy do wykrywania oszustw finansowych - nie są wysokim ryzykiem tylko z tego powodu. Rozpoznawanie emocji w pracy i szkole w ogóle nie trafia do tej tabeli, bo jest zakazane od lutego 2025 - patrz zakazane praktyki z art. 5.

Załącznik I - AI w produktach (od 2.08.2028)

Druga ścieżka to art. 6 ust. 1: system jest wysokiego ryzyka, gdy jest produktem albo elementem bezpieczeństwa produktu objętego unijnym prawem harmonizacyjnym z załącznika I i ten produkt przechodzi ocenę zgodności przez stronę trzecią. Chodzi m.in. o zabawki, windy, wyroby medyczne i wyroby do diagnostyki in vitro, urządzenia radiowe, a w sekcji B - lotnictwo, pojazdy i kolej. Omnibus przeniósł rozporządzenie w sprawie maszyn do sekcji B i doprecyzował, czym jest „element bezpieczeństwa”:

• system używany wyłącznie do pomocy użytkownikom, optymalizacji, automatyzacji, wygody albo kontroli jakości niezwiązanych z bezpieczeństwem nie jest elementem bezpieczeństwa (art. 6 ust. 1a),
• system, którego awaria zagrażałaby zdrowiu i bezpieczeństwu, zawsze nim jest (art. 6 ust. 1b),
• produkt badany przez stronę trzecią wyłącznie z innych powodów niż zdrowie i bezpieczeństwo, np. zakłócenia radiowe, nie spełnia warunku z art. 6 ust. 1 lit. b (art. 6 ust. 1c).

Wyjątek z art. 6 ust. 3 - kiedy system z listy nie jest wysokim ryzykiem

System z załącznika III nie jest wysokiego ryzyka, jeśli nie stwarza znaczącego ryzyka szkody i spełnia co najmniej jeden warunek:

1. wykonuje wąskie zadanie proceduralne, np. sortuje dokumenty według kategorii,
2. poprawia wynik zakończonej wcześniej pracy człowieka, np. poprawia styl gotowego pisma,
3. wykrywa wzorce decyzyjne lub odstępstwa od nich i nie zastępuje oceny człowieka bez jej weryfikacji,
4. wykonuje zadanie przygotowawcze do oceny, którą robi człowiek.

Dwa zastrzeżenia. System, który profiluje osoby fizyczne, zawsze pozostaje wysokiego ryzyka. Dostawca, który uzna, że wyjątek go obejmuje, musi udokumentować tę ocenę przed wprowadzeniem systemu na rynek i zarejestrować system w bazie UE (art. 6 ust. 4, art. 49 ust. 2). Jeśli nie masz pewności, od 28 października 2026 możesz poprosić KRiBSI o opinię indywidualną - kosztuje 150 zł, odpowiedź przychodzi w 30 dni (w sprawach złożonych 60), a milczenie oznacza zgodę ze stanowiskiem wnioskodawcy (art. 8-13 ustawy o systemach sztucznej inteligencji).

Obowiązki dostawcy

Twórca systemu wysokiego ryzyka (art. 16) musi spełnić wymogi z sekcji 2 rozdziału III i przejść procedury:

• system zarządzania ryzykiem przez cały cykl życia (art. 9),
• jakość danych treningowych, walidacyjnych i testowych (art. 10),
• dokumentacja techniczna według załącznika IV (art. 11),
• automatyczne rejestrowanie zdarzeń, czyli logi (art. 12),
• przejrzystość i instrukcja obsługi dla podmiotu stosującego (art. 13),
• nadzór człowieka zaprojektowany w systemie (art. 14),
• dokładność, solidność i cyberbezpieczeństwo (art. 15),
• system zarządzania jakością (art. 17),
• ocena zgodności (art. 43), deklaracja zgodności UE (art. 47) i oznakowanie CE (art. 48),
• rejestracja w bazie UE (art. 49),
• monitorowanie po wprowadzeniu do obrotu (art. 72) i zgłaszanie poważnych incydentów (art. 73).

Obowiązki firmy, która używa systemu

Większość polskich firm będzie „podmiotem stosującym” - kupuje gotowe narzędzie HR albo scoringowe. Art. 26 nakłada na nią:

1. używanie zgodnie z instrukcją dostawcy (ust. 1),
2. nadzór człowieka powierzony osobom z kompetencjami, przeszkoleniem i uprawnieniami (ust. 2),
3. adekwatne dane wejściowe - w zakresie, w jakim firma je kontroluje (ust. 4),
4. monitorowanie działania, zawieszenie systemu przy ryzyku i zgłaszanie poważnych incydentów (ust. 5),
5. przechowywanie logów przez co najmniej 6 miesięcy (ust. 6),
6. informowanie pracowników i ich przedstawicieli przed wdrożeniem w miejscu pracy (ust. 7),
7. informowanie osób, wobec których system podejmuje decyzje albo w nich pomaga (ust. 11).

Organy publiczne, podmioty świadczące usługi publiczne oraz firmy oceniające zdolność kredytową i wyceniające ubezpieczenia na życie i zdrowotne (załącznik III pkt 5 lit. b i c) przed pierwszym użyciem robią ocenę skutków dla praw podstawowych (FRIA, art. 27). Po Omnibusie można w niej odesłać do części oceny skutków dla ochrony danych z RODO (art. 27 ust. 4), a Urząd ds. AI przygotuje wzór kwestionariusza, także w formie narzędzia automatycznego (ust. 5). Osoba, której dotyczy decyzja oparta na systemie z załącznika III, ma prawo do wyjaśnienia roli AI i głównych elementów decyzji (art. 86).

Co zmienił Digital Omnibus

Rozporządzenie 2026/1744 obowiązuje od 27 lipca 2026. W części o wysokim ryzyku wprowadziło:

• nowe terminy w art. 113 lit. c: 2 grudnia 2027 dla załącznika III i 2 sierpnia 2028 dla załącznika I,
• uproszczoną dokumentację techniczną dla MŚP, start-upów i małych spółek o średniej kapitalizacji, na wzorze KE, który jednostki notyfikowane muszą akceptować (art. 11 ust. 1),
• proporcjonalny system zarządzania jakością dla mniejszych dostawców (art. 17 ust. 2, art. 63 ust. 1),
• art. 4a - wyjątkowe przetwarzanie szczególnych kategorii danych osobowych w celu wykrywania i korygowania stronniczości, pod sześcioma warunkami, m.in. pseudonimizacja i usunięcie danych po korekcie,
• art. 6 ust. 1a-1c - doprecyzowanie elementu bezpieczeństwa,
• nowe brzmienie art. 111 ust. 2 dla systemów sprzed terminu.

Systemy wprowadzone przed terminem - art. 111 ust. 2

System wysokiego ryzyka wprowadzony do obrotu lub oddany do użytku przed datą stosowania rozdziału III podlega nowym wymogom tylko wtedy, gdy po tej dacie przejdzie istotne zmiany w projekcie. Wyjątek: systemy przeznaczone dla organów publicznych muszą osiągnąć zgodność do 2 sierpnia 2030 niezależnie od zmian. Zakazy z art. 5 obowiązują zawsze, bez względu na datę wprowadzenia systemu. Moim zdaniem ta reguła będzie kusić dostawców, żeby wypuścić produkt przed 2 grudnia 2027 i potem go nie ruszać. Przy oprogramowaniu, które co kilka miesięcy dostaje nowe modele, granica „istotnej zmiany” szybko stanie się sporna.

Co robić już teraz, mimo przesunięcia

Czternaście miesięcy to mało, jeśli dostawca musi przebudować dokumentację, a firma - procesy. Moja lista na najbliższe kwartały:

1. Zrób spis narzędzi AI w firmie i przypisz każde do kategorii: zakazane, wysokie ryzyko, przejrzystość, minimalne.
2. Sprawdź, czy któreś narzędzie nie łamie zakazów - te obowiązują od lutego 2025 i nie zostały przesunięte.
3. Zapytaj dostawców narzędzi HR, scoringowych i edukacyjnych o plan zgodności, termin oceny zgodności i dokumentację z art. 13.
4. Dopisz do umów obowiązki informacyjne i dostęp do logów; dostawcy komponentów mają taką pisemną umowę zawrzeć z dostawcą systemu (art. 25 ust. 4).
5. Wyznacz osoby do nadzoru człowieka i przeszkol je - obowiązek z art. 4 działa od lutego 2025, opisuję go w tekście o kompetencjach AI.
6. Przygotuj szablon FRIA na bazie istniejących ocen skutków z RODO, jeśli jesteś bankiem, ubezpieczycielem albo podmiotem publicznym.
7. Zaplanuj informowanie pracowników przed wdrożeniem systemu w miejscu pracy.

Pełny kalendarz dat znajdziesz w tekście o terminach AI Act, szczegóły zmian - w omówieniu Digital Omnibus, a wszystkie wątki razem - w przewodniku po AI Act.

Co grozi za naruszenie

Naruszenie obowiązków dostawców (art. 16), importerów, dystrybutorów i podmiotów stosujących (art. 26) to kara do 15 mln euro albo 3% obrotu (art. 99 ust. 4). Dla MŚP i od 27 lipca 2026 także dla małych spółek o średniej kapitalizacji liczy się niższa z kwot. Polskie sposoby obniżenia kary opisałem w tekście o karach w AI Act.

Najczęstsze pytania

Co to jest system AI wysokiego ryzyka?

System, który jest elementem bezpieczeństwa produktu z załącznika I albo działa w jednym z 8 obszarów z załącznika III, np. w rekrutacji, ocenie kredytowej czy edukacji, i nie korzysta z wyjątku z art. 6 ust. 3.

Od kiedy obowiązują wymogi dla systemów wysokiego ryzyka?

Od 2 grudnia 2027 dla załącznika III i od 2 sierpnia 2028 dla załącznika I. Pierwotnie było to 2 sierpnia 2026 i 2 sierpnia 2027.

Czy AI w rekrutacji to system wysokiego ryzyka?

Tak. Systemy do kierowania ogłoszeń o pracę, filtrowania podań i oceny kandydatów są w załączniku III pkt 4. Jeśli narzędzie dodatkowo ocenia emocje kandydata, łamie zakaz z art. 5 ust. 1 lit. f.

Co to jest FRIA?

Ocena skutków dla praw podstawowych z art. 27. Robią ją przed pierwszym użyciem organy publiczne, podmioty świadczące usługi publiczne oraz firmy oceniające zdolność kredytową i wyceniające ubezpieczenia na życie i zdrowotne.

Czy system kupiony w 2026 trzeba będzie dostosować?

Jeśli wprowadzono go na rynek przed 2 grudnia 2027 i nie przejdzie istotnych zmian w projekcie - co do zasady nie. Wyjątek to systemy dla organów publicznych: zgodność do 2 sierpnia 2030.

To nie jest porada prawna - przy klasyfikacji konkretnego systemu skonsultuj się z prawnikiem albo od 28 października 2026 zapytaj KRiBSI o opinię indywidualną.

// czytaj dalejAI w rolnictwie nie potrzebuje futurystycznych traktorów. Czasem wystarczy lepsza prognoza ryzykaPremiumAI Act po polsku: przewodnik 2026 - terminy, kary, obowiązki firm i KRiBSIWarsztatChatGPT dostaje tryb dla osób wysokiego ryzyka. Klucze YubiKey mają chronić rozmowy przed przejęciemPremium