Systemy AI wysokiego ryzyka: lista z załącznika III i obowiązki firm
AI w rekrutacji, kredytach i edukacji to wysokie ryzyko. Pełna lista obszarów i obowiązki firm, które takich systemów używają.
👁 116 przeczytań
- System AI jest wysokiego ryzyka, jeśli działa w jednym z 8 obszarów z załącznika III - m.in. rekrutacji, scoringu kredytowym, edukacji czy biometrii.
- Wymogi dla systemów z załącznika III zaczną obowiązywać od 2 grudnia 2027, a dla AI wbudowanej w produkty z załącznika I - od 2 sierpnia 2028.
- Firma stosująca system wysokiego ryzyka musi zapewnić nadzór człowieka, przechowywać logi, monitorować działanie systemu i informować pracowników przed jego wdrożeniem.
Systemy AI wysokiego ryzyka to serce AI Act - i część, która po zmianach z lipca 2026 zacznie obowiązywać najpóźniej. Wymogi dla systemów z załącznika III - AI w rekrutacji, ocenie kredytowej, edukacji czy biometrii - obowiązują od 2 grudnia 2027. Dla AI wbudowanej w produkty z załącznika I - od 2 sierpnia 2028. Poniżej pełna lista obszarów, wyjątek, który zwalnia część systemów, i obowiązki firm, które takich systemów używają.
W skrócie
System AI jest wysokiego ryzyka, jeśli jest elementem bezpieczeństwa produktu objętego unijnymi przepisami (załącznik I) albo działa w jednym z 8 obszarów z załącznika III. Najczęściej dotyczy to firm w obszarze HR, finansów, ubezpieczeń i edukacji. Dostawca musi przejść ocenę zgodności, a firma, która system stosuje, ma własne obowiązki: nadzór człowieka, monitorowanie, przechowywanie logów i informowanie pracowników.
8 obszarów wysokiego ryzyka - załącznik III
| # | Obszar | Przykłady systemów |
|---|---|---|
| 1 | Biometria (tam, gdzie jest dozwolona) | zdalna identyfikacja biometryczna, kategoryzacja według cech wrażliwych, rozpoznawanie emocji |
| 2 | Infrastruktura krytyczna | elementy bezpieczeństwa w zarządzaniu ruchem drogowym, siecią wodną, gazową, energetyczną, infrastrukturą cyfrową |
| 3 | Edukacja i szkolenie zawodowe | decyzje o przyjęciu, ocena efektów uczenia się, wykrywanie ściągania na egzaminach |
| 4 | Zatrudnienie i zarządzanie pracownikami | filtrowanie CV, ocena kandydatów, decyzje o awansie i zwolnieniu, monitorowanie wydajności |
| 5 | Dostęp do usług podstawowych | scoring kredytowy, wycena ubezpieczeń na życie i zdrowotnych, przyznawanie świadczeń publicznych, klasyfikacja zgłoszeń alarmowych |
| 6 | Ściganie przestępstw | ocena ryzyka stania się ofiarą, wariografy, ocena wiarygodności dowodów |
| 7 | Migracja, azyl, kontrola granic | ocena ryzyka, rozpatrywanie wniosków azylowych i wizowych |
| 8 | Wymiar sprawiedliwości i procesy demokratyczne | wspieranie sądów w wykładni prawa, systemy wpływające na wynik wyborów |
Z punktu 5 wyłączono systemy do wykrywania oszustw finansowych - nie są wysokim ryzykiem tylko z tego powodu.
Wyjątek z art. 6 ust. 3 - kiedy system z listy nie jest wysokim ryzykiem
System z załącznika III nie jest wysokiego ryzyka, jeśli nie stwarza znaczącego ryzyka szkody i spełnia jeden z warunków, np. wykonuje wąskie zadanie proceduralne, poprawia wynik wcześniejszej pracy człowieka albo tylko przygotowuje materiał do oceny, którą robi człowiek. Dwa ważne zastrzeżenia:
- System, który profiluje osoby fizyczne, zawsze pozostaje wysokiego ryzyka.
- Dostawca, który uzna, że jego system nie jest wysokiego ryzyka, musi udokumentować tę ocenę i zarejestrować system w bazie UE. Omnibus uprościł zakres danych do tej rejestracji.
Jeśli nie wiesz, czy wyjątek Cię obejmuje, w Polsce możesz od 28 października 2026 poprosić KRiBSI o opinię indywidualną za 150 zł.
Obowiązki firmy, która używa systemu wysokiego ryzyka
Większość polskich firm będzie „podmiotem stosującym” - kupuje gotowy system, np. narzędzie HR. Art. 26 nakłada na nią m.in.:
- Używanie zgodnie z instrukcją dostawcy.
- Nadzór człowieka - osoby z kompetencjami, przeszkoleniem i uprawnieniami.
- Jakość danych wejściowych - w zakresie, w jakim firma je kontroluje.
- Monitorowanie działania i zawieszenie systemu, gdy stwarza ryzyko; zgłaszanie poważnych incydentów dostawcy i organowi.
- Przechowywanie logów generowanych automatycznie.
- Informowanie pracowników i ich przedstawicieli przed wdrożeniem systemu w miejscu pracy.
- Informowanie osób, wobec których system podejmuje lub wspiera decyzje.
Organy publiczne oraz firmy oceniające zdolność kredytową i wyceniające ubezpieczenia na życie i zdrowotne muszą dodatkowo przeprowadzić ocenę skutków dla praw podstawowych (FRIA, art. 27).
Obowiązki dostawcy
Nie przepłacaj za te subskrypcje
Prowadzę sklep z rocznymi dostępami do narzędzi AI - te same konta, o których piszę wyżej, tylko taniej niż w cenniku producenta.
Twórca systemu wysokiego ryzyka musi m.in. wdrożyć system zarządzania ryzykiem i jakością, zadbać o jakość danych treningowych, przygotować dokumentację techniczną, zapewnić rejestrowanie zdarzeń, przejrzystość i nadzór człowieka, dokładność i cyberbezpieczeństwo, przejść ocenę zgodności i zarejestrować system w bazie UE. MŚP, start-upy i small mid-caps mogą przygotować dokumentację w uproszczonej formie - to zmiana z lipca 2026.
Terminy
| Systemy | Termin |
|---|---|
| Załącznik III | 2 grudnia 2027 (wcześniej: 2 sierpnia 2026) |
| Załącznik I - AI w produktach | 2 sierpnia 2028 (wcześniej: 2 sierpnia 2027) |
| Systemy dla organów publicznych wprowadzone przed terminem | 2 sierpnia 2030 |
Systemy wprowadzone na rynek przed terminem podlegają nowym wymogom tylko wtedy, gdy przejdą istotne zmiany konstrukcji - z wyjątkiem sektora publicznego. Pełny harmonogram.
Najczęstsze pytania
Co to jest system AI wysokiego ryzyka?
System, który jest elementem bezpieczeństwa produktu objętego przepisami UE z załącznika I albo działa w jednym z 8 obszarów z załącznika III, np. rekrutacji, ocenie kredytowej czy edukacji.
Czy AI w rekrutacji to system wysokiego ryzyka?
Tak. Systemy do filtrowania podań, oceny kandydatów i ukierunkowanego publikowania ogłoszeń o pracę są wymienione w załączniku III.
Od kiedy obowiązują wymogi dla systemów wysokiego ryzyka?
Od 2 grudnia 2027 dla załącznika III i od 2 sierpnia 2028 dla systemów w produktach z załącznika I.
Co to jest FRIA?
Ocena skutków dla praw podstawowych z art. 27. Muszą ją przeprowadzić m.in. organy publiczne i firmy oceniające zdolność kredytową albo wyceniające ubezpieczenia na życie i zdrowotne.
Źródła i data sprawdzenia
Art. 6, 26, 27 i załącznik III rozporządzenia 2024/1689 w polskiej wersji językowej; terminy i uproszczenia według rozporządzenia 2026/1744 (art. 11, 111, 113). Sprawdzone 24 września 2026. Przykłady w tabeli są skrótem przepisów załącznika III. Tekst informacyjny, nie porada prawna.
Cały tydzień w AI, w jednym mailu
Wybrane premiery, narzędzia i analizy. Raz w tygodniu, prosto do skrzynki.
Zapisz się za darmo →Najczęstsze pytania
Czy system AI używany w rekrutacji jest systemem wysokiego ryzyka?
Tak, systemy do filtrowania CV, oceny kandydatów i ukierunkowanego publikowania ogłoszeń o pracę są wprost wymienione w załączniku III AI Act. Oznacza to, że firma używająca takiego narzędzia HR podlega obowiązkom z art. 26, w tym obowiązkowi nadzoru człowieka i przechowywania logów.
Kiedy moja firma musi spełnić wymogi AI Act dla systemów wysokiego ryzyka?
Dla systemów z załącznika III termin to 2 grudnia 2027, a dla AI wbudowanej w produkty objęte przepisami z załącznika I - 2 sierpnia 2028. Systemy organów publicznych wprowadzone przed terminem mają czas do 2 sierpnia 2030, o ile nie przejdą istotnych zmian konstrukcji.
Co to jest wyjątek z art. 6 ust. 3 i kiedy system z załącznika III nie jest wysokiego ryzyka?
System z załącznika III można uznać za niebędący wysokiego ryzyka, jeśli nie stwarza znaczącego ryzyka szkody i spełnia jeden z warunków - np. wykonuje wyłącznie wąskie zadanie proceduralne lub tylko przygotowuje materiał do oceny dokonywanej przez człowieka. Wyjątek nie działa, gdy system profiluje osoby fizyczne - takie systemy zawsze pozostają wysokiego ryzyka.
Czym jest FRIA i kto musi ją przeprowadzić?
FRIA to ocena skutków dla praw podstawowych wymagana przez art. 27 AI Act. Obowiązek jej przeprowadzenia dotyczy organów publicznych oraz firm oceniających zdolność kredytową i wyceniających ubezpieczenia na życie i zdrowotne.
Podobne tematy na Promptowym
