AI Act w edukacji: ocenianie i rekrutacja jako wysokie ryzyko

👁 114 przeczytań

Według AI Act system, który decyduje o przyjęciu na studia, ocenia efekty uczenia się, ustala poziom kształcenia albo pilnuje uczciwości na teście, trafia do kategorii wysokiego ryzyka (Załącznik III pkt 3). Obowiązki dla takich systemów zaczną obowiązywać 2 grudnia 2027 - po omnibusie cyfrowym - a zakaz rozpoznawania emocji w szkołach i na uczelniach działa już od 2 lutego 2025.

Tekst z serii AI w edukacji, dla uczelni i szkół, które kupują albo budują narzędzia AI. Stan na 12 października 2026, według tekstu rozporządzenia w serwisie AI Act Service Desk Komisji Europejskiej (z uwzględnieniem zmian z lipca 2026). To omówienie, nie porada prawna - konkretne wdrożenie wymaga analizy prawnika.

Co jest wysokim ryzykiem w edukacji

Załącznik III pkt 3 wymienia cztery zastosowania w instytucjach edukacyjnych i szkolenia zawodowego wszystkich szczebli:

• lit. a - ustalanie dostępu, przyjęcia albo przydziału osób do instytucji (rekrutacja, rankingi kandydatów);
• lit. b - ocena efektów uczenia się, także gdy wynik służy sterowaniu procesem nauki;
• lit. c - ocena odpowiedniego poziomu wykształcenia, który osoba otrzyma albo do którego uzyska dostęp;
• lit. d - monitorowanie i wykrywanie niedozwolonych zachowań uczniów i studentów podczas testów (proctoring).

Liczy się przeznaczenie systemu, a nie nazwa produktu. Czat, w którym wykładowca szkicuje pytania do kolokwium, to co innego niż narzędzie, które samo wystawia punkty za odpowiedzi. Szerzej o kategorii wysokiego ryzyka - w tekście o systemach wysokiego ryzyka i Załączniku III.

Kiedy system z listy nie jest wysokiego ryzyka

Art. 6 ust. 3 pozwala uznać system z Załącznika III za niebędący wysokiego ryzyka, jeśli nie stwarza istotnego ryzyka dla zdrowia, bezpieczeństwa lub praw podstawowych i spełnia jeden z warunków:

• wykonuje wąskie zadanie proceduralne;
• poprawia wynik wcześniej zakończonej pracy człowieka;
• wykrywa wzorce albo odchylenia od wcześniejszych decyzji i nie ma zastępować ani wpływać na ocenę człowieka bez właściwej weryfikacji;
• wykonuje zadanie przygotowawcze do oceny.

Wyjątek nie działa, gdy system profiluje osoby fizyczne - wtedy zawsze jest wysokiego ryzyka. Dostawca, który powołuje się na wyjątek, musi udokumentować ocenę przed wprowadzeniem systemu na rynek (art. 6 ust. 4). Dopisanie do procedury „decyzję podejmuje człowiek” niczego nie załatwia, jeśli osoba zatwierdzająca w praktyce tylko klika „akceptuj”.

Przykładowe sytuacje na uczelni

Zakaz rozpoznawania emocji

Art. 5 ust. 1 lit. f zakazuje wprowadzania do obrotu, oddawania do użytku w tym celu i używania systemów AI do wnioskowania o emocjach osób fizycznych w miejscu pracy i w instytucjach edukacyjnych. Wyjątek: system przeznaczony do użycia ze względów medycznych lub bezpieczeństwa. Zakazy z art. 5 stosuje się od 2 lutego 2025, więc to nie jest obowiązek „na 2027”, tylko granica obowiązująca już dziś. Jeśli oferta proctoringu albo platformy e-learningowej obiecuje „analizę zaangażowania” z obrazu z kamery, poproś dostawcę o opis, co dokładnie system wyprowadza z danych. Pozostałe zakazy omawia tekst o zakazanych praktykach z art. 5.

Obowiązki uczelni jako podmiotu stosującego

Uczelnia, która kupuje gotowy system, jest zwykle podmiotem stosującym (deployer). Art. 26 wymaga m.in.:

• używania systemu zgodnie z instrukcją dostawcy;
• powierzenia nadzoru osobom z odpowiednimi kompetencjami, przeszkoleniem i uprawnieniami;
• dbania, by dane wejściowe, nad którymi ma kontrolę, były adekwatne i wystarczająco reprezentatywne;
• monitorowania działania i zgłaszania ryzyk oraz poważnych incydentów dostawcy i organom;
• przechowywania automatycznych logów, które kontroluje, przez okres adekwatny do celu, co najmniej 6 miesięcy;
• informowania osób, wobec których system z Załącznika III podejmuje decyzje albo w nich pomaga (np. kandydatów, studentów).

Jeśli uczelnia sama istotnie modyfikuje system albo zmienia jego przeznaczenie tak, że trafia on do wysokiego ryzyka, może stać się dostawcą z pełnym zestawem obowiązków (art. 25). Dlatego własna integracja modelu z systemem rekrutacyjnym wymaga osobnej analizy.

Art. 27 nakłada na podmioty prawa publicznego i prywatne podmioty świadczące usługi publiczne ocenę skutków dla praw podstawowych przed pierwszym użyciem systemu wysokiego ryzyka: opis procesu, okres i częstotliwość użycia, grupy osób, ryzyka, nadzór człowieka, działania zaradcze i tryb skarg. Wynik zgłasza się organowi nadzoru rynku. Można w niej odesłać do istniejącej oceny skutków dla ochrony danych (DPIA). Czy dotyczy to konkretnej uczelni lub szkoły, trzeba ustalić z prawnikiem.

Terminy po omnibusie cyfrowym

Omnibus zmienił też podejście do kompetencji w zakresie AI (art. 4): według Komisji większą rolę w ich promowaniu przejmują Komisja i państwa członkowskie. Nie przepisuj więc obowiązków szkoleniowych ze starszych poradników bez sprawdzenia aktualnego brzmienia.

Jak się przygotować krok po kroku

1. Spisz wszystkie używane i planowane narzędzia AI - także funkcje AI w platformach e-learningowych i systemach rekrutacji.
2. Przy każdym opisz przeznaczenie: dane wejściowe, wynik, kto go dostaje i na jaką decyzję o osobie wpływa.
3. Przypisz kategorię: zakaz (art. 5), wysokie ryzyko (Zał. III pkt 3), możliwy wyjątek (art. 6 ust. 3) albo poza tymi kategoriami.
4. Ustal rolę uczelni - podmiot stosujący czy dostawca (art. 25 i 26).
5. Zażądaj od dostawcy dokumentacji i instrukcji i wpisz to do umowy.
6. Wyznacz osoby do nadzoru i przećwicz z nimi zatrzymanie błędnego wyniku.
7. Przygotuj informację dla kandydatów i studentów oraz, jeśli dotyczy, ocenę skutków dla praw podstawowych.
8. Wyłącz funkcje rozpoznawania emocji, jeśli są w pakiecie, chyba że prawnik potwierdzi wyjątek medyczny lub bezpieczeństwa.

Gotowy prompt do skopiowania

Na podstawie dokumentacji poniżej opisz przeznaczenie systemu AI używanego na uczelni.
Dokumentacja dostawcy: [wklej]
Proces na uczelni: [np. rekrutacja na studia II stopnia, kto zatwierdza wynik]
Wypisz w tabeli: dane wejściowe | wynik | kto go otrzymuje | na jaką decyzję o osobie wpływa.
Zaznacz, czy opis pasuje do któregoś z zastosowań: dostęp/przyjęcie, ocena efektów uczenia się, ocena poziomu kształcenia, monitorowanie zachowań na testach, wnioskowanie o emocjach.
Każde ustalenie oprzyj na cytowanym fragmencie dokumentacji. Braki zapisz jako pytania do dostawcy.
Nie wydawaj ostatecznej kwalifikacji prawnej i nie dopisuj obowiązków z pamięci.

Najczęstsze pytania

Czy używanie ChatGPT na uczelni to system wysokiego ryzyka?

Samo korzystanie z czatu do przygotowania materiałów nie. Wysokie ryzyko zależy od przeznaczenia - np. gdy wynik AI decyduje o przyjęciu albo ocenie.

Od kiedy obowiązują przepisy o AI w ocenianiu i rekrutacji?

Po omnibusie cyfrowym reguły dla systemów z Załącznika III stosuje się od 2 grudnia 2027. Zakaz rozpoznawania emocji obowiązuje od 2 lutego 2025.

Czy proctoring na egzaminie online jest legalny?

Sam w sobie nie jest zakazany, ale monitorowanie zachowań podczas testów to wysokie ryzyko (Zał. III pkt 3 lit. d). Jeśli system wnioskuje o emocjach zdających, wchodzi w zakaz z art. 5.

Czy zatwierdzenie oceny przez człowieka wystarczy?

Nie automatycznie. Liczy się realny wpływ systemu na decyzję, a nadzór musi sprawować osoba z kompetencjami i uprawnieniami, nie tylko formalny podpis.

Czy zakup od dostawcy zdejmuje obowiązki z uczelni?

Nie. Podmiot stosujący ma własne obowiązki z art. 26, a przy istotnej modyfikacji systemu może stać się dostawcą.

Czytasz Promptowego częściej? Dodaj go do preferowanych źródeł w Google, a nowe teksty będą wyżej w Twoich wynikach.

Źródła

• AI Act - Załącznik III (Komisja Europejska, AI Act Service Desk, odczyt 12.10.2026)
• AI Act - art. 5, zakazane praktyki (Komisja Europejska, AI Act Service Desk, odczyt 12.10.2026)
• AI Act - art. 6, klasyfikacja wysokiego ryzyka (Komisja Europejska, AI Act Service Desk, odczyt 12.10.2026)
• AI Act - art. 26, obowiązki podmiotów stosujących (Komisja Europejska, AI Act Service Desk, odczyt 12.10.2026)
• AI Act - art. 27, ocena skutków dla praw podstawowych (Komisja Europejska, AI Act Service Desk, odczyt 12.10.2026)
• AI Omnibus enters into force (Komisja Europejska, 27.07.2026, aktualizacja 31.07.2026)
• EU AI Omnibus enters into force, amending the AI Act (White & Case, 2026)

Zobacz też: Zaliczenia i egzaminy odporne na AI.