1. Kim jest podmiot wdrażający i dlaczego ta rola ma znaczenie
Rozporządzenie wyraźnie rozróżnia podmioty tworzące systemy sztucznej inteligencji od tych, które z nich korzystają. Te drugie określa się w przepisach jako podmioty wdrażające (ang. deployers), czyli organizacje wykorzystujące system w swojej działalności pod własnym nadzorem. Każde przedsiębiorstwo kupujące oprogramowanie do rekrutacji i stosujące je we własnych procesach staje się podmiotem wdrażającym, nawet jeśli nigdy nie napisało ani jednej linijki kodu. Rozróżnienie to jest kluczowe, ponieważ zakres obowiązków jest zupełnie inny, a firma może pełnić odmienne role wobec różnych narzędzi.
Roli prawnej nie determinuje sama nazwa na umowie. Jeśli dokonasz istotnych modyfikacji systemu, zmienisz jego przewidziane przeznaczenie lub wprowadzisz go na rynek pod własną marką, Twoja pozycja prawna może ulec zmianie, a wraz z nią pojawią się surowsze obowiązki dostawcy technologii. Zanim zaplanujesz działania, sprawdź, jak dostawca zdefiniował przeznaczenie produktu i jakie modyfikacje zamierzasz wprowadzić w firmie.
2. Kiedy system kwalifikuje się jako wysokie ryzyko
System zostaje zaliczony do kategorii wysokiego ryzyka w dwóch podstawowych przypadkach: gdy stanowi element bezpieczeństwa produktu objętego szczegółowymi przepisami unijnymi albo gdy jego zastosowanie wpisuje się w wykaz obszarów wymienionych w rozporządzeniu. Lista ta obejmuje m.in. zarządzanie personelem, ocenę wiarygodności kredytowej, wybrane usługi kluczowe oraz edukację. Nie każde użycie w tych obszarach oznacza automatycznie wysokie ryzyko: decydująca jest konkretna funkcja, jaką narzędzie pełni w Twoim procesie biznesowym.
Pierwszym krokiem operacyjnym jest rzetelna klasyfikacja, którą opisujemy w dedykowanym przewodniku. Pamiętaj, że weryfikacji należy dokonywać w oparciu o realny sposób wykorzystania w firmie, a nie samą ulotkę reklamową producenta. Ogólny model analizy tekstu może stać się systemem wysokiego ryzyka w chwili, gdy zaczniesz używać go do selekcji kandydatów do pracy, a wtedy zmieniają się obowiązujące reguły. Kontrolę tę powtarzaj przy każdej modyfikacji funkcji, a nie tylko w momencie zakupu.
3. Praktyczne obowiązki podmiotu wdrażającego
W przypadku systemu wysokiego ryzyka rozporządzenie nakłada na podmiot wdrażający szereg konkretnych obowiązków operacyjnych. Nie są to puste formalności: każde zadanie wymaga wyznaczenia osoby odpowiedzialnej i utrwalenia dowodów na piśmie. Szczegółowy zakres należy potwierdzić z doradcą prawnym, dopasowując poniższe ramy do specyfiki Twojej branży i procesów. Potraktuj poniższą listę jako punkt odniesienia i uzupełnij ją o elementy specyficzne dla Twojej organizacji.
Nadzór ludzki i archiwizacja logów to elementy najczęściej zaniedbywane przez firmy. Pracownik bezrefleksyjnie zatwierdzający każdą sugestię algorytmu nie sprawuje żadnego realnego nadzoru. Określ precyzyjne kryteria określające, kiedy decyzję musi zweryfikować człowiek, kto ma uprawnienie do zatrzymania systemu oraz w jakim czasie należy zareagować na błędy. Udokumentuj wybór osób nadzorujących, potwierdzając ich kompetencje i odbyte szkolenia.
- Korzystaj z systemu ściśle według instrukcji obsługi dostarczonych przez dostawcę.
- Powierz nadzór ludzki kompetentnym osobom posiadającym realne uprawnienia do interwencji lub zatrzymania systemu.
- Weryfikuj, czy dane wejściowe są odpowiednie i adekwatne do zadeklarowanego celu.
- Monitoruj bieżące działanie algorytmu i niezwłocznie zgłaszaj dostawcy wszelkie poważne incydenty i anomalie.
- Przechowuj logi generowane przez system przez okres wymagany przepisami i standardami branżowymi.
- Informuj osoby fizyczne, gdy system sztucznej inteligencji bierze udział w podejmowaniu decyzji, które ich dotyczą.
4. Pracownicy i osoby, których dotyczą decyzje
W sytuacji, gdy system wpływa na pracowników, rozporządzenie wymaga w określonych przypadkach poinformowania personelu oraz przedstawicieli pracowników przed uruchomieniem narzędzia w miejscu pracy. Krajowe prawo pracy może nakładać dodatkowe wymogi, takie jak obowiązkowe konsultacje ze związkami zawodowymi lub radą pracowników. Dialog ten zaplanuj z doradcą ds. prawa pracy jeszcze przed wdrożeniem technologii, a nie po fakcie. Jeśli masz wątpliwości co do zakresu konsultacji, wyjaśnij je przed uruchomieniem narzędzia.
Osoby podlegające decyzjom wspieranym przez system AI mają prawo do jasnej informacji o roli, jaką technologia odegrała w procesie. Przygotuj zwięzłą, zrozumiałą klauzulę informacyjną włączaną do procedury oraz schemat obsługi pytań i ewentualnych odwołań. To nie jest formalność: to newralgiczny punkt styku algorytmu z człowiekiem, który najczęściej staje się przedmiotem sporów prawnych.
5. Ocena skutków w zakresie praw podstawowych
Dla niektórych podmiotów wdrażających, zwłaszcza instytucji publicznych lub podmiotów prywatnych świadczących usługi publiczne, a także przy specyficznych zastosowaniach, takich jak ocena zdolności kredytowej czy wycena ryzyka w ubezpieczeniach na życie i zdrowie, obowiązkowa jest ocena skutków w zakresie praw podstawowych (FRIA). Konieczność jej wykonania zależy od statusu prawnego firmy i celu narzędzia. Skonsultuj z doradcą, czy ten wymóg Cię dotyczy: jeśli tak, analizę musisz sfinalizować przed uruchomieniem systemu.
Ocena opisuje cel systemu, krąg osób, których dotyczy, potencjalne zagrożenia dla ich praw oraz środki minimalizujące ryzyko. Jest to żywy dokument roboczy podlegający aktualizacji, a nie jednorazowa ankieta do odhaczenia. Zagadnienie to omawiamy szerzej w dedykowanym przewodniku, ponieważ wymaga ono odrębnej metodologii. Zadbaj, aby treść analizy była zrozumiała również dla osób bez wykształcenia technicznego.
6. Incydenty, nieprawidłowości i komunikacja
Jeśli system doprowadzi do poważnego incydentu lub wykaże istotne nieprawidłowości w działaniu, podmiot wdrażający musi bezzwłocznie powiadomić dostawcę, a w określonych przypadkach także właściwe organy nadzorcze. Zdefiniuj wcześniej, co w Twojej organizacji stanowi poważny incydent: pojedynczy błąd krytyczny, powtarzalny schemat błędnych decyzji czy nieuzasadnione wykluczenie klienta. Jasna definicja na piśmie eliminuje chaos w sytuacji awaryjnej. Odnotowuj wyniki wszystkich kontroli, zarówno pozytywne, jak i negatywne, aby wykazać należytą staranność.
Opracuj także wewnętrzną procedurę awaryjną: kogo należy zaalarmować, kto może wstrzymać działanie systemu, jak zabezpieczyć dowody i jak płynnie przejść na procedury manualne. Integracja z planem ciągłości działania (BCP) okazuje się w praktyce najważniejsza, ponieważ wyłączony system AI musi zostać natychmiast zastąpiony działającym procesem tradycyjnym. Zweryfikuj ten mechanizm z osobami odpowiedzialnymi za operacje.
7. Umowy z dostawcami: czego wymagać
Umowa z dostawcą oprogramowania to podstawowe narzędzie pozwalające uzyskać informacje niezbędne do zachowania zgodności. Zażądaj dokumentacji technicznej dotyczącej przeznaczenia narzędzia, instrukcji obsługi, znanych ograniczeń, wymagań co do danych, procedur aktualizacji oraz zasad zgłaszania incydentów. Jeśli dostawca unika odpowiedzi na te pytania, sam ten fakt stanowi informację o ryzyku do odnotowania. Wymagaj także pisemnego zobowiązania dostawcy do informowania o wszelkich zmianach wpływających na działanie systemu.
Zwróć szczególną uwagę na to, kto ma dostęp do przetwarzanych danych i gdzie są one przechowywane. Ogólnikowe zapewnienia dostawcy o wysokiej dokładności modelu nie stanowią dowodu Twojej należytej staranności przed audytorem. Wszystkie kluczowe kwestie, od mechanizmu działania po planowane aktualizacje, ustalaj na piśmie. Przy braku jasnych gwarancji potraktuj ryzyko jako niezaadresowane i wyznacz twardy termin na wyjaśnienie sprawy.
8. Zagadnienia do pogłębienia w klastrze tematycznym
Ten przewodnik stanowi mapę drogową. Do tematów wymagających osobnych, szczegółowych opracowań należą: klasyfikacja systemów według poziomów ryzyka, wykaz praktyk zakazanych, przygotowanie oceny skutków dla praw podstawowych, relacja między AI Act a RODO oraz zmiany w zarządzaniu zasobami ludzkimi. Każde odesłanie ma sens tylko wtedy, gdy temat trafi do firmowego harmonogramu z przypisaną osobą i datą realizacji.
Jeśli korzystasz już z systemów AI, zacznij od przewodnika po klasyfikacji. Jeśli wykorzystujesz algorytmy do rekrutacji lub oceny pracowników, przejdź bezpośrednio do materiału o zarządzaniu personelem. W przypadku budowania rozwiązań na bazie zewnętrznych modeli bazowych, przewodnik po modelach ogólnego przeznaczenia pomoże sformułować właściwe pytania do dostawców. Dzięki temu sięgasz po odpowiednią wiedzę w optymalnym momencie.
9. Jak zacząć w tym tygodniu
W tym tygodniu wybierz narzędzie, które najbardziej zbliża się do kategorii wysokiego ryzyka, i zażądaj od dostawcy trzech dokumentów: szczegółowej instrukcji obsługi, opisu zadeklarowanego przeznaczenia oraz wytycznych dotyczących nadzoru ludzkiego. Posiadanie tych materiałów pozwoli ocenić, czy Twoja rola prawna i zakres odpowiedzialności są jasne, czy też potrzebujesz dodatkowych ustaleń. Nie musisz być od razu w pełni zgodny: najważniejsze to wiedzieć, od czego zacząć i kto podejmuje decyzje.
Następnie wyznacz wewnętrznego właściciela dla tego systemu i zorganizuj wstępne spotkanie z doradcą ds. zgodności oraz działem HR, jeśli narzędzie dotyczy pracowników. Nie potrzebujesz natychmiast gotowego, wielkiego planu. Kluczem jest ustalenie osób decyzyjnych, osób sprawujących bieżący nadzór oraz brakujących informacji. Zadbaj o wyznaczenie daty kolejnego przeglądu, aby prace nie utknęły po pierwszym spotkaniu.
Często zadawane pytania
Czy firma używająca oprogramowania do rekrutacji automatycznie podlega pod wysokie ryzyko?
Nie automatycznie. Decydujące znaczenie ma to, w jaki sposób narzędzie jest wykorzystywane w praktyce. Jeśli system służy do selekcji, filtrowania lub oceniania kandydatów, mieści się w obszarze uznanym przez rozporządzenie za wrażliwy i wymaga wnikliwej analizy. Jeśli oprogramowanie służy jedynie do planowania spotkań czy wysyłki powiadomień, ocena jest inna. Dokonaj klasyfikacji na podstawie rzeczywistych funkcji i udokumentuj wnioski.
Czy formalny, bierny nadzór człowieka jest wystarczający?
Nie. Nadzór ludzki musi być rzeczywisty i skuteczny: sprawowany przez kompetentną osobę dysponującą czasem, wiedzą i realną władzą do weryfikacji lub wstrzymania decyzji systemu. Jeśli pracownik bezrefleksyjnie akceptuje każdą rekomendację algorytmu, nadzór ma charakter pozorny. Udokumentuj tożsamość osób nadzorujących, ich przeszkolenie oraz procedurę interwencji.
Czy mam obowiązek przechowywać logi generowane przez system AI?
Z reguły tak: podmiot wdrażający jest zobowiązany do przechowywania logów generowanych przez system przez okres określony przepisami i adekwatny do profilu działalności. Dokładny czas retencji skonsultuj z doradcą prawnym. Pamiętaj o koordynacji z przepisami RODO, ponieważ logi mogą zawierać dane osobowe i wymagają odpowiednich środków ochronnych.
Czy dostawca musi ujawnić dokładny kod źródłowy i działanie algorytmu?
Dostawca musi przekazać informacje wystarczające do bezpiecznego i zgodnego z prawem użytkowania, takie jak instrukcje, ograniczenia techniczne i specyfikację danych. Nie ma obowiązku ujawniania tajemnic przedsiębiorstwa czy pełnego kodu źródłowego. Potrzebujesz rzetelnych wytycznych operacyjnych na piśmie. Jeśli odpowiedzi są wymijające, zażądaj doprecyzowania przed użyciem narzędzia na ludziach.
Co dzieje się w sytuacji, gdy dostawca aktualizuje system AI?
Aktualizacja oprogramowania może wpłynąć na funkcjonalności, ograniczenia oraz poziom generowanego ryzyka. Zażądaj od dostawcy opisu wprowadzonych zmian i oceń, czy wymagają one rewizji klasyfikacji systemu lub procedur nadzoru. Nie zakładaj, że aktualizacje są neutralne, zwłaszcza gdy modyfikują sposób oceniania ludzi przez algorytm.
Od kiedy dokładnie zaczynają obowiązywać te wymagania?
Przepisy wchodzą w życie etapami i mogą być doprecyzowywane przez kolejne regulacje wykonawcze. Błędem jest opieranie harmonogramu firmy na uproszczonych artykułach prasowych. Sprawdź aktualne brzmienie oficjalnych przepisów i skonsultuj harmonogram z doradcą prawnym, zanim podejmiesz wiążące zobowiązania biznesowe.
Czy poleganie na deklaracjach dostawcy wystarcza do zachowania zgodności?
Nie. Dostawca odpowiada za stworzony przez siebie produkt, jednak za sposób jego użycia wewnątrz organizacji odpowiadasz wyłącznie Ty. Umowa ułatwia podział ról i transfer wiedzy, ale nie zwalnia z obowiązku nadzoru, kontroli i wewnętrznej dokumentacji. Zachowaj pisemne deklaracje dostawcy i decyzje zarządu jako dowód należytego zarządzania systemem.