Prezes Urzędu Ochrony Danych Osobowych zwrócił się do Ministerstwa Rodziny, Pracy i Polityki Społecznej o podjęcie prac nad przepisami, które zapewnią, że systemy AI wykorzystywane w zatrudnieniu będą projektowane i stosowane w sposób zorientowany na człowieka.
Oznacza to, że AI nie powinno zastępować odpowiedzialności człowieka ani prowadzić do automatycznego podejmowania decyzji bez realnej kontroli. Narzędzia wykorzystywane w rekrutacji i procesach pracowniczych mogą bowiem przetwarzać duże ilości danych, powielać uprzedzenia obecne w danych treningowych oraz analizować informacje wykraczające poza zakres dopuszczalny na gruncie prawa pracy.
AI Act zalicza do systemów wysokiego ryzyka określone systemy AI stosowane w zatrudnieniu, zarządzaniu pracownikami i dostępie do samozatrudnienia. Dotyczy to w szczególności narzędzi wykorzystywanych do rekrutacji i selekcji kandydatów, a także do podejmowania decyzji dotyczących warunków zatrudnienia, awansu, rozwiązania stosunku pracy, przydzielania zadań oraz monitorowania i oceny pracowników (załącznik III pkt 4 AI Act).
Punktem wyjścia przy korzystaniu z takich systemów powinna być zasada, że AI wspiera człowieka, ale nie zastępuje go w odpowiedzialności za decyzje. Ich stosowanie wiąże się w szczególności z koniecznością zapewnienia:
- realnego nadzoru człowieka nad działaniem systemu i podejmowanymi decyzjami,
- przejrzystości działania systemu oraz informacji o roli AI w procesie,
- możliwości wyjaśnienia i zakwestionowania decyzji podjętej z wykorzystaniem AI,
- oceny wpływu systemu na ochronę danych i prawa podstawowe — gdy jest ona wymagana,
- właściwego zarządzania ryzykiem, jakością danych, dokumentacją oraz cyberbezpieczeństwem.
Co to oznacza dla HR?
Organizacje powinny zweryfikować, czy decyzje dotyczące kandydatów i pracowników pozostają pod rzeczywistą kontrolą człowieka, mogą zostać jasno wyjaśnione i zakwestionowane oraz czy stosowane narzędzia nie prowadzą do dyskryminacji ani nadmiernego przetwarzania danych.
Wsparciem dla działów HR w tym zakresie powinny być przejrzyste procedury wewnętrzne określające zasady korzystania z AI oraz działania zapewniające pracownikom odpowiedni poziom kompetencji w zakresie AI, w tym odpowiednio dobrane szkolenia. Obowiązek podejmowania takich działań przez dostawców i podmioty stosujące systemy AI wynika z art. 4 AI Act.
Twój HR-owy update
Twój HR-owy update to cykliczny, krótki i konkretny przegląd najważniejszych zmian i planowanych nowelizacji nie tylko w prawie pracy, ale także tego, jak na organizacje i pracowników wpływają regulacje oraz praktyka w obszarach RODO, IP i AI – wraz z naszym komentarzem. Przygotowujemy go z myślą o osobach zarządzających HR i osobach odpowiedzialnych za polityki oraz procesy pracownicze. Zawsze znajdziesz go u nas na stronie, a jeśli chcesz otrzymywać go na maila – zapraszamy do zapisu na newsletter TUTAJ.
Oto, co znajdziesz w cyklu:
- zmiany i planowane nowelizacje w prawie pracy oraz tematy HR na styku z RODO, IP i AI,
- wyjaśnienia „co to oznacza w praktyce” dla organizacji, kadry kierowniczej i pracowników,
- wskazanie możliwych scenariuszy i obszarów wymagających decyzji lub przygotowania,
- alerty o istotnych ryzykach, terminach i trendach,
- oraz kwestie, które pojawiają się w praktyce wdrożeń i w pracy z ludźmi w organizacji – nie zawsze wynikające wprost z nowych przepisów.
