Wprowadzenie unijnego rozporządzenia AI Act nakłada na kadrę zarządzającą działami HR oraz obsługi klienta nowe obowiązki w zakresie implementacji technologii algorytmicznych. Systemy wykorzystywane do rekrutacji, selekcji oraz oceny pracowników zostały sklasyfikowane jako rozwiązania wysokiego ryzyka. Regulacje te mają na celu eliminację uprzedzeń algorytmicznych oraz zapewnienie transparentności procesów, w których sztuczna inteligencja podejmuje decyzje wpływające na ścieżkę zawodową kandydatów i zatrudnionych osób.
Klasyfikacja systemów HR jako rozwiązań wysokiego ryzyka
Zgodnie z załącznikiem III do AI Act, narzędzia przeznaczone do konstruowania ogłoszeń, filtrowania aplikacji oraz analizy kompetencji podlegają rygorystycznym wymogom. Dynamika adaptacji tych rozwiązań jest wysoka – dane eRecruiter wskazują na czterokrotny wzrost ich wykorzystania od 2023 roku. Obecnie 25% badanych firm deklaruje stosowanie AI w rekrutacji, jednak tylko 15% posiada wewnętrzne wytyczne etyczne. Nowe prawo obliguje firmy do wdrożenia nadzoru ludzkiego oraz stałego monitorowania działania algorytmów, co ma zapobiegać automatycznemu powielaniu błędów rekrutacyjnych.
- Sztuczna inteligencja jest wykorzystywana w rekrutacji nie tylko do selekcji kandydatów, ale też na późniejszych etapach. Systemy są coraz częściej automatyzowane, niektóre zadania są powierzane technologiom, co usprawnia pracę działów HR i cały proces rekrutacji. W takich branżach jak chociażby przemysł, gospodarka magazynowa, gdzie na bieżąco trzeba uzupełniać potrzeby kadrowe, trudno sobie wyobrazić zarządzanie zasobami ludzkimi i procesem rekrutacji bez wykorzystania sztucznej inteligencji - Nadia Winiarska, ekspertka ds. zatrudnienia i Konfederacja Lewiatan
Obowiązki informacyjne i szkoleniowe dla pracodawców
Wdrażanie systemów wysokiego ryzyka wiąże się z koniecznością transparentnej komunikacji. Pracodawcy będą zobligowani do informowania osób podlegających ocenie o wykorzystaniu AI jeszcze przed uruchomieniem systemu. Kluczowym elementem staje się także tzw. „AI literacy”, czyli budowanie kompetencji zespołów HR w zakresie odpowiedzialnego korzystania z algorytmów. Managerowie muszą zapewnić personelowi szkolenia pozwalające na skuteczną weryfikację wyników generowanych przez technologię.
- Z perspektywy rynku pracy AI Act ma duże znaczenie, ponieważ wykorzystanie sztucznej inteligencji w systemach zarządzania zasobami ludzkimi, czyli systemach HR-owych, zostało uznane za systemy wysokiego ryzyka, co wymaga dodatkowych działań. - Nadia Winiarska, ekspertka ds. zatrudnienia w Konfederacja Lewiatan - Są tutaj też dodatkowe obowiązki dotyczące szkolenia personelu, który ma do czynienia z tymi systemami - dodaje Winiarska.
Zarządzanie jakością danych i eliminacja stronniczości
Jednym z najpoważniejszych wyzwań zidentyfikowanych w badaniu Polskiego Forum HR jest stronniczość algorytmiczna (tzw. bias). AI Act wymaga od podmiotów wdrażających stosowania praktyk zarządzania danymi, które gwarantują reprezentatywność zbiorów treningowych. Brak kontroli w tym obszarze może prowadzić do dyskryminacji, np. poprzez faworyzowanie określonej płci na bazie historycznych danych zatrudnienia. Odpowiedzialność za łagodzenie tych ryzyk spoczywa na firmach wykorzystujących narzędzia AI.
- Sztuczna inteligencja w rekrutacji jest narzędziem wspierającym, natomiast jednocześnie warto pamiętać o tym, aby te nowe narzędzia wykorzystywać odpowiedzialnie, żeby AI nie powodowała zachowań niepożądanych, czyli na przykład dyskryminacji. Znane są przypadki, kiedy błędne algorytmy w procesie rekrutacji prowadziły właśnie do dyskryminacji, faworyzowania niektórych kandydatów lub kandydatek, których CV miały jakieś wspólne cechy. - wyjaśnia ekspertka Konfederacja Lewiatan.
Harmonogram wdrażania zmian
Proces implementacji przepisów AI Act jest rozłożony w czasie. Choć rozporządzenie weszło w życie w sierpniu 2024 roku, kluczowe wymogi dla systemów wysokiego ryzyka w obszarze HR zaczną w pełni obowiązywać od 2 sierpnia 2026 roku. Firmy mają zatem czas na audyt posiadanych narzędzi oraz dostosowanie procedur wewnętrznych do standardów unijnych, co pozwoli na uniknięcie sankcji i zapewnienie etycznego modelu zarządzania zasobami ludzkimi.
Opr. wł / źródło: Newseria