Zgodnie z przepisami unijnego rozporządzenia 2024/1689 (Akt o sztucznej inteligencji), wybrane instytucje publiczne w Polsce uzyskały nowe uprawnienia związane z nadzorem nad wykorzystywaniem sztucznej inteligencji.

Organy takie jak Rzecznik Praw Dziecka, Rzecznik Praw Pacjenta oraz Państwowa Inspekcja Pracy mają prawo, w każdym momencie, zażądać od przedsiębiorców dokumentacji oraz wyjaśnień dotyczących wdrożenia i wykorzystania systemów sztucznej inteligencji wysokiego ryzyka w ich działalności.

Uprawnienia te wynikają z art. 77 ust. 1 rozporządzenia 2024/1689, które ma na celu ochronę praw podstawowych, takich jak prawo do niedyskryminacji, w kontekście wykorzystywania systemów AI. Instytucje te mogą żądać informacji o wdrożeniu rozwiązań AI od firm, które stosują technologie uznawane za wysokiego ryzyka zgodnie z załącznikami II i III rozporządzenia. Tego typu systemy AI obejmują m.in. technologie mogące wpływać na prawa pracowników, pacjentów oraz dzieci, co uzasadnia ich kontrolę przez wyznaczone instytucje.

Każdy przedsiębiorca korzystający z AI wysokiego ryzyka powinien być przygotowany na przedstawienie dokumentacji potwierdzającej zgodność technologii z unijnymi przepisami. Obowiązek ten służy zwiększeniu przejrzystości oraz zapewnieniu odpowiedzialnego wdrażania AI, co ma na celu ochronę obywateli przed potencjalnymi nadużyciami i dyskryminacją.

Wykaz dostępny jest tutaj.