Nowe prawo tzw. AI Act, mające na celu zapewnienie bezpiecznego i etycznego wykorzystania AI, obejmuje ograniczenia dotyczące użycia rozpoznawania twarzy w czasie rzeczywistym oraz nowe wymogi przejrzystości dla twórców podstawowych modeli AI, takich jak ChatGPT. Ostateczne zatwierdzenie Aktu AI przez ambasadorów UE ma nastąpić do 2 lutego. W przypadku akceptacji, akt zostanie poddany głosowaniu w Parlamencie Europejskim w czerwcu.
Akt AI zakłada podejście oparte na ryzyku. Będzie ono kategoryzowało systemy sztucznej inteligencji w oparciu o postrzegany poziom ryzyka i wpływu na obywateli. Zakazuje on użycia systemów kategoryzujących biometrycznie w oparciu o wrażliwe cechy (np. przekonania polityczne, religijne, orientacja seksualna, rasa) oraz niemierzonych zbiorów danych do tworzenia baz rozpoznawania twarzy.
Jednak do 2025 roku, gdy akt wejdzie w życie, przedsiębiorstwa będą mogły rozwijać i wdrażać AI bez ograniczeń. Do tego czasu oczekuje się, że będą dobrowolnie przestrzegać przepisów.
Nowe warunki i AI Act
Twórcy systemów AI uznanych za wysokiego ryzyka będą musieli spełniać określone obowiązki. Głownie chodzi o ocenę wpływu ich systemów na podstawowe prawa obywatelskie. Dotyczy to sektorów ubezpieczeń i bankowości, jak również systemów AI z "znaczącym potencjalnym szkodliwością dla zdrowia, bezpieczeństwa, praw podstawowych, środowiska, demokracji i praworządności".
Podstawowe systemy AI, takie jak ChatGPT OpenAI, będą musiały spełniać określone wymogi przejrzystości. Naruszenie przepisów Aktu AI może skutkować karami finansowymi. Mogą one osiągać wysokości od 35 mln do 7,5 mln euro, w zależności od rodzaju naruszenia i wielkości firmy.
AI Act stanowi symboliczny moment dla branży AI. Mimo jej dynamicznego rozwoju w ostatnich latach, technologia AI pozostawała w dużej mierze nieuregulowana. UE ma nadzieję, że jej księga przepisów stanie się precedensem dla innych krajów.
Jednak Akt AI napotkał na opóźnienia, które osłabiły pozycję UE jako pioniera w zakresie kompleksowych regulacji AI. Niektóre grupy praw człowieka i prywatności argumentują, że regulacje te nie idą wystarczająco daleko.
Akt AI czeka teraz na formalne przyjęcie przez Parlament Europejski i Radę, aby stać się prawem Unii Europejskiej. Porozumienie będzie przedmiotem głosowania na nadchodzącym posiedzeniu komisji Rynku Wewnętrznego i Obywatelskiego Parlamentu.