Nowa regulacja, znana jako AI Act, klasyfikuje technologie AI na cztery kategorie: oprogramowanie wysokiego ryzyka, ograniczonego i minimalnego wpływu oraz systemy nieakceptowalne, które będą w UE zakazane.
Klasyfikacja AI
Nowe prawo jest rewolucyjne nie tylko dlatego, że jest pierwszym tego rodzaju na świecie, ale również dlatego, że klasyfikuje AI pod kątem potencjalnego ryzyka dla użytkowników. W myśl zasady, że im większe szkody może wyrządzić sztuczna inteligencja, tym surowsze będą przepisy regulujące jej wykorzystanie. Przepisy te są odpowiedzią na globalne wyzwania technologiczne, które stwarzają zarówno zagrożenia, jak i możliwości dla społeczeństw i gospodarek.
Grupy ryzyka i regulacje
- Systemy minimalnego ryzyka: modele AI, takie jak chatboty i gry, będą podlegać minimalnym wymogom, głównie dotyczącym przejrzystości. Użytkownicy muszą być świadomi, że mają do czynienia ze sztuczną inteligencją.
- Systemy ograniczonego ryzyka: technologie te, w tym deepfakes, będą musiały być wyraźnie oznaczone, aby zapobiegać wprowadzaniu użytkowników w błąd.
- Systemy wysokiego ryzyka: oprogramowanie wykorzystywane w oświacie, medycynie czy zarządzaniu danymi osobowymi będzie podlegać surowym wymogom bezpieczeństwa. Przykładowo, systemy analizujące podania o stypendia będą musiały być dokładnie ocenione przed wprowadzeniem na rynek, a decyzje podejmowane przez AI będą mogły być zaskarżane.
- Systemy nieakceptowalne: technologie monitorujące i szpiegujące użytkowników, wykorzystujące dane wrażliwe do przewidywania zachowań, oraz systemy punktowania społecznego będą zakazane. Zakaz dotyczy także AI monitorującej emocje w miejscach pracy czy uczelniach oraz technologii do rozpoznawania twarzy, z wyjątkiem pewnych sytuacji związanych z bezpieczeństwem publicznym.
Globalny wpływ i kary
Regulacje te mają mieć szeroki zasięg, obejmując również firmy spoza UE, które dysponują danymi klientów z UE. Ustawa AI Act może stać się wzorem dla innych krajów i regionów, podobnie jak miało to miejsce z RODO.
Nowe przepisy wejdą w życie 20 dni po publikacji w Dzienniku Urzędowym UE i będą w pełni obowiązywać za dwa lata. Firmy, które nie będą przestrzegać przepisów, będą musiały liczyć się z surowymi karami, które mogą sięgać części rocznego globalnego obrotu firmy lub określonej grzywny, w zależności od tego, która kwota będzie wyższa. Małym i średnim przedsiębiorstwom oraz start-upom grozić będą raczej kary administracyjne.
Komentarze i przyszłość AI
– Ta przełomowa ustawa, pierwsza tego rodzaju na świecie, odpowiada na globalne wyzwanie technologiczne, które stwarza również możliwości dla naszych społeczeństw i gospodarek – powiedział belgijski minister cyfryzacji Mathieu Michel. Przepisy mają na celu podkreślenie znaczenia zaufania, przejrzystości i odpowiedzialności w kontaktach z nowymi technologiami, jednocześnie wspierając rozwój i innowacyjność w Europie.
Przyjęcie AI Act stanowi ważny krok w kierunku regulacji dynamicznie rozwijającej się technologii sztucznej inteligencji, z nadzieją na ustanowienie globalnych standardów jej użycia.