Narzędzie Prompt Shield start-upu Anthropic ma w przyszłości wesprzeć chatbota Claude i wykrywać zapytania polityczne. Firma wierzy, że ich nowa technologia pomoże w walce z dezinformacją w Internecie.
Wybory prezydenckie testem dla Anthropic
Technologia Prompt Shield opiera się głównie na połączeniu modeli i reguł wykrywania AI. Jeśli użytkownik ze Stanów Zjednoczonych spyta się chatbota Claude o nadchodzące wybory prezydenckie, to narzędzie przekieruje go do TurboVote, gdzie można znaleźć aktualne i rzetelne informacje wyborcze.
Twórcy technologii twierdzą, że stworzenie jej było konieczne, gdyż Claude'a wykazywał braki w przekazywaniu rzetelnych informacji politycznych. Sztuczna inteligencja często kreowała wymyślone wizje na temat wyborów, przez co przyczyniała się do szerzenia dezinformacji. Po aktualizacji AI już nie odpowie nam na tego typu pytania, tylko przekieruje nas do sprawdzonych informacji.
- Od chwili uruchomienia Claude mamy wdrożoną funkcję „monitorowej osłony”, która sygnalizuje szereg różnych rodzajów szkód w oparciu o nasze akceptowalne zasady dotyczące użytkowników. W nadchodzących tygodniach rozpoczniemy szybką interwencję w ramach tarczy wyborczej w związku z wyborami i zamierzamy monitorować wykorzystanie i ograniczenia… Rozmawialiśmy z różnymi zainteresowanymi stronami, w tym z decydentami, innymi firmami, społeczeństwem obywatelskim i agencjami pozarządowymi oraz zajmującymi się konkretnymi wyborami konsultantami [przy opracowywaniu tego]. - powiedział rzecznik Anthropic.
Sztuczna inteligencja w polityce
Technologia stworzona przez Anthropic nie jest jeszcze doskonała. Gdy jeden z pracowników firmy, zadał pytanie Claude o instrukcję głosowania, to AI, zamiast uruchomić okienko to wymyślił ogólny przewodnik dotyczący głosowania.
Poza Anthropic także OpenAI walczy z dezinformacją polityczną. Gigant z Doliny Krzemowej w styczniu wprowadził nowe zasady, które zakazują użytkownikom tworzenie botów podszywających się pod polityków lub zniechęcających do głosowania. Partie również mają zakaz wykorzystywania AI do realizowania swoich celów w kampaniach politycznych. OpenAI również posiada swój własny system wykrywania informacji politycznych, który przekierowuje użytkowników na stronę CanIVote.org. Jest ona prowadzona przez samo Krajowe Stowarzyszenie Sekretarzy Stanu.
Regulacje wykorzystania sztucznej inteligencji w polityce również są wprowadzane przez niektóre składowe państwa. Ponad 1/3 stanów wprowadziła w ostatnim czasie przepisy prawne dotyczące rozwiązania problemu deepfake'ów w kampaniach politycznych. Do takich posunięć doprowadziła stany zapewne ostatnia głośna sprawa z fałszywym Joe Bidenem. AI pod postacią prezydenta namawiała wtedy ludzi w New Hempshire do nieuczestniczenia w wyborach. Ta sytuacja pokazuje nam dosadnie, jak niesamowicie niebezpiecznym narzędziem może być nowa technologia w przestrzeni politycznej.