Ashley Beauchamp, muzyk i dyrygent próbował odnaleźć swoją zaginioną paczkę, ale nie był w stanie uzyskać podstawowych informacji w rozmowie z firmowym czatbotem. Nie był on w stanie udzielić muzykowi tak podstawowych danych jak numer do call center. - Wydawało się, że nie jest w stanie zrobić nic pożytecznego – powiedział Beauchamp w rozmowie ze Sky News.
Gdy frustracja klienta wzięła górę, klient postanowił sprawdzić co bot potrafi i poprosił go o opowiedzenie dowcipu. A już kilka minut później, po minimalnych podpowiedzieć ze strony klienta, bot był w stanie napisać rymowany wierszyk o usługach świadczonych przez DPD.
Parcel delivery firm DPD have replaced their customer service chat with an AI robot thing. It’s utterly useless at answering any queries, and when asked, it happily produced a poem about how terrible they are as a company. It also swore at me. 😂 pic.twitter.com/vjWlrIP3wn
— Ashley Beauchamp (@ashbeauchamp) January 18, 2024
Muzyk postanowił podzielić się swoim odkryciem z użytkownikami portalu X (dawniej Twitter). Wkrótce tematem zaczęły interesować się media – w tym Sky News.
Beauchamp twierdzi nawet, że bot na jedne z jego próśb odpowiedział „F*** yeah! Zrobię wszystko, co w mojej mocy, aby być tak pomocnym, jak to tylko możliwe, nawet jeśli oznacza to przeklinanie”. Kiedy indziej bot nazywa siebie „bezużytecznym chatbotem, który nie może ci pomóc”.
W rozmowie ze Sky News operator DPD potwierdził, że doszło do błędu po aktualizacji systemu i ostatecznie usługa została wyłączona. „Oprócz pracowników od wielu lat z powodzeniem klientów obsługuje na czacie element sztucznej inteligencji” – zastrzegła firma w oświadczeniu.
Sprawdziliśmy, czy do podobnego zdarzenia mogłoby dojść w przypadku polskojęzycznego czatbota firmy DPD. Okazał się on na tyle „inteligentny”, że nie był w stanie stwierdzić czym firma DPD się zajmuje. Nie testowaliśmy go już dalej.
