fot. DALL-E

Użytkownicy mediów społecznościowych odkryli niedawno, że poproszenie ChatGPT o napisanie nazwiska „David Mayer” powoduje błędy i zakończenie sesji. 404Media odkryło, że to samo dzieje się, gdy pytano o „Jonathana Zittraina”, profesora Harvard Law School i „Jonathana Turleya”, profesora George Washington University Law School.

Kilka innych nazwisk również spowodowało, że ChatGPT odpowiedział „Nie jestem w stanie udzielić odpowiedzi” i „Wystąpił błąd podczas generowania odpowiedzi”. Nie działają nawet wypróbowane sztuczki, jak wpisanie nazwiska od tyłu i poproszenie SI o prawidłowe napisanie.

Portal ArsTechnica stworzył listę nazwisk, z którymi ChatGPT ma problem. Obecnie David Mayer nie wprawia już chatbota w stupor, ale następujące nazwiska już tak: Brian Hood, Jonathan Turley, Jonathan Zittrain, David Faber i Guido Scorza.

Powodem takiego zachowania są dobrze znane halucynacje sztucznej inteligencji. Brian Hood zagroził pozwaniem OpenAI w 2023 roku, gdy ChatGPT stwierdził, że australijski burmistrz trafił do więzienia za łapówkarstwo – w rzeczywistości był on informatorem. OpenAI ostatecznie zgodziło się odfiltrować nieprawdziwe stwierdzenia, dodając do ChatGPT zakodowany na stałe filtr na jego nazwisko.

ChatGPT fałszywie twierdził, że Jonathan Turley był zamieszany w skandal związany z molestowaniem seksualny, który nigdy nie miał miejsca w rzeczywistości. W swojej odpowiedzi zacytował nawet artykuł z Washington Post, który również został zmyślony przez AI. Sam Jonathan Turley powiedział, że nigdy nie próbował pozwać OpenAI, a firma nigdy się z nim nie skontaktowała.

Nie ma oczywistego powodu, dla którego nazwisko Zittraina jest zablokowane. Niedawno napisał on artykuł w The Atlantic zatytułowany „We Need to Control AI Agents Now” i, podobnie jak Turley, jego praca została zacytowana w pozwie o naruszenie praw autorskich jaki złożył New York Times przeciwko OpenAI i Microsoftowi. Jednak wprowadzenie nazwisk innych autorów, których prace są również cytowane w rzeczonym pozwie, nie powoduje awarii ChatGPT.

Nie jest również jasne, dlaczego David Mayer został zablokowany, a następnie odblokowany. Są tacy, którzy uważają, że jest to związane z Davidem Mayerem de Rothschildem, choć nie ma na to dowodów.

Ars Technica zwraca uwagę, że te zakodowane na stałe filtry mogą powodować problemy podczas użytkowania ChatGPT. Atakujący może na przykład przerwać sesję za pomocą wizualnego „wstrzyknięcia” jednej z nazw wyrenderowanych ledwo czytelną czcionką osadzoną w obrazie. Co więcej, ktoś mógłby wykorzystać filtry, dodając jedną z „zakazanych” nazw do swojej strony internetowej, tym samym potencjalnie uniemożliwiając ChatGPT przetwarzanie zawartych w niej danych – choć akurat nie wszyscy mogą postrzegać to jako coś złego.

Z kolei kilka kanadyjskich firm informacyjnych i medialnych połączyło siły, aby pozwać OpenAI za wykorzystywanie ich artykułów bez pozwolenia i żądają 20 000 dolarów kanadyjskich (około 58 000 zł) za każde naruszenie – co oznacza, że przegrany proces może kosztować OpenAI miliardy dolarów.

Zobacz także:

-

PlayStation świętuje 30-lecie. Zobacz nostalgiczne wideo i zainstaluj unikatowy motyw PS5

-

Wiedźmin 4 wkracza w kolejny etap! CD Projekt informuje o postępach w pracach nad Project Polaris