Reakcją na potencjał ChatGPT jest rozwój nowych narzędzi do wyłapywania plagiatów powstałych przy użyciu Sztucznej Inteligencji. Jeden ze studentów opracował narzędzie, które potencjalnie (i szybko) może odkryć, który tekst został stworzony przez AI.
ChatGPT może pisać kody lub eseje szkolne oraz dowolne treści w odpowiedzi na ludzką (tekstową) podpowiedź. Chatbota OpenAI można też łatwo wykorzystać do tworzenia treści w celu oszukiwania podczas egzaminów czy do wypełniania całych stron internetowych bezwartościowym – aczkolwiek powierzchownie przekonującym – bełkotem. W odpowiedzi Edward Tian, 22-letni student ostatniego roku informatyki na Uniwersytecie Princeton, stworzył narzędzie o nazwie GPTZero.
Tian spędził semestralną przerwę zimową na opracowywaniu platformy, która mogłaby wykryć, czy dany tekst stworzył człowiek czy algorytm ChatGPT. Będące wciąż w fazie baety GPTZero używa dwóch wskaźników: „konsternacji” („perplexity”) i „nierównomierności” („burstiness”), aby zidentyfikować fragmenty tekstu stworzone przez człowieka lub AI. Tian twierdzi, że „zasługujemy na to, by wiedzieć”, czy tekst został stworzony przez świadomy siebie mózg, czy przez algorytm komputerowy.
https://twitter.com/edward_the6/status/1610067688449007618
„Konsternacja” mierzy złożoność tekstu, a raczej to, jak bardzo GPTZero jest „zakłopotany” przez tekst: wyższy poziom konsternacji sugeruje wysoki poziom złożoności tekstu, co oznacza, że fragment został prawdopodobnie napisany przez człowieka. Kiedy poziom zakłopotania jest niski, GPTZero mógł znaleźć schematy w tekście, z którymi AI było zaznajomione – co oznacza, że tekst jest najprawdopodobniej wygenerowany przez AI.
Z drugiej strony, „Nierównomierność” mierzy zmienność zdań. Ludzie mają tendencję do pisania bardziej rwanie, używając dłuższych lub złożonych zdań obok krótszych czy równoważników. Zdania AI mają tendencję do bycia bardziej jednolitymi, okrągłymi, co to z kolei może wskazywać na tekst wygenerowany przez AI. GPTZero nie jest idealny ani niezawodny, przyznaje Tian, ale rzeczywiście może zapewnić szybki wynik testu na plagiat.
Narzędzie wydaje się być przynajmniej w pewnym stopniu skuteczne i całkiem interesujące dla wielu profesjonalistów pracujących z tekstem: po udostępnieniu w sieci 2 stycznia, GPTZero przyciągnęło ponad 7 milionów wizyt i było używane przez ponad 30 000 osób. Było tak popularne, że serwis uległ awarii, popychając darmową platformę obecnie hostującą GPTZero do wsparcia Tiana większymi zasobami serwerowymi, aby lepiej zarządzać zwiększonym ruchem internetowym.
Co zabawne, również ChatGPT ma obecnie problemy z zasobami i na wejściu proponuje nam wiersze, fraszki czy dowcipy o tym, że ma problem z serwerami. Np. taki żart: „Założę się, że serwery ChatGPT nie odpowiadają, bo są zbyt zajęte próbą obliczenia sensu życia.”, co jest nawet zabawnym nawiązaniem do „Wielkiego pytania o życie, wszechświat i całą resztę” z „Autostopem przez galaktykę”. Mam jednak nadzieję, że serwery ChatGpT wrócą do pracy szybciej, niż po siedmiu i pół milionach lat, które superkomputerowi Głęboka myśl zajęło wygenerowanie liczby 42 w odpowiedzi na Pytanie. Jestem umiarkowanym optymistą. Jak Marvin.
Spyglass Entertainment
Tian wyjaśnił na Twitterze, że chciał zrobić coś, aby ograniczyć plagę plagiatów opartych na tekstach generowanych przez AI. „Naprawdę nie wiemy, co dzieje się wewnątrz” algorytmów ChatGPT, powiedział Tian, a GPTZero jest projektem stworzonym właśnie do wykrywania nadużywania możliwości AI.