ChatGPT Maker OpenAI udostępnia narzędzie „Nie w pełni zaufane” do odkrywania treści generowanych przez sztuczną inteligencję | sztuczna inteligencja (AI)

OpenAI, laboratorium badawcze stojące za AI ChatGPT, wydało narzędzie zaprojektowane do wykrywania, czy tekst został napisany przez sztuczną inteligencję, ale ostrzega, że ​​nie jest to jeszcze całkowicie niezawodne.

We wtorkowym poście na blogu połączył OpenAI z nowym narzędziem do klasyfikacji, które zostało przeszkolone w rozróżnianiu tekstu napisanego przez człowieka od tekstu napisanego przez różne AI, nie tylko przez ChatGPT.

Naukowcy z Open AI stwierdzili, że chociaż „niemożliwe jest niezawodne wykrycie całego tekstu napisanego przez AI”, dobrzy klasyfikatorzy mogą wykryć oznaki, że tekst został napisany przez AI. Narzędzie może być przydatne w przypadkach, gdy sztuczna inteligencja została wykorzystana do „oszustwa akademickiego” i gdy chatboty AI są pozycjonowane jako ludzie, powiedzieli.

Przyznali jednak, że zeszyt ćwiczeń był „nie do końca wiarygodny” i poprawnie zidentyfikował tylko 26% tekstów w języku angielskim wpisanych przez sztuczną inteligencję. W 9% przypadków błędnie klasyfikował teksty pisane przez ludzi jako prawdopodobnie przez narzędzia sztucznej inteligencji.

„Niezawodność naszego klasyfikatora zwykle poprawia się wraz ze wzrostem długości tekstu wejściowego. W porównaniu z poprzednio wydanym klasyfikatorem, ten nowy klasyfikator jest znacznie bardziej niezawodny w przypadku tekstów niż nowsze systemy AI.”

Odkąd ChatGPT został otwarty dla publiczności, wywołał falę niepokoju wśród instytucji edukacyjnych na całym świecie, że może prowadzić do ściągania na egzaminach lub ocenach.

Wykładowcy w Wielkiej Brytanii Nakłania się ich do przeglądu sposobu, w jaki oceniano ich kursy, podczas gdy niektóre uniwersytety całkowicie zakazały technologii i Powrót do pióra i papieru Egzaminy, które mają uniemożliwić studentom korzystanie ze sztucznej inteligencji.

Jeden powiedział wykładowca na Deakin University w Australii Mniej więcej jedna na pięć ocen, które przejęła podczas australijskiego lata, korzystała z pomocy AI.

a Liczba czasopism naukowych Zakazałem również używania ChatGPT w skryptach dla arkuszy.

OpenAI powiedział, że narzędzie do etykietowania ma kilka ograniczeń, w tym zawodność w przypadku tekstu poniżej 1000 znaków, a także błędne rozpoznawanie tekstu napisanego przez człowieka jako napisanego przez AI. Naukowcy stwierdzili również, że należy go używać tylko do tekstu w języku angielskim, ponieważ w innych językach działa „znacznie gorzej” i nie można na nim polegać przy sprawdzaniu kodu.

„Nie powinno być używane jako podstawowe narzędzie do podejmowania decyzji, ale raczej jako uzupełnienie innych metod określania źródła fragmentu tekstu” – powiedział OpenAI.

OpenAI zaprosiło teraz instytucje edukacyjne do podzielenia się swoimi doświadczeniami z używania ChatGPT w klasie.

Podczas gdy większość odpowiedziała na sztuczną inteligencję zakazami, niektórzy przyjęli falę sztucznej inteligencji. the Trzy główne uniwersytety w Australii Południowej W zeszłym miesiącu zaktualizowali swoje zasady, aby powiedzieć, że sztuczna inteligencja, taka jak ChatGPT, jest dozwolona, ​​o ile zostanie ujawniona.