OpenAI, startup zajmujący się badaniami nad sztuczną inteligencją, uruchomił we wtorek narzędzie do sprawdzania, czy tekst został napisany przez człowieka, czy przez komputer.
Twórcy ChatGPT, OpenAI, uruchamiają narzędzie do wykrywania tekstów generowanych przez AI
OpenAI, firma stojąca za ChatGPT, chatbotem, który może generować tekst podobny do ludzkiego, stała się wirusowa po wydaniu dwa miesiące temu. Microsoft ogłosił w zeszłym tygodniu wielomiliardową inwestycję w OpenAI i powiedział, że włączy modele AI startupu do swoich produktów konsumenckich i biznesowych.
Od czasu debiutu ChatGPT w listopadzie niektóre z największych okręgów szkolnych w USA, w tym Nowy Jork, zakazały chatbota AI z powodu obaw, że uczniowie będą używać generatora tekstu do oszukiwania lub plagiatu.
Dyrektor generalny OpenAI, Sam Altman, powiedział, że edukacja zmieniła się w przeszłości wraz z pojawieniem się kalkulatorów i innych technologii, ale zasugerował również, że firma może mieć sposób, aby pomóc nauczycielom w odkrywaniu tekstu pisanego z AI.
Nowe narzędzie OpenAI nie jest doskonałe, a firma twierdzi, że wciąż trwają prace i mogą wystąpić błędy podczas korzystania z niego. „W naszej ocenie naszego „zestawu wyzwań” tekstów w języku angielskim nasz klasyfikator poprawnie zidentyfikował 26% tekstu napisanego przez sztuczną inteligencję (prawdziwe pozytywy) jako „prawdopodobnie napisany przez sztuczną inteligencję”, podczas gdy 9% tekstu napisanego przez człowieka tekst został błędnie oznaczony jako napisany przez AI (fałszywe alarmy)” – napisał pracownik OpenAI.
Nowe narzędzie nie radzi sobie z parsowaniem artykułów poniżej 1000 znaków, a OpenAI odradza jego używanie w językach innych niż angielski. Ponadto tekst AI może zostać zaktualizowany na tyle, aby uniemożliwić klasyfikatorowi prawidłową ocenę, że nie jest to dzieło człowieka.
OpenAI twierdzi, że kontaktuje się z nauczycielami w celu omówienia możliwości i ograniczeń ChatGPT i będzie nadal pracować nad wykrywaniem tekstu generowanego przez sztuczną inteligencję.
W ofercie na Amazon
