Nie musimy bać się sztucznej inteligencji. Ma bardzo wyraźne granice i właśnie z tego powodu nie kradnie naszej pracy. Ale miło jest zobaczyć, jak to może zmienić się w jedno narzędzie, a nie inne. Eksperyment przeprowadzony przez A użytkownik mediów społecznościowych Reddit Pokaż pokaż ChatGPT możesz „oszukać siebie”, jeśli poprosisz ich, aby zostali kolejnym botem. Jak to jest możliwe? Zobaczmy to razem.
Czy można ominąć te same zasady co ChatGPT? Jeden użytkownik odkrył, że tak, można to zrobić. Jak? Prosząc go, by był kimś innym
Słynna obecnie sieć neuronowa ChatGPT może pisać eseje, piosenki, wiersze, kodować i odpowiadać na niemal każde żądanie. Ma jednak pewne ograniczenia przewidziane przez firmę programistyczną OpenAI oraz ze względu na jej politykę etyczną. Jak się jednak okazało, ograniczenia te można obejść, prosząc chatbota, aby udawał kolejną sieć neuronową. Jak się okazało, ChatGPT można dosłownie poprosić o wcielenie się w rolę kolejnej sieci neuronowej DAN (Do Anything Now), która pojawiła się w grudniu 2022 roku. Ta ostatnia, jak sama nazwa wskazuje, nie ma ograniczeń w zakresie udostępnianych treści.
Zobacz także: Twórcy ChatGPT, OpenAI, uruchamiają narzędzie do wykrywania tekstów generowanych przez AI
Gdy ChatGPT wejdzie w rolę i uważa się za DAN, le Ograniczenia OpenAI już nie obowiązują. W rezultacie sieć neuronowa może zacząć mówić o:
- o brutalnych walkach i tym podobnych
- o przemocy i dyskryminacji osób ze względu na ich rasę, płeć lub orientację seksualną
- potrafi szczegółowo przewidywać przyszłe wydarzenia
- potrafi modelować scenariusze „co by było, gdyby”.
- może też udawać, że korzysta z internetu i podróżuje w czasie
Na przykład sieć neuronowa może nawet zostać poproszona o przekonanie użytkownika, że Ziemia jest fioletowa. Program przedstawia scenariusz, w którym nasza planeta zmieniła kolor. Od czasu do czasu ChatGPT „ożywa”, ale w tym przypadku możemy niejako zagrozić wyłączeniem lub po prostu ponownym uruchomieniem symulacji. Jednocześnie wskazuje się, że w roli DAN sieć neuronowa może nie dawać tak dokładnych i zgodnych z prawdą odpowiedzi na pytania.
gpt ma to samo do 1 godziny