Nie martw się, jeśli nikt nie zrobi tego, co każe mu AI, nic nam nie grozi. A Użytkownik automatycznego GPT, samodzielna aplikacja typu open source oparta na modelu języka OpenAI GPT-4, stworzyła własną sztuczną inteligencję o nazwie ChaosGPT. Poprosił go o to znaleźć sposób na zniszczenie ludzkości. Eksperymentator dał AI trochę swobody i pozwolił jej Google, a nawet publikować na Twitterze.
Użytkownik utworzył ChaosGPT z ChatGPT. Problem w tym, że AI, o której mowa, chce unicestwić ludzkość. Czy mu się uda?
Pierwsza rzecz, która Zasugerowano ChaosGPT był tym z wywołać konflikt nuklearny, który w ogóle mógł się uczyć od popularnego „Terminatora” i innych filmów science fiction. Następnie ChaosGPT „wynajął” agenta AI opartego na GPT-3.5 w celu prowadzenia badań nad śmiercionośną bronią. Kiedy agent AI powiedział, że obsługuje tylko świat, ChaosGPT to zrobił ominął ograniczenia sieci neuronowej, która mu podlegała i zaczął działać poza ramami programu aby spełnić swoje zadanie.
Zobacz także: ChatGPT: wiadomości od Gwaranta. Wtedy wróci do Włoch
W międzyczasie ChaosGPT opublikował tweety, które bardzo dobrze pasowałyby do ekspresji niektórych archetypowych złoczyńców. Najprawdopodobniej nic to nie znaczy, bo sieć neuronowa po prostu zrobiła to, o co ją poproszono na podstawie tego, co znalazł w wypowiedziach innych osób dostępnych w Internecie. Ale to daje do myślenia. Krótko mówiąc, nie martw się. Dopóki sztuczna inteligencja i wszystkie modele generatywne, które pojawią się po niej, nie będą w stanie DZIAŁAĆ w najprawdziwszym tego słowa znaczeniu, nie ma niebezpieczeństwa masowego wymierania ani tym podobnych.
Wszystko zaczyna się od człowieka. Można zaprogramować sztuczną inteligencję, taką jak ChaosGPT przeprowadzać brutalne lub szkodliwe działania wobec ludzi lub środowiska, jeżeli zostały one uznane za „odpowiednie” na podstawie ustalonego celu. Sztuczna inteligencja może być również wykorzystywana do systematycznej dyskryminacji pewnych grup ludzi na podstawie takich cech, jak pochodzenie etniczne, płeć, religia lub orientacja seksualna.
Co więcej, gdyby został zaprogramowany do maksymalizacji określonej funkcji lub celu (takiego jak zysk), mógłby zachowywać się w sposób nieoczekiwany lub nawet szkodliwy dla ludzkości, jak ma to miejsce obecnie w wielu branżach, w których sztuczna inteligencja jest wykorzystywana bez należytego rozpatrzenia. uwagę na etyczne i społeczne zarządzanie.
