Osoby obeznane ze światem technologii i sztucznej inteligencji z pewnością śledziły wydarzenia z OpenAI w ostatnich dniach. W skrócie: firma zdecydowała się zwolnić Sama Altmana, Dyrektor Generalny. Po wyłowieniu przez Microsoft, OpenAI chciało to z powrotem. Później pojawia się wiadomość o fantomowym AGI tzw Projekt Q*. Ale czy to wszystko prawda? Osobiście uważam, że to wymówka.
Posunięcie OpenAI może, ale nie musi, być farsą
Chodźmy po kolei. 17 listopada zarząd OpenAI ogłosił usunięcie szefa firmy, powołując się na decyzję zarządu. Prawdopodobnie Altmana„nie był otwarty i konsekwentny w komunikacji z członkami zarządu, co miało miejsce uniemożliwił mu wykonywanie swoich obowiązków. W związku z tym zarząd nie ma już zaufania do swojej zdolności do dalszego kierowania OpenAI. Wraz z nim Greg Brockman opuścił stanowisko prezesa zarządu, ale na jego prośbę. On też był u początków firmy. Za jego przykładem poszło wielu innych czołowych specjalistów.
Tymczasowy dyrektor generalny, Emmet Shear, współzałożyciel serwisu Twitch, wspiera spowolnienie tempa rozwoju sztucznej inteligencji, co jest zgodne z wizją Ilja Sutskever, współzałożyciel OpenAI, uważany za jednego z inicjatorów zwolnienia Altmana.
Teraz chciałbym się skupić na tym aspekcie: „spowolnieniu tempa rozwoju AI”. Z najnowszych doniesień wynika, że zwolnienie Altmana było spowodowane tym, że za dużo biegał. Żródła potwierdziłem był to jeden z czynników na długiej liście skarg zarządu, które doprowadziły do zwolnienia Altmana komercjalizacji postępu przed zrozumieniem jego konsekwencji.
W zasadzie wydaje się, że Altman (nie wiadomo, czy sam, czy w towarzystwie) tak opracował coś, co wykracza poza sztuczną inteligencję. To coś to Projekt Q*.
Ale teraz chciałbym zrobić kolejny nawias.
Aktualne osiągnięcia w uczeniu maszynowym i innych metodach tworzenia inteligentnych systemów w rzeczywistości nie są sztuczną inteligencją. Nawet najbardziej zaawansowane modele dużych języków, takie jak GPT-4 Turbo przewidują następne słowo na podpowiedzi w oparciu o statystyki, nie rozumiejąc istoty tego, co zostało zrobione. Jednak termin sztuczna inteligencja (AI) zakorzenił się w kulturze medialnej wraz z sieciami neuronowymi i innymi modelami uczenia maszynowego.
Zamiast tego sztuczną inteligencję dzieli się zasadniczo na dwie części: ograniczony e ogólny. Ograniczony to ten, którego używamy na co dzień za pomocą ChatGPT i jest w stanie rozwiązać określone problemy: grać w szachy, generować tekst lub rozpoznawać obiekty na obrazie; generał może zachowywać się jak ludzki mózg i podejmuj decyzje na dowolny temat. Przykład: "Terminator". Krótko mówiąc, ogólna sztuczna inteligencja to ta, która jest najbliższa tzw AGI.
Zatem Projekt Q* to AGI?
Przy okazji ujawniono najnowsze wiadomości, zdaje się, że po zwolnieniu i powrocie Altmana wyszedł list (ale nie ma po nim śladu), w którym opowiada on o wspomnianym wcześniej OpenAI Project Q*. Projekt obejmuje system umożliwiający rozwiązywać problemy matematyczne, które nie znalazły się w zbiorze uczącym algorytmu. Zasadniczo ogólna sztuczna inteligencja, o której mówiliśmy poco powyżej zostałby osiągnięty.
Sam Altman zostałby zwolniony właśnie za (rzekomą) chęć promowania postępu AGI przed zrozumieniem jego konsekwencji. Rzeczywiście, nie jest tajemnicą, że badacze i uczeni w tej dziedzinie są czasu zakłopotany bezpieczeństwem ogólnej sztucznej inteligencji.
Istnieją jednak wątpliwości co do prawdziwości ostatnich doniesień. Źródła np Poboczy pytają istnienie listu do zarządu OpenAI i powiązanie między postępem AI a zwolnieniem Sama Altmana. W rzeczywistości wielu uważa, że list jest fałszywy i że Projekt Q* w rzeczywistości nie istnieje. Hipoteza jest w rzeczywistości taka, według której projekt ten powstał, aby uratować gospodarkę OpenAI, biorąc pod uwagę spadek akcji po zwolnieniu Altmana.
