OpenAI ma koncepcja Super wyrównanie, znaczący krok naprzód w zarządzaniu ryzykiem związanym z superinteligencją. Superinteligencja, uznawana za najbardziej wpływową technologię, jaką kiedykolwiek wymyśliła ludzkość, może pomóc rozwiązać wiele najważniejszych problemów świata. Jednak ogromna moc tzw superinteligencja może być również bardzo niebezpieczne, prowadząc do osłabienia ludzkości, a nawet do jej wyginięcia.
OpenAI przedstawia Superalignment: próbę „dopasowania” sztucznej inteligencji do ludzkich intencji
Chociaż superinteligencja może wydawać się odległa, OpenAI uważa, że może nadejść w tej dekadzie. Zarządzanie tymi ryzykami będzie wymagało m.in. nowe instytucje zarządzające i rozwiązanie problemu zestrojenia superinteligencji: W jaki sposób systemy sztucznej inteligencji, znacznie inteligentniejsze od ludzi, mogą mieć pewność, że podążają za ludzkimi intencjami?
Obecnie nie ma rozwiązania do kierowania lub kontrolowania systemu superinteligencji. Obecne techniki dopasowywania AI polegają na zdolności ludzi do nadzorowania sztucznej inteligencji, które nie będą skalowalne do superinteligencji. Celem OpenAI jest zbudowanie zautomatyzowane poszukiwanie wyrównania na poziomie człowieka. Aby osiągnąć ten cel, należy opracować skalowalne metody szkoleniowe.
Zobacz także: AI i AGI: CEO Google DeepMind przewiduje rychły przełom
OpenAI gromadzi zespół najlepszych badaczy i inżynierów zajmujących się uczeniem maszynowym do pracy nad tym problemem. 20% dostępnej mocy obliczeniowej w ciągu najbliższych czterech lat zostanie przeznaczone na rozwiązanie tego problemu. Celem jest rozwiązanie kluczowych wyzwań technicznych związanych z zestrojeniem superinteligencji w ciągu czterech lat. OpenAI zaprasza wszystkich, którzy odnieśli sukces w uczeniu maszynowym, do skupienia uwagi na wyrównaniu. Owoce tych wysiłków będą szeroko rozpowszechniane, a dostosowanie i bezpieczeństwo modeli innych niż OpenAI są ważne. Należy zauważyć, że firma będzie również pracować nad poprawą bezpieczeństwa obecnych modeli i zająć się innymi zagrożeniami ze strony AI.
Rozwiązanie zestrojenia superinteligencji wymaga najlepszych umysłów na świecie. Otwórz sztuczną inteligencję zachęca do współpracy interdyscyplinarnej oraz aktywne zaangażowanie w kwestie socjotechniczne związane z zestrojeniem superinteligencji.
