Odkąd firma badawcza AI OpenAI wydała ChatGPT w listopadzie 2022 r., o niczym innym nie mówi się w dziedzinie technologii. Pod tym względem gigant e-commerce (ale nie tylko) Amazon okazał się uważny i nawet ostrzegł pracowników, aby nie wchodzili w interakcje z ChatGPT i nie dzielili się poufnymi informacjami.
Amazon zabrania swoim pracownikom udostępniania poufnych informacji ChatGPT
Wewnętrzny kanał Slack firmy Amazon widział wiele pytań pracowników dotyczących korzystania z ChatGPT. Niektórzy pracownicy zapytali Amazona, czy istnieją jakieś oficjalne wytyczne dotyczące korzystania z ChatGPT na urządzeniach służbowych. Inni kwestionowali, czy wolno im pracować z narzędziami AI. Pracownik wzywa dział przetwarzania w chmurze firmy Amazon, AWS, do wyjaśnienia swojego stanowiska w sprawie korzystania z „generatywnych narzędzi sztucznej inteligencji (AIGC)”.
Po poco, do dyskusji włączył się prawnik firmy Amazon. Zrzuty ekranu z komunikacji wewnętrznej na kanale Slack pokazują prawnika ostrzegającego pracowników, aby nie przekazywali ChatGPT „żadnych poufnych informacji Amazon”, w tym pisanego kodu Amazon. Poradził również pracownikom, aby postępowali zgodnie z istniejącą polityką firmy dotyczącą nieujawniania informacji, ponieważ niektóre odpowiedzi ChatGPT wyglądały bardzo podobnie do tych, które Amazon generował wewnętrznie.
„Ma to kluczowe znaczenie, ponieważ Twoje dane wejściowe mogą zostać wykorzystane jako dane szkoleniowe dla ChatGPT i nie chcemy, aby dane wyjściowe zawierały lub wyglądały jak nasze poufne informacje” – napisał prawnik.
Te wymiany zdań sugerują, że nagłe pojawienie się ChatGPT wywołało wiele nowych pytań etycznych. ChatGPT to konwersacyjne narzędzie AI, które odpowiada na pytania jaśniejszymi i mądrzejszymi odpowiedziami. Szybkie rozprzestrzenianie się ChatGPT może zakłócić działanie kilku branż, w tym mediów, środowisk akademickich i opieki zdrowotnej, skłaniając do wysiłków w celu znalezienia nowych przypadków użycia chatbotów i ich możliwego wpływu.
Sposób, w jaki pracownicy udostępniają poufne informacje ChatGPT i co robi z nimi jego programista, OpenAI, może stać się drażliwym problemem. Jest to szczególnie ważne dla Amazona, ponieważ rywal Microsoft dużo zainwestował w OpenAI, w tym nową rundę finansowania w tym tygodniu, która podobno jest warta 10 miliardów dolarów.
Emily Bender, która uczy lingwistyki komputerowej na Uniwersytecie Waszyngtońskim, powiedziała: „OpenAI jest daleki od przejrzystości, jeśli chodzi o sposób, w jaki wykorzystuje dane, ale jeśli dane są wykorzystywane do szkolenia, oczekuję, że firmy pomyślą: po kilku miesiącach powszechnego korzystania z ChatGPT , czy możliwe jest uzyskanie poufnych informacji prywatnej firmy poprzez starannie przygotowane prośby?”
Amazon posiada szereg wewnętrznych zabezpieczeń dla pracowników korzystających z ChatGPT. Na przykład zrzuty ekranu z giełdy pokazują, że gdy pracownicy korzystają z urządzeń służbowych w celu uzyskania dostępu do witryny ChatGPT, pojawia się komunikat ostrzegawczy informujący, że zamierzają uzyskać dostęp do usługi strony trzeciej, która „może nie zostać zatwierdzona do użytku przez Amazon Security”.
Pracownicy, którzy uczestniczyli w czacie kanału Slack, powiedzieli, że mogą odrzucić wiadomość, po prostu klikając kartę „Potwierdź”. Personel spekulował, że wyskakujące okienko z ostrzeżeniem miało uniemożliwić pracownikom wklejanie poufnych informacji do ChatGPT, zwłaszcza że nie widzieli oni polityki firmy dotyczącej użytku wewnętrznego.
Jednak niektórzy pracownicy Amazon już używają narzędzi AI jako programowych „asystentów kodowania”, aby pomóc ulepszyć wewnętrzne linie kodu. „Myślę, że byłoby wspaniale mieć tę funkcję od razu po wyjęciu z pudełka. Więc każdy przewodnik byłby świetny” – napisał pracownik Amazon na kanale Slack.
Inny pracownik powiedział, że podzielił się pytaniami z wywiadu Amazon na otwarte stanowisko programistyczne w ChatGPT. Zgodnie z postem pracownika na Slack, model AI zapewnił prawidłowe rozwiązania wielu problemów technicznych. „Jestem zarówno zaniepokojony, jak i podekscytowany tym, jaki wpływ będzie to miało na sposób, w jaki przeprowadzamy wywiady dotyczące kodowania” – powiedział.
Ogólnie rzecz biorąc, pracownicy Amazon uczestniczący w czatach na kanale Slack byli podekscytowani potencjałem ChatGPT i zastanawiali się, czy Amazon opracowuje konkurencyjny produkt. Prawnik firmy, który ostrzegał pracowników przed korzystaniem z ChatGPT, powiedział, że Amazon przyspiesza rozwój „podobnej technologii”, podając jako przykłady asystenta głosowego Alexa i usługę rekomendacji kodów CodeWhisperer.
Pracownik AWS napisał, że zespół wsparcia firmy utworzył niedawno mały wewnętrzny zespół, aby „zrozumieć wpływ zaawansowanej sztucznej inteligencji na czacie na naszą działalność”. Badania pokazują, że ChatGPT jest „bardzo dobry” w odpowiadaniu na pytania wsparcia AWS, w tym między innymi w rozwiązywaniu problemów z bazą danych Aurora. Równocześnie doskonale radzi sobie również z tworzeniem materiałów szkoleniowych do egzaminu AWS Certified Cloud Architect, adresując cele biznesowe klienta.
Rosnące wykorzystanie ChatGPT w pracy rodzi poważne pytania o to, w jaki sposób OpenAI planuje wykorzystywać udostępniane materiały z narzędziami AI, powiedział Bender z UW.
