Ända sedan AI-forskningsföretaget OpenAI släppte ChatGPT i november 2022 har inget annat pratats om inom teknikområdet. I detta avseende har e-handelsjätten (men inte bara) Amazon visat sig vara uppmärksam och har till och med varnat anställda för att inte interagera med ChatGPT och dela konfidentiell information.
Amazon förbjuder sina anställda att dela konfidentiell information med ChatGPT
Amazons interna Slack-kanal hade sett många anställdas frågor om hur man använder ChatGPT. Vissa anställda frågade Amazon om det fanns några officiella riktlinjer för att använda ChatGPT på arbetsenheter. Andra ifrågasatte om de fick arbeta med AI-verktyg. En anställd uppmanar Amazons cloud computing-division, AWS, att förtydliga sin ståndpunkt när det gäller att använda "generativa artificiell intelligens (AIGC)-verktyg."
Efter poco, anslöt sig en företagsadvokat från Amazon i diskussionen. Skärmdumpar av intern kommunikation i Slack-kanalen visar att advokaten varnar anställda att inte ge ChatGPT "någon konfidentiell Amazon-information", inklusive Amazon-koden som skrivs. Han rådde också anställda att följa företagets befintliga sekretesspolicy, eftersom en del av ChatGPT:s svar verkade mycket lika dem som Amazon producerade internt.
"Detta är avgörande eftersom din input kan användas som träningsdata för ChatGPT och vi vill inte att dess utdata ska innehålla eller se ut som vår konfidentiella information", skrev advokaten.
Dessa utbyten tyder på att det plötsliga uppkomsten av ChatGPT har väckt många nya etiska frågor. ChatGPT är ett konversations-AI-verktyg som svarar på frågor med tydligare och smartare svar. Den snabba spridningen av ChatGPT har potential att störa flera branscher, inklusive media, akademi och sjukvård, vilket föranleder ansträngningar att hitta nya användningsfall för chatbots och deras eventuella inverkan.
Hur anställda delar känslig information med ChatGPT och vad dess utvecklare, OpenAI, gör med den kan bli en svår fråga. Detta är särskilt viktigt för Amazon, eftersom ärkerivalen Microsoft har investerat stort i OpenAI, inklusive en ny finansieringsrunda denna vecka som enligt uppgift är värd 10 miljarder dollar.
Emily Bender, som undervisar i beräkningslingvistik vid University of Washington, sa: "OpenAI är långt ifrån transparent om hur den använder data, men om data används för utbildning förväntar jag mig att företag tänker efter: efter flera månaders utbredd användning av ChatGPT , är det möjligt att få konfidentiell information om ett privat företag genom noggrant utformade förfrågningar?”
Amazon har ett antal interna skyddsåtgärder för anställda som använder ChatGPT. Till exempel visar skärmdumpar från börsen att när anställda använder arbetsenheter för att komma åt ChatGPT-webbplatsen, visas ett varningsmeddelande som säger att de är på väg att komma åt en tredjepartstjänst som "kanske inte är godkänd för användning av Amazon Security".
Anställda som deltog i Slack-kanalchatten sa att de kunde avvisa meddelandet genom att helt enkelt klicka på fliken "Bekräfta". Personalen spekulerade i att varningspopupen var för att förhindra anställda från att klistra in känslig information i ChatGPT, särskilt eftersom de inte hade sett företagets policy för intern användning.
Vissa Amazon-anställda använder dock redan AI-verktyg som "kodningsassistenter" för programvara för att förbättra interna kodrader. "Jag tror att det skulle vara fantastiskt att ha den här funktionen ur lådan just nu. Så vilken guide som helst skulle vara bra”, skrev en Amazon-anställd på en Slack-kanal.
En annan anställd sa att de delade Amazon-intervjufrågor för en öppen programmeringsposition på ChatGPT. Enligt medarbetarens Slack-inlägg gav AI-modellen de korrekta lösningarna på många av de tekniska problemen. "Jag är både orolig och exalterad över att se vilken inverkan detta kommer att ha på hur vi genomför kodningsintervjuer", sa han.
Sammantaget var Amazon-anställda som deltog i Slack-kanalchattar entusiastiska över potentialen i ChatGPT och undrade om Amazon utvecklade en konkurrerande produkt. Företagets advokat som varnade anställda för att använda ChatGPT sa att Amazon påskyndar utvecklingen av "liknande teknik", och citerar Alexa röstassistent och kodrekommendationstjänst CodeWhisperer som exempel.
En AWS-anställd skrev att företagets supportteam nyligen bildade ett litet internt team för att "förstå effekten av avancerad chatt-AI på vår verksamhet." Forskning visar att ChatGPT är "mycket bra" på att svara på AWS-supportfrågor, inklusive felsökning av Aurora-databasen, bland annat. Samtidigt är han också utmärkt på att skapa utbildningsmaterial för AWS Certified Cloud Architect-examen, som tar itu med kundens affärsmål.
Den växande användningen av ChatGPT på jobbet väcker allvarliga frågor om hur OpenAI planerar att använda delat material med AI-verktyg, säger UW:s Bender.
