Nyligen, Amazon lanseras dess AI-chatbot Amazon Q, vilket väckte intresse från företag men också oro bland anställda över allvarliga precisions- och integritetsproblem. Q rapporterades för att ha "hallucinationer av inte poco berättelse” och avslöjade konfidentiella uppgifter, vilket väcker frågor om säkerheten för företagsinformation. Här är detaljerna som avslöjas av Platformer.
Säkerhetsvarning för Amazon Q: mellan konfidentiell data och felaktiga svar
amason introducerade han dess AI-chatbot, kallad Q, för tre dagar sedan, men allt verkar inte gå som planerat. Vissa anställda har slagit larm över frågor om noggrannhet och integritet: Amazon Q skulle ha manifesterat "hallucinationer" och avslöjat Informazioni konfidentiell, som platsen för AWS-datacenter, interna rabattprogram och funktioner som ännu inte släppts.
Denna information framkom från dokument som läckt ut och erhållits av Platformer, som markerar en Nivå 2 säkerhetsproblem, en allvarlig situation som kräver brådskande ingripande av ingenjörer.
Trots detta har Amazon tonat ner vikten av dessa interna diskussioner. En talesperson sade att dela återkoppling via interna kanaler är standardpraxis hos Amazon och att inga säkerhetsproblem har identifierats som ett resultat av denna feedback. Företaget underströk vikten av den feedback som fåtts och viljan att fortsätta förfina Amazon Q när den övergår från förhandsvisning till allmän tillgänglighet.
Amazon Q, för närvarande tillgänglig i en gratis förhandsvisning, presenterades som en företagsprogramvaruversion av en chatbot, med initiala funktioner som syftar till att svara på utvecklarfrågor om AWS, modifiera källkoder och citera källor. Amazon har betonat Q:s säkerhet och integritet, i kontrast till det med konsumentklassade verktyg som ChatGPT.
Ett internt dokument avslöjade dock att Q kan "hallucinera" och ge skadliga eller olämpliga svar, som t.ex. föråldrad säkerhetsinformation vilket kan sätta kundkonton på spel. Dessa risker är typiska för stora språkmodeller, som alla tenderar att ge felaktiga eller olämpliga svar åtminstone vid vissa tillfällen.
Via | Slashdot
