I den digitala tidsåldern vi lever i, innehållskontroll har blivit en av de mest pressande utmaningarna för onlineplattformar. Med utvecklingen av artificiell intelligens tror OpenAI starkt på GPT-4:s förmåga att ta itu med och eventuellt lösa detta problem. På sin officiella blogg berättar företaget som är mest i rampljuset under perioden om ett bra sätt att ändra riktning inom en snar framtid.
Ämnen i denna artikel:
OpenAI:s idé om innehållskontroll är allt annat än dum
OpenAI, organisationen bakom revolutionerande mjukvara som ChatGPT och DALL-E, är övertygad om att GPT-4 kan la nyckel att ta itu med ett av de mest komplexa problemen inom tekniksektorn: kontroll av innehåll i stor skala. Tanken är att GPT-4 skulle kunna ersätta ett stort antal mänskliga moderatorer, vilket säkerställer nästan jämförbar noggrannhet och större konsekvens i besluten.
Nyligen, OpenAI avslöjade har redan experimenterat med att använda GPT-4 för att utveckla och förfina sina innehållspolicyer. Detta påverkar inte bara innehållsmärkningen utan också fatta avgörande beslut om vad som bör och inte bör tillåtas. Lilian Weng, chef för säkerhetssystem på OpenAI, underströk vikten av denna utveckling och sa att den representerar ett viktigt steg på vägen AI kan användas för att ta itu med verkliga problem, som erbjuder lösningar som kan gynna hela samhället.
Läs också: Det här företaget bevisar att AI inte kommer att stjäla våra jobb ... snarare tvärtom
De tre anledningarna till att OpenAI:s verksamhet är revolutionerande
- Konsekvens i beslut: till skillnad från människor, som kan tolka policyer på olika sätt, är maskiner konsekventa i sina bedömningar. Riktlinjer, som kan vara lika långa som en bok och ändras ofta, kan implementeras omedelbart av stora språkmodeller, medan människor skulle kräva mycket träning för att lära sig och anpassa sig.
- Snabbhet i att skapa nya policyer: GPT-4 har förmågan att utveckla en ny policy på timmar, vilket revolutionerar en process som traditionellt skulle ta veckor eller månader. Detta inkluderar utarbetande, märkning, insamling av feedback och förfining av policyer.
- Arbetarnas välfärd: OpenAI lägger tonvikt på välbefinnandet för arbetare som ständigt utsätts för skadligt innehåll, såsom barnmisshandel eller tortyrvideor. Att automatisera denna process kan minska mänsklig exponering för sådant traumatiskt innehåll.
Det är dock fortfarande en lång väg att gå mot helautomatisk moderering. Även om AI har potential att förbättra moderering, finns det fortfarande många utmaningar framför sig. Till exempel skillnad mellan vilseledande, felaktigt och aggressivt innehåll som inte nödvändigtvis är olagliga utgör en stor utmaning för automatiserade system. Även mänskliga experter kämpar för att märka sådana inlägg, och maskiner gör ofta misstag.
Fara för mänskligt arbete?
Som vanligt pratar vi alltid om detta: kommer AI att stjäla våra jobb? För de flesta företag som använder innehållsmoderering är det värt att vara försiktig. Även om artificiell intelligens har utvecklats avsevärt de senaste åren, det kommer inte att ta bort mänskliga jobb snart. Mänsklig tillsyn förblir en kritisk komponent för att noggrant övervaka onlineinnehåll. Så svaret är nej, det kommer inte att stjäla arbetet men det kommer att förbättra det.
Det är dock viktigt att vara medveten om att en sådan utveckling inom tekniken måste också motsvara en ökning av specialiseringsnivån för arbetare inom det tekniska området. Om detta saknas är utbyte oundvikligt.
"I bästa fall är det vi har och kommer att fortsätta ha en hybrid. Men de senaste åren har jag bara sett en ökning av antalet anställningar, inte en minskning" sade han UCLA professor Sarah T. Roberts a Gränsen många år sedan. En framgångsrik strategi för innehållsmoderering måste kombinera det bästa av nästa generations teknik och mänskliga agenter.
