Algoritmen för Instagram-rullar, en del av metajätten, lyfte han oro för minderårigas säkerhet. En utredning av Wall Street Journal avslöjar att genom att följa vissa konton från unga influencers började algoritmen att att föreslå innehåll olämplig e sexuell, tillsammans med annonser från stora varumärken. Kort sagt, Instagram visar vuxet innehåll även för de som inte borde.
Den kontroversiella Instagram-algoritmen som visar vuxet innehåll (förbjudet) även för minderåriga
Testet, utfört av Wall Street Journal, som involverade skapa konton avsedda att följa unga influencers som gymnaster och cheerleaders, visade att Instagram-algoritmen har börjat föreslå vuxet innehåll, inklusive sexuella videor som involverar vuxna och minderåriga, och reklam från välkända amerikanska varumärken.
Undersökningen avslöjade en alarmerande trend: kontona efter dessa ungdomar utsattes för en oroande blandning av pornografi och material som sexualiserade barn. Experter på algoritmiska rekommendationssystem har lyft fram hur sådant "nisch"-innehåll kan ge starkare signaler än de av allmänt intresse, vilket driver algoritmen att rikta olämpligt innehåll mot användare.
Läs också: Pulcinellas hemlighet avslöjas: miljontals minderåriga användare på Instagram
Problemet med att samla vuxet innehåll på Instagram det var känt internt och att förhindra sådan spridning kräver betydande förändringar av rekommendationsalgoritmer. Det visar dock företagsdokument säkerhetspersonal är i stort sett förbjudna att göra ändringar på plattformen som kan minska antalet dagliga aktiva användare.
Som svar sa Meta att de investerar miljarder i lösningar för säkerhet, säkerhet och varumärkeslämplighet, samtidigt som de erkänner behovet av ytterligare förbättringar. Olika företag, bl.a Match Grupp e Bumble, de avbröts eller minskat sin reklam på Reels och andra metaplattformar efter dessa upptäckter. Andra, gillar Disney e Nycklar, trycker på Meta för att undvika sådana annonsplaceringar och har uttryckt oro över associeringen av deras varumärken med sådant innehåll.
