OpenAI har begreppet Super anpassning, ett betydande steg framåt för att hantera riskerna i samband med superintelligens. Superintelligens, känd som den mest effektfulla tekniken som någonsin uppfunnits av mänskligheten, kan hjälpa till att lösa många av världens viktigaste problem. Men den stora kraften i superintelligens det kan också vara mycket farligt, vilket leder till att mänskligheten förlorar sin makt eller till och med mänsklig utrotning.
OpenAI presenterar Superalignment: försöket att "justera" artificiell intelligens med mänskliga avsikter
Även om superintelligens kan tyckas långt borta, tror OpenAI att det kan komma detta årtionde. Att hantera dessa risker kommer att kräva bl.a. nya institutioner för styrning och lösning av superintelligens anpassningsproblem: Hur kan AI-system som är mycket smartare än människor säkerställas att de följer mänskliga avsikter?
För närvarande finns det ingen lösning för att styra eller kontrollera ett superintelligenssystem. Aktuella AI-inriktningstekniker de förlitar sig på människors förmåga att övervaka AI, som inte kommer att vara skalbar till superintelligens. Målet med OpenAI är att bygga en automatiserad anpassningssökare på mänsklig nivå. För att uppnå detta mål behöver skalbara träningsmetoder utvecklas.
Läs också: AI och AGI: Googles vd DeepMind förutspår ett nära förestående genombrott
OpenAI sammanställer ett team av toppforskare och ingenjörer inom maskininlärning för att arbeta med detta problem. 20 % av tillgänglig datorkraft under de kommande fyra åren kommer att ägnas åt att lösa detta problem. Målet är att lösa de viktigaste tekniska utmaningarna med inriktning av superintelligens inom fyra år. OpenAI uppmanar alla som har varit framgångsrika i maskininlärning att fokusera sin uppmärksamhet på anpassning. Frukterna av denna ansträngning kommer att delas brett, och anpassning och säkerhet för icke-OpenAI-modeller är viktiga. Det bör noteras att företaget även kommer att arbeta för att förbättra säkerheten för nuvarande modeller och ta itu med andra risker från AI.
Att lösa superintelligensinriktningen kräver de bästa hjärnorna i världen. Öppna AI uppmuntrar tvärvetenskapligt samarbete och aktivt engagemang i sociotekniska frågor relaterade till anpassning av superintelligens.
