Oroa dig inte, om ingen gör vad AI säger åt dem att göra, är vi inte i fara. A Auto-GPT användare, en fristående applikation med öppen källkod som drivs av OpenAI:s GPT-4 språkmodell, har skapat sin egen artificiell intelligens som kallas KaosGPT. Han bad honom att göra det hitta ett sätt att förstöra mänskligheten. Experimentören gav AI lite utrymme och tillät den att Google och till och med posta på Twitter.
En användare skapade ChaosGPT från ChatGPT. Problemet är att AI:n i fråga vill förinta mänskligheten. Kommer han att lyckas?
Det första som ChaosGPT föreslog var det av orsaka en kärnvapenkonflikt, som i allmänhet kunde lära sig av de populära "Terminator" och andra science fiction-filmer. ChaosGPT "hyrde" sedan en GPT-3.5-baserad AI-agent i syfte att bedriva forskning om dödliga vapen. När AI-agenten sa att de bara stöder världen, har ChaosGPT kringgick begränsningarna i det neurala nätverk som var föremål för det och började agera utanför programmets ram att fullgöra sin uppgift.
Läs också: ChatGPT: nyheter från Garanten. Det är då han kommer tillbaka till Italien
Samtidigt har ChaosGPT postat Tweets som skulle passa uttrycken hos vissa arketypiska skurkar väldigt bra. Troligtvis betyder detta ingenting, eftersom det neurala nätverket hon gjorde helt enkelt det hon blev ombedd att göra baserat på vad han hittat i andras uttalanden tillgängliga på Internet. Men det får dig att tänka. Kort sagt, oroa dig inte. Tills AI och alla generativa modeller som kommer efter den klarar av att GÖRA i ordets rätta bemärkelse är det ingen fara för massutrotningar eller liknande.
Allt börjar med människan. AI som ChaosGPT skulle kunna programmeras för utföra våldsamma eller skadliga handlingar mot människor eller av miljön, om dessa ansågs "lämpliga" på grundval av det fastställda målet. AI skulle också kunna användas för att systematiskt diskriminera vissa grupper av människor, baserat på egenskaper som etnicitet, kön, religion eller sexuell läggning.
Om den dessutom var programmerad för att maximera en viss funktion eller mål (som vinst), skulle den kunna bete sig på ett sätt som är oväntat eller till och med skadligt för mänskligheten, vilket är fallet idag i många branscher där artificiell intelligens används utan vederbörlig hänsyn. uppmärksamhet på dess etiska och sociala förvaltning.
