AI-racet har gått ut på att vara snabbast, men nu vill Anthropics vd Dario Amodei lätta på gasen. Han föreslår en plan där utvecklingen fortsätter, fast med betydligt hårdare säkerhetskontroller. Bakgrunden är bland annat att AI allt oftare används för att bygga ännu bättre AI. Amodei vill därför ge oberoende granskare större insyn och få de ledande AI-bolagen att enas om gemensamma säkerhetsregler. På sikt vill han även se internationellt samarbete.
Lite oväntat så håller OpenAI-chefen Sam Altman med. När två av AI-racets största konkurrenter samtidigt börjar prata om att bromsa kan det vara värt att lyssna.
Nej, det är alldeles för sent. Kina bromsar inte, och de släpper sina modeller som open source. Vem som helst som har tillgång till ett datacenter, till exempel en stat, kan alltså ta hem modellerna och anpassa dem efter vad de har i kikaren. Hur ska väst kunna försvara sig mot det då?
Varningarna kring AI blir allt mörkare. Forskare pratar om en utveckling som kan springa ifrån oss och både OpenAI och Anthropic vill att USA och Kina börjar samarbeta kring säkerheten.
Donald Trump verkar dock inte särskilt sugen på att lätta på gasen. ”Den som vinner AI, vinner”, säger Trump och tonar samtidigt ner de värsta riskerna. Kinas Xi Jinping vill visserligen se gemensamma globala regler, men inte heller Kina verkar vilja sakta ner själva utvecklingen.
Det börjar alltså bli en rätt märklig situation. Människorna som bygger världens mest avancerade AI ber politikerna hjälpa till att bromsa, medan världens två största AI-makter fortfarande helst vill vinna racet.
Jag måste erkänna att jag inte är så insatt i AI, och kunnigare människor än jag har säkert många åsikter kring artikeln i länken, men jag tyckte den var väldigt intressant och tankeväckande!
Är det inte lite naivt att tro att de här två länderna kommer att lita på varandra? Och hur ska det ens kontrolleras? Det är ju inte som en kärnvapenanläggning, där man kan skicka dit inspektörer och kontrollera vad som pågår.
