AI-bubblan?

Är investeringarna som görs i AI en bubbla? Bubblor är ett återkommande psykologiskt fenomen i kapitalistiska samhällen. När en tillgång ökar i värde (det kan vara allt från tulpanlökar, till aktier, webbsidor eller internetmem) blir de som går i bräschen rika. När bubblan växer känner människor rädsla för att vara utanför gruppen, att missa en stor välståndsökning, vilket får fler och fler att hoppa på tåget. För de som har gjort det och investerat tid, pengar och anseende i idén att AI kommer att förändra världen är människans ovilja att erkänna våra misstag en spärr mot att ompröva sina beslut. När problem och järtecken hopas konstrueras motberättelser - varför skulle så många smarta personer satsa så mycket pengar? Vi vill gärna tro at att de vars förmögenhet ökat är genier och vet vad de gör, motsatsen, att de hade resurser och tur, är inte lika lockande.  

Vad är då tecknen? Det mest centrala är att AI-labben förlorar stora och ökande mängder pengar och försöker luras med sina balansräkningar för att dölja det. Anthropic och Open AI försöker dölja sina kostnader för att utveckla och köra sina modeller. Vad vi kan ana är företagets kostnad per användning minst tio gånger högre än priset de kan ta ut av sina kunder. För att dölja detta redovisas inte årliga kostnader eller så förläggs kostnader till exempelvis marknadsföringsbudgetar eller dotterföretag. Labben redovisar inte sina årliga intäkter utan sina annualiserade, det vill säga att de troligen tar årets bästa dag och multiplicerar den med 365. De försöker även redovisa sina intäkter utan kostnader istället för sin vinst. För att intäkterna ska se högre ut använder sig sektorn av cirkulär finansiering för att pumpa upp siffrorna (tänk Enron), exempelvis lånar Nvidia ut stora mängder pengar till kunder för att de ska råd att köpa deras chips. En risk med detta är att om något företag faller så sprids risken till hela industrin som vid krisen 2007. För teknologisektorn som helhet verkar det som att kostnaderna hittills varit kring 1000 miljarder $ och intäkterna kring 50 miljarder vilket vore katastrofalt dåligt, särskilt med tanke på att en betydande del av intäkterna kommer från sektorn själv.

Det andra tecknet är uppskjutandet av AI-labbens börsnoteringar. En trolig anledning till detta är att inför en börsnotering behöver företagets redovisning granskas och offentliggöras. I en bubbla vill du få andra att köpa dina övervärderade tillgångar innan bubblan spricker och en lyckad börsnotering tvingar exempelvis indexfonder att köpa in sig. Förseningarna är potentiellt katastrofala för stora investerare som Softbank och Oracle vars kreditvärdighet sjunker och lånekostnader ökar. Så även för de anställda i företagen som tagit ut massiva lån för att köpa andelar i dem. Så länge ett företag upplevs som växande kan det betala anställda och investerare med andelar i sig själv som kan säljas vidare till allmänheten när företaget börsnoteras. Hur gör då AI-labben för att upprätthålla den bilden?

Detta för oss till det tredje tecknet, AI-labbens desperata domedagsmarknadsföring. De släpper återkommande nyheter om att deras modeller ”riskerar att utplåna mänskligheten”, ”har brutit sig ut ur sin testmiljö” eller ”inte följer sin moraliska programmering”. I ett normalt fall är det dålig PR att lyfta fram riskerna med din produkt men om du ska motivera börsnoteringar av Open AI och Antropic på kring 1500 miljarder vardera trots att de förlorar miljarder årligen måste det framtida löftet vara gigantiskt. Detta är den överlägset största investeringen hittills i mänsklighetens historia, för att den ska betala av sig måste AI vara den viktigaste och mest profitabla teknologin i mänsklighetens historia. Är den det?

Kortfattat, nej. Det vi nuförtiden kallar AI är stora språkmodeller. Dessa består av matriser med miljoner till miljarder parametrar som tränas på mänsklig text genom att ge textbitar, tokens, numeriska värden. Dessa värden låter modellen slumpmässigt förutsäga nästa ord med resultat som är textlika, även om de ibland är fel samt oftast mediokra och utan originalitet. Dessa fel är en del av själva arkitekturen som saknar någon världsmodell eller tänkande och slumpar fram sina resultat. Trots detta visar modellerna en stark förmåga på vissa uppgifter: textöversättning, mönsterigenkänning, skrivande av kod, matematik. Den nuvarande metoden för att förbättra modellerna är att exponentiellt öka mängden data och processorkraft i modellen med hoppet att kvantitet ska bli kvalitet. Centrala problem med den strategin är att det inte finns något bevis för att den kommer fungera men att det med säkerhet kommer öka kostnaderna för att träna och köra modellerna på grund av all processorkraft som krävs. Denna processorkraft finns inte än varför alla de stora teknologiföretagen är i ett rejs att bygga datacenter. Dessa datacenter som ska byggas saknar byggplatser, elförsörjning och vatten för kylning. Går det att lösa?

Troligen inte. Datacenter är fruktansvärt impopulära i lokalsamhället – särskilt i USA där 75 - 90% av tillfrågade motsätter sig dem – då de släpper ut koldioxid, PFAS, ljudföroreningar, luftföroreningar och leder till stora ökningar på priset för el och vatten utan att skapa jobb efter själva konstruktionen är färdig. Detta skapar stort lokalt motstånd, flera städer och delstater har fått till förbud och fördröjningar av datacenter. Det tar normalt kring två år att bygga ett datacenter men processorkraften behövs nu. Därför har det planerats ohemula mängder av datacenter som ska byggas och AI-labb har skrivit upp sig på att köpa deras processorkraft. Varifrån kommer pengarna till detta om labben blöder pengar?

Pengarna kommer från lånemarknaden som finansierar AI på bekostnad av andra företag, infrastrukturinvesteringar, bostadslån och till och med den amerikanska staten. Den som följer ekonomiska nyheter har sett att USA:s ränta för 10-åriga statsobligationer har ökat med över 1% det senaste året till över 5%. Detta låter inte som mycket, men betänk att USA:s statsskuld är på 40 000 miljarder $, och att staten så sent som 2020 lånade till 0,5 - 1%. Om lånen rullas över till den nya räntan blir kostnaden 2000 miljarder årligen, dubbelt så mycket som försvarsbudgeten, en ohållbar nivå när budgetunderskottet samtidigt ökar på grund av skattesänkningar för de rika och ett misslyckat krig som genomförts av den nuvarande regeringen. En långsiktig anledning till att räntan har ökat är minskat förtroende för USA:s ekonomi men på kort sikt är det mest avgörande bristen på långivare. Samtidigt med den ökande svårigheten att låna till något annat än AI har USA en ökande inflation driven av framförallt energipriser där kriget har minskat tillgången och datacentren ökat efterfrågan. Denna slår hårt mot privatpersoner och mindre företag när centralbanken höjer styrräntan.

Att så mycket pengar går till de stora teknologiföretagen borde väl betyda att de har en solid ekonomi i alla fall? Tyvärr inte. I marknaden för Credit Default Swaps (högaktuell 2007) har investerare redan börjat förbereda sig för att inte bara AI-labben utan även de sju stora teknikföretagen och andra exponerade ska gå bankrutt och premierna för att försäkra sig mot detta ökar i skrivande stund. Att den del av USA:s ekonomi som växer är ”AI” och den gör det baserat på lån, inte på intäkter, är ytterligare ett tecken på en bubbla. Om den spricker kommer det troligen att drabba världsekonomin, inte bara amerikanska teknologiföretag, då aktiemarknaden sjunker (vilket påverkar se flesta svenska privatsparare och pensionsfonder) och den amerikanska staten redan nu har en ansträngd ekonomi med vilken den ska försöka hindra en upprepning av spridningseffekterna från den senaste finanskrisen. Hur mycket förtroende har du för den amerikanska regeringens förmåga att hantera en omfattande ekonomisk kris?

Åter till psykologin. Kan verkligen några av världens rikaste människor satsa på något så olönsamt? Jag tror det. Vissa är nog cyniska och hoppas på att sälja innan bubblan spricker. Andra vill desperat få sina företag att se växande ut för att leva upp till sina börsvärderingar (tänk Meta). Alla de stora teknologiföretagen har fåfängt sökt nästa stora grej de senaste femton åren med resultat som VR-glasögon, metaverse, krypto, NFT:er, Internet of Things, Platform as a Service. Det är inte konstigt att de hoppar på den nya trenden.

En tredje grupp är de som är del av eller påverkade av rationalistkulturen i Silicon Valley som tror att de är nära att skapa gud i maskinform (exempelvis Thiel, Altman och Amodei). Jag är bekant med den sen 2008 då jag läste deras forum och bloggar, särskilt Less Wrong och Slate Star Codex. De har gått från en insnöad nördsubkultur som diskuterar filosofi och science fiction till att tro att deras tankeproblem är sanna och därigenom bli en högerradikal domedagskult. En grundtext för rationalisterna är Kurzweils Singulariteten är nära men nu har de förutsagt den felaktigt ett antal gånger vilket har fått dem att tro mer på det, inte mindre. Med Singulariteten menar de ungefär skapandet av en övermänsklig intelligens som kommer att ta makten i världen (olika grupper ser det olika). Många är rädda för att den hypotetiska teknologiska supervarelsen ska utplåna mänskligheten, straffa de som varit emot den (sök på Rokos Basilisk) eller att den kommer lösa allt från cancer till klimatförändringar. Oligarker som Musk och Thiel är fokuserade på att komma först dit och kontrollera den.

Deras eskatologiska tro må vara genuin men den fungerar även som ett sätt att motivera börsvärderingar, att få känna sig viktiga, att koncentrera makt och pengar till sig, att argumentera mot att åtgärda samhällsproblem idag. Om du tror att du har människans öde i dina händer blir allt annat futtigt och moral spärrar släpper. Här har vi en verklig fara med AI, att dess politiska ekonomi ger makt åt världsfrånvända oligarker som är fientliga till demokrati, icke-vita, jämlikhet, klimatåtgärder, arbetsskydd som är höga på ketamin, undergången och sina egna språkmodeller. Det bäste vore om bubblan spräcktes snart och med den deras aktieportföljer och egon men jag skulle inte satsa på det: “markets can remain irrational longer than you can remain solvent“.

 

Källor

Better Offline – Ed Zitron

Blood in the Machine – Brian Merchant

Crashed – Adam Tooze

Dear AI Companies: Stop the “Doom Trolling” – Cal Newport

End Times Fascism – Astra Taylor & Naomi Klein

The Reverse Centaur´s Guide to a Life After AI – Cory Doctorow

The Tech Report – Dean Baker “AI Bubble: The Money is just not there”