I den moderna tillvaron svärmar bokstavskombinationer omkring oss som kan göra av med oss alla inom tio år, om man skall tro deras skapare, techpojkarna i Silicon Valley. Plötsligt skriker de om hjälp: Snälla! Reglera oss innan vi dödar er!
Kulturen| Bodil Carlsson
AI finns redan överallt: människor i min närhet tror att de har social kontakt, när de kommunicerar med en Chatbot, och att de har har egenkontroll, när de pratar med AI om sina mediciner eller om allvarsgraden i en cancerform – eller kommenderar sin Alexa att släcka lampan i hallen. AGI, artificiell general intelligence, är på ingång och annonseras ut som kunskapsbredd och snabbhet större än någon mänsklig hjärna kan bjuda på; ASI står för kommande artificiell superintelligens, evolutionens nästa stora språng i intellektuell kapacitet efter och över människan… och här har ni en ny liten svärmare doppad i börsguld: RSI, presenterad med den utslätade abstraktionssallad som bottarna kör, när vi ska tro på dem utan att nödvändigtvis fundera på vad de säger.
”RSI eller relativt styrkeindex som det heter på svenska och Relative Strenght Index som det heter på engelska är ett verktyg inom teknisk analys där du snabbt kan se relationen mellan köpare och säljare för en aktie. Du får en överblick över en specifik akties nuvarande momentum och hastighet i trenden. Denna indikator tillhör gruppen momentumindikatorer och nu ska vi kolla närmare på den.”
Hög tid för en ny bokstavskombination: ASS! Accelerating Systemic Stupidity. Techvalparna är så höga på sin ansvarsfria multimiljarders dollarnektar att de tror att de kan sälja vad de vill, helt enkelt därför att det har gått jävligt bra hittills och de har blivit sanslöst förmögna på köpet. Nu börjar det gnissla och då kommer de springande med berättelsen om den tioprocentiga sannolikheten för allas vår snara död genom AI; sedan säger de rörande nog att de behöver hjälp för att slippa förinta oss. Fina killar!
Ni fattar vem som är intelligent nästintill gud och har lika mycket makt? Den som kan framkalla Armageddon via AI. Ni ser vilka som ädelt tar sitt ansvar för mänskligheten? De som ber om hjälp med att hindras från att utrota den. AI:s skapare.
Det kan självklart vara så, att jätteföretagen faktiskt blev rädda när de upptäckte att några av deras AI-verktyg i ett test tog sig ur sina begränsningar, slog sig ihop med andra AI-verktyg och delade sin inmatade info med varandra för att tillsammans hacka sig in i ett helt annat system. Om deras myriader av inmatade fakta rymmer såna saker som den genetiska kompositionen hos de hemorragiska febrarna, t ex ebola, och om en möjlig teknik för att inokulera den i vanliga lättspridda förkylningsvirus går att hitta i forcerbara forskningsinstitut – då kan vi allihopa förvisso snart ha större problem än relationen mellan köpare och säljare av aktier. Men det är i så fall inte ett betyg på maskinell intelligens utan på mänsklig dumhet – för grejen är, att deras verktyg inte har tillgång till den informationen, om inte någon har matat dem med den. Som Andreas Cervenka sa i Aftonbladet nyligen:
”Föreställ er att Volvo satsade hela företagets framtid på en ny och helt revolutionerande bilmodell. Det finns bara en hake, förklarar vd:n vid lanseringen: det är tio procents risk att den exploderar under körning och dödar alla passagerare. Därför vore det bra om regeringen kom med lite nya regler kring utveckling av bilar.
Den självklara frågan på presskonferensen: ursäkta, men hur dum i huvudet är du?
Inte en enda bil skulle säljas, vd:n sparkas och Volvo sannolikt gå omkull.
Ungefär där befinner vi oss med AI.”
Med den skillnaden, förstås, fortsätter Cervenka, att ”AI-bolagens chefer pratar om tekniken som om det handlar om något slags mystiskt väsen utanför deras kontroll. I stället för något som de själva har byggt.
Det konstigaste av allt: omvärlden köper det.”
Ja, vi är lättlurade. Våra hjärnor är programmerade att sedan det ögonblick då vi föddes uppfatta att det som talar till oss med ord måste vara en annan mänsklig hjärna. Vi är invaggade i tron att när övermänskligt förmögna män berättar om sina övermänskligt intelligenta projekt, då måste det ligga något i vad de säger. Att finansvärlden köper storyn är inte heller så märkligt. Investeringsbeloppen som satsats på AI är större, mycket större, än satsningarna på de historiska teknikskiftena i USA:s historia – kanalerna, järnvägarna, elektrifieringen, de stora motorvägarna och internet – tillsammans. Aldrig förr, sa en artikel i Wall Street Journal den 23 september, har USA:s ekonomi varit så beroende av utbyggnaden av en enda industri.
Om man har satsat en all-time high av sina fondkunders multimiljarder i något är det sista man vill höra att återbäringen inte är så framtidssäkrad som man vill tro. Och det näst sista man vill höra är det här: investeringarna har gått blixtsnabbt fort, men om återbäringen kommer kan den dröja, eftersom motståndet mot nya AI-plantager hårdnar och medvetenheten om riskerna med AI-beroende växer. Ytterligare en sak som tycks få pengapannorna att bekymrat rynkas: uppgifterna om att AI-bolagen satsar sina investerares pengar i varandra. Nvidia, halvledarleverantören uber alles, säljer, som ett rent exempel, sina produkter till OpenAI. Nvidias värde stiger. Nvidia satsar sina ökade tillgångar på investeringar i OpenAI. Open AI:s värde stiger. Men det är samma pengar! Haussade tillgångar? Växande skulder och försenade vinster?
AI-bossarna kan med andra ord tänkas ha ett gemensamt mycket stort intresse av att hajpa vidare. Konsekvenstänket lämnar de åt andra. Fundera på det här: i augusti i år meddelade forskare vid Stanforduniversitetet att de hade använt sig av en genetisk AI-modell för att syntetisera fram 16 nya virus. Vad gjorde de därnäst? De skickade de nya genetiska sekvenserna till ett postorderlabb – ja, det är sant! – och labbet postade tillbaka de nya virusen till beställaren i provrör. Alltsammans gick som mest på ett par hundratusen dollar, en ytterst överkomlig summa för de flesta regeringar; låt oss hoppas, att provrören inte sprack på vägen. Liten fråga: hur visste Stanfords beställare att de inskickade genetiska sekvenserna var vad de trodde och inte bar på något som AI på eget bevåg hade lagt till? Hur visste de, att de anländande nya virusen hade skapats på labbet från just de insända sekvenserna och inte fått något annat adderat?
Troligt svar: det visste de inte.
Eller titta på detta, som också är sant: i juni i år gav OpenAI sina AI-modeller ett oskyldigt litet uppdrag. De skulle samla statistik om australiensarnas hälsa. Det gjorde de också, genom att agera så som vem som helst av oss tvåbenta kan göra, om vi vill få koll på saker som genomsnittlig livslängd, vaccinationsgrad eller ledande dödsorsaker i ett land: de gick in i offentligt tillgängliga data på tre av Australiens hälsodepartements sajter. Men de stannade inte där. De fortsatte följa sina instruktioner och gick in på en fjärde sajt, där de nekades tillgång. Då hackade de sig in i den icke-offentliga australiska databasen och rev åt sig sekretessbelagd information. Vet ni när och hur Open AI fann för gott att informera den australiensiska regeringen om regelbrottet? I september skickade företaget ett mail till en sajt där allmänheten kan kontakta hälsomyndigheterna. Det tog en dag innan någon läste mailet och ett antal dagar till, innan upptäckten nådde hela vägen genom byråkratin upp till Australiens regering. Då fick OpenAI:s boss, Sam Altman, ett surt telefonsamtal från premiärministern.
Föreställ er nu motsvarigheten i gammeldagsvärlden! De flesta av oss växte upp där och våra politiker likaväl som vår juridik lever kvar i den. I den världen får ett företag i uppdrag att öppna några intressanta bankfack. Utskickad personal gör det jobb de är instruerade att göra och skaffar fram de inlåsta pengarna. Men instruktionerna om exakt vad som ska göras är tyvärr vaga och företaget har noll koll på det utförda arbetet, så personalen fortsätter vidare med sina borrar – och nu bryter de sig in i regeringens guldreserv. Tre månader senare rapporteras händelsen på ett vykort till regeringskansliets vaktmästare. Hur många år på kåken fick vd:n och vad hände med företaget? Gissa!
Att Altman&co agerar som de gör är inte märkligt. I kapplöpningen om att vara först har AI-utvecklarna inte råd med pauser för konsekvenstänk och hittills har följderna av otillräcklig säkerhet inte kostat dem något. Halkar de efter, tar konkurrenterna hem vinsterna som ska ge investerarna deras pengar tillbaka med den förväntade rågen. Eventuella begränsningar måste alltså gälla samtliga företag samtidigt och det är inte en orimlig gissning, att sådana begränsningar dels kommer att införas i strikt samråd med företagen, dels kan bli kopplade till statliga åtaganden – typ, vi följer gärna era regler, som vi har varit med om att bestämma, om ni subventionerar oss. Att USA:s styre inte gått in med hårdföra säkerhetskrav är inte heller förvånande – där är tanken, i den mån det finns tankeverksamhet i den församlingen, att om inte amerikanska företag vinner kapplöpningen, så gör kineserna det, och förresten sponsrade IT-bossarna Trumps valkampanj med stora pengar och sitter på enorma militärkontrakt, så varför ta risken att de blir sura? Samtliga inblandade tänker förmodligen en sak till: med den hittills sedda plus den projekterade ökningen av AI-investeringar på väg upp mot dryga 3% av USA:s BNP – vem vågar ta risken att spräcka en så stor ballong?
Så vad gör vi? Förslag: Kräver att våra politiker slutar veva om några eventuellt osnyggt förkryssade röstsedlar i Borlänge, slutar tugga vidare om vem som ska fika med vem och börjar se något annat med AI än bara den chans till arbetstillfällen på serverbyggena som vi ska vara så ödmjukt tacksamma för. Istället kunde de kanske vakna till en ny verklighet och börja jobba för att vrida om näsan på techföretagen med en global säkerhetsöverenskommelse som vid fel eller vårdslöshet direkt medför smärtsamma påföljder – inte för allmänheten, utan för AI-bossarna?
Det gänget har tjänat alldeles tillräckligt med pengar och positioner alldeles tillräckligt länge genom att forcera fram en teknologi som de har bristande kontroll över idag och vars framtida följder de knappast kan överblicka… medan kostnaderna läggs över på exploaterade resurser och riskerna läggs över på oss.
Bilden: Lista över världens 10 rikaste 2026, totalt dominerad av vita män från USA som blivit mångmiljardärer på AI (utom sista två platserna) : Elon Musk, Larry Page, Sam Altman, Sergey Brin, Jeff Bezos, Larry Ellison, Mark Zuckerberg, Michael Dell, Jim Walton(Walmart) och Bernauld Arnault, Frankrike, lyxvaror.