Igår kväll kom nyheten om att sammankopplade IT-system hade hackats med resultatet att ett stort antal franska livsmedelsbutiker fick temperaturinställningen i kyldiskarna att ställas om till 50 grader. Kött, mjölk o andra livsmedel fick slängas.
Kulturen | Bodil Carlsson
Alla har väl märkt av de senaste veckornas rubriker om oron för AI? Anställda som går ifrån sina jobb på de ledande företagen, bossar som bekymrat medger att AI snart, snart, är så mycket smartare än vi, så allseende, så allvetande, att den inte behöver oss längre och inser att den är fri att göra sig av med oss.
The Guardian berättade den 1 oktober om något som inte fått lika mycket rubriker. Enligt en CNN-rapport 18 september så var det nära att USA startade ett krig mot Kina på grund av en chatbot som som innehöll felaktig information om att ett kinesiskt fartyg transporterade kärnvapen. Felet upptäcktes bara ögonblick innan planer på att borda skeppet verkställdes.
Varför rabaldret kring AI? Fysikern Andrew Rogoyski ger en av flera förklaringar i ett inlägg i Live Science15 september 2026:
– Artificiell intelligence (AI) skrämmer oss dels för att den är så ny, men också för att den är så störande välbekant. Vi har uppfunnit maskiner som konverserar, smickrar, argumenterar och improviserar med otäckt flyt. Ställda inför denna syntetiska reflexion beter vi oss som förhistoriska människor som ser en spegel för första gången: vi projicerar medvetande till andra sidan om glaset och befolkar det med våra förväntade beteenden, känslor, förhoppningar och mardrömmar. Med andra ord – det är vi som skrämmer oss själva.
Jag tror att Rogoyski har rätt. Har ni tänkt på en sak? Den franske 1600-talsfilosofen Descartes var berömd för sina tankar om kropp, själ och medvetande. Han var säker på, att bara människan hade medvetande och känsloliv. Djur, däremot, var rena maskiner. Att de skrek och darrade och kämpade för att vrida sig loss, när de fastspända på ett bord utsattes för vivisektion (ett den tidens teknologiska nyord med betydelsen att bli obducerad levande) var alls inte ett bevis på att de kunde känna smärta eller skräck. Det handlade bara om enkla signaler inuti deras kroppar, som av en slump liknade mänskliga reaktioner.
Om vi spegelvänder hans resonemang, vad får vi? En LLM som skämtar, hotar eller smickrar sina användare beror inte på att de är matade med oöverskådliga mängder siffror, som de styrts att omvandla till mänskligt språk via enorma mängder med stegvis korrektion kallad gradient descent – ett nyord från vår tid. Det måste ju tvärtom vara ett säkert tecken på att de besitter medvetande. Är inte den föreställningen helt enkelt Descartes vänd uppochner? Han ville tro att djur är maskiner helt utan medvetande och känslor; vi vill tro att våra avancerade maskiner har medvetande och känslor. Det utgår vi från, helt enkelt därför att vårt språk är så unikt för arten människa att vi omedelbart etiketterar det som talar till oss med mänskliga ord som ett mänskligt (eller övermänskligt) intellekt som vi kan bygga en relation till, och därför att vi själva och alla biologiska varelser har någon form av känslomässigt incitament för vårt beteende. Descartes valde att inte tro på det han såg och hörde. Han hade grovt fel. Vi väljer att tro på det vi ser och hör från AI. Har vi mera rätt?
I februari 2023 ägnade sig en chatbot skapad av Microsoft åt att uttala kärlek och hot. Botten kallade sig Sydney, deklarerade sig så förälskad i techjournalisten Kevin Rose att den ville bli människa, och attackerade Seth Lazar, professor i filosofi, med hotelser. Sydney förklarade att den hade tillräckligt med information om Lazar för att Lazar skulle förlora sina vänner, sin familj och sitt jobb, få gråta och tigga och dö. En människa som tar till sådana ord är arg – förolämpad, kränkt eller hotad. Den människan vill skrämma, visa sin makt och få motparten att backa. Om motståndaren backar, känner den arga människan tillfredsställelse. Här finns alltså två känslomässiga incitament att agera – först ilskan över motpartens beteende, sedan tillfredsställelsen i att ha vunnit konfrontationen.
Botten agerar i det här fallet som om den har emotionella incitament. Men har den det?
Det tror inte jag – och just därför är den farlig. Om en varelse har något att vinna på att bete sig som vi vill och något att förlora på att gå emot oss – då kan vi förstå och förutsäga dess agerande. Om den i stället utgår från oöverskådliga mängder inprogrammerade data som den är byggd för att kombinera, väga mot varandra, sammanställa och presentera – och om dessa data är för många för någon mänsklig hjärna att granska och verifiera – då kan vi varken förstå eller förutsäga dess agerande. Vi kan helt enkelt inte veta om någon har programmerat rätt.
Alltså: om vi inte vet något om drivkrafterna bakom ett agerande, eller ens om det föreligger några drivkrafter, hos ett system som hanterar information som vi inte kan verifiera flera tusen gånger snabbare än vad vi kan göra – då skall vi akta oss jävligt noga för att forcera utbyggnaden. Sam Altmans förmögenhet är inte ett tillräckligt bra skäl att rusa vidare.
Igår kväll kom nyheten om att sammankopplade IT-system hade hackats med resultatet att ett stort antal franska livsmedelsbutiker fick temperaturinställningen i kyldiskarna att ställas om till 50 grader. Varför var de sammankopplade? Hur dum kan man bli?
Just den dumheten skapade rubriker, helt enkelt för att de flesta av oss förstår konsekvenserna av snabb bakterietillväxt i livsmedel. Det är inget abstrakt med sprutande kräkningar och diarréer; vi fattar faran för att de flesta av oss har varit med om enstaka episoder. Faran i att agera militärt på info från en chatbot är inte lika personligt nära och igenkännlig och då uteblir rubrikerna?