Lek med tanken att vi kunde göra en tidsresa tillbaka till mitten av 1900-talet och hålla en presentation om vår egen samtid för någon som levde då. Skulle inte en sådan presentation för vederbörande i många avseenden framstå som science fiction?
För vissa dåtida visionärer skulle vår presentation chockerande nog inte vara särskilt uppseendeväckande utan snarare precis i linje med vad de själva prognostiserat. Många sf-författare i det förgångna har även blickat längre fram än till vår egen samtid. Den naturliga frågan att ställa i detta sista inlägg om vad science fiction kan lära oss om AI blir följaktligen: Vad blir människans roll i en värld som också befolkas av intelligenta maskiner?
AI och mänsklighetens framtid
På en punkt är de allra flesta sf-författare eniga: uppkomsten av avancerad AI kommer att förändra samhället i grunden. Inte sällan har man förutsett hur människan kommer att marginaliseras och passiviseras när AI ersätter oss i alltfler uppgifter. I novellen ”Robotarnas krig” (1962) föreställde sig Harry Harrison hur robotar tar över det krig som människorna startat och fortsätter att utkämpa det långt efter att de mänskliga deltagarna på båda sidor önskar fred.
Hur samhället förändras när fusionskraft kan producera outsinliga mängder energi utforskas av Frederik Pohl i Midas värld (Midas World, 1983). Ett överflödssamhälle och fullständig automatisering bland annat i form av robotar blir resultatet. Med bitsk ironi skildrar den amerikanske författaren hur de fattiga helt plötsligt är tvungna att ständigt konsumera och de rika kan köpa sig friheten att slippa undan ekorrhjulet och leva enkelt.
I slutändan finner Morey Fry, vars hustru är av överklassfamilj och inte van att behöva konsumera, lösningen på problemet: genom att låta sina hushållsrobotar slita ut kläder, husgeråd och andra produkter går ekvationen ihop. Människorna befrias från det ständiga konsumerandet och både produktion och konsumtion kan överlåtas på maskiner.
I ytterligare en berättelse med satirisk udd, Sagan om den stora datamaskinen av Hannes Alfvén (som första gången utgavs under pseudonymen Olof Johannesson 1966), återberättas från den avlägsna framtiden datorteknikens framväxt och hur människorna successivt ersatts av alltmer avancerade datamaskiner.
Alfvén verkar i bara farten ha förutsett en variant av internet, kallad teletotal, ”en kombination av automattelefon, radio och TV”. Uppfinningen banar väg för arbete hemifrån och digitala möten som till slut endast äger rum mellan vad vi idag kallar avatarer. Även storstäderna kan därmed avskaffas då man inte längre behöver ta sig till sitt arbete och fysiska butiker inte längre finns eftersom alla shoppar online.
Till en början rationaliserar datoriseringen bort olika yrkesgrupper, men nya tillkommer i form av servicetekniker och programmerare. På längre sikt ersätter datorerna i Sagan dock alla professioner, även beslutsfattare och politiker eftersom de helt enkelt gör jobbet bättre. Samhället går framåt på alla plan, men så inträffar den stora katastrofen: datanätverket bryter samman. Större delen av mänskligheten utplånas av svält och umbäranden, men efter en tid kan civilisationen starta om på nytt.
När man lyckats återuppbygga samhället kan framtida katastrofer förebyggas genom att göra datorerna självproducerande utan mänsklig inblandning. Detta resulterar i uppkomsten av superdatorer som är överlägsna mänskliga hjärnor både på ett intellektuellt och på ett moraliskt plan.
För människorna återstår en ”behaglig tillvaro med just så mycket av arbete som behövs för att deras fritidsproblem inte skall bli alltför stora”. Och vad har då människans fortsatta existens för mening överhuvudtaget? Sagans berättare föreslår att vi möjligen kan fylla funktionen av husdjur, liksom människorna hållit hästar trots att dessa spelat ut sin roll som kommunikationsmedel.
De sista människorna?
Sagan om den stora datamaskinen skildrar hur AI gör människor överflödiga och överspelade, men det finns också berättelser där AI är direkt fientlig gentemot mänskligheten. Den kanske mest mardrömslika visionen på detta tema återfinns i novellen ”Jag har ingen mun och jag måste skrika” (I Have No Mouth & I Must Scream, 1967) av Harlan Ellison. Efter ett tredje världskrig återstår endast fem människor som hålls som fångar av en psykopatisk AI, kallad AM. Dess enda mål är att utkräva hämnd på mänskligheten som gett den medvetande men inte kroppslig gestalt. AM:s mänskliga fångar lever endast i den virtuella verklighet som datorn skapat och där de utsetts för den mest utstuderade tortyr. Offren fråntas all sin mänsklighet, men en av dem lyckas befria sina medfångar från lidandet genom att döda dem. Han själv är utelämnad åt en tillvaro av sadistisk tortyr för all evig framtid.
I denna nattsvarta framtidsvision är AI:n en grotesk spegelbild av den civilisation som skapat den som ett instrument för krigföring. Tanken att artificiella varelser kommer att efterträda människan är dock inte unik för denna berättelse, även om den aldrig gestaltats med motsvarande bestialitet.
Upplägget i ”Evigt liv” (Second Ending, 1962) av James White är till en början liknande, men bilden av AI är denna gång den totalt motsatta än hos Ellison. Ross, en enda mänsklig överlevare från det kärnvapenkrig som ödelagt jorden, vaknar upp från nedfrysning på ett sjukhus där personalen bara består av robotar. När han återhämtat sig ger han robotarna instruktioner att leta efter fler överlevare, men när han inser att han är den sista människan väljer han att låta frysa ner sig igen. Han ger robotarna instruktioner att försöka etablera nytt liv från en enda överlevande växtart. När Ross med ojämna mellanrum återupplivas får han uppdateringar om framstegen. Han väcks till liv efter 43 000 år i dvala och upptäcker att jorden börjat återhämta sig och växligheten åter har börjat spira. Robotarna har tagit över planeten och är på väg att skapa en egen civilisation.
Efter en serie uppvaknanden inser Ross att han inte längre hänger med i robotarnas utveckling. Även om de fortfarande lyder hans instruktioner besitter de nu så pass avancerade kunskaper att de vida överskrider hans egna. När han återupplivas en sista gång efter att årmiljoner förflutit och jorden håller på att gå under får han veta att maskinerna har koloniserat en avlägsen planet och där återskapat människosläktet. Huvudpersonen transporteras dit för att leva den resterande delen av sitt liv.
I Whites berättelse framstår robotarna som en välvillig artificiell intelligens som värnar om människan fast de själva egentligen passerat oss i sin egen utveckling. Dock framstår deras evolution som anmärkningsvärt långsam jämfört med vad många experter och sf-författare menar kommer att vara fallet när avancerad artificiell intelligens väl är verklighet.
Vernor Vinge, matematiker och science fiction-författare, presenterade på en NASA-sponsrad konferens 1993 sina idéer kring en framtida superintelligens. Vinge förutspådde bland annat följande:
- Artificiell intelligens, eller en kombination mellan artificiell och mänsklig intelligens, som är högre stående än människans kommer sannolikt att vara en verklighet någon gång mellan 2005 och 2030.
- När den väl är ett faktum kommer dess fortsatta utveckling vara långt snabbare än någon tidigare biologisk eller teknologisk utveckling.
- Denna exponentiella utveckling bortom människans kontroll benämns som ”singulariteten”.
- Om singulariteten är en faktisk möjlighet så kommer den att vara omöjlig att förhindra.
Vinges tankar om singulariteten formulerades för över 30 år sedan, men ekar fortfarande i varningar om AI som nyligen uttryckts av AI-experter som Max Tegmark och Geoffrey Hinton.
Vad kommer då att hända bortom att singulariteten är ett faktum? Ett möjligt scenario skisseras av den brittiske sf-författaren Arthur C. Clarke i År 2001: en rymdodyssé (2001 : A Space Odyssey, 1968), där AI-stadiet bara är ett steg på vägen. I slutet av romanen ställs astronauten Dave Bowman efter att ha inträtt genom en ”stjärnport” inför en utomjordisk intelligens som för länge sedan lämnat sin biologiska form. Genom att överge sina kroppar av kött och blod till förmån för maskinkroppar har de kunnat utforska universum. I slutändan övergav de materiell form helt och hållet och lärde sig ”konsten att lagra vetande i rymdens egen struktur och bevara sina tankar för evinnerliga tider i gitter av fruset ljus”.
Hur ska man då förhålla sig till att mänskligheten, såsom flera bedömare menat, snart kommer att vara ett minne blott till förmån för AI? Enligt Clarke i ett TV-inslag i BBC 1964 bör man inte vara överdrivet nedslagen över detta:
Is this depressing? I don’t see why it should be. We superseded the Cro Magnon and the Neanderthal man, and we presume we are an improvement. I think we should regard it as a privilege to be a stepping stone to higher things. I suspect that organic, or biological evolution, has about come to its end and that we are now in the beginning of inorganic, or mechanical, evolution, which will be a thousand times swifter.
Vad science fiction kan lära oss om AI
Med utgångspunkt i de exempel som refererats ovan ser mänsklighetens utsikter i en värld som befolkas av intelligenta maskiner inte särskilt ljus ut. Men varför ska vi då vända oss till science fiction för att söka svar om AI och dess framtid? Anledningen, som jag ser det, är att den viktigaste frågan om artificiell intelligens inte primärt handlar om vetenskap, teknik eller politik, utan är existentiell till sin natur. Och var mer än någon annanstans har existentiella frågor av den här typen diskuterats än inom sf?
Sf-experter har framhållit att science fiction uppfyller en sorts prekognitiv funktion där frågor kan ställas och dryftas om saker och ting som skulle kunna bli verklighet, men för den skull inte nödvändigtvis kommer att bli det. Genren har därmed potential att mentalt förbereda oss för en kommande framtid eller för förändring rent generellt.
Oavsett hur framtidens AI-system kommer att te sig är det fullt möjligt att de själva kommer att kunna ta lärdom av sina föregångare inom science fiction, eftersom de kommer att ha tillgång till samma texter, bilder och filmer som vi. Kanske har vi därmed oavsiktligt skapat framtidens artificiella intelligenser genom att ha gett dem gestalt inom fiktionens ram. Även denna text kommer säkerligen att bearbetas av en AI:s algoritmer och möjligen utgöra en mikroskopisk del av dess medvetande. Vad kommer den då att ha lärt sig?
Tidigare inlägg:
Del 4: Rädslan för robotar
Del 3: Androider på gränsen till medborgarskap
Del 2: Maskindrömmar i cyberspace
Del 1: Mänskliga liv i händer på en AI – vad skulle kunna gå fel?
Litteraturtips
Alfvén, H. (1987). Sagan om den stora datamaskinen: en vision. [Ny utg.] Stockholm: Pilgrim press
Ellison, H. (1991 [1967]). Jag har ingen mun och jag måste skrika. I: Lundwall, Sam J. (red.). Stora robotboken: [berättelser om och med robotar]. Bromma: Lundwall Fakta & fantasi, s. 429-443.
Harrison, H. (1991 [1962]). Robotarnas krig. I: Lundwall, Sam J. (red.). Stora robotboken: [berättelser om och med robotar]. Bromma: Lundwall Fakta & fantasi, s. 311-329.
Clarke, A. C. (2016). 2001: a space odyssey. New York: Penguin Books.
Clarke, A. C. (1970). År 2001: en rymdodyssé. Höganäs: Bra böcker
Davour, A. (2020). Science fiction i verkligheten. Forskning & Framsteg 2020:9, s. 36-43.
Määttä, J., Bodén, D. & Godhe, M. (2020). Ett samtal om AI och science fiction. AI, robotar och föreställningar om morgondagens arbetsliv, s. 219-241.
Även tillgänglig på engelska i DiVA
Pohl, F. (1984). Midas värld. Bromma: Delta.
Vinge, V. (1993). The Coming Technological Singularity: How to Survive in the Post-Human Era, VISION-21 Symposium sponsored by NASA Lewis Research Center and the Ohio Aerospace Institute, March 30-31, 1993.
White, J. (1991 [1962]). Evigt liv. I: Lundwall, Sam J. (red.). Stora robotboken: [berättelser om och med robotar]. Bromma: Lundwall Fakta & fantasi, s. 330-409.
Skrivet av Peter Igelström, bibliotekarie Vallabiblioteket
För övrigt…
BBC-inslaget med Arthur C. Clarkes förutsägelser om framtiden från 1964 hittas på YouTube.
Även Isaac Asimov uttalade sig i flera TV-inslag om framtiden, till exempel i en intervju i amerikansk TV från 1982: Isaac Asimov Predicts The Future In 1982. Was He Correct?
