Tag: science fiction

Posted on

Utställning om AI och science fiction på Vallabiblioteket

Vad har science fiction att säga om AI? En skrift från biblioteket och en utställning utforskar frågan med hjälp av en rad LiU-forskare. Lanseringen sker under ett event i Studenthuset den 26 maj.

Skriften ”Artificiell intelligens – vad vi kan lära av science fiction 2.0” samlar bidrag från flera olika forskningsområden vid LiU och tar upp teman som människa-maskin-relationer, arbete, utbildning, makt, ansvar och hur framtider kan föreställas. Science fiction används som tankeexperiment, inspirationskälla och i vissa fall som vetenskaplig metod för att bredda och fördjupa samtalet om artificiell intelligens. Detta är den andra och väsentligt utökade upplagan av skriften, vars första upplaga publicerades 2024.

Med skriften som utgångspunkt har en utställning tagits fram som går att se på Vallabiblioteket i Studenthuset under sommaren och bit in på höstterminen 2026. I utställningen presenteras både skönlitteratur och den forskning som ligger till grund för flera av skriftens bidrag. Du kan också rösta fram den bästa berättelsen om AI och uppleva musikaliska inslag med anknytning till utställningens tema.

En monter med ett DVD-omslag, en modell av datorn HAL 9000 och en t-shirt.
Utställningen visas på plan 3 i Studenthuset på Campus Valla.
Modeller och en teckning med flygande tefat och ett antal böcker.
Även i övriga delar av Studenthuset kan man hitta lästips med koppling till utställningens tema, till exempel på plan 5.

Event på temat AI i Studenthuset

Tisdag den 26 maj klockan 12.15 sker lanseringen av skriften och invigning av utställningen under ett event i Studenthuset. Besökare får också möjlighet att delta i en tävling genom att skapa ett omslag till en science fiction-bok. Mest kreativa förslag vinner.

Alla är välkomna!

 

Rösta fram bästa berättelsen om AI

För dig som har en berättelse om AI du särskilt vill rekommendera (roman, novell, film, tv-serie etc.) finns möjlighet att delta i denna omröstning:

Top 10: Bästa berättelse om AI (formulär)

Resultatet kommer att presenteras i form av en top 10-lista i anslutning till utställningen.

Musikinspiration

Utställningen ackompanjeras av stämningsfull musik i science fiction-anda från duon Simply Dead, bestående av kommunikatörerna Per Wistbo Nibell och Jan Boman vid Kommunikations- och marknadsavdelningen vid LiU. Musikstycket har titeln “Threads of Destiny” och går att höra via YouTube:
Simply Dead – Threads Of Destiny

Duon har också gjort stycket “Lament Aries”, som hämtat inspiration från en känd science fiction-film:
Simply Dead – Lament Aries

Vi som arbetat med utställningen har även sammanställt följande lista med låtar och musikstycken som kan kopplas till utställningens tema. Vi har valt att vara väldigt tillåtande när det gäller hur mycket respektive verk relaterar till ämnet – i vissa fall är kopplingen till science fiction (eller AI) uppenbar, i andra fall är det stämningen eller soundet som fallit avgörandet.

Listan (i alfabetisk ordning) ser ut enligt följande:

The Alien Planet – Jerry Goldsmith

När en AI som den hemliga så kallade synteten i Alien (1979) följer sina order perfekt, vad händer med oss som inte ingår i planen?

Alien Remnants – Amanda Jones

Vad händer när AI:n döljer att den gjort sig självständig och börjar välja själv? I tv-serien Murderbot (2025) ser en AI hellre på en tv-serie än lyder order.

Also Sprach Zarathustra – Richard Strauss

Inledningen till Richard Strauss tondikt från 1896 användes av Stanley Kubrick som ledmotiv i science fiction-filmen 2001: A Space Odyssey (1968). Även om helt ny musik hade beställts kom den aldrig att användas i filmen; vid premiären bestod även den övriga musiken enbart av klassiska kompositörers verk (av Johann Strauss d.y., Aram Chatjaturjan och György Ligeti).

Blade Runner – Main Titles & Tears in Rain – Vangelis

I Blade Runner (1982) är replikanter skapade för att vara mänskliga men behandlas som något mindre. Om de kan minnas, känna och frukta döden, vad skiljer dem då från oss? Vangelis musik till filmen har blivit klassisk, inte minst stycket “Tears in Rain” från scenen där replikanten Roy Batty (Rutger Hauer) håller en monolog om livets förgänglighet och uttrycker insikten att hans korta liv nu är till ända.

Caprica – Main Theme for Solo Piano – Mark Northam

I tv-serien Caprica (2009–2010) är det sorg som är drivkraften att skapa AI, precis som i Transcendence och avsnitt i Black Mirror. Serien visar att cylonerna/cylons (AI) inte bara är skapade utan att de är resultatet av mänskliga behov, känslor och val. Konsekvensen blir dock de cylons som återvänder 58 år senare i Battlestar Galactica-serien för att utplåna mänskligheten.

Clubbed to Death – Robert D. from “The Matrix”

Om AI blir medveten och kontrollerar världen märker vi det kanske inte ens.

The Dark Side (Alternate Reality Version) – Muse

Matt Bellamy, sångare, gitarrist, pianist och huvudsaklig låtskrivare i Muse, har beskrivit låten som en skildring av frustration och ensamhet i en teknologisk värld och en kamp för att bryta sig loss från en verklighet som känns konstruerad som en slags Matrix.

Everybody Runs! – Minority Report soundtrack – John Williams

Om avancerad teknologi och AI-liknande system som i Minority Report (2002) kan bidra till att förutse och förhindra brott i framtiden, är massövervakning med AI då ett rimligt pris? Hur mycket frihet är vi beredda att ge upp för säkerhet?

Everything in its right place – Radiohead

När en artificiell verklighet känns verklig som i Vanilla Sky (2001), spelar det då någon roll vad som är sant?

Forever Young – Alphaville

Den tyska gruppen Alphavilles låt “Forever Young” (1984) återspeglar oron för kärnvapenkrig och den tillhörande musikvideon har en påtagligt apokalyptisk atmosfär. I vår tid kan låttiteln även tillskrivas en ny innebörd i ljuset av den transhumanistiska diskurs där vissa tänker sig kunna leva för evigt genom att ladda upp sitt medvetande digitalt. En coverversion av låten förekom i trailern till science fiction-filmen Gemini Man (2019).

I’ll Be Back – Remastered 2017 – Brad Fiedel

I Terminator-filmerna stoppar människan hotet för att sedan utveckla det igen. Vad säger det om oss?

Imperial March from The Empire Strikes Back – John Williams

Ett välbekant stycke för alla Star Wars-fans. “Imperial March”, även kallad “Darth Vader’s Theme”, förekom första gången i Star Wars-filmen The Empire Strikes Back (Rymdimperiet slår tillbaka) från 1980.

It Came Out of the Sky – Creedence Clearwater Revival

Låten, som finns med på albumet Willy and the Poor Boys (1969), handlar om en ufo-incident och dess efterspel. John Fogerty – gruppens ledande gestalt – har själv uttryckt intresse för ufo-fenomenet, som uppenbarligen utgjort inspirationskälla för denna låt.

Lab Raid – Hans Zimmer

Om en AI som i The Creator (2023) kan uppleva världen som vi, känna och knyta band, har vi då rätt att behandla den som något annat?

Love Scene – Brad Fiedel

Mitt i kriget mellan människa och maskin i The Terminator (1984), visar en stund av kärlek sig vara avgörande för mänsklighetens framtid.

No One’s Controlling Me – Ramin Djawadi

I tv-serien Westworld (2016 – 2022) börjar allt som en extremt avancerad nöjespark där människoliknande androider är programmerade att spela upp fasta berättelser för besökare. De dör, repareras och återställs varje dag utan att minnas vad som hänt. Men serien förändras gradvis till en berättelse om medvetande, fri vilja och kontroll.

Opening / Kepler 22-b – Marc Streitenfeld

I tv-serien Raised by Wolves (2020) får en AI, som en gång var en dödsmaskin, uppdraget att vara mamma. Vad formar henne mest, det hon var, eller det hon ska bli? Kan man verkligen lita på henne?

Real Humans (Main Theme) – Rikard Borggård

Från tv-serien Äkta människor (2012). När robotar, så kallade hubotar, blir en del av svenska vardagen suddas gränsen mellan människa och maskin ut. Bör hubotarna som utvecklar eget medvetande och känslor betraktas som objekt eller subjekt med egna rättigheter? Vem bär ansvaret när en hubot orsakar skada eller agerar på ett sätt som strider mot mänsklig moral?

Replicas – John Williams

Filmen A.I. Artificial Intelligence (2001), vars manus bygger på tre noveller av Brian Aldiss, handlar om en avancerad robotpojke som längtar efter att bli verklig så att han kan återfå kärleken från sin mänskliga mor. Är en maskin som kan älska mindre verklig än vi?

Starbuck Disappears – Bear McCreary

I tv-serien Battlestar Galactica (2004–2009) pågår ett krig mellan cylonerna/cylons (AI) och människan. Om inte ett sådant krig skulle pågå och vi precis som i Battlestar inte skulle kunna avgöra vad som är människa och vad som är AI, spelar det då någon roll vad man är?

Star Trek: First Contact Main Title – Jerry Goldsmith

Ledmotivet till den andra (av fyra) filmer med besättningen från tv-serien Star Trek: The Next Generation, med titeln Star Trek: First Contact (1996). I filmen kämpar Captain Picard och hans besättning (inklusive androiden Data) mot de cybernetiska borgerna (”the Borg”). När en av karaktärerna först får höra om de fientliga utomjordingarna fäller hon repliken: ”Borg? Sounds Swedish…”.

Star Trek: The Motion Picture Main Theme – Jerry Goldsmith

Ett främmande objekt närmar sig jorden och förstör allting i sin väg i den första Star Trek-filmen från 1979 (som var en fortsättning på tv-serien från 1966-1969). AI visar sig vara en avgörande faktor.

Stealing The Code – Ben Salisbury, Geoff Barrow

Devs (2020) är en filosofisk sci-fi-thriller i miniserieform skapad av Alex Garland som gjorde Ex_Machina. Huvudrollen är mjukvaruingenjören Lily Chan som försöker ta reda på vad den hemliga avdelningen på det mystiska techbolaget i Silicon Valley egentligen gör. I en värld där allt kan förutsägas om man bara har tillräckligt med data, vad händer då med fri vilja?

Transformation – Vince Pope
Smashing the Quoomputer – Ames Bessada
MetallicaFan – Daniel Pemberton

Tre låtar från de AI-relaterade avsnitten “Be Right Back”, “Joan is Awful” och “USS Callister” i tv-serien Black mirror (2011). När AI återskapar en människa från data, är det verkligen samma person, eller bara ett eko? När AI börjar skapa våra liv åt oss, vem äger egentligen vår identitet? När digitala kopior får medvetande, har de rätt att vara fria?

The Orchid – Jeff Russo

I tv-serien Alien: Earth (2025), var går gränsen när liv och teknik smälter samman?

Space Oddity – 2015 Remaster – David Bowie

Det har sagts att David Bowie skrev låten starkt influerad av 2001: A Space Odyssey. I filmen får vi se vad som händer när den perfekta datorn, HAL 9000, börjar tvivla på människan.

The Turing Test – Ben Salisbury, Geoff Barrow

Kanske kan man se filmen Ex_Machina (2014) som ett omvänt så kallat Turingtest, där maskinen inte bara bevisar sin intelligens utan också aktivt testar och manipulerar människan. Hur kommer AI att manipulera oss?

The Visitors – Abba

Vilka är de mystiska besökare som omnämns i Abba-låten “The Visitors” från albumet med samma namn från 1981? I sf-berättelser syftar begreppet ”visitors” (besökare) ofta på utomjordingar, men låttexten av Björn Ulvaeus anses handla om förföljelse av oliktänkare i det forna Sovjetunionen och de psykologiska konsekvenserna av att leva i totalitära stater. “The Visitors” har på så vis tematik gemensamt med klassiska dystopier som George Orwells 1984 och Ray Bradburys Fahrenheit 451. Gruppen har på senare år gått i bräschen för avancerad teknik med sin avatar-föreställning ABBA Voyage och Ulvaeus har i intervjuer uttryckt sitt intresse för AI och den betydelse tekniken kan komma att spela inom musiken.

“We’re Not Programs, GERTY, We’re People” – Clint Mansell

Skaparen av filmen Moon (2009) inspirerades nog av HAL 9000 i 2001: A Space Odyssey när han skapade AI:n GERTY med dess lugna röst. Vad händer när den enda du kan lita på, GERTY, också döljer något som förändrar allt?

Why Are You So Afraid of This – Mychael Danna

Rädslan för AI som i Transcendence (2014) handlar kanske inte om vad den gör, utan om vad den kan bli?

Zion – Fluke

I de första Matrix-filmerna är Zion den sista fria staden för människor utanför Matrix, en plats för dem som inte accepterar illusionen. Neo får veta att Zion har byggts upp och förstörts flera gånger tidigare. Hur fria är vi om vi upprepar samma mönster om och om igen?

Skrivet av Peter Igelström, bibliotekarie på Vallabiblioteket och Sara Läthén, kommunikatör vid Kommunikations- och marknadsavdelningen

Läs mer

Vad kan science fiction lära oss om AI? (liu.se)

Posted on

Research just around the corner, AI och science fiction

Årets omgång av föreläsningsserien Research just around the corner har nu dragit igång. Karin Axelssons föredrag om forskning om den smarta staden inledde den 28 januari, vilken följdes av föreläsning nummer två den 11 februari med Caroline Elgh och Cecilia Åsberg, som berättade om posthumaniora, ekokonst och några pågående ekokonst-projekt vid Linköpings universitet.

Med anledning av att LiU under 2025 firar 50 år som universitet kommer Research just around the corner under hela året att bjuda på en intressant mix av återblickar och spaningar mot framtiden. Flera av föreläsningarna anknyter därtill till det högaktuella ämnet artificiell intelligens: Fredrik Heintz kommer att se tillbaka på ett halvt sekels AI-forskning vid LiU och rikta blicken mot vad som står på dörren under de kommande åren. Gerhard Andersson kommer bland annat att ta upp möjligheter med AI i internetbaserad psykologisk behandling i sin föreläsning och Alessandra di Pisa kommer att berätta om det tvärdisciplinära forskningsprojektet “Technoecology – Performing Computation and Aesthetic Sensibility”, som föreslår en alternativ vision för AI och robotik.

Vi kommer också att bjudas på Markus Heiligs insikter om varför vi gör det vi vet skadar oss liksom Bengt Sandins perspektiv på hur synen på barn och ungdomar har förändrats och vilka frågor som uppstår när samhällets åldersordning granskas.

AI-temat, som alltså är återkommande i årets föreläsningsserie, har varit föremål för en rad tidigare inlägg här på bloggen med utgångspunkt i science fiction. För att ännu en gång återkomma till detta tema, vill jag här bjuda på några tips på böcker och tidskrifter som utforskar AI i gränslandet mellan science fiction, filosofi och vetenskapligt grundade spekulationer:

De tidigare blogginläggen om AI och science fiction finns samlade i följande skrift, som också inkluderar ytterligare material:

Även föreläsningarna i Research just around the corner kommer garanterat ge många intressanta perspektiv på framtiden kring AI och annan spännande forskning vid LiU. Föreläsningarna äger rum tisdagar vid lunchtid, men de går också att följa via livestream och se i efterhand.

Läs mer om årets program:

Research just around the corner (liu.se)

Läs mer om LiU 50 år (liu.se)

Skrivet av Peter Igelström, bibliotekarie, Vallabiblioteket

Posted on

Artificiell intelligens – vad vi kan lära av science fiction Del 5

Lek med tanken att vi kunde göra en tidsresa tillbaka till mitten av 1900-talet och hålla en presentation om vår egen samtid för någon som levde då. Skulle inte en sådan presentation för vederbörande i många avseenden framstå som science fiction?

För vissa dåtida visionärer skulle vår presentation chockerande nog inte vara särskilt uppseendeväckande utan snarare precis i linje med vad de själva prognostiserat. Många sf-författare i det förgångna har även blickat längre fram än till vår egen samtid. Den naturliga frågan att ställa i detta sista inlägg om vad science fiction kan lära oss om AI blir följaktligen: Vad blir människans roll i en värld som också befolkas av intelligenta maskiner?

AI och mänsklighetens framtid

På en punkt är de allra flesta sf-författare eniga: uppkomsten av avancerad AI kommer att förändra samhället i grunden. Inte sällan har man förutsett hur människan kommer att marginaliseras och passiviseras när AI ersätter oss i alltfler uppgifter. I novellen ”Robotarnas krig” (1962) föreställde sig Harry Harrison hur robotar tar över det krig som människorna startat och fortsätter att utkämpa det långt efter att de mänskliga deltagarna på båda sidor önskar fred.

Hur samhället förändras när fusionskraft kan producera outsinliga mängder energi utforskas av Frederik Pohl i Midas värld (Midas World, 1983). Ett överflödssamhälle och fullständig automatisering bland annat i form av robotar blir resultatet. Med bitsk ironi skildrar den amerikanske författaren hur de fattiga helt plötsligt är tvungna att ständigt konsumera och de rika kan köpa sig friheten att slippa undan ekorrhjulet och leva enkelt.

I slutändan finner Morey Fry, vars hustru är av överklassfamilj och inte van att behöva konsumera, lösningen på problemet: genom att låta sina hushållsrobotar slita ut kläder, husgeråd och andra produkter går ekvationen ihop. Människorna befrias från det ständiga konsumerandet och både produktion och konsumtion kan överlåtas på maskiner.

I ytterligare en berättelse med satirisk udd, Sagan om den stora datamaskinen av Hannes Alfvén (som första gången utgavs under pseudonymen Olof Johannesson 1966), återberättas från den avlägsna framtiden datorteknikens framväxt och hur människorna successivt ersatts av alltmer avancerade datamaskiner.

Alfvén verkar i bara farten ha förutsett en variant av internet, kallad teletotal, ”en kombination av automattelefon, radio och TV”. Uppfinningen banar väg för arbete hemifrån och digitala möten som till slut endast äger rum mellan vad vi idag kallar avatarer. Även storstäderna kan därmed avskaffas då man inte längre behöver ta sig till sitt arbete och fysiska butiker inte längre finns eftersom alla shoppar online.

Till en början rationaliserar datoriseringen bort olika yrkesgrupper, men nya tillkommer i form av servicetekniker och programmerare. På längre sikt ersätter datorerna i Sagan dock alla professioner, även beslutsfattare och politiker eftersom de helt enkelt gör jobbet bättre. Samhället går framåt på alla plan, men så inträffar den stora katastrofen: datanätverket bryter samman. Större delen av mänskligheten utplånas av svält och umbäranden, men efter en tid kan civilisationen starta om på nytt.

När man lyckats återuppbygga samhället kan framtida katastrofer förebyggas genom att göra datorerna självproducerande utan mänsklig inblandning. Detta resulterar i uppkomsten av superdatorer som är överlägsna mänskliga hjärnor både på ett intellektuellt och på ett moraliskt plan.

För människorna återstår en ”behaglig tillvaro med just så mycket av arbete som behövs för att deras fritidsproblem inte skall bli alltför stora”. Och vad har då människans fortsatta existens för mening överhuvudtaget? Sagans berättare föreslår att vi möjligen kan fylla funktionen av husdjur, liksom människorna hållit hästar trots att dessa spelat ut sin roll som kommunikationsmedel.

De sista människorna?

Sagan om den stora datamaskinen skildrar hur AI gör människor överflödiga och överspelade, men det finns också berättelser där AI är direkt fientlig gentemot mänskligheten. Den kanske mest mardrömslika visionen på detta tema återfinns i novellen ”Jag har ingen mun och jag måste skrika” (I Have No Mouth & I Must Scream, 1967) av Harlan Ellison. Efter ett tredje världskrig återstår endast fem människor som hålls som fångar av en psykopatisk AI, kallad AM. Dess enda mål är att utkräva hämnd på mänskligheten som gett den medvetande men inte kroppslig gestalt. AM:s mänskliga fångar lever endast i den virtuella verklighet som datorn skapat och där de utsetts för den mest utstuderade tortyr. Offren fråntas all sin mänsklighet, men en av dem lyckas befria sina medfångar från lidandet genom att döda dem. Han själv är utelämnad åt en tillvaro av sadistisk tortyr för all evig framtid.

I denna nattsvarta framtidsvision är AI:n en grotesk spegelbild av den civilisation som skapat den som ett instrument för krigföring. Tanken att artificiella varelser kommer att efterträda människan är dock inte unik för denna berättelse, även om den aldrig gestaltats med motsvarande bestialitet.

Upplägget i ”Evigt liv” (Second Ending, 1962) av James White är till en början liknande, men bilden av AI är denna gång den totalt motsatta än hos Ellison. Ross, en enda mänsklig överlevare från det kärnvapenkrig som ödelagt jorden, vaknar upp från nedfrysning på ett sjukhus där personalen bara består av robotar. När han återhämtat sig ger han robotarna instruktioner att leta efter fler överlevare, men när han inser att han är den sista människan väljer han att låta frysa ner sig igen. Han ger robotarna instruktioner att försöka etablera nytt liv från en enda överlevande växtart. När Ross med ojämna mellanrum återupplivas får han uppdateringar om framstegen. Han väcks till liv efter 43 000 år i dvala och upptäcker att jorden börjat återhämta sig och växligheten åter har börjat spira. Robotarna har tagit över planeten och är på väg att skapa en egen civilisation.

Efter en serie uppvaknanden inser Ross att han inte längre hänger med i robotarnas utveckling. Även om de fortfarande lyder hans instruktioner besitter de nu så pass avancerade kunskaper att de vida överskrider hans egna. När han återupplivas en sista gång efter att årmiljoner förflutit och jorden håller på att gå under får han veta att maskinerna har koloniserat en avlägsen planet och där återskapat människosläktet. Huvudpersonen transporteras dit för att leva den resterande delen av sitt liv.

I Whites berättelse framstår robotarna som en välvillig artificiell intelligens som värnar om människan fast de själva egentligen passerat oss i sin egen utveckling. Dock framstår deras evolution som anmärkningsvärt långsam jämfört med vad många experter och sf-författare menar kommer att vara fallet när avancerad artificiell intelligens väl är verklighet.

Vernor Vinge, matematiker och science fiction-författare, presenterade på en NASA-sponsrad konferens 1993 sina idéer kring en framtida superintelligens. Vinge förutspådde bland annat följande:

  • Artificiell intelligens, eller en kombination mellan artificiell och mänsklig intelligens, som är högre stående än människans kommer sannolikt att vara en verklighet någon gång mellan 2005 och 2030.
  • När den väl är ett faktum kommer dess fortsatta utveckling vara långt snabbare än någon tidigare biologisk eller teknologisk utveckling.
  • Denna exponentiella utveckling bortom människans kontroll benämns som ”singulariteten”.
  • Om singulariteten är en faktisk möjlighet så kommer den att vara omöjlig att förhindra.

Vinges tankar om singulariteten formulerades för över 30 år sedan, men ekar fortfarande i varningar om AI som nyligen uttryckts av AI-experter som Max Tegmark och Geoffrey Hinton.

Vad kommer då att hända bortom att singulariteten är ett faktum? Ett möjligt scenario skisseras av den brittiske sf-författaren Arthur C. Clarke i År 2001: en rymdodyssé (2001 : A Space Odyssey, 1968), där AI-stadiet bara är ett steg på vägen. I slutet av romanen ställs astronauten Dave Bowman efter att ha inträtt genom en ”stjärnport” inför en utomjordisk intelligens som för länge sedan lämnat sin biologiska form. Genom att överge sina kroppar av kött och blod till förmån för maskinkroppar har de kunnat utforska universum. I slutändan övergav de materiell form helt och hållet och lärde sig ”konsten att lagra vetande i rymdens egen struktur och bevara sina tankar för evinnerliga tider i gitter av fruset ljus”.

Hur ska man då förhålla sig till att mänskligheten, såsom flera bedömare menat, snart kommer att vara ett minne blott till förmån för AI? Enligt Clarke i ett TV-inslag i BBC 1964 bör man inte vara överdrivet nedslagen över detta:

Is this depressing? I don’t see why it should be. We superseded the Cro Magnon and the Neanderthal man, and we presume we are an improvement. I think we should regard it as a privilege to be a stepping stone to higher things. I suspect that organic, or biological evolution, has about come to its end and that we are now in the beginning of inorganic, or mechanical, evolution, which will be a thousand times swifter.

Vad science fiction kan lära oss om AI

Med utgångspunkt i de exempel som refererats ovan ser mänsklighetens utsikter i en värld som befolkas av intelligenta maskiner inte särskilt ljus ut. Men varför ska vi då vända oss till science fiction för att söka svar om AI och dess framtid? Anledningen, som jag ser det, är att den viktigaste frågan om artificiell intelligens inte primärt handlar om vetenskap, teknik eller politik, utan är existentiell till sin natur. Och var mer än någon annanstans har existentiella frågor av den här typen diskuterats än inom sf?

Sf-experter har framhållit att science fiction uppfyller en sorts prekognitiv funktion där frågor kan ställas och dryftas om saker och ting som skulle kunna bli verklighet, men för den skull inte nödvändigtvis kommer att bli det. Genren har därmed potential att mentalt förbereda oss för en kommande framtid eller för förändring rent generellt.

Oavsett hur framtidens AI-system kommer att te sig är det fullt möjligt att de själva kommer att kunna ta lärdom av sina föregångare inom science fiction, eftersom de kommer att ha tillgång till samma texter, bilder och filmer som vi. Kanske har vi därmed oavsiktligt skapat framtidens artificiella intelligenser genom att ha gett dem gestalt inom fiktionens ram. Även denna text kommer säkerligen att bearbetas av en AI:s algoritmer och möjligen utgöra en mikroskopisk del av dess medvetande. Vad kommer den då att ha lärt sig?

Tidigare inlägg:

Del 4: Rädslan för robotar

Del 3: Androider på gränsen till medborgarskap

Del 2: Maskindrömmar i cyberspace

Del 1: Mänskliga liv i händer på en AI – vad skulle kunna gå fel?

Samtliga inlägg och ytterligare material finns också publicerat i skriften Artificiell intelligens – vad vi kan lära av science fiction

Litteraturtips

Alfvén, H. (1987). Sagan om den stora datamaskinen: en vision. [Ny utg.] Stockholm: Pilgrim press

Ellison, H. (1991 [1967]). Jag har ingen mun och jag måste skrika. I: Lundwall, Sam J. (red.). Stora robotboken: [berättelser om och med robotar]. Bromma: Lundwall Fakta & fantasi, s. 429-443.

Harrison, H. (1991 [1962]). Robotarnas krig. I: Lundwall, Sam J. (red.). Stora robotboken: [berättelser om och med robotar]. Bromma: Lundwall Fakta & fantasi, s. 311-329.

Clarke, A. C. (2016). 2001: a space odyssey. New York: Penguin Books.

Clarke, A. C. (1970). År 2001: en rymdodyssé. Höganäs: Bra böcker

Davour, A. (2020). Science fiction i verkligheten. Forskning & Framsteg 2020:9, s. 36-43.

Määttä, J., Bodén, D. & Godhe, M. (2020). Ett samtal om AI och science fiction. AI, robotar och föreställningar om morgondagens arbetsliv, s. 219-241.
Även tillgänglig på engelska i DiVA

Pohl, F. (1984). Midas värld. Bromma: Delta.

Vinge, V. (1993). The Coming Technological Singularity: How to Survive in the Post-Human Era, VISION-21 Symposium sponsored by NASA Lewis Research Center and the Ohio Aerospace Institute, March 30-31, 1993.

White, J. (1991 [1962]). Evigt liv. I: Lundwall, Sam J. (red.). Stora robotboken: [berättelser om och med robotar]. Bromma: Lundwall Fakta & fantasi, s. 330-409.

Skrivet av Peter Igelström, bibliotekarie Vallabiblioteket

För övrigt…

BBC-inslaget med Arthur C. Clarkes förutsägelser om framtiden från 1964 hittas på YouTube.

Även Isaac Asimov uttalade sig i flera TV-inslag om framtiden, till exempel i en intervju i amerikansk TV från 1982: Isaac Asimov Predicts The Future In 1982. Was He Correct?

Posted on

Artificiell intelligens – vad vi kan lära av science fiction Del 4

Om en AI eller robot inte verkar vara vid sina sinnens fulla bruk utan beter sig på ett sätt som tycks stå i strid med hur den har programmerats, vad gör man då?

Enligt den amerikanske science fiction-författaren Isaac Asimov (1920–1992) är svaret självskrivet: kallar in robotpsykologen Susan Calvin. I en rad berättelser från 1940-talet och framåt skildrade Asimov olika fall där robotars agerande tycks stå i strid med de tre lagar deras ”positroniska” hjärnor inympats med och som ingen robot ska kunna bryta mot. Lagarna har i Asimovs sf-berättelser tillkommit som ett svar på människors rädsla för… ja, vad är det egentligen som skrämmer oss med robotar?

Rädslan för robotar

En rad prominenta debattörer, däribland fysikern och AI-forskaren Max Tegmark, har varnat för att AI inom en snar framtid skulle kunna utgöra ett hot mot mänskligheten. Isaac Asimov skulle förmodligen ha betraktat sådana ståndpunkter som ett uttryck för det han kallade Frankensteinkomplexet, en irrationell rädsla för att människoskapade maskiner ska förgöra sina skapare.

Frankensteinkomplexet menade Asimov skulle visa sig så starkt att det kommer att leda till krav på olika åtgärder för att reglera användningen av AI och robotar. Han postulerade därför att alla robotar skulle förses med tre lagar som skulle säkerställa att de aldrig skulle kunna orsaka en människa skada. De tre lagarna formulerades enligt följande:

  1. En robot får aldrig skada en människa eller, genom att inte ingripa, tillåta att en människa kommer till skada.
  2. En robot måste lyda order från en människa, förutom då sådana order kommer i konflikt med Första lagen.
  3. En robot måste skydda sin egen existens, såvida detta inte kommer i konflikt med Första eller Andra lagen.
    (Isaac Asimov, Jag Robot, s. 5, översättning av Fredrik Liungman)

Även om dessa lagar vid ett första påseende kan se ut som ett idiotsäkert system så går det med lite fantasi föreställa sig en rad situationer där vi hamnar i en gråzon. Och det är just det som ständigt inträffar i Asimovs robotberättelser. De tre lagarna utgör ramverket för dessa berättelser och ger dem deras karaktär av pusseldeckare i science fiction-form. De kortare berättelserna samlades i novellsamlingarna I, Robot (1950, Jag robot) och The Rest of the Robots (1964, De andra robotarna).

Novellerna följer ofta mönstret att en robot i inledningen uppvisar ett märkligt eller oförutsett beteende som tycks stå i strid mot någon av de tre lagarna. Försök att gå till botten med varför roboten beter sig som den gör leder till att Susan Calvin, robotpsykolog anställd av US Robots and Mechanical Men, Inc., kopplas in. Hennes undersökning landar i en förklaring att robotens beteende i själva verket orsakats av en mycket specifik situation som gjort att två av lagarna hamnat i konflikt med varandra.

I exempelvis ”Liar!” (Lögnare!) försöker man komma underfund med varför den tankeläsande roboten Herbie kommer med uppenbart felaktiga och vilseledande utsagor. Förklaringen visar sig vara att den bara säger vad alla vill höra. Eftersom den känner människors innersta önskningar och begär kan den inte ta illusionerna ifrån dem och därmed bryta mot den första lagen som säger att en robot aldrig får orsaka en människa skada. Felet ligger således hos människorna snarare än hos roboten.

Fobier

Trots att Asimov anses som en av de främsta representanterna för högmodernistisk teknikfokuserad science fiction är det inte så mycket tekniken i sig han intresserar sig för, utan snarare människors inställning till tekniken och hur våra samhällen formas av den. Han tycks också ha haft en särskild fascination för psykologi och hur människor kollektivt utvecklar olika sociala egenheter, vilket inte minst kommer till uttryck i romanerna The Caves of Steel (1954, Stålgrottorna), The Naked Sun (1957, Den nakna solen) och The Robots of Dawn (1983, Död robot).

I dessa romaner, som samtliga har polisen Elijah Baley som huvudperson, har jordens befolkning bosatt sig i tätbefolkade, kupoltäckta megastäder. Dessa levnadsomständigheter har gjort att innevånarna utvecklat en fobi för att överhuvudtaget vistas utomhus. Baleys obehag, ibland stegrat till panik, när han måste sätta sin fot utanför kupolerna är således helt och hållet socialt betingad.

I kontrast till jordmänniskorna uppvisar de kolonisatörer som bosatt sig på andra planeter helt andra sociala mönster, till exempel befolkningen på Solaria, till vilken Baley skickas på uppdrag i The Naked Sun för att utreda ett mord på en planet där aldrig någon tidigare mördats. Den lilla befolkningen på Solaria lever hela sina liv omgivna av robotar och umgås med varandra nästan uteslutande virtuellt. De finner därför stor avsmak att behöva fysiskt befinna sig i andras närvaro, inte minst när de måste umgås med en jordbo som Baley. Romanen skildrar Baleys utredning av fallet där det bara finns en enda misstänkt (den mördades hustru) men som ändå inte tycks ha haft möjlighet att begå mordet.

Befolkningen på Aurora, den ledande av de koloniserade planeterna, uppvisar en stark bacillskräck och Baley måste genomgå en lång renings- och desinficeringsprocess innan han tillåts komma i närkontakt med aurorianerna, som trots det använder näsfilter och handskar för att skydda sig från de smittoämnen och odörer detektiven kan tänkas föra med sig.

Asimov drog själv paralleller mellan de fobier som kommer till uttryck i dessa romaner och sina egna. I sin postumt utgivna memoarbok I. Asimov (1994) berättar han bland annat om sin höjd- och flygskräck, sin allmänna motvilja mot att resa och sin förkärlek för instängda utrymmen. Hans favoritsysselsättning tycks ha varit att sitta och skriva i ett avskärmat rum utan utsikt mot omvärlden.

I Asimovs science fiction närmar sig människors inställning till robotar i vissa fall en fobi, men i andra avseenden har denna inställning helt konkreta bakomliggande orsaker. Deras förespråkare menar att robotarna kan förbättra livet för människor genom att överta rutinartade, ansträngande och farliga sysslor. Andra menar att deras uppehälle är hotat av att robotar tar över deras jobb. Fastän Asimovs robotberättelser huvudsakligen skrevs under 1940- och 50-talen så är denna diskussion idag mer aktuell än någonsin. Verksamma inom alltfler professioner fruktar nu att de inom en nära framtid kommer att ersättas av AI och för vissa är detta redan ett faktum.

Vad är det då, förutom sysslolöshet, vi riskerar genom att låta robotar överta våra arbetsuppgifter? Ett argument som framförs av en hätsk robotmotståndare i en av Asimovs noveller är att något väsentligt går förlorat om människor skulle skiljas från manuellt arbete. (”Galley Slave”, i The Rest of the Robots). Asimov verkar över lag ha haft liten förståelse för dylika argument och menade att om en robot eller AI gjorde jobbet bättre än en människa, så skulle man låta den göra det. I novellen ”Evidence” (Beviset) måste en politiker som misstänks för att vara robot komma med motbevis och dementier inför en misstroende opinion. Författaren däremot tycks inte ha varit främmande för tanken att en robot skulle ha bättre förutsättningar som beslutsfattare än en människa.

Människors motvilja mot robotar kommer också till uttryck i The Caves of Steel, där grupper har gjort det till sin ideologi att avvisa ny teknik. Dessa extremister motsätter sig det genomorganiserade livet i de kupoltäckta städerna och vill återvända till en mer traditionell livsstil. Robotarna är för dem den yttersta symbolen för den teknologiska civilisationen (och de avskydda kolonialborna) och därför deras hatobjekt. Deras motstånd tar sig bland annat uttryck i upplopp med udden riktade mot robotar, men deras känslor för robotar delas i stor utsträckning av gemene man. Även Baley själv behandlar kontorsroboten i polishögkvarteret nedlåtande och han är till en början djupt skeptisk till den robotpartner som har tilldelats honom för att lösa ett mord på en prominent forskare från en av kolonierna. Baley uttrycker även initialt en olust inför robotens människoliknande gestalt, då hans partner R. Daneel Olivaw till sitt yttre inte går att skilja från en människa.

Inom robotiken brukar man referera till ”the uncanny valley”, en upplevd olust inför robotar som står i proportion till hur människolika de är. Begreppet myntades på 1970-talet av den japanske robotforskaren Masahiro Mori, som menade att robotar som liknade människor hade en tendens att ge upphov till olust hos testpersoner. Robotar som var mindre människolika, liksom de som överhuvudtaget inte gick att skilja från riktiga människor, skulle enligt honom inte ge upphov till motsvarande grad av olustkänslor.

Baleys robotpartner är visserligen närmast identisk med en människa, även om Baley noterar dennes fläckfria yttre och reagerar på den lucka Daneel använder för att göra sig av med mat vid de tillfällen då han av sociala skäl behövt inmundiga föda som han ändå inte kan tillgodogöra sig.

I Asimovs berättelser tycks rädslan för robotar främst vara riktad mot deras fysiska manifestationer snarare än för deras mentala kapacitet. I novellen ”The Evitable Conflict” (Den undvikliga konflikten) har AI tagit hand om all planering och styrning av det ekonomiska systemet utan att någon rest några invändningar. I verkligheten råder snarare ett omvänt förhållande, där människor tycks känna större oro över ansiktslösa artificiella intelligenser utan kroppslig form än människoliknande robotar.

Kanske är det i kontrasten mellan deras likhet och olikhet med oss människor som fascinationen över Asimovs robotar ligger. För även om de i vissa avseenden har skapats för att efterlikna människor är de i sin konstitution fundamentalt annorlunda. De såras inte trots alla glåpord de får utstå. Deras uppgift är, till skillnad för när det gäller oss människor, alltid entydig och klar. De anfäktas aldrig av några tvivel, de har aldrig en dålig dag och sätter aldrig sig själva i första rummet. Kanske är det denna fullkomlighet hos robotarna som både fascinerar och skrämmer.

Asimov framställer människornas rädsla som ofrånkomlig men samtidigt överdriven. Man anar att han delade Susan Calvins inställning. I hennes ögon framstår robotarna närmast som oskuldsfulla barn och hon uttrycker vid flera tillfällen större förståelse för dem än för sina medmänniskor.

Mänsklighetens beskyddare eller förgörare?

Över hela sviten berättelser om robotar finns det nästan ingen aspekt av interaktionen mellan människa och robot som Asimov inte utforskar: robotar förekommer som människors tjänare, kollegor, familjemedlemmar, vänner, beskyddare och sexpartners. En typkaraktär förekommande i annan science fiction som dock lyser med sin frånvaro är mördarroboten.

För den som ännu inte läst Asimovs hela svit av robotberättelser ska jag inte berätta utgången, men kan avslöja att robotarna successivt utvecklar sin egen förståelse av de tre lagarna och formulerar en lag som är överordnad även den obrytbara första lagen. De fullföljer den uppgift de skapats för, även om de inte alltid gör det på ett sätt som deras skapare tänkt sig.

Är scenariot med robotar i rollen som mänsklighetens beskyddare realistiskt eller bara en from förhoppning? Om man ska tro rapporteringen om artificiell intelligens känns det betydligt mer sannolikt att allt annat än altruistiska syften kommer att driva denna utveckling framöver. Redan nu varnar forskare för en kapprustning med AI som kommer att likna den med kärnvapen under kalla kriget. Vissa experter menar att denna kapprustning redan är omöjlig att stoppa och att den krigsmakt som inte rustar sig med AI kommer att vara chanslös mot framtidens AI-baserade vapensystem.

Avseende en detalj är jag dock övertygad om att Asimov kom med en korrekt förutsägelse, nämligen när det gäller Susan Calvins yrke. Professionen robotpsykolog eller AI-psykolog har säkerligen framtiden för sig. Varför inte rent av som en tvärvetenskaplig utbildning vid LiU?

Nästa och avslutande inlägg i serien: AI och mänsklighetens framtid

Tidigare inlägg:

Del 3: Androider på gränsen till medborgarskap

Del 2: Maskindrömmar i cyberspace

Del 1: Mänskliga liv i händer på en AI – vad skulle kunna gå fel?

Samtliga inlägg samt ytterligare material finns också publicerat i skriften: Artificiell intelligens – vad vi kan lära av science fiction

Litteraturtips

Alpman, M. (2024) AI med rätt att döda, Forskning & framsteg 2024:2, s. 28-33.

Asimov, I. (2018 [1954]). The caves of steel. Harpercollins Publishers.

Asimov, I. (2004 [1954]). Jag, robot: novellsamling. Översättning av Fredrik Liungman. Natur och Kultur.

Asimov, I. (2018 [1957]). The naked sun. HarperVoyager, 2018

Asimov, I. (2018 [1986]). The robots of dawn. Harper Voyager. På svenska: Död robot.

Godhe, M. (2020). ”Att lära sig leva med robotar: Om normaliseringen av robotar och AI i 2000-talets medier”, i Bodén & Godhe (red.), AI, robotar och föreställningar om morgondagens arbetsliv. Nordic Academic Press.

Skrivet av Peter Igelström, bibliotekarie Vallabiblioteket

För övrigt…

För Max Tegmarks tankar om AI rekommenderas Lex Fridmans intervju med titeln “The Case for Halting AI Development”, som hittas på YouTube.

I föreläsningen ”Människor och maskiner” i serien Strimman berättar Michael Godhe, docent i kultur och mediegestaltning vid LiU, om hur robotar, androider, datorer och AI har representerats inom science fiction. En inspelning av föreläsningen hittas via LiU:s kanal på YouTube.

Posted on

Artificiell intelligens – vad vi kan lära av science fiction Del 3

I’ve seen things you people wouldn’t believe… Attack ships on fire off the shoulder of Orion… I watched C-beams glitter in the dark near the Tannhäuser Gate. All those moments will be lost in time, like tears in rain… Time to die. (Wikipedia, ”Tears in rain monologue” [2023-09-21])

Roy Batys monolog i filmen Blade Runner har blivit klassisk. Efter att ha räddat livet på replikantjägaren Rick Deckard uttalar replikanten Baty med sina sista andetag orden som närmast höjer honom till en gestalt av Hamlets dimensioner. Genom att skona sin ärkefiende och i sina sista ögonblick grubbla över livets förgänglighet och sitt nära förestående slut aktualiserar han frågan: vad är kriteriet för att anses vara människa?

Möjligheten att skapa människor på artificiell väg har länge varit ett framträdande tema inom science fiction. I Blade Runner går Roy Baty och hans gelikar under benämningen replikanter, men inom science fiction över lag har de oftast betecknats som androider. Mary Shelleys roman Frankenstein från 1818 anses som den första berättelsen av den här typen, där varelsen i fråga kallas för monster men i grund och botten är en artificiellt skapad människa på samma sätt som i många senare sf-berättelser.

Androider används inom fiktionens ram för att utforska gränserna för det mänskliga och det artificiella, och relationen mellan människan och hennes skapelser. Här finns en klar relevans för de frågor vi själva måste ställa oss i en verklighet där artificiell intelligens kommer att spela en allt större roll i våra liv.

Androider på gränsen till medborgarskap

Clifford D. Simaks framtidsvärld i romanen Tid och evighet (Time and Again, 1951) befolkas vid sidan av människor av både robotar och androider. De senare går inte att skilja från riktiga människor annat än genom ett tillverkningsnummer stämplat i pannan. I romanen beskrivs de på följande vis:

En människa tillverkad i laboratoriet med hjälp av människans djupa kunskaper om kemi, om atomstrukturer och molekyler och om den märkliga reaktion, som kallas liv.
Mänsklig i alla avseenden utom ett – förmågan att biologiskt fortplanta sig. (Simak, 112)

Robotarna och androiderna har skapats för att hjälpa människan kolonisera och styra över galaxen. Som en kuriositet kan man även notera att denna värld också innehåller teknik som fotostatkopior, tågvisslor och skrivmaskiner. Åtskilliga av karaktärerna blossar på cigaretter, pipor och cigarrer. Simak är förvisso långt ifrån ensam bland samtida science fiction-författare att inkorporera inslag som doftar 1950-tal snarare än den avlägsna framtiden.

Androiderna fungerar i många olika roller: såsom advokater, portierer, vaktmästare och tjänare. De betraktas som någons egendom och en android jämför sitt eget slag med boskap. Flera sf-experter har noterat att berättelser om robotar och androider lika ofta anknyter till människans förflutna som till framtiden och i synnerhet till diskussioner om slaveri och emancipation. Detta tema är också tydligt i Tid och evighet, där androiderna inte är nöjda med sin ställning som tjänare utan vill bli erkända som människornas jämlikar. Det finns ett androidjämlikhetsförbund som kämpar för deras rättigheter. ”Vi vill inte ha välgörenhet och medlidande”, säger androiden Herkimer, utan erkännande för ”våra förtjänsters skull”.

I Tid och evighet framstår det inte som orimligt att androidernas medborgarrättskamp skulle kunna bli framgångsrik. En rättslig kamp av lite annan art skildras i ”The Measure of a Man”, ett avsnitt i TV-serien Star Trek: The Next Generation (1987–1994). En forskare vill där använda androiden Data som försöksobjekt för att kunna skapa nya androider, vilket Data själv motsätter sig eftersom försöken kan innebära en risk för hans liv. Det hela resulterar i en rättegång för att avgöra androidens juridiska ställning, som också kommer att bli prejudicerande för framtida androiders rättigheter. Har Data rätt att bestämma över sitt eget liv eller är han att betrakta som ett stycke teknisk utrustning och därmed som en ägodel?

Rättens beslut utfaller till Datas fördel, för även om det inte går att bevisa att han äger ett självmedvetande, går det heller inte att utesluta det. Möjligheten att människa och android skulle kunna samexistera som jämbördiga parter tycks i Star Trek:s optimistiska bild av framtiden fullt uppnåelig.

Vem är (inte) människa?

I Philip K. Dicks roman Do Androids Dream of Electric Sheep? (1968) ser androidernas utsikter betydligt mörkare ut. Den ovan omnämnda filmen Blade Runner är en filmatisering av Dicks roman från 1982 i regi av Ridley Scott (boken har också återpublicerats med filmens titel både på svenska och på engelska).

Berättelsen utspelar sig i romanversionen år 1992. Mänskligheten har genomlevt ett tredje världskrig och jordens atmosfär har förgiftats av radioaktivt nedfall. De som haft möjlighet har lämnat planeten för kolonier på Mars och andra himlakroppar där androider används som arbetskraft. På jorden är dock androiderna bannlysta och de som rymt från kolonierna jagas och avlivas (”dras in”) av prisjägare anställda av polisen. Till denna yrkeskår hör huvudpersonen Rick Deckard.

Det radioaktiva nedfallet har haft stor påverkan på liv och miljö, även om det ännu inte gjort planeten helt obeboelig. De som drabbats av mutationer har förverkat sina chanser till ett bättre liv bortom jorden och är förbjudna att emigrera. En indirekt mental effekt är att alla djur omges med en särskild omsorg. Eftersom nästa alla djur dött ut är ett husdjur den mest värderade statusprylen. Vad ingen vill låtsas om är att så gott som alla djur bara är konstgjorda kopior.

Huvudpersonens drivkraft för att kunna uthärda sitt yrke som prisjägare är att kunna ha råd att skaffa sig ett mer prestigefyllt husdjur än det artificiella får han och hustrun har uppe på taket på sitt bostadshus. När han erhåller belöningen för de androider han dödat använder Deckard genast pengarna till att köpa sig en levande get.

Medan djuren (och deras artificiella substitut) omhuldas anses de artificiella människorna överhuvudtaget inte ha rätten att existera, förutom som slavar på avlägsna planeter. Vad är det då som skiljer dessa från människorna? Till skillnad från i Simaks Tid och evighet har androiderna här inget yttre kännemärke som skiljer dem från människor. Den avgörande skillnaden i Dicks universum är empatin, vilket de konstgjorda saknar. Denna brist kan bara avslöjas med det så kallade Voigt-Kampff-testet med frågeformulär och tillhörande utrustning, som Deckard alltid bär med sig för att kunna avslöja misstänkta androider.

I Blade Runner kan androiderna särskiljas från människor endast med hjälp av ett komplicerat test och avancerad utrustning, men kanske lever vi redan nu i en verklighet där det blir allt svårare att skilja på människa och AI. Frågan vem som är vad tycks bli alltmer aktuell på internet, där AI-system snarare än mänskliga individer kan stå bakom konton på sociala medier, där influensers kan vara virtuella och där vi i många sammanhang måste bevisa vår mänsklighet. Data- och systemvetaren Karin Hansson diskuterar i sitt bidrag i boken AI, robotar och föreställningar om morgondagens arbetsliv (2020) bland annat spamfilter av typen captcha (som står för ”Completely automated public turing test to tell computers and humans apart”). Syftet med sådana filter är att skilja mänskliga användare från robotar genom att användaren ska identifiera bilder av en viss typ eller föreställande ett visst motiv, men tycks vara alltmer verkningslösa i takt med att AI-systemen blir mer avancerade. Vem vet, i framtiden kanske vi kommer att avkrävas ett Voigt-Kampff-test för att komma åt våra konton på sociala medier.

Förutom sin bristande empati har androiderna i Blade Runner också ett annat kännemärke: en inbyggd begränsad livslängd på fyra år, vilket ytterligare förstärker det vanitasmotiv som är så framträdande i den i inledningen citerade monologen. På så sätt kan man säga att de varken har en framtid eller ett förflutet.

Gränserna mellan människa och android framstår ändå emellanåt som diffus. Empati förefaller vara en bristvara även bland människor och varje individ tycks inte ens själv kunna vara säker på sin egen sanna natur. Vissa androider tror sig vara människor eftersom de fått ”falska” minnen inplanterade och vissa människor hyser en sorts neurotisk farhåga för att de i själva verket är androider. Denna typ av psykologiska avgrunder är typiska för Philip K. Dick. Ambivalens kan sägas vara ett av romanens dominerande känslolägen, inte minst när det gäller huvudpersonen själv. Hans hustru kallar honom för mördare medan han själv säger att ”jag har aldrig mördat en människa i hela mitt liv”. Hans jobb att ”dra in” androider kan han rationalisera med att det är ofrånkomligt och nödvändigt och bara handlar om att ta en maskin ur bruk, men han är samtidigt angelägen att bevisa sin egen mänsklighet genom att ge uttryck för empati med de androider han dödar. Han inleder ett förhållande med androiden Rachael, som lovar att hjälpa honom spåra upp och döda andra androider, men Deckard tycks vackla mellan om han ska döda även Rachael eller inte.

Den brittiske poddaren och sf-experten Damian Walter kallar filmen Blade Runner för ett empatitest, men menar att den inte är ett test för att bestämma vem som är android utan för att testa oss som publik. Hur kommer det sig, frågar Walter, att vi så lätt identifierar oss med prisjägaren i Harrison Fords gestalt men har så lite empati med hans offer?

Kanske avskärmar vi oss från dödandet av androiderna precis som Deckard själv med motiveringen att de bara är konstgjorda och serietillverkade. Men för att det ska fungera måste vi kunna särskilja oss från dem, och en lärdom av Dicks roman är hur sådana psykologiska processer går till. Människornas omsorger om sina husdjur i romanen kan tolkas som ett sätt att uttrycka sin särart i förhållande till androiderna, som saknar den empati som krävs för att bry sig om en annan varelse. Måhända står vi inom en nära framtid inför liknande problem. Redan idag har vi AI-system som skriver texter, skapar konst och komponerar musik, företeelser som hittills varit förbehållet människan. Hur kommer våra egna uttryckssätt och konstformer att påverkas av detta? Kommer exempelvis konst av människohand fjärma sig från AI-skapad konst precis som måleriet avlägsnade sig från fotorealismen när fotografiet uppfanns på 1800-talet?

Utvecklandet av alltmer avancerad AI kommer att aktualisera frågan vad det innebär att vara människa – och att inte vara det. Denna fråga sysselsatte uppenbart Philip K. Dick, och har fortsatt att sysselsätta hans läsare.

Nästa inlägg i serien: Rädslan för robotar

Tidigare inlägg:
Del 2: Maskindrömmar i cyberspace

Del 1: Mänskliga liv i händer på en AI – vad skulle kunna gå fel?

Samtliga inlägg samt ytterligare material finns också publicerat i skriften: Artificiell intelligens – vad vi kan lära av science fiction

Litteraturtips

Brooker, W. (red.). (2005). The Blade runner experience : the legacy of a science fiction classic. Wallflower.

Bukatman, S. (2012). Blade runner. Palgrave Macmillan.

Dick, P. K. (2017), The android and the human. Science Fiction Criticism: an anthology of essential writings, Lathan, R. (red.). Bloomsbury, s. 295-305.

Dick, P. K. (2012 [1968]). Blade runner. översättning: Roland Adlerberth ; efterord: Johan Frick. Bakhåll.

Hansson, K (2020). Jag är inte en robot! : Själ-arbetets estetik online. AI, robotar och föreställningar om morgondagens arbetsliv. Bodén, D. & Godhe, M. (red.). Nordic Academic Press, s. 159-187.

Hildebrand, K (2010), Att bli man och göras till kvinna: Kön och kropp i Ridley Scotts Blade Runner. Ramsten, J. & Godhe, M. (red.) Möjliga världar: tekniken, vetenskapen, science fiction. Carlsson, s 179-189.

Hills, M. (2011). Cultographies : Blade Runner. Wallflower Press.

Larsmo, O. (2001) Andra sidan : om skrivande [kapitlet BFD, s. 108-131, behandlar Philip K. Dicks liv och författarskap.]. Bonnier.

Short, S. (2003) The Measure of a Man? Asimov’s Bicentennial Man, Star Trek’s Data, and being human. Extrapolation: A Journal of Science Fiction and Fantasy 44:2, s. 209-223.

Simak, C. D. (1985 [1951]). Tid och evighet. Delta.

Tipkrailash, P., Clark, M. (2019). The Trial of Commander Data, Prajñā Vihāra: Journal of Philosophy and Religion 20:2, s. 61-69.

Skrivet av: Peter Igelström, bibliotekarie, Vallabiblioteket

För övrigt…

Damian Walters analyser av verk inom science fiction återfinns i dennes Science Fiction Podcast. En annan poddserie på temat science fiction som kan rekommenderas är Imaginary Worlds, som görs av amerikanen Eric Molinsky.