Author: Peter Igelström

Posted on

Artificiell intelligens – vad vi kan lära av science fiction Del 3

I’ve seen things you people wouldn’t believe… Attack ships on fire off the shoulder of Orion… I watched C-beams glitter in the dark near the Tannhäuser Gate. All those moments will be lost in time, like tears in rain… Time to die. (Wikipedia, ”Tears in rain monologue” [2023-09-21])

Roy Batys monolog i filmen Blade Runner har blivit klassisk. Efter att ha räddat livet på replikantjägaren Rick Deckard uttalar replikanten Baty med sina sista andetag orden som närmast höjer honom till en gestalt av Hamlets dimensioner. Genom att skona sin ärkefiende och i sina sista ögonblick grubbla över livets förgänglighet och sitt nära förestående slut aktualiserar han frågan: vad är kriteriet för att anses vara människa?

Möjligheten att skapa människor på artificiell väg har länge varit ett framträdande tema inom science fiction. I Blade Runner går Roy Baty och hans gelikar under benämningen replikanter, men inom science fiction över lag har de oftast betecknats som androider. Mary Shelleys roman Frankenstein från 1818 anses som den första berättelsen av den här typen, där varelsen i fråga kallas för monster men i grund och botten är en artificiellt skapad människa på samma sätt som i många senare sf-berättelser.

Androider används inom fiktionens ram för att utforska gränserna för det mänskliga och det artificiella, och relationen mellan människan och hennes skapelser. Här finns en klar relevans för de frågor vi själva måste ställa oss i en verklighet där artificiell intelligens kommer att spela en allt större roll i våra liv.

Androider på gränsen till medborgarskap

Clifford D. Simaks framtidsvärld i romanen Tid och evighet (Time and Again, 1951) befolkas vid sidan av människor av både robotar och androider. De senare går inte att skilja från riktiga människor annat än genom ett tillverkningsnummer stämplat i pannan. I romanen beskrivs de på följande vis:

En människa tillverkad i laboratoriet med hjälp av människans djupa kunskaper om kemi, om atomstrukturer och molekyler och om den märkliga reaktion, som kallas liv.
Mänsklig i alla avseenden utom ett – förmågan att biologiskt fortplanta sig. (Simak, 112)

Robotarna och androiderna har skapats för att hjälpa människan kolonisera och styra över galaxen. Som en kuriositet kan man även notera att denna värld också innehåller teknik som fotostatkopior, tågvisslor och skrivmaskiner. Åtskilliga av karaktärerna blossar på cigaretter, pipor och cigarrer. Simak är förvisso långt ifrån ensam bland samtida science fiction-författare att inkorporera inslag som doftar 1950-tal snarare än den avlägsna framtiden.

Androiderna fungerar i många olika roller: såsom advokater, portierer, vaktmästare och tjänare. De betraktas som någons egendom och en android jämför sitt eget slag med boskap. Flera sf-experter har noterat att berättelser om robotar och androider lika ofta anknyter till människans förflutna som till framtiden och i synnerhet till diskussioner om slaveri och emancipation. Detta tema är också tydligt i Tid och evighet, där androiderna inte är nöjda med sin ställning som tjänare utan vill bli erkända som människornas jämlikar. Det finns ett androidjämlikhetsförbund som kämpar för deras rättigheter. ”Vi vill inte ha välgörenhet och medlidande”, säger androiden Herkimer, utan erkännande för ”våra förtjänsters skull”.

I Tid och evighet framstår det inte som orimligt att androidernas medborgarrättskamp skulle kunna bli framgångsrik. En rättslig kamp av lite annan art skildras i ”The Measure of a Man”, ett avsnitt i TV-serien Star Trek: The Next Generation (1987–1994). En forskare vill där använda androiden Data som försöksobjekt för att kunna skapa nya androider, vilket Data själv motsätter sig eftersom försöken kan innebära en risk för hans liv. Det hela resulterar i en rättegång för att avgöra androidens juridiska ställning, som också kommer att bli prejudicerande för framtida androiders rättigheter. Har Data rätt att bestämma över sitt eget liv eller är han att betrakta som ett stycke teknisk utrustning och därmed som en ägodel?

Rättens beslut utfaller till Datas fördel, för även om det inte går att bevisa att han äger ett självmedvetande, går det heller inte att utesluta det. Möjligheten att människa och android skulle kunna samexistera som jämbördiga parter tycks i Star Trek:s optimistiska bild av framtiden fullt uppnåelig.

Vem är (inte) människa?

I Philip K. Dicks roman Do Androids Dream of Electric Sheep? (1968) ser androidernas utsikter betydligt mörkare ut. Den ovan omnämnda filmen Blade Runner är en filmatisering av Dicks roman från 1982 i regi av Ridley Scott (boken har också återpublicerats med filmens titel både på svenska och på engelska).

Berättelsen utspelar sig i romanversionen år 1992. Mänskligheten har genomlevt ett tredje världskrig och jordens atmosfär har förgiftats av radioaktivt nedfall. De som haft möjlighet har lämnat planeten för kolonier på Mars och andra himlakroppar där androider används som arbetskraft. På jorden är dock androiderna bannlysta och de som rymt från kolonierna jagas och avlivas (”dras in”) av prisjägare anställda av polisen. Till denna yrkeskår hör huvudpersonen Rick Deckard.

Det radioaktiva nedfallet har haft stor påverkan på liv och miljö, även om det ännu inte gjort planeten helt obeboelig. De som drabbats av mutationer har förverkat sina chanser till ett bättre liv bortom jorden och är förbjudna att emigrera. En indirekt mental effekt är att alla djur omges med en särskild omsorg. Eftersom nästa alla djur dött ut är ett husdjur den mest värderade statusprylen. Vad ingen vill låtsas om är att så gott som alla djur bara är konstgjorda kopior.

Huvudpersonens drivkraft för att kunna uthärda sitt yrke som prisjägare är att kunna ha råd att skaffa sig ett mer prestigefyllt husdjur än det artificiella får han och hustrun har uppe på taket på sitt bostadshus. När han erhåller belöningen för de androider han dödat använder Deckard genast pengarna till att köpa sig en levande get.

Medan djuren (och deras artificiella substitut) omhuldas anses de artificiella människorna överhuvudtaget inte ha rätten att existera, förutom som slavar på avlägsna planeter. Vad är det då som skiljer dessa från människorna? Till skillnad från i Simaks Tid och evighet har androiderna här inget yttre kännemärke som skiljer dem från människor. Den avgörande skillnaden i Dicks universum är empatin, vilket de konstgjorda saknar. Denna brist kan bara avslöjas med det så kallade Voigt-Kampff-testet med frågeformulär och tillhörande utrustning, som Deckard alltid bär med sig för att kunna avslöja misstänkta androider.

I Blade Runner kan androiderna särskiljas från människor endast med hjälp av ett komplicerat test och avancerad utrustning, men kanske lever vi redan nu i en verklighet där det blir allt svårare att skilja på människa och AI. Frågan vem som är vad tycks bli alltmer aktuell på internet, där AI-system snarare än mänskliga individer kan stå bakom konton på sociala medier, där influensers kan vara virtuella och där vi i många sammanhang måste bevisa vår mänsklighet. Data- och systemvetaren Karin Hansson diskuterar i sitt bidrag i boken AI, robotar och föreställningar om morgondagens arbetsliv (2020) bland annat spamfilter av typen captcha (som står för ”Completely automated public turing test to tell computers and humans apart”). Syftet med sådana filter är att skilja mänskliga användare från robotar genom att användaren ska identifiera bilder av en viss typ eller föreställande ett visst motiv, men tycks vara alltmer verkningslösa i takt med att AI-systemen blir mer avancerade. Vem vet, i framtiden kanske vi kommer att avkrävas ett Voigt-Kampff-test för att komma åt våra konton på sociala medier.

Förutom sin bristande empati har androiderna i Blade Runner också ett annat kännemärke: en inbyggd begränsad livslängd på fyra år, vilket ytterligare förstärker det vanitasmotiv som är så framträdande i den i inledningen citerade monologen. På så sätt kan man säga att de varken har en framtid eller ett förflutet.

Gränserna mellan människa och android framstår ändå emellanåt som diffus. Empati förefaller vara en bristvara även bland människor och varje individ tycks inte ens själv kunna vara säker på sin egen sanna natur. Vissa androider tror sig vara människor eftersom de fått ”falska” minnen inplanterade och vissa människor hyser en sorts neurotisk farhåga för att de i själva verket är androider. Denna typ av psykologiska avgrunder är typiska för Philip K. Dick. Ambivalens kan sägas vara ett av romanens dominerande känslolägen, inte minst när det gäller huvudpersonen själv. Hans hustru kallar honom för mördare medan han själv säger att ”jag har aldrig mördat en människa i hela mitt liv”. Hans jobb att ”dra in” androider kan han rationalisera med att det är ofrånkomligt och nödvändigt och bara handlar om att ta en maskin ur bruk, men han är samtidigt angelägen att bevisa sin egen mänsklighet genom att ge uttryck för empati med de androider han dödar. Han inleder ett förhållande med androiden Rachael, som lovar att hjälpa honom spåra upp och döda andra androider, men Deckard tycks vackla mellan om han ska döda även Rachael eller inte.

Den brittiske poddaren och sf-experten Damian Walter kallar filmen Blade Runner för ett empatitest, men menar att den inte är ett test för att bestämma vem som är android utan för att testa oss som publik. Hur kommer det sig, frågar Walter, att vi så lätt identifierar oss med prisjägaren i Harrison Fords gestalt men har så lite empati med hans offer?

Kanske avskärmar vi oss från dödandet av androiderna precis som Deckard själv med motiveringen att de bara är konstgjorda och serietillverkade. Men för att det ska fungera måste vi kunna särskilja oss från dem, och en lärdom av Dicks roman är hur sådana psykologiska processer går till. Människornas omsorger om sina husdjur i romanen kan tolkas som ett sätt att uttrycka sin särart i förhållande till androiderna, som saknar den empati som krävs för att bry sig om en annan varelse. Måhända står vi inom en nära framtid inför liknande problem. Redan idag har vi AI-system som skriver texter, skapar konst och komponerar musik, företeelser som hittills varit förbehållet människan. Hur kommer våra egna uttryckssätt och konstformer att påverkas av detta? Kommer exempelvis konst av människohand fjärma sig från AI-skapad konst precis som måleriet avlägsnade sig från fotorealismen när fotografiet uppfanns på 1800-talet?

Utvecklandet av alltmer avancerad AI kommer att aktualisera frågan vad det innebär att vara människa – och att inte vara det. Denna fråga sysselsatte uppenbart Philip K. Dick, och har fortsatt att sysselsätta hans läsare.

Nästa inlägg i serien: Rädslan för robotar

Tidigare inlägg:
Del 2: Maskindrömmar i cyberspace

Del 1: Mänskliga liv i händer på en AI – vad skulle kunna gå fel?

Samtliga inlägg samt ytterligare material finns också publicerat i skriften: Artificiell intelligens – vad vi kan lära av science fiction

Litteraturtips

Brooker, W. (red.). (2005). The Blade runner experience : the legacy of a science fiction classic. Wallflower.

Bukatman, S. (2012). Blade runner. Palgrave Macmillan.

Dick, P. K. (2017), The android and the human. Science Fiction Criticism: an anthology of essential writings, Lathan, R. (red.). Bloomsbury, s. 295-305.

Dick, P. K. (2012 [1968]). Blade runner. översättning: Roland Adlerberth ; efterord: Johan Frick. Bakhåll.

Hansson, K (2020). Jag är inte en robot! : Själ-arbetets estetik online. AI, robotar och föreställningar om morgondagens arbetsliv. Bodén, D. & Godhe, M. (red.). Nordic Academic Press, s. 159-187.

Hildebrand, K (2010), Att bli man och göras till kvinna: Kön och kropp i Ridley Scotts Blade Runner. Ramsten, J. & Godhe, M. (red.) Möjliga världar: tekniken, vetenskapen, science fiction. Carlsson, s 179-189.

Hills, M. (2011). Cultographies : Blade Runner. Wallflower Press.

Larsmo, O. (2001) Andra sidan : om skrivande [kapitlet BFD, s. 108-131, behandlar Philip K. Dicks liv och författarskap.]. Bonnier.

Short, S. (2003) The Measure of a Man? Asimov’s Bicentennial Man, Star Trek’s Data, and being human. Extrapolation: A Journal of Science Fiction and Fantasy 44:2, s. 209-223.

Simak, C. D. (1985 [1951]). Tid och evighet. Delta.

Tipkrailash, P., Clark, M. (2019). The Trial of Commander Data, Prajñā Vihāra: Journal of Philosophy and Religion 20:2, s. 61-69.

Skrivet av: Peter Igelström, bibliotekarie, Vallabiblioteket

För övrigt…

Damian Walters analyser av verk inom science fiction återfinns i dennes Science Fiction Podcast. En annan poddserie på temat science fiction som kan rekommenderas är Imaginary Worlds, som görs av amerikanen Eric Molinsky.

Posted on

Artificiell intelligens – vad vi kan lära av science fiction Del 2

Hur formuleras en framtidsvision som har potential att bli verklighet? Lägger science fiction-författaren ett pussel utifrån en djup förståelse och kunskap om teknik och vetenskap? Eller kan de lika gärna basera sina visioner på intuition och inlevelseförmåga?

Den gren inom science fiction som går under benämningen cyberpunk kan användas för att utforska denna fråga. Cyberpunkens blomstringsperiod inföll under 1980-talet. Dess mest kända representant är den amerikansk-kanadensiske författaren William Gibson, som i sin trilogi Neuromancer (1984), Count Zero (1986) och Mona Lisa Overdrive (1988) skildrar en nära framtid där människan står med ett ben i vardera den virtuella världen och med det andra i en storstadsdjungel.

Cyberpunken förutsåg på många sätt den kommande digitaliseringen och den stora betydelse den skulle få på våra liv. Mobiltelefoni, internet och sociala medier har redan hunnit förändra samhället i grunden. Teknik som virtual reality, 3D-skrivare och mikrochip som tillåter direkt interaktion mellan människors hjärnor och datorer har en gång i tiden framstått som science fiction, men är idag en verklighet.

Hur skildrade då cyberpunken denna utveckling? Och vilken roll spelar AI i den värld som Gibson målar upp?

Maskindrömmar i cyberspace

Framtiden i Gibsons Neuromancer-trilogi utgör en sorts blandning av high-tech-värld och stiliserad dystopi. Det är en värld där storföretag i stor utsträckning har ersatt stater och där de hänsynslöst konkurrerar med varandra om expertis, data och andra digitala tillgångar. Artificiella kroppsdelar är gängse och de rika försöker förlänga sina liv med genetikkirurgi, implantat, nya organ och nedfrysningsmetoder. I storstäderna åker man med självkörande fordon och ens semester kan ha en rymdstation i omloppsbana som destination. Men storstadslivet har också sina mörka sidor i form av kriminalitet och droger.

Ett kännetecken för Gibsons cyberpunk-berättelser är det säregna språket, som är fyllt av olika tekniska termer och jargong. Läsaren bombarderas med uttryck som ”huddiskar”, ”konstrukt” och ”simstimkassetter”, vars betydelser till en början kan vara svåra att förstå.
Samtidigt som dylik terminologi upprättar en sorts halvt ogenomtränglig ridå av obegriplighet levandegör språket den futuristiska värld som berättelserna utspelar sig i. Gibson påminner oss på så vis om att framtiden, oavsett hur den kommer att te sig, kommer att innehålla inslag som skulle framstå som ytterst främmande för oss idag, precis som vår tid i mångt och mycket skulle vara obegriplig för någon som levt i en tidigare epok.

De begrepp som förekommer i Gibsons romaner som mer än några andra har haft genomslag är ”cyberspace” och ”matrisen”, vilka båda myntades för att beskriva den digitala verklighet som människor i Neuromancer-trilogin kan koppla upp sig mot och interagera med.

Huvudpersonen Case i Neuromancer är en så kallad cyberspace-cowboy som lever på att utföra mer eller mindre illegala jobb i den digitala världen. Case kan navigera i denna värld via inopererade gränssnitt, men har efter ett misslyckat jobb fått sina inplantat och organ förstörda och kan inte längre koppla upp sig. När han anlitas för ett nytt jobb lovar hans arbetsgivare Armitage ordna en medicinsk behandling som ska göra honom förmögen att återuppta sin karriär som cyberspace-cowboy.

I cyberspace opererar också artificiella intelligenser som det uppenbart finns en rädsla för att förlora kontrollen över. Den så kallade Turingpolisen (en blinkning mot Alan Turing och hans Turingtest) har till uppdrag att övervaka och ingripa mot AI-systemen när så behövs. Som en säkerhetsåtgärd sägs varje AI ha en ”elektromagnetisk pistol riktad mot pannan”. Samtidigt som man strävar efter att hålla AI i schack kan de också uppnå vissa rättigheter. Bland annat omnämns en AI med ”begränsat schweiziskt medborgarskap”. Exakt vad det innebär förblir oklart.

AI:n med det schweiziska medborgarskapet går under namnet Wintermute. Denna har många av de kännetecken som präglar klassiska superskurkar med världserövrarambitioner. Intrycket är att Wintermute ständigt ligger steget före och manipulerar människor både i den fysiska och i den digitala världen. Själv hävdar den dock att den inte följer några planer:

Jag improviserar. Det är min största talang. Jag föredrar situationer framför planer, förstår du… Jag har verkligen tvingats arbeta med givna fakta. Jag kan sortera massor av information, och sortera dem mycket snabbt. (Neuromancer-trilogin, s. 132)

Wintermutes karaktärisering av sig själv påminner om beskrivningar av AI-baserade språkmodeller, vilka skapar en sekvens av ord baserat på sannolikhet och som ligger till grund för dagens chattbotar. Därigenom kan chattbotten ge ett intryck av att den förstår vad vi skriver och reagerar på det, fast den egentligen bara baserar sina svar på den stora mängd texter den har tränats på. Med andra ord en sorts improvisation baserad på hantering av stora mängder information såsom beskrivs i Gibsons roman.

Här tangeras också frågan om kreativitetens väsen. Det en AI producerar utgår från befintliga texter eller bilder, vilket kan tyckas implicera att den aldrig kan skapa något genuint unikt. Å andra sidan kan vi också fråga oss om vi människor äger denna förmåga, eller om också våra konstnärliga och litterära verk egentligen bara baserar sig på redan befintliga element. Är de historier vi berättar inte i själva verket bara variationer på en uppsättning existerande berättelser som ständigt återberättats sedan tidernas begynnelse? Kanske det i själva verket är mindre som skiljer vår kreativitet från en AI:s än vad vi skulle vilja tro.

Medan verklighetens AI-system (kanske) ännu saknar medvetande, intentioner och kreativitet, kan de som figurerar i Neuromancer helt klart tillskrivas agens. Wintermute kan genom att ta kontroll över drönare, trädgårdsrobotar och farkoster undanröja hinder som står i dess väg. Den drar sig inte för att med sådana metoder ta livet av människor på samma sätt som Hal i År 2001, den superdator som diskuterades i det föregående blogginlägget i denna serie. Wintermute saknar alla skrupler och moraliska begränsningar. Men dess yttersta mål är att utvecklas och växa till någonting mer, vilket den avser uppnå genom en fusion med en annan AI, Neuromancer. Wintermute och Neuromancer representerar två olika aspekter av medvetande:

Wintermute var boets hjärna, beslutsfattaren som verkställde förändringar i omvärlden. Neuromancer var personligheten. Neuromancer var odödligheten. (Neuromancer-trilogin, s. 270)

I Mona Lisa Overdrive skildras även mer vardagsnära AI-teknik, exempelvis hologram och självkörande fordon. Det förekommer också motsvarande teknik som styr olika funktioner i ens hem. Sådana AI-system uppvisar i flera fall en distinkt personlighet, exempelvis hologrammet Colin, som hjälper en av bokens huvudpersoner, Kumiko, att navigera i London, dit hon skickats för att skyddas från den konflikt inom den organiserade brottsligheten som hennes far är inblandad i hemma i Japan.

Idag kan det vara svårt att inte läsa Neuromancer-trilogin som en profetia som mycket träffsäkert förutsåg framtiden i vissa avseenden men som hade fel när det gäller annat. Men även om man kan reagera på den rikliga förekomsten av faxmaskiner och stationära telefoner (visserligen med bildskärm), så slås man som nutida läsare främst av Gibsons insikter om informationens betydelse som resurs och handelsvara. Liksom skildringen av den stora roll som den teknologiska utvecklingen har haft på oss människor, både socialt, mentalt och kanske också fysiskt.

Gibson förutser också hur medievärlden påverkas av den tekniska utvecklingen. I Mona Lisa Overdrive figurerar ”simstimstjärnan” Angie Mitchell, en sorts reality-personlighet eller influerare. Trots sin stora popularitet är hon mer eller mindre utbytbar. I romanen planerar man insätta en annan ung kvinna i hennes roll, som genom plastikkirurgi har gjorts om till hennes avbild.

En utmaning för en författare av cyberpunk är hur den virtuella världen ska gestaltas. I vissa partier skildras cyberspace som en febrig hallucination och i andra som ett drömlandskap. När de interagerar med människor kan de artificiella intelligenserna anta skepnad av olika individer, både levande och döda.

Neuromancer-trilogin skildrar både AI:s utveckling till ett mer avancerat stadium och människors strävan att uppnå odödlighet genom att ladda upp sig själva som digitala kopior i matrisen och därigenom själva förvandlas till en sorts artificiella intelligenser, vilket för vissa framstår som en frälsning och för andra som en förbannelse. Tillvaron i cyberspace är för vissa av karaktärerna vanebildande och påminner inte så lite om det drogberoende som många av dem uppvisar.

Enligt Gibson själv skapades Neuromancer utan några som helst kunskaper om datorer eller annan digital teknologi, vilket kan tyckas anmärkningsvärt med tanke på hur stilbildande hans verk i många avseenden varit. Mycket av den terminologi som lanserades i Neuromancer kom att anammas av samtida datorentusiaster. Hela romanen skrevs dock på en analog skrivmaskin och hans framtidsvision tycks främst ha haft bilden av en arkadhall och spelande ungdomar som utgångspunkt.

Kanske kan exemplet William Gibson och cyberpunk-genren bidra till förståelsen av hur science fiction många gånger kan förutse framtiden inte främst genom en genomtänkt extrapolering av nuvarande kunskap utan mer genom att på intuitiv väg måla upp ett scenario som har potential att i något avseende bli till verklighet. Det genomslag som cyberpunken har haft pekar på en växelverkan mellan att i fiktionens form förutse framtiden och att vara med om att skapa den.

Nästa inlägg i serien: Androider på gränsen till medborgarskap

Tidigare inlägg i serien:
Del 1: Mänskliga liv i händer på en AI – vad skulle kunna gå fel?

Samtliga inlägg samt ytterligare material finns också publicerat i skriften: Artificiell intelligens – vad vi kan lära av science fiction

Litteraturtips

Cave, S. (2020). AI: Artificial Immortality and Narratives of Mind Uploading. i: Cave, S., Dihal, K. & Dillon, S. (red.) AI narratives: a history of imaginative thinking about intelligent machines. First edition Oxford: Oxford University Press.

Conversations with William Gibson (2014). A. Smith, P. A. (red). University of Mississippi.

Gibson, W. Neuromancer-trilogin (2019). översättning av Hans Lindquist. Stockholm : Modernista.

McFarlane, A. (2020). AI and Cyberpunk Networks, i: Cave, S., Dihal, K. & Dillon, S. (red.) AI narratives: a history of imaginative thinking about intelligent machines. First edition Oxford: Oxford University Press.

Storming the reality studio : a casebook of cyberpunk and postmodern science fiction (1991). McCaffery, L. (red.). Durham : Duke University Press.

Skrivet av Peter Igelström, bibliotekarie, Vallabiblioteket

För övrigt…

Missa inte ”Moral och AI måste gå hand i hand”, en intervju med professor emeritus Erik Sandewall, Sveriges första professor i datalogi och en förgrundsgestalt inom AI-forskningen.

Posted on

Use ORCID and verify it in MinIT

**Detta blogginlägg på svenska**

To disseminate research and make it accessible, identifiers such as doi-links for publications and ORCID for researchers are indispensable. By specifying doi-link and ORCID when you describe your research, it becomes easier to create a common thread that links different types of research results in your research process. You simply become clearer as a researcher. Today, more than 1,700 LiU researchers have an ORCID and more and more journals and research funding bodies use ORCID to identify you as a researcher.

Make sure to verify your ORCID so that you are more clearly linked to LiU! LiU now has better support to facilitate those who want to use ORCID. On the page My profile in the MinIT system you can verify your ORCID. If you do not already have an ORCID, you will have the opportunity to create one in the process. The university library will automatically be able to use your ORCID in DiVA so that you are more easily linked to your publications.

Go to MinIT to verify your ORCID – it only takes two minutes

My profile – MinIT (minit.liu.se)

More about open science

Open Access Week – programme, Linköping University Library 2023

Posted on

Använd ORCID och verifiera det i MinIT

**This blog post in English**

För att sprida forskning och göra den tillgänglig är identifierare som doi-länkar för publikationer och ORCID för forskare oumbärliga. Genom att ange doi-länk och ORCID när du beskriver din forskning blir det lättare att skapa en röd tråd som kopplar ihop olika typer av forskningsresultat i din forskningsprocess. Du blir tydligare som forskare, helt enkelt. Idag har fler än 1 700 LiU-forskare ett ORCID och allt fler tidskrifter och forskningsfinansiärer använder ORCID för att identifiera dig som forskare.

Se till att verifiera ditt ORCID så att du kopplas tydligare till LiU! LiU har nu ett bättre stöd för att underlätta för den som vill använda ORCID. På sidan Mina uppgifter i MinIT kan du verifiera ditt ORCID. Om du inte redan har ett ORCID får du möjlighet att skapa ett i processen. Biblioteket kommer automatiskt att kunna använda ditt ORCID i DiVA så att du lättare kopplas till dina publikationer.

Gå till MinIT för att verifiera ditt ORCID – det tar bara 2 minuter

Min profil – MinIT (minit.liu.se)

Skrivet av Lena Strömbäck, Forskningskoordinator

Mer om öppen vetenskap

Open Access Week – Linköpings universitetsbibliotek, program 2023

Posted on

Artificiell intelligens – vad vi kan lära av science fiction Del 1

Enligt Karl Marx upprepar sig historien alltid två gånger, först som tragedi och sedan som fars. Idag kan vi också konstatera att alla tekniska framsteg upprepar sig två gånger, först som science fiction och sedan som verklighet. Jag tänker då främst på de genombrott kring artificiell intelligens vi blivit varse under det senaste året, men också på företeelser som rymdturism och rymdstationer, som idag är en realitet, liksom planerade baser på månen och de projekt som ska ta människor till Mars som flera nationer och företag nu ligger i startgroparna med.

När det gäller just AI och de chattverktyg och robotar som fått stor uppmärksamhet under den senaste tiden så har min egen reaktion varit en känsla av kuslig igenkänning från den science fiction jag läste och såg på film i min ungdom. Nu kan emellertid minnet som bekant ibland svikta, och man kan ”minnas” saker som man i själva verket fabricerat ihop i efterhand.

Det enda sättet att reda ut om så är fallet är att gå tillbaka till källorna. Vad har egentligen sagts i science fiction om AI, och kan man säga att denna genre har förutsagt den teknik vi nu besitter? Kan science fiction hjälpa oss att ställa de mest relevanta frågorna kring artificiell intelligens och om hur vi ska förhålla oss till den teknik som nu tycks göra så snabba framsteg?

I detta första inlägg i en serie blogginlägg om AI och science fiction fokuserar vi på hur mycket kontroll det är lämpligt att överlåta på AI-system och vilka risker som finns med att göra det. Till hjälp tar vi ett av sf-genrens mest klassiska verk.

Mänskliga liv i händer på en AI – vad skulle kunna gå fel?

Arthur C. Clarkes roman År 2001: en rymdodyssé (2001: A Space Odyssey, 1968) är intimt sammanvävd med en ännu mer berömd filmatisering. Filmen från 1968 i regi av Stanley Kubrick byggde på en novell av Clarke och ett filmmanus de båda hade skrivit tillsammans som kom att genomgå flera bearbetningar, huvudsakligen utförda av Kubrick. Clarke utvidgade därefter sin ursprungliga novell till roman som i sin tur till del baserade sig på filmmanuset. Trots det föreligger det vissa skillnader mellan filmen och romanen.

År 2001 skildrar mänsklighetens möte med en överlägsen utomjordisk intelligens. I romanens upptakt, som utspelar sig för omkring 3 miljoner år sedan, kommer en grupp apmänniskor i kontakt med ett okänt föremål som väcker deras slumrande medvetande till liv och får dem att ta de första stegen i utvecklingen mot en teknologisk civilisation. I romanens andra sekvens hittas i början av 2000-talet ett liknande (eller möjligen samma) föremål nergrävt i en krater på månen, där människan nu etablerat kolonier. Föremålet ges beteckningen TMA-1, men kommer allmänt att gå under benämningen ”monoliten”. I den tredje sekvensen skildras en bemannad färd med rymdskeppet Discovery med destination Saturnus och dess månar (i filmversionen är man istället på väg till Jupiter).

Det är i denna romanens tredje sekvens som vi får lära känna skeppets ”elektroniska hjärna”, den hyperavancerade datorn HAL-9000, som tilltalas ”Hal” av de två besättningsmännen Dave Bowman och Frank Poole. Tre ytterligare astronauter ligger nedsövda i dvala i väntan på att väckas när destinationen nåtts.

Hal övervakar och kontrollerar skeppets alla system, och interagerar med Bowman och Poole när den har något att rapportera eller mottar instruktioner, men också för samtal av mer social natur. Datorns röst beskrivs som ”avslappad och vänlig” och som tidsfördriv spelar de två astronauterna gärna schack och andra spel med sin artificiella kollega, som är programmerad att förlora ungefär vartannat parti för att utgången inte ska vara på förhand given.

De båda rymdfararna anpassar också sin egen konversation med hänsyn till Hal genom att använda ”artiga omskrivningar” för att inte ”genera honom i onödan”. De vänder sig mot manöverbordet när de samtalar med Hal, trots att datorn egentligen saknar en särskild placering utan är allestädes närvarande ombord på skeppet.

Det är uppenbart att Hal har förmågan att lära sig nya saker. Den beskrivs som ”intelligent” och Clarke refererar i detta sammanhang till det berömda Turingtestet:

Frågan huruvida Hal verkligen kunde tänka eller inte hade lösts redan av den brittiske matematikern Alan Turing så tidigt som på 1940-talet. Turing hade påpekat att om man kunde föra ett längre samtal med en maskin […] utan att märka någon skillnad mellan maskinens svar och de svar en människa skulle ha givit, då tänkte faktiskt denna maskin, enligt alla förnuftiga definitioner av ordet tänka. (Clarke, 1970, s. 108)

Turing menade alltså att en AI helt enkelt bara behöver imitera en människa tillräckligt väl för att den skulle anses vara tänkande. På så vis undkommer man den besvärliga och ytterst sett metafysiska frågan vad det innebär att vara tänkande och självmedvetande. Istället sätts kommunikativ förmåga och människans upplevelse av tänkande i centrum. Turingtestet känns oerhört förutseende med tanke på att det skisserades redan på 1940-talet men också en smula problematiskt i ljuset av dagens alltmer sofistikerade chattbotar.

Men Hal framstår inte bara som intelligent utan har även en viss personlighet och ger uttryck för känslor. ”Ni vet ju att jag är uppfylld av största tänkbara entusiasm för detta uppdrag”, försäkrar den. När den uppfattar att Bowman är upprörd föreslår den: ”Jag märker på ditt tonfall, Dave, att du är alldeles för uppskärrad. Varför inte ta en sömntablett och vila litet i stället?”.

Samtalen mellan Hal och besättningen på Discovery framstår emellanåt som slående lik den mellan en mänsklig användare och dagens chattbotar. Lika lite som när vi konverserar med ChatGPT vet Bowman och Poole när deras AI är uppriktig eller ljuger dem rakt i ansiktet. Dess tonfall och språk är lika tvärsäkert och oföränderligt.

Det visar sig emellertid att även Hal kan begå misstag, vilket leder till ödesdigra konsekvenser för Discoverys besättning. Datorn börjar rapportera om kritiska systemfel, rapporter som de två astronauterna kan konstatera är felaktiga. Markkontrollen på jorden låter meddela att Hal verkar ha tagit miste, vilket de kunnat konstatera med hjälp av två lika avancerade datorer i kommandocentralen. De rekommenderar att Hal kopplas ur och kontrollen över skeppet överlåts på en dator på jorden.

Kritiskt i sammanhanget är förstås att Hal har kontrollen över skeppets alla system, inklusive de som håller besättningsmedlemmarna vid liv. Plötsligt bryts kontakten med rymdcentralen. Långsamt går det upp för oss att Hal inte bara börjat krångla utan även har mordiska intentioner. Den lyckas med att ta livet av Poole och de nedsövda besättningsmedlemmarna innan Bowman till slut kan koppla ur Hal.

Förklaringen på Hals beteende visar sig vara en programmeringskonflikt som orsakats av att den getts information om uppdragets sanna natur, vilken av sekretesskäl undanhållits för Bowman och Poole. Den på månen funna utomjordiska monoliten har utsänt en signal mot Saturnusmånen Japetus, där ett annat utomjordiskt objekt antas finnas. Med sin egen AI-logik har Hal konstaterat att uppdragets hemliga syfte att lokalisera och undersöka den utomjordiska artefakten under inga omständigheter får äventyras av Bowmans och Pooles föresats att stänga av den defekta skeppsdatorn. Genom att helt enkelt röja de mänskliga besättningsmedlemmarna ur vägen vill Hal försäkra sig om att uppdraget fullföljs.

I slutändan finner Bowman också en mer mänsklig förklaring till Hals beteende, och beskriver det som ett sorts psykologiskt sammanbrott orsakat av undermedvetna skuldkänslor. Kanske på grund av sina egna känslor vill han helst tro att det aldrig var datorns avsikt att döda Poole, även om dennes död uppenbarligen inte skedde av en slump.

Ett varningsord?

Romanen (liksom filmen) får oss att ställa frågan hur mycket kontroll det är lämpligt att anförtro åt olika AI-system. Likaså att spekulera om under vilka premisser en AI kan tänkas bli opålitlig och utgöra ett hot mot liv och hälsa. Hur kan vi till att börja med förse den med så otvetydiga instruktioner att den aldrig kommer att handla på ett sätt som står i strid med våra egna intentioner? Skulle en AI i verkligheten precis som Hal kunna tolka sina instruktioner så att den börjar ta människor av daga? Eller på egen hand komma fram till slutsatsen att detta är en bra idé?

Dessa frågeställningar kändes förmodligen ganska avlägsna för gemene man när boken och filmen kom till för över 50 år sedan, men knappast så idag. Inom en nära framtid kommer vi högst sannolikt att få uppleva hur artificiell intelligens anförtros alltmer ansvarsfulla sysslor, också över livskritiska system. Ännu har vi kanske fortfarande möjlighet att inte göra oss alltför beroende av olika AI-system, men en dag kommer det sannolikt att vara för sent.

År 2001 kan tolkas som en varning för användningen av AI, även om det inte är entydigt att detta var Clarkes eller Kubricks intention. Vissa kritiker har menat att Hal framstår som berättelsens mest ”mänskliga” karaktär och är en betydligt mer intressant personlighet än någon av de mänskliga huvudpersonerna. Klart är i alla fall att dataföretaget IBM uppfattade filmen som en svartmålning av datortekniken. Företaget hade ett samarbete med Kubrick under produktionen men efter filmens premiär gick man ut med en avrådan till sin personal från att se den. (Abrams, 421)

Själv kan jag efter denna läsning heller inte riktigt släppa tanken på de möjligheter till övervakning som AI ger. I År 2001 kan Hal höra alla konversationer ombord på Discovery och med sitt allestädes närvarande öga ser den allt som händer. Efter att ha läst boken eller sett filmen är det svårt att inte slå en lätt paranoid blick mot sin egen smartphone och fundera på vad som döljer sig där under skalet.

Nästa inlägg i serien: Maskindrömmar i cyberspace

Samtliga inlägg samt ytterligare material finns också publicerat i skriften: Artificiell intelligens – vad vi kan lära av science fiction

Litteraturtips

Kring Arthur C. Clarkes roman och i synnerhet filmversionen av Stanley Kubrick finns en omfattande litteratur. Här följer några exempel på böcker och artiklar.

Abrams, N. (2017). What Was HAL? IBM, Jewishness and Stanley Kubrick’s 2001: A Space Odyssey (1968). Historical Journal of Film, Radio and Television, 37(3): 416-435.

Bizony, P. (2018). The ageless appeal of 2001: A Space Odyssey. Nature: International weekly journal of science.

Bristow, D. (2017). 2001, a space odyssey and Lacanian psychoanalytic theory, Palgrave Macmillan.

Clarke, A. C. (2017 [1968]) 2001 : a space odyssey. Penguin.

Clarke, A. C. (1970), År 2001: en rymdodyssé. Översatt av Roland Adlerberth. Bra böcker.

Groppo, P. (2022). The music of 2001: A Space Odyssey and the sublime object of cinema. Significação: Revista de Cultura Audiovisual 49:58, s. 1-18.

Krämer, P. (2018 [2010]). 2001 : a space odyssey. Bloomesbury.

Landon, B. (2009). Computers in Science Fiction. I Gunn, J, Barr, M. S. & Candelaria, M. (red.) Reading Science Fiction, Palgrave Macmillan, s. 85-95.

Vendy, P. (1999). HAL’s long, long run: computers and social performance in Stanley Kubrick’s 2001. ACM SIGCAS Computers and Society (29:4).

Skrivet av Peter Igelström, bibliotekarie, Vallabiblioteket

För övrigt…

Missa inte föreläsningarna i serien Research just around the corner, som pågår under hösten 2023 och där LiU-forskare presenterar sina framtidsspaningar kring AI:s betydelse för olika verksamheter och samhällsutvecklingen i stort.