Ett samtal om referenshantering, akademiskt skrivande och studenters bryderier

När jag själv pluggade vid LiU för många år sedan och det var dags att skriva uppsats fick vi en skrift med gult omslag om hur man skriver referenser enligt Oxfordsystemet. Dessvärre var denna skrift inte längre till någon nytta när jag senare läste en annan uppsatskurs. Nu var manualen istället orange och riktlinjerna för hur vi skulle referera såg annorlunda ut.

Att skriva referenser är något som alla studenter förr eller senare kommer att brottas med. Även om man har en instruktion att följa förekommer det specialfall och det kan vara svårt att veta exakt hur man i alla lägen ska referera och utforma sina referenser.

Lyckligtvis finns hjälpmedel att ta till och assistans att få. Min kollega Mikael Rosell arbetar med frågor som rör plagiering och referenshantering på Linköpings universitetsbibliotek. Han känner igen min egen frustration även bland dagens studenter:

Mikael: Det förekommer att studenter blir frustrerade när de ska referera enligt något annat system än som de lärt sig i ett tidigare sammanhang. Då får man som bibliotekarie ibland fungera lite som terapeut. Det är läraren som bestämmer för hen sätter betygen. Det händer att studenter försöker ta strid för ett visst sätt att referera beväpnade med olika handböcker, men jag vet inte hur sådana försök brukar avlöpa.

En del lärare är inte så strikta, utan låter studenterna välja referensstil så länge de är konsekventa.

Peter: Vad är de viktigaste skälen till att man skriver referenser i sin text?

Mikael: Det viktigaste skälet är att läsaren ska kunna hitta de källor man använt sig av. När man skriver sina referenser ska de vara konsekvent utformade och tydliga. Exakt var punkten sätts i referensen kanske inte är avgörande, men jag har sett exempel på studentarbeten där man refererat på upp till åtta olika sätt.

Ibland ser man också att viktig information om en källa saknas i referensen och det inte går att se om det är en bok eller artikel. Det kan innebära ett problem för den läsare som vill kolla upp källan, för då kan det bli mycket svårare att hitta den.

Peter: Är det något som är vanligt förekommande, att typen av källa inte framgår i referensen?

Mikael: Ja, studenter har ofta svårt att skilja olika typer av källor från varandra. I NoPlagiat, den självstudieguide om plagiering och referenshantering vi på biblioteket har utvecklat, har vi ända sedan den lanserades haft med en fråga om att identifiera om en referens är en bok, en artikel eller en webbsida. Men många har svårt för det och tror att ett bokkapitel är en artikel, exempelvis. Och i vilken grad man upplever svårigheter med det tycks inte förändra sig över tid.

Harvard kontra APA

Under vårt samtal kommer vi också in på ämnet referensstilar:

Mikael: Harvard är den svåraste referensstilen att jobba med, för det finns så många olika varianter av den. Högskolan i Borås har en jättebra guide till Harvardsystemet, Harvardguiden, som uppdateras varje år. Jag tipsar ofta om den, men inget säger att det är den enda rätta versionen av Harvard. I första hand frågar jag studenterna om de har någon guide på kursen att utgå ifrån. Annars tipsar jag om Boråsguiden.

När jag exempelvis får frågor via mejl där studenterna inte talat om vilken stil de använder brukar jag först ge exempel enligt APA (American Psychological Association).

Peter: Är just APA en referensstil som är väldigt spridd?

Mikael: Ja, men den är framför allt tacksam därför att den är standardiserad. Då blir det mycket enklare att säga vad som är en korrekt referens och inte. APA är mer enhetligt än exempelvis Harvard.

APA uppstod som en variant av Harvardsystemet, och användes ursprungligen bara för psykologiämnet, men har spritt sig till fler discipliner.

Peter: Vissa stilar dominerar alltså inom en viss disciplin eller ett visst ämne. Finns det också trender och moden i fråga om referensstilar? Var vissa stilar vanligare förr och andra mer populära idag?

Mikael: Egentligen inte vad jag kunnat se under de år jag jobbat med dessa frågor. Universitetslärare är generellt ganska konservativa och vill att studenterna använder den stil de själva använder. APA har kanske i viss mån vunnit mark men det är ingen jättetydlig trend i så fall. Vi har också marknadsfört den litegrann när lärare inte har haft några tydliga instruktioner om vilken stil deras studenter ska använda.

Att referera i sin text

Peter: Det här med hur man skriver en korrekt referens är en sak, men det allra svåraste tycker jag var när och var man skulle ange referensen: i början eller slutet av stycket, eller vid den mest centrala meningen. Ibland känns det som att referenserna blir för många och ibland för få. Vad har du för erfarenheter kring det?

Mikael: Här rör vi oss in på frågor som tangerar akademiskt skrivande, som vi på biblioteket inte pratar så mycket om i vår undervisning. Men liksom med referenshantering blir svaret ofta ”det beror på”. Det finns olika traditioner inom olika ämnen. Inom vissa ämnen/traditioner sätter man referensen i slutet av stycket (en så kallad styckereferens), men det accepteras inte inom alla ämnen, och i vissa fall sätter man hellre referensen i början av stycket.

Det finns således inga absoluta rätt eller fel, utan beror på vilken handbok man utgår från och lärarens instruktioner. Jag tipsar ibland studenterna om att de kan titta på tidigare godkända examensarbeten inom ämnet de läser. På så sätt kan de få en känsla för hur man gör.

När frågan glider in på akademiskt skrivande hänvisar vi studenterna ibland också till Språkverkstaden.

AI används mer och mer

Peter: Det här med citat och parafraser är ju ett kapitel för sig. Ett citat är ett exakt återgivande av vad någon annan skrivit eller sagt. Om man istället parafraserar, formulerar man någon annans resonemang med sina egna ord. Vad finns det att säga om det?

Mikael: Ett vanligt förfarande bland studenter när de ska parafrasera är att de utgår från formuleringen i den källa de använt och sedan skriver om texten. Men då har man bundit fast sig vid den ursprungliga formuleringen, och det blir sällan bra. Då är det bättre att man skriver utifrån vad man minns.

Numera tror jag också att AI-verktyg har börjat användas mer och mer. Man använder sig av ChatGPT eller Microsoft Copilot för att skriva om texter. Men det finns mycket osäkerhet bland studenter kring detta. Om man inte är nöjd med sin egen text, kan man då använda en AI-tjänst för att förbättra den? Det är en jätteintressant fråga, men inte så lätt att svara på. Hur man får använda AI i sina kurser är i slutändan upp till läraren.

Som tumregel brukar jag tänka att om man ersätter AI-verktyget med en människa – vad är då ok att göra? Det är ju helt ok att be en kollega om feedback på sin egen text. Men om jag ber kollegan skriva hela texten är den ju inte längre min. Om man tänker AI-verktyg istället för kollegan så kan man få lite vägledning i vad som är okej att göra, tycker jag.

Det är också jätteviktigt att vara transparant om man har använt AI och att man tydligt redovisar hur man använt verktyget.

Peter: Man kan alltså konstatera att frågor om referenshantering och plagiering ofta glider in i varandra?

Mikael: Ja, och det gäller också frågor vi får från forskare, där referenshanteringsfrågor kan tangera publiceringsfrågor. Forskare undrar ofta om de kan återanvända en text de skrivit i en ny artikel. Det kan bli väldigt komplext, och när vi får frågor om det får vi ofta hänvisa till förlaget. Ibland pekar man i sitt svar bara på olika alternativ, och det händer att man i efterhand blir fundersam över vad man egentligen har svarat på. Förhoppningsvis kan vi ge lite vägledning i alla fall.

Referenshanteringen är viktig

Peter: Vilka är de vanligaste frågorna studenter har kring referenshantering?

Mikael: ”Var ska jag sätta referensen?”, ”Hur ska jag referera i löpande text?”. Hur specifika referenser ska se ut är också en vanlig fråga. Liksom: ”Jag har hittat ett myndighetsdokument på webben, hur ska jag hänvisa till det?”

Hur man ska hantera specifika svenska dokument, till exempel SOU-er, kan ibland vara en utmaning. Eftersom det är en typ av dokument som inte förekommer i andra länder finns det därför heller inte något standardiserat sätt att referera till dem.

Sådana frågor kan ibland också vara kopplade till referenshanteringsprogram, till exempel Zotero vars Harvardvariant kan skilja sig från den som man ska använda på sin kurs. Man får då redigera referenslistan i efterhand. För att göra det är det möjligt att använda ett AI-verktyg som Copilot, som till exempel kan avlägsna parenteser om man inte ska ha sådana i sina referenser.

Jag upplever ibland att studenter undervärderar vikten av referenshantering och bara fokuserar på att skriva en bra text. Men om man glömt att notera viktig information om sina källor efter att man lämnat tillbaka sina böcker på biblioteket så kan det bli besvärligt.

Min rekommendation är att alltid se till att spara ner referensen med en gång. Genom att använda ett referenshanteringsverktyg, exempelvis Zotero eller EndNote, så får man lättare att hålla koll på sina referenser.

Det är synd när studenter som lagt mycket tid och energi på att skriva en bra text får ett sämre betyg därför att man missat i referenshanteringen.

Orosmolnet plagiering

Peter: Det här med plagiering är väl en annan fråga som studenter ofta undrar över, kan jag tänka mig…

Mikael: Ja, men jag brukar säga att man inte bör överdramatisera det här med plagiering och som student överdrivet oroa sig över att man råkat plagiera av misstag. Har man goda intentioner och försöker göra rätt så behöver man i allmänhet inte känna någon oro för det. Vissa är rädda för om man bara råkat formulera en enda mening för lik en källa så åker man dit för plagiering. Men det är stor skillnad om några enstaka meningar råkat bli identiska med någon annans formuleringar och när det handlar om 20 sidor!

Det går inte att ange en exakt procentsiffra för hur mycket likheter som gör det till ett plagiat. Synen på det kan skilja sig mellan ämnen och fakulteter. Inom teknik och naturvetenskap är det relativt vanligt med formelartade delar. Humanisters och samhällsvetares texter ser i regel lite annorlunda ut.

Många undrar också om man får använda enskilda begrepp eller om man måste omformulera dem. Men vedertagna begrepp inom ett specifikt område måste man naturligtvis använda.

Peter: Och då kan jag tänka mig att det är många som ännu inte är så bekanta med sitt ämne att man känner sig trygg med vilka begrepp som är vedertagna och vilka som inte är det…

Mikael: Ja, det är en viktig aspekt. Det är viktigt att förstå att akademiskt skrivande är något man lär sig längs vägen, att det är en färdighet som tar tid att förvärva. Man måste dock våga öva sig i att göra det genom att skriva egna texter. ”Det blir för olikt originalet!”, hör jag ibland som invändning. Men i så fall är det bättre att man hamnar åt det hållet än att man råkar plagiera. Du behöver visa vad du förstått – om det är inte din text går inte det.

Tips

  • Om du har frågor som rör referenshantering och plagiering kan du i många fall hitta ett svar i bibliotekets FAQ, kategorierna Citera och referera och Plagiering och upphovsrätt:
    Frågor och svar
  • Ett referenshanteringsprogram kan förenkla och effektivisera referenshanteringen när man skriver akademiska texter. För dig som är LiU-student eller anställd finns möjlighet att anmäla sig till bibliotekets introduktioner i Zotero och EndNote, som ges online. Läs mer på Liunet student -> Skriva och referera (inloggning med LiU-ID nödvändigt)
  • Ett alternativ till att använda ett referenshanteringprogram är Zoterobib, som är ett gratis och reklamfritt verktyg som skapar referenser av källor. Du behöver inte skapa ett konto eller installera någon programvara för att använda dig av Zoterobib (zbib.org).

Skrivet av Peter Igelström, bibliotekarie, Vallabiblioteket

The Library implements LiUdesk

**Detta blogginlägg finns också på svenska**

From Wednesday 12 June, the Library will be using the ticket management system LiUdesk, already in use by other services at Linköping University.

When you email us as a student or employee at LiU, you will receive our reply via LiUdesk. Via email, you will receive a link to your LiUdesk ticket, where you log in with your LiU-ID to see and reply to the message. Users outside of LiU will receive their reply directly via email.

The transition to LiUdesk will improve information security and the handling of tickets, and will harmonize library routines with those of other LiU services.

A new library chat is under procurement. The new online chat will be implemented after the summer break.

Contact the Library

biblioteket@liu.se

Biblioteket går in i LiUdesk

**This blog post in English**

Från och med onsdag 12 juni går biblioteket in i det LiU-gemensamma ärendehanteringssystemet LiUdesk.

För dig som student eller anställd vid LiU innebär det att du fortsättningsvis får svar från biblioteket med en länk till ditt ärende, som du kommer åt med ditt LiU-login. För dig som inte tillhör LiU får du svar direkt via mejl.

Övergången till Liudesk innebär en ökad säkerhet i hantering och uppföljning av inkomna frågor och att ärenden får en likartad hantering som övriga LiU.

I samband med detta upphandlas även en ny tjänst för bibliotekets chattfunktion – vilken tas i bruk efter sommaruppehållet för chatten.

Kontakta oss

biblioteket@liu.se

Artificiell intelligens – vad vi kan lära av science fiction Del 5

Lek med tanken att vi kunde göra en tidsresa tillbaka till mitten av 1900-talet och hålla en presentation om vår egen samtid för någon som levde då. Skulle inte en sådan presentation för vederbörande i många avseenden framstå som science fiction?

För vissa dåtida visionärer skulle vår presentation chockerande nog inte vara särskilt uppseendeväckande utan snarare precis i linje med vad de själva prognostiserat. Många sf-författare i det förgångna har även blickat längre fram än till vår egen samtid. Den naturliga frågan att ställa i detta sista inlägg om vad science fiction kan lära oss om AI blir följaktligen: Vad blir människans roll i en värld som också befolkas av intelligenta maskiner?

AI och mänsklighetens framtid

På en punkt är de allra flesta sf-författare eniga: uppkomsten av avancerad AI kommer att förändra samhället i grunden. Inte sällan har man förutsett hur människan kommer att marginaliseras och passiviseras när AI ersätter oss i alltfler uppgifter. I novellen ”Robotarnas krig” (1962) föreställde sig Harry Harrison hur robotar tar över det krig som människorna startat och fortsätter att utkämpa det långt efter att de mänskliga deltagarna på båda sidor önskar fred.

Hur samhället förändras när fusionskraft kan producera outsinliga mängder energi utforskas av Frederik Pohl i Midas värld (Midas World, 1983). Ett överflödssamhälle och fullständig automatisering bland annat i form av robotar blir resultatet. Med bitsk ironi skildrar den amerikanske författaren hur de fattiga helt plötsligt är tvungna att ständigt konsumera och de rika kan köpa sig friheten att slippa undan ekorrhjulet och leva enkelt.

I slutändan finner Morey Fry, vars hustru är av överklassfamilj och inte van att behöva konsumera, lösningen på problemet: genom att låta sina hushållsrobotar slita ut kläder, husgeråd och andra produkter går ekvationen ihop. Människorna befrias från det ständiga konsumerandet och både produktion och konsumtion kan överlåtas på maskiner.

I ytterligare en berättelse med satirisk udd, Sagan om den stora datamaskinen av Hannes Alfvén (som första gången utgavs under pseudonymen Olof Johannesson 1966), återberättas från den avlägsna framtiden datorteknikens framväxt och hur människorna successivt ersatts av alltmer avancerade datamaskiner.

Alfvén verkar i bara farten ha förutsett en variant av internet, kallad teletotal, ”en kombination av automattelefon, radio och TV”. Uppfinningen banar väg för arbete hemifrån och digitala möten som till slut endast äger rum mellan vad vi idag kallar avatarer. Även storstäderna kan därmed avskaffas då man inte längre behöver ta sig till sitt arbete och fysiska butiker inte längre finns eftersom alla shoppar online.

Till en början rationaliserar datoriseringen bort olika yrkesgrupper, men nya tillkommer i form av servicetekniker och programmerare. På längre sikt ersätter datorerna i Sagan dock alla professioner, även beslutsfattare och politiker eftersom de helt enkelt gör jobbet bättre. Samhället går framåt på alla plan, men så inträffar den stora katastrofen: datanätverket bryter samman. Större delen av mänskligheten utplånas av svält och umbäranden, men efter en tid kan civilisationen starta om på nytt.

När man lyckats återuppbygga samhället kan framtida katastrofer förebyggas genom att göra datorerna självproducerande utan mänsklig inblandning. Detta resulterar i uppkomsten av superdatorer som är överlägsna mänskliga hjärnor både på ett intellektuellt och på ett moraliskt plan.

För människorna återstår en ”behaglig tillvaro med just så mycket av arbete som behövs för att deras fritidsproblem inte skall bli alltför stora”. Och vad har då människans fortsatta existens för mening överhuvudtaget? Sagans berättare föreslår att vi möjligen kan fylla funktionen av husdjur, liksom människorna hållit hästar trots att dessa spelat ut sin roll som kommunikationsmedel.

De sista människorna?

Sagan om den stora datamaskinen skildrar hur AI gör människor överflödiga och överspelade, men det finns också berättelser där AI är direkt fientlig gentemot mänskligheten. Den kanske mest mardrömslika visionen på detta tema återfinns i novellen ”Jag har ingen mun och jag måste skrika” (I Have No Mouth & I Must Scream, 1967) av Harlan Ellison. Efter ett tredje världskrig återstår endast fem människor som hålls som fångar av en psykopatisk AI, kallad AM. Dess enda mål är att utkräva hämnd på mänskligheten som gett den medvetande men inte kroppslig gestalt. AM:s mänskliga fångar lever endast i den virtuella verklighet som datorn skapat och där de utsetts för den mest utstuderade tortyr. Offren fråntas all sin mänsklighet, men en av dem lyckas befria sina medfångar från lidandet genom att döda dem. Han själv är utelämnad åt en tillvaro av sadistisk tortyr för all evig framtid.

I denna nattsvarta framtidsvision är AI:n en grotesk spegelbild av den civilisation som skapat den som ett instrument för krigföring. Tanken att artificiella varelser kommer att efterträda människan är dock inte unik för denna berättelse, även om den aldrig gestaltats med motsvarande bestialitet.

Upplägget i ”Evigt liv” (Second Ending, 1962) av James White är till en början liknande, men bilden av AI är denna gång den totalt motsatta än hos Ellison. Ross, en enda mänsklig överlevare från det kärnvapenkrig som ödelagt jorden, vaknar upp från nedfrysning på ett sjukhus där personalen bara består av robotar. När han återhämtat sig ger han robotarna instruktioner att leta efter fler överlevare, men när han inser att han är den sista människan väljer han att låta frysa ner sig igen. Han ger robotarna instruktioner att försöka etablera nytt liv från en enda överlevande växtart. När Ross med ojämna mellanrum återupplivas får han uppdateringar om framstegen. Han väcks till liv efter 43 000 år i dvala och upptäcker att jorden börjat återhämta sig och växligheten åter har börjat spira. Robotarna har tagit över planeten och är på väg att skapa en egen civilisation.

Efter en serie uppvaknanden inser Ross att han inte längre hänger med i robotarnas utveckling. Även om de fortfarande lyder hans instruktioner besitter de nu så pass avancerade kunskaper att de vida överskrider hans egna. När han återupplivas en sista gång efter att årmiljoner förflutit och jorden håller på att gå under får han veta att maskinerna har koloniserat en avlägsen planet och där återskapat människosläktet. Huvudpersonen transporteras dit för att leva den resterande delen av sitt liv.

I Whites berättelse framstår robotarna som en välvillig artificiell intelligens som värnar om människan fast de själva egentligen passerat oss i sin egen utveckling. Dock framstår deras evolution som anmärkningsvärt långsam jämfört med vad många experter och sf-författare menar kommer att vara fallet när avancerad artificiell intelligens väl är verklighet.

Vernor Vinge, matematiker och science fiction-författare, presenterade på en NASA-sponsrad konferens 1993 sina idéer kring en framtida superintelligens. Vinge förutspådde bland annat följande:

  • Artificiell intelligens, eller en kombination mellan artificiell och mänsklig intelligens, som är högre stående än människans kommer sannolikt att vara en verklighet någon gång mellan 2005 och 2030.
  • När den väl är ett faktum kommer dess fortsatta utveckling vara långt snabbare än någon tidigare biologisk eller teknologisk utveckling.
  • Denna exponentiella utveckling bortom människans kontroll benämns som ”singulariteten”.
  • Om singulariteten är en faktisk möjlighet så kommer den att vara omöjlig att förhindra.

Vinges tankar om singulariteten formulerades för över 30 år sedan, men ekar fortfarande i varningar om AI som nyligen uttryckts av AI-experter som Max Tegmark och Geoffrey Hinton.

Vad kommer då att hända bortom att singulariteten är ett faktum? Ett möjligt scenario skisseras av den brittiske sf-författaren Arthur C. Clarke i År 2001: en rymdodyssé (2001 : A Space Odyssey, 1968), där AI-stadiet bara är ett steg på vägen. I slutet av romanen ställs astronauten Dave Bowman efter att ha inträtt genom en ”stjärnport” inför en utomjordisk intelligens som för länge sedan lämnat sin biologiska form. Genom att överge sina kroppar av kött och blod till förmån för maskinkroppar har de kunnat utforska universum. I slutändan övergav de materiell form helt och hållet och lärde sig ”konsten att lagra vetande i rymdens egen struktur och bevara sina tankar för evinnerliga tider i gitter av fruset ljus”.

Hur ska man då förhålla sig till att mänskligheten, såsom flera bedömare menat, snart kommer att vara ett minne blott till förmån för AI? Enligt Clarke i ett TV-inslag i BBC 1964 bör man inte vara överdrivet nedslagen över detta:

Is this depressing? I don’t see why it should be. We superseded the Cro Magnon and the Neanderthal man, and we presume we are an improvement. I think we should regard it as a privilege to be a stepping stone to higher things. I suspect that organic, or biological evolution, has about come to its end and that we are now in the beginning of inorganic, or mechanical, evolution, which will be a thousand times swifter.

Vad science fiction kan lära oss om AI

Med utgångspunkt i de exempel som refererats ovan ser mänsklighetens utsikter i en värld som befolkas av intelligenta maskiner inte särskilt ljus ut. Men varför ska vi då vända oss till science fiction för att söka svar om AI och dess framtid? Anledningen, som jag ser det, är att den viktigaste frågan om artificiell intelligens inte primärt handlar om vetenskap, teknik eller politik, utan är existentiell till sin natur. Och var mer än någon annanstans har existentiella frågor av den här typen diskuterats än inom sf?

Sf-experter har framhållit att science fiction uppfyller en sorts prekognitiv funktion där frågor kan ställas och dryftas om saker och ting som skulle kunna bli verklighet, men för den skull inte nödvändigtvis kommer att bli det. Genren har därmed potential att mentalt förbereda oss för en kommande framtid eller för förändring rent generellt.

Oavsett hur framtidens AI-system kommer att te sig är det fullt möjligt att de själva kommer att kunna ta lärdom av sina föregångare inom science fiction, eftersom de kommer att ha tillgång till samma texter, bilder och filmer som vi. Kanske har vi därmed oavsiktligt skapat framtidens artificiella intelligenser genom att ha gett dem gestalt inom fiktionens ram. Även denna text kommer säkerligen att bearbetas av en AI:s algoritmer och möjligen utgöra en mikroskopisk del av dess medvetande. Vad kommer den då att ha lärt sig?

Tidigare inlägg:

Del 4: Rädslan för robotar

Del 3: Androider på gränsen till medborgarskap

Del 2: Maskindrömmar i cyberspace

Del 1: Mänskliga liv i händer på en AI – vad skulle kunna gå fel?

Samtliga inlägg och ytterligare material finns också publicerat i skriften Artificiell intelligens – vad vi kan lära av science fiction

Litteraturtips

Alfvén, H. (1987). Sagan om den stora datamaskinen: en vision. [Ny utg.] Stockholm: Pilgrim press

Ellison, H. (1991 [1967]). Jag har ingen mun och jag måste skrika. I: Lundwall, Sam J. (red.). Stora robotboken: [berättelser om och med robotar]. Bromma: Lundwall Fakta & fantasi, s. 429-443.

Harrison, H. (1991 [1962]). Robotarnas krig. I: Lundwall, Sam J. (red.). Stora robotboken: [berättelser om och med robotar]. Bromma: Lundwall Fakta & fantasi, s. 311-329.

Clarke, A. C. (2016). 2001: a space odyssey. New York: Penguin Books.

Clarke, A. C. (1970). År 2001: en rymdodyssé. Höganäs: Bra böcker

Davour, A. (2020). Science fiction i verkligheten. Forskning & Framsteg 2020:9, s. 36-43.

Määttä, J., Bodén, D. & Godhe, M. (2020). Ett samtal om AI och science fiction. AI, robotar och föreställningar om morgondagens arbetsliv, s. 219-241.
Även tillgänglig på engelska i DiVA

Pohl, F. (1984). Midas värld. Bromma: Delta.

Vinge, V. (1993). The Coming Technological Singularity: How to Survive in the Post-Human Era, VISION-21 Symposium sponsored by NASA Lewis Research Center and the Ohio Aerospace Institute, March 30-31, 1993.

White, J. (1991 [1962]). Evigt liv. I: Lundwall, Sam J. (red.). Stora robotboken: [berättelser om och med robotar]. Bromma: Lundwall Fakta & fantasi, s. 330-409.

Skrivet av Peter Igelström, bibliotekarie Vallabiblioteket

För övrigt…

BBC-inslaget med Arthur C. Clarkes förutsägelser om framtiden från 1964 hittas på YouTube.

Även Isaac Asimov uttalade sig i flera TV-inslag om framtiden, till exempel i en intervju i amerikansk TV från 1982: Isaac Asimov Predicts The Future In 1982. Was He Correct?

Artificiell intelligens – vad vi kan lära av science fiction Del 4

Om en AI eller robot inte verkar vara vid sina sinnens fulla bruk utan beter sig på ett sätt som tycks stå i strid med hur den har programmerats, vad gör man då?

Enligt den amerikanske science fiction-författaren Isaac Asimov (1920–1992) är svaret självskrivet: kallar in robotpsykologen Susan Calvin. I en rad berättelser från 1940-talet och framåt skildrade Asimov olika fall där robotars agerande tycks stå i strid med de tre lagar deras ”positroniska” hjärnor inympats med och som ingen robot ska kunna bryta mot. Lagarna har i Asimovs sf-berättelser tillkommit som ett svar på människors rädsla för… ja, vad är det egentligen som skrämmer oss med robotar?

Rädslan för robotar

En rad prominenta debattörer, däribland fysikern och AI-forskaren Max Tegmark, har varnat för att AI inom en snar framtid skulle kunna utgöra ett hot mot mänskligheten. Isaac Asimov skulle förmodligen ha betraktat sådana ståndpunkter som ett uttryck för det han kallade Frankensteinkomplexet, en irrationell rädsla för att människoskapade maskiner ska förgöra sina skapare.

Frankensteinkomplexet menade Asimov skulle visa sig så starkt att det kommer att leda till krav på olika åtgärder för att reglera användningen av AI och robotar. Han postulerade därför att alla robotar skulle förses med tre lagar som skulle säkerställa att de aldrig skulle kunna orsaka en människa skada. De tre lagarna formulerades enligt följande:

  1. En robot får aldrig skada en människa eller, genom att inte ingripa, tillåta att en människa kommer till skada.
  2. En robot måste lyda order från en människa, förutom då sådana order kommer i konflikt med Första lagen.
  3. En robot måste skydda sin egen existens, såvida detta inte kommer i konflikt med Första eller Andra lagen.
    (Isaac Asimov, Jag Robot, s. 5, översättning av Fredrik Liungman)

Även om dessa lagar vid ett första påseende kan se ut som ett idiotsäkert system så går det med lite fantasi föreställa sig en rad situationer där vi hamnar i en gråzon. Och det är just det som ständigt inträffar i Asimovs robotberättelser. De tre lagarna utgör ramverket för dessa berättelser och ger dem deras karaktär av pusseldeckare i science fiction-form. De kortare berättelserna samlades i novellsamlingarna I, Robot (1950, Jag robot) och The Rest of the Robots (1964, De andra robotarna).

Novellerna följer ofta mönstret att en robot i inledningen uppvisar ett märkligt eller oförutsett beteende som tycks stå i strid mot någon av de tre lagarna. Försök att gå till botten med varför roboten beter sig som den gör leder till att Susan Calvin, robotpsykolog anställd av US Robots and Mechanical Men, Inc., kopplas in. Hennes undersökning landar i en förklaring att robotens beteende i själva verket orsakats av en mycket specifik situation som gjort att två av lagarna hamnat i konflikt med varandra.

I exempelvis ”Liar!” (Lögnare!) försöker man komma underfund med varför den tankeläsande roboten Herbie kommer med uppenbart felaktiga och vilseledande utsagor. Förklaringen visar sig vara att den bara säger vad alla vill höra. Eftersom den känner människors innersta önskningar och begär kan den inte ta illusionerna ifrån dem och därmed bryta mot den första lagen som säger att en robot aldrig får orsaka en människa skada. Felet ligger således hos människorna snarare än hos roboten.

Fobier

Trots att Asimov anses som en av de främsta representanterna för högmodernistisk teknikfokuserad science fiction är det inte så mycket tekniken i sig han intresserar sig för, utan snarare människors inställning till tekniken och hur våra samhällen formas av den. Han tycks också ha haft en särskild fascination för psykologi och hur människor kollektivt utvecklar olika sociala egenheter, vilket inte minst kommer till uttryck i romanerna The Caves of Steel (1954, Stålgrottorna), The Naked Sun (1957, Den nakna solen) och The Robots of Dawn (1983, Död robot).

I dessa romaner, som samtliga har polisen Elijah Baley som huvudperson, har jordens befolkning bosatt sig i tätbefolkade, kupoltäckta megastäder. Dessa levnadsomständigheter har gjort att innevånarna utvecklat en fobi för att överhuvudtaget vistas utomhus. Baleys obehag, ibland stegrat till panik, när han måste sätta sin fot utanför kupolerna är således helt och hållet socialt betingad.

I kontrast till jordmänniskorna uppvisar de kolonisatörer som bosatt sig på andra planeter helt andra sociala mönster, till exempel befolkningen på Solaria, till vilken Baley skickas på uppdrag i The Naked Sun för att utreda ett mord på en planet där aldrig någon tidigare mördats. Den lilla befolkningen på Solaria lever hela sina liv omgivna av robotar och umgås med varandra nästan uteslutande virtuellt. De finner därför stor avsmak att behöva fysiskt befinna sig i andras närvaro, inte minst när de måste umgås med en jordbo som Baley. Romanen skildrar Baleys utredning av fallet där det bara finns en enda misstänkt (den mördades hustru) men som ändå inte tycks ha haft möjlighet att begå mordet.

Befolkningen på Aurora, den ledande av de koloniserade planeterna, uppvisar en stark bacillskräck och Baley måste genomgå en lång renings- och desinficeringsprocess innan han tillåts komma i närkontakt med aurorianerna, som trots det använder näsfilter och handskar för att skydda sig från de smittoämnen och odörer detektiven kan tänkas föra med sig.

Asimov drog själv paralleller mellan de fobier som kommer till uttryck i dessa romaner och sina egna. I sin postumt utgivna memoarbok I. Asimov (1994) berättar han bland annat om sin höjd- och flygskräck, sin allmänna motvilja mot att resa och sin förkärlek för instängda utrymmen. Hans favoritsysselsättning tycks ha varit att sitta och skriva i ett avskärmat rum utan utsikt mot omvärlden.

I Asimovs science fiction närmar sig människors inställning till robotar i vissa fall en fobi, men i andra avseenden har denna inställning helt konkreta bakomliggande orsaker. Deras förespråkare menar att robotarna kan förbättra livet för människor genom att överta rutinartade, ansträngande och farliga sysslor. Andra menar att deras uppehälle är hotat av att robotar tar över deras jobb. Fastän Asimovs robotberättelser huvudsakligen skrevs under 1940- och 50-talen så är denna diskussion idag mer aktuell än någonsin. Verksamma inom alltfler professioner fruktar nu att de inom en nära framtid kommer att ersättas av AI och för vissa är detta redan ett faktum.

Vad är det då, förutom sysslolöshet, vi riskerar genom att låta robotar överta våra arbetsuppgifter? Ett argument som framförs av en hätsk robotmotståndare i en av Asimovs noveller är att något väsentligt går förlorat om människor skulle skiljas från manuellt arbete. (”Galley Slave”, i The Rest of the Robots). Asimov verkar över lag ha haft liten förståelse för dylika argument och menade att om en robot eller AI gjorde jobbet bättre än en människa, så skulle man låta den göra det. I novellen ”Evidence” (Beviset) måste en politiker som misstänks för att vara robot komma med motbevis och dementier inför en misstroende opinion. Författaren däremot tycks inte ha varit främmande för tanken att en robot skulle ha bättre förutsättningar som beslutsfattare än en människa.

Människors motvilja mot robotar kommer också till uttryck i The Caves of Steel, där grupper har gjort det till sin ideologi att avvisa ny teknik. Dessa extremister motsätter sig det genomorganiserade livet i de kupoltäckta städerna och vill återvända till en mer traditionell livsstil. Robotarna är för dem den yttersta symbolen för den teknologiska civilisationen (och de avskydda kolonialborna) och därför deras hatobjekt. Deras motstånd tar sig bland annat uttryck i upplopp med udden riktade mot robotar, men deras känslor för robotar delas i stor utsträckning av gemene man. Även Baley själv behandlar kontorsroboten i polishögkvarteret nedlåtande och han är till en början djupt skeptisk till den robotpartner som har tilldelats honom för att lösa ett mord på en prominent forskare från en av kolonierna. Baley uttrycker även initialt en olust inför robotens människoliknande gestalt, då hans partner R. Daneel Olivaw till sitt yttre inte går att skilja från en människa.

Inom robotiken brukar man referera till ”the uncanny valley”, en upplevd olust inför robotar som står i proportion till hur människolika de är. Begreppet myntades på 1970-talet av den japanske robotforskaren Masahiro Mori, som menade att robotar som liknade människor hade en tendens att ge upphov till olust hos testpersoner. Robotar som var mindre människolika, liksom de som överhuvudtaget inte gick att skilja från riktiga människor, skulle enligt honom inte ge upphov till motsvarande grad av olustkänslor.

Baleys robotpartner är visserligen närmast identisk med en människa, även om Baley noterar dennes fläckfria yttre och reagerar på den lucka Daneel använder för att göra sig av med mat vid de tillfällen då han av sociala skäl behövt inmundiga föda som han ändå inte kan tillgodogöra sig.

I Asimovs berättelser tycks rädslan för robotar främst vara riktad mot deras fysiska manifestationer snarare än för deras mentala kapacitet. I novellen ”The Evitable Conflict” (Den undvikliga konflikten) har AI tagit hand om all planering och styrning av det ekonomiska systemet utan att någon rest några invändningar. I verkligheten råder snarare ett omvänt förhållande, där människor tycks känna större oro över ansiktslösa artificiella intelligenser utan kroppslig form än människoliknande robotar.

Kanske är det i kontrasten mellan deras likhet och olikhet med oss människor som fascinationen över Asimovs robotar ligger. För även om de i vissa avseenden har skapats för att efterlikna människor är de i sin konstitution fundamentalt annorlunda. De såras inte trots alla glåpord de får utstå. Deras uppgift är, till skillnad för när det gäller oss människor, alltid entydig och klar. De anfäktas aldrig av några tvivel, de har aldrig en dålig dag och sätter aldrig sig själva i första rummet. Kanske är det denna fullkomlighet hos robotarna som både fascinerar och skrämmer.

Asimov framställer människornas rädsla som ofrånkomlig men samtidigt överdriven. Man anar att han delade Susan Calvins inställning. I hennes ögon framstår robotarna närmast som oskuldsfulla barn och hon uttrycker vid flera tillfällen större förståelse för dem än för sina medmänniskor.

Mänsklighetens beskyddare eller förgörare?

Över hela sviten berättelser om robotar finns det nästan ingen aspekt av interaktionen mellan människa och robot som Asimov inte utforskar: robotar förekommer som människors tjänare, kollegor, familjemedlemmar, vänner, beskyddare och sexpartners. En typkaraktär förekommande i annan science fiction som dock lyser med sin frånvaro är mördarroboten.

För den som ännu inte läst Asimovs hela svit av robotberättelser ska jag inte berätta utgången, men kan avslöja att robotarna successivt utvecklar sin egen förståelse av de tre lagarna och formulerar en lag som är överordnad även den obrytbara första lagen. De fullföljer den uppgift de skapats för, även om de inte alltid gör det på ett sätt som deras skapare tänkt sig.

Är scenariot med robotar i rollen som mänsklighetens beskyddare realistiskt eller bara en from förhoppning? Om man ska tro rapporteringen om artificiell intelligens känns det betydligt mer sannolikt att allt annat än altruistiska syften kommer att driva denna utveckling framöver. Redan nu varnar forskare för en kapprustning med AI som kommer att likna den med kärnvapen under kalla kriget. Vissa experter menar att denna kapprustning redan är omöjlig att stoppa och att den krigsmakt som inte rustar sig med AI kommer att vara chanslös mot framtidens AI-baserade vapensystem.

Avseende en detalj är jag dock övertygad om att Asimov kom med en korrekt förutsägelse, nämligen när det gäller Susan Calvins yrke. Professionen robotpsykolog eller AI-psykolog har säkerligen framtiden för sig. Varför inte rent av som en tvärvetenskaplig utbildning vid LiU?

Nästa och avslutande inlägg i serien: AI och mänsklighetens framtid

Tidigare inlägg:

Del 3: Androider på gränsen till medborgarskap

Del 2: Maskindrömmar i cyberspace

Del 1: Mänskliga liv i händer på en AI – vad skulle kunna gå fel?

Samtliga inlägg samt ytterligare material finns också publicerat i skriften: Artificiell intelligens – vad vi kan lära av science fiction

Litteraturtips

Alpman, M. (2024) AI med rätt att döda, Forskning & framsteg 2024:2, s. 28-33.

Asimov, I. (2018 [1954]). The caves of steel. Harpercollins Publishers.

Asimov, I. (2004 [1954]). Jag, robot: novellsamling. Översättning av Fredrik Liungman. Natur och Kultur.

Asimov, I. (2018 [1957]). The naked sun. HarperVoyager, 2018

Asimov, I. (2018 [1986]). The robots of dawn. Harper Voyager. På svenska: Död robot.

Godhe, M. (2020). ”Att lära sig leva med robotar: Om normaliseringen av robotar och AI i 2000-talets medier”, i Bodén & Godhe (red.), AI, robotar och föreställningar om morgondagens arbetsliv. Nordic Academic Press.

Skrivet av Peter Igelström, bibliotekarie Vallabiblioteket

För övrigt…

För Max Tegmarks tankar om AI rekommenderas Lex Fridmans intervju med titeln “The Case for Halting AI Development”, som hittas på YouTube.

I föreläsningen ”Människor och maskiner” i serien Strimman berättar Michael Godhe, docent i kultur och mediegestaltning vid LiU, om hur robotar, androider, datorer och AI har representerats inom science fiction. En inspelning av föreläsningen hittas via LiU:s kanal på YouTube.