Du följer nu ämnet: STOCKHOLMS STAD (sparas i Mitt DN)
Kultur

Max Tegmark rädd att skräckscenariot med artificiell intelligens ska bli verklighet

00:23. DN intervjuar vetenskapsstjärnan Max Tegmark i hans barndomshem - ett möte som blir ofrivilligt dramatiskt.

Fysikern och vetenskapsstjärnan Max Tegmark är orolig. I sin nya bok ”Liv 3.0” menar han att artificiell intelligens kan bli människans undergång – eller vår räddning. I framtiden skulle vi kunna flytta till andra galaxer.

Att artificiell intelligens försöker ta över världen är en av science fiction-genrens mest slitstarka idéer. Men enligt Max Tegmark ska det inte avfärdas som science fiction. Ingen kan veta när övermänsklig superintelligens uppstår, om den uppstår, men i hans nya bok ”Liv 3.0 – att vara människa i den artificiella intelligensens tid” läser jag att en majoritet av världens AI-forskare gissar att tidpunkten ligger några decennier in i framtiden.

Problemet med de flesta sci fi-filmer, förklarar Max Tegmark när vi träffas på hans svenska förlag i Gamla stan i Stockholm, är att människans detronisering på jorden knappast sker genom att vi blir förslavade av ondskefulla Terminator-robotar. En mer realistisk bild ger i stället Stanley Kubricks sci fi-klassiker ”2001. Ett rymd-äventyr”.

– Det är faktiskt den AI-film jag gillar bäst. För att i den där berömda scenen där superdatorn Hal 9000 säger: ”I’m sorry Dave. I’m afraid I can’t do that” – där är det inte så att Hal är ond. Problemet är i stället att Hal är väldigt kompetent och har mål som inte stämmer överens med Daves mål. Det är det som är den verkliga risken med superintelligens, att vi inte lyckas få datorernas mål att överensstämma med våra egna.

Den svenskfödde fysikern Max Tegmark har blivit en av AI-forskningens världsstjärnor. Kvällen innan har han hållit en föreläsning på Kulturhuset Stadsteatern, då biljettlösa intressenter köade utanför dörrarna trots att föreställningen sedan länge var utsåld.

Bredvid mig i publiken satt en man som hade hunnit läsa hälften av Max Tegmarks nya bok. Han hade kommit dit för att få veta om människans herravälde på jorden är över:

”Att vi sitter här och pratar om vad vi ska göra med AI, det känns ungefär som om neandertalarna skulle ha suttit och diskuterat hur de skulle förhålla sig till den här nya arten homo sapiens som börjat dyka upp. Jag undrar om människan är passé. Men jag vill ändå tro att det finns något särskilt i den mänskliga hjärnan som skiljer oss från datorerna”, sa mannen.

När Max Tegmark väl gör en TED-liknande entré på scenen, under dånande applåder och ledigt klädd i skinnjacka, är budskapet ändå hoppfullt. Han visar en film av uppskjutningen av ”Apollo 11”, den raket som landade på månen år 1969 – en film tänkt att illustrera de fantastiska möjligheter som AI erbjuder (och vi ska återkomma till hans hisnande visioner om kolonisering av rymden). Enligt Max Tegmark behöver datorernas maktövertagande inte nödvändigtvis vara dåligt.

– Vi har alla underkastat oss en högre intelligens när vi var barn. Det gick bra, eftersom våra föräldrars mål oftast överensstämmer med våra egna. Allting som är bra med vår civilisation är en produkt av vår intelligens. Om vi kan förstärka den med artificiell intelligens kan vi egentligen förbättra alla aspekter av vår civilisation, säger Max Tegmark med ett tonfall som om det vore självklarheter.

I Max Tegmarks tankevärld är människan fortfarande begränsad av sin ”biologiska hårdvara”. Det hörs på språket i ”Liv 3.0” att det är en fysiker som för ordet:

”Livet kan genomgå en sista uppgradering, till Liv 3.0, som inte bara kan skapa sin mjukvara utan även sin hårdvara”, skriver han i boken. I så fall kan livet ”befrias från evolutionens bojor”.

Men AI omformar vårt samhälle redan nu, med bland annat översättning av språk, robotiserad börshandel och självkörande fordon. I framtiden ser Max Tegmark möjligheter att skapa robotiserade domare som fattar beslut utan fördomar om kön eller etnicitet. Tråkiga, meningslösa jobb som människor tvingas utföra i ensamhet kan övertas av AI. Han ser även möjligheter att skapa vapen som låter bli att döda civila i krig.

– Jag är övertygad om att AI kan hjälpa oss att lista ut hur vi botar alla sjukdomar som vi har gått bet på i dag. Så att vi kan leva längre och friskare liv. Jag är övertygad om att AI kan hjälpa oss att förbättra förnybar energiteknik. Och på väldigt kort sikt kan AI hjälpa oss att drastiskt minska antalet trafikolyckor och antalet onödiga dödsfall i vården, säger han och börjar skala en klementin som förlaget lagt fram på ett fat med frukt och dricka.

Det är energipåfyllning som lär behövas medan mörkret faller utanför fönstret mot Stora Nygatan. Första intervjun för dagen gjorde han redan innan det blev ljust.

Samtidigt som Max Tegmark ser stora möjligheter med AI vill han distansera sig från de digitala utopisterna. Tekniken medför också stora risker. Det är anledningen till att han har grundat Future of Life Institute, med bland andra fysikern Stephen Hawking och Teslas vd Elon Musk som styrelsemedlemmar. Forsknings- institutet arbetar för att synliggöra de existentiella hot som AI medför, som kärnvapenkrig, ökade ekonomiska klyftor och kapprustning med AI-vapen.

Som han påpekar i boken är skillnaden mellan en drönare som levererar Amazons paket och en drönare som kan utföra beställningsmord ganska liten. På föreläsningen uttrycker han det så här: ”Vi måste vinna tävlingen mellan den växande kraften hos vår teknik och den växande vishet med vilken vi kan hantera den.”

I likhet med sin svenskfödda kollega Nick Bostrom, en annan av AI-forskningens fixstjärnor, menar Max Tegmark att riskerna med AI till och med är mer akuta än klimatförändringarna:

– Båda är allvarliga, men AI kan få mer dramatiska konsekvenser tidigare. Om vi klantar till det med AI kan vi ha sabbat hela mänsklighetens framtid redan om 40 år.

Max Tegmark talar svenska med lättare amerikansk brytning och tar ibland en tankepaus efter en fråga, eller mellan två meningar, som om han behöver loda en stund i modersmålet. Han växte upp i Bromma utanför Stockholm, en uppväxt han beskriver som fridfull med ”långa eftermiddagar ensam hemma efter skolan”. Då lärde han sig att ingenting hände om han inte organiserade det själv. Fadern Harold Shapiro var en framstående matematiker och brukade lysa upp som en sol när sonen frågade honom något om matematikens mysterier.

– Jag gillade science fiction, framför allt Isaac Asimov, min kemilåda och att meka med elektromagneter. Men det var först när jag var 19 som jag insåg hur fascinerande fysik var, tack vare vetenskapsmannen Richard Feynmans självbiografi ”Surely you’re joking, Mr Feynman” som min kompis Johan Oldhoff sagt att jag måste läsa.

I höstas skrev Max Tegmark tillsammans med nio Nobelpristagare en debattartikel i DN som uppmanade Sverige att stödja FN:s kärnvapenförbud. Hans engagemang mot kärnvapen, kapprustning och krig formades redan i ungdomen.

– Både pappa och mamma brukade prata om hur själviska och kortsiktiga våra ledare var. Pappa engagerade sig för kärnvapennedrustning i sin ungdom och har skrivit den allra första detaljerade artikeln om USA:s hemliga vätebombsprovsprängningar 1952. Mamma lärde mig vad som kom att bli ett av mina favoritcitat, av Axel Oxenstierna: ”Du ska veta min son med hur lite förnuft världen styres.” När jag var 14 så tänkte jag att vad de vuxna gjorde med kärnvapen var så korkat att barn kunde förstå bättre hur korkat det var.

Ett huvudbudskap i boken är att tekniken är neutral och att det är vi människor som avgör om den får goda eller onda tillämpningar. Max Tegmark understryker att det är upp till oss själva – både som individer och som mänsklighet – att forma en positiv framtid. Det är också en inställning som delvis växte fram i ungdomen.

– Jag hamnade i en skolklass i Alviksskolan där det ansågs skamligt att vara studieintresserad och några killar lovade att spöa skiten ur mig om jag fick över 4.0 i snittbetyg när jag gick ut åttan (max var 5.0). Efter att jag lyckats lura dem på skolavslutningen, och sedan lyckats byta till en bättre skola, insåg jag hur lätt det var att påverka min framtid om jag var kreativ.

Oavsett vilka konsekvenserna blir av AI-utvecklingen ligger det stora pengar i tekniken. Jättar som Google, Facebook och Apple satsar miljarder på AI-forskning. Googles AI-företag Deep Mind har bland annat utvecklat datorprogrammet AlphaGo, som under de senaste två åren har lyckats slå samtliga av världens främsta spelare i det asiatiska brädspelet Go. Det minst 2 500 år gamla spelet anses mycket svårare för datorer att bemästra än schack, eftersom det 19x19 rutor stora spelbrädet rymmer fler möjliga kombinationer av drag än det finns atomer i universum. För att vinna förlitar sig de bästa spelarna därför på intuition och kreativitet – egenskaper som fram till nu har betraktats som exklusivt mänskliga.

Men föreställningen att bara människor skulle kunna ha intuition, kreativitet och rent av medvetenhet är något Max Tegmark avfärdar som fördomsfullt. Han kallar det skämtsamt för ”kolchauvinism”, med anspelning på att bara biologiska varelser är byggda av kolatomer.

– Många tänker att intelligens är någonting mystiskt som bara kan finnas i biologiska organismer. Men som fysiker ogillar jag den här materialistiska idén att vi är våra atomer. De flesta av de atomer du har i dag hade du inte förra året, de byts ut ganska regelbundet, säger Max Tegmark och tar en tankepaus, eller kanske en tuggpaus, där de sista klyftorna av klementinen åker ner i magen.

– Det du verkligen är är det mönster enligt vilket atomerna sitter ihop. Och det är information, helt enkelt.

Max Tegmark definierar intelligens som ”förmågan att uppnå komplexa mål”. På nivån ovanför placerar han generell intelligens, det vill säga ”förmågan att uppnå praktiskt taget vilket mål som helst, inklusive inlärning”. Där händer nu mycket inom AI-forskningen.

Med hjälp av djupinlärning (deep learning) kan datorer själva lära sig att förstå sin omvärld, och det utan att på förhand ha försetts med någon kunskap om den fysiska världen. Metoden består i att utsätta artificiella neuronnätverk, en samling algoritmer som försöker efterlikna den mänskliga hjärnan, för massiva mängder av data. Exakt hur det går till, och varför det fungerar, vet inte ens forskarna. De vet inte heller varför det ibland misslyckas, men det var djupinlärning som skapade framgången med AlphaGo. Det är också djupinlärning som just nu lär datorer att förstå och beskriva bilder, som revolutionerar deras förmåga att omvandla tal till text och översätta det till andra språk.

– Vi har länge haft en situation där datorerna har varit bättre än oss på vissa, ganska snäva saker, som beräkningar eller schack. Men den heliga graalen för AI-forskningen har varit att skapa intelligens som liknar ett barns, som kan bli bra på i stort sett vad som helst. När man nu tittar på listan över saker som datorer fortfarande inte kan göra, så krymper den ganska stadigt.

En bild som Max Tegmark återkommer till föreställer landmassor och berg som sakta men systematiskt dränks på grund av en havsnivåhöjning. Men bilden illustrerar inte konsekvenser av klimatförändringen, utan ”landskap över mänsklig kompetens”. Ju högre berg, desto svårare för datorer att bemästra kompetensen. Bland landmassor som redan befinner sig under det stigande AI-havet finns utantillinlärning, aritmetik, schack, Go, investering och bilkörning. Bland de högsta bergen, som ännu är en bra bit från att översvämmas, finns sådant som vetenskap, programmering, bokskrivande, filmkonst och social interaktion.

Bilden hänger ihop med diskussionen om hur AI kommer att förändra arbetsmarknaden. Enligt en ofta citerad förutsägelse kommer hälften av dagens jobb att vara automatiserade om 20 år. Jag frågar om Max Tegmark har några yrkesråd till min 12-åriga dotter.

– Jag skulle rekommendera att hon inriktar sig på någonting som vi tror att datorer fortfarande kommer att vara relativt dåliga på. Jobb som kräver kreativitet, jobb där det händer många oförutsägbara grejer så att man måste improvisera. Och kanske jobb där kunden uppskattar den mänskliga kontakten i tjänsten, allt från präst till massageterapeut. Men det viktigaste rådet av alla tror jag är att inte förvänta sig att först plugga en massa och sedan ha samma jobb i 40 år. Man måste hänga med i svängarna och hela tiden lära sig nya grejer.

– Det är också viktigt att ha koll på den senaste tekniken. För det är inte bara så att människor blir utkonkurrerade av AI, utan det vi ser mycket nu är att människor som jobbar utan AI blir utkonkurrerade av människor som jobbar med AI, eftersom de är mer produktiva. Om hon till exempel är intresserad av medicin ska hon inte utbilda sig till den som läser av röntgenbilderna och ställer en diagnos. I stället bör hon vara läkaren som använder den här automatiska diagnosen och pratar med patienten och diskuterar behandlingen.

Men stora befolkningsgrupper riskerar ändå att hamna utanför arbetsmarknaden. Du tar upp medborgarlön som en tänkbar lösning på ojämlikheten som AI kan medföra…

– Jag är övertygad om att vi behöver någon sorts omfördelning för att hjälpa de som till slut inte kommer att få jobb. Men om det är medborgarlön eller något annat som är bäst, där försöker jag vara öppen. Däremot blir jag ganska upprörd när politiker säger att vi måste skära ner på äldreomsorg, lärare eller sjuksköterskor för att vi inte har råd. Om vi ändå måste betala ut medborgarlön i framtiden är det bättre att behålla den typ av jobb där folk verkligen uppskattar att det är människor och inte robotar som utför dem, säger Max Tegmark, som trots sin något amerikanska framtoning plötsligt låter väldigt svensk.

– Här hoppas jag att Sverige kan gå före. Sverige var ett föregångsland efter andra världskriget i sociala experiment, som gratis universitetsutbildning och gratis sjukvård. Det är mer troligt att framtidens lösningar hittas i Sverige än i USA, där jag bor. Där är man nästan är allergisk mot all slags omfördelning.

När Max Tegmark gick på gymnasiet ville han byta till naturvetenskaplig linje. En byråkrat på antagningsnämnden sa att det inte var möjligt. Då övertygade han studierektorn på Blackebergs gymnasium att ge honom chansen ändå.

– Just att våga gå min egen väg, trots att andra avrådde, har varit nyckel till mina forskningsframgångar: man blir aldrig först när man följer andra!

Han stod fast vid sin egen väg även när han som nydisputerad forskare fick ett brev från en berömd professor. Professorn varnade honom för att fortsätta med spekulativ forskning om han inte ville få sin karriär förstörd.

Det är uppenbart att Max Tegmark inte har följt professorns råd i ”Liv 3.0”. Där spekulerar han i hur mänskligheten skulle kunna skaffa mer resurser genom att kolonisera kosmos. (Han föredrar egentligen ordet ”befolka”, som han använder under intervjun.) Enligt Max Tegmark är det inte orimligt att föreställa sig intergalaktiska laserseglatser där AI koloniserar andra solsystem och planeter. Efter att AI:n landat och etablerat livsförutsättningar tänker han sig att information om enskilda människor sedan kan överföras med ljusets hastighet, varefter AI:n klonar de önskvärda människorna på plats.

Som han förklarar i ”Liv 3.0”: ”Detta skulle antingen kunna göras ganska lågteknologiskt genom att helt enkelt överföra de två gigabyte information som behövs för att specificera en persons DNA och sedan inkubera ett barn som ska födas upp av AI:n, eller också kan AI:n nanomontera kvarkar och elektroner till fullvuxna människor som sedan får alla sina minnen skannade från originalen hemma på jorden.”

Jag frågar om det ska läsas som en tankelek eller om man verkligen menar allvar. Max Tegmark ler snett:

– Din hjärna innehåller 100 terabyte. Det är ingen gigantisk datamängd att skicka med interstellär e-post till ett annat solsystem. Vi har naturligtvis inte tekniken för att göra det än. Men det strider inte mot några av fysikens lagar.

Men kan det inte strida mot några av biologins lagar? Människor ingår också i komplexa ekosystem, både utanför och inom oss själva, där forskare till exempel ännu inte förstår hur samspelet mellan våra hjärnor och tarmbakterier ser ut…

– Om man ska bygga en kopia av dig måste man naturligtvis kopiera även din tarmflora. Och bakterier är enklare att kopiera, eftersom de innehåller mindre information. Men grund- idén här, som är viktig, är att folk tidigare trodde att den här typen av rymdresor var omöjliga. Till och med science fiction-författare som skrev om rymdresor brukade fokusera på de närmaste solsystemen mindre än 10 ljusår bort. Resor till andra galaxer var inte aktuella, eftersom det inte kändes så kul att ligga nedfrusen i miljontals år. Eller att behöva ha hundratusentals generationer som bodde i något trångt, tråkigt rymdskepp, som dessutom riskerade att förstöras när som helst när det krockade i med något litet rymdskräp.

– Nu vet vi att det i alla fall inte är orealistiskt. För är det något vi har lärt oss på senare tid är det att människan är information snarare än materia.

Jag tänker på min granne under föreläsningen på Kulturhuset, och hans förhoppning att människans hjärna trots allt skiljer sig från en hårddisk. Bland alla fördomar en människa bär på kan nog kolchauvinismen vara en av de svåraste att göra sig kvitt.

Fakta.Max Tegmark

Svensk-amerikansk fysiker och kosmolog, aktuell med boken ”Liv 3.0 – att vara människa i den artificiella intelligensens tid” (Volante).

En av världens mest citerade forskare.

Född 1967 och uppvuxen i Bromma i Stockholm. Son till matematikern Harold Shapiro och Karin Tegmark.

Läste till civilingenjör i teknisk fysik vid KTH i Stockholm samtidigt som han utbildade sig till civilekonom vid Handelshögskolan.

Doktorerade vid University of California i Berkeley, USA. I dag professor i fysik vid Massachusetts Institute of Technology (MIT) i USA.

Grundade 2014 Future of Life Institute tillsammans med bland andra Jaan Tallinn (medgrundare till Skype) och sin fru Meia Chita-Tegmark. I styrelsen sitter bland andra kosmologen Stephen Hawking och Teslas vd Elon Musk, som är med och finansierar verksamheten.

Var sommarvärd i Sveriges Radio 2008.

Hans första bok ”Vårt matematiska universum – mitt sökande efter den yttersta verkligheten” (Volante) kom ut 2014.

Tre myter om AI.

I boken ”Liv 3.0” avlivar Max Tegmark tre myter om artificiell intelligens:

Myt: Huvudrisken är att AI blir medveten eller ond.

Fakta: AI kan bli skicklig och få mål som avviker från våra.

De verkliga riskerna med AI handlar inte om ondska, utan om kompetens att uppnå mål som avviker från människans mål: ”Du är förmodligen ingen myrhatare som trampar på myror av elakhet, men om du ansvarar för ett grönt vattenkraftsprojekt och det ligger en myrstack i området som måste sättas under vatten – tråkigt för myrorna. Rörelsen för välvillig AI vill undvika att försätta mänskligheten i samma situation som de där myrorna”.

Myt: Maskiner kan inte ha mål.

Fakta: En värmesökande missil har ett mål.

Missuppfattningen om medveten AI är besläktad med myten om att maskiner inte kan ha mål. Den som blir jagad av en värmesökande missil bekymrar sig inte för om missilen upplever att den har ett syfte, argumenterar Max Tegmark: ”Om den värmesökande jagade dig skulle du nog inte ropa: ’Jag är inte orolig, för maskiner kan inte ha några mål!’”

Myt: AI kan inte kontrollera människan.

Fakta: Intelligens möjliggör kontroll: vi kontrollerar tigrar genom att vara smartare.

”När intelligensskillnaden är tillräckligt stor blir det inte en strid utan en slakt. Än så länge har människor utrotat åtta av elva elefantarter och dödat de allra flesta individerna hos de återstående tre”, skriver han och konstaterar att om en superintelligent AI bestämmer sig för att utrota mänskligheten kommer det att gå mycket snabbt.

Max Tegmark om tre science fiction-filmer.

”Her”

”Jag gillar att ’Her’ släppte fixeringen vid robotar och framhävde det spännande med intelligens. Här är datorn verkligen superintelligent – inte bara lite smartare utan otroligt mycket bättre än oss på allt. Däremot är det komiskt orealistiskt att resten av samhället knappt förändrats. Killen i huvudrollen är journalist, trots att AI:n hade kunnat skriva hans artiklar på nolltid.”

”Transcendence”

”Där uppstår faktiskt en intelligensexplosion, en dator blir superintelligent och utvecklar otroligt avancerad teknologi. Spännande – men orealistiskt slut: fastän datorn var superintelligent kunde vi människor lista ut hur man kunde lura den. I de flesta filmer om AI ligger den artificiella intelligensen inte långt före vår egen. Som om det vore något magiskt med mänsklig intelligens. Vi vet att hjärnans storlek begränsas av mammas bäcken.”

”Interstellar”

”Ett maskhål är en genväg i rumtiden som låter dig färdas från A till B utan att fara igenom det mellanliggande utrymmet. Även om stabila maskhål medges i Einsteins relativitetsteori och har dykt upp i filmer som ’Interstellar’ kräver de förekomsten av en märklig hypotetisk materia med negativ densitet var existens kan hänga på svårförstådda effekter av kvantgravitationen. Användbara maskhål kan med andra ord mycket väl visa sig vara omöjliga, men annars har superintelligent liv stora incitament att konstruera dem.”

Om intervjun.

Text: Sverker Lenas

Vi ses i Max Tegmarks svenska förlag Volantes egna bokhandel i Gamla stan i Stockholm.

Foto: Jonas Lindkvist och Lisa Mattisson

Om fotograferingen: Vi följer med till barndomshemmet i Bromma. När han sätter igång sin första dator börjar den att brinna... Se filmen på dn.se/kultur.

Kommentera artikeln
I samarbete med tjänsten Ifrågasätt erbjuder DN möjligheten att kommentera vissa artiklar. Håll dig till ämnet och håll en god ton. Visa respekt för andra skribenter och berörda personer i artikeln. Vi tar bort inlägg som vi bedömer är olämpliga.