Vi har förtydligat hur vi behandlar personuppgifter och cookies.
Du följer nu ämnet: STOCKHOLMS STAD (sparas i Mitt DN)
Insidan

Filosof varnar för superintelligensen – ”är ett större hot än atombomben”

Other: Mark Earthy, SPL/IBL Bildbyrå

Han är en av världens ledande tänkare kring artificiell intelligens. ”Det är hög tid att på allvar reflektera över vad en sådan superintelligens kan leda till”, menar filosofen Nick Bostrom.

Enligt honom kan den konstgjorda intelligensen vara ett betydligt större hot än atombomber, den globala uppvärmningen och sjukdomar.

Artificiell intelligens är kanske det största hot mänskligheten upplevt. Det menar filosofen Nick Bostrom som uppmärksammas över hela världen. Tidigare i veckan gästade han Stockholm för att berätta mer om sina både hoppfulla och skrämmande tankar. Dagen därpå flög han vidare till Madrid.

– Många tror att atombomber, den globala uppvärmningen och fasansfulla sjukdomar är det största hotet mot mänskligheten. I stället är det den artificiella och konstgjorda intelligens vi själva skapat som kan utplåna hela vår planet, menar Nick Bostrom.

Under årmiljoner har människornas hjärnor skapat komplexa sociala strukturer och en teknisk utveckling som lett till en total dominans över djuren. Ständigt nya tekniska landvinningar har förstärkt detta överläge. Men nu kan människan vara på väg att skapa maskiner med en överlägsen intelligens, tror han.

– Om sådana superintelligenser börjar utveckla sig själva riskerar vi att förlora all kontroll. Vad som då kommer att hända med hela mänskligheten kan vi bara spekulera kring, säger Nick Bostrom.

Många tycker att detta låter absurt, och Nick Bostroms framtidsvisioner har fått kritik av bland andra robotgurun Rodney Brooks. Han menar att folk som är rädda för ett framtida maktövertagande av en superintelligens missförstår vad det egentligen är som datorer gör när vi säger att de ”tänker” eller ”är smarta”, enligt en artikel i ”Technology Review” vid amerikanska MIT.

En avgörande fråga är om och när forskare skulle kunna producera en tillräckligt intelligent programvara som på egen hand kan förbättra sig.

Nick Bostrom är i dag en av de mest kända tänkarna i världen när det gäller artificiell intelligens eller AI. Han har hållit tal inför FN och leder institutet Future of Life där den kände fysikern Stephen Hawking sitter i styrelsen. Multimiljardären Bill Gates tillhör dem som hyser stor respekt för den svenskfödde filosofen.

Nick Bostrom är nämligen född och uppvuxen i Helsingborg. Han beskriver sin skoltid som en bortkastad del av sitt liv och flyttade till England när han var tjugo år. I dag är han professor i praktisk etik vid Oxford University Future of Humanity Institute där han spanar in i framtiden.

I boken ”Superintelligens” som kom ut på svenska tidigare i år skissar Bostrom en framtid där maskinerna börjat tänka själva. Även om detta troligen ligger något hundratals år framåt i tiden menar han att vi redan nu måste börja diskutera och planera för värld som är helt annorlunda jämfört med i dag. 

– Kommer vi att kunna utveckla artificiell intelligens på ett kontrollerat sätt eller riskerar vi en intelligensexplosion som inte går att stoppa? Den frågan är helt avgörande. I flera länder har särskilda forskningsenheter börjat byggas upp för att studera superintelligensens följder, säger Nick Bostrom.

Att maskiner skulle ta makten över mänskligheten i en enda stor intelligensrevolution har länge betraktats som science fiction, något som bara går att finna i böcker och filmer. Men Nick Bostrom menar att en sådan utveckling kanske inte är alltför avlägsen.

Hans bok om superintelligens har en undertitel som rymmer orden vägar, faror och strategier. På över femhundra sidor beskriver han hur människan innehar en särställning på vår planet – inte tack vare starkare muskler eller vassare tänder än andra arter utan för att våra hjärnor är ”smartare”. 

I veckan deltog Nick Bostrom i ett samtal med den amerikanske filosofiprofessorn Daniel C Dennett i Stockholm. Temat var ”Medvetandets mysterium och tänkande maskiner” och samtalet lockade 800 åhörare till Cirkus. DN fick möjlighet att träffa Bostrom före evenemanget.

Då reflekterade han bland annat över vad som händer om maskiner utvecklas till att bli överlägsna våra hjärnor. Extrema typer av artificiell intelligens, superintelligens, skulle kunna forma framtiden. Vad som då händer med oss människor, om vi överlever, beror på avsikterna hos "superintelligensen".

Inför utsikterna till en intelligensexplosion liknar Bostrom oss människor vid små barn som leker med en bomb. Så stor är diskrepansen mellan kraften i vår leksak och vårt omogna uppförande, menar han. Superintelligens är en utmaning som vi inte är redo för i dag, och inte kommer att vara redo för på länge än.

– Den utmaning vi nu står inför innebär att vi behöver stå stadigt på jorden och försöka behålla vårt sunda mänskliga förnuft. Det är viktigare än någonsin att diskutera utvecklingen av det jag kallar för superintelligens, säger Nick Bostrom.

För vid någon tidpunkt, oklart när, kommer en artificiell intelligens att bli bättre på att designa artificiell intelligens än människan, förklarar Boström. Då blir resultat en intelligensexplosion. 

– Vi får en supermakt – som kan skapa fler supermakter. Med en intelligensnivå flera tusen många gånger högre än den mest ”intelligenta” människan i dag, säger Nick Bostrom. 

Roboten Pepper ser ut som en människa och ska nu också tänka som en. Det är ett exempel på hur artificiell intelligens kan användas.
Roboten Pepper ser ut som en människa och ska nu också tänka som en. Det är ett exempel på hur artificiell intelligens kan användas. Foto: Beatrice Lundborg/DN/TT

Servrar, smarta telefoner, hela industrier, elkraftnäten ... vi lever i en digital värld där datorer och mikrochips styr vår vardag. Om tjugo-trettio år kanske det finns ett ”AI-frö” som kan uppdatera sig på egen hand och bli både smartare och snabbare. Nick Boström har sagt att om utvecklingen resulterar i en ”intelligensexplosion” kommer skillnaden mellan datorerna och människan blir lika stora som mellan en människa och en myra.

Men Nick Bostrom ser sig inte som en pessimist. Han menar att den tekniska utvecklingen kan göra jorden till en bättre plats att leva på. Fast att vi också måste vara medvetna om riskerna.

– Om vi redan nu påbörjar en diskussion om vad artificiell intelligens kan leda till får vi ett försprång. En svårighet är hur vi ska kunna föra in mänskliga värderingar och en mänsklig moral i de maskiner vi skapar. 

Det är bara en av många frågor Nick Bostrom funderar över när han sent på nätterna sitter kvar i sitt kontorsrum i Oxford. 

Fakta.Nick Bostrom

Är född 1973 i Helsingborg.

Har avlagt doktorsexamen vid London School of Economics och är verksam vid Oxfords universitet.

Är främst känd som en förespråkare av transhumanism och för boken "Superintelligens" (Fri Tanke förlag).

Framträder ofta i medierna och talar om ämnen relaterade till transhumanism, såsom kloning, artificiell intelligens (AI) med mera

Leder the "Future of Humanity Institute". Har skrivit över 200 publicerade böcker och artiklar.

När den amerikanska tidskriften Foreign Policy listade de 100 tänkare vars idéer hade format världen under året 2009, hamnade Nick Bostrom på 73:e plats med motivering "för att han inte accepterar några gränser för människans möjligheter".

 

 

Artificiell intelligens inom spel

Backgammon. 1979 besegrar programmet BKG besegrar världsmästaren. Det första datorprogram som besegrat en världsmästare i något spel.

Othello. 1997 vinner programmet Logistello varje parti mot världsmästaren Murakami.

Scrabble. Från 2002 överträffar spelprogram de bästa mänskliga spelarna.

Bridge. 2005 når ett spelprogram samma nivå som de bästa mänskliga spelarna.

Jeopardy. 2010 besegrar IBM:s program Watson två mänskliga mästare.

Go. I maj 2017 slog datorn AlphaGo från företaget Google DeepMind världsmästaren i spelet Go, Ke Jie. Året innan slog datorn Lee Sedol i samma spel. 

Källa: Nick Bostrom (Superintelligens).

Kommentera artikeln
I samarbete med tjänsten Ifrågasätt erbjuder DN möjligheten att kommentera vissa artiklar. Håll dig till ämnet och håll en god ton. Visa respekt för andra skribenter och berörda personer i artikeln. Vi tar bort inlägg som vi bedömer är olämpliga.