Logga in på Dagens Nyheter

Här kan du som DN-kund logga in för obegränsad läsning av DN.se och e-DN.

Med ett gratiskonto kan du följa skribenter och ämnen samt spara artiklar.

Vetenskap

Maskinerna är våra vänner ...

Foto: Johan Andersson

Datorer kan nu slå oss i schack och ”Jeopardy”, köra bil i stadstrafik och lura folk att tro att de är människor. Men forskare varnar för vad som kan hända när vi når singulariteten eller intelligensexplosionen: när datorerna blir smartare än vi.

” I 130 000 år har vår förmåga att tänka logiskt varit oförändrad. När den medvetna maskinen ansluts till internet kommer den snabbt spränga biologins gränser. På mycket kort tid kommer dess analytiska kapacitet att bli större än den kollektiva intelligensen hos varenda människa som fötts under hela historien.”

Den briljante forskaren Will Caster, spelad av Johnny Depp, står på en scen och berättar om en tänkande, kännande och medveten dator. När maskinerna blir intelligentare än människor brukar kallas singulariteten eller intelligensexplosionen. Will Caster föredrar ordet transcendens.

I filmen ”Transcendence”, som hade svensk premiär i går, blir han strax därpå skjuten av en medlem i en teknikfientlig organisation.

Hans fru och kollega Evelyn Caster (Rebecca Hall) vill rädda honom och kopplar upp hans medvetande i en superdator, och förverkligar på samma gång drömmen om en tänkande maskin. Eller mardrömmen.

En artificiell intelligens som är överlägsen oss skulle kunna bli en verklig fara för mänskligheten, och det är ett hot att ta på allvar. Det menade kosmologerna Stephen Hawking och Max Tegmark, datalogen Stuart Russell och fysikern och Nobelpristagaren Frank Wilczek i en debattartikel i tidningen The Independent tidigare i vår.

”Man kan föreställa sig sådan teknologi överlista finansmarknader, överträffa mänskliga forskare, utmanipulera mänskliga ledare och utveckla vapen som vi inte ens kan förstå. Medan den kortsiktiga effekten av artificiell intelligens beror på vem som kontrollerar den så är den långsiktiga effekten beroende av om den alls kan kontrolleras”, skriver de.

Om vi lyckas utveckla en maskin som är intelligentare än människor skulle den själv kunna bygga en ännu smartare dator, som i sin tur kan konstruera ännu bättre maskiner. Hur sådana superintelligenta datorer skulle se på oss är omöjligt att förutsäga.

– Vårt öde skulle bero helt på superintelligensens inställning, precis som gorillornas öde nu beror mer på våra handlingar än på vad gorillorna gör själva, säger den svenskfödde filosofen Nick Bostrom, som leder ett forskningsinstitut om mänsklighetens framtid vid universitetet i Oxford.

Olle Häggström, professor i matematisk statistik vid Chalmers i Göteborg, håller med.

– Maskinen varken älskar dig eller hatar dig. Men du är uppbyggd av atomer som den kan ha annan användning för. Och dessutom av en samling atomer som har benägenhet att göra motstånd. Om maskinen har andra idéer om världen än du blir det då väldigt frestande att göra sig av med det irritationsmomentet.

Redan 1950 skrev den brittiske matematikern Alan Turing en berömd uppsats om tänkande datorer. Där formulerar han ett tankeexperiment: om en människa som kommunicerar med datorn inte kan avgöra om den är en människa eller inte, då har vi en maskin med verklig intelligens.

För två veckor sedan passerade vi den milstolpen. Vid ett Turingtest ordnat av den brittiska vetenskapsakademin Royal Society blev en tredjedel av domarna övertygade om att de chattade med Eugene Goostman, en 13-årig pojke från Ukraina, när de i själva verket pratade med ett skickligt skrivet datorprogram.

Testet har fått kritik, och även om programmet klarade uppgiften skulle ingen säga att Eugene Goostman är en dator som kan tänka. Inte heller att datorerna som slår oss i schack, eller IBM:s superdator Watson som segrade i frågesporten ”Jeopardy” på amerikansk tv år 2011, är intelligenta. De har långt kvar till en mångsidig och flexibel intelligens lik vår.

När de når dit är svårt att sia om. För tio år sedan trodde forskarna att bilkörning i stadstrafik var en omöjlig uppgift för en dator, men nu kör Googles självstyrande bilar omkring utan problem. Och även om den amerikanske uppfinnaren Ray Kurzweil menar att singulariteten kommer att inträffa år 2045 är det få andra som vill göra så precisa förutsägelser.

Christian Smith, robotforskare på Kungliga tekniska högskolan KTH i Stockholm, tror inte att singulariteten är en enskild händelse utan något som sker gradvis. Redan i dag drivs en stor del av världens aktiehandel av datorer.

– Fortfarande har människor behållit möjligheten att när som helst stänga av systemen. Det finns inget som säger att vi skulle avsäga oss det bara för att datorerna blev ännu intelligentare, säger han.

Kärnvapen har funnits i 60 år utan att vi har utrotat oss själva. Därför menar han att vi även kommer att kunna hantera intelligenta maskiner.

– Vi vet inte om den artificiella intelligensen kommer att vara välvilligt inställd eller inte. Men i dag styrs många länder av människor som vi inte kan bevisa är välvilliga heller. I slutändan är artificiell intelligens inte nödvändigtvis ett större hot än naturlig intelligens. Och den har vi lärt oss att leva med. Vi har fått ihop civiliserade samhällen ändå.

Olle Häggström tror ändå att det är nödvändigt att skapa en moral för systemen som försäkrar oss om att maskinerna tjänar oss.

– Det är svårt. Om man bygger in att maskinerna bara får göra saker som gör oss människor nöjda kan man tänka sig att de går in och kopplar om våra hjärnor så att vi blir nöjda vad de än gör. Nästan vad man än formulerar för lagar går det att hitta så perverterade tillämpningar, säger han.

Lyckas vi inte formulera en moral för maskinerna riskerar vi att de till slut tar öv01010110101010110101010110111011011010110110101111011011101101101101101101111011010101010101110010101010010101110110101010100101001010100100101010100101010101001001010101011010101010010101010100101010101010101000100110111010101010101001010101010101010101010100101

Så här jobbar DN med kvalitetsjournalistik: uppgifter som publiceras ska vara sanna och relevanta. Rykten räcker inte. Vi strävar efter förstahandskällor och att vara på plats där det händer. Trovärdighet och opartiskhet är centrala värden för vår nyhetsjournalistik. Läs mer här.