Vi har förtydligat hur vi behandlar personuppgifter och cookies.
Du följer nu ämnet: STOCKHOLMS STAD (sparas i Mitt DN)
Vetenskap

En tänkande maskin måste vilja oss väl

Analys. Intelligenta maskiner kan vara det bästa och sista människan uppfinner. Och det farligaste.

Nu i veckan publicerade tidskriften Neuron en artikel om hur vår hjärna registrerar informella hierarkier och hackordningar när vi börjar på en ny arbetsplats. Forskarna bakom studien kom från University College i London och från företaget Deepmind, grundat av Demis Hassabis som intervjuas i artikeln här intill.

Följer man de vetenskapliga tidskrifterna blir det tydligt att utvecklarna på Deepmind vill lära sig mer om hur vår hjärna och vår intelligens fungerar, och kopiera det. I maj kom en studie i Neuron, där Deepmind-forskare och psykologer från universitetet i Oxford undersökt hur vi planerar resor i tunnelbanan. Ett vanligt datorprogram kan pröva alla möjliga vägar och snabbt och lätt räkna ut vilken som är bäst, men forskarna ville förstå hur den mänskliga hjärnan, som saknar den möjligheten, hanterar samma uppgift.

Demis Hassabis och hans medarbetare omsatte snabbt lärdomarna i praktiken. Redan i oktober publicerades resultaten i tidskriften Nature: Deepmind hade utvecklat en maskin som själv kan lära sig att hitta rätt i Londons tunnelbana på samma sätt som människor gör.

Läs också: Världen tar stormsteg mot tänkande maskiner

Poängen var alltså inte att skapa ett program som kan hitta i tunnelbanan, utan att lära sig mer om hur vår intelligens fungerar. Visionen och det slutgiltiga målet för Deepmind är att förstå intelligensen, och skapa en intelligent maskin, en virtuell hjärna, som kan lösa vilket uppgift som helst. Då får vi också automatiskt lösningen på världens alla andra problem, menar Demis Hassabis.

Men alla är inte lika säkra på att det är en bra idé. Hur kan vi försäkra oss om att maskinens lösning på problemen också är en lösning som vi människor uppskattar?

En maskin som är intelligentare än vi skulle själv kunna bygga en ännu smartare dator, som i sin tur kan konstruera ännu bättre maskiner. Hur skulle sådana superintelligenta datorer se på oss? Som vi ser på myror? Eller som förråd av råvaror eller atomer som skulle kunna användas till något bättre? Kanske till något som inte är lika irriterande och gör lika mycket motstånd mot beslut som gynnar maskinen men inte mänskligheten.

Kosmologerna Stephen Hawking och Max Tegmark, entreprenören Elon Musk, datalogen Stuart Russell, fysikern och Nobelpristagaren Frank Wilczek och filosofen Nick Bostrom, även han intervjuad här intill, hör till dem som varnat för att en överlägsen artificiell intelligens är ett hot att ta på allvar. Den kan utveckla vapen vi inte förstår och utmanövrera världens ledare, och vi skulle vara helt beroende av superintelligensens inställning. Nick Bostrom jämför oss med gorillor: deras öde beror mer på våra handlingar än på vad de gör själva.

Läs också: Den mänskliga roboten Pepper intar Sverige

På kort sikt beror konsekvenserna på vem som kontrollerar den intelligenta maskinen. Men de långsiktiga konsekvenserna avgörs helt och hållet av om det alls är möjligt att kontrollera en artificiell superintelligens, menar kritikerna.

Första gången jag själv försökte beskriva hur en dator skulle kunna lösa problem som vår hjärna var 1993, när jag skrev mitt examensarbete på civilingenjörsutbildningen. Jag hade byggt ett så kallat neuralt nätverk, eller ett neuronnät – ett datorprogram som skulle lära sig att känna igen mönster. Ämnet var partikelfysik, och vi behövde en bättre metod för att hitta så kallade strangekvarkar i ett experiment på Cern i Genève.

Men neuronnätet tillförde inget nytt. Det förbättrade inte resultatet och hittade ingenting i data som vi inte redan hade upptäckt själva. Som min handledare uttryckte det: vi försökte ersätta hjärnkraft med datorkraft, och misslyckades.

Läs också: Datorn vann första ronden mot människan

Det har hänt mycket sedan dess. I decennier handlade forskningen om artificiell intelligens nästan bara om att få den att över huvud taget fungera.

Men nu fungerar den bättre och bättre. Vi har användbara maskiner som kan lösa verkliga problem och dessutom ersätter kvalificerade jobb och gör människor arbetslösa. Nu kanske målet med forskningen också måste bli tydligare.

Målet kan inte längre bara vara att utveckla en intelligent maskin, utan att utveckla en intelligent maskin som är bra för mänskligheten och vill oss väl. Om bara vi själva kan komma överens om vad som är bra för mänskligheten.

Max Tegmark pratar om visdomen i gamla sagor. Kung Midas ville att allt han rörde vid skulle bli till guld, men tänkte inte på att han då varken kunde äta eller dricka eller krama sin dotter. Vi vill ha en intelligent maskin som vill oss väl, men kanske inte tar alla våra instruktioner bokstavligt.

Detta är en kommenterande text. Skribenten svarar för analys och ställningstaganden i texten.
Kommentera artikeln
I samarbete med tjänsten Ifrågasätt erbjuder DN möjligheten att kommentera vissa artiklar. Håll dig till ämnet och håll en god ton. Visa respekt för andra skribenter och berörda personer i artikeln. Vi tar bort inlägg som vi bedömer är olämpliga.