Vi har förtydligat hur vi behandlar personuppgifter och cookies.
Mitt DN - skapa ditt nyhetsflöde Mina nyhetsbrev Ämnen jag följer Sparade artiklar Kunderbjudanden Kundservice och prenumeration Logga ut
Du följer nu ämnet: STOCKHOLMS STAD (sparas i Mitt DN)
DN Debatt

”Farlig övertro på AI som ännu är allt för ointelligent”

Det finns ingen verklig artificiell intelligens ens på den synliga forskningshorisonten. Fungerande system finns men det är långt kvar till intelligens på mänsklig nivå, skriver Thomas Hellström. Bilden visar den Hongkong-utvecklade AI-roboten Sophia.
Det finns ingen verklig artificiell intelligens ens på den synliga forskningshorisonten. Fungerande system finns men det är långt kvar till intelligens på mänsklig nivå, skriver Thomas Hellström. Bilden visar den Hongkong-utvecklade AI-roboten Sophia. Foto: Kin Cheung/TT

DN DEBATT 7/10. All hausse kring AI riskerar att leda till en övertro och till att vi använder ointelligent AI för saker som kräver betydligt mer avancerad intelligens, som förmåga att förstå, resonera, värdera och göra moraliska över­väganden. En klok användning av AI måste styras av en medvetenhet om systemens begränsningar, skriver dataprofessorn Thomas Hellström.

Vi läser dagligen om nya fantastiska tillämpningar av artificiell intelligens (AI). Stora resurser satsas på både forskning och utveckling av AI-lösningar för praktiska problem inom en rad områden i samhället. Företag som åtminstone säger sig använda AI växer som svampar ur jorden. Men med all denna aktivitet följer även en risk för att AI används för sådant som kräver betydligt intelligentare maskiner än de som finns i dag, framför allt beroende på två faktorer.

1

För det första så finns det ingen verklig artificiell intelligens. Inte nu och inte på den synliga forskningshorisonten. Det har förvisso gjorts väldigt stora framsteg när det gäller AI-tillämpningar under det senaste decenniet. Fungerande system finns för röstigenkänning, översättning, och i sökmotorer, och prototyper av självkörande bilar och servicerobotar testas på flera håll i världen. Men det är fortfarande långt kvar till intelligens på mänsklig nivå, och till något som kan kallas maskiner med artificiellt medvetande.

En självkörande bil som fungerar bra i Kalifornien skulle omedelbart köra av vägen, om den ens startar, i en svensk snöstorm. Och när roboten Erica, med uttrycksfullt ansikte och röst, säger att hon inte är rädd för döden upprepar hon bara vad hennes skapare, professor Ishiguro, bokstavligen programmerat in i hennes dator. Om hon skulle säga att hon är rädd finns det heller ingen anledning att ta det på allvar, ­eller få för sig att försöka trösta henne.

2

För det andra finns en tendens hos såväl forskare, som företag och medier att överdriva intelligensen i existerande AI-lösningar. Vi forskare säger gärna att våra robotar ”förstår”, ”känner”, eller ”beslutar”, inte minst när vi beskriver vad vi planerar att åstadkomma med förnyade forskningsanslag (roboten Erica är förresten inte en ”hon” utan en ”den”, såsom alla and­ra maskiner). Även företag tenderar att beskriva sina robotar och AI-system som utrustade med närmast mänsklig intelligens och känslor. Förmodligen med syfte att sälja så många produkter som möjligt.

Medierna i sin tur är ofta pådrivande snarare än kritiskt granskande i sin nyhetsrapportering om AI. Orsaken till att vi, på olika håll, tenderar att överdriva AI behöver definitivt inte vara att vi vill vilseleda. Visionen om att skapa konstgjort liv och intelligens är djupt kulturellt förankrad i oss människor, och påverkar hur vi tolkar och beskriver det vi gör och det som sker runt omkring oss. Vi älskar att föreställa oss intelligenta maskiner, och kärleken smittar av sig på beslutsfattare som pumpar in miljardbelopp i både forskning och företagande inom AI.

Sammantaget kan överdrifter leda till övertro, som i kombination med den tämligen ointelligenta AI vi för närvarande har, blir en fara som vi måste vara medvetna om. Nämligen att all hausse kring AI riskerar att leda till en övertro på AI-lösningar, och till att vi använder ointelligent AI för saker som kräver betydligt mer avancerad intelligens, till exempel förmåga att förstå, resonera, värdera och göra moraliska överväganden.

Ett exempel är AI-baserade banksystem för automatisk bedömning av låneansökningar. Sådana system analyserar enorma mängder av gamla ansökningar, och försöker sedan efter­likna de mänskliga handläggarnas bedömningar. Tyvärr visar det sig att systemen kan bli fördomsfulla och till exempel konsekvent diskriminera sökande på grund av hudfärg eller kön. Samma problem har uppenbarat sig i AI-baserade system för automatisk bedömning av jobbansökningar eller medverkande i skönhetstävlingar.

Ett annat exempel är de AI-baserade bildanalyssystem som används i förarlösa bilar för att detektera vägbanan, andra fordon och fotgängare. Systemen fungerar oftast utmärkt men har allvarliga begränsningar som avslöjar sig vid en speciell typ av stresstest. Genom att addera brus till en kamerabild kan man få ett bildanalyssystem att leverera halsbrytande felaktiga analyser av vad som finns framför kameran.

En människa har dock inga problem att se att den brusiga bilden har exakt samma innehåll som den omodifierade bilden. Den här typen av tester reser frågetecken kring huruvida de AI-baserade systemen verkligen kan sägas förstå en bild, eller om de bara lärt sig att vissa formationer av bildpunkter bör benämnas med namn som ”bil” eller ”fotgängare”.

Problemet med övertron på AI kan paradoxalt nog komma att öka snarare än minska med tiden. Redan nu kan datorprogram översätta mellan till exempel kinesiska och engelska. Riktigt bra faktiskt, men ibland med misstag som ingen människa någonsin skulle göra. Datorprogrammen kommer att bli bättre och bättre och misstagen färre och färre, men faktum kommer att kvarstå under en lång tid: översättningsprogrammen har inte en aning om vad de översätter eller vad meningarna egentligen betyder. Men illusionen av verklig intelligens kommer att bli mer och mer övertygande, och risken för att vi låter maskinerna utföra sådant som bara människor borde göra kommer att öka om vi inte är vaksamma.

Sund forskning och användning av AI bör fokusera på förståelse av hur, varför och när AI-systemen fungerar och inte fungerar, något som också uppmärksammas i nya satsningar på AI-forskning i Sverige. Man bör till exempel utröna hur de nya typerna av djupa neuronnät för bildanalys verkligen fungerar, och varför de skiljer på en bild av en bil och en verklig bil. För att säkert kunna använda ett sådant system bör man även finna gränserna för när och under vilka förhållanden systemet är pålitligt.

Det finns också ett behov av att konstruera våra robotar så att de talar om, eller på annat sätt kommunicerar, vad de gör, och varför. Än så länge är de flesta robotar så enkla att behovet inte finns, men snart kommer de att bli betydligt mer komplexa, mångsidiga och svårare att förutsäga. Då bör de även kunna förklara vad de planerar att göra, vad de vill göra, vilka begränsningar de har, vad de vet, och vad de skulle vilja veta, och många andra saker. Kort sagt, vi måste kunna förstå robotarna på samma sätt som vi förstår andra människor.

Ett välutformat AI-system för bedömning av låneansökningar skulle kunna vara mindre fördomsfullt än sina mänskliga kollegor. Men då krävs intelligentare AI än dagens datadrivna system som inte kan skilja på statistiska korrelationer och verkliga orsaks­samband. Sådana verkligt intelligenta system kommer förmodligen att utvecklas i framtiden, men då liksom nu bör en klok användning av AI styras av en medvetenhet om systemens begränsningar.

DN Debatt.7 oktober 2018

Debattartikel

Thomas Hellström, professor i data­vetenskap vid Umeå Universitet:
”Farlig övertro på AI som ännu är allt för ointelligent”

English translation

Thomas Hellström, Professor in Computing Science at Umeå University:
”Dangerous over-confidence in AI that so far is too unintelligent”

Detta är en opinionstext i Dagens Nyheter. Skribenten svarar för åsikter i artikeln.
Kommentera artikeln
I samarbete med tjänsten Ifrågasätt erbjuder DN möjligheten att kommentera vissa artiklar. Håll dig till ämnet och håll en god ton. Visa respekt för andra skribenter och berörda personer i artikeln. Vi tar bort inlägg som vi bedömer är olämpliga.