En Evolution, uppgraderad till Revolution om maskininlärning och AI

När jag var 15 år läste jag en roman om en kvinna och en robot. Roboten skulle hjälpa kvinnan och vara hennes vän när hon var ensam. Kärleksroman, som det var, så började roboten och kvinnan att få känslor för varandra. Världen var emot dem och roboten blev hotad att bli destruerad. Det här var 1985 och ungefär samtidigt som Åsa Rudström, forskare, projektledare och föreläsare på RISE Research Institutes of Sweden, avslutade sin grundutbildning – med AI-fokus – vid Stockholms Universitet (SU). Vi intervjuade Åsa och frågade hur det har gått för roboten och AI? Vem behöver vara rädd, vi eller roboten?

Åsa har ägnat hela sin karriär åt AI, maskininlärning och intelligenta gränssnitt. Efter en examen i systemvetenskap blev hon doktorand på SU inom området maskininlärning, vilket ledde vidare till en doktorsexamen och ett jobb på dåvarande SICS som idag ingår i RISE. Åsas passion har alltid varit tillämpningen av teknik i alla dess former, med maskininlärning och AI i fokus.

Från fiktion till revolution

Redan på 50-talet kom filmerna med människoliknande robotar som tog över världen. På 80-talet, när Åsa satte tänderna i AI fanns både hypen och forskningen kring AI, men förutsättningarna var inte på plats och luften gick ur. Slutligen, på 90-talet, kom webben som gjorde stora mängder information tillgänglig för alla, inte bara för forskare. Den tekniska utvecklingen började komma ikapp, med kraftfullare datorer och möjlighet till mer komplexa algoritmer. Internet och smartphones bidrog med en explosionsartad mängd tillgängliga data och utvecklingen av AI kunde därmed ta stora steg framåt. Den här utvecklingen har fortsatt och AI är åter på allas läppar. Denna gång med ännu snabbare kommunikationsmöjligheter genom bredband och fortsatt teknisk utveckling för komplicerade beräkningar och nya användningsområden.

Tidig AI

Den tidiga AI-funktionaliteten skulle kanske ändå inte räknas som AI idag, menar Åsa. Hon nämner expertsystem som var baserade på förprogrammerade regler, till exempel ”om motorn inte startar så är det fel på tändstiften”. I bakgrunden började man använda AI i jakten på bedrägerier, till exempel genom att titta på avvikande mönster i kreditkortstransaktioner eller i rekommendationssystem, ni vet, tummen upp eller tummen ner. Resultaten ser vi idag på till exempel Spotify, men i början blev det inte alltid som man hade tänkt sig. Åsa berättar om en man som hade en ”smart” TV-box och tittade på en hel del våldsfilmer. ”Han fick titta på kärleksfilmer och barnprogram i månader för att få bort den våldsstämpeln i profilen”. Men låt oss fortsätta med att beskriva AI idag.

Vad är AI?

Alla har en åsikt om vad AI är, menar Åsa. Ber du någon beskriva AI så får du ofta svar som ”ja, en robot förstås, en tvåbening som är människolik”, precis som på 50-talet. Hon är tydlig med att roboten förstås finns och forskas på, så kallad Artificiell Generell Intelligens, men att den bara är en gren av AI. Förut var människan experten och skrev instruktionerna medan maskinen bara utförde dem. Idag finns det datadrivna lösningar som gör det möjligt för maskinen att lära sig själv. Som exempel beskriver Åsa hur AI kan skapa en grammatikbok för ett språk genom att gå igenom stora mängder av tillgänglig text och finna mönster i hur språket fungerar. För att åstadkomma det här så används maskinlärning. Men hur funkar det?

Teorin och tekniken bakom

När man pratar om AI dyker det ofta upp buzzord som djupa neuronnät eller deep learning. Dessa är tekniker inom maskininlärning, en central del av AI och det som vi ofta menar när vi säger artificiell intelligens. Maskininlärning handlar om att lära maskinen att själv lära sig från exempel, till exempel att lära sig tolka naturligt språk eller känna igen ansikten.

Det finns olika maskininlärningstekniker men de som är mest omtalade nu är ”deep learning” eller djupa neuronnät. Åsa beskriver dem så här: De är inspirerade av hur den mänskliga hjärnan fungerar, genom kommunikation mellan neuroner. Tekniken används till exempel mycket inom bildbehandling och bygger på lager av neuroner. Ett enkelt exempel är att försöka känna igen en katt i en bild. Det första lagret är pixlarna i bilden, alltså ett antal punkter. I nästkommande lager grupperas punkterna till streck och kanter, som i nästa lager grupperas igen, exempelvis till öron och morrhår och så vidare. Till sist kommer systemet fram till att det mönster som finns i bilden nog är en katt.

Vad ska vi då ha AI till

Det sägs ofta idag att AI är överallt. AI låser upp din telefon när den ser ditt ansikte, din bil talar om när du behöver byta olja och din tvättmaskin kanske till och med vet när tvättmedlet är slut och beställer nytt till dig. En förutsättning för det här är IoT, Internet of Things, alltså inbyggd elektronik och internetuppkoppling i vardagsföremål såsom hushållsapparater, fordon och maskiner. Sensorer i apparaterna förser inbyggd AI med information eller skickar den vidare till en central AI som räknar ut det som behövs. Men AI finns förstås inte bara i våra konsumentprodukter. Idag används AI till exempel för att övervaka och kontrollera stora industriella processer och för att förutsäga problem innan de inträffar. Ett annat exempel är att identifiera avvikelser i båtrörelser för att få en tidig varning om till exempel risk för krockar eller grundstötning. ”Det har ju faktiskt hänt att kaptenen somnar”, säger Åsa.

Behovet av samarbete mellan människan och det artificiella

AI uppfattas ibland som disruptiv för samhället och Åsa är noga med att betona hur viktigt det är att det artificiella och människan samarbetar. ”Det är inte meningen att AI ska ta över, snarare att AI kan hjälpa oss med många olika, specifika uppgifter. Det är här de stora vinsterna finns”, menar hon. Vi behöver inte vänta på den där filmroboten som sköter om allt, men vi bör ställa oss frågan hur världen ser ut, vad som behöver lösas och hur AI ska utformas för att passa våra behov. Det är också lätt att ha för höga förväntningar på AI. Ett system som SIRI har inbyggd intelligens som gör att den kan boka en tid hos frisören åt oss. Men de chattbotar som vi möts av på många olika sajter tycks ofta vara intelligentare än de faktiskt är. Gränssnittet är sådant att det verkar mänskligt men AI:n har bara en specifik uppgift. Intelligensen är alltså inte allmängiltig, utan väl definierad. ”Skulle du fråga något helt annat, till exempel fråga hotellbokningsboten om vädret, så skulle den inte klara uppgiften”.

Även AI kan vara subjektiv

När man pratar om AI är det svårt att inte komma in på säkerhet, risker och rädslor. Ett klassiskt skräckexempel för AI är youtube-klippet om människor som blir gem, eftersom robotarna vill utvinna järnet i våra kroppar för gemproduktionen (länk nedan). Den animerade youtubefilmen, liksom alla filmer med robotar som tar över världen och gör människan till slavar har skrämt många, men är det så illa? Åsa menar att man bör vara försiktig även om tekniken i sig har stora möjligheter för vårt samhälle. Försiktigheten gäller både människans roll och teknikens. Människors bedömningar och beslut kan aldrig bli fullständig objektiva och rationella. För att göra rättvisa bedömningar, på till exempel Försäkringskassan eller Migrationsverket, kan det vara önskvärt med en automatik. Men AI kan bara ta hand om det den är upplärd för. Den kan bara kan lära sig det som finns i den tillgängliga datan, ingenting annat, menar Åsa. Det finns exempel på AI-system för till exempel rekrytering eller bedömning av kreditvärdighet som visat sig missgynna olika grupper av människor – eftersom systemet lärt sig av tidigare fall som innehåller mänskliga bedömares subjektivitet och fördomar.  

AI som objektiv men känslokall

En annan aspekt som illustrerar vikten av samspelet människa-maskin är att ”vi vet att om vi får träffa någon i nöd så reagerar vi med att vi vill hjälpa”, säger Åsa. Människan är subjektiv, ja, men en algoritm är rättvis genom att vara fyrkantig. I ett asylärende blir risken för orättvisa stor om handläggare och kommuner gör olika men med enbart AI får man en stor kyla i bedömningen. Det är inte svart-vitt, menar Åsa, utan vi behöver både människan och systemen. Människan är ju inte heller alltid god, utan också en källa till vinklade data och där kan AI komplettera.

Källkritik och transparens med AI
Bara för att vi går över till AI så tror vi att den ska klara allt, säger Åsa, men AI-systemet är inte bättre än vad det har fått lära sig. Därför är källkritik viktigare än någonsin. Kan jag lita på ett beslut fattat av ett AI-system? Hur ska jag förstå på vilka grunder ett AI-system, baserat på ett djupt neuronnät, har fattat just det beslutet? Neuronnätet är ju en svart låda – jag ger förutsättningarna i ena änden och får ut resultatet i den andra. ”Hur ska jag kunna lita på det? En människa kan jag ju fråga hur hen tänkte i beslutet”. Åsa menar att tillit och transparens är oerhört viktigt. Bra frågor att ställa sig är, äger jag eller någon annan datan och kan jag lita på att jag inte har blivit hackad? Vet jag att inte datan har blivit vinklad? Har datan tillräckligt god kvalitet från början? Åsa menar därför att behovet av att vara källkritisk är stor.

What’s in it for us
Möjligheterna är oändliga för AI och redan nu en stor del av vårt samhälle. ”Sverige ska vara ledande i världen på att ta tillvara möjligheterna som användning av AI kan ge”, enligt regeringens publicerade nationella inriktning för AI. Åsa blir tydlig och fokuserad när jag frågar henne hur företag idag ska ställa sig till AI. Hon säger, ”Det händer nu och det är viktigt att vara uppdaterad, att vara allmänbildad, men ändå att inte dras med utan att faktiskt ta ställning till ’What’s in it for us”. Den verkliga frågan, menar Åsa, är att utgå ifrån vad det är som behöver lösas. Annars riskerar man att gå i fel riktning. Åsas råd är: se till att bli en bra och allmänbildad beställare, vare sig du är kund eller konsult, och häng med på resan! Vi kan konstatera att varken roboten eller vi behöver vara rädda just nu, men att kompetensutveckling och att vara aktiv och kritisk i våra beslut kring AI är viktigt.