Alla inlägg av Cristofer Englund

Varför behövs Explainable AI (XAI)?

Våra liv är fyllda av förklaringar. Vi går till doktorn för att få vår onda axel undersökt. Doktorn säger till dig att vila armen och undvik tunga lyft. Dessutom får du ett recept på ett läkemedel. Du undrar direkt, varför behöver jag ta medicin? Du vill också få reda på vilken diagnos doktorn ställt på min axel? Och hur lång tid kommer det ta innan den blir bra? Du frågar efter mängder av förklaringar.

Legendaren Lance Eliot har skrivit en artikel om varför förklarande AI (Explainable AI, XAI) behövs för autonoma fordon [1].

Utmaningen ligger i att ställa rätt fråga och att den som förklarar förstår på vilken nivå förklaringen ska ges. Inte sällan sker förklaringen under en dialog allteftersom mer och mer information faller på plats hos den som ställer frågor.  

När människor interagerar sker denna dialog naturligt. Men vad händer om vi interagerar med en maskin, ett system eller ett autonomt fordon? Inga av dagens AI-baserade system har tillräcklig förmåga att fullständigt känna igen en människas beteende eller tal och därmed får AI-systemet problem att kunna engageras i en naturlig dialog med sina användare.

Tänk dig situationen när du åker i ett autonomt fordon som plötsligt tar en annan rutt än den vanliga eller att fordonet du färdas i plötsligt bromsar kraftigt. I ett vanligt fordon skulle du fråga chauffören varför detta plötsliga beteende. Men hur ska det ske i ett fordon utan mänsklig förare? Ska passageraren koppla upp sig till kundtjänst eller fjärrkontrollcenter?  Det skulle inte skala särskilt bra med flera hundra tusen fordon som samtidigt är ute och kör.

XAI är en mycket viktig komponent för att skapa autonoma fordon. Lämpliga och lägliga förklaringar till fordonets beteende kan vara avgörande för att vi användare ska kunna lita på fordonet.

Sammanfattningsvis, vi som åker med autonoma fordon kommer vilja ha förklaringar av olika slag från fordonet. Ett kostnadseffektivt och lättillgängligt system som kan ge dessa förklaringar skulle förkroppsligas av ett XAI som baseras på det AI-system som kör fordonet.

Egen kommentar

Som AI forskare inses lätt nyttan med denna typ av system, tänk om Alexa eller Siri förstod allt jag vill eller undrar! Samtidigt finns ett spännande kunskapsgap mellan vad som är möjligt att visualisera med avseende på information som ligger till grund för ett beslut i ett AI/Machine learning-system och ett system som kan interagera med en användare och som förstår innebörden av grunderna i beslutet.

Källa

[1] Lance, E, Forbes. Explaining Why Explainable AI (XAI) Is Needed For Autonomous Vehicles And Especially Self-Driving Cars. 2021-04-24 Länk

Metoder för att upptäcka okänd data utan inlärning

Machine Learning (ML) och speciellt Deep Learning (DL) har visat sig vara mycket effektiva och kraftfulla för att lära sig att känna igen mönster, beteende och egenskaper.

En känd egenskap hos ML är att algoritmerna kan vara extremt bra på data som finns inom den rymd som använts för träning, men extremt dåliga på data som ligger utanför träningsrymden. De är alltså bra på att generalisera, men sämre på att extrapolera. För att detektera data som ligger utanför träningsrymden, tränas ofta nätverk som lära sig se skillnad på ”känd data” och ”okänd data”, genom att presentera exempel från båda klasserna. Problemet är dock att det dels finns många dimensioner i datat (speciellt när indata är bilder) och dels blir det snabbt opraktiskt att samla data på objekt som inte är relevanta för nätverket.

Forskare från Georgia Tech och Samsung, har nyligen publicerat en artikel kring hur nätverk kan tränas, utan att använda data data som ligger utanför träningsrymden [1].

Artikeln presenterar en metod som använder sig av signaler som finns inne i ML nätverken. De skapar sannolikhesfördelningar över hur signalerna beter sig för de olika kända klasserna. Genom att jämföra dessa fördelningar med hur signalerna ser ut för ny data som presenteras för nätverket, lyckas de med hög säkerhet avgöra om den nya datan kommer ifrån den kända eller okända datarymden.

Egen kommentar

Denna metodik har studerats inom Vinnova FFI projektet SMILE II även där med stor framgång [2].

Källor

[1] Hsu, Yen-Chang, et al. ”Generalized ODIN: Detecting Out-of-distribution Image without Learning from Out-of-distribution Data.” arXiv preprint arXiv:2002.11297 (2020).

[2] Slutrapport SMILE II https://www.vinnova.se/globalassets/mikrosajter/ffi/dokument/slutrapporter-ffi/elektronik-mjukvara-och-kommunikation-rapporter/2017-03066eng.pdf

Autonoma fordon som trafikledare

Forskare på UC Berkeley utvecklar ett trafikledningssystem baserat på maskinlärning för att automatiserade, semi-automatiserade och manuellt framförda fordon effektivt ska kunna dela på vägrummet. Flow, som det nya systemet kallas, ska kunna hantera stora trafikmängder mer effektivt än ett traditionellt ledningssystem utan stöd av AI [1] [2].

I Flow kan automatiserade fordon använda data från närliggande fordon och infrastruktur för att skapa ett bättre trafikflöde, och på så sätt kan dessa fordon bli trafikledare. De kan exempelvis undvika flaskhalsar genom att tidigt känna igen mönster som kan skapa problem och automatiskt anpassa hastigheten så att dessa undviks. Vissa forskare hävdar att endast 4-5% av fordonen behöver ha denna funktionalitet för att få en positiv effekt.

Systemet är moln-baserat och open source för att förenkla vidareutveckling från andra forskare och utvecklare.

Egen kommentar

På RISE gjorde vi ett projekt för ett tag sedan där vi simulerade ”cooperative speed harmonization” för att öka flödet på E6 mellan Olskroksmotet och Gullbergsvass i norrgående färdriktning där det ofta bildas köer. Resultaten visar också att redan med 5% av uppkopplade fordon som använder funktionen så ökade flödet genom Tingstadstunneln [3].

Källor

[1] Turning Autonomous Cars into Traffic Managers, Machine Design. Länk

[2] Flow på github. Länk

[3] Englund, Cristofer, Lei Chen, and Alexey Voronov. ”Cooperative speed harmonization for efficient road utilization.” 2014 7th International Workshop on Communication Technologies for Vehicles (Nets4Cars-Fall). IEEE, 2014. Länk

Waymo och Google använder AutoML för att bygga Machine Learning

Waymo, kända för sina självkörande fordon, är väl förtrogna med machine learning (ML) som de använder i nästan alla delar av sina fordon, från att läsa av omgivningen, att förutsäga hur trafikanter i närheten kommer agera och bestämma det egna fordonets nästa rörelse.

Med ett samarbete med Google AI och forskare från ”the Brain team” har forskare börjat undersöka möjligheten att använda ett ML-baserat system, AutoML, för att anpassa sina modeller till olika städer och miljöer. Frågan som samarbetet jobbar med att söka finna svar på är: kan AutoML generera högpresterande och snabba Neural Networks för en bil? Med prestanda menar de hur precision i svaren från näten och med snabbhet menar de hur snabbt nätet kan leverera ett svar. 

För att hitta en bra arkitektur för ett neuralt nätverk görs mycket manuellt arbete med att kominera olika typer av byggblock, t.ex. antal gömda noder och inlärningsfunktioner etc. 

Med hjälp av AutoML kunde de automatiskt kombinera dessa byggblock och på så sätt förbättra prestanda på två olika sätt: nya nätverk som var signifikant snabbare, fast med liknande precision och nätverk med högre precision fast med liknande snabbhet.
Alltså, genom att kombinera olika byggblock kunde de utforska olika konfiguration av nätverken. Så, med denna kunskap ville de även prova att skapa helt nya typer av nätverk. 

Eftersom det tar dagar att utvärdera en ny arkitektur skapades mini-problem baserade på original-problemet, dvs. bildsegmentering. Miniproblemen kunde analyseras på några timmar och nu kunde AutoML mjukvaran användas för att testa inte bara nya byggblock utan helt nya arkitekturer. Det som annars skulle ta år att köra på servrarna med multipla grafik-kort tog nu några timmar. 

Resultaten var enastående, 10 000 nya arkitekturer kunde skapas automatiskt, och testas på ett par veckor (istället för över ett år). Nätverk som var 20-30% snabbare och med mellan 8-10% högre precision kunde automatgenereras.

Källa:

[1] Automating the design of machine learning models for autonomous driving, Waymo 2019-01-15 Länk

Vatten och AI

En rapport från ”Center of U.S. auto manufacturing” höjer ett varningens finger kring prestanda hos AI-baserade algoritmer för objektidentifiering i samband med regn. Hayder Radha, professor vid Michigan State University, bekräftar detta problem och säger: I tester missar algoritmen ca 20% av alla objekt i lätt regn, om regnet tredubblas, dubbleras felfrekvensen. Även till synes små förändringar som färgskiftningar på grund av årstiderna kan påverka fordonens radar och lidarsensorer säger Prof. Radha.

Trots dessa utmaningar storsatsar bl.a. Hyundai på AI-teknologi för självkörande fordon. De har bl.a. investerat i startupföretaget Allegro.ai. Även Boston-baserade företaget Optimus Ride satsar med Nvidias Drive AGX Xavier plattformar för att starta en flotta med självkörande fordon i specifika områden t.ex. högskolekcampus och andra zoner för självkörande fordon.

Källa: 

[1] George Leopold: Study Pours Cold Water on AI Driving Algorithms, Datanami 2019-01-02 Länk

Multiantennsystem för förbättrad positionering inomhus och för autonoma fordon

I veckan som gått försvarade Dr. Marco Marinho vid Högskolan i Halmstad sin avhandling som handlar om hur multiantennsystem kan används för noggrann positionering, både i inomhusmiljö och utomhus för autonoma fordon.

Multiantennsystem används redan i bl.a. wifi-routrar och mobilmaster för att förbättra kommunikationen. Den nya tekniken som presenterades i avhandlingen har fokuserat på att öka noggrannheten i positionering. Resultaten visar att noggrannheten i positioneringen bli så hög som 1 cm.

Forskningen har framförallt handlat om energieffektivisering inom systemet samt interaktion mellan mobila enheter och stationära sensornätverk. Tekniken har även studerats praktiskt för att möjliggöra kommunikation mellan fordon i lastbilskonvojer.

Egen kommentar:

Att förbättra positionering med hjälp av trådlös kommunikation är ett bra komplement till traditionella SLAM-algoritmer. Med så bra noggrannhet som rapporteras i avhandlingen så kommer det möjliggöra många nya applikationer, allt från navigering för autonoma fordon och flygfarkoster till inomhusnavigering för räddningsinsatser vid bränder.

Källor:

[1] Louise Wandel: Multi antenna systems improve indoor positioning and autonomous vehicles, Högskolan i Halmstad 2018-03-05 Länk

Fler undersökningar kring attityder till självkörande bilar


Tidigare i veckan rapporterade vi om en studie i USA och Tyskland där bilförare visade sig skeptiska till att låta sig transporteras i självkörande fordon.

Det finns forskning på nära håll också som visar på liknande resultat. SOM-institutet på Göteborgs Universitet har tillsammans med forskning.se gjort en undersökning där 1600 svenskar ingick och som visar att vi är något mer positiva till att använda självkörande bilar: knappt hälften säger att de inte håller med om att ”Jag kan tänka mig att använda en självkörande bil när sådana finns på marknaden” [1].

Människors attityd till självkörande fordon är något som det forskas kring inom projektet  ”Självkörande bilar: förändringar, förväntningar och upplevelser”. Det är ett tillämpat etnografiskt forskningsprojekt, finansierat av Vinnova, där forskare från Högskolan i Halmstad och Volvo Cars samarbetar för att öka förståelsen kring vad som händer med oss människor när vi använder självkörande bilar på publika vägar.

Även i Storbritannien har en studie utförts kring användaracceptans kring självkörande bilar. Det är det brittiska projektet UK Autodrive och Cambridge University som gjort undersökningen där 2800 personer svarat på frågor som berör  bl.a. om de skulle använda automatiserade fordon [2]. I Storbritannien svarar endast 15% att de absolut inte skulle sätta sig i en självkörande bil, att jämföra med 30% av svenskarna och 50% av undersökningen i USA & Tyskland som vi skrev om i tisdagens nyhetsbrev.

Källor:

[1] Eva Barkeman: Skulle du sätta dig i en självkörande bil? Forskning.se 2017-08-22 Länk

[2] Survey finds UK public still “open minded” about self-driving vehicles, UK Autodrive 2017-08-08 Länk

Många skeptiska till att åka i autonoma bilar

Gartner presenterade nyligen resultat från en undersökning kring människors inställning till autonoma bilar [1]. Undersökningen, som utfördes på 1500 tillfrågade personer i USA och Tyskland, indikerar att mer än hälften av konsumenterna inte vill åka i en helt självkörande bil. Däremot är över 70 procent mer vänligt inställda till att åka i delvis automatiserade bilar, alltså sådana bilar som kan köra autonomt, men som låter föraren återta kontrollen om bilen kräver det.

Förespråkare till autonom körning hävdar att tekniken kommer göra trafiken säkrare eftersom statistik pekar på att det är mänskliga förare som är orsaken till olyckor. Men, många konsumenter är vana vid att elektronik havererar eller gör fel och har därför svårt att acceptera tanken med att vara fast i en bil som går sönder, speciellt när de inte kan ta över kontrollen, säger Gartners forskningschef Mike Ramsey. Förare är speciellt oroliga för två saker: att bilen blir förvirrad i okända situationer, och att ett systemfel kan utsätta dem för fara. Slutligen visar studien att hela 29 procent av de tillfrågade inte vill åka ens i en delvis delvis automatiserad bil.

Egen kommentar

Det intressanta är att så många är skeptiska till ny teknik, men det är trots allt människoliv som står på spel och många tänker säkert att vi från dagens bilar ska gå direkt till en bil utan ratt – det är i alla fall lätt att få den bilden när vi matas med nyheter om att autonoma fordon snart är här. Men för vanliga pendlare så tror jag vi kommer ha kvar ratten i bilen ett tag.

Människor och teknik måste mogna och vi måste vänja oss vid att fordonen tar över mer och mer av vissa uppgifter och scenarion och jag tror nog de allra flesta litar på tekniken i sina bilar idag, jag känner i alla fall ingen som väljer att stänga av ABS och antisladdfunktionen för att de inte litar på tekniken.

Källa:

[1] Robert Ferris: There is a ton of people who still don’t want to ride in self-driving cars, says survey, CNBC 2017-08-24 Länk

Bästa magisteruppsatsen 2017 utsedd av SAIS

SAIS (Swedish Artificial Intelligence Society) tillkännagav i veckan att Thomas Rosenstatter på Högskolan i Halmstad är vinnaren av SAIS Best AI Master’s Award 2017 [1].

Uppsatsen som belönats med utmärkelsen handlar om ett system som kan skapa bättre situationsmedvetenhet för automatiserade fordon. Systemet introducerar ett tillit-koncept som med hjälp av både egna och omgivande fordons sensorer bygger modeller över hur pålitligt det egna fordonet är, omgivande fordon samt infrastrukturen.

Systemet kan t.ex. användas för bättre sensorfusion. Systemet vet i förväg att vissa platser har opålitlig GPS-signal eller att kommunikationen är skymd bakom en viss lastbil, eller att ett fordon har ett riskfyllt beteende och därför ökar systemet säkerhetsavståndet till detta fordon.

Systemet utvecklades inom ramen för Grand Cooperative Driving Challenge (GCDC) 2016 där laget från Högskolan i Halmstad tog hem segern i maj 2016. Länk till tidigare nyhetsbrev om GCDC.

Källor

[1] SAIS Best AI Master’s Thesis Award 2017, Swedish AI Society 2017-04-25 Länk

GCDC 2016: Tävlingen avgjord

28-29 maj var det dags för Grand Cooperative Driving Challenge (GCDC) 2016. Det var fem år sedan första GCDC anordnades av TNO i Holland på testmotorvägen A270 mellan Eindhoven och Helmond i Holland.

Tio lag från Lettland, Spanien, Frankrike, Tyskland, Holland och Sverige deltog i tävlingen som handlade om tre scenarion för kooperativ och automatiserad körning.

I tävlingen använde fordon exempel på nästa generations kommunikationsprotokoll för kooperativ körning som bl.a. möjliggör förhandling mellan fordon. Fordonen utförde till exempel automatiskt filbyte på motorväg som föregicks av förhandling för att fordonen skulle bestämma vilket fordon som skulle öppna en lucka för vilket. Det andra scenariot gick ut på att köra igenom en T-korsning utan trafikljus, fordonen förhandlade om vilket fordon som skulle passera som första, andra och tredje fordon genom korsningen.

Det tredje scenariot handlade om att utryckningsfordon, med hjälp av kommunikation och HMI i andra uppkopplade fordon skulle kunna begära i vilken fil de vill ha fri väg när de är under utryckning.

Vinnare i tävlingen var studenter från Högskolan i Halmstad som tävlade med en Volvo S60, på andra plats kom Team AnnieWay från KIT Karlsruhe som tävlade med en personbil från Mercedes och på tredje plats placerade sig KTH som tävlade med en lastbil från Scania.

GCDC 2016 arrangerades inom FP7-projektet i-GAME där TNO, TU/e (Techniche Universitet Eindhoven) från Holland, Idiada från Spanien och Viktoria Swedish ICT.

Här finns senaste nyheterna från GCDC2016 länk: https://twitter.com/hashtag/gcdc2016

Egen kommentar

De svenska lagen som deltog i GCDC 2016 arbetade tillsammans med stöd från SAFER inom projektet CoAct, en fortsättning på det projekt som ledde Högskolan i Halmstad, Chalmers och KTH till placering 2,3 och 4 i GCDC 2011.