Kategoriarkiv: Artificiell intelligens

Guldkorn från svensk forskning 2021

Det här är svenska guldkorn ifrån er läsare. Stort tack för alla bidrag, och tack för ert fantastiska jobb.

PhD thesis: Decision-Making in Autonomous Driving using Reinforcement Learning.
This thesis explores different techniques based on reinforcement learning (RL) for creating a generally applicable decision-making agent for autonomous driving. One highlight is the introduction of methods that can estimate how confident the trained agent is in its decisions, which for example is important if the agent is exposed to situations outside of the training distribution. Another contribution is a method for combining planning and RL, which both improves the quality of the decisions and reduces the required amount of training samples. The full text is available here. This project was supported by Volvo Group, Chalmers, Wallenberg AI, Autonomous Systems and Software Program (WASP), Vinnova FFI, and AI Sweden. For more information, contact Carl-Johan Hoel (carl-johan.hoel@chalmers.se).

L3Pilot – Piloting Automated Driving on European Roads
The L3Pilot project (https://l3pilot.eu/) is the largest EU project on automation so far and ended in October 2021. In this project, Chalmers and Volvo Cars investigated human collaboration with automated vehicles. The Wizard of Oz approach was used both on test track and on public roads to simulate an automated driving feature that did not require drivers to supervise the system. However, the drivers occasionally had to resume manual driving in response to take-over requests. More information about the participants and the publications from this project can be found here. For more information, contact Linda Pipkorn (linda.pipkorn@chalmers.se)

Long-term demonstration of autonomous shuttle fleets in Gothenburg will run between spring 2022 and 2023 as part of the H2020 project SHOW – SHared automation Operating models for Worldwide adoption (https://show-project.eu/). Main contribution of the real-life urban demonstration is the integration of fleets of automated vehicles into public transport, to advance sustainable urban mobility, combined with evaluations of technical solutions, business models, user acceptance and scenarios for impact assessment. The project aims to be the biggest and most holistic initiative ever piloting automated vehicles in urban environments. Real-life urban demonstrations will take place in 20 cities across Europe, such as in Madrid, Turin, Salzburg, Rouen, and Linköping. SHOW gathers a strong partnership including 69 partners from 13 EU-countries and fosters international cooperation. The demonstration in Gothenburg will take place at Campus Johanneberg/Chalmers University of Technology with partners Keolis, Ericsson and RISE. The project has received funding from the European Union’s Horizon 2020 research and innovation programme. For more information contact Cilli Sobiech (cilli.sobiech@ri.se).

Demonstrating remote controlled trucks at Lindholmen/Gothenburg. Within the project SCAT – Safety Case for Autonomous Trucks we will demonstrate goods transport without a safety host onboard and with higher velocity in a mixed traffic environment at Lindholmen (https://www.ri.se/en/what-we-do/projects/safety-case-for-autonomous-trucks). The demonstration will take place in spring 2022. The project started in autumn 2020 with partners RISE, Ericsson, AstaZero, Telia and Einride. The consortium explores together how to safely handle remote access and control from a technical safety perspective and from a policy perspective to support future commercialisation of automated vehicles. We consider the gaps and challenges related to the safety of automated trucks, the digital infrastructure, the policy framework in different markets and their behavioural implications. The approach includes the legal/policy framework in Sweden, as well as France and the US exemplarily. The project is funded through the strategic innovation program Drive Sweden by Vinnova, Formas and the Swedish Energy Agency. For more information contact Cilli Sobiech (cilli.sobiech@ri.se).

Digital traffic rules for a connected and automated road transport system. In the framework of Drive Sweden Policy Lab 2021/22, one case study is identifying ways towards a future system for digital traffic rules (https://www.drivesweden.net/projekt-3/drive-sweden-policy-lab). We raise issues concerning the development of traffic regulations in Sweden through dialogue with a wide range of actors. The purpose is to investigate what is needed to create conditions for a future system with traffic rules that are geographically unambiguous and can be read by machines. Reliable information is needed already today for various applications and supporting IT systems and will become increasingly important with a connected and automated road transport system. We use policy labs as a method to find a possible solution, for example through the development of the regulations that govern how traffic regulations are decided and announced. A development of processes and routines for production, management and exchange of traffic rule data would reduce the risk of deviations that we see today. The project can contribute by looking at challenges, opportunities and alternative solutions linked to the regulations. Drive Sweden Policy Lab is a platform for collaborative policy development enabling smart mobility solutions. The platform gathers governmental agencies, municipalities, multinational corporations, start-ups and research to solve bottlenecks for innovative projects. The project Drive Sweden Policy Lab 2021/22 is funded through the strategic innovation program Drive Sweden by Vinnova, Formas and the Swedish Energy Agency. For more information contact Cilli Sobiech (cilli.sobiech@ri.se).

External interaction principles for creating trust in heavy automated vehicles. To become widely used on public roads, future automated vehicles (AVs) will need to be trusted and gain societal acceptance – something that will be greatly affected by their ability to safely, efficiently and seamlessly interact with other road users in the traffic system. This project investigates if there will be new communication needs when heavy AVs are introduced in traffic. More specifically, the project is investigating how trust and acceptance of heavy AVs can be created and maintained via External Human-Machine-Interfaces (eHMI). Currently, the project has conducted a series of studies including a virtual reality simulator study, and two Wizard of Oz studies on a test track. These studies have been focused on interaction between heavy AV’s and pedestrians. Our next goal is to investigate interaction between heavy AV’s and passenger car drivers using a driving simulator. The project is supporting an institute PhD candidate, and has also hosted two master thesis projects together with Umeå University: Designing eHMI for trucks: How to convey the truck’s automated driving mode to pedestrians and Communicating the stopping intent of an autonomous truck: The interplay between content size, timing and truck speed. This project is financed by Fordonsstrategisk Forskning och Innovation (FFI), associated to SAFER and led by Scania with RISE and Halmstad University as partners. For more information contact Yanqing Zhang (yanqing.zhang@scania.com)

Policy Lab Smarta Fartyg. Projektet undersöker hur den pågående digitaliseringen inom svensk sjöfart rimmar med dagens regelverk. Analysen görs utifrån tre konkreta fall. Två av fallen berör hur autonoma funktioner på ett godtagbart säkert sätt kan ta över människans ansvar ombord utifrån konstruktion och användningsområde. Till skillnad från fordon finns det ingen försöksförordning för autonoma fartyg så arbetet utgår från de regler och undantag som etablerats under en epok när befälhavaren alltid var ombord. I det tredje fallet samverkar två myndigheter kring hur en förändring av dagens lotsplikt kan påverkas av nationella behov och förutsättningar samtidigt som det kommer nya internationella regler. Parter i projektet är Transportstyrelsen, Sjöfartsverket, Saab Kockums, ABB, Färjerederiet och RISE. Projektet finansieras av Trafikverket. För mer information, kontakta projektledare Susanne Stenberg (susanne.stenberg@ri.se) eller Håkan Burden (hakan.burden@ri.se)

Precog: Kravhantering för säkra maskininlärningsbaserade perceptionssystem för autonom mobilitet. Självkörande fordon kräver tillförlitliga perceptionssystem. Framgångsrika perceptionssystem förlitar sig på maskininlärning. Maskininlärning bygger på träningsdata av hög kvalitet. Vad innebär detta för fordonens perceptionssystem? Hur kan vi specificera förväntningarna på träningsdatan? Vad innebär kvalitetssäkring på data-nivån? Hur påverkas fordonets funktionssäkerhet på systemnivån? Den nystartade förstudien Precog genomförs av RISE, Göteborgs universitet, Annotell och Zenseact med stöd från Vinnova. Projektet kommer att skapa samsyn för krav på maskininlärningsbaserade perceptionssystem för fordon. Precog ska utreda kedjan 1) annoteringsnoggrannhet för träningsdata, 2) maskinlärningsmodellernas precision, 3) perceptionssystemens korrekthet och 4) funktionssäkerhet. Förstudien kommer att organisera en serie workshops med nyckelspelare inom svensk fordonsindustri. Vidare kommer dessa workshops att kompletteras med djupintervjuer och litteraturstudier. Efter syntes av projektresultaten kommer vi att arrangera en öppen workshop för att delge våra slutsatser under våren 2022. För mer information kan ni kontakta Markus Borg (markus.borg@ri.se)

Motion-Planning approach for autonomous bus driving. A collaboration between Scania and KTH Royal Institute of Technology resulted in the development of a novel Motion-Planning approach for autonomous bus driving. The results of this collaboration have been recently presented in the IEEE Vehicular Technology Magazine (https://ieeexplore.ieee.org/document/9470918). The article presents a motion-planning framework that leverages expert bus driver behavior, increasing the safety and maneuverability of autonomous buses. To deploy autonomous driving technologies in urban public transport, many challenges related to self-driving buses still need to be addressed. Unlike passenger cars, buses have long and wide dimensions and a distinct chassis configuration, which significantly challenges their maneuverability. To deal with the bus special dimensions, the authors introduce a novel optimization objective that centers the whole bus body as its travels along a road. Furthermore, the authors present a new environment classification scheme that enables self-driving buses to take advantage of the elevated overhangs, to increase maneuverability. Finally, a novel collision checking method is presented that explicitly considers a bus’s front wheels and how they can protrude from beneath the chassis when maneuvering near stops. The benefits of the proposed solution are presented through exp8eriments using an autonomous bus in real road scenarios. The work was partially supported by the Wallenberg AI, Autonomous Systems and Software Program (WASP) funded by the Knut and Alice Wallenberg Foundation. For more information contact Rui Oliveira (rui.oliveira@scania.com) from the KTH Royal Institute of Technology.

Industrial PhD project: Machine Learning to Enhance AI Planning for Intelligent Autonomous Transport Systems. Scania has developed an Offboard system by which its autonomous vehicles can be controlled and managed to perform their operations. This Offboard system can allow an automated planning and scheduling system (a.k.a. AI Planner) to create missions (plan) and dispatch them to the autonomous vehicles. Scania is now researching how to improve AI planning methods for fleets of autonomous vehicles using Machine Learning (ML) techniques. Learning algorithms will support AI planners in order to save human effort leading to good quality plans in less time, thus overcoming the challenge of depending upon the fleet transport managers experience. The PhD project’s outcome is expected to help Scania’s Offboard ATS to improve the plan quality and enable the system to scale up so that it could deal with the future challenges as autonomous vehicles will be taking over in many areas that are of immediate interest to Scania. The project, partly founded by the Swedish Foundation for Strategic Research (SSF), started in April 2020 and it will last 4 years, leading to a PhD degree from Örebro University. For more information contact the Industrial PhD student Simona Gugliermo (simona.gugliermo@scania.com), the industrial supervisor Christos Koniaris (Christos.koniaris@scania.com)  or the academic supervisor Federico Pecora (federico.pecora@oru.se)

Thesis on Cyber Resilient Vehicles. Cyber security focuses on detecting and preventing attacks whereas resilience concentrates on maintaining the vehicle’s intended operation in the presence of faults and attacks, which may even require the vehicle to disable some functionality to protect the passengers in and around the car. This becomes more important when higher levels of autonomy are introduced. In this thesis, we provide methods that aid practitioners in identifying and selecting the necessary and appropriate security and resilience techniques during the design of an automotive system. Additionally, this thesis also proposes three techniques to secure them, namely a mechanism to secure the internal communication, a model to assess a vehicle’s behaviour and reliability when it is driving in traffic, and a framework to detect attacks and anomalies in a vehicle fleet. This thesis was partially supported by the VINNOVA FFI projects HoliSec, and CyReV Phase 1 & 2. For more information contact Thomas Rosenstatter (thomas.rosenstatter@ri.se).

Enhanced ADAS – nästa generations ADAS. Advanced Driver Assistance Systems (ADAS) have the potential to improve traffic safety and efficiency. However, there are challenges with these systems in terms of their limited situation awareness and insufficient driver-vehicle interaction capabilities. If not addressed, these could lead to poor driver experience and decreased use of these systems. This project is led by RISE together with Aptiv and Smart Eye as partners. The aim of this project is to explore how safety, efficiency and drivers’ experience, acceptance and trust can be enhanced by enriching the situation awareness of existing ADAS with real-time information from a) digital road maps, b) driver monitoring, and c) by incorporating dynamic driver-vehicle interaction strategies. The project aims to include two iterations of prototypes with testing of each one on public roads or test track. The first iteration of prototypes has been evaluated and was completed now in december together with expert participants that work in the field of automotive technology. We have received valueable feedback for initiating the second iteration where we aim to develop ADAS functionality together with an intelligent vehicle-driver interface that derives information from internal and external vehicle sensors, as well as digital road maps. This project is financed by Fordonsstrategisk Forskning och Innovation (FFI). For more information contact Niklas Strand (Niklas.strand@ri.se)

The focus of automation in the Project I.hamn. Sweden’s ports are facing a major challenge to function as a transport node in the transformation to a more sustainable transport system that is expressed through the UN’s goals for sustainable development and the strategy for transferring freight transport from land to sea and rail. This means a higher pressure on infrastructure and resources, which places demands on new capabilities in the execution of the port’s operations. Ports need to be more efficient, enable sustainable transport and become a natural node in the integrated transport system. The project I.Hamn (https://www.ri.se/sv/vad-vi-gor/projekt/ihamn) gathers a continuous expanding cluster of today 22 Swedish small and medium sized ports allowing them to join forces to lower thresholds in adopting solution associated to digitalisation, automation, and electrification. The project also involves system and infrastructure suppliers, and other port stakeholder, such as shipping lines, authorities and industry associations. During 2020/2021 the vision of the future port has been co-developed together with involved ports and its stakeholders, through workshops and interviews. Based on the vision, a number of demonstrators are planned for in the areas of electrification, digitalisation, and automation. The demonstrators aim to identify potential and future solutions, based on the capabilities required to realize the vision of the sustainable port. Examples within the area of automation that are exploited are auto-mooring, automatic loading operations, autonomous transports in the port area and automatic hinterland entry and exits to the port. I.hamn is a three-year demonstration project funded by the Swedish Transport Administration within the framework of the Lighthouse industry program for sustainable shipping and coordinated by RISE together with Chalmers and GU. For more information contact Sandra Haraldson (sandra.haraldson@ri.se)


Nvidia fortsätter sina satsningar inom fordonsbranschen och meddelar nu att deras plattform Nvidia Drive Hyperion 8 kan leveras i stor skala. Som praktisk tillämpning pekar Nvidia på sina mjukvarulösningar Nvidia Drive Concierge and Drive Chauffeur. Drive Concierge jämförs med Apples AI-lösning Siri och kommer bland annat förstå röstkommando att aktivera Drive Chauffeur, en lösning som inte bara ska kunna utföra en hel del självständig körning utan även vara kompetent nog att tipsa dig om hur du borde bete dig [1].

Systemet ska även kunna rendera en 3D illustration av hur det uppfattar sin omgivning. Detta hoppas Nvidia ska öka tilliten till deras AI-lösning.

Plattformen Hyperion 8 innefattar en rad sensorer. Bland annat inkluderas det nu börsnoterade bolaget Lunimars nya Lidar [2].

Egen kommentar

Låt oss hoppas att Drive Concierge inte kommer uppfattas som en irriterande baksätesförare i stil med Microsofts gamla office-stöd Clippit.


[1] Goodwin, A. MSN/Roadshow. Hey, Nvidia, park my car: Drive Concierge and Chauffeur AI tech announced. 2021-11-09 Länk

[2] Business Wire Luminar Lidar Selected for NVIDIA DRIVE Hyperion Autonomous Vehicle Reference Platform. 2021-11-09 Länk

Skyttlar på rull igen

Samåkning med självkörande skyttlar har varit något mindre hett under pandemin men börjar nu rulla igen.

I Kista har Keolis tillsammans med T-engineering, Telia, Urban ICT Arena och Intel demonstrerat ett 5G-övervakat självkörande fordon som kunnat iaktta resenärers tillstånd samt kvarglömda föremål [1].

Utanför Birmingham har storstadskommunen Solihull blivit första Engelska kommun att äga en självkörande skyttel. Den lokalt utvecklade Aurrigo-skytteln kommer under en första testperiod erbjuda resor för allmänheten till och från stadens utställningscenter [2]

Egen kommentar

I klipp som beskriver Kistatestet ses och hörs bland andra RISE-medarbetaren Sigma Dolins som presenterade sin licentiatavhandling Diagnosing Sharing Anxiety på Chalmers igår. Grattis Sigma!


[1] Intelligent Transport. Keolis trials 5G-connected, remotely monitored autonomous electric minibus. 2021-10-29 Länk

[2] Intelligent Transport. Solihull Council, UK, launches trial of fully electric autonomous shuttle. 2021-10-22 Länk

EUs förslag till reglering av AI

EU-kommissionen har lagt fram ett förslag på reglering av artificiell intelligens (AI). Förslaget består av fyra delar:

  • Direktivet (artiklarna som kommer gälla som lag i Sverige)
  • Explanatory memorandum (argumenten för reglering, laglig grund och sammanfattning av direktivet)
  • Ingress (mer detaljerad argumentation och förklaringar till artiklarna)
  • Annex (definitioner och listor i ett eget dokument)

Kommissionens remisstid för förslaget är öppen fram till den 6 augusti 2021 medan Infrastrukturdepartementet stängde sin i samband med midsommar. Man kan se vilka svar som kom in till Infrastrukturdepartementet samt hitta länkar till förslaget på departementets hemsida [1]. Svar till EU-kommissionen kan ges via deras hemsida [2].

När det gäller automatiserad körning är det värt att lyfta fram relationen till fordon och maskiner. EU reglerar produkter genom två grupper av direktiv – Old Approach Legislation och New Legislative Format. Den första gruppen täcker produkter vars reglering bestäms av internationella organisationer utanför EUs kontroll, såsom UNECEs fordonstyper. Den andra gruppen täcker produkter som EU har ensam kontroll över, såsom maskiner.

I relation till automatiserad körning vill kommissionen reglera AI-system som utgör eller ingår i ett säkerhetssystem (artikel 6) om det sitter i en maskin. Därmed gäller det inte bara gula maskiner utan också produktionsmaskiner. De verktyg som används för framtagandet av AI-systemen kommer också falla under regleringen eftersom de ska omfattas av kvalitetsarbetet (artikel 17). För tillfället kan de inte bestämma över fordon (artikel 2). Det är däremot kommissionens uttryckliga vilja att regleringen snarast möjligt ska gälla även personbilar, lastbilar och bussar med mera (explanatory memorandum 1.2 och ingress 29).

Egen kommentar

Det är inte enkelt att förstå vad som ryms inom förslaget på AI-reglering och inte. Det kräver att man läser andra direktiv för att se helheten, såsom maskindirektivet. Enligt maskindirektivet från 2006 är maskiner med säkerhetssystem som upptäcker människor att betrakta som hög-risk-maskiner och då behöver en tredje part vara med i certifieringsprocessen (maskindirektivet artikel 12 med annex VIII, IX och X). Då gäller AI-regleringen (artikel 6.2). Enligt det förslag på maskindirektiv som ligger kommer även AI-system med bäring på maskinens säkerhet räknas som hög-risk-maskiner framöver.

Eftersom ett AI definieras som ett system utvecklat genom maskininlärning, logik- och/eller kunskapsbaserade tekniker eller med statistiska metoder (Annex I) så är det många system som kan ses som AI-system. Om de påverkar hälsan eller säkerheten hos människor eller tillhörigheter är de att betrakta som säkerhetssystem (artikel 3.14). Autonoma funktioner och förarstödssystem kommer nog anses vara säkerhetssystem, men kanske också hybriddrivlinor eller vindrutetorkare om de kan anses ha funktionalitet utvecklad utifrån kunskapsbaserade eller statistiska metoder och tekniker och. Om de systemen fallerar kan det leda till risk för människor och ting, alltså är de säkerhetssystem enligt förslaget på reglering.

Osäkerheten i hur regleringen är tänkt att användas och vad det får för konsekvenser i ökad tillsyn och dokumentation samt böter på 30 miljoner Euro eller 6% av företagets totala omsättning (välj det som svider mest) om man inte följer regleringen kan få stora konsekvenser på var man väljer att investera framöver. 


[1]Regeringskansliet. Remiss av Europeiska kommissionens förslag till förordning om harmoniserade regler för artificiell intelligens. 2021-06-28 Länk 

[2] Eeropean Commission. Give your feedback on: Artificial intelligence – ethical and legal requirements. Länk

Waabi satsar på lastbilar

Waabi är namnet på ett nytt startuppföretag från Toronto som utvecklar mjukvara som möjliggör automatiserad körning [1]. Siktet är inställt främst mot att automatisera långdistanstransporter med lastbilar. 

Enligt företaget själva har de en “AI-first approach” som i grova drag betyder att de kombinerar djupa neurala nätverk med mer traditionella statistiska metoder. Detta för att göra beslutsprocessen mer spårbar och för att undvika att lära de neurala nätverken allt från grunden. Förhoppningen är att på det här viset kunna skala upp tekniken snabbare och billigare än andra aktörer. 

Waabi grundades av Raquel Urtasun som har arbetat med datorseende på bl.a. Uber Advanced Technology Group (innan de köptes upp av Aurora). Företaget har fått en finansiering på 83,5 miljoner dollar av en del tunga aktörer inklusive Khosla Ventures, 8VC, Radical Ventures, OMERS Ventures, BDC, Uber och Aurora.

Företaget har kontor i Toronto och i Kalifornien.  

Egen kommentar

Att Waabi grundats och leds av en kvinna, som dessutom fått stöd av så många tunga aktörer, har väckt stor uppmärksamhet i media. Waabi är alltså ett av väldigt få startuppföretag som arbetar med automatiserad körning som grundats av en kvinna. Exempel på andra startuppföretag som leds av kvinnor är Zoox och Waymo, men ingen av dem har grundat dessa företag. I Sverige har vi Linnéa Kornehed Falck som är Einrides medgrundare. Låt oss hoppas att vi snart får fler ”Linnéor”!

För övrigt är det svårt att säga vad som skiljer Waabi från alla andra liknande startuppföretag. Men att de lockat så stor investering, inte minst från Aurora som själva utvecklar mjukvara för automatiserad körning, är optimistiskt och jag gissar på att de har något kort i rockärmen som inte framgår i media. 


[1] Waabi. Waabi launches to build a pathway to commercially viable, scalable autonomous driving. 2021-06-08 Länk

Kör en egen algoritm i ditt självkörande system?

Skribenten Priya Dialani spekulerade nyligen på Analytics Insights om ett möjligt framtida koncept inom självkörande fordon: ”Bring Your Own Algorithm” (BYOA). Textens innehåll må vara verklighetsfrånvänd, men den väcker samtidigt visionära tankar om öppen innovation inom fordonsbranschen.

Bakgrunden till notisen förstås bäst utifrån den crowdsourcing som blivit populär inom data science. Med hjälp av gamification och prispengar lockas data scientists till plattformar som Kaggle för att tävla med sina maskininlärningsmodeller. Företag och organisationer, dvs. Kaggles kunder, publicerar olika problem. Kaggle i sin tur erbjuder infrastruktur för att snabbt hjälpa tävlande att komma igång med lösningsorienterat arbete. Topplistor sporrar de tävlande att lägga tid på att föreslå avancerade lösningar – de som placerar sig högt på listorna är ständigt hett villebråd för rekryterare.

Priya tar som exempel upp satsningen C2 Labs Fight Against Cancer. I likhet med Kaggle erbjuder C2 Labs en infrastruktur där data scientists kan bidra med sin expertis för att träna modeller i kampen mot cancer. C2 Labs menar att de varken har medicinsk domänexpertis eller tillräckligt många data scientists, däremot är de experter på DevOps och automation av arbetsflöden. Bolaget hävdar att de erbjuder tredje part att ”Bring Your Own Algorithm” (BYOA) i deras plug-and-play-miljö för att påskynda utvecklingen.

Vore det möjligt att flytta konceptet till fordonsindustrin? Kan en infrastruktur som möjliggör BYOA stimulera öppen innovation? Det är välkänt att enorma kreativa krafter finns tillgängliga på andra geografiska platser samt att ”de flesta smarta människor arbetar någon annanstans.” Fordonsbranschen har redan publicerat flera dataset på Kaggle och fordonsperception används ofta för benchmarking av maskininlärningsmodeller. Kan man gå längre än så?

Priyas kristallkula indikerar att smarta telefoner kan möjliggöra för förare att BYOA till en självkörande bil i drift. Hon tänker sig att efter godkänd handskakning mellan telefon och bil så skulle personliga algoritmer för vägval och ruttpreferenser kunna förmedlas. Där slutar Priyas tankeexperiment. Hur skulle den tekniska infrastrukturen se ut? Hur skulle sådana lösningar kunna kvalitetssäkras? Kan man någonsin BYOA för något mer känsligt än inställning av förarsätet och infotainment? Priyas notis och tankar är långt ifrån genomarbetade, men något i resonemanget väcker mitt intresse.


Dialani P., Analytics Insight. Self-Driving Cars can now have Bring Your Own Algorithm (BYOA). 2021-04-04 Länk

Varför behövs Explainable AI (XAI)?

Våra liv är fyllda av förklaringar. Vi går till doktorn för att få vår onda axel undersökt. Doktorn säger till dig att vila armen och undvik tunga lyft. Dessutom får du ett recept på ett läkemedel. Du undrar direkt, varför behöver jag ta medicin? Du vill också få reda på vilken diagnos doktorn ställt på min axel? Och hur lång tid kommer det ta innan den blir bra? Du frågar efter mängder av förklaringar.

Legendaren Lance Eliot har skrivit en artikel om varför förklarande AI (Explainable AI, XAI) behövs för autonoma fordon [1].

Utmaningen ligger i att ställa rätt fråga och att den som förklarar förstår på vilken nivå förklaringen ska ges. Inte sällan sker förklaringen under en dialog allteftersom mer och mer information faller på plats hos den som ställer frågor.  

När människor interagerar sker denna dialog naturligt. Men vad händer om vi interagerar med en maskin, ett system eller ett autonomt fordon? Inga av dagens AI-baserade system har tillräcklig förmåga att fullständigt känna igen en människas beteende eller tal och därmed får AI-systemet problem att kunna engageras i en naturlig dialog med sina användare.

Tänk dig situationen när du åker i ett autonomt fordon som plötsligt tar en annan rutt än den vanliga eller att fordonet du färdas i plötsligt bromsar kraftigt. I ett vanligt fordon skulle du fråga chauffören varför detta plötsliga beteende. Men hur ska det ske i ett fordon utan mänsklig förare? Ska passageraren koppla upp sig till kundtjänst eller fjärrkontrollcenter?  Det skulle inte skala särskilt bra med flera hundra tusen fordon som samtidigt är ute och kör.

XAI är en mycket viktig komponent för att skapa autonoma fordon. Lämpliga och lägliga förklaringar till fordonets beteende kan vara avgörande för att vi användare ska kunna lita på fordonet.

Sammanfattningsvis, vi som åker med autonoma fordon kommer vilja ha förklaringar av olika slag från fordonet. Ett kostnadseffektivt och lättillgängligt system som kan ge dessa förklaringar skulle förkroppsligas av ett XAI som baseras på det AI-system som kör fordonet.

Egen kommentar

Som AI forskare inses lätt nyttan med denna typ av system, tänk om Alexa eller Siri förstod allt jag vill eller undrar! Samtidigt finns ett spännande kunskapsgap mellan vad som är möjligt att visualisera med avseende på information som ligger till grund för ett beslut i ett AI/Machine learning-system och ett system som kan interagera med en användare och som förstår innebörden av grunderna i beslutet.


[1] Lance, E, Forbes. Explaining Why Explainable AI (XAI) Is Needed For Autonomous Vehicles And Especially Self-Driving Cars. 2021-04-24 Länk

EU föreslår AI-regelverk

Under veckan har EU-kommissionen presenterat förslag på nya regler och åtgärder för att göra Europa till ett globalt centrum för tillförlitlig artificiell intelligens (AI) [1]. 

Mer specifikt så har kommissionen föreslagit ett rättsligt ramverk för AI samt en ny plan på hur medlemsländerna och kommissionen bör samarbeta och samordna sina aktiviteter för attsäkerställa att AI införs i samhället på ett säkert sätt och i linje med de grundläggande rättigheterna för människor och företag samtidigt som AI-innovationer och implementering stimuleras. Utöver det är planen att ta fram nya regler för maskiner, där säkerhetsreglerna anpassas för att öka användarnas förtroende för den nya generationen av produkter. 

Förhoppningen är att dessa åtgärder ska leda till att människor kan lita på AI samt bana väg för en etisk användning av AI globalt. 

De föreslagna AI-reglerna är anpassade efter risknivån:

  • Oacceptabel risk: AI-system som anses utgöra ett hot mot människors säkerhet, försörjningsmöjligheter och rättigheter kommer att vara förbjudna. Detta inbegriper AI-system eller tillämpningar som manipulerar mänskligt beteende för att kringgå användarnas fria vilja (t.ex. leksaker som använder röstassistans som uppmuntrar minderåriga till farliga beteenden) och system som länder kan använda för ”social poängsättning”.
  • Hög risk: AI-system som anses utgöra hög risk är exempelvis AI-system som används exempelvis i kritiska infrastrukturer som transport och som kan innebära hot mot människors liv och hälsa. AI-system med hög risk kommer att omfattas av strikta skyldigheter innan de släpps ut på marknaden. Exempel på dessa skyldigheter: Loggning av åtgärder för att säkerställa spårbarheten för resultaten, detaljerad dokumentation om systemet och dess ändamål som lämnas in till myndigheter, tydlig och tillräcklig information till användaren, etc. 
  • Begränsad risk: AI-system med särskilda transparenskrav som exempelvis chattbotar som behöver vara så pass transparanta att användarna blir medvetna om att de interagerar med en maskin.
  • Minimal risk: Lagstiftningsförslaget tillåter fri användning av sådana tillämpningar som AI-stödda videospel eller skräppostfilter. Den absoluta majoriteten av AI-systemen tillhör denna kategori. 

När det gäller styrning föreslår EU-kommissionen att de nationella behöriga marknadskontrollmyndigheterna övervakar de nya reglerna. De föreslår också att det inrättas en europeisk nämnd för AI som främjar genomförandet och utvecklingen av AI-standarder. Ett annat förslag är frivilliga uppförandekoder för sådan AI som inte utgör hög risk samt ”regulatoriska sandlådor” som främjar ansvarsfull innovation.

Europaparlamentet och medlemsländerna kommer att behöva anta EU-kommissionens förslag till en europeisk strategi för AI och för maskinprodukter genom det ordinarie lagstiftningsförfarandet. När förordningarna antagits kommer de att vara direkt tillämpliga i hela EU. 

Egen kommentar

AI är en viktig teknik för framtida transporter generellt sett, och inte minst för automatiserade transporter. Personligen tycker jag att det är väldigt positivt att EU tar i ”taktpinnen” och ser till att AI-system inte skapar fler problem än nytta för samhället. Samtidigt är jag osäker på hur detta kommer att fungera i praktiken. Det återstår väl att se. 


[1] EU Commission Press release. Europe fit for the Digital Age: Commission proposes new rules and actions for excellence and trust in Artificial Intelligence. 2021-04-21 Länk

Waymo delar mer data

Waymo har redan öppnat upp delar av data från sina självkörande fordon via Waymo Open Dataset som nu utökats med 570 timmar av annoterad kördata. Det handlar framförallt om röresledata som kan användas för att förutsäga beteende och rörelse i trafiken.

Den nya datamängden är insamlad i San Francisco, Phoenix, Mountain View, Los Angeles, Detroit och Seattle och innehåller interaktioner mellan fordon och olika trafikanter, inklusive fotgängare och cyklister. Varje datasegment är 20 sekunder långt och länkat till en karta. Annoteringen av datasegmenten har gjorts i efterhand och företaget har också publicerat en artikel som beskriver tekniker och algoritmer som tillämpats för detta. Dessutom har de publicerat en sammanställning av interaktionsmått för att underlätta validering av modeller. 

I samband med det har företaget lanserat en ny upplaga av sin tävling som inkluderar fyra utmaningar: prediktering av rörelse, prediktering av interaktioner, realtids 2D-detekterin samt realtids 3D-detektering. Är ni redo för någon av dessa utmaningar?! Deadline är den 31 maj 2021.

Egen kommentar

Jag tror att många (framtida) utvecklare kommer ha glädje av den nya datamängden, och är nyfikna på andra öppna datamängder så kan vi tipsa om följande:


[1] Waymo. Expanding the Waymo Open Dataset with Interactive Scenario Data and New Challenges. 2021-03-10 Länk

Volvo verifierar

Volvo Group har ingått partnerskap med det Israeliska verifieringsbolaget Foretellix för att skapa en lösning som kan utvärdera och validera autonoma fordon i stor skala [1].

Lösningen bygger på den plattform vi nämnde i september. Säkerhet, beteenden och effektivitet ska utvärderas för maskiner och fordon i olika slags miljöer, inklusive begränsade utrymmen som till exempel gruvor.


[1] Volvo Group. Volvo Autonomous Solutions forms Partnership with Foretellix 2021-03-02 Länk