NHTSA kräver olycksrapporter

Amerikanska National Highway Traffic Safety Administration har beordrat tillverkare och användare av förarstödssystem (ADAS) och autonoma körsystem (ADS) att rapportera in olyckor som sker på allmän väg [1].

Direktivet gäller för olyckor där ADAS eller ADS varit aktiverat under eller strax innan olyckstillfället och där olyckan involverar en sjukhusvistelse, dödsfall, bärgning av fordon, utlöst krockkudde, eller en oskyddad trafikant (exempelvis en cyklist eller fotgängare).

Målet med direktivet är att kunna identifiera säkerhetskritiska defekter i ADAS och ADS.

Källa

[1] NHTSA. NHTSA Orders Crash Reporting for Vehicles Equipped with Advanced Driver Assistance Systems and Automated Driving Systems. 2021-06-29 Länk

Volvo Cars Tech Moment

Under veckan höll Volvo Cars en konferens kallad Volvo Cars Tech Moment där de redovisade sina framtida planer med siktet inställt på 2030. Det blir bland annat eldrivna bilar med batterier från Northvolt, det blir ett egenutvecklat operativt system VolvoCars.OS samt egenutvecklad mjukvara, det blir datadriven säkerhet, det blir lidar från Luminar och system för automatiserad körning från Zenseact. Automatiserad körning kommer finnas i två varianter, med och utan krav på att föraren ska övervaka systemet: Cruise och Ride.

Ni kan se hela eventet här.

EUs förslag till reglering av AI

EU-kommissionen har lagt fram ett förslag på reglering av artificiell intelligens (AI). Förslaget består av fyra delar:

  • Direktivet (artiklarna som kommer gälla som lag i Sverige)
  • Explanatory memorandum (argumenten för reglering, laglig grund och sammanfattning av direktivet)
  • Ingress (mer detaljerad argumentation och förklaringar till artiklarna)
  • Annex (definitioner och listor i ett eget dokument)

Kommissionens remisstid för förslaget är öppen fram till den 6 augusti 2021 medan Infrastrukturdepartementet stängde sin i samband med midsommar. Man kan se vilka svar som kom in till Infrastrukturdepartementet samt hitta länkar till förslaget på departementets hemsida [1]. Svar till EU-kommissionen kan ges via deras hemsida [2].

När det gäller automatiserad körning är det värt att lyfta fram relationen till fordon och maskiner. EU reglerar produkter genom två grupper av direktiv – Old Approach Legislation och New Legislative Format. Den första gruppen täcker produkter vars reglering bestäms av internationella organisationer utanför EUs kontroll, såsom UNECEs fordonstyper. Den andra gruppen täcker produkter som EU har ensam kontroll över, såsom maskiner.

I relation till automatiserad körning vill kommissionen reglera AI-system som utgör eller ingår i ett säkerhetssystem (artikel 6) om det sitter i en maskin. Därmed gäller det inte bara gula maskiner utan också produktionsmaskiner. De verktyg som används för framtagandet av AI-systemen kommer också falla under regleringen eftersom de ska omfattas av kvalitetsarbetet (artikel 17). För tillfället kan de inte bestämma över fordon (artikel 2). Det är däremot kommissionens uttryckliga vilja att regleringen snarast möjligt ska gälla även personbilar, lastbilar och bussar med mera (explanatory memorandum 1.2 och ingress 29).

Egen kommentar

Det är inte enkelt att förstå vad som ryms inom förslaget på AI-reglering och inte. Det kräver att man läser andra direktiv för att se helheten, såsom maskindirektivet. Enligt maskindirektivet från 2006 är maskiner med säkerhetssystem som upptäcker människor att betrakta som hög-risk-maskiner och då behöver en tredje part vara med i certifieringsprocessen (maskindirektivet artikel 12 med annex VIII, IX och X). Då gäller AI-regleringen (artikel 6.2). Enligt det förslag på maskindirektiv som ligger kommer även AI-system med bäring på maskinens säkerhet räknas som hög-risk-maskiner framöver.

Eftersom ett AI definieras som ett system utvecklat genom maskininlärning, logik- och/eller kunskapsbaserade tekniker eller med statistiska metoder (Annex I) så är det många system som kan ses som AI-system. Om de påverkar hälsan eller säkerheten hos människor eller tillhörigheter är de att betrakta som säkerhetssystem (artikel 3.14). Autonoma funktioner och förarstödssystem kommer nog anses vara säkerhetssystem, men kanske också hybriddrivlinor eller vindrutetorkare om de kan anses ha funktionalitet utvecklad utifrån kunskapsbaserade eller statistiska metoder och tekniker och. Om de systemen fallerar kan det leda till risk för människor och ting, alltså är de säkerhetssystem enligt förslaget på reglering.

Osäkerheten i hur regleringen är tänkt att användas och vad det får för konsekvenser i ökad tillsyn och dokumentation samt böter på 30 miljoner Euro eller 6% av företagets totala omsättning (välj det som svider mest) om man inte följer regleringen kan få stora konsekvenser på var man väljer att investera framöver. 

Källor

[1]Regeringskansliet. Remiss av Europeiska kommissionens förslag till förordning om harmoniserade regler för artificiell intelligens. 2021-06-28 Länk 

[2] Eeropean Commission. Give your feedback on: Artificial intelligence – ethical and legal requirements. Länk

Skicka in sammanfattningar

Som vi skrev för någon vecka sedan är vår ambition att inför sommaravslutningen publicera en sammanställning av svensk forskning kring automatiserade transporter, och till det behöver vi input från er. 

Deadline har blivit förlängd från den 1 juli till den 5 juli så passa på nu och överraska oss med spännande läsning om ert arbete! Det kan vara en kort sammanfattning om avslutade eller planerade projekt och studier, en rapport, artikel eller patent – ja, allt möjligt på ca 3-10 meningar. 

Skicka din sammanfattning till azra.habibovic@ri.se. Mer info om det hela hittar ni här.

Volvos Nya XC90

Volvo Cars nästa generation eldrivna XC90 kommer vara utrustad med ett nytt paket med sensorer och säkerhetsteknologi [1, 2].

Dessa framtida XC90-bilar kommer bland annat att utrustas med Luminars lidarer och Zenseacts förarstödsteknologi som körs på NVIDIAs system-on-a-chip NVIDIA DRIVE Orin. Den här uppgraderingen kommer möjliggöra för så kallad oövervakad autonom körning på utvalda motorvägar i länder som tillåter detta.

Vidare så kommer man möjliggöra onlineuppdateringar (over-the-air OTA), där man kan ladda ned förbättringar eller ny funktionalitet till fordonets mjukvara, vilket Volvo nyttjade för första gången i år [3].

På Volvo Cars kommande event Volvo Cars Tech Moment den 30 Juni förväntas vi får mer information om vad som kommer ingå exakt.

Källor

[1] Volvo Cars. Next generation pure electric Volvo comes with LiDAR technology and AI-driven super computer as standard to help save lives. 2021-06-24 Länk

[2] Fröderberg, M., MSN Motor. Volvos jätte-elbil får lidar som standard. 2021-06-28 Länk

[3] Volvo Cars. Volvo Cars initiates first ever over-the-air software update on XC40 Recharge. 2021-02-25 Länk

Zooxs andra säkerhatsrapport

I december presenterade Amazons nyinköpta bolag för utveckling av självkörande skyttlar, Zoox, sitt första egenkonstruerade fordon. Nu har Zoox publicerat en rapport om hur de jobbar med trafiksäkerhet [1, 2].

Trafiksäkerhetslösningarna har delats in i tre områden: Framförandekontroll, Passagerarskydd samt Redundans.

Under rubriken Passagerarskydd hittas lösningar som avancerade sensorer för bilbälten och airbags; under Framförandekontroll separata styrsystem för fjädring, broms och acceleration för varje hjul; och under Redundans överlappande sensorsynfält och dubbla uppsättningar batterier och motorer.

Zoox utvecklar såväl egen mjukvara för självkörning, styrning av fordonsflotta, och resbokningsapp som själva fordonen.

Inget produktionsdatum har ännu presenterats.

Den 25-sidiga rapporten kan laddas ned gratis här.

Källor

[1] Alopan.in. Amazon’s autonomous vehicle company zoox reveals key safety innovations for its self driving robotaxi. Besökt 2021-06-28 Länk

[2] Korosec, K., TechCrunch. How Amazon-owned Zoox designed its self-driving vehicles to prevent crashes. 2021-06-22 Länk

Olika åsikter om automatiserad körning

Det är över tio år sedan som Google (numera Waymo) introducerade sina självkörande fordon och målade upp bilden av en framtid med självkörande taxibilar eller fordon som lät sina förare sova eller vila tillbakalutade i sätet medan de såg en film på en högupplöst skärm.

Men, varför är vi inte där ännu? Tidigare VD för Waymo, John Krafcik, som länge varit övertygad om att vi snart kommer se självkörande fordon på våra vägar har uttalat sig om svårigheterna med att utveckla självkörande fordon [2]. Hans enkla svar: samhället överskattade tekniken och vi underskattade hur bra vi människor är på att köra. Lägg därtill hur svårt det är att skapa ADAS (förarastödssystem) som ska underlätta för förare att hantera besvärliga situationer – något som beskrivs i [1] där man betonar ointelligenta komponenter i intelligenta system som en av orsakerna till denna problematik. Allmänhetens skepsis efter uppmärksammade olyckor är också en orsak till att det dröjer med introduktionen.

Ytterligare en artikel lyfter orsaker till varför introduktionen dröjer [3]. Artikeln börjar med ett citat från 2016 där Anthony Foxx, tidigare U.S. Secretary of Transportation, föreställer sig ett helt självkörande transportsystem år 2021.

Artikeln nämner två specifika utmaningar som företagen tampats med:

  1. Startuppföretagen har underskattat arbetet med att gå från prototyp till full produktion och full automation (Level 5). De har stött på för många hinder under sin forskning och sina tester som de behövt lösa.
  2. Det finns ett enormt värde i kunskapen kring automation, något de stora jättarna, Amazon, GM och nykomlingen Nuro insett då de köper upp banbrytande teknologier.

Utmaningar kring maskininlärning är också ett hinder, eftersom det idag är omöjligt att garantera att en datadriven maskininlärningsalgoritm gör 100% rätt. Hur ska man då kunna lita på ett självkörande fordon som baserar sina beslut på sådana algoritmer?

En annan utmaning är cybersäkerhet, som exempelvis när någon stört ut GPS-signalen så att fordon beter sig oväntat och farligt.

En annan utmaning som nämns är rädsla för det okända och exemplet man jämför med är från flygindustrin. Att flyga är mycket säkrare än att köra bil, ändå är vi flygrädda. Det ligger i att vi inte har kontrollen och därför blir vi oroliga och rädda. Samma utmaning förutspås bli verklighet då självkörande fordon blir vanliga.

Legendaren Chris Urmson från Aurora (de nya ägarna av Ubers ATG), menar att vi kommer få se självkörande fordon, men det kommer ske stegvis under de kommande 30 åren, eller mer.

Slutligen, en artikel som ger Google rätt och som lovordar tekniken [4] och de menar att de självkörande fordonen kommer, tidigare än många tror. De pekar på att mycket av tekniken redan finns i fordon idag, automatbroms, filhållningsassistans och adaptiv farthållare.

En av de många fördelarna, förutom säkrare fordon, och effektivare körstil som reducerar antalet skadade och sänker utsläppen, är att det kommer behövas färre fordon. En studie som omnämns beräknar att hela transportbehovet på Manhattan skulle täckas av 9000 förarlösa taxibilar, vilket ska jämföras med de 13000 taxibilar som finns där idag.

Egen kommentar

Ständigt denna debatt om när de kommer introduceras och bli tillgängliga för allmänheten. AI och machine learning (ML) lyfts ofta fram som en av de största utmaningarna eftersom det än så länge inte går garantera säkerheten. Samtidigt ses AI och ML som en förutsättning för att kunna lära fordonen att köra själva.

Faktum kvarstår att transportsystemet är komplext och vi människor drivs av olika saker som bekvämlighet, flexibilitet och punktlighet som i sin tur balanseras mot ekonomiska aspekter och förutsättningar. För att nå full potential, dvs. en fordonsflotta som är autonom, inte behöver parkeras i stadskärnor, och ger oss passagerare den flexibilitet vi är vana vid behövs säkert en lång omställningstid, kanske en generation eller längre.

Länkar

[1] The Conversation, Why we still don’t have self-driving cars on the roads in 2021. 2021-06-16 Länk

[2] Arstechnica, Waymo CEO: Building safe driverless cars is harder than rocket science. 2021-01-05 Länk

[3] Marketwatch, Opinion: You will not be traveling in a self-driving car anytime soon. Here’s what the future will look like. 2021-06-16 Länk

[4] Investopedia, How Google’s Self-Driving Car Will Change Everything. Länk

Sverige leder

Ja, Sverige leder. Och då tänker jag varken på svensk fotboll eller politikröra! EU-kommissionen har precis publicerat sin rapport kallad European Innovation Scoreboard 2021 som visar att Sverige fortsätter att vara EUs innovationsledare! Enligt rapporten ligger Sveriges styrkor i användning av informationsteknik, personalresurser och attraktiva forskningssystem. De tre bästa indikatorerna inkluderar livslångt lärande, antalet patentansökningar och internationella vetenskapliga sampublikationer. 

Visst är detta värt ett extra varv runt midsommarstången? Ha en automagisk midsommar!

Australiens lagförslag för AD-tillverkare

Den australiensiska transportkommissionen fick år 2016 i uppdrag av infrastruktur- och transportministrar att utveckla ett regelverk för automatiserade körsystem i fordon, och arbetet har resulterat i ett förslag som nyligen publicerats [1].

Förslaget berör i stora drag ansvar och skyldigheter hos aktörer som skapat ett automatiserat körsystem, så kallade Automated Driving System Entity (ADSE). Planen är att dessa ska följas upp av en framtida myndighet som bör ha en hel del insyn och auktoritet.

Källa

[1] National Transport Commission. A national in-service safety
law for automated vehicles. 2021-05 Länk

utgiven av RISE Research Institutes of Sweden