Alla inlägg av Azra Habibovic

Informationssäkerhet

Tävling i att hitta säkerhetsproblem

It-företaget Trend Micro brukar inom ramen för Zero Day Initiative (ZDI) anordna hackertävlingar som går under namnet Pwn2Own och som går ut på att upptäcka säkerhetsproblem i diverse IT-system. Förra veckan hölls en sådan tvådagarstävling i Vancouver i Kanada [1]. 

Tävlingens stora vinnare blev ett team som kallade sig för Flouroacetate. De lyckades upptäcka en s.k. JIT-bugg i renderingsmotorn i Teslas webbläsare som gör det möjligt att köra kod i bilens mjukvara. Belöning? En Tesla Model 3 sponsrad av Tesla och 35 000 dollar.

Utöver detta lyckades Flouroacetate hitta en del andra buggar i produkter från andra tillverkare, som gjorde att deras belöning förutom bilen totalt blev 375 000 dollar.

Egen kommentar

Alla buggar som upptäcks inom ramen för ZDI förankras först med produkttillverkaren. I det här fallet var Tesla med på tåget, och kommer inom kort att släppa en mjukvaruuppdatering som åtgärdar problemet.

Själv tycker jag att tävlingar av den här typen kommer att vara oerhört viktiga för automatiserade fordon och kompetensutvecklingen. Det kommer nog finnas en hel del buggar som tillverkarna inte upptäcker själva och då är det viktigt att andra gör det under kontrollerade förhållanden. 

Källor

[1] Childs, D., Zero Day Initiative. PWN2OWN VANCOUVER 2019: WRAPPING UP AND ROLLING OUT. 2019-03-22 Länk

Funktionell säkerhet

En ny säkerhetsstandard?

Den kända ISO-standarden för funktionell säkerhet i vägfordon ISO26262 (Road vehicles – Functional safety) har vissa begränsningar vad det gäller komplexa AI-system. 

För att kunna bemöta detta håller experter världen över att diskutera en ny standard ISO 21448: Safety of the Intended Functionality (SOTIF). Men vägen dit är inte helt friktionsfri, och det finns många utmaningar. Mer om detta kan ni läsa om här. 

Samhällspåverkan

Holistisk teknikreglering

KPMG har publicerat en ny rapport med namnet Autonomy: Enabling trust for the masses [1].

I den beskrivs bland annat ett ramverk för holistisk styrning, reglering och övervakning av tekniken i automatiserade fordon, kallat Holistic technology governance. Det består av sex delar: datastyrning, mjukvarustyrning, hårdvarustyrning, integrationsstyrning, säkerhetsstyrning, och efterlevnadsstyrning. 

Dessa delar är starkt kopplade till varandra och det är tänkt att alla aktörer ska kunna nyttja ramverket för att skapa mass-tillit för automatiserade fordon som väntas bli en viktig del av framtida mobilitetsystem.

Källor

[1] KPMG. Autonomy: Enabling trust for the masses. Mars 2019. Länk

Sensorer

En ny solid-state lidar

Startupföretaget Lumotive har tagit fram en ny fasttillstånds (solid state) lidar [1]. 

Det mest unika med den är hur den styr laserstrålarna. Till skillnad från traditionella lidarenheter som använder sig av mekanisk skanning, använder sig Lumotives strålstyrteknik av halvledare som är baserade på metamaterialsprinciper. 

Enligt företaget har detta möjliggjort utveckling av en lidar med hög prestanda, låg kostnad och som är mer kompakt än sin föregångare. Det tänkta tillämpningsområdet är framförallt automatiserade fordon. 

Lumotive finansieras av Bill Gates and Intellectual Ventures och har hittills arbetat i tysthet. 

Egen kommentar

Echodyneär ett annat företag som använder metamaterial, i deras fall handlar det dock om radar. 

Här är det också viktigt att inte förväxla Lumotive med Luminar som är ett annat lidarföretag som vi skrivit om flera gånger. 

Källor

[1] Coldeway, D., TechCranch. Gates-backed Lumotive upends lidar conventions using metamaterials. Länk

Produktplaner

Volvo Cars säkerhetssatsning

Under veckan presenterade Volvo Cars sina framtida planer gällande fordonssäkerhet [1]. I grova drag ämnar företaget göra följande:

  • Utrusta bilar med övervakningssystem. Det rör sig om ett kamerabaserat system som ska kunna känna av om föraren är trött, distraherad eller har långsam reaktionsförmåga (som indikation på alkohol- eller drogpåverkan). Vid behov ska bilen varna föraren eller så blir föraren uppringd från Volvo on Call för att förklara sitt beteende. Om inget av detta ger resultat ska bilen kunna ta sig till ett säkert stopp vid vägkanten [1]. 
  • Utrusta bilar med ett system för hastighetskontroll. Alla bilar från och med modellår 2021 kommer att utrustas med ett system kallat Care Key som möjliggör för ägaren att sätta en maxhastighet för bilen. Detta i kombination med att bilarna per definition kommer ha maximal hastighet på 180 km/h [2].
  • Dela säkerhetsdata och kunskap med andra. För att snabba på utvecklingen av säkerhetssystem kommer företaget att dela ett bibliotek med sina olycksdata och andra relevanta dokument så att andra kan dra nytta av dem. Projektet går under namnet E.V.A. Initiative. [3]

Egen kommentar

Volvo Cars har inte presenterat några tekniska detaljer om ovannämnda system. Värt att notera i sammanhanget är att EU ämnar göra det obligatoriskt för nya bilar att bli utrustade med system som kan detektera distraktion.

En intressant fråga som Volvo Cars VD Håkan Samuelsson tog upp och som är i allra högsta grad relevant för automatiserad körning är: Har vi rätt att låta bilen ingripa beroende på förarens beteende eller kan det vara så att vi är skyldiga att göra det?

Källor

[1] Volvo Cars Media. Volvo Cars to deploy in-car cameras and intervention against intoxication, distraction. 2019-03-20 Länk

[2] Volvo Cars Media. Volvo Cars introduces Care Key as standard on all cars for safe car sharing Länk

[3] Volvo Cars Media. Volvo Cars celebrates 60 years of sharing safety knowledge with open-for-all digital library. 2019-03-20 Länk

Elektronik och processorer, Simulering

Senaste från Nvidia

Under veckan höll Nvidia sin årliga GPU Technology Conference i Kalifornien, och i samband med den presenterades en uppdaterad version av plattformen för automatiserad körning Nvidia Drive AP2X 9.0 [1]. Den kommer att släppas till kunder under nästa kvartal.

Plattformen har blivit berikad med en rad nya funktioner, som exempelvis detektering om en kamera blivit blind vilket förväntas förbättra fordonens förmåga att visualisera och reagera på den fysiska världen runt dem.

En annan nyhet på plattformen är ett mjukvarulager som heter Safety Force Field (SFF) och som analyserar och predikterar dynamiken hos andra trafikanter i fordonets omgivning. Den inkluderar också kollisionsundvikande åtgärder och är validerad med hjälp av data från både motorvägs- och stadskörning. 

Utöver plattformen har företaget öppnat upp sin mjukvarusimulator Drive Constellation som är en virtuell testbana [2]. I denna ska utvecklare kunna testa sin mjukvara under olika väder- och ljusförhållanden. 

Nvidia har också lanserat en liten AI-dator kallad Jetson Nano, som riktar sig till utvecklare, tillverkare och andra entusiaster som letar efter en billig dator för att utveckla neurala nätverk, olika typer av sensorer och olika typer av robotik [3]. Planen är att börja sälja Jetson Nano i juni för 99 dollar till konsumenter och för 129 dollar till företag. Företagsmodellen av datorn ska vara testad och klar att sätta in direkt i produkter av olika slag.

Källor

[1] Nvidia. Mathematically Rigorous and Validated in Simulation, Safety Driving Decision Algorithms Protect Against Unpredictability of Real-World Traffic. 2019-03-18 Länk

[2] Nvidia. NVIDIA DRIVE Constellation Now Available — Virtual Proving Ground for Validating Autonomous Vehicles. 2019-03-18 Länk

[3] Nvidia. NVIDIA Announces Jetson Nano: $99 Tiny, Yet Mighty NVIDIA CUDA-X AI Computer That Runs All AI Models. 2019-03-18Länk

Marknadsundersökningar

Vem leder spelet?

Navigant Research har publicerat sin årliga rapport Automated Driving Leaderboard [1]. Precis som titeln indikerar handlar rapporten om vem som leder spelet om automatiserad körning. Det är 20 företag som rankats i år utifrån deras vision, marknadsstrategi, partners, produktionsstrategi, teknologi, försäljning, marknadsföring och distribution, produktförmåga, produktkvalitet och tillförlitlighet, produktportfölj och uppehållskraft.

Rankningen är uppdelat i fyra klasser: ledare (leaders), tävlare (contenders), utmanare (challengers), och efterföljare (followers). 

Waymo, Cruise och Ford AV anses vara bäst och ligger i ”ledarklassen”. Det här är betydlig förändring sedan rapporten förra året, vilket hade totalt 8 företag i den kategorin. 

Majoriteten av de rankade företag har hamnat i ”tävlarklassen”: Aptiv, Intel-Mobileye, Volkswagen Group, Daimler-Bosch, Baidu, Toyota, Renault-Nissan-Mitsubishi Alliance, Volvo-Veoneer-Ericsson-Zenuity, BMW-Intel-FCA, Hyundai Group, Uber, NAVYA, May Mobility och Zoox. De två sistnämnda är nykomlingar på listan. En annan stor ändring jämfört med förra året är att Uber inte längre anses vara en utmanare. 

Däremot hamnar Apple, Voyage Auto och Tesla i ”utmanarklassen”. Förra året listades PSA Group och Jaguar Land Rover som utmanare men i år har de inte hamnat på listan alls. 

Precis som förra året finns det inga förtag i ”efterföljarklassen”. En annan intressant observation är att startupföretaget Aurora (de som fått stor investering från bland annat Softbank) inte hamnat på listan. 

Navigant konstaterar också följande:

  • I slutet av 2018 var det inget företag som erbjöd kommersiella tjänster utan en säkerhetsoperatör i fordonet när de transporterar passagerare. 
  • Arbetet har utvecklats på många fronter och många aktörer har insett att det kommer ta många år att säkerställa stabiliteten i tekniken. 
  • De främsta hindren inkluderar svårigheten att förutsäga andra trafikanters beteende samt begränsad funktion under dåliga väderförhållanden.
  • Företag som utvecklar lämpliga affärsmodeller i kombination med kärntekniken kommer mest sannolikt att lyckas med att kommersialisera automatiserad körning.

Egen kommentar

Jag har inte tillgång till hela rapporten och det är svårt att säga hur Navigants metodik ser ut och vad rankningen baseras på exakt (t.ex. vilken indata som används). I beskrivningen av rapporten påpekar författarna att det är oerhört svårt att avgöra vilka som ska tas med och hur de ska rankas [2]. De har tagit med traditionella fordonstillverkare och företag som utvecklar fullständiga systemlösningar som de ämnar kommersialisera. Vidare påpekar de att de tagit med företag som de haft tillräckligt med information om. Därmed kan det finnas andra företag som kommit längre i utvecklingen än vad som framgår av listan. 

Som vanligt har Navigants rapport väckt en hel del diskussioner i media och diverse forum på nätet. Den kritiserats bland annat för att ha en gammalmodig syn på industrin och att den inte värderat rätt kraften av olika parametrar. En annan synpunkt som framkommit är att rapporten inte tar hänsyn till hur företag förhåller sig till regelverk och policy. 

Navigant har också kritiserats för att de inte redovisat om någon av deras kunder visas i rankingen. Det är väl som vanligt att man måste ta hänsyn till både vad som sägs och vem som säger det. 

Källor

[1] Navigant. Navigant Research Leaderboard: Automated Driving Vehicles. 2019-03 Länk

[2] Forbes. Picking And Ranking Leaders In The Automated Driving Sector. 2019-03-14 Länk

Okategoriserade

Stora siffror, men räcker det?

Flera stora investeringar i automatiserade fordon under det senaste året har resulterat i att den totala finansieringen beräknas ligga på ca 100 miljarder dollar [1].

Här är några av förra årets främsta investeringar:

  • Volkswagen: 50 miljarder dollar
  • Toyota: 500 miljoner dollar
  • Softbank: 2.25 miljarder dollar
  • Honda: 2.75 miljarder dollar
  • Toyota och Softbank: 20 miljoner dollar

Källor

[1] Todd, F., Compello. Here are five of the biggest investments in driverless cars made in the past year. 2019-03-18 Länk

Lagstiftning och regelverk, Tester och demonstrationer

Einride får testtillstånd

Statuppföretaget Einride har fått tillstånd från Transportstyrelsen att utföra tester med sin självkörande lastbil (T-Pod) på en allmän väg i Jönköping [1].

Enligt tillståndet får inte hastigheten överstiga 5 km/h, det ska finnas en varningsskylt på fordonet och alla mjuk- och hårdvaruuppdateringar ska riskanalyseras och kollas med myndigheten innan de utförs. Tillståndet gäller till slutet av året.

Sträckan som omfattas av tillståndet är belägen i ett industriområde där Einrides samarbetspartner Schenker har sina lager. Telekommunikationen (5G) kommer att skötas av Ericsson och Telia. Testerna väntas komma igång under våren. 

Egen kommentar

Villkoret att mjukvaruuppdateringar ska rapporteras och bollas med Transportstyrelsen är vettigt men på sikt kan detta inte vara en hållbar lösning.

Källor

[1] Björkman, F., DI. Göteborgsbolaget får grönt ljus – ska testa självkörande lastbilar på allmän väg. 2019-02-12 Länk

Informationssäkerhet

Ett småskalig hack kan orsaka kaos

En ny studie från Georgia Institute of Technology visar att det skulle räcka med att hacka en liten andel av fordonsflottan för att skapa kaos i trafiken [1]. 

Studien är baserad på simulering, där forskarna använt sig av så kallad perkoleringsteori som beskriver en jämn, kontinuerlig fasövergång i ett nätverk och kan användas för att studera hur ett nätverk svarar på skadan i slumpmässigt valda noder. 

Omedelbart efter att ett fordon hackats saktar trafiken ner runt det hackade fordonet. När flera fordon hackas kommer hela trafiken att sakta in och övergå till stillastående, beroende på hur vägnätverket ser ut. I fallet med Manhattan skulle det räcka med att 10% av fordon under rusningstiden blir stillastående i trafiken för att orsaka totalstopp. 

Givet att var och en av de stora tillverkarna (Hyundai, Nissan, Toyota och GM) har ungefär 10% marknadsandel av fordon i New York skulle det alltså räcka med att en av dem blir systematiskt hackad.

Forskarna påpekar dock att detta är ett exempel på det mest extrema fallet. Med studien vill de rikta uppmärksamheten mot potentiella datasäkerhetsrisker så att de kan åtgärdas tidigt i utvecklingen: Our work is not in opposition to the future of connected cars. Rather, the novelty of our work lies in identifying and quantifying the underlying cyber-physical risks when multiple connected vehicles are compromised. By shining a light on these technologies at an early stage, we hope we can help prevent worst-case scenarios.

Källor

[1] Ouellette, J., ARS Technica. Study: Hacking 10 percent of self-driving cars would cause gridlock in NYC. 2019-03-13 Länk