Kategoriarkiv: Funktionell säkerhet

Moores lag för självkörning

I en artikel av May Mobility gör företagets chef Edwin Olson en empirisk beräkning av hur lång tid det tar för självkörande fordon att fördubbla sin förmåga, mätt utifrån hur lång sträcka de i snitt kan köra mellan tillfällen då en människa får ta över [1].

Det visar sig vara 16 månader (vanliga Moores lag är ju 18 månader), vilket låter bra men innebär att det kommer ta 16 år att nå samma prestanda som dagens mänskliga förare. Det beror på att i nuläget de självkörande fordonen klarar bara 0,01% av vad människan gör.

De möjligheter som finns för att snabba upp detta är antingen att bara förenkla uppgiften för fordonen, som att köra i låg fart längs förprogrammerade rutter i enkla trafikmiljöer, eller att man kan hitta teknologisprång som gör det möjligt att snabba upp fördubblingshastigheten (vilket förstås May Mobility hävdar att de gjort).

Egen kommentar

Detta är ett analytiskt grepp med samma resultat som flera andra kommit fram till: att det är svårt för att inte säga omöjligt för robotbilar att köra överallt i alla förhållanden alltid (SAE-nivå 5) och att man måste hitta enklare ”ODD – Operational Design Domains”.

Källa

[1] Edwin Olson: The Moore’s Law for Self-Driving Vehicles, Medium 2019-02-27 Länk

Cyklister ett problem för autonoma fordon

KPMG har uppmärksammat ett problem kopplat till det ökande antalet cyklister i städer [1].

Förarlösa fordon använder ju en kombination av kameror, radarer och lidarer för att identifiera objekt och kunna stanna eller väja om de beräknas komma in i fordonets bana.

Men cyklister har väldigt olika form och storlek, följer inte alltid filer eller trafikregler och kan ändra fart och riktning väldigt snabbt. Detta gör det svårt för fordonens algoritmer att bedöma riskerna.

Ett förslag till lösning är att skilja trafikslagen åt.

Egen kommentar

Att separera trafikslagen åt för att möjliggöra självkörande fordon skulle innebära stora offentliga investeringar. Här i Göteborg där infrastrukturen för cyklar är av mycket varierande kvalitet skulle det nog bli dyrt. Men görs det inte så kommer de framtida autonoma fordonen att tvingas sakta ner (ytterligare) för att öka marginalerna.

Källa:

[1] Daniel Boffey: Bikes put spanner in works of Dutch driverless car schemes, The Guardian 2019-02-13 Länk

Lästips: Säkerhet och dess validering

En grupp forskare från Carnegie Mellon University har nyligen publicerat en artikel under titel Credible Autonomy Safety Argumentation. Utifrån en rad erfarenheter diskuterar de hur man beskriver, utvärderar och validerar säkerheten hos automatiserade fordon.

Det de påpekar speciellt är att vi har en tendens att blint förlita oss på standarder, som exempelvis ISO 26262. Men en standard som appliceras på fel sätt eller med fel ändamål kan vara vilseledande och rentav skadlig. 

Validering och verifiering av komplexa system

Verifiering och validering av komplexa system för automatiserad körning och förarstöd är utmanande och det är generellt sett svårt att visa att de fungerar ordentligt i alla möjliga situationer och under alla förhållanden utan några oönskade effekter. I ett nytt samarbetsprojekt kommer AVL och TNO att adressera denna utmaning [1].

Istället för att tillämpa det traditionella valideringssättet, som går ut på att köra ett visst antal mil med ett fordon för att visa att det är säkert, kommer de att tillämpa scenariobaserad validering och verifiering. Metoden, som har utvecklats av AVL, kommer nu att integreras med TNOs StreetWise-metodik som går ut på att extrahera scenarier inklusive statistik från verklig kördata.

Som en del i projektet kommer TNO att utöka antalet partners i StreetWise och på det viset öka mängden tillgängliga data. 

TNO kommer att göra validerings- och verifieringsverktyget, inklusive tillgången till scenarier, tillgängligt för andra aktörer på icke-exklusiva villkor.  Ett gränssnitt har tagits fram för att säkerställa effektiv planering och genomförande av tester.

Källor

[1] TNO. Real-world Scenario Based Validation helps to Realize Safe Automated Driving. 2018-12-10 Länk

Nya uppgifter om Teslas Autopilot

I mars omkom en Tesla-förare i Kalifornien då bilen körde in i en barriär. I samband med detta hävdade Tesla att bilen flera gånger varnat föraren då han inte hållit händerna på ratten, och att det alltså inte varit något fel på bilen eller dess Autopilot-system.

Nu visar amerikanska haverikommissionen NTSBs rapport [1] att dessa varningar kom mer än 15 minuter före kraschen, och att under de sista 60 sekunderna innan hade föraren händerna på ratten minst 3 gånger, dock inte de sista 6 sekunderna. Samtidigt gjorde bilen inga undanmanövrer utan istället ökade bilen farten från ca 100 km/h till ca 115 km/h. Uppgifter som förstås är besvärande för Tesla.

Samtidigt kommer uppgifter om att Tesla släpper nästa stora uppgradering av Autopilot, version 9.0, i augusti [2]. Version 8.0 kom för 2 år sedan. Elon Musk twittrar: ”To date, Autopilot resources have rightly focused entirely on safety. With V9, we will begin to enable full self-driving features.” Vad detta innebär i funktionalitet kan man bara spekulera i.

Källor

[1] Sam Levin: Tesla fatal crash: ’autopilot’ mode sped up car before driver killed, report finds, The Guardian 2018-06-08 Länk

[1] Fred Lambert: Tesla’s version 9 software update is coming in August with first ‘full self-driving features’, says Elon Musk, Electrec 2018-08-11 Länk

Sensorerna är inte tillräckligt bra ännu

I eftermälet till Uber-olyckan erkänner nu flera leverantörer av sensorer till självkörande fordon, bland dem Nvidia och Mobileye, att sensorsystemen inte är tillräckligt bra ännu för allmän användning [1].

Även om komponenterna fungerar bra för att samla in data och för att utveckla och  förbättra algoritmer för styrning och objektidentifiering så räcker de ännu inte till för full självkörning, t.ex. avseende:

  • Radarers upplösning och synfält vilket begränsar hur många  objekt som kan detekteras samt gör det svårt att skilja små objekt från större.
  • Räckvidd och samplingsfrekvens för lidar vilket kan skapa gap i laser-bilder.
  • Problem kopplade till regn och dimma som begränsar prestandan.

Det handlar inte om Ubers specifika implementation utan om den generella statusen av systemen. Det finns idag ingen standard för vad radar, lidar och kameror ska klara utan alla har sin egen uppfattning om vad sensorerna ska klara vilket gör det svårt för leverantörerna att klara.

”Alla gör vad de vill,” säger Kobe Marenko, VD för israeliska sensorföretaget Arbe Robotics. ”Alla har sin egen uppfattning om vad som är minimikraven.”

Källor

[1] Shiraz Ahmed: Suppliers confront shortcomings of self-driving tech, Rubber & Plastics New 2018-04-02 Länk

Kaliforniens årliga rapport har släppts

Kaliforniens departement för motorfordon (DMV) kräver att varje organisation som testar automatiserade fordon på delstatens allmänna vägar skickar in en årlig rapport över antalet tillfällen då systemet behövts avaktiveras. De senaste rapporterna som gäller för tidsperioden november 2016-november 2017 har nu publicerats [1, 2].

Det är Waymo som återigen kört mest: ca 567 366 km (352 545 miles), vilket är ungefär hälften så lite som året innan. Förklaringen är enkel – företaget har förflyttat stora delar av sin flotta till Arizona. Under tiden behövde systemet avaktiveras 63 gånger.

Cruise Automation som numera ägs av GM har kört ca 211 912 km (131 676 miles), en ökning på ca 196 179 km (121 900 miles) sedan förra rapporteringstillfället. Deras system fick avaktiveras 105 gånger.

Andra företag ligger betydligt efter vad det gäller antalet körda km. Här är några exempel: Drive.ai 9860 km (6127 miles), Nissan 8058 km (5007 miles), Zoox 3611 km (2244 miles), Bosch 3302 km (2052 miles), Aptiv/Deplphi 2912 km (1,810 miles).

Alla rapporter finns på DMVs hemsida.

Egen kommentar

Viktigt att ha med i åtanke är att antalet körda km och antalet gånger som systemet avaktiverats inte nödvändigtvis säger något om fordonets faktiska förmåga eller trafiksäkerhet.

En annan observation är att Tesla inte lämnat in någon rapport. Detta eftersom företaget inte testat några fordon på kaliforniska vägar som omfattas av kravet för tillstånd (och rapport). Mer om detta i Teslas brev till DMV.

Källor

[1] Hawkins, A., The Verge. Waymo and GM still lead the pack in California’s new self-driving report cards. 2018-01-31 Länk

[2] California DMV. Autonomous Vehicle Disengagement Reports 2017. 2018-0131 Länk

Detta har hänt under julen – Del II

Vi fortsätter i samma anda som förra gången och sammanfattar det vi missat under juluppehållet.

En av nyheterna är att KMPG släppt en ny rapport – Autonomous Vehicles Readiness Index där de rankat olika länder utifrån fyra faktorer: policy och lagstiftning, teknologi och innovation, infrastruktur och acceptans. Nederländerna hamnat överst följt av Singapore och USA. Vet ni vilket land hamnat på plats 4? Sverige. PWC har också publicerat en rapport med tips hur fordonsindustrin kan överkomma de 5 mest distraherande myter. Ett tips: Don’t do it all yourself.

För att ta reda på vilka företag är ledande i AI kan ni ta en titt på CB Insights lista AI 100 eller kika på illustrationen som är baserad på denna och publicerad av World Economic Forum.

Här är några andra spännande nyheter.

Ford boostar sina leveransplaner. Detta genom att ingå ett samarbete med Postmates som fokuserar på ondemand leveranser. Under årets gång kommer de att utforska hur deras plattformar kan kombineras för att ge kunder bra upplevelse vid användning av autonoma varutransporter. Vi lär se fler pizza-liknande tjänster! Ford har också tydliggjort under CES att företaget vill koppla upp sina bilar mot smarta städer, andra fordon, cyklister. För att åstadkomma detta ämnar företaget utveckla en öppen plattform (Transportation Mobility Cloud) och har bland annat ingått ett samarbete med Qualcomm. Länk Länk

Snap. Så heter Rinspeeds nya multifunktionella konceptfordon för transport av varor och människor. Det är ett modulärt fordon med en skatebordliknande basplattform och ett avtagbart chassi. Länk

Renault-Nissan-Mitsubishi satsar stort. Den här gången handlar det om en investeringsfond på 1 miljard dollar för att stödja nystartade företag i deras utveckling av automatiserade fordon. I år kommer de spendera upp till 200 miljoner dollar för detta. Länk

Door2door + ZF + Microsoft. I ett nytt samarbete kommer dessa tre företag att utveckla en komplett end-to-end-lösning för autonoma masstransportflottor. Den kommer vara designad för att kunna drivas av städer och masstransitoperatörer och kommer att möjliggöra optimering av både passager- och godstransporter. Länk

Utan ratt 2019. Under CES presenterade General Motors (GM) ihop med Cruise Automation en ny konceptbil som är helt självkörande utan några traditionella kontroller som ratt och bromspedal. Lanseringen av bilen är planerad till 2019 (!). För att möjliggöra detta arbetar företaget aktivt med myndigheterna och har publicerat en säkerhetsrapport. Länk

Voyage utökar sin verksamhet. Detta genom att lansera en taxitjänst med självkörande fordon i Florida på ett av landets största pensionärsamhällen. En liknande taxitjänst har testats under hösten 2017 i Kalifornien på ett något mindre pensionärsamhälle. Voyage är en spin-off från Udacity som startas av bland andra Sebastian Thurn som också står bakom Googles självkörandeprogram. Länk

Cellular Vehicle-to-Everything (C-V2X). Under 2018 kommer Nissan, Qualcomm, Ericsson, OKI, Continental och NTT DOCOMO att genomföra tester med C-V2X i Japan med målet att visa fördelarna med tekniken som definieras i 3GPP Release 14 och som använder 5GHz bandet. Länk

Magnas nya radar. Den heter ICON RADAR och kan skanna omgivningen i fyra dimensioner. Den är baserad på teknologi som används av amerikansk militär, har en räckvidd på över 300 meter och skannar miljön 50 gånger snabbare än vad det tar att blinka med ögat. Länk

Från CAN till Ethernet. Hyundai och Cisco samarbetar för att möjliggöra nästa generations nätverk inne i fordon som tillgodoser de ökade datakraven för automatiserad körning. De planerar att lansera ett produktionsfordon år 2019 med ett sådant nätverk där de ämnar övergå från Controller Area Network (CAN) till Ethernet-teknik för att uppnå bearbetningshastigheter på upp till 1 Gbps och integrerad datakontroll. Länk

Första 5G telematiklösning för fordon? Harman och Samsung Electronics har utvecklat en 5G-baserad telematiklösning för applikationer inom automatiserade fordon, något som de påstår sig vara först med. En icke-namngiven europeisk fordonstillverkare är först med att använda denna. Inom ramen för deras samarbete har Samsung och Harman också utvecklat DRVLINE, en öppen, modulär och skalbar plattform för autonoma fordonsapplikationer. Länk Länk

Pony.ai. Det är ett startupföretag som grundades för ungefär ett år sedan och som nyligen fått en investering på över 112 miljoner dollar för att vidareutveckla sin idé – ett fordon av automationsnivå 4 för mer förutsägbara miljöer som till exempel universitetscampus, förorter och industriella områden. Företaget tror att fordonet kommer att vara redo om 2-3 år. Länk

Mjukvara som hittar fel i annan mjukvara. Den heter Jarvis och är utvecklad av BlackBerry med mål att hitta sårbarheter i mjukvara som används i självkörande fordon. Jarvis skannar och ger insikter i minuter, en process som normalt skulle ta ett stort antal experter och mycket tid. För tillfället testas den av fordonstillverkare inklusive Jaguar Land Rover. Länk

Functionality Safe. Det är Nvidias nya AI-plattform för automatiserad körning som enligt företaget erbjuder den redundans som krävs för att möjliggöra utveckling av funktionellt säkra självkörande bilar och lastbilar som kan uppfylla säkerhetsstandarder som ISO 26262. Plattformen är utformad för att möjliggöra säker körning även i händelse av fel relaterade till operatören, system eller miljö. Länk

Peterbilts lastbil. Under CES visade Peterbilt en lastbil av modellen 579 som de anpassat till att kunna köra själv, motsvarande automationsnivå 4. Det är ett proof-of-concept fordon för testning som tagits fram i samarbete med Waymo, snarare än en produktionsredo produkt. Företaget gjorde inga live demonstrationer, förutom att visa ett trötthetsdetekteringssystem utvecklat av Aptiv. TuSimple ställde också ut sin lastbil. Detär första gången som lastbilar intar CES. Länk

Waymo testar i San Francisco. Efter att ha påbörjat tester i Arizona utan någon mänsklig förare bakom ratten inleder företaget liknande tester i San Francisco. Det är oklart hur många fordon som kommer att testas. Länk

Nya godkännande metoder efterlyses. Under Homologation konferensen som hölls i december 2017 av TÜV SÜD konstaterade experterna att metoder för godkännande av vägfordon kommer att behöva förändras betydligt för att möjliggöra automatiserad körning. Länk

Toyota tar det säkra före det osäkra

Vid ett seminarium hos Toyota Research Institute sade chefen Gill Pratt att fordon på SAE-nivå 5 kommer att kräva en ny nivå av artificiell intelligens som ännu ingen vet hur den ska byggas [1].

”Om någon anger en tidplan för nivå 5, pressa dem hårt med frågor. Vi är i de första dagarna av en lång resa,” sade Pratt.

Toyota tar det säkra före det osäkra vad gäller utvecklingen av autonoma bilar, med målet att nå noll dödade i trafikolyckor involverande teknologin. ”Vårt mål är att skapa en bil som aldrig orsakar en olycka, oavsett vad föraren gör,” sade Pratt.

På vägen dit har redan utvecklat ett antal olycksundvikande system, vilka efter 2020 kommer att följas av mer avancerade funktioner som kommer att tillåta att föraren släpper ratten (SAE nivå 2).

Egen kommentar

De olika fordonstillverkarna har verkligen olika syn på hur snabbt det kommer att gå, med Tesla som kanske har den snabbaste tidplanen medan Audi ju lanserat en nivå 3-bil (med dispens från myndigheterna) och alltså Toyota och till exempel nog även Volvo Cars alltså är mer försiktiga.

Källor

[1] Toyota taking a cautious safety-based approach to autonomous driving, Autovista Group 2017-11-07 Länk

Mer jordnära etiska problem

I en notis om vad som hänt under sommaren skrev vi om de etiska riktlinjerna som den tyska regeringen gett ut. Bland annat skriver man:

”Hur mycket beroende av tekniskt komplexa system – som i framtiden kommer att baseras på artificiell intelligens, eventuellt med maskininlärningsförmåga – är vi villiga att acceptera, för att i gengäld få mer säkerhet, rörlighet och bekvämlighet? Vilka försiktighetsåtgärder måste vidtas för att säkerställa kontrollerbarhet, öppenhet och datautonomi? Vilka tekniska utvecklingsriktlinjer krävs för att inte sudda ut konturerna av ett mänskligt samhälle som ställer individer, deras frihet till utveckling, deras fysiska och intellektuella integritet och deras rätt till social respekt i hjärtat av sin rättsordning?”

Det finns mycket skrivet om etik i samband med självkörande fordon, men oftast hamnar man i ”the trolley problem” om fordonen måste programmeras att välja vilka de ska köra på. Men OS News kommenterar de tyska riktlinjerna med några nya, mer jordnära perspektiv [1]:

”Utöver den etik som är relaterad till liv och död finns det dock också enklare, mer banala etiska överväganden. Till exempel om en biltillverkare för att öka vinsten gör ett avtal med McDonalds och anpassar sitt självkörande bilprogram bara lite grann, så att fordonet kör kunderna förbi McDonalds lite oftare, även om det ökar den totala restiden. Vad händer om en biltillverkare gör liknande avtal med stora affärskedjor så att mindre kedjor eller fristående butiker inte ens dyker upp när du säger ”ta mig till närmaste plats som säljer X”? Är det något vi borde tillåta?

Ska vi över huvud taget tillåta programvara för självkörande bilar att vara stängd? Bilar är ”lagliga mordvapen”, och litar vi verkligen på bilfabrikanterna att inte ”gena” när de utvecklar självkörande bilars programvara, för att möta deadlines, på grund av dålig ledning eller underbetalade utvecklare? Ska inte all denna utveckling och all denna kod vara öppen för världen att se?”

Källor

[1] Thom Holwerda: Germany publishes ethical guidelines for self-driving cars, OS News 2017-08-26 Länk