Etikettarkiv: NTSB

Preliminär rapport om Teslaolyckan

För några veckor sedan rapporterade vi om en dödsolycka med en Teslabil där man misstänkte att Autopilot var aktiverad vid tidpunkten för olyckan. Nu har haverikommissionen NTSB publicerat en preliminär rapport från utredningen av olyckan, och allt tyder på att det inte var fallet.

Genom att testa en annan motsvarande bil kom NTSB fram till att Autopilot inte går att aktivera på den givna sträckan [1]. Rent tekniskt kunde fordonets adaptiva farthållare (ACC) vara aktiverat där men rapporten nämner inte om det var fallet vid tidpunkten för olyckan.

Här kan ni läsa några intressanta reflektioner kring den nya informationen om olyckan. 

Utredningen fortsätter.

Källor

[1] NTSB. Preliminary Report HWY21FH007. 2021-05-10 Länk

Dödsolycka i en Teslabil

Under helgen inträffade en dödsolycka i staden Spring i Texas där två personer som färdades i en Teslabil miste livet [1]. Bilen kolliderade mot ett träd, fattade eld och brann upp. 

Enligt den lokala polisen fann de ingen i förarsätet medan en av de avlidna satt i passagerarsätet och en i baksätet. Polisen misstänker att det inte fanns någon mänsklig förare bakom ratten när olyckan inträffade och att bilen kördes av Autopilot. 

Nu utreds olyckan av säkerhetsorganisationen NHTSA som för tillfället inte kopplat in haverikommissionen NTSB (som vanligtvis brukar göra sådana här utredningar och som för övrigt uppmanat NHTSA vid flera tillfällen att Teslas förarstödssystem Autopilot är en säkerhetsfara).

Tesla har inte kommenterat fallet.

Källor

[1] The Verge. NHTSA is investigating the driverless Tesla crash that killed two people. 2021-04-19 Länk

Ubers säkerhetsrapport

Uber har publicerat sin årliga säkerhetsrapport gällande automatiserad körning och testning [1].

Innehållsmässigt så är den lite mer detaljerat än dess föregångare. Något som Uber valt att betona är dess Safety Case Framework som lanserades förra året och som beskriver företagets fem kärnprinciper för automatiserade fordon:  Proficient, Fail-Safe, Continuously Improving, Resilient and Trustworthy.

Något annat som betonas i rapporten är Organizational Safety. Det är ett område som växt kraftigt efter dödsolyckan i Arizona med en av Ubers automatiserade fordon. Utöver diverse utbildnings- och standardiseringsprogram som förteget deltar i så har de också tillsatt ett säkerhetsråd bestående av diverse säkerhetsexperter samt utvecklat ett ramverk för hantering av säkerhetsrisker. Dessa är på sätt och viss direkta åtgärder på brister som påpekades av National Transportation Safety Board (NTSB) i deras utredning av dödsolyckan. 

Vi påminner om att säkerhetsrapporter publiceras av aktörererna som genomför testning av automatiserade fordon på allmänna vägar i USA på frivillighetsbasis. Hittills är det 23 organisationer som lämnat in sina rapporter till säkerhetsorganisationen NHTSA. 

Här kan ni läsa rapporten i dess helhet. 

Källor

[1] Uber ATG. Uber ATG Releases 2020 Safety Report. 2020-08-28 Länk

Tips på video och podcast

  • Euro NCAPs nya protokoll. Ungefär vartannat år brukar Euro NCAP uppdatera sina testprotokoll. Här kan ni se årets uppdateringar. Länk
  • Mobileye står fast vid sitt löfte. Mobileye (Intel) har lovat att lansera självkörande taxi 2022, och man står fast vid det löftet. Det redogjorde förtagets VD Amnon Shashua vid årets upplaga EcoMotion. Man kommer börja med Jerusalem och sedan sprida tjänsten vidare till Tel Aviv, Frankrike, Sydkorea och Kina. Länk
  • Utmaningar med folks uppfattning. Fram till idag har det gjorts en hel del marknadsundersökningar kring förväntningar på och uppfattningar om automatiserade fordon. Nyligen gjorde organisationen PAVE en sådan undersökning som visar att det finns en del utmaningar. Här kan ni höra några experter diskutera det hela och enligt dem kan utbildning och exponering lösa många frågetecken. Länk
  • Laglig, etisk och robust AI. Detta diskuteras av Fredrik Heintz (adjungerad professor vid Linköpings universitet) och Stefan Larsson (jurist och adjungerad professor vid Lund universitet) inom ramen för Liberal Europe Podcast. Länk
  • Sociotekniska aspekter. Den amerikanska haverikommissionen NTSB anordnade en frågestund kring automatiserade fordon med professor Missy Cummings från Duke University där hon bl.a. belyser sociotekniska aspekter. Länk

Lästips och podcasts

  • Självkörande lastbilar. Ike är en startup inom lastbilssfären. Här kan ni läsa om hur man arbetar med automatiserad körning hos dem. Länk
  • Självkörande traktorer. Vi har vid flera tillfällen rapporterat om självkörande jordbruksmaskiner och den pågående digitalisering inom jordbruket. Här kan ni läsa om startupföretaget Bear Flag från Kalifornien. Deras affärsmodell går ut på att ta nya traktorer direkt från tillverkarna, utrusta dem med sitt självkörande system och sedan hyra ut dem till jordbrukarna. Länk
  • Olycksutredningar. Den amerikanska haverikommissionen NTSB har publicerat slutrapporter från två dödsolyckor med Tesla-bilar som skedde förra året i Kalifornien samt i Florida. Länk
  • Kamerakalibrering. En forskargrupp från Sydkorea har tagit fram en ny metod för kalibrering av kameror. Den bygger på en kombination av existerande metoder och påstås vara noggrannare och snabbare än dem. Studien är publicerad under titel Camera orientation estimation using voting approach on the Gaussian sphere for in-vehicle camera. Länk
  • Mobilitestrapporter. Det råder ingen tvekan att vi under de senaste månaderna på grund av corona ändrat vårt sätt att resa och förflytta oss. Här kan ni se en global sammanställning från Google och en motsvarande sammanställning från Norden gjord av Telia.
  • Podcast från Truckinginfo med veteranen Richard Bishop: Är självkörande lastbilar en frälsare eller en plåga? Länk
  • Podcast från Autonews med John Xin som är grundare till startupföretaget Lunewave: Innovation i en tid av osäkerhet. Länk
  • Podcast från VentureBeat med Nell Watson från Ethics Certification Program for AI systems vid IEEE: Hur viktigt är det med transparens för AI-system?  Länk

Navigants ledarlista

För någon vecka sedan skrev vi om Navigants rankning av beräkningsplattformar för automatiserad körning. Nu har företaget också publicerat sin årliga rapport Automated Driving Leaderboard [1, 2]. 

I den har de rangordnat 18 olika aktörer utifrån deras vision, marknadsstrategi, partners, produktionsstrategi, teknologi, försäljning, marknadsföring och distribution, produktförmåga, produktkvalitet och tillförlitlighet, produktportfölj och uppehållskraft. Rankningen är uppdelad i fyra klasser: ledare (leaders), tävlare (contenders), utmanare (challengers) och efterföljare (followers):

Ledare: Waymo, Ford, Cruise, Baidu och Intel-MobileEye. Jämfört med året innan är Baidu och MobileEye nykomlingar i ledarklassen. 

Tävlare: Aptiv-Hyundai, Volkswagen, Yandex, Zoox, Daimler-Bosch, Toyota, May Mobility, Voyage Auto. En överrsaskning här är Yandex som är med på listan för första gången. 

Utmanare: BMW, Volvo, Renault-Nissan-Mitsubishi, Navya och Tesla.

Efterföljare: Den rutan är tom för i år, precis som året innan.

Överlag konstaterar Navigant att 2019 har var ett utmanande år för automatiserad körning och att många först då börjat förstå vilka utmaningar som de står inför. Flera startuppföretag gick i konkurs, eller blev uppköpta av större aktörer. Mycket handlar fortfarande om att utveckla kärntekniken och livskraftiga affärsmodeller.

Vidare konstaterar Navigant att det inte gjorts några betydande kommersialiseringar under 2019 och att alla fortsätter att använda säkerhetsoperatörer i sina fordon. Trots att några aktörer genomfört körningar utan säkerhetsoperatörer i fordonen väntas inte verkliga mobilitetstjänster dyka upp förrän 2021. Det noteras också att alltfler börjat sikta mot godsleverans. 

Egen kommentar

  • Precis som förra året så är Aurora inte ens med på listan. Man kan undra varför? De är bland få företag som har fått tillstånd att transportera passagerare i Kalifornien.
  • Förra året var Apple med bland ”tävlare”. I år är de inte alls med på listan. Förklaringen är nog enkel – Apple har inte visat något konkret under det senaste året, samtidigt som de sagt upp flera anställda som jobbat inom området. Kan Apple komma att överraska alla?
  • Zenuity är inte heller med. Förra året var deras samarbete med Volvo, Veoneer och Ericsson med på listan som ”tävlare”. Nu har också Volvo hamnat i klassen under som ”utmanare”. Vad har hänt där? 
  • En annan förändring jämfört med förra året är att Uber inte kommit med på listan. Jag tror inte att någon är överraskad där med tanke på alla turer kring dödsolyckan i Arizona.
  • Att Tesla hamnat sist på listan kan också vara något överraskande. Men vi ska inte bortse från alla (döds)olyckor med Autopilot påslagen och all kritik som riktats mot Tesla från bl.a. den amerikanska  haverikommissionen NTSB.

Det kan mycket väl vara så att svaret på dessa frågor finns i rapporten men tyvärr har vi inte tillgång till den. 

Här kan ni läsa om förra årets rankning. 

Källor

[1] Navigant, Navigant Research Leaderboard: Automated Driving Vehicles. 2020-03-16 Länk

[2] Krok, A., CNet. Tesla trails Waymo, Cruise and others in self-driving strategy, study claims. 2020-03-16 Länk

NTSBs utredning av dödsolyckan i Kalifornien

Den amerikanska haverikommissionen NTSB har slutfört utredningen av dödsolyckan som skedde i mars 2018 i en Tesla Model X på en motorväg i Mountain View i Kalifornien [1, 2]. 

Förarstödssystemet Autopilot hade aktiverats av föraren ungefär 19 minuter innan bilen körde in i en barriär i 114 km/h där hastighetsbegränsningen var 104 km/h. Systemet ska ha feltolkat väglinjer på motorvägen. 

Föraren uppmanades vid flera tillfällen att vidröra ratten, men han lydde inte uppmaningarna. Vidare så visar utredningen att föraren hade ett spel igång på sin telefon och under sex sekunder innan olyckan hade han inte händerna på ratten trots varningarna. 

Totalt har NTSB identifierat sju säkerhetsproblem relaterat till olyckan:

  • Förardistraktion
  • Bristande monitorering av förarens engagemang
  • Bristande riskbedömning för systemets driftsförhållanden (Operational Design Domain, ODD)
  • Begränsningar i kollisionsundvikande system
  • Otillräcklig federal övervakning av system som möjliggör delvis automatiserad körning
  • Otillräckliga krav för händelseinspelning vid användning av automatiserade körsystem
  • Bristfällig motorvägsinfrastruktur

Baserat på utredningen har NTSB förnyat sina tidigare rekommendationer samt publicerat nio nya rekommendationer som berör flera organisationer, inklusive Tesla, NHTSA och Apple. 

Enligt NTSB kunde olyckan ha undvikts ifall Autopilot designats på ett sätt så att förare inte kan inbilla sig att fordonet är helt självkörande. NTSB utfärdade säkerhetsrekommendationer angående detta 2017 och drar slutsatsen att Tesla inte följt dessa.

NTSB är också kritiska till säkerhetsorganisationen NHTSA för den otillräckliga översikten av Autopilot. Enligt NTSB borde NHTSA ha gjort mer för att skydda förare.

Apple kritiseras för att de inte utvecklat bättre system för att hindra förare från att använda mobilen i bilen.

En slutrapport från olyckan väntas inom ett par veckor. Här kan ni hitta ett tiotal olika rapporter och dokument från utredningen. 

Källor

[1] NTSB News. Tesla Crash Investigation Yields 9 NTSB Safety Recommendations. 2020-02-25

[2] NTSB. Automation and data summary factual report.

Teslas olycka och mjukvaruuppdatering

Ett flitigt delat inlägg om hur Tesla avaktiverat funktionen Enhanced Autopilot för en kund efter att denne hade köpt bilen av en återförsäljare har skapat debatt på nätet om utmaningarna som kommer i samband med att mängden mjukvara ökar i fordon och kan uppdateras online [1].  Frågan som många ställer sig är hur kan det vara möjligt att tillverkaren kan ta bort funktioner trots att dessa står med på försäljningsspecifikationen, och dessutom utan att tydligt informera ägaren om detta?

I en ny rapport från National Transportation Safety Board (NTSB) uppges också att mannen, som dog 2018 när hans Tesla Model X med aktiv Autopilot kraschade mot ett vägräcke, vid flera tillfällen hade klagat över att Autopilot styrde bilen mot vägkanten [2] [3]. Han ska till och med ha klagat hos återförsäljaren som då konstaterat att de inte lyckats återskapa problemet. Här kan ni läsa veteranens Brad Templetons syn på olyckan och utredningen.

Källa

[1] Torchinsky, J., Tesla Remotely Removes Autopilot Features From Customer’s Used Tesla Without Any Notice [Updated]. 2020-02-06 Länk

[2] Crum, R., Tesla driver complained about Autopilot before fatal 2018 crash: NTSB report. The Mercury News 2020-02-11 Länk

[3] Fisher, C., Driver in fatal Tesla crash had reported problems with Autopilot. Engaget 2020-02-11 Länk

Kritik mot NHTSA

Vid den uppföljande hearingen i amerikanska senaten efter den preliminära rapporten om Uberolyckan fick trafiksäkerhetsmyndigheten NHTSA mycket kritik för att de inte satt upp tuffare krav på såväl tillverkare som delstater [1]. Inte minst fick man kritik för att man släppt igenom Teslas Autopilot, trots att den uppenbart är osäker. Man jämförde med problemen med Boeing 737 MAX8 som ju släpptes igenom av amerikanska luftfartsmyndigheten genom självcertifiering.

NHTSA försvarade sig med att inte vill sätta standarder för tidigt för att inte hindra innovation.

För själva Uberolyckan så ansågs såväl säkerhetsföraren, Uber – för deras system men främst för deras bristande rutiner -, delstaten Arizona, den förolyckade kvinnan och NHTSA vara ansvariga [2].

Källor:

[1] Lora Kolodny: Tesla and Uber draw scrutiny at Senate hearing on self-driving cars: ‘That’s not safe!’, CNBC 2019-11-20 Länk

[2] Brad Templeton: NTSB Hearing Blames Humans, Software And Policy For Fatal Uber Robocar Crash – But Mostly Humans, Forbes 2019-11-19 Länk

Utredningen om Uber olyckan klar

Den amerikanska säkerhetsorganisationen NTSB har nu slutfört utredningen om dödsolyckan som inträffade förra året i mars och som involverade en självkörande Uber-bil och en fotgängare [1]. 

Utredningen visar bland annat att Ubers mjukvara inte var programmerad att känna igen fotgängare som försöker korsa vägen där det inte finns ett övergångsställe, som ju var fallet med den avlidna fotgängaren. 

Bilens radar upptäckte fotgängaren 5,6 sekunder innan kollisionen och 5,2 sekunder innan kollisionen detekterades fotgängaren av bilens lidar. Men mjukvaran lyckades varken förstå att det var en fotgängare, eller att fotgängaren var på väg att korsa vägen. En detaljerad tabell över händelseförloppet finns i rapporten. 

I samband med rapporten analyserades också en rad andra dokument som visar att Ubers självkörande bilar var inblandade i 37 olyckor mellan september 2016 och mars 2018. I 33 av dessa fall krockade andra fordon med de självkörande bilarna.

Kommentar

Som ni kanske minns inleddes ett flertal utredningar efter olyckan liksom en parallell rättsprocess där Uber så småningom friades från ansvar. Men orsaken till olyckan har varit omstridd. Jag har inte granskat NTSBs rapport i detalj men det verkar som att den ger mycket mer information än tidigare utredningar. 

Här kan ni läsa veteranens Brad Templeton reflektioner kring den här oluckan och utredningen. 

Källor

[1] Quach, K., The Register. Remember the Uber self-driving car that killed a woman crossing the street? The AI had no clue about jaywalkers. 2019-11-06 Länk