Governance of Automated Vehicle Safety Workshop

För två veckor sedan deltog jag på en workshop som handlade om hur myndigheterna bör förhålla sig till automatiserade fordon för att säkerställa en hög grad av trafiksäkerhet. Den anordnades av den amerikanska trafiksäkerhetsorganisationen NHTSA, United Nations Economic Commission for Europe(UNECE) och Center for Automotive Research at Stanford (CARS). Workshopen ägde rum på CARS och lockade till sig runt 100 deltagare från olika delar av världen. En tredjedel av deltagarna var representanter från myndigheter, en tredjedel från fordonsindustrin och en tredjedel från universitet, forskningsinstitut och liknande organisationer.

Workshopsdiskussionen var både bred och djup, och de uttalanden som gjordes av föredragshållarna var inte nödvändigtvis den officiella hållningen från de organisationer och myndigheter som föredragshållarna representerade. Syftet med workshopen var att utbyta tankar och idéer utan att göra några utfästelser.

En generell slutsats från diskussionen är att en internationell harmonisering av myndigheternas styrmedel kring automatiserade fordon kommer att behövas för att bidra till nollvisionen. Myndigheternas styrmedel måste vara utformade för att stödja innovationen. Dagens styrmedel är inte utformade på så sätt och nya tag behövs. Givet att varje innovation innebär ett risktagande måste regeringar och myndigheter ta risken och stödja innovationen, och detta behöver göras omgående.

Här är några av mina övriga minnesanteckningar:

  • Mark Rosekind (NHTSA) påpekade att den frekventa rapporteringen i media kring automatiserade fordon har bidragit till att allmänheten har stora förväntningar på dem. Allmänheten ställer inte lika stora krav på mänskliga förare som på teknologin, vilket i sig är en stor utmaning när vi har mer och mer teknologi i våra fordon.
    Rosekind påpekade också att automatiserade fordon är en global möjlighet och att säkerhetsaspekter därmed behöver hanteras på ett globalt plan.
  • Luciana Iorio (ordförande för UNECE WP.1) tydliggjorde att vi har en ny mobilitets-era framför oss och att UNECE och andra liknande organisationer behöver säkerställa att rättsliga instrument återspeglar förarens nya roll och övergången till artificiell intelligens.
    Iorio påpekade också att nya styrmedel kommer att behövas och att dessa styrregler behöver fånga upp följande: trafiksäkerhet, sekretess, ekonomisk och social tillväxt samt tillgång till utbildning. För att identifiera dessa nya styrmedel behöver vi ställa oss frågan vad som gör mänskliga förare pålitliga enligt dagens lagstiftning.
  • Nat Beuse (NHTSA) konstaterade att antalet dödade i trafiken uppnått en ”mättnadsnivå” och att det behövs ett holistiskt angreppsätt för att uppnå nollvisionen. Hittills har myndigheten hanterat fordonet och föraren olika, detta behöver förändras. Generellt sett räcker inte självreglering till att uppnå hög grad av trafiksäkerhet. Ämnen som datasäkerhet finns inte i de traditionella verktygen och arbetsprocessen som används av tillsynsmyndigheterna. Den snabba teknikutvecklingen ryms inte där heller.
    Slutligen tydliggjorde Beuse att myndigheterna inte kan fortsätta att hantera säkerhetsaspekter så som de hanterats traditionellt. Nya metoder som omfattar industri behövs, såväl som en betydligt större flexibilitet hos regeringar och myndigheter.
  • Robert Nowak (sekreterare i UNECE WP.1) ställde en retorisk fråga till publiken: olycksdata visar att distraktion är en orsak till många olyckor, speciellt i påkörningar bakifrån, men varför är det så att dagens tekniska lösningar inte adresserar den orsaken?
  • Joel Valmain (fransk representant i UNECE WP.1) redogjorde att unga i åldersgruppen 18-21 år är överrepresenterade i fransk olycksstatistik och att förhoppningen är att nya tekniska lösningar kommer att förändra detta. Samtidigt konstaterade han att vissa länder har svårare att anpassa sig till förändringar i offentlig sektor än andra.
  • Emily Frascaroli (Ford) pratade om svårigheten att uppnå hög säkerhet och bra prestanda för ett stort antal fordon. Hon listade bl.a. erfarenhet, redundans, testning och samverkan som nyckelord i företagets arbete kring automatiserade fordon.
  • David Strickland (Self-Driving Coalition for Safer Streets) påpekade att trafiksäkerheten behöver demokratiseras på en global nivå. Han pratade också om att konsumentacceptans är en förutsättning för att nya tekniska lösningar ska slå igenom, men frågan är hur förarna ska övertygas att de ganska ofta gör fel när de själva kör, och att tekniken är överlägset bättre på att hantera de flesta trafiksituationer än de själva?
    Strickland pratade också om datamodernisering.
    Trafiksäkerheten utvärderas idag genom analys av olycksdata (antalet olyckor, skadade och dödade i trafiken). Nu behövs en annan tolkning av data – hur många liv räddade ett visst säkerhetssystem? Detta i sig är en utmaning för myndigheterna eftersom det kräver nya metoder och en hel del omställning i arbetsprocessen.
    Något annat som kräver omställning är hur myndigheterna ser på samhällseffekter. Hur kommer samhällseffekter av automatiserade fordon att mätas och hanteras?
  • Mykel Kochenderfer (Stanford University) pratade om sina erfarenheter kring utveckling av olycksundvikande system för flygplan (CAST och ACASTX). Systemet är extremt effektivt idag men för att nå dit krävdes massor med modeller, stora mängder data och över 15 miljarder simuleringar. Allt detta resulterade i en 1800 sidor lång systemspecifikation. Systemet är standardiserat idag men det krävdes enormt internationellt samarbete.
    Kochenderfer recept för framgång skulle kunna sammanfattas på följande sätt:
    a) intressenter måste förstå tekniken bakom funktionen,
    b) bevisa under vilka villkor som systemet kommer alltid att vara säkert,
    c) se till att det är inget som gömmer sig i aggregerad statistik,
    d) stresstester är inte så effektiva efter ett tag, svårt att hitta scenarion där systemet inte fungerar,
    e) simulering och modellering är nyckeln till att bygga förtroende för systemet,
    f) använd tidshistorik för att få en uppfattning exempelvis om föraren bakom är aggressiv,
    g) förtroendet för tekniska system är möjligt att bygga upp genom öppenhet, transparens och internationellt samarbete.
    Kochenderfer konstaterade också att det finns stora skillnader mellan flygplan och vägfordon. Det är mycket osannolikt att ha scenarier med mer än 3-4 flygplan, men för vägfordon är det vanligt med många fler aktörer. En annan skillnad är att varje flygplan är utrustat med transpondrar och att det är känt i varje ögonblick var de befinner sig, men det kommer inte vara fallet med vägtrafikanter på ett bra tag. Komplexiteten för automatiserade vägfordon är grovt uppskattat minst dubbelt så stor som för flygplan.
  • Peter Larsson (svensk representant i UNECE WP.1) påpekade att dagens styrmedel inte är tillräckligt flexibla för att kunna bemöta den snabba teknikutvecklingen. Idag ligger mycket säkerhetsansvar på myndigheterna men frågan är om och hur ansvaret kan fördelas mellan olika aktörer i framtiden för att främja innovationen snarare än att bromsa den. Skillnaden mellan reglering och ”självverifiering” är något som bör utredas i mer detalj. Det är viktigt att utreda vad som kommer lösas av marknaden och vad som behöver regleras av myndigheterna. Han påpekade också att nya styrprinciper bör ta systemeffekter i beaktande i mycket större utsträckning än dagens principer.
  • Don Arendt från (Federal Aviation Administration, FAA) påpekade att det saknas tydlig definition av säkerhet. Ett annat konstaterande som han gjorde var att brist på data inte får vara en bromskloss för säkerhetstester – fixa data som behövs!
  • Edwin Nas (nederländsk representant i UNECE) pratade om hur nederländska myndigheter skapat undantagsregler för testning av automatiserade fordon på allmänna vägar. Det är i princip fyra steg som ett system behöver genomgå: Intake – Desk Research (FMEA )– Testing at closed loop – Real world traffic.
    Nas var tydlig med att myndigheterna i framtiden behöver beskriva ”vad” som behöver bevisas av berörda aktörer för att säkerställa att ett givet system är säkert att använda, snarare än ”hur” detta ska bevisas.
  • Bryant Walker Smith (University of South Carolina) konstaterade att vi har en övergång framför oss – hittills har konsumenter förlitat sig på produkter men i framtiden, speciellt vad det gäller automatiserade fordon, kommer de behöva förlita sig på utvecklarna. Myndigheterna måste också inrikta sitt arbete mot att utvärdera utvecklarna i stället för som idag, produkterna. Han var också inne på att myndigheterna reglerar för att åtgärda marknadens misslyckanden. Trafiksäkerhet är ett sådant misslyckande.
  • Bryan Reimer (MIT) pratade om situationsmedvetenhet hos förarna idag. Han konstaterade att en viss nivå av situationsmedvetenhet kommer att behövas hos förare/passagerare oavsett automationsnivån i fordonet – förmodligen kommer det att variera för olika nivåer av automation men en viss nivå kommer alltid att behövas. Det är därför viktigt att studera hur olika nivåer av situationsmedvetenhet uppstår. Han konstaterade också att internationella styrstrategier gällande mänskliga faktorer (Human Factors) kommer att behövas i framtiden men att detta är riktigt utmanande med tanke på så stora rationella, kulturella och liknande skillnader.