Kategoriarkiv: Lagstiftning och regelverk

Australiens lagförslag för AD tillverkare

Den australiensiska transportkommissionen fick år 2016 i uppdrag av infrastruktur- och transportministrar att utveckla ett regelverk för automatiserade körsystem i fordon, och arbetet har resulterat i ett förslag som nyligen publicerats [1].

Förslaget berör i stora drag ansvar och skyldigheter hos aktörer som skapat ett automatiserat körsystem, så kallade Automated Driving System Entity (ADSE). Planen är att dessa ska följas upp av en framtida myndighet som bör ha en hel del insyn och auktoritet.

Källa

[1] National Transport Commission. A national in-service safety
law for automated vehicles. 2021-05 Länk

Framsteg för tyskt regelverk

I februari skrev vi att Tyskland är på väg att införa nytt regelverk kring självkörande fordon. Nu har den ena kammaren i det tyska parlamentet, Bundestag (underhuset), godkänt ett lagförslag som i grova drag tillåter testning av självkörande fordon motsvarande SAE-nivå 4 på allmänna vägar utan någon säkerhetsförare i fordonet [1, 2]. 

Dessa fordon kommer dock vara begränsade till vissa geografiska områden. Ett annat krav är att det finns mänskligt övervakning (som de kallar ”technical supervision”) som kan avaktivera den självkörande funktionen på distans. De företag som genomför testning kommer också behöva ha en ansvarsförsäkring. 

Lagförslaget listar också exempel på initiala tillämpningar av självkörande fordon så som kollektivtrafik, affärs- och leveransresor, logistik, företagsskyttlar som transporterar anställda och resor mellan vårdcentraler och äldreboenden. Slutsatsen är att det krävs vidareutveckling innan självkörande fordon kan sättas i mer generell bruk.

Nästa steg i processen är att förslaget ska behandlas av den andra kammaren i det tyska parlamentet, Bundesrat (överhuset). 

Egen kommentar

Min tolkning är att man godkänt bara en liten portion av förslaget som presenterades tidigare i år. Från de ovanstående exemplen på applikationer att döma så rör förslaget framför allt korthållstransporter som kan ske i låg fart (läs: skyttlar och leveranspoddar). Ett bra, men rätt så begränsat steg framåt. 

Källor

[1] Deutscher Bundestag. Bundestag nimmt Gesetz zum au­tonomen Fahren an. 2021-05- Länk

[2] Bellan, R., TechCrunch. Germany gives greenlight to driverless vehicles on public roads. 2021-05-24 Länk

Ny rapportmall för olyckor i Kalifornien

Kaliforniens trafikpolis (California Highway Patrol) har tagit fram en ny typ av mall för incidentrapportering. Den nya mallen inkluderar nu fält för att rapportera involverade fordons automatiseringsnivå. Nivåerna anges i enlighet med SAE: Tesla-bilar med ”Autopilot” påslagen betecknas som tillhörandes nivå 2 och fordon från Waymo, Cruise et al betecknas som tillhörande nivå 4.

Egen kommentar

Det verkar dock oklart om rapportkoderna nu medger större detaljering kring distraktionanledning. Det kan med andra ord vara fortsatt svårt att få bra statistik på hur många krascher som beror av förare som inte hörsammar fordons uppmaning att ta över föraransvaret.

Källa

[1] Lekach, S., Mashable. If your car crashes on autopilot, California Highway Patrol wants to know. 2021-05-25 Länk

Fackförbundens ramverk för AV

Det amerikanska fackförbundet Teamsters och transporthandelsavdelningen Transportation Trades Department som ger fackförbunden en politisk röst har tillsammans framfört ett ramverk för lagstiftning kring autonoma fordon [1, 2].

Ramverket berör testning, spridning och reglering av autonoma fordon. Främst riktar sig ramverket mot arbetare som riskerar att förlora jobbet på grund av autonoma fordon, där en av principerna i ramverket syftar till att skapa en plan för att undvika arbetsförluster och om-utbilda eller träna arbetare som förlorar sina jobb. I ramverket finns även principer kring trafiksäkerhet, konsumenträttigheter, och jobbskapande.

Källor

[1] Safe Car News. Teamsters, Transportation Trades announce worker-first AV legislative framework. 2021-05-20 Länk

[2] TTD. LABOR PRINCIPLES FOR AUTONOMOUS VEHICLE LEGISLATION. 2021-05-18 Länk

Självkörande eller inte i Storbritannien

Under veckan publicerade Department of Transport i Storbritannien en redogörelse av svaren de fått in på en konsultation kring assistanssystem för filhållning (Automated Lane-Keeping Systems, ALKS) status som teknik [1]. Konsultationen syftade till att få in synpunkter på om fordon med ALKS kan registreras som autonoma och vilka utmaningar det skulle medföra.

I rapporten anses ett fordon köra sig självt även om föraren behöver ta över kontrollen på ett fördefinierat sätt. I fallet med ALKS inom 10 sekunder efter det att systemet begärt en överlämning till föraren. Det rimmar med SAE-nivå 3 då systemet bara tar över vissa uppgifter och den mänskliga föraren kan ta över om systemet begär så.

Slutsatsen efter att ha begrundat de inkomna svaren är att myndigheten förutsätter att fordon utrustade med ALKS och som är typgodkända för användande i Storbritannien kommer registreras som autonoma från och med hösten 2021. Dessa system kommer dock tillåtas endast i hastigheter upp till 60 km/h.

Bland de uppmärksammade utmaningarna nämndes hur man säkerställer att slutanvändarna och medtrafikanterna förstår teknikens funktioner och begränsningar. Här slår rapporten fast att media och myndigheter har ett gemensamt ansvar för att upplysa allmänheten om att ett fordon utrustat med ALKS inte är helautonomt utan att det har autonoma egenskaper i en given kontext

Egen kommentar

Så hur beskrivs rapportens slutsatser av myndigheter och media i Storbritannien? Först och främst är det intressant att se hur de media vi tittat på väljer att sätta själv-körande inom citationstecken när myndigheternas egna pressmaterial kör utan. Den lilla distinktionen visar sig också representera två olika förhållningssätt till hur Department of Transports beslut kommuniceras ut.

De brittiska myndigheternas gemensamma plattform GOV.UK nämner fördelarna med själv-körande fordon, såsom minskad trängsel och bättre service för de som inte kan köra en egen bil, och att de första typerna av självkörande fordon kan rulla på brittiska vägar redan till hösten [2]. Artikeln fortsätter med att påpeka att självkörande system kan reducera antalet olyckor och kommer skapa nya arbetstillfällen inom fordonsindustrin. Man avslutar med att slå fast att Storbritannien är världsledande inom innovation kring uppkopplade och självkörande fordon och att den inhemska industrin redan är igång med att ta fram nästa generation självkörande fordon. Inte ett ord om teknikens begränsningar.

BBC väljer att lyfta fram samma fördelar kring trafiksäkerhet men följer sedan upp med en mer reflekterande del där man ställer nyheten i relation till tillbud med fordon som marknadsförs med självkörande eller autonoma egenskaper. Man slår fast att det finns ett växande motstånd mot att kalla ALKS och liknande system för självkörande eftersom det vilseleder kunderna [3].  

Guardian väljer också att lyfta fram fördelarna för trafiksäkerheten men också försäkringsfrågorna och hur ansvar ska fördelas om det blir volymer i antalet ”själv-körande” fordon på vägarna. De har intervjuat Matthew Avery på Thatcham Research som slår fast att “Our concern is that the UK government is contributing to the confusion and frequent misuse of assisted driving systems that have unfortunately already led to many tragic deaths” [4].

Vilka är då fördelarna för trafiksäkerheten som alla syftar på? Jo, samtliga nyhetsmaterial lyfter fram Mike Hawes på Society of Motor Manufacturers and Traders som tycker att ”Technologies such as ALKS will pave the way for higher levels of automation in future – and these advances will unleash Britain’s potential to be a world leader in the development and use of these technologies, creating essential jobs while ensuring our roads remain among the safest on the planet”. Citatet kommer ursprungligen ifrån GOV.UK och visar på vilket genomslag en myndighets rapportering kan få. Tack och lov kunde media i det här fallet problematisera bilden, något myndigheternas gemensamma nyhetsportal inte gjorde.

Källor

[1] Department of Transport, Safe Use of Automated Lane Keeping System (ALKS) – Summary of Responses and Next Steps, april 2021 https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/980742/safe-use-of-automated-lane-keeping-system-alks-summary-of-responses-and-next-steps.pdf

[2] GOV.UK, Government paves the way for self-driving vehicles on UK roads, 28 april 2021 https://www.gov.uk/government/news/government-paves-the-way-for-self-driving-vehicles-on-uk-roads

[3] Cristina Criddle, ’Self-driving’ cars to be allowed on UK roads this year, BBC, 28 april 2021, https://www.bbc.com/news/technology-56906145

[4] Gwyn Topham, ‘Self-driving’ cars could get green light for use on UK motorways this year, The Guardian, 28 april 2021, https://www.theguardian.com/technology/2021/apr/28/self-driving-cars-could-get-green-light-for-use-on-uk-motorways-this-year

EU föreslår AI-regelverk

Under veckan har EU-kommissionen presenterat förslag på nya regler och åtgärder för att göra Europa till ett globalt centrum för tillförlitlig artificiell intelligens (AI) [1]. 

Mer specifikt så har kommissionen föreslagit ett rättsligt ramverk för AI samt en ny plan på hur medlemsländerna och kommissionen bör samarbeta och samordna sina aktiviteter för attsäkerställa att AI införs i samhället på ett säkert sätt och i linje med de grundläggande rättigheterna för människor och företag samtidigt som AI-innovationer och implementering stimuleras. Utöver det är planen att ta fram nya regler för maskiner, där säkerhetsreglerna anpassas för att öka användarnas förtroende för den nya generationen av produkter. 

Förhoppningen är att dessa åtgärder ska leda till att människor kan lita på AI samt bana väg för en etisk användning av AI globalt. 

De föreslagna AI-reglerna är anpassade efter risknivån:

  • Oacceptabel risk: AI-system som anses utgöra ett hot mot människors säkerhet, försörjningsmöjligheter och rättigheter kommer att vara förbjudna. Detta inbegriper AI-system eller tillämpningar som manipulerar mänskligt beteende för att kringgå användarnas fria vilja (t.ex. leksaker som använder röstassistans som uppmuntrar minderåriga till farliga beteenden) och system som länder kan använda för ”social poängsättning”.
  • Hög risk: AI-system som anses utgöra hög risk är exempelvis AI-system som används exempelvis i kritiska infrastrukturer som transport och som kan innebära hot mot människors liv och hälsa. AI-system med hög risk kommer att omfattas av strikta skyldigheter innan de släpps ut på marknaden. Exempel på dessa skyldigheter: Loggning av åtgärder för att säkerställa spårbarheten för resultaten, detaljerad dokumentation om systemet och dess ändamål som lämnas in till myndigheter, tydlig och tillräcklig information till användaren, etc. 
  • Begränsad risk: AI-system med särskilda transparenskrav som exempelvis chattbotar som behöver vara så pass transparanta att användarna blir medvetna om att de interagerar med en maskin.
  • Minimal risk: Lagstiftningsförslaget tillåter fri användning av sådana tillämpningar som AI-stödda videospel eller skräppostfilter. Den absoluta majoriteten av AI-systemen tillhör denna kategori. 

När det gäller styrning föreslår EU-kommissionen att de nationella behöriga marknadskontrollmyndigheterna övervakar de nya reglerna. De föreslår också att det inrättas en europeisk nämnd för AI som främjar genomförandet och utvecklingen av AI-standarder. Ett annat förslag är frivilliga uppförandekoder för sådan AI som inte utgör hög risk samt ”regulatoriska sandlådor” som främjar ansvarsfull innovation.

Europaparlamentet och medlemsländerna kommer att behöva anta EU-kommissionens förslag till en europeisk strategi för AI och för maskinprodukter genom det ordinarie lagstiftningsförfarandet. När förordningarna antagits kommer de att vara direkt tillämpliga i hela EU. 

Egen kommentar

AI är en viktig teknik för framtida transporter generellt sett, och inte minst för automatiserade transporter. Personligen tycker jag att det är väldigt positivt att EU tar i ”taktpinnen” och ser till att AI-system inte skapar fler problem än nytta för samhället. Samtidigt är jag osäker på hur detta kommer att fungera i praktiken. Det återstår väl att se. 

Källor

[1] EU Commission Press release. Europe fit for the Digital Age: Commission proposes new rules and actions for excellence and trust in Artificial Intelligence. 2021-04-21 Länk

Nytt testområde i Peking

Myndigheterna i Peking har nu godkänt ett område på 225 kvadratkilometer för test och utveckling av autonoma och uppkopplade fordon [1].

Området kallas Pilot Zone och täcker in delar av Yizhuang New Town, sex motorvägar i Yizhuang och Daxing district inklusive Daxing flygplatsområde.

Testområdet skiljer sig från tidigare dedikerade vägar i Kina i det avseende att nya regler kring tester, demonstrering, kommersiella tjänster och infrastruktur kopplat till autonoma och uppkopplade fordon kommer tillämpas.

I en relaterad nyhet har Baidu Apollo fått tillstånd att testa autonoma fordon under nattetid och under svåra väderförhållanden i testområdet nämnt ovan [2]. Även Pekingbaserade företaget DiDi som har en mobilitetstjänst har fått tillstånd att testköra inom det nya test området [3].

Källor

[1] Xinhua. China Daily. Beijing maps demo zone for developing intelligent connected vehicles. 2021-04-14 Länk

[2] Apollo Auto. Baidu Apollo Awarded with China’s First Licenses to Test Autonomous Vehicles Under Night and Special Weather Conditions. 2021-04-14 Länk

[3] Yi, D., CX Tech. Didi Given Greenlight to Test Autonomous Vehicles in Beijing Pilot Zone. 2021-04-15 Länk

Krav på nivå 3 från Mobileye

I en samförfattad artikel av den verkställande direktören på Mobileye, Amnon Shashua, och den utvecklingsansvarige på Mobileye, Prof. Shai Shalev-Shwartz, diskuteras automationsnivå 3 (enligt SAE skalan) och några förslag på krav presenteras [1].

Enligt standarden J3016 från Society of Automotive Engineers (SAE) som berör automationsnivåer skiljer sig nivå 3-5 från nivå 0-2 på så sätt att 3-5 skall kunna utföra alla köruppgifter (Dynamic Driving Task: DDT) inom given designdomän (Operational Design Domain: ODD). Vidare så skall personen i förarsätet kunna ta över kontrollen av köruppgifterna omedelbart i automationsnivå 0-2 medan övertagandet av kontroll för nivå 3-5 inte sker omedelbart.

Mobileye författarna gör här en poäng kring att man i automationsnivå 3 inte kan anta ett mindre sofistikerat självkörande system än automationsnivå 4 och 5 eftersom vad som helst kan hända under den tid som personen i förarsätet har på sig att ta tillbaka kontrollen, då överföringen inte sker omedelbart. Med andra ord så kan ett automationsnivå 3 system inte endast vara designat att hantera sin ODD, utan bör klara DDT även utanför sitt ODD.

En annan del av artikeln berör det som de kallar för ”Black Swans” vilket innebär att ett system exempelvis kan göra perceptuella missar som på förhand inte går att veta om systemet kommer att göra. Man kan dock få ut en statistisk uppskattning på sådana fel där måttet ”Mean-Time-Between-Failures” (MTBF) ger en genomsnittstid för systemet innan det gör ett ”Black Swan” fel. Författarnas förslag här är att MTBF inte får vara lägre än siffror ifrån olycksstatistik med mänskliga förare för automationsnivå 3-5.

Egen kommentar

Kopplat till det här ämnet kan ni också läsa en nyligen publicerad artikel från den internationella forskargruppen HF-IRADS kallat Can the human driver be made responsible when automation is unable to handle the situation? Där lyfter fram de liknande oro som Mobileye, till och med för avancerade förarstödssytem som idag klassas som SAE-nivå 2.

Källa

[1] Amnon Shashua. Medium. On Black Swans, Failures-by-Design, and Safety of Automated Driving Systems. 2021-03-14 Länk

Självcertifiering av autonoma fordon

De första fallstudierna inom ramen för Drive Sweden Policy Lab har nu avrapporterats.  För OmADs publik kan särskilt en rapport vara av intresse – Självcertifiering av autonoma fordon [1].

Bakgrunden till rapporten är det växande intresset för autonoma fordon på depåer för att effektivisera arbetet där. Fordonen skulle däremot vara manuellt framförda på väg. På dagen är de typgodkända för vägtrafik med manuell förare (SAE-nivå 0-2) och på natten är de i autonom drift på depån (SAE-nivå 4). Under ett och samma dygn kommer fordonen därför att glida mellan regelverken för inhägnat område (depå) respektive inte inhägnat område (väg), mellan att vara autonoma och inte autonoma. 

Utmaningen är att ett autonomt fordon per definition inte kan vara typgodkänt, så långt har inte UNECE hunnit än. Hade det framförts autonomt på väg hade man kunnat ansöka om ett försök hos Transportstyrelsen och därmed få fordonet godkänt för vägtrafik genom de undantag man anger i ansökan. Men Transportstyrelsen kan inte tillämpa försöksförordningen på fordon inom SAE-nivåerna 0-2. Eftersom fordonet inte är ett typgodkänt fordon när det är autonomt så faller alla undantag som kan göras från maskindirektivet och fordonet är då egentligen en maskin.

Rapportförfattarnas slutsats är att sådana fordon ska självcertifieras genom CE-märkning utifrån maskindirektivet för att anses säkra i autonomt läge inom depån. Och det blir Arbetsmiljöverket som får granska certifieringen om det skulle behövas. Slutsatsen är inte nödvändigtvis representativ för de andra parter som varit med i arbetet men delas av handläggare på respektive myndighet.

Egen kommentar

Vi förutspår att vi kommer att få se mer självcertifiering av autonoma fordon i framtiden. Dels för att det är så den nordamerikanska marknaden arbetar (se OmAD 19 januari 2021), dels för att det möjliggör en snabbare marknadsintroduktion av autonoma fordonskoncept (bl.a. motiveringen bakom den tyska lagändringen som medger viss självcertifiering, se OmAD 19 februari 2021). UNECEs arbete med funktionella krav kommer också kräva mer självcertifiering då varje tillverkare måste visa hur deras lösning är säker och uppfyller specifikationerna.

Med mer självcertifiering kommer också behovet av standardisering öka, både för processer och produkter. När det gäller processer kan det röra sig om hur man certifierar ett fordon, framförallt hur man gör riskanalysen. För produkter kommer standardiserade beskrivningar av teknikens funktionalitet underlätta den egna självcertifieringen då man vet hur man ska beskriva sin produkt, men också hur man kan bygga sin certifiering utifrån de ingående, redan certifierade komponenterna.

Källor

[1] Andersson K., Burden H., Stenberg, S., RISE. Självcertifiering av autonoma bussar. Mars 2021. Länk

NTSB vill ha striktare regler på ADAS

Den amerikanska säkerhetsorganisationen National Highway Traffic Safety Administration (NHTSA) blir uppmanad av  haverikommissionen National Transportation Safety Board (NTSB) att skärpa sina regler kring förarstödssystem (ADAS) [1].

Bekymret som NTSB utrycker har mycket att göra med Teslas tillvägagångssätt. NTSB menar att Tesla låter vissa Teslaägare agera mjukvarutestare när de lanserar betaversioner av vissa funktioner som till exempel Full Self Driving (FSD). Den här funktionen utökar Teslas Autopilot förarstödssystem till fler operationella design domäner (ODD) samt lägger till några fler funktioner så som autonom parkering, autonomt filbyte samt Summon-funktionen som gör att fordonet självt kör fram till ägaren från en parkeringsplats.

I brevet uppmanas NHTSA att ställa krav på inkludering av kollisionsundvikande system, robusta förarövervakningssystem och någon sorts försäkran om att användare inte använder förarstödssystemen på icke avsedda operationella designdomäner.

Gällande just Tesla så är uppmaningen att undersöka begränsningar av deras olika system samt kartlägga risken för missbruk och att systemen används utanför sin operationella designdomän.

Här kan ni läsa NTSBs brev till NHTSA i sin helhet.

Egen kommentar

Det är inte första gången som NTSB utrycker sin oro gällande Tesla. Det har organisationen gjort även vid utredningar av flera olyckor med Autopilot påslagen som exemplevis den här.

En anledning till att det här brevet skickats just nu, och att det fått stor uppmärksamhet i media, kan vara att det under den senaste veckan framkommit att Tesla så sent som i december 2020 skrivit till det kaliforniska departementet för motorfordon att ingen av dess existerande funktioner gör att bilen kan köra autonomt och att de därmed inte behöver testtillstånd i Kalifornien: ”Currently neither Autopilot nor FSD Capability is an autonomous system, and currently no comprising feature, whether singularly or collectively, is autonomous or makes our vehicles autonomousAs you know, Autopilot is an optional suite of driver-assistance features that are representative of SAE Level 2 automation (SAE L2). Features that comprise Autopilot are traffic-aware cruise control and autosteer. Full Self-Driving (FSD) capability is an additional optional suite of features that builds from Autopilot and is also representative of SAE L2….Please note that Tesla’s development of true autonomous features (SAE Levels 3+) will follow our iterative process (development, validation, early release, etc.) and any such features will not be released to the general public until we have fully validated them and received any required regulatory permits or approvals.”. Detta då till skillnad från vad företaget påstår i sin dagliga marknadsföring och från vad företagets VD Elon Musk utlovar: att vissa kunder kommer snart få smygpremiär av FSD.

Källa

[1] Kolodny, L., CNBC. A federal agency warns Tesla tests unfinished driverless tech on its users. 2021-03-12 Länk