Kategoriarkiv: Lagstiftning och regelverk

Artificiell intelligens, Lagstiftning och regelverk

EUs förslag till reglering av AI

EU-kommissionen har lagt fram ett förslag på reglering av artificiell intelligens (AI). Förslaget består av fyra delar:

  • Direktivet (artiklarna som kommer gälla som lag i Sverige)
  • Explanatory memorandum (argumenten för reglering, laglig grund och sammanfattning av direktivet)
  • Ingress (mer detaljerad argumentation och förklaringar till artiklarna)
  • Annex (definitioner och listor i ett eget dokument)

Kommissionens remisstid för förslaget är öppen fram till den 6 augusti 2021 medan Infrastrukturdepartementet stängde sin i samband med midsommar. Man kan se vilka svar som kom in till Infrastrukturdepartementet samt hitta länkar till förslaget på departementets hemsida [1]. Svar till EU-kommissionen kan ges via deras hemsida [2].

När det gäller automatiserad körning är det värt att lyfta fram relationen till fordon och maskiner. EU reglerar produkter genom två grupper av direktiv – Old Approach Legislation och New Legislative Format. Den första gruppen täcker produkter vars reglering bestäms av internationella organisationer utanför EUs kontroll, såsom UNECEs fordonstyper. Den andra gruppen täcker produkter som EU har ensam kontroll över, såsom maskiner.

I relation till automatiserad körning vill kommissionen reglera AI-system som utgör eller ingår i ett säkerhetssystem (artikel 6) om det sitter i en maskin. Därmed gäller det inte bara gula maskiner utan också produktionsmaskiner. De verktyg som används för framtagandet av AI-systemen kommer också falla under regleringen eftersom de ska omfattas av kvalitetsarbetet (artikel 17). För tillfället kan de inte bestämma över fordon (artikel 2). Det är däremot kommissionens uttryckliga vilja att regleringen snarast möjligt ska gälla även personbilar, lastbilar och bussar med mera (explanatory memorandum 1.2 och ingress 29).

Egen kommentar

Det är inte enkelt att förstå vad som ryms inom förslaget på AI-reglering och inte. Det kräver att man läser andra direktiv för att se helheten, såsom maskindirektivet. Enligt maskindirektivet från 2006 är maskiner med säkerhetssystem som upptäcker människor att betrakta som hög-risk-maskiner och då behöver en tredje part vara med i certifieringsprocessen (maskindirektivet artikel 12 med annex VIII, IX och X). Då gäller AI-regleringen (artikel 6.2). Enligt det förslag på maskindirektiv som ligger kommer även AI-system med bäring på maskinens säkerhet räknas som hög-risk-maskiner framöver.

Eftersom ett AI definieras som ett system utvecklat genom maskininlärning, logik- och/eller kunskapsbaserade tekniker eller med statistiska metoder (Annex I) så är det många system som kan ses som AI-system. Om de påverkar hälsan eller säkerheten hos människor eller tillhörigheter är de att betrakta som säkerhetssystem (artikel 3.14). Autonoma funktioner och förarstödssystem kommer nog anses vara säkerhetssystem, men kanske också hybriddrivlinor eller vindrutetorkare om de kan anses ha funktionalitet utvecklad utifrån kunskapsbaserade eller statistiska metoder och tekniker och. Om de systemen fallerar kan det leda till risk för människor och ting, alltså är de säkerhetssystem enligt förslaget på reglering.

Osäkerheten i hur regleringen är tänkt att användas och vad det får för konsekvenser i ökad tillsyn och dokumentation samt böter på 30 miljoner Euro eller 6% av företagets totala omsättning (välj det som svider mest) om man inte följer regleringen kan få stora konsekvenser på var man väljer att investera framöver. 

Källor

[1]Regeringskansliet. Remiss av Europeiska kommissionens förslag till förordning om harmoniserade regler för artificiell intelligens. 2021-06-28 Länk 

[2] Eeropean Commission. Give your feedback on: Artificial intelligence – ethical and legal requirements. Länk

Lagstiftning och regelverk

Australiens lagförslag för AD-tillverkare

Den australiensiska transportkommissionen fick år 2016 i uppdrag av infrastruktur- och transportministrar att utveckla ett regelverk för automatiserade körsystem i fordon, och arbetet har resulterat i ett förslag som nyligen publicerats [1].

Förslaget berör i stora drag ansvar och skyldigheter hos aktörer som skapat ett automatiserat körsystem, så kallade Automated Driving System Entity (ADSE). Planen är att dessa ska följas upp av en framtida myndighet som bör ha en hel del insyn och auktoritet.

Källa

[1] National Transport Commission. A national in-service safety
law for automated vehicles. 2021-05 Länk

Lagstiftning och regelverk

Framsteg för tyskt regelverk

I februari skrev vi att Tyskland är på väg att införa nytt regelverk kring självkörande fordon. Nu har den ena kammaren i det tyska parlamentet, Bundestag (underhuset), godkänt ett lagförslag som i grova drag tillåter testning av självkörande fordon motsvarande SAE-nivå 4 på allmänna vägar utan någon säkerhetsförare i fordonet [1, 2]. 

Dessa fordon kommer dock vara begränsade till vissa geografiska områden. Ett annat krav är att det finns mänskligt övervakning (som de kallar ”technical supervision”) som kan avaktivera den självkörande funktionen på distans. De företag som genomför testning kommer också behöva ha en ansvarsförsäkring. 

Lagförslaget listar också exempel på initiala tillämpningar av självkörande fordon så som kollektivtrafik, affärs- och leveransresor, logistik, företagsskyttlar som transporterar anställda och resor mellan vårdcentraler och äldreboenden. Slutsatsen är att det krävs vidareutveckling innan självkörande fordon kan sättas i mer generell bruk.

Nästa steg i processen är att förslaget ska behandlas av den andra kammaren i det tyska parlamentet, Bundesrat (överhuset). 

Egen kommentar

Min tolkning är att man godkänt bara en liten portion av förslaget som presenterades tidigare i år. Från de ovanstående exemplen på applikationer att döma så rör förslaget framför allt korthållstransporter som kan ske i låg fart (läs: skyttlar och leveranspoddar). Ett bra, men rätt så begränsat steg framåt. 

Källor

[1] Deutscher Bundestag. Bundestag nimmt Gesetz zum au­tonomen Fahren an. 2021-05- Länk

[2] Bellan, R., TechCrunch. Germany gives greenlight to driverless vehicles on public roads. 2021-05-24 Länk

Lagstiftning och regelverk, Trafiksäkerhet

Ny rapportmall för olyckor i Kalifornien

Kaliforniens trafikpolis (California Highway Patrol) har tagit fram en ny typ av mall för incidentrapportering. Den nya mallen inkluderar nu fält för att rapportera involverade fordons automatiseringsnivå. Nivåerna anges i enlighet med SAE: Tesla-bilar med ”Autopilot” påslagen betecknas som tillhörandes nivå 2 och fordon från Waymo, Cruise et al betecknas som tillhörande nivå 4.

Egen kommentar

Det verkar dock oklart om rapportkoderna nu medger större detaljering kring distraktionanledning. Det kan med andra ord vara fortsatt svårt att få bra statistik på hur många krascher som beror av förare som inte hörsammar fordons uppmaning att ta över föraransvaret.

Källa

[1] Lekach, S., Mashable. If your car crashes on autopilot, California Highway Patrol wants to know. 2021-05-25 Länk

Lagstiftning och regelverk

Fackförbundens ramverk för AV

Det amerikanska fackförbundet Teamsters och transporthandelsavdelningen Transportation Trades Department som ger fackförbunden en politisk röst har tillsammans framfört ett ramverk för lagstiftning kring autonoma fordon [1, 2].

Ramverket berör testning, spridning och reglering av autonoma fordon. Främst riktar sig ramverket mot arbetare som riskerar att förlora jobbet på grund av autonoma fordon, där en av principerna i ramverket syftar till att skapa en plan för att undvika arbetsförluster och om-utbilda eller träna arbetare som förlorar sina jobb. I ramverket finns även principer kring trafiksäkerhet, konsumenträttigheter, och jobbskapande.

Källor

[1] Safe Car News. Teamsters, Transportation Trades announce worker-first AV legislative framework. 2021-05-20 Länk

[2] TTD. LABOR PRINCIPLES FOR AUTONOMOUS VEHICLE LEGISLATION. 2021-05-18 Länk

Lagstiftning och regelverk, Personbilar

Självkörande eller inte i Storbritannien

Under veckan publicerade Department of Transport i Storbritannien en redogörelse av svaren de fått in på en konsultation kring assistanssystem för filhållning (Automated Lane-Keeping Systems, ALKS) status som teknik [1]. Konsultationen syftade till att få in synpunkter på om fordon med ALKS kan registreras som autonoma och vilka utmaningar det skulle medföra.

I rapporten anses ett fordon köra sig självt även om föraren behöver ta över kontrollen på ett fördefinierat sätt. I fallet med ALKS inom 10 sekunder efter det att systemet begärt en överlämning till föraren. Det rimmar med SAE-nivå 3 då systemet bara tar över vissa uppgifter och den mänskliga föraren kan ta över om systemet begär så.

Slutsatsen efter att ha begrundat de inkomna svaren är att myndigheten förutsätter att fordon utrustade med ALKS och som är typgodkända för användande i Storbritannien kommer registreras som autonoma från och med hösten 2021. Dessa system kommer dock tillåtas endast i hastigheter upp till 60 km/h.

Bland de uppmärksammade utmaningarna nämndes hur man säkerställer att slutanvändarna och medtrafikanterna förstår teknikens funktioner och begränsningar. Här slår rapporten fast att media och myndigheter har ett gemensamt ansvar för att upplysa allmänheten om att ett fordon utrustat med ALKS inte är helautonomt utan att det har autonoma egenskaper i en given kontext

Egen kommentar

Så hur beskrivs rapportens slutsatser av myndigheter och media i Storbritannien? Först och främst är det intressant att se hur de media vi tittat på väljer att sätta själv-körande inom citationstecken när myndigheternas egna pressmaterial kör utan. Den lilla distinktionen visar sig också representera två olika förhållningssätt till hur Department of Transports beslut kommuniceras ut.

De brittiska myndigheternas gemensamma plattform GOV.UK nämner fördelarna med själv-körande fordon, såsom minskad trängsel och bättre service för de som inte kan köra en egen bil, och att de första typerna av självkörande fordon kan rulla på brittiska vägar redan till hösten [2]. Artikeln fortsätter med att påpeka att självkörande system kan reducera antalet olyckor och kommer skapa nya arbetstillfällen inom fordonsindustrin. Man avslutar med att slå fast att Storbritannien är världsledande inom innovation kring uppkopplade och självkörande fordon och att den inhemska industrin redan är igång med att ta fram nästa generation självkörande fordon. Inte ett ord om teknikens begränsningar.

BBC väljer att lyfta fram samma fördelar kring trafiksäkerhet men följer sedan upp med en mer reflekterande del där man ställer nyheten i relation till tillbud med fordon som marknadsförs med självkörande eller autonoma egenskaper. Man slår fast att det finns ett växande motstånd mot att kalla ALKS och liknande system för självkörande eftersom det vilseleder kunderna [3].  

Guardian väljer också att lyfta fram fördelarna för trafiksäkerheten men också försäkringsfrågorna och hur ansvar ska fördelas om det blir volymer i antalet ”själv-körande” fordon på vägarna. De har intervjuat Matthew Avery på Thatcham Research som slår fast att “Our concern is that the UK government is contributing to the confusion and frequent misuse of assisted driving systems that have unfortunately already led to many tragic deaths” [4].

Vilka är då fördelarna för trafiksäkerheten som alla syftar på? Jo, samtliga nyhetsmaterial lyfter fram Mike Hawes på Society of Motor Manufacturers and Traders som tycker att ”Technologies such as ALKS will pave the way for higher levels of automation in future – and these advances will unleash Britain’s potential to be a world leader in the development and use of these technologies, creating essential jobs while ensuring our roads remain among the safest on the planet”. Citatet kommer ursprungligen ifrån GOV.UK och visar på vilket genomslag en myndighets rapportering kan få. Tack och lov kunde media i det här fallet problematisera bilden, något myndigheternas gemensamma nyhetsportal inte gjorde.

Källor

[1] Department of Transport, Safe Use of Automated Lane Keeping System (ALKS) – Summary of Responses and Next Steps, april 2021 https://assets.publishing.service.gov.uk/government/uploads/system/uploads/attachment_data/file/980742/safe-use-of-automated-lane-keeping-system-alks-summary-of-responses-and-next-steps.pdf

[2] GOV.UK, Government paves the way for self-driving vehicles on UK roads, 28 april 2021 https://www.gov.uk/government/news/government-paves-the-way-for-self-driving-vehicles-on-uk-roads

[3] Cristina Criddle, ’Self-driving’ cars to be allowed on UK roads this year, BBC, 28 april 2021, https://www.bbc.com/news/technology-56906145

[4] Gwyn Topham, ‘Self-driving’ cars could get green light for use on UK motorways this year, The Guardian, 28 april 2021, https://www.theguardian.com/technology/2021/apr/28/self-driving-cars-could-get-green-light-for-use-on-uk-motorways-this-year

Artificiell intelligens, Etik, Inspiration, Lagstiftning och regelverk

EU föreslår AI-regelverk

Under veckan har EU-kommissionen presenterat förslag på nya regler och åtgärder för att göra Europa till ett globalt centrum för tillförlitlig artificiell intelligens (AI) [1]. 

Mer specifikt så har kommissionen föreslagit ett rättsligt ramverk för AI samt en ny plan på hur medlemsländerna och kommissionen bör samarbeta och samordna sina aktiviteter för attsäkerställa att AI införs i samhället på ett säkert sätt och i linje med de grundläggande rättigheterna för människor och företag samtidigt som AI-innovationer och implementering stimuleras. Utöver det är planen att ta fram nya regler för maskiner, där säkerhetsreglerna anpassas för att öka användarnas förtroende för den nya generationen av produkter. 

Förhoppningen är att dessa åtgärder ska leda till att människor kan lita på AI samt bana väg för en etisk användning av AI globalt. 

De föreslagna AI-reglerna är anpassade efter risknivån:

  • Oacceptabel risk: AI-system som anses utgöra ett hot mot människors säkerhet, försörjningsmöjligheter och rättigheter kommer att vara förbjudna. Detta inbegriper AI-system eller tillämpningar som manipulerar mänskligt beteende för att kringgå användarnas fria vilja (t.ex. leksaker som använder röstassistans som uppmuntrar minderåriga till farliga beteenden) och system som länder kan använda för ”social poängsättning”.
  • Hög risk: AI-system som anses utgöra hög risk är exempelvis AI-system som används exempelvis i kritiska infrastrukturer som transport och som kan innebära hot mot människors liv och hälsa. AI-system med hög risk kommer att omfattas av strikta skyldigheter innan de släpps ut på marknaden. Exempel på dessa skyldigheter: Loggning av åtgärder för att säkerställa spårbarheten för resultaten, detaljerad dokumentation om systemet och dess ändamål som lämnas in till myndigheter, tydlig och tillräcklig information till användaren, etc. 
  • Begränsad risk: AI-system med särskilda transparenskrav som exempelvis chattbotar som behöver vara så pass transparanta att användarna blir medvetna om att de interagerar med en maskin.
  • Minimal risk: Lagstiftningsförslaget tillåter fri användning av sådana tillämpningar som AI-stödda videospel eller skräppostfilter. Den absoluta majoriteten av AI-systemen tillhör denna kategori. 

När det gäller styrning föreslår EU-kommissionen att de nationella behöriga marknadskontrollmyndigheterna övervakar de nya reglerna. De föreslår också att det inrättas en europeisk nämnd för AI som främjar genomförandet och utvecklingen av AI-standarder. Ett annat förslag är frivilliga uppförandekoder för sådan AI som inte utgör hög risk samt ”regulatoriska sandlådor” som främjar ansvarsfull innovation.

Europaparlamentet och medlemsländerna kommer att behöva anta EU-kommissionens förslag till en europeisk strategi för AI och för maskinprodukter genom det ordinarie lagstiftningsförfarandet. När förordningarna antagits kommer de att vara direkt tillämpliga i hela EU. 

Egen kommentar

AI är en viktig teknik för framtida transporter generellt sett, och inte minst för automatiserade transporter. Personligen tycker jag att det är väldigt positivt att EU tar i ”taktpinnen” och ser till att AI-system inte skapar fler problem än nytta för samhället. Samtidigt är jag osäker på hur detta kommer att fungera i praktiken. Det återstår väl att se. 

Källor

[1] EU Commission Press release. Europe fit for the Digital Age: Commission proposes new rules and actions for excellence and trust in Artificial Intelligence. 2021-04-21 Länk

Infrastruktur, Lagstiftning och regelverk, Tester och demonstrationer

Nytt testområde i Peking

Myndigheterna i Peking har nu godkänt ett område på 225 kvadratkilometer för test och utveckling av autonoma och uppkopplade fordon [1].

Området kallas Pilot Zone och täcker in delar av Yizhuang New Town, sex motorvägar i Yizhuang och Daxing district inklusive Daxing flygplatsområde.

Testområdet skiljer sig från tidigare dedikerade vägar i Kina i det avseende att nya regler kring tester, demonstrering, kommersiella tjänster och infrastruktur kopplat till autonoma och uppkopplade fordon kommer tillämpas.

I en relaterad nyhet har Baidu Apollo fått tillstånd att testa autonoma fordon under nattetid och under svåra väderförhållanden i testområdet nämnt ovan [2]. Även Pekingbaserade företaget DiDi som har en mobilitetstjänst har fått tillstånd att testköra inom det nya test området [3].

Källor

[1] Xinhua. China Daily. Beijing maps demo zone for developing intelligent connected vehicles. 2021-04-14 Länk

[2] Apollo Auto. Baidu Apollo Awarded with China’s First Licenses to Test Autonomous Vehicles Under Night and Special Weather Conditions. 2021-04-14 Länk

[3] Yi, D., CX Tech. Didi Given Greenlight to Test Autonomous Vehicles in Beijing Pilot Zone. 2021-04-15 Länk

Lagstiftning och regelverk, Okategoriserade, Samverkan människa - maskin, Trafiksäkerhet

Krav på nivå 3 från Mobileye

I en samförfattad artikel av den verkställande direktören på Mobileye, Amnon Shashua, och den utvecklingsansvarige på Mobileye, Prof. Shai Shalev-Shwartz, diskuteras automationsnivå 3 (enligt SAE skalan) och några förslag på krav presenteras [1].

Enligt standarden J3016 från Society of Automotive Engineers (SAE) som berör automationsnivåer skiljer sig nivå 3-5 från nivå 0-2 på så sätt att 3-5 skall kunna utföra alla köruppgifter (Dynamic Driving Task: DDT) inom given designdomän (Operational Design Domain: ODD). Vidare så skall personen i förarsätet kunna ta över kontrollen av köruppgifterna omedelbart i automationsnivå 0-2 medan övertagandet av kontroll för nivå 3-5 inte sker omedelbart.

Mobileye författarna gör här en poäng kring att man i automationsnivå 3 inte kan anta ett mindre sofistikerat självkörande system än automationsnivå 4 och 5 eftersom vad som helst kan hända under den tid som personen i förarsätet har på sig att ta tillbaka kontrollen, då överföringen inte sker omedelbart. Med andra ord så kan ett automationsnivå 3 system inte endast vara designat att hantera sin ODD, utan bör klara DDT även utanför sitt ODD.

En annan del av artikeln berör det som de kallar för ”Black Swans” vilket innebär att ett system exempelvis kan göra perceptuella missar som på förhand inte går att veta om systemet kommer att göra. Man kan dock få ut en statistisk uppskattning på sådana fel där måttet ”Mean-Time-Between-Failures” (MTBF) ger en genomsnittstid för systemet innan det gör ett ”Black Swan” fel. Författarnas förslag här är att MTBF inte får vara lägre än siffror ifrån olycksstatistik med mänskliga förare för automationsnivå 3-5.

Egen kommentar

Kopplat till det här ämnet kan ni också läsa en nyligen publicerad artikel från den internationella forskargruppen HF-IRADS kallat Can the human driver be made responsible when automation is unable to handle the situation? Där lyfter fram de liknande oro som Mobileye, till och med för avancerade förarstödssytem som idag klassas som SAE-nivå 2.

Källa

[1] Amnon Shashua. Medium. On Black Swans, Failures-by-Design, and Safety of Automated Driving Systems. 2021-03-14 Länk

Lagstiftning och regelverk

Självcertifiering av autonoma fordon

De första fallstudierna inom ramen för Drive Sweden Policy Lab har nu avrapporterats.  För OmADs publik kan särskilt en rapport vara av intresse – Självcertifiering av autonoma fordon [1].

Bakgrunden till rapporten är det växande intresset för autonoma fordon på depåer för att effektivisera arbetet där. Fordonen skulle däremot vara manuellt framförda på väg. På dagen är de typgodkända för vägtrafik med manuell förare (SAE-nivå 0-2) och på natten är de i autonom drift på depån (SAE-nivå 4). Under ett och samma dygn kommer fordonen därför att glida mellan regelverken för inhägnat område (depå) respektive inte inhägnat område (väg), mellan att vara autonoma och inte autonoma. 

Utmaningen är att ett autonomt fordon per definition inte kan vara typgodkänt, så långt har inte UNECE hunnit än. Hade det framförts autonomt på väg hade man kunnat ansöka om ett försök hos Transportstyrelsen och därmed få fordonet godkänt för vägtrafik genom de undantag man anger i ansökan. Men Transportstyrelsen kan inte tillämpa försöksförordningen på fordon inom SAE-nivåerna 0-2. Eftersom fordonet inte är ett typgodkänt fordon när det är autonomt så faller alla undantag som kan göras från maskindirektivet och fordonet är då egentligen en maskin.

Rapportförfattarnas slutsats är att sådana fordon ska självcertifieras genom CE-märkning utifrån maskindirektivet för att anses säkra i autonomt läge inom depån. Och det blir Arbetsmiljöverket som får granska certifieringen om det skulle behövas. Slutsatsen är inte nödvändigtvis representativ för de andra parter som varit med i arbetet men delas av handläggare på respektive myndighet.

Egen kommentar

Vi förutspår att vi kommer att få se mer självcertifiering av autonoma fordon i framtiden. Dels för att det är så den nordamerikanska marknaden arbetar (se OmAD 19 januari 2021), dels för att det möjliggör en snabbare marknadsintroduktion av autonoma fordonskoncept (bl.a. motiveringen bakom den tyska lagändringen som medger viss självcertifiering, se OmAD 19 februari 2021). UNECEs arbete med funktionella krav kommer också kräva mer självcertifiering då varje tillverkare måste visa hur deras lösning är säker och uppfyller specifikationerna.

Med mer självcertifiering kommer också behovet av standardisering öka, både för processer och produkter. När det gäller processer kan det röra sig om hur man certifierar ett fordon, framförallt hur man gör riskanalysen. För produkter kommer standardiserade beskrivningar av teknikens funktionalitet underlätta den egna självcertifieringen då man vet hur man ska beskriva sin produkt, men också hur man kan bygga sin certifiering utifrån de ingående, redan certifierade komponenterna.

Källor

[1] Andersson K., Burden H., Stenberg, S., RISE. Självcertifiering av autonoma bussar. Mars 2021. Länk