Kategoriarkiv: Artificiell intelligens

Artificiell intelligens, HMI, Mobilitetstjänster, Samverkan människa - maskin, Tester och demonstrationer

Skyttlar på rull igen

Samåkning med självkörande skyttlar har varit något mindre hett under pandemin men börjar nu rulla igen.

I Kista har Keolis tillsammans med T-engineering, Telia, Urban ICT Arena och Intel demonstrerat ett 5G-övervakat självkörande fordon som kunnat iaktta resenärers tillstånd samt kvarglömda föremål [1].

Utanför Birmingham har storstadskommunen Solihull blivit första Engelska kommun att äga en självkörande skyttel. Den lokalt utvecklade Aurrigo-skytteln kommer under en första testperiod erbjuda resor för allmänheten till och från stadens utställningscenter [2]

Egen kommentar

I klipp som beskriver Kistatestet ses och hörs bland andra RISE-medarbetaren Sigma Dolins som presenterade sin licentiatavhandling Diagnosing Sharing Anxiety på Chalmers igår. Grattis Sigma!

Källor

[1] Intelligent Transport. Keolis trials 5G-connected, remotely monitored autonomous electric minibus. 2021-10-29 Länk

[2] Intelligent Transport. Solihull Council, UK, launches trial of fully electric autonomous shuttle. 2021-10-22 Länk

Artificiell intelligens, Lagstiftning och regelverk

EUs förslag till reglering av AI

EU-kommissionen har lagt fram ett förslag på reglering av artificiell intelligens (AI). Förslaget består av fyra delar:

  • Direktivet (artiklarna som kommer gälla som lag i Sverige)
  • Explanatory memorandum (argumenten för reglering, laglig grund och sammanfattning av direktivet)
  • Ingress (mer detaljerad argumentation och förklaringar till artiklarna)
  • Annex (definitioner och listor i ett eget dokument)

Kommissionens remisstid för förslaget är öppen fram till den 6 augusti 2021 medan Infrastrukturdepartementet stängde sin i samband med midsommar. Man kan se vilka svar som kom in till Infrastrukturdepartementet samt hitta länkar till förslaget på departementets hemsida [1]. Svar till EU-kommissionen kan ges via deras hemsida [2].

När det gäller automatiserad körning är det värt att lyfta fram relationen till fordon och maskiner. EU reglerar produkter genom två grupper av direktiv – Old Approach Legislation och New Legislative Format. Den första gruppen täcker produkter vars reglering bestäms av internationella organisationer utanför EUs kontroll, såsom UNECEs fordonstyper. Den andra gruppen täcker produkter som EU har ensam kontroll över, såsom maskiner.

I relation till automatiserad körning vill kommissionen reglera AI-system som utgör eller ingår i ett säkerhetssystem (artikel 6) om det sitter i en maskin. Därmed gäller det inte bara gula maskiner utan också produktionsmaskiner. De verktyg som används för framtagandet av AI-systemen kommer också falla under regleringen eftersom de ska omfattas av kvalitetsarbetet (artikel 17). För tillfället kan de inte bestämma över fordon (artikel 2). Det är däremot kommissionens uttryckliga vilja att regleringen snarast möjligt ska gälla även personbilar, lastbilar och bussar med mera (explanatory memorandum 1.2 och ingress 29).

Egen kommentar

Det är inte enkelt att förstå vad som ryms inom förslaget på AI-reglering och inte. Det kräver att man läser andra direktiv för att se helheten, såsom maskindirektivet. Enligt maskindirektivet från 2006 är maskiner med säkerhetssystem som upptäcker människor att betrakta som hög-risk-maskiner och då behöver en tredje part vara med i certifieringsprocessen (maskindirektivet artikel 12 med annex VIII, IX och X). Då gäller AI-regleringen (artikel 6.2). Enligt det förslag på maskindirektiv som ligger kommer även AI-system med bäring på maskinens säkerhet räknas som hög-risk-maskiner framöver.

Eftersom ett AI definieras som ett system utvecklat genom maskininlärning, logik- och/eller kunskapsbaserade tekniker eller med statistiska metoder (Annex I) så är det många system som kan ses som AI-system. Om de påverkar hälsan eller säkerheten hos människor eller tillhörigheter är de att betrakta som säkerhetssystem (artikel 3.14). Autonoma funktioner och förarstödssystem kommer nog anses vara säkerhetssystem, men kanske också hybriddrivlinor eller vindrutetorkare om de kan anses ha funktionalitet utvecklad utifrån kunskapsbaserade eller statistiska metoder och tekniker och. Om de systemen fallerar kan det leda till risk för människor och ting, alltså är de säkerhetssystem enligt förslaget på reglering.

Osäkerheten i hur regleringen är tänkt att användas och vad det får för konsekvenser i ökad tillsyn och dokumentation samt böter på 30 miljoner Euro eller 6% av företagets totala omsättning (välj det som svider mest) om man inte följer regleringen kan få stora konsekvenser på var man väljer att investera framöver. 

Källor

[1]Regeringskansliet. Remiss av Europeiska kommissionens förslag till förordning om harmoniserade regler för artificiell intelligens. 2021-06-28 Länk 

[2] Eeropean Commission. Give your feedback on: Artificial intelligence – ethical and legal requirements. Länk

Artificiell intelligens, Lastbilar

Waabi satsar på lastbilar

Waabi är namnet på ett nytt startuppföretag från Toronto som utvecklar mjukvara som möjliggör automatiserad körning [1]. Siktet är inställt främst mot att automatisera långdistanstransporter med lastbilar. 

Enligt företaget själva har de en “AI-first approach” som i grova drag betyder att de kombinerar djupa neurala nätverk med mer traditionella statistiska metoder. Detta för att göra beslutsprocessen mer spårbar och för att undvika att lära de neurala nätverken allt från grunden. Förhoppningen är att på det här viset kunna skala upp tekniken snabbare och billigare än andra aktörer. 

Waabi grundades av Raquel Urtasun som har arbetat med datorseende på bl.a. Uber Advanced Technology Group (innan de köptes upp av Aurora). Företaget har fått en finansiering på 83,5 miljoner dollar av en del tunga aktörer inklusive Khosla Ventures, 8VC, Radical Ventures, OMERS Ventures, BDC, Uber och Aurora.

Företaget har kontor i Toronto och i Kalifornien.  

Egen kommentar

Att Waabi grundats och leds av en kvinna, som dessutom fått stöd av så många tunga aktörer, har väckt stor uppmärksamhet i media. Waabi är alltså ett av väldigt få startuppföretag som arbetar med automatiserad körning som grundats av en kvinna. Exempel på andra startuppföretag som leds av kvinnor är Zoox och Waymo, men ingen av dem har grundat dessa företag. I Sverige har vi Linnéa Kornehed Falck som är Einrides medgrundare. Låt oss hoppas att vi snart får fler ”Linnéor”!

För övrigt är det svårt att säga vad som skiljer Waabi från alla andra liknande startuppföretag. Men att de lockat så stor investering, inte minst från Aurora som själva utvecklar mjukvara för automatiserad körning, är optimistiskt och jag gissar på att de har något kort i rockärmen som inte framgår i media. 

Källor

[1] Waabi. Waabi launches to build a pathway to commercially viable, scalable autonomous driving. 2021-06-08 Länk

Artificiell intelligens, Mjukvara

Kör en egen algoritm i ditt självkörande system?

Skribenten Priya Dialani spekulerade nyligen på Analytics Insights om ett möjligt framtida koncept inom självkörande fordon: ”Bring Your Own Algorithm” (BYOA). Textens innehåll må vara verklighetsfrånvänd, men den väcker samtidigt visionära tankar om öppen innovation inom fordonsbranschen.

Bakgrunden till notisen förstås bäst utifrån den crowdsourcing som blivit populär inom data science. Med hjälp av gamification och prispengar lockas data scientists till plattformar som Kaggle för att tävla med sina maskininlärningsmodeller. Företag och organisationer, dvs. Kaggles kunder, publicerar olika problem. Kaggle i sin tur erbjuder infrastruktur för att snabbt hjälpa tävlande att komma igång med lösningsorienterat arbete. Topplistor sporrar de tävlande att lägga tid på att föreslå avancerade lösningar – de som placerar sig högt på listorna är ständigt hett villebråd för rekryterare.

Priya tar som exempel upp satsningen C2 Labs Fight Against Cancer. I likhet med Kaggle erbjuder C2 Labs en infrastruktur där data scientists kan bidra med sin expertis för att träna modeller i kampen mot cancer. C2 Labs menar att de varken har medicinsk domänexpertis eller tillräckligt många data scientists, däremot är de experter på DevOps och automation av arbetsflöden. Bolaget hävdar att de erbjuder tredje part att ”Bring Your Own Algorithm” (BYOA) i deras plug-and-play-miljö för att påskynda utvecklingen.

Vore det möjligt att flytta konceptet till fordonsindustrin? Kan en infrastruktur som möjliggör BYOA stimulera öppen innovation? Det är välkänt att enorma kreativa krafter finns tillgängliga på andra geografiska platser samt att ”de flesta smarta människor arbetar någon annanstans.” Fordonsbranschen har redan publicerat flera dataset på Kaggle och fordonsperception används ofta för benchmarking av maskininlärningsmodeller. Kan man gå längre än så?

Priyas kristallkula indikerar att smarta telefoner kan möjliggöra för förare att BYOA till en självkörande bil i drift. Hon tänker sig att efter godkänd handskakning mellan telefon och bil så skulle personliga algoritmer för vägval och ruttpreferenser kunna förmedlas. Där slutar Priyas tankeexperiment. Hur skulle den tekniska infrastrukturen se ut? Hur skulle sådana lösningar kunna kvalitetssäkras? Kan man någonsin BYOA för något mer känsligt än inställning av förarsätet och infotainment? Priyas notis och tankar är långt ifrån genomarbetade, men något i resonemanget väcker mitt intresse.

Källor

Dialani P., Analytics Insight. Self-Driving Cars can now have Bring Your Own Algorithm (BYOA). 2021-04-04 Länk

Artificiell intelligens, Etik, Fordon, HMI, Inspiration, Mjukvara, Okategoriserade, Samverkan människa - maskin

Varför behövs Explainable AI (XAI)?

Våra liv är fyllda av förklaringar. Vi går till doktorn för att få vår onda axel undersökt. Doktorn säger till dig att vila armen och undvik tunga lyft. Dessutom får du ett recept på ett läkemedel. Du undrar direkt, varför behöver jag ta medicin? Du vill också få reda på vilken diagnos doktorn ställt på min axel? Och hur lång tid kommer det ta innan den blir bra? Du frågar efter mängder av förklaringar.

Legendaren Lance Eliot har skrivit en artikel om varför förklarande AI (Explainable AI, XAI) behövs för autonoma fordon [1].

Utmaningen ligger i att ställa rätt fråga och att den som förklarar förstår på vilken nivå förklaringen ska ges. Inte sällan sker förklaringen under en dialog allteftersom mer och mer information faller på plats hos den som ställer frågor.  

När människor interagerar sker denna dialog naturligt. Men vad händer om vi interagerar med en maskin, ett system eller ett autonomt fordon? Inga av dagens AI-baserade system har tillräcklig förmåga att fullständigt känna igen en människas beteende eller tal och därmed får AI-systemet problem att kunna engageras i en naturlig dialog med sina användare.

Tänk dig situationen när du åker i ett autonomt fordon som plötsligt tar en annan rutt än den vanliga eller att fordonet du färdas i plötsligt bromsar kraftigt. I ett vanligt fordon skulle du fråga chauffören varför detta plötsliga beteende. Men hur ska det ske i ett fordon utan mänsklig förare? Ska passageraren koppla upp sig till kundtjänst eller fjärrkontrollcenter?  Det skulle inte skala särskilt bra med flera hundra tusen fordon som samtidigt är ute och kör.

XAI är en mycket viktig komponent för att skapa autonoma fordon. Lämpliga och lägliga förklaringar till fordonets beteende kan vara avgörande för att vi användare ska kunna lita på fordonet.

Sammanfattningsvis, vi som åker med autonoma fordon kommer vilja ha förklaringar av olika slag från fordonet. Ett kostnadseffektivt och lättillgängligt system som kan ge dessa förklaringar skulle förkroppsligas av ett XAI som baseras på det AI-system som kör fordonet.

Egen kommentar

Som AI forskare inses lätt nyttan med denna typ av system, tänk om Alexa eller Siri förstod allt jag vill eller undrar! Samtidigt finns ett spännande kunskapsgap mellan vad som är möjligt att visualisera med avseende på information som ligger till grund för ett beslut i ett AI/Machine learning-system och ett system som kan interagera med en användare och som förstår innebörden av grunderna i beslutet.

Källa

[1] Lance, E, Forbes. Explaining Why Explainable AI (XAI) Is Needed For Autonomous Vehicles And Especially Self-Driving Cars. 2021-04-24 Länk

Artificiell intelligens, Etik, Inspiration, Lagstiftning och regelverk

EU föreslår AI-regelverk

Under veckan har EU-kommissionen presenterat förslag på nya regler och åtgärder för att göra Europa till ett globalt centrum för tillförlitlig artificiell intelligens (AI) [1]. 

Mer specifikt så har kommissionen föreslagit ett rättsligt ramverk för AI samt en ny plan på hur medlemsländerna och kommissionen bör samarbeta och samordna sina aktiviteter för attsäkerställa att AI införs i samhället på ett säkert sätt och i linje med de grundläggande rättigheterna för människor och företag samtidigt som AI-innovationer och implementering stimuleras. Utöver det är planen att ta fram nya regler för maskiner, där säkerhetsreglerna anpassas för att öka användarnas förtroende för den nya generationen av produkter. 

Förhoppningen är att dessa åtgärder ska leda till att människor kan lita på AI samt bana väg för en etisk användning av AI globalt. 

De föreslagna AI-reglerna är anpassade efter risknivån:

  • Oacceptabel risk: AI-system som anses utgöra ett hot mot människors säkerhet, försörjningsmöjligheter och rättigheter kommer att vara förbjudna. Detta inbegriper AI-system eller tillämpningar som manipulerar mänskligt beteende för att kringgå användarnas fria vilja (t.ex. leksaker som använder röstassistans som uppmuntrar minderåriga till farliga beteenden) och system som länder kan använda för ”social poängsättning”.
  • Hög risk: AI-system som anses utgöra hög risk är exempelvis AI-system som används exempelvis i kritiska infrastrukturer som transport och som kan innebära hot mot människors liv och hälsa. AI-system med hög risk kommer att omfattas av strikta skyldigheter innan de släpps ut på marknaden. Exempel på dessa skyldigheter: Loggning av åtgärder för att säkerställa spårbarheten för resultaten, detaljerad dokumentation om systemet och dess ändamål som lämnas in till myndigheter, tydlig och tillräcklig information till användaren, etc. 
  • Begränsad risk: AI-system med särskilda transparenskrav som exempelvis chattbotar som behöver vara så pass transparanta att användarna blir medvetna om att de interagerar med en maskin.
  • Minimal risk: Lagstiftningsförslaget tillåter fri användning av sådana tillämpningar som AI-stödda videospel eller skräppostfilter. Den absoluta majoriteten av AI-systemen tillhör denna kategori. 

När det gäller styrning föreslår EU-kommissionen att de nationella behöriga marknadskontrollmyndigheterna övervakar de nya reglerna. De föreslår också att det inrättas en europeisk nämnd för AI som främjar genomförandet och utvecklingen av AI-standarder. Ett annat förslag är frivilliga uppförandekoder för sådan AI som inte utgör hög risk samt ”regulatoriska sandlådor” som främjar ansvarsfull innovation.

Europaparlamentet och medlemsländerna kommer att behöva anta EU-kommissionens förslag till en europeisk strategi för AI och för maskinprodukter genom det ordinarie lagstiftningsförfarandet. När förordningarna antagits kommer de att vara direkt tillämpliga i hela EU. 

Egen kommentar

AI är en viktig teknik för framtida transporter generellt sett, och inte minst för automatiserade transporter. Personligen tycker jag att det är väldigt positivt att EU tar i ”taktpinnen” och ser till att AI-system inte skapar fler problem än nytta för samhället. Samtidigt är jag osäker på hur detta kommer att fungera i praktiken. Det återstår väl att se. 

Källor

[1] EU Commission Press release. Europe fit for the Digital Age: Commission proposes new rules and actions for excellence and trust in Artificial Intelligence. 2021-04-21 Länk

Artificiell intelligens, Funktioner, Personbilar, Tester och demonstrationer

Waymo delar mer data

Waymo har redan öppnat upp delar av data från sina självkörande fordon via Waymo Open Dataset som nu utökats med 570 timmar av annoterad kördata. Det handlar framförallt om röresledata som kan användas för att förutsäga beteende och rörelse i trafiken.

Den nya datamängden är insamlad i San Francisco, Phoenix, Mountain View, Los Angeles, Detroit och Seattle och innehåller interaktioner mellan fordon och olika trafikanter, inklusive fotgängare och cyklister. Varje datasegment är 20 sekunder långt och länkat till en karta. Annoteringen av datasegmenten har gjorts i efterhand och företaget har också publicerat en artikel som beskriver tekniker och algoritmer som tillämpats för detta. Dessutom har de publicerat en sammanställning av interaktionsmått för att underlätta validering av modeller. 

I samband med det har företaget lanserat en ny upplaga av sin tävling som inkluderar fyra utmaningar: prediktering av rörelse, prediktering av interaktioner, realtids 2D-detekterin samt realtids 3D-detektering. Är ni redo för någon av dessa utmaningar?! Deadline är den 31 maj 2021.

Egen kommentar

Jag tror att många (framtida) utvecklare kommer ha glädje av den nya datamängden, och är nyfikna på andra öppna datamängder så kan vi tipsa om följande:

Källor

[1] Waymo. Expanding the Waymo Open Dataset with Interactive Scenario Data and New Challenges. 2021-03-10 Länk

Arbetsmaskiner, Artificiell intelligens, Bussar, Distributionsfordon, Funktionell säkerhet, Lastbilar, Simulering, Trafiksäkerhet

Volvo verifierar

Volvo Group har ingått partnerskap med det Israeliska verifieringsbolaget Foretellix för att skapa en lösning som kan utvärdera och validera autonoma fordon i stor skala [1].

Lösningen bygger på den plattform vi nämnde i september. Säkerhet, beteenden och effektivitet ska utvärderas för maskiner och fordon i olika slags miljöer, inklusive begränsade utrymmen som till exempel gruvor.

Källor

[1] Volvo Group. Volvo Autonomous Solutions forms Partnership with Foretellix 2021-03-02 Länk

Artificiell intelligens, Elektronik och processorer

Nvidias säkerhetsrapport

Nvidia har publicerat en säkerhetsrapport som beskriver hur företaget arbetar med att säkerställa att autonom körning är säker [1]. De har delat upp sin process i fyra delar:

  • AI design- och implementeringsplattform
  • Utvecklingsinfrastruktur som stödjer djupinlärning (eng. deep learning)
  • Datacenter för robust simulering och testning
  • Ett grundligt säkerhetsprogram

Betoningen i processen ligger på redundans och mångfald i allting – från algoritmer till hårdvara och utvärderingsmetoder. 

Källor

[1] Nvidia Self-driving safety report. Februari 2021. Länk

Artificiell intelligens, Infrastruktur, Kooperativa system, Positionering, Samhällspåverkan, Sensorer, Tester och demonstrationer

Smarta trafikljus

Data som utbyts mellan fordon och dess omgivning har potential till att förbättra trafikflöden. I Pittsburgh testades under några veckor förra året femton fordon från VW- och Fordägda Argo AI tillsammans med ett system med adaptiva trafikljussystem från Rapid Flow Technologies [1].

Det smarta trafikljus-systemet har tidigare kunnat förbättra flödena utan att trafikanter och fordon aktivt skickar data. Denna effekt verkar ha förstärkts rejält med hjälp av data från de självkörande fordonen.

Egen kommentar

Att trafikljus anpassar sig till fordonsdata är en sak. Om fordonen samtidigt också agerar på liknande data skulle komplexitetsgraden öka rejält. Potentiellt skulle det kunna innebära suboptimering som motverkar positiva systemeffekter. Frågan är var intelligensen bör sitta: Hos fordonen/ägarna/fordonstillverkarna, hos infrastrukturägarna, eller om/hur den ska fördelas.

Källa

[1] James, A., Autonomous Vehicle International. Argo AI self-driving cars help slash city travel times in V2X trial. 2021-02-22 Länk