Kategoriarkiv: Artificiell intelligens

Kör en egen algoritm i ditt självkörande system?

Skribenten Priya Dialani spekulerade nyligen på Analytics Insights om ett möjligt framtida koncept inom självkörande fordon: ”Bring Your Own Algorithm” (BYOA). Textens innehåll må vara verklighetsfrånvänd, men den väcker samtidigt visionära tankar om öppen innovation inom fordonsbranschen.

Bakgrunden till notisen förstås bäst utifrån den crowdsourcing som blivit populär inom data science. Med hjälp av gamification och prispengar lockas data scientists till plattformar som Kaggle för att tävla med sina maskininlärningsmodeller. Företag och organisationer, dvs. Kaggles kunder, publicerar olika problem. Kaggle i sin tur erbjuder infrastruktur för att snabbt hjälpa tävlande att komma igång med lösningsorienterat arbete. Topplistor sporrar de tävlande att lägga tid på att föreslå avancerade lösningar – de som placerar sig högt på listorna är ständigt hett villebråd för rekryterare.

Priya tar som exempel upp satsningen C2 Labs Fight Against Cancer. I likhet med Kaggle erbjuder C2 Labs en infrastruktur där data scientists kan bidra med sin expertis för att träna modeller i kampen mot cancer. C2 Labs menar att de varken har medicinsk domänexpertis eller tillräckligt många data scientists, däremot är de experter på DevOps och automation av arbetsflöden. Bolaget hävdar att de erbjuder tredje part att ”Bring Your Own Algorithm” (BYOA) i deras plug-and-play-miljö för att påskynda utvecklingen.

Vore det möjligt att flytta konceptet till fordonsindustrin? Kan en infrastruktur som möjliggör BYOA stimulera öppen innovation? Det är välkänt att enorma kreativa krafter finns tillgängliga på andra geografiska platser samt att ”de flesta smarta människor arbetar någon annanstans.” Fordonsbranschen har redan publicerat flera dataset på Kaggle och fordonsperception används ofta för benchmarking av maskininlärningsmodeller. Kan man gå längre än så?

Priyas kristallkula indikerar att smarta telefoner kan möjliggöra för förare att BYOA till en självkörande bil i drift. Hon tänker sig att efter godkänd handskakning mellan telefon och bil så skulle personliga algoritmer för vägval och ruttpreferenser kunna förmedlas. Där slutar Priyas tankeexperiment. Hur skulle den tekniska infrastrukturen se ut? Hur skulle sådana lösningar kunna kvalitetssäkras? Kan man någonsin BYOA för något mer känsligt än inställning av förarsätet och infotainment? Priyas notis och tankar är långt ifrån genomarbetade, men något i resonemanget väcker mitt intresse.

Källor

Dialani P., Analytics Insight. Self-Driving Cars can now have Bring Your Own Algorithm (BYOA). 2021-04-04 Länk

Varför behövs Explainable AI (XAI)?

Våra liv är fyllda av förklaringar. Vi går till doktorn för att få vår onda axel undersökt. Doktorn säger till dig att vila armen och undvik tunga lyft. Dessutom får du ett recept på ett läkemedel. Du undrar direkt, varför behöver jag ta medicin? Du vill också få reda på vilken diagnos doktorn ställt på min axel? Och hur lång tid kommer det ta innan den blir bra? Du frågar efter mängder av förklaringar.

Legendaren Lance Eliot har skrivit en artikel om varför förklarande AI (Explainable AI, XAI) behövs för autonoma fordon [1].

Utmaningen ligger i att ställa rätt fråga och att den som förklarar förstår på vilken nivå förklaringen ska ges. Inte sällan sker förklaringen under en dialog allteftersom mer och mer information faller på plats hos den som ställer frågor.  

När människor interagerar sker denna dialog naturligt. Men vad händer om vi interagerar med en maskin, ett system eller ett autonomt fordon? Inga av dagens AI-baserade system har tillräcklig förmåga att fullständigt känna igen en människas beteende eller tal och därmed får AI-systemet problem att kunna engageras i en naturlig dialog med sina användare.

Tänk dig situationen när du åker i ett autonomt fordon som plötsligt tar en annan rutt än den vanliga eller att fordonet du färdas i plötsligt bromsar kraftigt. I ett vanligt fordon skulle du fråga chauffören varför detta plötsliga beteende. Men hur ska det ske i ett fordon utan mänsklig förare? Ska passageraren koppla upp sig till kundtjänst eller fjärrkontrollcenter?  Det skulle inte skala särskilt bra med flera hundra tusen fordon som samtidigt är ute och kör.

XAI är en mycket viktig komponent för att skapa autonoma fordon. Lämpliga och lägliga förklaringar till fordonets beteende kan vara avgörande för att vi användare ska kunna lita på fordonet.

Sammanfattningsvis, vi som åker med autonoma fordon kommer vilja ha förklaringar av olika slag från fordonet. Ett kostnadseffektivt och lättillgängligt system som kan ge dessa förklaringar skulle förkroppsligas av ett XAI som baseras på det AI-system som kör fordonet.

Egen kommentar

Som AI forskare inses lätt nyttan med denna typ av system, tänk om Alexa eller Siri förstod allt jag vill eller undrar! Samtidigt finns ett spännande kunskapsgap mellan vad som är möjligt att visualisera med avseende på information som ligger till grund för ett beslut i ett AI/Machine learning-system och ett system som kan interagera med en användare och som förstår innebörden av grunderna i beslutet.

Källa

[1] Lance, E, Forbes. Explaining Why Explainable AI (XAI) Is Needed For Autonomous Vehicles And Especially Self-Driving Cars. 2021-04-24 Länk

EU föreslår AI-regelverk

Under veckan har EU-kommissionen presenterat förslag på nya regler och åtgärder för att göra Europa till ett globalt centrum för tillförlitlig artificiell intelligens (AI) [1]. 

Mer specifikt så har kommissionen föreslagit ett rättsligt ramverk för AI samt en ny plan på hur medlemsländerna och kommissionen bör samarbeta och samordna sina aktiviteter för attsäkerställa att AI införs i samhället på ett säkert sätt och i linje med de grundläggande rättigheterna för människor och företag samtidigt som AI-innovationer och implementering stimuleras. Utöver det är planen att ta fram nya regler för maskiner, där säkerhetsreglerna anpassas för att öka användarnas förtroende för den nya generationen av produkter. 

Förhoppningen är att dessa åtgärder ska leda till att människor kan lita på AI samt bana väg för en etisk användning av AI globalt. 

De föreslagna AI-reglerna är anpassade efter risknivån:

  • Oacceptabel risk: AI-system som anses utgöra ett hot mot människors säkerhet, försörjningsmöjligheter och rättigheter kommer att vara förbjudna. Detta inbegriper AI-system eller tillämpningar som manipulerar mänskligt beteende för att kringgå användarnas fria vilja (t.ex. leksaker som använder röstassistans som uppmuntrar minderåriga till farliga beteenden) och system som länder kan använda för ”social poängsättning”.
  • Hög risk: AI-system som anses utgöra hög risk är exempelvis AI-system som används exempelvis i kritiska infrastrukturer som transport och som kan innebära hot mot människors liv och hälsa. AI-system med hög risk kommer att omfattas av strikta skyldigheter innan de släpps ut på marknaden. Exempel på dessa skyldigheter: Loggning av åtgärder för att säkerställa spårbarheten för resultaten, detaljerad dokumentation om systemet och dess ändamål som lämnas in till myndigheter, tydlig och tillräcklig information till användaren, etc. 
  • Begränsad risk: AI-system med särskilda transparenskrav som exempelvis chattbotar som behöver vara så pass transparanta att användarna blir medvetna om att de interagerar med en maskin.
  • Minimal risk: Lagstiftningsförslaget tillåter fri användning av sådana tillämpningar som AI-stödda videospel eller skräppostfilter. Den absoluta majoriteten av AI-systemen tillhör denna kategori. 

När det gäller styrning föreslår EU-kommissionen att de nationella behöriga marknadskontrollmyndigheterna övervakar de nya reglerna. De föreslår också att det inrättas en europeisk nämnd för AI som främjar genomförandet och utvecklingen av AI-standarder. Ett annat förslag är frivilliga uppförandekoder för sådan AI som inte utgör hög risk samt ”regulatoriska sandlådor” som främjar ansvarsfull innovation.

Europaparlamentet och medlemsländerna kommer att behöva anta EU-kommissionens förslag till en europeisk strategi för AI och för maskinprodukter genom det ordinarie lagstiftningsförfarandet. När förordningarna antagits kommer de att vara direkt tillämpliga i hela EU. 

Egen kommentar

AI är en viktig teknik för framtida transporter generellt sett, och inte minst för automatiserade transporter. Personligen tycker jag att det är väldigt positivt att EU tar i ”taktpinnen” och ser till att AI-system inte skapar fler problem än nytta för samhället. Samtidigt är jag osäker på hur detta kommer att fungera i praktiken. Det återstår väl att se. 

Källor

[1] EU Commission Press release. Europe fit for the Digital Age: Commission proposes new rules and actions for excellence and trust in Artificial Intelligence. 2021-04-21 Länk

Waymo delar mer data

Waymo har redan öppnat upp delar av data från sina självkörande fordon via Waymo Open Dataset som nu utökats med 570 timmar av annoterad kördata. Det handlar framförallt om röresledata som kan användas för att förutsäga beteende och rörelse i trafiken.

Den nya datamängden är insamlad i San Francisco, Phoenix, Mountain View, Los Angeles, Detroit och Seattle och innehåller interaktioner mellan fordon och olika trafikanter, inklusive fotgängare och cyklister. Varje datasegment är 20 sekunder långt och länkat till en karta. Annoteringen av datasegmenten har gjorts i efterhand och företaget har också publicerat en artikel som beskriver tekniker och algoritmer som tillämpats för detta. Dessutom har de publicerat en sammanställning av interaktionsmått för att underlätta validering av modeller. 

I samband med det har företaget lanserat en ny upplaga av sin tävling som inkluderar fyra utmaningar: prediktering av rörelse, prediktering av interaktioner, realtids 2D-detekterin samt realtids 3D-detektering. Är ni redo för någon av dessa utmaningar?! Deadline är den 31 maj 2021.

Egen kommentar

Jag tror att många (framtida) utvecklare kommer ha glädje av den nya datamängden, och är nyfikna på andra öppna datamängder så kan vi tipsa om följande:

Källor

[1] Waymo. Expanding the Waymo Open Dataset with Interactive Scenario Data and New Challenges. 2021-03-10 Länk

Volvo verifierar

Volvo Group har ingått partnerskap med det Israeliska verifieringsbolaget Foretellix för att skapa en lösning som kan utvärdera och validera autonoma fordon i stor skala [1].

Lösningen bygger på den plattform vi nämnde i september. Säkerhet, beteenden och effektivitet ska utvärderas för maskiner och fordon i olika slags miljöer, inklusive begränsade utrymmen som till exempel gruvor.

Källor

[1] Volvo Group. Volvo Autonomous Solutions forms Partnership with Foretellix 2021-03-02 Länk

Nvidias säkerhetsrapport

Nvidia har publicerat en säkerhetsrapport som beskriver hur företaget arbetar med att säkerställa att autonom körning är säker [1]. De har delat upp sin process i fyra delar:

  • AI design- och implementeringsplattform
  • Utvecklingsinfrastruktur som stödjer djupinlärning (eng. deep learning)
  • Datacenter för robust simulering och testning
  • Ett grundligt säkerhetsprogram

Betoningen i processen ligger på redundans och mångfald i allting – från algoritmer till hårdvara och utvärderingsmetoder. 

Källor

[1] Nvidia Self-driving safety report. Februari 2021. Länk

Smarta trafikljus

Data som utbyts mellan fordon och dess omgivning har potential till att förbättra trafikflöden. I Pittsburgh testades under några veckor förra året femton fordon från VW- och Fordägda Argo AI tillsammans med ett system med adaptiva trafikljussystem från Rapid Flow Technologies [1].

Det smarta trafikljus-systemet har tidigare kunnat förbättra flödena utan att trafikanter och fordon aktivt skickar data. Denna effekt verkar ha förstärkts rejält med hjälp av data från de självkörande fordonen.

Egen kommentar

Att trafikljus anpassar sig till fordonsdata är en sak. Om fordonen samtidigt också agerar på liknande data skulle komplexitetsgraden öka rejält. Potentiellt skulle det kunna innebära suboptimering som motverkar positiva systemeffekter. Frågan är var intelligensen bör sitta: Hos fordonen/ägarna/fordonstillverkarna, hos infrastrukturägarna, eller om/hur den ska fördelas.

Källa

[1] James, A., Autonomous Vehicle International. Argo AI self-driving cars help slash city travel times in V2X trial. 2021-02-22 Länk

VW tar hjälp av Microsoft

Microsoft har meddelat att de kommer stötta VW i deras omvandling till mjukvarubaserad mobilitetsleverantör. Det ska till exempel handla om kunskaper samt kapacitet för maskininlärning och molnlösningar. Lösningarna kommer bland annat att lägga grunden för en molnbaserad Automated Driving Platform för framtida självkörande fordon från VW [1].

VW Group uppger att de planerar investera motsvarande ungefär 270 miljarder kronor i att digitalisera sina fordon fram till 2025 [2].

Egen kommentar

Även om partnerskapet är byggt för att utvecklas ger sig alltså Microsoft med detta inte in på fordonsutveckling utan verkar ”bara” erbjuda sin kärnverksamhet: att stötta andra med it-lösningar och konsulttjänster. Här kan ni läsa om ett liknande samarbete med GMs dotterbolag Cruise.

270 miljarder är en hissnande siffra men kan förstås antas inte enbart syfta på nysatsningar.

Källor

[1] Microsoft News Center. Volkswagen Group teams up with Microsoft to accelerate the development of automated driving. 2021-02-10 Länk

[2] Ramey, J., Autoweek. VW and Microsoft Are Teaming up to Develop Autonomous Driving Tech. 2021-02-12 Länk

Ett nytt AI-Labb

Ett så kallat Edge Lab har lanserats i ett samarbete mellan flera aktörer däribland AI Sweden, Zenseact, Hewlett Packard Enterprise, Ericsson och Volvo Cars [1].

Utveckling av AI teknik medför ett antal juridiska och kostnadsmässiga utmaningar då det innebär förflyttning och hantering av stora mängder data för träningen av algoritmer. I det nya Edge Lab ska man nu jobba med decentraliserat lärande (eng. distributed learning) vilket innebär att algoritmer tränas utanför sin centralpunkt och att man sedan endast förflyttar själva algoritmen och inte datat som tränade algoritmen.

Investeringarna som görs i det nya Edge Lab beräknas nå 30 miljoner kronor under 2021. Man hoppas att labbet ska kunna bli en samarbetsplattform mellan industri, forskning och offentlig verksamhet.

Egen kommentar

För tillfället är det oklart hur stor betoning som Edge Lab kommer ha på självkörande fordon. I vilket fall som helst så kommer det säkerligen stärka utvecklingen eftersom distribuerat lärande är viktigt för självkörande förmåga.

Källa

[1] AI Sweden. AI Sweden, Zenseact, Hewlett Packard Enterprise, Ericsson och Volvo Cars lanserar världsledande AI-labb 27.1.2021 09:00:00 CET | AI Sweden. 2021-01-27 Länk

Det här har hänt under julen: Del I

Skrivet av Daban Rizgary och Azra Habibovic

Pilot för självkörande skyttelbuss. Nu är det dags igen för den självkörande skyttelbussen som åker mellan Regnbågsgatan och Hugo Hammars kaj på Lindholmen! Den här gången som en del av ordinarie kollektivtrafik. Projektet S3 leds av RISE och tjänsten är tillgänglig fram till slutet av maj. Resorna går att söka i Västtrafikappen To Go och det är gratis att åka. Länk1 Länk2

Veoneers, Imagimobs och Pionates ML projekt. Det svenska AI-företaget Imagimob meddelar att de färdigställt ett projekt tillsammans med Veoneer och Pionate där en maskininlärningsmodell utvecklats och tillämpats för att upptäcka filbyten. Modellen har införts i Pionates plattform och fördelen med plattformen är att den kan installeras i fordon utan att kräva några ändringar i fordonet, samt att den bearbetar data ifrån fordon i realtid och med klassificering som sker lokalt i systemet. Projektet har finansierats av Vinnova och MobilityXLab. Länk

ID Buzz försenad till 2023. Volkswagens eldrivna buss vid namn ID Buzz som var planerad till 2022 blir nu försenad till 2023. Det sägs att förseningen beror på en prioriteringsmiss på VW fabriken i Hanover. Länk

Baidu och Geely ska utveckla autonoma fordon. Det kinesiska sökmotorjätten Baidu och fordonstillverkaren Geely har meddelat att de skapar ett företag för utveckling av eldrivna och autonoma fordon. Baidu kommer fokusera på mjukvaran och Geely ansvarar för utformningen och tillverkningen av fordonen. Ja, konkurrensen börjar tätna! Länk

Nio i nya samarbeten. Kinesiska nykomlingen Nio har meddelat att Nvidias Drive Orin system-on-a-chip (SoC) samt Qualcomms 5g plattform och Snapdragon Automotive Cockpit kommer finnas i nästa upplaga av dess elfordon. Cockpit lösningen från Qualcomm är alltså ett gränssnittspaket med bl.a. flera skärmar och instrumentbräda. Länk

Tesla ombeds återkalla 158 000 bilar. Detta efter att en undersökning från den amerikanska säkerhetsorganisationen NHTSA visat att pekskärmen slutar fungera i vissa av Model S (2012-2018) och Model X (2016-2018). Felet sägs bero på att en hårddisk i systemet blir full, vilket då kräver hårdvarubyte. Detta är ett av felen som helt enkelt får inte inträffa. Det intressanta i sammanhanget är att Tesla kopplat bilens vitala säkerhetsfunktioner så som hastighetsindikator till samma pekskärm, och när den slutar fungera så utgör bilen en säkerhetsfara. Länk

General Motors visar självkörande flyg-taxi. Fordonstillverkaren General Motors visade nyligen i en keynote presentation ett koncept för flyg-taxi. Fordonet med kapacitet för en passagerare planeras bli självkörande och eldrivet med en 90kW motor och en flyghastighet på drygt 90 km/h. Länk

Halo. Cadillac har under årets CES visat ett nytt bilkoncept inom dess konceptfamilj Halo. Det nya konceptet är tänkt att vara helt självkörande och det verkar vara designat med lyx-prefixet. Som ett exempel har designers räknat med att sensorer kan läsa av användarens biometri och utifrån det anpassa temperatur, luftfuktighet, belysning och dofter i fordonet. Länk

Kodiaks resa på motorväg. Startuppföretaget Kodiak Robotics har lyckats köra över 1200 km (800 amerikanska mil) med sin lastbilsteknik på motorväg utan något ingrepp från säkerhetsföraren. Enligt företaget är det en viktig milstolpe som tyder på att mogenhet. Kodiak grundades 2018 och är ett av få företag som förlitar sig på lågupplösta kartor och sensorer. Länk

Ann Arbor får smarta korsningar. University of Michigan ska inom ramen för ett treårigt projekt utrusta 20 korsningar i Ann Arbor med sensorer och kommunikationsenheter. Detta i syfte att öka trafiksäkerheten genom utbyte av information mellan fordon och infrastrukturen. Projektet har en budget på ca 20 miljoner dollar, varav hälften kommer från det amerikanska departementet för transport. Projektet bygger på ett tidigare projekt kallat Safety Pilot Model Deployment där ungefär 3000 fordon. Länk

NHTSA ändrar sig. Lite grann i alla fall. Strax innan jul publicerade den amerikansak säkerhetsorganisationen NHTSA ett dokument kallat Notice Regarding the Applicability of NHTSA FMVSS Test Procedures to Certifying Manufacturers. Där klargör organisationen att de ändrat sitt krav från 2016 gällande certifiering av fordon. De kommer inte längre kräva att tillverkare av fordon utan traditionella kontroller ska följa FMVSS-testförfarandena som grund för certifiering: “Accordingly, NHTSA is rescinding the portions of the 2016 Google Interpretation stating that manufacturers must ensure that NHTSA could conduct the FMVSS test procedures on the vehicle using the test conditions and procedures specified in the standard. Instead, the Agency clarifies that for those vehicles with designs that preclude testing under existing FMVSS test conditions and procedures, a manufacturer acting in good faith and exercising reasonable care may certify the vehicle as compliant even if the Agency cannot conduct the exact test procedure set forth in the standard.” Huvudpoängen här är att NHTSA spikar självcertifiering som en vädertagen process för automatiserade fordon. Personligen tycker jag att NHTSA utryckt sig lite otydligt och att det kan vara svårt för tillverkarna att veta vad som krävs exakt. Länk