Etikettarkiv: Georgia Institute of Technology

Artificiell intelligens, Fordon, Forskningsprojekt, Funktionell säkerhet, Informationssäkerhet, Inspiration, Okategoriserade

Metoder för att upptäcka okänd data utan inlärning

Machine Learning (ML) och speciellt Deep Learning (DL) har visat sig vara mycket effektiva och kraftfulla för att lära sig att känna igen mönster, beteende och egenskaper.

En känd egenskap hos ML är att algoritmerna kan vara extremt bra på data som finns inom den rymd som använts för träning, men extremt dåliga på data som ligger utanför träningsrymden. De är alltså bra på att generalisera, men sämre på att extrapolera. För att detektera data som ligger utanför träningsrymden, tränas ofta nätverk som lära sig se skillnad på ”känd data” och ”okänd data”, genom att presentera exempel från båda klasserna. Problemet är dock att det dels finns många dimensioner i datat (speciellt när indata är bilder) och dels blir det snabbt opraktiskt att samla data på objekt som inte är relevanta för nätverket.

Forskare från Georgia Tech och Samsung, har nyligen publicerat en artikel kring hur nätverk kan tränas, utan att använda data data som ligger utanför träningsrymden [1].

Artikeln presenterar en metod som använder sig av signaler som finns inne i ML nätverken. De skapar sannolikhesfördelningar över hur signalerna beter sig för de olika kända klasserna. Genom att jämföra dessa fördelningar med hur signalerna ser ut för ny data som presenteras för nätverket, lyckas de med hög säkerhet avgöra om den nya datan kommer ifrån den kända eller okända datarymden.

Egen kommentar

Denna metodik har studerats inom Vinnova FFI projektet SMILE II även där med stor framgång [2].

Källor

[1] Hsu, Yen-Chang, et al. ”Generalized ODIN: Detecting Out-of-distribution Image without Learning from Out-of-distribution Data.” arXiv preprint arXiv:2002.11297 (2020).

[2] Slutrapport SMILE II https://www.vinnova.se/globalassets/mikrosajter/ffi/dokument/slutrapporter-ffi/elektronik-mjukvara-och-kommunikation-rapporter/2017-03066eng.pdf

Flyg, Lastbilar, Personbilar

Nya samarbeten

Ekosystemet inom automatiserade fordon växer och blir mer och mer invecklat. Några nya samarbeten:

  • Toyota och Suzuki ska samverka kring teknik för självkörande fordon, och Toyota köper också in sig i Suzuki [1].
  • Kinesiska lastbilstillverkaren FAW Jiefang och amerikanska Plus.ai bildar ett JV för att sätta lastbilar med nivå 4 på kinesiska marknaden inom 3-5 år [2].
  • Jaguar/Landrover och Blackberry ska samverka för att integrera Blackberrys QNZ-plattform i JLRs framtida självkörande fordon [3].
  • Delta Airlines (!) ska samarbeta med Georgia Tech och Curiosity Lab för att hitta nya möjligheter att använda självkörande fordon för Deltas kunder och anställda [4].

Källor:

[1] Toyota and Suzuki team up to develop self-driving car technology, Online Marketsplaces 6 september 2019 Länk

[2] Matt Culbertson: Plus.ai Establishes Joint Venture With FAW Jiefang to Develop Self-Driving Trucks for China, and Jointly Launches World’s First Production-Class L2 Semi-Autonomous Truck, Business Wire 6 september 2019 Länk

[3] Aimee Chanthadavong: Blackberry and Jaguar Land Rover to partner on autonomous vehicles, ZDNet 5 september 2019 Länk

[4] Innovation in transportation: Delta partners on autonomous vehicle research with Georgia Tech, Curiosity Lab, Delta News Hub 5 september 2019 Länk

Informationssäkerhet

Ett småskalig hack kan orsaka kaos

En ny studie från Georgia Institute of Technology visar att det skulle räcka med att hacka en liten andel av fordonsflottan för att skapa kaos i trafiken [1]. 

Studien är baserad på simulering, där forskarna använt sig av så kallad perkoleringsteori som beskriver en jämn, kontinuerlig fasövergång i ett nätverk och kan användas för att studera hur ett nätverk svarar på skadan i slumpmässigt valda noder. 

Omedelbart efter att ett fordon hackats saktar trafiken ner runt det hackade fordonet. När flera fordon hackas kommer hela trafiken att sakta in och övergå till stillastående, beroende på hur vägnätverket ser ut. I fallet med Manhattan skulle det räcka med att 10% av fordon under rusningstiden blir stillastående i trafiken för att orsaka totalstopp. 

Givet att var och en av de stora tillverkarna (Hyundai, Nissan, Toyota och GM) har ungefär 10% marknadsandel av fordon i New York skulle det alltså räcka med att en av dem blir systematiskt hackad.

Forskarna påpekar dock att detta är ett exempel på det mest extrema fallet. Med studien vill de rikta uppmärksamheten mot potentiella datasäkerhetsrisker så att de kan åtgärdas tidigt i utvecklingen: Our work is not in opposition to the future of connected cars. Rather, the novelty of our work lies in identifying and quantifying the underlying cyber-physical risks when multiple connected vehicles are compromised. By shining a light on these technologies at an early stage, we hope we can help prevent worst-case scenarios.

Källor

[1] Ouellette, J., ARS Technica. Study: Hacking 10 percent of self-driving cars would cause gridlock in NYC. 2019-03-13 Länk

Funktioner, Mjukvara, Teknologi

Manövreringskontroll under extrema förhållanden

En forskargrupp vid Georgia Institute of Technology har utvecklat en ny metod för manövreringskontroll under extrema vägförhållanden [1].

Metoden kallas Model Predictive Path Integral Control (MPPI) och dess syfte är att öka fordonets stabilitet utan att påverka dess prestanda. Den har utvecklats med hjälp av iterativa tester med små självkörande racingfordon (skala 1:5) som fått köra i hastigheter upp till ca 145 km/h. Den kombinerar olika tekniker som statistik fysik och reglerteknik, tar in data från flera sensorer samt inspireras av hur racingförare kör under extrema förhållanden.

MPPI tros kunna bidra till att göra självkörande fordon säkrare under extrema vägförhållanden. Här kan ni se hur det hela går till.

Arbetet har finansierats av U.S. Army Research Office och har publicerats vid International Conference on Robotics and Automation (ICRA) förra veckan.

 

Källor

[1] Robinson, R., Georgia Tech News Center. New Technique Controls Autonomous Vehicles in Extreme Conditions. 2016-05-23 Länk