Waymo och Google använder AutoML för att bygga Machine Learning

Waymo, kända för sina självkörande fordon, är väl förtrogna med machine learning (ML) som de använder i nästan alla delar av sina fordon, från att läsa av omgivningen, att förutsäga hur trafikanter i närheten kommer agera och bestämma det egna fordonets nästa rörelse.

Med ett samarbete med Google AI och forskare från ”the Brain team” har forskare börjat undersöka möjligheten att använda ett ML-baserat system, AutoML, för att anpassa sina modeller till olika städer och miljöer. Frågan som samarbetet jobbar med att söka finna svar på är: kan AutoML generera högpresterande och snabba Neural Networks för en bil? Med prestanda menar de hur precision i svaren från näten och med snabbhet menar de hur snabbt nätet kan leverera ett svar. 

För att hitta en bra arkitektur för ett neuralt nätverk görs mycket manuellt arbete med att kominera olika typer av byggblock, t.ex. antal gömda noder och inlärningsfunktioner etc. 

Med hjälp av AutoML kunde de automatiskt kombinera dessa byggblock och på så sätt förbättra prestanda på två olika sätt: nya nätverk som var signifikant snabbare, fast med liknande precision och nätverk med högre precision fast med liknande snabbhet.
Alltså, genom att kombinera olika byggblock kunde de utforska olika konfiguration av nätverken. Så, med denna kunskap ville de även prova att skapa helt nya typer av nätverk. 

Eftersom det tar dagar att utvärdera en ny arkitektur skapades mini-problem baserade på original-problemet, dvs. bildsegmentering. Miniproblemen kunde analyseras på några timmar och nu kunde AutoML mjukvaran användas för att testa inte bara nya byggblock utan helt nya arkitekturer. Det som annars skulle ta år att köra på servrarna med multipla grafik-kort tog nu några timmar. 

Resultaten var enastående, 10 000 nya arkitekturer kunde skapas automatiskt, och testas på ett par veckor (istället för över ett år). Nätverk som var 20-30% snabbare och med mellan 8-10% högre precision kunde automatgenereras.

Källa:

[1] Automating the design of machine learning models for autonomous driving, Waymo 2019-01-15 Länk