I en ny upplaga av IEEE Intelligent Systems Expert Opinion skriver två forskare från Carnegie Mellon University att dagens processer för säkerhetsvalidering och godkännande av fordon är dåligt lämpade för autonoma system [1]. Dessa processer fokuserar nämligen mestadels på prestandautvärdering av mekaniska system i fordonen och på licensering av förare, vilket inte räcker till för system baserade på artificiell intelligens.

De påpekar också att riktlinjerna för automatiserade fordon som nyligen föreslagits av det amerikanska departementet för transport är ett exempel på traditionell reglering. Dessa riktlinjer är otillräckliga för testning och godkännande av autonoma system med alltmer föränderliga egenskaper.

Istället föreslår de en mer dynamisk godkännandeprocess som kan hantera och följa upp systemuppdateringar och förändringar som sker efter att systemet blivit godkänt. Det är en process som liknar dagens process för godkännande av läkemedel och medicinsk utrustning som tillämpas av den amerikanska myndigheten för reglering av läkemedel och livsmedel (Food and Drug Administration).

En sådan process skulle i princip delas upp i tre steg. Den skulle inledas med tester i simulatorer för att undersöka hur systemen hanterar olika trafik-, ljus- och väderförhållanden. När en viss prestandanivå uppnåtts, skulle nästa steg inledas med tränade användare på testbanor och i vissa miljöer i verklig trafik. Lyckade försök i dessa miljöer skulle då leda till övervakade tester i verklig trafik, och ytterligare lättnader i restriktioner skulle införas allteftersom prestandamål uppfylls.

Egen kommentar

Transportstyrelsen och RISE Viktoria adresserar också det här ämnet i ett pågående forskningsprojekt.

Källor

[1] Carnegie Mellon University. Model Driverless Car Regulations After Drug Approval Process, AI Ethics Experts Argue. 2017-01-26 Länk