När systemen överger dig

När jag arbetade på Volvo PV med förstudien till det som skulle bli den första XC90 så utvärderade vi ett antal befintliga terrängbilar. Bland dem fanns det sådana där fyrhjulsdriften kopplades bort när de blev varma – alltså när de arbetat ett tag. Så när man behövde systemen som bäst så övergav de en! (Självklart valde vi ett annat system.)

Som några läsare uppmärksammat oss så verkar en del av de nu uppvisade automatiserade systemen vara av den arten: de fungerar i vissa situationer men när det börjar bli kritiskt så krävs det att föraren ändå är där och tar över. Är det verkligen så imponerande att lansera ett system som styr bilen själv men som kan deaktiveras när systemet når en systembegränsning – vilket är fallet för alla system idag på marknaden?

Det har ju rapporterats om ett antal fall där förare av Tesla Model S använder deras Autopilot på ett icke tillåtet sätt. Namnet Autopilot kan ju också leda till att man tror att systemet är kapablare än det är. Men det finns också andra exempel, till exempel nedanstående film på en Infiniti Q50 där man inte bara släpper ratten helt utan också lämnar förarsätet!

Men också Mercedes E-klass tillåter föraren att köra utan händerna på ratten under någon minut, se filmen nedan (efter ca 8:40 min). Detta trots att man tydligt säger att Mercedes system ska vara i enlighet med lagarna (Nivå 2/Corrective Steering – R79/Wienkonventionen).

Är det OK att designa ett system som lätt deaktiveras av misstag om t.ex. föraren håller för hårt i ratten, och samtidigt bara ha en relativt liten visuell varning som när systemet aktiveras talar om att föraren har ansvar för körning/styrning? Det känns som en motstridig uppmaning: systemet är designat för ett användande men föraren uppmanas till ett annat.

Tack läsekretsen för synpunkterna!