Kategoriarkiv: Samverkan människa – maskin

Effekten av subtila automationsfel

En grupp forskare från University of Leeds och företaget Seeing Machines har publicerat en studie där de undersökt hur förare reagerar på subtila (silent) automationsfel utan att de fått någon förvarning eller förfrågan om att ta över kontrollen [1]. Dessutom har de undersökt sambandet mellan sådana fel och förares engagemang i visuella uppgifter. 

Studien genomfördes i en körsimulator med 30 förare. Varje förare fick uppleva följande två testfall med sex subtila fel var: 

  1. Föraren behöver övervaka trafiken och hålla utkik efter variabla trafikskyltar (VMS)
  2. Föraren behöver övervaka trafiken och hålla utkik efter variabla trafikskyltar (VMS) samt engagera sig i en visuell icke-körrelaterad uppgift.

Automationen gestaltades av adaptiv farthållare och körfälthållare. Automationens status (tillgänglig/på/av/manuell kontroll) visades via ett gränssnitt i kontrollpanelen. Subtila automationsfel infördes genom att avaktivera automationen och övergå till manuell kontroll. Felen sammanföll med en mycket subtil sidoförflyttning av fordonet (0,2 graders offset i rattvinkel). Ett förarövervakningssystem användes för att studera förarnas ögonbeteende och uppmärksamhet.

Resultaten visade att i båda testfallen upptäckte och reagerade alla förare på samtliga subtila automationsfel så småningom. Att engagera sig i en visuell icke-körrelaterad uppgift när det subtila felet inträffade resulterade dock i betydligt fler körfältsavvikelser och längre övertagningstid. Det ändrade distributionen av förarnas visuella uppmärksamhet före och efter felet samt hur de fördelade uppmärksamheten mellan trafiken och gränssnittet som visade automationens status. 

Resultaten antyder att subtila fel kan trigga förarreaktionen. Detta i kombination med förarövervakningssystem kan användas som ett verktyg att hålla förare alerta och med i kontroll-loopen. 

Egen kommentar

Under de senaste åren har mycket fokus gått åt studier om kontrollöverlämning mellan automation och mänskliga förare. Däremot är effekten av subtila automationsfel ett mindre utforskat område. Något som också studeras i FFI-projektet HARMONISE.

Här kan man också dra paralleller till logiken som vissa fordonstillverkare indikerat att de använder sig av: att medvetet göra förarstödsystem lite skakiga så att förarna behöver hålla händerna på ratten. Det räcker inte med att visa varningar till förare utan man behöver också känna vad som händer, t.ex. att man håller på att glida utanför körfältet. 

Källor

[1] Louw, T., et al., 2019. Engaging in NDRTs affects drivers’ responses and glance patterns after silent automation failures. Transportation Research Part F: Traffic Psychology and Behaviour. Länk

Bilens förmåga och förarens uppfattning om den

En forskargrupp bestående av forskare från University of Wisconsin-Madison och Toyota Collaborative Safety Research Center har utforskat hur förorenas uppfattning om fordonets förmåga påverkar deras uppmärksamhet mot mötande trafik [1]. 

Studien genomfördes i en körsimulator och involverade 75 förare i åldrarna 25-55 år. Varje förare fick testa någon av följande tre förarstödsfunktioner: körfältscentrering (lane centering, deadband 0), körfältshållning (lane keeping, deadband ca 30 cm) eller adaptivhållning (kombination av dessa två, deadband 0 – 30 cm).

Beskrivningen av vem som hade ansvaret varierades också: vissa förare fick instruktioner om att de hade ansvaret, medan andra fick instruktioner om att fordonet hade ansvaret. Funktionerna betedde sig dock likadant i båda fallen. Dessutom varierades mängden mötande trafik under resans gång. Under resan kunde förarna engagera sig i en e-post-sorteringsuppgift via en surfplatta placerad nära mittpanelen i bilen. 

Genom att studera förarnas ögonbeteende kom forskarna fram till att det finns ett samband mellan förarnas uppmärksamhet mot den omgivande trafiken och ansvars-instruktionerna. Förarna som körde den adaptiva varianten och som hade fått instruktioner om att de själva hade ansvaret var betydligt mer uppmärksamma mot mötande trafik jämfört med förarna som körde med samma funktion men som hade blivit informerade om att fordonet hade ansvaret.  

Egen kommentar

Kort sagt så visar studien att vår uppfattning om systemens förmåga kan påverka vår tillit till systemet. Har man fel uppfattning om systemets förmåga kan det leda till övertillit eller undertillit, och båda två kan ha negativa konsekvenser i termer av säkerhet, upplevelse, och i slutändan acceptansen.

Studien stärker därmed tesen att det är viktigt att informera förarna om systemens verkliga förmåga.

Källor

[1] Priece et al., 2019. Effect of Automation Instructions and Vehicle Control Algorithms on Eye Behavior in Highly Automated Vehicles. International Journal of Automotive Engineering. Länk

Waymo kan tolka polismans tecken

Waymo har nu släppt en video där de visar att en av deras självkörande bilar kan tolkar en polismans tecken och vänta på att bli framsläppt [1].

Just att kunna klara av att hantera udda situationer, som t.ex. när ett trafikljus är ur funktion och en polis reglerar trafiken, har setts som ett svårt problem för automatiserade fordon att klara.

Egen kommentar

Uppenbarligen ett framsteg! Sedan måste det förstås fungera ”alltid” och inte bara en gång.

Källa

[1] Jake Holmes: Waymo self-driving cars can now respond to traffic cops’ hand signals, Roadshow 2019-02-21 Länk

Förare har alltför hög tilltro till systemen

Ännu en incident med Teslas Autopilot har rapporterats: en berusad, sovande förare bakom ratten på en Tesla Model S  på en motorväg i Silicon Valleyområdet [1].

Det hela hände i fredags natt på Highway 101 i Redwood City. När en polispatrull upptäckte det så försökte de stoppa bilen genom att köra om den och framför den för att få den att sakta ner. Det lyckades men först efter 7 minuters körning. Frågan är hur bilen kunde framföras så länge med föraren sovande. Teslas Autopilot kräver att man har händerna på ratten.

John Simpson på Consumer Watchdog ser detta som ytterligare ett bevis på att Tesla leder förarna att tro att Autopilot är ett system för helt autonom körning.

– De har omedvetet fått folk att tro att bilen har mer självkörningsförmåga än vad som faktiskt är fallet. Det är ett stort problem, säger han

Egen kommentar

Två kända dödsolyckor med Tesla är dels den i Florida där bilen körde rätt in i en lastbilstrailer medan föraren troligen gjorde annat; och dels den i Kalifornien där den körde in i ett skadat mitträcke. Men det har också rapporterats om minst en dödsolycka i Kina. För varje sådan dödsolycka så bör det finnas ett ganska stort antal incidenter.

Övertro på automatisering verkar vara ett vanligt fenomen, inte bara inom vägfordon utan känt även inom t.ex. flyget.

Källa

[1] Ashley McBride, J.D. Morris: CHP: Drunk driver slept while Tesla appeared to drive Hwy 101 on autopilot, SFGate 2018-12-01 Länk

Waymo återinför säkerhetsförare?

Waymo håller på att återinföra säkerhetsförare i sina bilar och också sätta in kameror för att övervaka dessa så de är alerta nog att kunna ta över kontrollen vid behov, skriver Engadget [1].

Anledningen sägs vara ett antal incidenter den senaste tiden, bland dessa då en säkerhetsförare i juni somnade och orsakade en olycka när han oavsiktligt stängde av mjukvaran.

Egen kommentar

Detta är en overifierad nyhet men intressant, speciellt i ljuset av John Krafciks uttalande nyligen där han hävdade att helt självkörande fordon ligger långt i framtiden.

Källa

[1] Mallory Locklear: Waymo reportedly returns safety drivers to its autonomous cars, Engadget 2018-11-27 Länk

Apple patenterar användarinteraktion

I ett nytt publicerat patent insänt av 4 anställda på Apple [1] visar man hur informationen på en mobil enhet – typiskt en iPad – kan anpassas när den används i ett självkörande fordon. I ett antal exempel så visas hur man vid behov kan frysa delar av skärmen och visa informations- eller varningsmeddelanden, som t.ex. att det snart kommer ett avsnitt där man förväntas ta över kontrollen. Tanken är att på det sättet hålla ”förarens” medvetande kvar i vad som händer i trafiken och på det sättet vara mer alert att ingripa om det skulle behövas.

Egen kommentar

Det känns som ett ganska naturligt koncept från Apple och visar egentligen inte om man arbetar på egna fordon, kompletta systemlösningar för självkörning eller bara egna interface som det här. Men individerna bakom patentet verkar jobba med mobila enheter och inte fordon.

Källa

[1] United States Patent Publication US2018/0334175 A1 2018-11-22 Länk

Användarupplevelsen och on-demand tjänster

Idag är normen att äga och köra bil. Imorgon blir normen att åka med i fordon som ingår i diverse on-demand mobilitetstjänster. För att förverkliga detta och få oss att överge ”traditionen” behöver användarupplevelsen i nya mobilitetstjänster vara extraordinär och lockande.

Detta framgår av artikeln User Experience of On-demand Autonomous Vehicles: Background and User Experience framework publicerad av Göteborg-företaget Ictech [1]. Där diskuteras olika mobilitetstrender och aktörer, och hur förhållandet mellan användare och fordonet kan förändras som en följd av dessa trender.

Källor

[1] Larsson, P., Ictech. User Experience of On-demand Autonomous Vehicles: Background and User Experience framework. Länk

Teslas Autopilot ökar förarens reaktionstid

Seeing Machines har inom ramen för forskningsprojektet CAN Drive genomfört en studie i Australien där de utforskat reaktionstiden hos förare vid användning av Teslas Autopilot [1].

Studien genomfördes på en testanläggning i Canberra i en Tesla Model S. Förarna fick köra på banan med och utan Autopilot aktiverat. Då och då ringde en alarm i bilen som indikerade att förarna behövde manövrera runt ett imaginärt objekt i bilens körfält.

Preliminära resultat visar att förarnas reaktionstid var mellan  0,5 och 1,5 sekunder när de körde själva (dvs. utan Autopilot). Reaktionstiden ökade upp till 3,5 sekunder när de körde med Autopilot.

Studien presenterades vid International Driverless Vehicle Summit (IDVS) som hölls i slutet av oktober i Adelaide.

Källor

[1] CarAdvice. AUTOPILOT MAKES DRIVER REACTIONS UP TO THREE TIMES SLOWER – STUDY. 2018-11-03 Länk

Waymo-bil i kollision med motorcykel

I en olycka i Mountain View skadades en motorcyklist, då Waymo-bilens säkerhetsförare tog över kontrollen för att undvika att kollidera med en bil som oväntat bytte fil. Motorcyklisten kom då bakifrån och blev påkörd. Enligt Waymo hade bilens system hanterat situationen bättre då den hade 360 graders koll på alla objekt – även motorcykeln [1].

Egen kommentar

Ännu ett exempel på att samverkan mellan människa och maskin är svårt. I detta fallet hade det alltså varit bättre att låta bli att agera. I andra fall hade det varit bättre att gå in och ta över. Kanske Waymos teknologi är bättre än andras. Men är det då OK att det finns så stor variation i teknologin?

Källa

[1] Michael Laris: Waymo Safety Driver Collides With Motorcyclist; Company Says Self-Driving Minivan Would Have Done Better, The Washington Post 2018-11-08 Länk

Slut med åksjukan?

Vi har vid flera tillfällen rapporterat om att rörelsesjuka eller åksjuka kan bli en stor utmaning för automatiserade fordon och vad man kan göra i dem. Flera aktörer har visat möjliga lösningar. Nu har Jaguar Land Rover visat en lösning som känner av när någon blir åksjuk och hjälper till att reducera problemet [1].

Lösningen använder biometriska sensorer för att samla in passagerarens fysiologiska data, som sedan korreleras mot information om fordonets rörelse och används för att bedöma hur väl personen i fråga mår. Utifrån den här informationen anpassas bilens köregenskaper och diverse inställningar i kupén.

Enligt Jaguar Land Rover kan den här lösningen upptäcka åksjuka innan passageraren själv blir medveten om illamåendet, och också reducera åksjukan med 60%.

Lösningen väntas bli implementerad i företagets fordon under de kommande tre till fem åren.

Källor

[1] Tobin, A., Forbes. Jaguar Land Rover Makes Breakthrough In Cure For Motion Sickness. 2018-11-02Länk