Kategoriarkiv: Etik

Drive Sweden Forum 2019

I går 12 september gick årets Drive Sweden Forum av stapeln med ca 270 deltagare. Drive Sweden är ju ett av 17 strategiska innovationsprogram (SIP) som finansieras av Vinnova, FORMAS och Energimyndigheten. Lindholmen Science Park är värdorganisation med Sofie Vennersten som programledare och Jan Hellåker som ordförande och har mer än 120 partners från 13 länder – 4 nya medlemmar presenterades på konferensen. Programmet blir alltmer internationellt, med samverkan såväl i EU- finansiering som gemensamma projekt. Man har också nu en person i Silicon Valley och har samarbete med Singapore.

Drive Sweden finansierar lite mer banbrytande projekt inom hållbar mobilitet, som exempelvis KOMPIS, LIMA och KRABAT. Man ger också ut nyhetsbrevet Smart Mobility samt har ett antal andra aktiviteter. Man gör nu ett omtag och lanserar en ny struktur, med delarna Society Planning, Digital Infrastructure, Policy Development, Business Models och Public Engagement, med fokus på såväl person- som godstransporter. Man har nu en öppen utlysning Innovationer för ett digitaliserat och automatiserat transportsystem för människor och gods som stänger 5 november.

Här korta sammanfattningar från några av konferensens föredrag.

David Green från Lynk & Co pratade om företagets vision att förändra mobilitet med hjälp av digitalisering för att ge en bättre kundupplevelse. För detta krävs samverkan med externa parter och man har skapat en öppen samverkansplattform colab.lynkco.com.

Ulrik Janusson och Marie Bemler från Scania visade några framtida möjliga scenarios för digitalisering inom godstransporter. Två viktiga parametrar är öppenhet i delning av data och hur mycket klimatfrågan slår igenom.

Hur kan man samverka med allmänheten när man designar framtida mobilitetstjänster och därmed nå en bättre acceptans för till exempel självkörande fordon? Detta har Vaike Fors från Högskolan i Halmstad studerat. En lärdom är att man måste gå bortom att bara titta se ”användare” och ”stadsinvånare” till att se alla som människor med olika behov, kunskaper och värderingar.

Våra kollegor Kent Eric Lång och Håkan Burden från RISE Viktoria berättade om policy-labbprojektet PLATT som tittar på möjliga strategier för att underlätta för självkörande fordon även från nya aktörer. En viktig strategi är att kunna bygga förtroende, trust, istället för tidigare typgodkännande-rutiner. Projektet är snart slut och man söker nu nya initiativ runt policy-utveckling.

Samtidigt måste samhället kunna hantera både att skapa goda näringslivsförutsättningar för ny teknologi och också bibehålla och förbättra säkerheten i trafikmiljön och därmed bygga förtroende, vilket Anna Fridén från KOMET, Kommittén för teknologiskt innovation och etik som den svenska regeringen tillsatt, berättade om.

Stefan Myhrberg från Ericsson talade om digital infrastruktur för automatiserade fordon, där man bland annat etablerat Drive Sweden Innovation Cloud, där Drive Sweden-medlemmar kan lagra och dela data från fordon, infrastruktur, parkeringsplatser, kameror etc. 5G är då en möjliggörare för att tillräckligt snabbt hantera de stora datamängderna som krävs när många enheter blir uppkopplade.

Olof Johansson från Trafikverket visade en ny färdplan för ett uppkopplat och automatiserat vägsystem. Färdplanen har identifierat 20 åtgärder i 4 kluster: Ökad kunskap om automatiseringens effekter (t.ex. tester och demonstrationer), Effektivt utnyttjande av kapacitet (t.ex. MaaS), Hållbart och säkert transportsystem genom digitalisering (t.ex. miljözoner) och Nya planeringsstöd för ökad användbarhet (t.ex. simuleringsmodeller). Nästa steg är att implementera åtgärderna. Suzanne Andersson från Trafikkontoret i Göteborg pratade om några utmaningar som då uppstår för samhällsplanerarna, som att städer utvecklas långsamt och man måste ta hänsyn till kommungränser.

En svårighet är att hitta och välja rätt affärsmodell för nya mobilitetslösningar. Rami Darwish från KTH berättade om ett affärsmodell-labb som man jobbar med inom ITRL ihop med Sustainable Innovation. I en paneldiskussion med Li Höglund från SnappCar, Stina Wärn från Folksam, Ulf Hammarberg från DHL och Mikael Rönnholm från CEVT, ledd av Roland Elander från Sustainable innovation, diskuterades detta. En nyckel är att lyssna till användarna och att vara beredd att göra snabba ändringar. Data från fordon och tjänster är också viktiga informationskällor. Men informationen måste då skyddas från intrång. Även regelverken måste kunna anpassas snabbt, med elsparkcyklar som ett aktuellt exempel. E-handel är ett annat område där affärsmodellerna behöver anpassas att bli både mer hållbara men ändå lönsamma. För industrin behöver affärsmodeller och leverantörskedjor också bli mer öppna att inkludera även lösningar från små entreprenörsföretag. Utvecklingen går både fortare och långsammare, beroende på område, än vad många tror. Man måste alltså jobba både kort- och långsiktigt.

Martin Svensson från AI Innovation of Sweden pratade om AI i det framtida transportsystemet, på komponent-, system- och samhällsnivå. Det finns stora möjligheter men mycket återstår att göra. Mats Nordlund från Zenuityvisade exempel på hur de använder AI och maskininlärning i sin verksamhet.

Joakim Jonsson från Volvo Bussar berättade om arbetet med autonoma stadsbussar som är kopplat till KRABAT-projektet. Man kan inte börja med att köra helt autonomt utan har identifierat 3 möjliga användningsfall: hållplatskörning, busståg och rangering i bussdepå. Se filmen nedan.

Hur borde automatiserade fordon köra?

En grupp forskare vid tyska Institute for Human Development och University of Göttingen har utforskat hur automatiserade fordon borde agera i säkerhetskritiska situationer [1].

I en online frågeformulär genererad via Amazon Mechanical Turk fick 872 deltagare ta ställning till bilen som de färdades i borde stanna i sitt körfält och krocka med en fotgängare eller väja undan och krocka med en annan trafikant. De fick erfara olika scenarier med olika risknivåer.

Resultaten visar att majoriteten av deltagarna föredrog att stanna i sitt körfält. Dessutom var deltagarna mindre benägna att ändra sin ställning efteråt om de hade valt alternativet att stanna i sitt körfält.

En slutsats från studien är att det är moraliskt mer rätt att bilen stannar i sitt körfält om en olycka är oundviklig.

Källor

[1] Meder et al., 2018. Risk Analysis. How Should Autonomous Cars Drive? A Preference for Defaults in Moral Judgments Under Risk and Uncertainty. Länk

 

Mer jordnära etiska problem

I en notis om vad som hänt under sommaren skrev vi om de etiska riktlinjerna som den tyska regeringen gett ut. Bland annat skriver man:

”Hur mycket beroende av tekniskt komplexa system – som i framtiden kommer att baseras på artificiell intelligens, eventuellt med maskininlärningsförmåga – är vi villiga att acceptera, för att i gengäld få mer säkerhet, rörlighet och bekvämlighet? Vilka försiktighetsåtgärder måste vidtas för att säkerställa kontrollerbarhet, öppenhet och datautonomi? Vilka tekniska utvecklingsriktlinjer krävs för att inte sudda ut konturerna av ett mänskligt samhälle som ställer individer, deras frihet till utveckling, deras fysiska och intellektuella integritet och deras rätt till social respekt i hjärtat av sin rättsordning?”

Det finns mycket skrivet om etik i samband med självkörande fordon, men oftast hamnar man i ”the trolley problem” om fordonen måste programmeras att välja vilka de ska köra på. Men OS News kommenterar de tyska riktlinjerna med några nya, mer jordnära perspektiv [1]:

”Utöver den etik som är relaterad till liv och död finns det dock också enklare, mer banala etiska överväganden. Till exempel om en biltillverkare för att öka vinsten gör ett avtal med McDonalds och anpassar sitt självkörande bilprogram bara lite grann, så att fordonet kör kunderna förbi McDonalds lite oftare, även om det ökar den totala restiden. Vad händer om en biltillverkare gör liknande avtal med stora affärskedjor så att mindre kedjor eller fristående butiker inte ens dyker upp när du säger ”ta mig till närmaste plats som säljer X”? Är det något vi borde tillåta?

Ska vi över huvud taget tillåta programvara för självkörande bilar att vara stängd? Bilar är ”lagliga mordvapen”, och litar vi verkligen på bilfabrikanterna att inte ”gena” när de utvecklar självkörande bilars programvara, för att möta deadlines, på grund av dålig ledning eller underbetalade utvecklare? Ska inte all denna utveckling och all denna kod vara öppen för världen att se?”

Källor

[1] Thom Holwerda: Germany publishes ethical guidelines for self-driving cars, OS News 2017-08-26 Länk

Moraliskt dilemma

En grupp forskare från tre olika universitet har publicerat en ny studie som heter The Social Dilemma of Autonomous Vehicles och som diskuterar etik och moral kring automatiserad körning [1].

Studien är baserad på en onlineundersökning där 2000 amerikaner blev tillfrågade hur de skulle vilja att självkörande fordon beter sig när de ställs inför moraliska beslut som kan leda till döden. Deltagarna fick ett antal trafiksituationer presenterade för sig där de fick välja en utgång som de tyckte var lämpligast. De fick exempelvis välja mellan att fortsätta köra rakt fram och döda ett visst antal fotgängare, eller svänga till intilliggande körfält och döda en större grupp djur eller människor. Detta är alltså att klassiskt etikproblem (känt som ”the trolley problem”) där deltagaren tvingas att välja mellan att rädda ett eller flera liv.

Resultaten tyder på att deltagarna hade velat att självförande fordon försöker minimera antalet dödade i trafiken även om det utsätter fordonens egna passagerare för fara. De hade till och med kunnat acceptera att självkörande fordon förstör sig själva för att undvika att skada fotgängare eller andra förare. Det blev dock ett motsägelsefullt svar när de blev tillfrågade vilken typ av fordon som de hade velat köpa : de hade velat köpa fordon som sätter deras egna och passagerarnas säkerhet i första plan.

Här kan ni kolla hur ni hade fattat dessa svåra beslut!

Källor

[1] Warren, T., The Verge. How do you teach an autonomous car when to hurt its passengers? 2016-06-23 Länk

Etiken alltmer i fokus

Frågeställningar runt etik med självkörande fordon har återigen aktualiserats, bland annat i två olika artiklar nyligen som båda relaterar till hur sådana fordon ska programmeras att hantera svåra situationer, sådana där idag mänskliga förare tvingas göra snabba beslut. Ibland blir besluten felaktiga och då kan föraren dömas eller förlåtas. Men när man programmerar för sådana situationer i förväg är man inte i en stress-situation och skulle alltså kunna dömas hårdare.

Den första artikeln tar upp en studie som Toulouse School of Economics har gjort  av hur människor ställer sig till en given etisk situation [1]. En oförutsedd kedja av händelser leder till att bilen kör mot 10 personer som går över vägen. Bilen kan inte stanna i tid men den kan undvika att köra på och döda dem genom att köra in i en vägg vilket sannolikt dödar föraren och passagerarna. Vad ska bilen göra? Räkna att det är bättre att köra in i väggen och ”bara” döda en eller två i stället för tio? Men vill då någon köpa en sådan bil som är villig att offra sin förare? Resultatet av studien är att även om man i princip tycker att principen att minimera antalet döda är rätt, så vill man inte att ha sådana bilar själv – däremot får gärna andra ha dem.

Den andra artikeln berättar om den mycket välrenommerade professorn Chris Gerdes vid Stanford och hans växande funderingar kring sådana här etiska frågor. ”Folk säger ofta att tekniken är löst, men jag tror inte riktigt det”, säger han.  ”Med all ny teknologi finns det en topp i hype-kurvan och därefter kommer en dal av desillusion. Vi är just nu ungefär på toppen. Fördelarna med autonoma fordon är reella men vi har en dal framför oss innan vi ser alla fördelarna med den samhällsförändring som följer.”

Egen kommentar

Vi har tidigare tagit upp etikfrågorna i nyhetsbrevet vid ett par tillfällen (här och här). Det som är intressant nu är att de kommer också från personer som är involverade i själva utvecklingen.

Källor

[1] Why Self-Driving Cars Must Be Programmed to Kill, Technology Review 2015-10-22 Länk

[2] Keith Naughton: In Person: Driverless-car enthusiast raises a caution flag, The Seattle Times 2015-10-25 Länk

Autonoma fordons etik

Människor använder inte bara regler som grund för sitt agerande utan också etik och moral. När lagarna inte räcker för att guida oss så får vi lita till vår moraliska kompass. Den kompassen ger inte alltid samma svar som regelverket. Det gör att vi ibland kan välja att bryta mot regler för ett högre syfte. Vi kanske t.ex. kör för fort i en nödsituation.

Med robotar som t.ex. autonoma fordon som bygger på ett programmerat regelverk så uppstår intrikata problem, inte bara med ansvar och lagstiftning utan även med mer subtil samverkan med människor. Ska bilen alltid följa regelverket?

Patrick Lin resonerar runt dessa frågor i The Atlantic [1].

Egen kommentar

För fullt autonoma eller till och med förarlösa fordon så behöver man ställa även denna typ av filosofiska frågor. Men för de första stegen där det fortfarande finns en förare som kan ta över så blir det lite enklare. Framförallt så skapar man sig tid att diskutera dessa frågor.

Källor

[1] Lin, P., The Atlantic. The Ethics of Autonomous Cars. 2013-10-08. Länk