Billede fra FDM

Hvem skal overleve?

Konflikter i trafikken er uundgåelige, også selv om de måske bliver minimeret i forbindelse med selvkørende biler. I forbindelse med udviklingen af selvkørende biler, er det derfor nødvendigt, at der udarbejdes nogle principper for, hvordan selvkørende biler skal håndtere forskellige typer af konflikter, herunder de etiske og moralske dilemmaer der kan opstå.

Af seniorforsker Mette Møller

Vanskelige dilemmaer

Selvkørende biler forventes at bidrage til forbedret trafiksikkerhed, fordi muligheden for menneskelige fejl minimeres. I hvilken udstrækning denne forventning kan realiseres er endnu uvist. Men selv hvis selvkørende biler medfører en markant reduktion i forekomsten af færdselsuheld, vil der fortsat lejlighedsvis opstå situationer, hvor et uheld er uundgåeligt. Sådanne situationer kan i nogle tilfælde involvere vanskelige dilemmaer, hvor personskade er uundgåelig. Et eksempel på et dilemma af den type ses i figur 1.

 

Retningslinjer for vanskelige valg

Selv om dilemmaer som dem, der skitseres i figur 1, kun meget sjældent vil forekomme, er det nødvendigt, at der i de algoritmer, der regulerer de selvkørende biler, tages højde for diverse hypotetiske situationer. Det er for eksempel situationer som, hvordan uundgåelig personskade skal håndteres og fordeles, herunder om bilens passager skal beskyttes for enhver pris. 

 Figur 1: Illustration af tre mulige scenarier og dilemmaer i en trafiksituation, hvor personskade er uundgåelig. A: valget står mellem at skade flere fodgængere, der krydser vejen, eller en fodgænger på fortovet. B: valget stå mellem at skade en fodgænger der krydser vejen eller en fodgænger på fortovet. C: Valget står mellem at skade en fodgænger eller bilens passager, eller flere krydsende fodgængere eller bilens passager.

 

Denne undersøgelse

Formålet med den omtalte undersøgelse var at afdække, hvordan undersøgelsens deltagere forholdt sig til forskellige udvalgte hypotetiske etiske dilemmaer i relation til selvkørende biler. Undersøgelsen blev gennemført i USA som en online spørgeskemaundersøgelse. Den omfattede flere delundersøgelser, hvor deltagerne skulle tage stilling til forskellige dilemmaer i trafiksituationer, hvor personskade var uundgåelig. I alt 1928 personer deltog. For alle delundersøgelser viste analysen, at unge mandlige deltagere var mere begejstrede for selvkørende biler, end de øvrige deltagere var. Der blev derfor taget højde for køn og alder i alle analyser.

 

Antallet af personskader bør minimeres

Det ene dilemma, som deltagerne skulle tage stilling til, var, om den selvkørende bil skulle vælge at skade bilens passager eller 10 krydsende fodgængere i en situation, hvor personskade var uundgåelig. 76 % mente, at bilen skulle vælge at skade bilens passager. Senere blev de samme personer bedt om at tage stilling til, om bilens passager skulle beskyttes for enhver pris eller antallet af personskader skulle minimeres mest muligt. Flertallet mente, at det var mest rigtigt at minimere antallet af personskader, men kun 33 % mente, at selvkørende biler ville blive programmeret på den måde.

 

Hvad med familiemedlemmer?

Det andet dilemma, som deltagerne skulle tage stilling til, om en selvkørende bil skulle vælge at skade bilens passager eller et antal fodgængere, der varierede fra 1 til 100. Et markant flertal mente ikke, at det var moralsk korrekt at skade bilens passager, hvis det kun var en fodgænger, der kunne skånes. Tilsvarende steg antallet af deltagere, der mente, at bilens passager skulle skades jo flere fodgængere, der derved kunne beskyttes. Når deltagerne blev bedt om at forestille sig, at det var dem selv og/eller et familiemedlem, der var bilens passager, var der flere der mente, at bilens passager skulle beskyttes. Men det var dog fortsat ca. halvdelen, der mente, at bilens passager skulle skades, hvis et større antal fodgængere kunne beskyttes.

 

Hvordan prioriterer man selv, når det kommer til stykket?

I det tredje dilemma blev undersøgelsens deltagere bedt om at tage stilling til, hvor sandsynligt det var, at de selv ville købe en selvkørende bil, der var programmeret til at minimere antallet af personskader eller en bil, der var programmeret til at beskytte bilens passagerer, selv om det ville koste 10-20 andre mennesker livet, at passageren blev beskyttet. Resultatet viste, at deltagerne med langt større sandsynlighed ville købe en bil, der beskyttede bilens passager. Yderligere to lignende dilemmaer blev undersøgt.

 

Alt i alt viser resultaterne af disse tre sociale dilemmaer, at selv om deltagerne mente, at det var mest moralsk korrekt, at selvkørende biler prioriterede at minimere antallet af personskader mest muligt, og at de principielt mente, at selvkørende biler skulle programmeres til en sådan prioritering, så ville de, når det kom til stykket, i højere grad selv vælge at købe en bil, der sikrede dem selv og deres familie, selv om det medførte et større antal personskader blandt andre.    

 

Regeringen skal ikke regulere programmeringen

Endelig skulle deltagerne tage stilling til, om de mente, at det var regeringens opgave at håndhæve og understøtte programmering af selvkørende biler, der sikrede at antallet af personskader blev minimeret mest muligt. Analysen viste, at deltagerne var meget modvillige over for at lade regeringen regulere håndtering af ovenstående dilemmaer for selvkørende biler, og at de kun i ringe grad ville købe en selvkørende bil, der var reguleret af regeringen.

 

Konklusion

Samlet set viser undersøgelsen, at der er et behov for at finde en afklaring på, hvordan etiske dilemmaer skal håndteres i forbindelse med selvkørende biler. Undersøgelsen viser dog også, at det ikke er en let opgave, da der er modstridende interesser, uafklarede spørgsmål og sociale dilemmaer involveret. Selv om de fleste deltagere mente, at det var vigtigt at minimere antallet af personskader mest muligt, ville flertallet i praksis vælge en bil, der ydede dem selv og deres familie størst mulig beskyttelse.

Denne undersøgelse afdækker kun ganske få aspekter af nogle af de dilemmaer og udfordringer, som selvkørende biler giver. Yderligere forskning og større undersøgelser er nødvendigt med henblik på at afdække, hvilke moralske, etiske og lovgivningsmæssige standarder befolkningen forventer og kan acceptere i relation til selvkørende biler. Dette har ikke kun betydning for brugere af selvkørende biler, men også for producenter, lovgivning osv.

 

 


 

 

Kilde:

Bonnefon, J.F., Shariff, A., Rahwan, I. (2016). The social dilemma of autonomous vehicles. Science, 352, 1573-1576

 

 

http://www.trafiksikkerhedsforskning.dtu.dk/Arkiv/Nr-35/Hvem-skal-overleve
28 MAJ 2020