En masse diskussion og etiske tanker om selvkørende biler har fokuseret på tragiske dilemmaer, som hypotetik, hvor en bil skal beslutte, om man skal køre over en gruppe skolebørn eller kaste sig ud af en klippe og dræbe sine egne beboere. Men disse slags situationer er ekstreme tilfælde.
Som det seneste styrt - hvor en selvkørende bil dræbte en fodgænger i Tempe, Arizona - demonstrerer de uhyggelige, hverdagslige situationer ved hver gangbro, drejning og kryds meget hårdere og bredere etiske kvandarer.
Ekstreme etik
Som filosof, der arbejdede med ingeniører i Stanfords Center for Automotive Research, blev jeg oprindeligt overrasket over, at vi tilbragte vores laboratoriemøder på at diskutere, hvad jeg troede var et let spørgsmål: Hvordan skulle en selvkørende bil komme til en gangbro?
Min antagelse havde været, at vi ville overveje, hvordan en bil skulle bestemme mellem passagerernes liv og fodgængernes liv. Jeg vidste, hvordan man skulle tænke på sådanne dilemmaer, fordi disse sammenstødsscenarier ligner en berømt filosofisk hjernetræner kaldet "vognproblemet." Forestil dig, at en løbsk vogn kaster ned ad sporene og er bundet til at ramme enten en gruppe på fem eller en enkelt person - ville du dræbe en for at redde fem?
Imidlertid tvivler mange filosoffer i dag på, at det at undersøge sådanne spørgsmål er en frugtbar vej til forskning. Barbara Fried, for eksempel en kollega i Stanford, har hævdet, at tragiske dilemmaer får folk til at tro, at etiske kvandarer stort set opstår under ekstreme og alvorlige omstændigheder.
Faktisk er etiske kvandarer allestedsnærværende. Hverdagslige, dagligdags situationer er overraskende rodede og komplekse, ofte på subtile måder. For eksempel: Bør din by bruge penge på et program til forebyggelse af diabetes eller på flere socialarbejdere? Bør dit lokale Institut for Folkesundhed ansætte en anden inspektør med hensyn til standarder for restauranthygiejne eller fortsætte et program med gratis nåle og injektionsforsyning?
Disse spørgsmål er ekstremt vanskelige at besvare på grund af usikkerheder om konsekvenserne - som hvem der vil blive berørt og i hvilken grad. De løsninger, som filosoffer har foreslået til ekstreme og desperate situationer, er til lidt hjælp her.
Problemet ligner med selvkørende biler. At tænke gennem ekstreme situationer og crashscenarier kan ikke hjælpe med at besvare spørgsmål, der opstår i dagligdags situationer.
En udfordring ved krydsninger
Man kan spørge, hvad der kan være så svært ved jordlige trafiksituationer, som at nærme sig en tværgang, køre gennem et kryds eller køre til venstre. Selv hvis synligheden ved crosswalk er begrænset, og det nogle gange er svært at se, om en nærliggende fodgænger faktisk ønsker at krydse gaden, takler chauffører dette hver dag.
Men for selvkørende biler udgør sådanne verdslige situationer en udfordring på to måder.
Let for mennesker betyder ofte hårdt for computere. (XKCD, CC BY-SA) For det første er der den kendsgerning, at det, der er let for mennesker, ofte er svært for maskiner. Uanset om det er at genkende ansigter eller ride cykler, vi er gode til opfattelse og mekaniske opgaver, fordi evolutionen byggede disse færdigheder for os. Det gør imidlertid disse færdigheder svære at undervise eller ingeniør. Dette er kendt som "Moravecs paradoks."
For det andet, i en fremtid, hvor alle biler er selvkørende biler, ville små ændringer i køreadfærd gøre en stor forskel i det samlede antal. Afgørelser truffet af ingeniører i dag vil med andre ord ikke bestemme, hvordan en bil kører, men hvordan alle biler kører. Algoritmer bliver politik.
Ingeniører lærer computere, hvordan man genkender ansigter og genstande ved hjælp af metoder til maskinlæring. De kan bruge maskinlæring også til at hjælpe selvkørende biler med at efterligne, hvordan mennesker kører. Men dette er ikke en løsning: Det løser ikke problemet, at omfattende beslutninger om sikkerhed og mobilitet træffes af ingeniører.
Desuden bør selvkørende biler ikke køre som mennesker. Mennesker er faktisk ikke meget gode chauffører. Og de kører på etisk urolige måder og beslutter, hvorvidt de skal give afkørsel ved gangbroer, baseret på fodgængernes alder, race og indkomst. For eksempel har forskere i Portland fundet, at sorte fodgængere passeres dobbelt så mange biler og måtte vente en tredjedel længere end hvide fodgængere, før de kan krydse.
Selvkørende biler bør køre mere sikkert og mere retfærdigt end folk gør.
Mundane etik
De etiske problemer uddybes, når man tager højde for de interessekonflikter, der dukker op i dagligdags situationer som krydsingsgange, sving og kryds.
F.eks. Skal designen af selvkørende biler afbalancere andres sikkerhed - fodgængere eller cyklister - med bilernes passagerers interesser. Så snart en bil kører hurtigere end gangstempoet, er den ikke i stand til at forhindre, at det styrter ned på et barn, der muligvis løber på vejen i sidste sekund. Men gåtempo er naturligvis alt for langsomt. Alle har brug for at komme til steder. Så hvordan skal ingeniører finde balancen mellem sikkerhed og mobilitet? Og hvilken hastighed er sikker nok?
Der er andre etiske spørgsmål, der også kommer op. Ingeniører er nødt til at foretage afvejninger mellem mobilitet og miljøpåvirkninger. Når de anvendes på alle biler i landet, kan små ændringer i computerstyret acceleration, hjørnearbejde og bremsning have store effekter på energiforbruget og forureningsemissioner. Hvordan skal ingeniører udveksle rejseeffektivitet med miljøpåvirkning?
Hvad skal fremtiden for trafikken være?
Mundane situationer udgør nye tekniske og etiske problemer, men de fører også folk til at stille spørgsmålstegn ved grundlæggende antagelser om trafiksystemet.
For mig selv begyndte jeg at stille spørgsmålstegn ved, om vi overhovedet har brug for steder, der hedder ”crosswalks”? Når alt kommer til alt kan selvkørende biler potentielt gøre det sikkert at krydse en vej overalt.
Og det er ikke kun krydstogter, der bliver unødvendige. Trafiklys i kryds kan også være en saga blott. Mennesker har brug for trafiklys for at sikre, at alle kommer over krydset uden styrt og kaos. Men selvkørende biler kunne koordinere sig gnidningsløst.
Det større spørgsmål her er dette: I betragtning af at selvkørende biler er bedre end menneskelige chauffører, hvorfor skulle bilerne være underlagt regler, der var designet til menneskelig faldbarhed og menneskelige fejl? Og for at udvide dette tankeeksperiment, skal du også overveje det mere generelle spørgsmål: Hvis vi som samfund kunne designe vores trafiksystem fra bunden, hvordan ville vi så have det til at se ud?
Da disse hårde spørgsmål vedrører alle i en by eller i et samfund, kræver de, at en by eller samfund er enige om svar. Det betyder, at man afbalancerer konkurrerende interesser på en måde, der fungerer for alle - uanset om folk kun tænker på crosswalks eller om trafiksystemet som helhed.
Med selvkørende biler kan samfund redesigne deres trafiksystemer. Fra crosswalk til overordnet trafikdesign - det er dagligdags situationer, der rejser virkelig hårde spørgsmål. Ekstreme situationer er en distraktion.
Vognproblemet besvarer ikke disse hårde spørgsmål.
Denne artikel blev oprindeligt offentliggjort på The Conversation.
Johannes Himmelreich, tværfaglig etiske medarbejder, Stanford University McCoy Family Center for Ethics in Society
