”Du er i en ørken og går langs i sandet, når du pludselig kigger ned og ser en skildpadde ... Du når ned og du vender skilpadden på ryggen. Skildpadden lægger sig på ryggen, maven bager i den varme sol og slår sine ben og prøver at vende sig selv, men den kan ikke. Ikke uden din hjælp. Men du hjælper ikke. ”
Relateret indhold
- Voltaire: Oplysningsfilosof og lotteri svindler
Måske er intet mere emblematisk for Ridley Scotts dystopiske film fra Blade Runner fra 1982 end Voight-Kampff-testen, der blev administreret af filmens titulære retshåndhævende myndigheder, herunder Harrison Ford som Rick Deckard. Serien med spørgsmål i den fiktive test, såsom den ovenfor, er designet til at adskille mennesker fra replikanter ved at fremkalde en fysiologisk respons, der indikerer empati. Kun sande mennesker, ikke replikanter, føler den følelse. Deckards ansvar er at behandle replikanter, der begynder at være ulydige med ordrer. Han og andre bruger testen til at beslutte, hvorvidt man skal “gå på pension” - dræbe - replikanterne.
Disse oprørske androider udgør ikke kun en trussel mod mennesker, men i denne verden har de ingen lovlige rettigheder til beskyttelse. Hvordan kunne de, når de ikke betragtes som mennesker?
Det er så engagerende kvandarie, at historien fortsætter i den længe ventede efterfølger Blade Runner: 2049. En del af grunden til den originale films vedvarende popularitet er Deckards personlige kamp, en der spiller lignende ud i film som hende og viser som ”Westworld ”: Hvem eller hvad tæller som menneske, især i en verden med avanceret teknologi?
Og for at forstå det, må vi henvende os til nogle meget gamle filosoffer.
***
For de gamle grækere narrer maskiner, der er fremstillet af guder eller usædvanligt talentfulde mennesker, ofte folk til at tro, at androiderne var autentiske, skriver Adrienne Mayor i Aeon. Kong Nabis fra Sparta ejede en robotversion af sin kone, hvor hendes bryst hemmeligt var pyntet med negle. Han brugte maskinen til at klemme borgere, der ikke adlydte ham, deres kød gennemboret af de skjulte våben. Og i Kina så en automat fra det 10. århundrede f.Kr., lavet af opfinderen Yan Shi, så menneskelig ud, sang og blinkede til damer, at kongen blev rasende over det. Så lærte han sandheden og undrede sig over en maskine, der endda havde mekaniske organer. Som forsker Nigel Wheale skriver: "I alle perioder er 'menneskelige ting' blevet forestillet som enheder, der tester eller definerer den moderne følelse af menneskelig værdi."
Alt dette er at sige, at bekymring over, hvordan man adskiller kød og blod mennesker fra maskiner, der blot ser menneskelige ud (og beslutter, om disse maskiner udgør en trussel for os Homo sapiens) ikke er begrænset til moderne tid. Vi har altid spekuleret på, om alle mennesker virkelig er, hvad de ser ud til at være - og det er grunden til, at oplysningsfilosoffer brugte så meget tid på at dissekere spørgsmålet om, hvad der gør et menneske til et menneske.
Rene Descartes, en fransk filosof fra det 17. århundrede, der rejste vidt rundt i Europa, overvejede dybt spørgsmålet om, hvad der gjorde os til mennesker. Det er ikke tilfældigt, at hans mest berømte citat gentages af en af replikanterne i Blade Runner: ”Jeg tror, det er jeg også.” Og hvis alt det ikke er nok bevis for hans forbindelse til filmen, skal du overveje navnene: Descartes og Deckard.
Som filosof Andrew Norris påpeger, mistænkte Descartes, at der en dag kunne være et behov for en test af, om noget var menneske eller maskine. ”Hvis der var maskiner, der bærer billeder af vores kroppe, og som er i stand til at efterligne vores handlinger, så vidt det er moralsk muligt, ville der stadig være to mest sikre prøver, hvorved man ved, at de ikke var rigtig mænd, ” skrev Descartes. Så han oprettede sine egne test, som var afhængige af sproglig evne og adfærdens fleksibilitet.
Replikanter taler og opfører sig ligesom mennesker gør, hvilket betyder, at de ville bestå Descartes 'prøver. Men der er en anden grund til, at Deckard kæmper for at modbevise deres menneskehed: Replikanter har også implanterede minder. For den engelske filosof John Locke er det, der giver en person en følelse af mig selv, kontinuiteten i deres minder. Den menneskelige krop ændrer sig med tiden, men minderne forbliver, hvilket giver et fundament for en stabil identitet. "Så vidt denne bevidsthed kan udvides bagud til enhver handling eller fortid, der er gået, når han indtil identiteten af denne person, " skrev Locke.
Så for Blade Runners Rachael, den mest avancerede replikant, der endnu er udviklet, betyder det ikke noget, at hun måske kun er et par år gammel; hendes minder strækker sig meget længere tilbage og giver hende indtryk af at have levet meget længere. Det er det, der gør Rachael til en sådan tragisk figur - ”hendes” minder hører ikke til hende. De kommer fra hendes opfinders niese.
”Det er en hjerteskærende ting, men du kan forestille dig [erindringerne] er stadig specielle for hende, selv efter at hun har lært, at de ikke rigtig er hendes, ” siger Susan Schneider, professor i filosofi ved University of Connecticut og medlem af etik og teknologi gruppe på Yale. ”Det er som at finde ud af, at du er den uploadede kopi, ikke den person, der laver uploaden. Men du har stadig et specielt forhold til dem. Som en forælder. ”
Men det er ikke kun erindringer eller rationalitet, der gør et menneske i Blade Runner. Det vigtigste af alt er empati, ifølge Voight-Kampff-testen. Da vi ikke kan læse sind eller se fysiske beviser på dem, har tænkere som den tyske filosof Theodor Lipps argumenteret for, at vi kan opfatte, at andre føler og handler som vi gør gennem empatiens magt.
Harrison Ford som Rick Deckard administrerer Voight-Kampff testen i den originale Blade Runner. (Warner Bros.) ”Blade Runner skal ironisk nok teste andres empati - ikke her i Lipps forstand, men i deres følsomhed over for en nu omgået naturlig verden befolket af ikke-menneskelige dyr, ” skriver Norris i sin artikel om filmens filosofi. Det er her det berømte skildpadde-fanget-på-det-tilbage-i-ørkenen kommer fra.
”Følelser i sig selv vil aldrig være en perfekt test af menneskeheden: sociopater er jo også menneskelige, ” sagde Deborah Knight, en professor i filosofi ved Queen's University, pr. E-mail. ”Men følelser er mere end ikke-kognitive reaktioner. De hjælper os med at træffe afgørelser om, hvad vi skal gøre, og hvem vi skal stræbe efter at være. ”
Dette er især klart i tilfælde af repliker Roy Batty, spillet af Rutger Hauer. Roy føler menneskelige lignende følelser og har forhåbninger, men får ikke en menneskelig levetid, sagde Knight. Roy er klar over, at han, som de andre replikanter, er blevet bygget til at dø efter blot fire år, hvilket forståeligt nok irriterer ham.
Så replikanter føler uden tvivl følelser, og de har minder. Gør det dem menneskelige? For Schneider betyder et definitivt svar ikke nødvendigvis noget. Replikanterne deler nok kvaliteter med mennesker til at de fortjener beskyttelse. ”Det er en meget stærk sag at behandle [et ikke-menneske] med de samme juridiske rettigheder, som vi giver et menneske. Vi ville ikke kalde [Rachel] et menneske, men måske en person, ”siger hun.
For Eric Schwitzgebel, professor i filosofi ved University of California i Riverside, er konklusionen endnu mere dramatisk. ”Hvis vi en dag skaber robotter med menneskelignende kognitive og følelsesmæssige egenskaber, skylder vi dem mere moralsk overvejelse, end vi normalt skylder ellers lignende mennesker, ” skriver han i Aeon. ”Vi vil have været deres skabere og designere. Vi er således direkte ansvarlige både for deres eksistens og for deres glade eller ulykkelige tilstand. ”
***
Blade Runner er kun en film, og mennesker har stadig ikke formået at skabe replikanter. Men vi har gjort masser af fremskridt inden for kunstig intelligens, fra selvkørende biler, der lærer at tilpasse sig menneskelig fejl til neurale netværk, der argumenterer med hinanden for at blive smartere. Derfor har Schneider de spørgsmål, der stilles af filmen om menneskehedens art og hvordan vi kan behandle androider, vigtige virkninger fra den virkelige verden.
”En af de ting, jeg har gjort, er at tænke på, om det nogensinde vil føles som noget at være en AI. Vil der nogensinde være en Rachael? ”Siger Schneider, der bruger Blade Runner i sin klasse om filosofi inden for science fiction. I år offentliggjorde Schneider et papir om den test, hun udviklede sammen med astrofysiker Edwin Turner for at finde ud af, om et mekanisk væsen faktisk kunne være bevidst. Ligesom Voight-Kampff-testen er den baseret på en række spørgsmål, men i stedet for at kræve tilstedeværelse af empati - følelser rettet mod en anden - ser det på følelser om at være et selv. Testen, kaldet AI Consciousness Test, er i færd med at blive patenteret på Princeton.
Testen adskiller sig fra den mere berømte Turing-test, der blev udviklet af matematikeren Alan Turing i 1951. I denne tidligere test ville en dommer deltage i en digital samtale med deltageren (som hvad du ville opleve i dag i chatrooms) og stille spørgsmål til at skelne om respondenten var menneskelig eller en maskine. Men som Schneider påpeger i sin artikel, kan forskere udvikle programmer, der består Turing-testen, men ikke er bevidste væsener. Turing-testen er interesseret i at vurdere nøjagtigheden mellem en maskins respons og et menneskes svar, ikke med at forstå, om maskinen er opmærksom eller ej. Ligesom Voight-Kampff-testen handler Schneiders AI Consciousness Test om at prøve at forstå, hvad der sker inde i maskinen.
At arbejde som dette er presserende, siger hun, fordi menneskeheden ikke er etisk forberedt til at håndtere følgerne af at skabe levende liv. Hvad der vil gøre det endnu sværere at dømme vores skabninger er den menneskelige afhængighed af antropomorfisme for at indikere, hvad der skal regnes som et værd at være moralsk overvejende. ”Nogle [robotter] ser menneskelige ud, eller de er søde og fluffy, så vi tænker på vores katte og hunde, ” siger Schneider. ”Det får os til at tro, at de føler sig. Vi er meget godtroende. Det kan vise sig, at kun biologiske systemer kan være bevidste, eller at de smarteste AI'er er de bevidste, de ting, der ikke ser menneskelige ud. ”
Det er vigtigt for forskere at konferere med filosofer - hvilket mange allerede gør, siger Schneider - men også for offentlighedens medlemmer at tænke gennem følgerne af denne type teknologi. Og tilføjer hun, at ikke alle filosofer er enige om bevidsthedens natur, så der er ingen lette svar.
Måske Hollywood-film som Blade Runner: 2049 bringer os et skridt nærmere på at deltage i disse samtaler. Men hvis det ikke gør det, bliver vi nødt til at påtage os arbejdet med at gå ind i den etiske kvagmyr. Tidligere snarere end senere - eller så ender vi med et problem som replikanterne og har ingen idé om, hvordan vi skal svare.
