Sidste år oprettede Facebook to chatbots og bad dem begynde at tale med hinanden og øve deres forhandlingsevner. Botserne, det viser sig, var ret gode til at forhandle - men de gjorde det ved hjælp af deres eget sammensatte sprog, der var uforståeligt for mennesker.
Relateret indhold
- Denne kunstner bor i den hemmelige verden af klassificerede hemmeligheder og overvågning
Det er her verden går. Computere skaber indhold til hinanden, ikke os. Billeder tages af computere, så andre computere kan se og fortolke. Det hele sker stille, ofte uden vores viden eller samtykke.
Så det at lære at se som en computer - at synliggøre disse maskine-til-maskinkommunikation - kan være det vigtigste færdighed i det 21. århundrede.
Den 25. oktober 2018 spillede Kronos-kvartetten - David Harrington, John Sherba, Hank Dutt og Sunny Yang - en koncert på Smithsonian American Art Museum. De blev overvåget af 400 mennesker og et dusin kunstige intelligensalgoritmer, sidstnævnte med tilladelse fra Trevor Paglen, kunstneren bag udstillingen "Sites Unseen", der i øjeblikket kan ses på museet.
Mens musikerne spillede, viste en skærm over dem os mennesker, hvad computere så.
Da Kronos arbejdede sig gennem et sorgfuldt stykke, der oprindeligt var fra Det osmanniske imperium, opdagede overheadalgoritmer musikernes ansigter, skitserede læber, øjne og næse for hver person (og lejlighedsvis så "spøgelses" ansigter, hvor der ikke var nogen - ofte i Kronos-grundlægger Harringtons hårmop). Efterhånden som algoritmerne blev mere avancerede, forsvandt videofeeden, indtil kun neonlinjer på sort baggrund var tilbage. Endelig forsvandt ansigtskonturerne, indtil et abstrakt arrangement af linjer - formodentlig al den computer, der var nødvendig for at forstå "ansigt", men helt uforståeligt for mennesker - var alt, hvad der var tilbage.
"Sight Machine", Trevor Paglen, Kronos-kvartetten (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kronos-kvartetten (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kronos-kvartetten (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kronos-kvartetten (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kronos-kvartetten (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kronos-kvartetten (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kronos-kvartetten (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kronos-kvartetten (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kronos-kvartetten (Bruce Guthrie) 
"Sight Machine", Trevor Paglen, Kronos-kvartetten (Bruce Guthrie) 
"Synsmaskine, " Trevor Paglen, Kronos-kvartetten East Coast-debut af forestillingen med titlen "Sight Machine", ligesom Paglen's andet arbejde, bad seere og lyttere om at lære, hvordan man ser, som computere gør, og om at undersøge det menneskelige forhold til teknologi - telefonerne i vores lommer og øjnene i himlen, og alt derimellem.
Det er 2018, og tanken om, at mobiltelefoner ser på os, føles ikke længere som en sammensværgelsesteori fra en tin-folie-hat-iført kælderblogger. Google blev fanget tidligere i år ved at spore Android-telefonbrugernes placeringer, selvom brugerne deaktiverede funktionen. Mange mennesker er overbeviste om, at vores telefoner lytter til os for bedre at få vist annoncer - Facebook og andre virksomheder benægter disse afgifter, selvom det er teknisk og juridisk muligt for dem at gøre det. Tekniske journalister Alex Goldman og PJ Vogt undersøgte og fandt den samme ting: Der er ingen grund til, at vores telefoner ikke ville lytte, men på den anden side kan annoncører indhente nok information om os gennem andre metoder, som de bare ikke har brug for. .
Det er i denne sammenhæng, at "Sight Machine" blev udført. Omkring dusin kameraer, der ser på Kronos Quartet, sendte live video fra forestillingen til et rack af computere, der bruger algoritmer til kunstig intelligens uden for hylden til at skabe den uhyggelige visuals. Algoritmerne er de samme, der bruges i vores telefoner til at hjælpe os med at tage bedre selfies, dem, der bruges af selvkørende biler for at undgå forhindringer, og dem, der bruges af retshåndhævelse og våbenvejledning. Så mens resultaterne på skærmen til tider var smukke eller endda sjove, var der et underskud af rædsel.
”Det, jeg er forbløffet over med dette særlige arbejde, er, at han viser os noget, der er - og det er sandt for alt hans arbejde - han viser os noget, der er foruroligende, og han gør det ved hjælp af tricks, ” siger John Jacob, museets kurator til fotografering, der organiserede "Unseen Sites."
”Det er et bevidst trick, ” siger han, ”og det fungerer.”
Senere dømte sofistikerede ansigtsgenkendelsesalgoritmer dommer om medlemmerne af Kronos og viste deres resultater på en skærm. "Dette er John [Sherba]. John er mellem 24-40 år gammel, " sagde computeren. "Solrig [Yang] er 94, 4% kvinder. Solrig er 80% vred og 10% neutral."
"En af de ting, jeg håber, præstationen viser, " siger Paglen, "er nogle af måderne, hvorpå den slags opfattelse af computere ikke er neutral. Den er meget partisk ... med alle slags politiske og kulturelle antagelser, der er ikke neutral. " Hvis kønsklassificeringssystemet siger, at Sunny Yang er 94, 4 procent kvinder, betyder det, at nogen er 100 procent kvindelig. "Og hvem besluttede, hvad 100 procent kvindelig er? Er Barbie 100 procent kvindelig? Og hvorfor er køn en binær?" Spørger Paglen. "Ser det sker i et øjeblik, hvor den føderale regering forsøger bogstaveligt talt at slette queer-gendered mennesker, er det sjovt på den ene side, men for mig er det også forfærdeligt."
En senere algoritme undgik procentdelene og flyttede for blot at identificere objekter i scenen. "Mikrofon. Violin. Person. Manet. Paryk." (De sidstnævnte to er helt klart fejl; algoritmen ser ud til at have forvirret Hank Dutt for en vandmand og Harringtons rigtige hår for en toupee.) Så blev klassificeringerne mere komplekse. "Solrig holder en saks, " sagde maskinen, da lyset glimt af hendes cellostrenge. "John holder en kniv." Hvad ville der ske, hvis klassificeren gav disse - forkerte - oplysninger til retshåndhævelse, vil vi aldrig vide.
De fleste slutbrugere af AI-platforme - som ikke er kunstnere - hævder muligvis, at disse systemer kan have deres egne forudindtægter, men altid modtager et endeligt tegn på et menneske. En Amazon-fremstillet algoritme, Rekognition, som virksomheden sælger til retshåndhævelse og muligvis ICE, berømte forkert 28 medlemmer af Kongressen som mennesker, der var blevet anklaget for en forbrydelse ved at sammenligne deres ansigter med mugshots i en offentligt tilgængelig database. På det tidspunkt hævdede Amazon, at ACLU, der brugte systemet til at lave kampe, havde brugt Rekognition forkert. Virksomheden sagde, at systemets standardindstilling for kampe, kaldet en "tillidsgrænse", kun er 80 procent. (Med andre ord var algoritmen kun 80 procent sikker på, at Rep. John Lewis var en kriminel.) En talsmand fra Amazon sagde, at den anbefaler, at politiafdelinger bruger en konfidensgrænse på 95 procent, og at "Amazon Rekognition næsten udelukkende bruges til at hjælpe indsnævre feltet og lade mennesker hurtigt gennemgå og overveje muligheder ved hjælp af deres bedømmelse. ”Computere kommunikerer muligvis med hinanden, men - indtil videre - beder de stadig mennesker om at foretage det endelige opkald.
Musikken, valgt af Paglen med input fra Kronos, har også noget at sige om teknologi. Et stykke, "Powerhouse" af Raymond Scott, er "sandsynligvis mest berømt for at blive brugt i tegnefilm i fabriksscener, " siger Paglen. "Hvis du nogensinde ser en fabrik slags overproduktion og blive gal, er det ofte musikken, der taler til det. For mig er det en måde at tænke på den næsten tegneserieindustrialisering og slags placere dem inden for en teknologisk kontekst." Et andet stykke, "Different Trains" af Steve Reich, lukkede sættet. Kronos udfører kun den første bevægelse, som handler om Reichs barndom i 1930'erne og 40'erne; Paglen siger, at han synes om stykket som fejrer "en følelse af overstrømmelse og fremskridt, som togene letter." *
Det blev kombineret med billeder fra en offentligt tilgængelig database kaldet ImageNet, som bruges til at lære computere, hvad ting er. (Også kaldet "træningsdata", så ja, det er lidt af en ordspill.) Skærmen blinkede billeder umuligt hurtigt og viser eksempler på frugt, blomster, fugle, hatte, folk stående, folk går, folk hopper og enkeltpersoner som Arnold Schwarzenegger. Hvis du ville lære en computer, hvordan du genkender en person, som Schwarzenegger, eller et hus eller begrebet "middag", ville du starte med at vise en computer disse tusinder af billeder.
Der var også korte videoklip af mennesker, der kysser, omfavnede, griner og smilede. Måske ville en AI, der er trænet på disse billeder, være en velvillig, venlig.
Men "forskellige tog" handler ikke kun om optimisme; de senere bevægelser, som Kronos ikke spillede torsdag, men "implicit" af de første, handler om, hvordan løftet om togrejse blev bevilget til at blive et instrument i Holocaust. Tog, der virket som teknologisk fremgang, blev de køretøjer, hvor titusinder af jøder blev flyttet til dødslejre. Det, der syntes som en velvillig teknologi, blev undergravet for det onde.
"Det er som:" Hvad kan muligvis gå galt? " Siger Paglen. "Vi samler alle oplysninger om alle mennesker i verden."
Og faktisk, da "forskellige tog" sluttede, skiftede fokus. Skærmen viste ikke længere billeder af Kronos eller træningsdataene fra ImageNet; I stedet viste det et live videofeed af publikum, da ansigtsgenkendelsesalgoritmer valgte hver persons funktioner. Selv når vi tror, at vi ikke bliver overvåget, er vi det virkelig.
I en live video-feed af publikum valgte ansigtsgenkendelsesalgoritmer hver persons funktioner. (Bruce Guthrie) For at rapportere denne historie forlod jeg mit hus og gik til metrostationen, hvor jeg scannede et elektronisk kort knyttet til mit navn for at gå gennem drejebanen og igen, da jeg forlod metroen i centrum. I centrum gik jeg forbi et halvt dusin sikkerhedskameraer, før jeg gik ind i museet, hvor jeg opdagede mindst to mere (en Smithsonian-talsmand siger, at Smithsonian ikke bruger ansigtsgenkendelsesteknologi; DC-metropolitiets afdeling siger det samme om sine kameraer).
Jeg indspillede interviews ved hjælp af min telefon og uploadede lyden til en transkriptionstjeneste, der bruger AI til at finde ud af, hvad jeg og mine motiver siger, og måske eller måske ikke målretter reklamer mod mig baseret på indholdet af interviewene. Jeg sendte e-mails ved hjælp af Gmail, som stadig "læser" alt, hvad jeg sender (skønt ikke længere at vise mig annoncer).
Under rapporteringsprocessen, da jeg gik gennem byen, løb jeg ind i - jeg gør ikke dette op - Google Street View-bilen. To gange. Det er ikke paranoia, hvis de virkelig ser dig, ikke?
Så hvad er der tilbage i denne verden, hvor computere er ved at se, og eventuelt dømme om os? "Sight Machine" opfordrer os til at lære at tænke som en computer - men det minder os også om, at der er nogle dele af os, der indtil videre stadig er menneskelige.
Musik, siger Paglen, "er noget, der virkelig ikke kan kvantificeres ... når du ser et computersynssystem, der i det væsentlige forhører kunstnere, påpeger det virkelig for mig, at enorme kløfter i opfattelser mellem den måde, vi opfatter kultur og følelser og mening på. . og alle måder, hvorpå disse er usynlige for autonome systemer. "
Eller som Harrington udtrykker det, du kan lave musik med en violin lavet af træ eller en lavet på en 3D-printer. Du kan bruge en kulstoffiberbue eller en lavet af pernambuco træ. Men, siger han, bogen skal stadig trækkes hen over strengene. Musikken "bliver mere dyrebar, fordi den er håndlavet."
Og for nu er det stadig noget, vi kun kan gøre. Maskinerne har muligvis ikke længere brug for os. Men når det kommer til den højtidelige lyd fra en bue på en violinstreng og de følelsesmæssige strenge, der bemærkes slæbebånd, behøver vi ikke maskinerne.
"Trevor Paglen: Sites Unseen, " kurateret af John Jacob, fortsætter på Smithsonian American Art Museum i Washington, DC gennem 6. januar 2019. Det er planlagt at rejse til San Diego Museum of Contemporary Art 21. februar-2. Juni, 2019.
* Redaktørens note 2. november 2018: Denne historie er redigeret for at tydeliggøre den tilsigtede betydning og oprindelseshistorie for Steve Reichs sammensætning "Different Trains".
