Tavaly a Facebook két chatbotot hozott létre, és felkérte őket, hogy kezdjenek beszélgetni egymással, és gyakorolják tárgyalási képességeiket. A botok, kiderült, nagyon jók voltak a tárgyalásokon, de ők az általuk megfogalmazott saját nyelvükön használtak, amely az emberek számára érthetetlen volt.
kapcsolodo tartalom
- Ez a művész az osztályozott titkok és megfigyelés titkos világában lakozik
Itt megy a világ. A számítógépek tartalmat hoznak létre egymásnak, nem nekünk. A képeket számítógépek készítik, hogy más számítógépek megtekinthessék és értelmezhessék őket. Mindez csendben zajlik, gyakran tudásunk vagy hozzájárulásunk nélkül.
Tehát a 21. század legfontosabb képessége lehet a számítógéphez hasonló látás megtanulása - ezeknek a gépek közötti kommunikációnak láthatóvá tétele -.
2018. október 25-én a Kronos-kvartett - David Harrington, John Sherba, Hank Dutt és Sunny Yang - koncertezett a Smithsonian American Art Museum-ban. 400 ember és egy tucat mesterséges intelligencia algoritmus figyelte őket, ez utóbbi jóvoltából Trevor Paglen, a "Láthatatlan helyek" kiállítás mögött álló művész jóvoltából, jelenleg a múzeumban látható.
Miközben a zenészek játszottak, egy felettük lévő képernyő megmutatta az emberek számára, hogy mit látnak a számítógépek.
Miközben Kronos végighaladt az Oszmán Birodalomból származó gyászos darabon, a képernyő fölött lévő algoritmusok felismerték a zenészek arcát, körvonalazva mindenki ajkát, szemét és orrát (és időnként látva „szellem” arcokat, ahol ilyen nem volt - gyakran a Kronos alapítója, Harrington hajmosója). Ahogy az algoritmusok továbbfejlesztettek, a videofordulás elhalványult, amíg csak a fekete háttér neonvonalai maradtak. Végül az arc körvonalai elhalványultak, amíg a vonalak elvont elrendezése - feltehetően minden számítógépnek szüksége volt az "arc" megértésére, de az emberek számára teljesen érthetetlen - maradt fenn.
"Látó gép", Trevor Paglen, Kronos kvartett (Bruce Guthrie) 
"Látó gép", Trevor Paglen, Kronos kvartett (Bruce Guthrie) 
"Látó gép", Trevor Paglen, Kronos kvartett (Bruce Guthrie) 
"Látó gép", Trevor Paglen, Kronos kvartett (Bruce Guthrie) 
"Látó gép", Trevor Paglen, Kronos kvartett (Bruce Guthrie) 
"Látó gép", Trevor Paglen, Kronos kvartett (Bruce Guthrie) 
"Látó gép", Trevor Paglen, Kronos kvartett (Bruce Guthrie) 
"Látó gép", Trevor Paglen, Kronos kvartett (Bruce Guthrie) 
"Látó gép", Trevor Paglen, Kronos kvartett (Bruce Guthrie) 
"Látó gép", Trevor Paglen, Kronos kvartett (Bruce Guthrie) 
"Látó gép", Trevor Paglen, Kronos kvartett A „Látó gép” című előadás keleti partján mutatkozó debütálása, mint Paglen más munkája, felkérte a nézőket és a hallgatókat, hogy tanulják meg, hogyan kell látni, mint a számítógépek, és vizsgálják felül az emberi kapcsolat a technológiával - a zsebünkben lévő telefonokkal és a szemmel az ég és minden, ami a közöttük van.
2018-as év, és az a gondolat, hogy a mobiltelefonok figyelnek ránk, már nem érzi úgy az összeesküvéselméletet, amelyet egy ónfóliával-kalapot viselő alagsori blogger jelent. A Google ez év elején elkapta az Android telefonok felhasználói helyének követését, még akkor is, ha a felhasználók letiltották a funkciót. Sokan meg vannak győződve arról, hogy telefonjaink hallgatnak ránk, hogy jobban szolgáltassuk a hirdetéseket - a Facebook és más cégek tagadják ezeket a díjakat, bár műszakilag és jogilag lehetséges. A technikus újságírók, Alex Goldman és PJ Vogt ugyanezt vizsgálták és találták meg: Nincs ok, amiért telefonjainkat nem hallgatnánk, másrészt a hirdetők más módszerekkel tudnak elegendő információt gyűjteni rólunk, amelyekre nincs szükségük. .
Ebben az összefüggésben hajtották végre a "Látógépet". A Kronos Kvartettot körülbelül tucat körülvevő kamera élő videót küldött az előadástól egy számítógép-állványra, amely a boltozatos mesterséges intelligencia algoritmusokat használja a félelmetes látvány létrehozására. Az algoritmusok ugyanazok, amelyeket a telefonjainkban használunk, hogy segítsünk jobb önportrék készítésében, az algoritmusok, amelyeket az önjáró autók használnak az akadályok elkerülése érdekében, valamint a rendészeti és a fegyverek útmutatásai által használt algoritmusok. Tehát, bár a képernyőn megjelenő eredmények néha gyönyörűek voltak, vagy akár viccesek is voltak, a horror túláradása volt.
"Ami engem lenyűgöz, ezt mutatja be, hogy valami olyasmit mutat - és ez igaz minden munkájára -, mutat valamit, ami zavaró, és trükkökkel csinálja" - mondja John Jacob, a múzeum kurátora. fotózásra, aki a "Sites Unseen" webhelyet szervezett.
"Ez egy szándékos trükk - mondja -, és működik."
Később a kifinomult arcfelismerő algoritmusok megítélés alapján készítették a Kronos tagjait, és eredményeiket a képernyőn jelenítették meg. "Ez John [Sherba]. John 24-40 év közötti" - mondta a számítógép. "A Sunny [Yang] nők 94, 4% -a. A Sunny 80% -ban dühös és 10% -ban semleges."
"Az egyik dolog, amire remélem, hogy az előadás megmutatkozik" - mondja Paglen -, néhány olyan módszer, amellyel a számítógépek észlelése nem semleges. Nagyon elfogult ... mindenféle politikai és kulturális feltételezéssel, amelyek nem semleges. " Ha a nemek szerinti osztályozási rendszer szerint Sunny Yang 94, 4 százalék nő, akkor ez azt jelenti, hogy valaki száz százalékig nő. "És ki döntött arról, hogy 100% -ban nő? Barbie 100% -ban nő? És miért van a nem bináris?" - kérdezi Paglen. "Látva, hogy ez történik egy olyan pillanatban, amikor a szövetségi kormány megpróbál szó szerint törölni a nemes nemű embereket, az egyik oldalról vicces, de számomra ez is rettenetes."
Egy későbbi algoritmus elhagyta a százalékokat és mozgatta az objektumok egyszerű azonosítását a jelenetben. "Mikrofon. Hegedű. Személy. Medúza. Paróka." (Az utóbbi kettő egyértelműen hibás; úgy tűnik, hogy az algoritmus megzavarja Hank Duttot egy medúza és Harrington valódi haja miatt). Ezután az osztályozás összetettebbé vált. "Sunny ollóval rendelkezik" - mondta a gép, amikor a fény csillogott a csellójától. "John kést tart." Mi történne, ha az osztályozó ezt a - helytelen - információt megadná a rendészeti szerveknek, soha nem fogjuk tudni.
Az AI platformok végfelhasználói - akik nem művészek - állíthatják, hogy ezeknek a rendszereknek megvannak a maga elfogultságai, de mindig egy végső aláírást kapnak az emberek. Az Amazon által készített, a Recognition algoritmus, amelyet a cég bűnüldöző szerveknek és esetleg az ICE-nek ad el, híresen tévesen azonosította a Kongresszus 28 tagját olyan emberekként, akiket bűncselekménnyel vádoltak, amikor arcukat a nyilvánosan elérhető adatbázisban szereplő pillanatképekhez hasonlították. Abban az időben az Amazon azzal érvelt, hogy az ACLU, amely a rendszert használta a mérkőzések készítéséhez, helytelenül alkalmazta a felismerést. A cég szerint a mérkőzés rendszerének alapértelmezett beállítása, amelyet "bizalomküszöbnek" hívnak, mindössze 80 százalék. (Más szavakkal, az algoritmus mindössze 80 százalékkal volt biztos abban, hogy republikánus John Lewis bűnöző volt.) Az Amazon szóvivője azt mondta, hogy azt ajánlja, hogy a rendőri osztályok használják 95 százalékos megbízhatósági küszöböt, és hogy az „Amazon Rekognitiont szinte kizárólag arra használják, hogy segítsenek. szűkítse a mezőt, és hagyja, hogy az emberek az ítéletük alapján gyorsan megvizsgálhassák és megfontolhassák a lehetőségeket. Lehet, hogy a számítógépek kommunikálnak egymással, de - egyelőre - még mindig arra kérik az embereket, hogy tegyék meg az utolsó hívást.
A zenét, amelyet Paglen választott a Kronos közreműködésével, szintén van mit mondani a technológiáról. Az egyik darab, a Raymond Scott „Powerhouse” című film „valószínűleg a leghíresebb azzal, hogy gyári jelenetekben rajzfilmekben használják” - mondja Paglen. "Ha valaha lát egy gyárifajta túltermelést és őrültséget, ez gyakran a zene szól erről. Számomra ez egyfajta gondolkodásmód erről a szinte rajzfilmszerű iparosodásról, és egyfajta helyzetbe helyezi őket egy technológiai környezetben." Egy másik darab, Steve Reich "Különböző vonatok" zárta a készletet. Kronos csak az első művet játssza, amely Reich gyermekkorjáról szól az 1930-as és 40-es években; Paglen szerint a darab úgy gondolja, hogy "a túlélés és a haladás érzése, amelyet a vonatok elősegítenek" *.
Csatlakoztak egy ImageNet nevű, nyilvánosan elérhető adatbázisból származó képekkel, amelyeket arra használnak, hogy megtanítsák a számítógépeknek, hogy mi a helyzet. ("Edzési adatoknak" is hívják, tehát igen, ez kissé bonyolult.) A képernyőn képtelenség szerint gyorsan villogtak képek, példákat mutatva a gyümölcsökre, a virágokra, a madarakra, a kalapokra, az emberekre, az emberek sétáltak, az emberek ugrottak. és olyan személyek, mint Arnold Schwarzenegger. Ha azt szeretné megtanítani egy számítógépre, hogyan kell felismerni egy embert, például Schwarzenegger, vagy egy házat, vagy a "vacsora" fogalmát, akkor elkezdené, ha megmutatná a számítógépnek a több ezer képet.
Volt rövid videoklipek is, amelyekben az emberek megcsókoltak, átöleltek, nevettek és mosolyogtak. Lehet, hogy egy ezekre a képekre kiképzett AI jóindulatú, barátságos lenne.
A "Különböző vonatok" azonban nem csak az optimizmust jelenti; a későbbi mozgalmak, amelyeket Kronos nem játszott csütörtökön, de az elsők "hallgatják", arról szólnak, hogy miként használták fel a vasúti utazás ígéretét a holokauszt eszközévé. A vonatok, amelyek úgy tűnt, mint a technológiai fejlődés, a járművekké váltak, amelyekben több tízezer zsidót helyeztek át halálos táborba. A jóindulatú technológianek tűnt a gonosz.
"Olyan, mint:" Mi történhet rosszul? " Mondja Paglen. "Összegyűjtjük az összes információt a világ minden emberéről."
És valójában, amint a "Különböző vonatok" véget ért, a hangsúly eltolódott. A képernyőn már nem jelentek meg Kronos képei vagy az ImageNet edzési adatai; ehelyett élő video-közvetítést mutatott a közönség számára, mivel az arcfelismerési algoritmusok minden egyes személy jellemzőit kiválasztották. Valójában még akkor is, ha azt gondoljuk, hogy nem figyelünk.
A közönség élő videócsatornájában az arcfelismerési algoritmusok kiválasztották az egyes személyek jellemzőit. (Bruce Guthrie) A történet beszámolására elhagytam a házomat és odamentem a metróállomáshoz, ahol beolvastam a nevemhez csatolt elektronikus kártyát, hogy áthaladjak a forgószekrényen, és ismét, amikor elhagytam a metrót a belvárosból. Belvárosban fél tucat biztonsági kamerát tettem át, mielőtt beléptem a múzeumba, ahol még legalább kettőt felfedeztem (egy Smithsonian szóvivője szerint a Smithsonian nem használ arcfelismerési technológiát; a DC nagyvárosi rendõri osztály ugyanazt mondja a kameráiról).
Interjúkat rögzítettem a telefonom segítségével, és a hangot egy olyan átíró szolgáltatásba töltöttem fel, amely AI segítségével kitalálja, amit én és az alanyok mondok, és az interjúk tartalma alapján elképzelhető, hogy nem célzott hirdetést rám. E-maileket küldtem a Gmail segítségével, amely továbbra is "olvassa" mindent, amit küldök (bár már nem jelenít meg hirdetéseket).
A jelentési folyamat során, miközben sétáltam a városon, befutottam - nem ezt állítom fel - a Google Street View autóba. Kétszer. Nem paranoia, ha tényleg téged néznek, ugye?
Tehát mi maradt ebben a világban, ahol a számítógépek látják és esetleg megítélnek ránk? A "Látógép" arra buzdít bennünket, hogy megtanuljuk, hogyan gondoljunk úgy, mint egy számítógép -, de emlékeztet bennünket, hogy vannak olyan részek, amelyek egyelőre még mindig teljesen emberiek.
A zene, Paglen szerint: "valami olyan, amit valójában nem lehet számszerűsíteni. Amikor egy számítógépes látásrendszert nézünk, amely lényegében az előadókat kérdezi, számomra valóban rámutat arra, hogy a kultúra és az érzelmek és a jelentés érzékelése között az érzékelés hatalmas szakadékot mutat. és minden módon, ahogyan ezek láthatatlanok az autonóm rendszerek számára. "
Vagy amint azt Harrington mondja, zenélhet zenével egy fából készült hegedűvel vagy egy 3D nyomtatóval készített hegedűvel. Használhat szénszálas íjat vagy pernambuco fából készült íjat. De azt mondja, az íjat még mindig meg kell húzni a húrokon. A zene "értékesebbé válik, mert kézzel készített".
És egyelőre még mindig ez csak valami, amit tehetünk. Lehet, hogy a gépeknek már nincs szükségük ránk. De amikor a hegedűhúr íjának ünnepi hangját és az érzelmi húrokat, amelyek a vontatóhajlatokat rögzítik, nincs szükségünk a gépekre.
„Trevor Paglen: Láthatatlan helyek”, John Jacob kurátora, folytatja a Washington DC-ben található Smithsonian American Art Museum-ban 2019. január 6-ig. A tervek szerint a San Diego Kortárs Művészeti Múzeumba utazik, február 21. - június 2., 2019.
* A szerkesztő megjegyzése, 2018. november 2 .: Ez a történet úgy lett szerkesztve, hogy tisztázza Steve Reich "Különböző vonatok" kompozíciójának szándékolt értelmét és eredetét.
