Az algoritmusok szerinti rendezés dobozokba helyez minket. Honnan tudjuk, hogy ők a helyesek? generált, CC BYAz algoritmusok szerinti rendezés dobozokba helyez minket. Honnan tudjuk, hogy ők a helyesek? generált, CC BY

Úgy tűnik, hogy a társadalom egy olyan pályára áll, ahol az életünket a számítógépes algoritmusok ellenőrzik. Az általunk generált adatokat átgondolják és elemzik, akár a nemzetbiztonsági kormányok, akár a nyereség érdekében működő vállalatok, és ez valószínűleg nem változik - az adatok elemzésének erejét és vonzerejét, miután megtalálták, nem adják fel könnyen.

De valójában kíváncsi vagyok, vajon jobban foglalkoztat-e az adatgyűjtés, vagy az a tény, hogy semmit sem tudunk azokról az algoritmusokról, amelyek ítéletet mondanak ránk.

Az életünk és szokásaink olyan részletességi szintjét, amelyet a magunk mögött hagyott adatokból ki lehet választani, korábban már tárgyaltunk, és az Egyesült Királyság tervezete körüli vita részeként új levegőt kap. Nyomozó hatáskörök törvényjavaslata. Legalább tudunk arról, hogy milyen adatokat gyűjtenek és mennyi ideig tárolnak, amelyekre némelyiket az Egyesült Királyság és az európai jog szabályozza.

A törvénytervezet szövegének szövegepéldául tudjuk, hogy az Egyesült Királyság kormánya „csak” megköveteli (indokolatlan) hozzáférést a kommunikációs metaadatokhoz, az e-mailek fejlécéhez és tárgyához, valamint a telefonhívás-nyilvántartáshoz. De azt is tudjuk, mennyire önmagában a metaadatok felfedése lehet: vessen egy pillantást a MIT Media Lab Immersion projektje erőteljes példája annak, hogy mennyi részlet állapítható meg belőle. Minden bizonnyal egyáltalán nem hasonlítható a tételes telefonszámlához, mint állították.


belső feliratkozási grafika


Tehát jóban vagy rosszban nekünk, a nyilvánosságnak van némi nyomunk arról, hogy mi kerül rögzítésre. De egyáltalán nem is sejtjük, milyen elemzési eszközöket és technikákat alkalmaznak ezekre az adatokra - és ennek jelentőségét nem szabad lebecsülni.

Mi ropja a számokat?

Képzett találgatásokat tehetünk. A nemzetbiztonsági ügynökségek valószínűleg a metaadatainkat használják arra, hogy társadalmi hálózatokat hozzanak létre emberek és helyek között, többek között összekapcsolva minket. Ezeket a kapcsolati hálózatokat ezután elemezzük annak meghatározására, hogy érdeklődő személyek vagyunk-e, annak meghatározása, hogy hogyan viszonyul más érdeklődő személyekhez, és hogyan kapcsolódik a meglévő, vagy velük kapcsolatban álló személyekhez.

Az ezeket a technikákat alkalmazó kutatók megértik korlátaikat, és hogy az őket működtető algoritmusok hibákat vagy mögöttes feltételezéseket tartalmazhatnak, amelyek mély hatást gyakorolnak a kimenetre. Ebben az esetben ez azt jelentheti, hogy terroristának titulálják-e vagy sem, vagy jogosult-e kölcsönre vagy jelzálogra.

Az sem teljesen világos, hogy a homályos határvidéken hol van meghatározva a kapcsolat fennállása. Az, hogy egyszerûen ugyanazon a webhelyen látogatunk, mint egy terrorista, közös értékeket jelent, vagy mindennap ugyanazon a buszon halad, azt sugallja, hogy rendszeresen beszélget a terroristákkal? Számos törvényes okból teljesen meg lehet látogatni az ismert terroristák által látogatott helyeket. Ha ugyanazokról a weboldalakról kapja hírét, mint a terroristák, akkor nagyobb valószínűséggel lesz terrorista? Diszkrimináció és elfogultság bevezethető az adatgyűjtés pillanatában, majd újra, amikor döntés születik az adatok elemzéséről. Az algoritmusok megkülönböztethetnek is.

Homályos határok

Az a tény, hogy az algoritmusok nemkívánatos torzítást vezetnek be, nagyon is valós. Például a biztonsági szolgálatok által használt személyeket ismert terroristák és ismert nem terroristák adatai alapján képzik ki. Ez azt jelenti, mivel a legismertebb terroristák 20-30 éves férfiak, valószínűbb, hogy pusztán férfi és durván 20-30 éves korosztály miatt minősül terroristának, a többi tulajdonságától függetlenül? Ha igen, van-e ennek jelentős hatása az adatok felhasználására?

A probléma abból adódik, hogy én és más összetett hálózati elemzést, gépi tanulást, mintaillesztést vagy mesterséges intelligencia technikákat alkalmazó tudományos kutatókat publikusan felülvizsgáltuk e technikák alkalmazásával, hogy meghatározzuk a technikák erősségét és a következtetések érvényességét; a kormányzati biztonsági szolgálatok és a magánszektor szervezetei nem. Fogalmunk sincs a módszereik minőségéről és azok alkalmazásáról. Van erre megoldás?

A biztonság egy másik területéről, a kriptográfia szakemberei már régen megtanulták, hogy algoritmusainak minőségének, tehát biztonságának javításának legjobb módja az volt, ha nyilvánosságra hozta őket. Kriptográfiai megvalósításokat és rejtjeleket tesznek közzé, és a kutatókat arra ösztönzik, hogy próbálják meg megtalálni a hibákat vagy hibákat, ezzel javítva a biztonságot mindazok számára, akik használják őket. Ezenkívül a zárt forrású (nem nyilvános) kriptogafikus algoritmusok bármilyen megvalósítása általában gyanakodva tekintenek rá. Ha életváltoztató ítéleteket akarnak rólunk kimondani - függetlenül attól, hogy terroristának vagy pénzügyi szempontból méltatlannak titulálnak minket - ugyanazt a modellt kell alkalmazni a biztonsági algoritmusokra is.

Érv egy ilyen lépés ellen az, hogy a nyílt és átlátható algoritmusok arra késztethetik a terroristákat, hogy a felderítés elkerülése érdekében módosítsák a valós viselkedésüket. Ez olyan dolgok megváltoztatását jelentené, mint interakcióik, asszociációk, böngészési szokások és potenciálisan mozgások. De ez, ha az algoritmusok megfelelően működnek, azt jelentené, hogy lényegében megszűnik a terrorista viselkedés. Ha a jövőbeni biztonságunk, szabadságunk és biztonságunk ezektől az algoritmusoktól függ, akkor biztosnak kell lennünk abban, hogy pontosan hogyan működnek - és ez.

A szerzőrőlA beszélgetés

Philip Garnett, a York-i Egyetem oktatója.

Ezt a cikket eredetileg közzétették A beszélgetés. Olvassa el a eredeti cikk.

Kapcsolódó könyv:

at

szünet

Köszönjük látogatását InnerSelf.com, hol vannak 20,000 + életet megváltoztató cikkek, amelyek "Új attitűdöket és új lehetőségeket" hirdetnek. Minden cikk le van fordítva 30+ nyelv. Feliratkozás a hetente megjelenő InnerSelf Magazine-hoz és Marie T Russell Daily Inspiration című könyvéhez. InnerSelf Magazine 1985 óta jelent meg.