Ideje fényt ragyogni azokra az algoritmusokra, amelyek hatalmába adják a nagy testvért

Az algoritmusok szerinti rendezés dobozokba helyez minket. Honnan tudjuk, hogy ők a helyesek? generált, CC BYAz algoritmusok szerinti rendezés dobozokba helyez minket. Honnan tudjuk, hogy ők a helyesek? generált, CC BY

Úgy tűnik, hogy a társadalom egy olyan pályára áll, ahol az életünket a számítógépes algoritmusok ellenőrzik. Az általunk generált adatokat átgondolják és elemzik, akár a nemzetbiztonsági kormányok, akár a nyereség érdekében működő vállalatok, és ez valószínűleg nem változik - az adatok elemzésének erejét és vonzerejét, miután megtalálták, nem adják fel könnyen.

De valójában kíváncsi vagyok, vajon jobban foglalkoztat-e az adatgyűjtés, vagy az a tény, hogy semmit sem tudunk azokról az algoritmusokról, amelyek ítéletet mondanak ránk.

Az életünk és szokásaink olyan részletességi szintjét, amelyet a magunk mögött hagyott adatokból ki lehet választani, korábban már tárgyaltunk, és az Egyesült Királyság tervezete körüli vita részeként új levegőt kap. Nyomozó hatáskörök törvényjavaslata. Legalább tudunk arról, hogy milyen adatokat gyűjtenek és mennyi ideig tárolnak, amelyekre némelyiket az Egyesült Királyság és az európai jog szabályozza.

Ban,-ben törvénytervezet szövegének szövegepéldául tudjuk, hogy az Egyesült Királyság kormánya „csak” megköveteli (indokolatlan) hozzáférést a kommunikációs metaadatokhoz, az e-mailek fejlécéhez és tárgyához, valamint a telefonhívás-nyilvántartáshoz. De azt is tudjuk, mennyire önmagában a metaadatok felfedése lehet: vessen egy pillantást a MIT Media Lab Immersion projektje erőteljes példája annak, hogy mennyi részlet állapítható meg belőle. Minden bizonnyal egyáltalán nem hasonlítható a tételes telefonszámlához, mint állították.

Tehát jóban vagy rosszban nekünk, a nyilvánosságnak van némi nyomunk arról, hogy mi kerül rögzítésre. De egyáltalán nem is sejtjük, milyen elemzési eszközöket és technikákat alkalmaznak ezekre az adatokra - és ennek jelentőségét nem szabad lebecsülni.

Mi ropja a számokat?

Képzett találgatásokat tehetünk. A nemzetbiztonsági ügynökségek valószínűleg a metaadatainkat használják arra, hogy társadalmi hálózatokat hozzanak létre emberek és helyek között, többek között összekapcsolva minket. Ezeket a kapcsolati hálózatokat ezután elemezzük annak meghatározására, hogy érdeklődő személyek vagyunk-e, annak meghatározása, hogy hogyan viszonyul más érdeklődő személyekhez, és hogyan kapcsolódik a meglévő, vagy velük kapcsolatban álló személyekhez.

Az ezeket a technikákat alkalmazó kutatók megértik korlátaikat, és hogy az őket működtető algoritmusok hibákat vagy mögöttes feltételezéseket tartalmazhatnak, amelyek mély hatást gyakorolnak a kimenetre. Ebben az esetben ez azt jelentheti, hogy terroristának titulálják-e vagy sem, vagy jogosult-e kölcsönre vagy jelzálogra.

Az sem teljesen világos, hogy a homályos határvidéken hol van meghatározva a kapcsolat fennállása. Az, hogy egyszerûen ugyanazon a webhelyen látogatunk, mint egy terrorista, közös értékeket jelent, vagy mindennap ugyanazon a buszon halad, azt sugallja, hogy rendszeresen beszélget a terroristákkal? Számos törvényes okból teljesen meg lehet látogatni az ismert terroristák által látogatott helyeket. Ha ugyanazokról a weboldalakról kapja hírét, mint a terroristák, akkor nagyobb valószínűséggel lesz terrorista? Diszkrimináció és elfogultság bevezethető az adatgyűjtés pillanatában, majd újra, amikor döntés születik az adatok elemzéséről. Az algoritmusok megkülönböztethetnek is.

Homályos határok

Az a tény, hogy az algoritmusok nemkívánatos torzítást vezetnek be, nagyon is valós. Például a biztonsági szolgálatok által használt személyeket ismert terroristák és ismert nem terroristák adatai alapján képzik ki. Ez azt jelenti, mivel a legismertebb terroristák 20-30 éves férfiak, valószínűbb, hogy pusztán férfi és durván 20-30 éves korosztály miatt minősül terroristának, a többi tulajdonságától függetlenül? Ha igen, van-e ennek jelentős hatása az adatok felhasználására?


 Szerezd meg a legújabb e-mailben

Heti magazin Napi inspiráció

A probléma abból adódik, hogy én és más összetett hálózati elemzést, gépi tanulást, mintaillesztést vagy mesterséges intelligencia technikákat alkalmazó tudományos kutatókat publikusan felülvizsgáltuk e technikák alkalmazásával, hogy meghatározzuk a technikák erősségét és a következtetések érvényességét; a kormányzati biztonsági szolgálatok és a magánszektor szervezetei nem. Fogalmunk sincs a módszereik minőségéről és azok alkalmazásáról. Van erre megoldás?

A biztonság egy másik területéről, a kriptográfia szakemberei már régen megtanulták, hogy algoritmusainak minőségének, tehát biztonságának javításának legjobb módja az volt, ha nyilvánosságra hozta őket. Kriptográfiai megvalósításokat és rejtjeleket tesznek közzé, és a kutatókat arra ösztönzik, hogy próbálják meg megtalálni a hibákat vagy hibákat, ezzel javítva a biztonságot mindazok számára, akik használják őket. Ezenkívül a zárt forrású (nem nyilvános) kriptogafikus algoritmusok bármilyen megvalósítása általában gyanakodva tekintenek rá. Ha életváltoztató ítéleteket akarnak rólunk kimondani - függetlenül attól, hogy terroristának vagy pénzügyi szempontból méltatlannak titulálnak minket - ugyanazt a modellt kell alkalmazni a biztonsági algoritmusokra is.

Érv egy ilyen lépés ellen az, hogy a nyílt és átlátható algoritmusok arra késztethetik a terroristákat, hogy a felderítés elkerülése érdekében módosítsák a valós viselkedésüket. Ez olyan dolgok megváltoztatását jelentené, mint interakcióik, asszociációk, böngészési szokások és potenciálisan mozgások. De ez, ha az algoritmusok megfelelően működnek, azt jelentené, hogy lényegében megszűnik a terrorista viselkedés. Ha a jövőbeni biztonságunk, szabadságunk és biztonságunk ezektől az algoritmusoktól függ, akkor biztosnak kell lennünk abban, hogy pontosan hogyan működnek - és ez.

A szerzőrőlA beszélgetés

Philip Garnett, a York-i Egyetem oktatója.

Ezt a cikket eredetileg közzétették A beszélgetés. Olvassa el a eredeti cikk.

Kapcsolódó könyv:

at

Még szintén kedvelheted

kövesse az InnerSelf oldalt

facebook ikonratwitter ikonrayoutube ikonrainstagram ikonrapintrest ikonrarss ikonra

 Szerezd meg a legújabb e-mailben

Heti magazin Napi inspiráció

ELÉRHETŐ NYELVEK

enafarzh-CNzh-TWdanltlfifrdeeliwhihuiditjakomsnofaplptroruesswsvthtrukurvi

BELSŐ HANGOK

többnemzetiségű egyének csoportja, akik egy csoportképhez állnak
Hét módszer, amellyel tiszteletet mutathatsz a sokszínű csapatod iránt (videó)
by Kelly McDonald
A tisztelet mélyen értelmes, de semmibe sem kerül adni. Íme, hogyan demonstrálhatja (és…
elefánt séta a lenyugvó nap előtt
Asztrológiai áttekintés és horoszkóp: 16. május 22-2022
by Pam Younghans
Ez a heti asztrológiai folyóirat a bolygó hatásain alapul, és perspektívákat kínál, és…
Leo Buscaglia fotója a Living, Loving and Learning című könyvének borítójáról
Hogyan változtassuk meg valaki életét néhány másodperc alatt
by Joyce Vissell
Az életem drámaian megváltozott, amikor valaki azt a pillanatot vette rá, hogy rámutasson szépségemre.
teljes holdfogyatkozás összetett fényképe
Asztrológiai áttekintés és horoszkóp: 9. május 15-2022
by Pam Younghans
Ez a heti asztrológiai folyóirat a bolygó hatásain alapul, és perspektívákat kínál, és…
05 08 együttérző gondolkodás fejlesztése 2593344 elkészült
Együttérző gondolkodás kialakítása önmagam és mások felé
by Marie T. Russell, InnerSelf.com
Amikor az emberek együttérzésről beszélnek, többnyire arra utalnak, hogy együtt éreznek másokkal… mert…
egy férfi levelet ír
Az igazság megírása és az érzelmek áramlásának engedélyezése
by Berger Barbara
A dolgok lejegyzése jó módja az igazmondás gyakorlásának.
egy fiatal pár, védőmaszkot viselő, egy hídon állva
Híd a gyógyulásért: Kedves koronavírus...
by Laura Aversano
A koronavírus-járvány olyan áramlatot jelentett pszichés és fizikai valóságunkban, amely…
egy olyan személy sziluettje, aki olyan szavak előtt ül, mint az együttérző, figyelmes, elfogadó stb.
Napi inspiráció: 6. május 2022
by Marie T, Russell, InnerSelf.com
Milyen tanár lakik a fejedben?
Mi akadályozza meg, hogy most boldog legyél?
Mi akadályozza meg, hogy most boldog legyél?
by Berger Barbara
Kérdezd meg magadtól, hogy valójában mi akadályoz abban, hogy boldog legyél most, ebben a pillanatban? Ha…
A tartozás új módja
A tartozás új módja: Minden emberben a legjobbnak nevezzük
by Eileen Workman
A „hovatartozás” iránti éhség szintjét ma sok amerikai fehér fejezi ki…
A látomás ereje: Ez a nagy ébredés ideje!
A látomás ereje: Ez a nagy ébredés ideje!
by Berger Barbara
Mi a következő lépés? Hová tartunk? Tanúi vagyunk ... és részt veszünk ... nagyszerű ...

A legolvasottabb

05 08 együttérző gondolkodás fejlesztése 2593344 elkészült
Együttérző gondolkodás kialakítása önmagam és mások felé (videó)
by Marie T. Russell, InnerSelf.com
Amikor az emberek együttérzésről beszélnek, többnyire arra utalnak, hogy együtt éreznek másokkal… mert…
vásárolni, amikor Isten szeret 4 8
Hogyan csökkenti az önfejlesztésre fordított kiadásokat az Isten általi szeretet érzése
by Duke Egyetem
A spirituális vagy vallásos keresztények kisebb valószínűséggel vásárolnak önfejlesztő termékeket…
agyagok szürke- és fehérállománya 4 7
Az agy szürke és fehér anyagának megértése
by Christopher Filley, Colorado Egyetem
Az emberi agy három kilós szerv, amely nagyrészt rejtély marad. De a legtöbben hallották…
a szem egészséget jósol 4 9
Amit a szemed elárul az egészségedről
by Barbara Pierscionek, Anglia Ruskin Egyetem
A San Diego-i Kaliforniai Egyetem tudósai olyan okostelefon-alkalmazást fejlesztettek ki, amely…
05 08 együttérző gondolkodás fejlesztése 2593344 elkészült
Együttérző gondolkodás kialakítása önmagam és mások felé
by Marie T. Russell, InnerSelf.com
Amikor az emberek együttérzésről beszélnek, többnyire arra utalnak, hogy együtt éreznek másokkal… mert…
egy férfi levelet ír
Az igazság megírása és az érzelmek áramlásának engedélyezése
by Berger Barbara
A dolgok lejegyzése jó módja az igazmondás gyakorlásának.
egy ember mezítláb képe a füvön állva
Gyakorlatok a természettel való kapcsolat földelésére és helyreállítására
by Jovanka Ciares
Mindannyiunknak ez a kapcsolata a természettel és az egész világgal: a földdel, a vízzel, a levegővel és…
Leo Buscaglia fotója a Living, Loving and Learning című könyvének borítójáról
Hogyan változtassuk meg valaki életét néhány másodperc alatt
by Joyce Vissell
Az életem drámaian megváltozott, amikor valaki azt a pillanatot vette rá, hogy rámutasson szépségemre.

Új hozzáállás - új lehetőségek

InnerSelf.comClimateImpactNews.com | InnerPower.net
MightyNatural.com | WholisticPolitics.com | InnerSelf piac
Copyright © 1985 - 2021 InnerSelf kiadványok. Minden jog fenntartva.