Az új digitális megosztottság az algoritmusoktól elzárkózó és az elutasító emberek között van Tudja, mi történik, ha megosztja adatait? mtkang / shutterstock.com

Az élet minden aspektusát a mesterséges intelligencia algoritmusai vezérelhetik - kezdve a reggeli ingázás útvonalának megválasztásától, a dátumig kit választani, egészen az összetett jogi és bírósági ügyekig, például a prediktív rendfenntartásig.

Az olyan nagy techcégek, mint a Google és a Facebook, az AI-t használják, hogy betekintést nyerjenek a részletes ügyféladatok óriási halmazába. Ez lehetővé teszi számukra a felhasználók kollektív preferenciáinak bevételszerzését olyan gyakorlatok révén, mint a mikrocélzás, amely stratégia a hirdetők által a felhasználók meghatározott csoportjainak szűk célzásához használatos.

Ezzel párhuzamosan ma már sokan jobban megbíznak a platformokban és az algoritmusokban, mint a saját kormányaikban és a polgári társadalomban. Egy 2018. októberi tanulmány azt javasolta, hogy az emberekalgoritmus felértékelődése, "Annyiban, hogy jobban támaszkodnának a tanácsokra, ha azt gondolják, hogy algoritmusból, mint emberből származnak.

A múltban a technológiai szakértők aggódtak a „Digitális megosztottság” akik elérhetik a számítógépeket és az internetet, és azok között, akik nem tudnak. A digitális technológiákhoz kevésbé hozzáférhető háztartások hátrányos helyzetben vannak pénzt keresni és készségeket felhalmozni.


belső feliratkozási grafika


De ahogy a digitális eszközök elterjednek, a megosztottság már nem csak a hozzáférésről szól. Hogyan kezelik az emberek az információk túlterhelését és az algoritmikus döntések sokaságát, amelyek áthatják életük minden aspektusát?

A kímélőbb felhasználók elrugaszkodnak az eszközöktől, és tisztában vannak azzal, hogy az algoritmusok hogyan befolyásolják az életüket. Eközben a kevesebb információval rendelkező fogyasztók még inkább algoritmusokra támaszkodnak döntéseik irányításában.

Maradjon kapcsolatban - vagy áramtalanítsa? pryzmat / shutterstock.com

A mesterséges intelligencia mögött rejlő titkos szósz

Az új digitális megosztottság legfőbb oka véleményem szerint, aki információs rendszereket tanul, az az olyan kevesen értik az algoritmusok működését. A felhasználók többsége számára az algoritmusokat fekete dobozként tekintik.

Az AI algoritmusok adatokat vesznek fel, matematikai modellhez illesztenek és előrejelzést adnak ki, a tartománytól kezdve milyen dalokat élvezhet nak nek hány évet kell töltenie valakinek a börtönben. Ezeket a modelleket a múltbeli adatok és a korábbi modellek sikerei alapján fejlesztik és módosítják. A legtöbb ember - még néha maguk az algoritmus-tervezők is - nem igazán tudják, mi kerül a modell belsejébe.

Kutatók régóta aggódnak az algoritmikus igazságosságról. Például az Amazon AI-alapú toborzóeszköze kiderült elutasítani a női jelölteket. Az Amazon rendszere szelektíven kibontakozott hallgatólagosan nem szerinti szavak - olyan szavak, amelyeket a férfiak nagyobb valószínűséggel használnak a mindennapi beszédben, például „kivégzett” és „elfogott”.

Egyéb tanulmányok kimutatták, hogy a bírósági algoritmusok faji szempontból elfogultak, és a többi szegény vádlottat hosszabb ideig ítélik, mint másokat.

Az Európai Unióban nemrégiben elfogadott általános adatvédelmi rendelet részeként az emberek „Magyarázathoz való jog” az algoritmusok döntéseik során alkalmazott kritériumai közül. Ez a jogszabály az algoritmikus döntéshozatal folyamatát receptkönyvként kezeli. Az a gondolkodásmód, hogy ha megérti a receptet, akkor megértheti, hogy az algoritmus hogyan hat az életére.

Eközben néhány mesterséges intelligencia-kutató olyan algoritmusokat követelt, amelyek igen tisztességes, elszámoltatható és átlátható<p></p> értelmezhető, ami azt jelenti, hogy döntéseikkel olyan folyamatokon keresztül kell eljutniuk, amelyeket az emberek megérthetnek és megbízhatnak.

Milyen hatása lesz az átláthatóságnak? Ban ben egy tanulmány, a diákokat algoritmus alapján osztályozták, és különböző szintű magyarázatokat kínáltak arra vonatkozóan, hogy társaik pontszáma hogyan igazodott az utolsó osztályzat eléréséhez. Az átláthatóbb magyarázattal rendelkező hallgatók valójában kevésbé bíztak az algoritmusban. Ez ismét digitális megosztottságot sugall: az algoritmikus tudatosság nem vezet a rendszer iránti nagyobb bizalomhoz.

De az átláthatóság nem csodaszer. Még akkor is, ha egy algoritmus teljes folyamatát felvázolják, a részletek még mindig túl összetettek lehetnek hogy a felhasználók megértsék. Az átlátszóság csak azoknak a felhasználóknak segít, akik elég kifinomultak ahhoz, hogy megértsék az algoritmusok bonyolultságát.

Például 2014-ben Ben Bernanke, a Federal Reserve korábbi elnöke volt kezdetben automatizált rendszerrel megtagadta a jelzálog refinanszírozását. A legtöbb olyan személy, aki ilyen jelzálog refinanszírozásra folyamodik, nem értené, hogy az algoritmusok hogyan határozhatják meg hitelképességüket.

Mit mond ma az algoritmus? Maria Savenko / shutterstock.com

Kikapcsolás az új információs ökoszisztémából

Míg az algoritmusok az emberek életének nagy részét befolyásolják, a résztvevők csak egy töredéke elég kifinomult ahhoz, hogy teljes hogy az algoritmusok hogyan befolyásolják az életüket.

Nincs sok statisztika arról, hogy hány ember ismeri az algoritmusokat. Tanulmányok bizonyítékot találtak algoritmikus szorongás, ami az erőteljes egyensúlyhiányhoz vezet az algoritmusokat és a tőlük függő felhasználók.

A Facebook használatának tanulmányozása megállapította, hogy amikor a résztvevők tudomást szereztek a Facebook hírcsatornák kezelésére szolgáló algoritmusáról, a résztvevők mintegy 83% -a módosította viselkedését, hogy megpróbálja kihasználni az algoritmust, míg körülbelül 10% -uk csökkentette a Facebook használatát.

A Pew Research Center 2018. novemberi jelentése megállapította, hogy a nyilvánosság túlnyomó többségének jelentős aggályai vannak az algoritmusok meghatározott célokra történő használatával kapcsolatban. Megállapította, hogy 66% úgy gondolta, hogy nem lenne igazságos, ha az algoritmusok kiszámítják a személyes pénzügyi pontszámokat, míg 57% -uk ugyanezt mondta az önéletrajz automatizált szűréséről.

Az egyének kis része ellenőrzi, hogy az algoritmusok miként használják személyes adataikat. Például a Hu-Manity platform lehetővé teszi a felhasználók számára egy lehetőség az adatok összegyűjtésének ellenőrzésére. Online enciklopédia Everipedia lehetőséget kínál a felhasználóknak arra, hogy részt vegyenek a kurátor folyamatában, ami azt jelenti, hogy a felhasználók szabályozhatják azt is, hogy az információkat hogyan gyűjtik össze és hogyan mutatják be nekik.

A platformok túlnyomó többsége azonban nem nyújt sem ilyen rugalmasságot a végfelhasználók számára, sem azt a jogot, hogy megválasszák, hogyan használja az algoritmus a preferenciáikat a hírcsatornák kurátora vagy a tartalom ajánlása érdekében. Ha vannak lehetőségek, akkor a felhasználók nem tudnak róluk. A Facebook felhasználóinak mintegy 74% -a mondta egy felmérésben, hogy igen nincs tisztában azzal, hogy a platform hogyan jellemzi személyes érdekeiket.

Véleményem szerint az új digitális műveltség nem a számítógép használata vagy az internetezés, hanem a mindig csatlakoztatott életmód következményeinek megértése és értékelése.

Ez az életmód érdemben befolyásolja hogy az emberek hogyan lépnek kapcsolatba másokkal; képességükön figyeljen az új információkra; és tovább döntési folyamataik összetettsége.

A növekvő algoritmikus szorongás tükröződhet a gazdaság párhuzamos elmozdulásával is. Az egyének kis csoportja megragadva az automatizálás nyereségét, miközben sok dolgozó a bizonytalan helyzet.

Az algoritmikus gondozásból való kilépés luxus - és egyszer csak a jómód szimbóluma lehet, amely csak néhány kiválasztott számára elérhető. A kérdés tehát az, hogy milyen mérhető ártalmak lesznek a digitális megosztottság rossz oldalán állók számára.

A szerzőről

Anjana Susarla, az információs rendszerek docense, Michigan Állami Egyetem

Ezt a cikket újra kiadják A beszélgetés Creative Commons licenc alatt. Olvassa el a eredeti cikk.

Kapcsolódó könyvek

at InnerSelf Market és Amazon