Hogyan lehet az algoritmusok igazságosabbak, mint az emberek

Hogyan lehet az algoritmusok igazságosabbak, mint az emberek

Az Amazon nemrég kezdett kínálni szállítás ugyanazon a napon kiválasztott nagyvárosi területeken. Ez sok ügyfélnek jó lehet, de a bevezetés megmutatja, hogy a számítógépes döntéshozatal miként hozhat erőteljes diszkriminációt is.

A vállalat értelemszerűen olyan területeken kezdte meg szolgáltatásait, ahol a szállítási költségek a legalacsonyabbak lennének, azáltal, hogy azonosította a sűrűn lakott helyek irányítószámát sok olyan meglévő Amazon-ügyfél számára, akiknek jövedelmi szintje elég magas ahhoz, hogy a termékek gyakori vásárlását elérhetővé tegyék aznapi szállításhoz. A cég adott egy weboldalt, amelyen az ügyfelek megadhatják az irányítószámukat, hogy lássák, kiszolgálják-e őket aznapi szállítással. A Bloomberg News oknyomozó újságírói ezt az oldalt használták készítsen térképeket az Amazon szolgáltatási területéről aznapi szállításhoz.

A Bloomberg elemzése feltárta, hogy sok szegény városi területet kizártak a szolgáltatási területből, míg a tehetősebb szomszédos területeket is ide sorolták. E kirekesztett szegény területek nagy részén túlnyomórészt kisebbségek éltek. Például Roxbury kivételével egész Boston le volt fedve; A New York -i lefedettség mind a négy kerületet magában foglalta, de teljesen kizárta Bronxot; A chicagói lefedettség elhagyta az elszegényedett South Side -ot, miközben lényegesen kiterjedt a gazdag északi és nyugati külvárosokra.

Bár csábító azt hinni, hogy az adatközpontú döntések elfogulatlanok, kutatás és tudományos vita kezdik ezt demonstrálni a tisztességtelenség és a megkülönböztetés továbbra is fennáll. Az én online tanfolyam az adatetikáról, a diákok ezt megtanulják az algoritmusok megkülönböztethetnek. De lehet egy kis ezüst bélés: Amint azt a Bloomberg kutatás sugallja, az adatok alapján történő döntések megkönnyítik az előítéletek felismerését is.

Az elfogultság nem szándékos lehet

Az Amazon szállítási politikájában ilyen tisztességtelenség számos okból merülhet fel, többek között rejtett elfogultságok - mint például a populációk egyenletes eloszlásának feltételezése. Az algoritmustervezők valószínűleg nem szándékoznak megkülönböztetni, és talán észre sem veszik, hogy egy probléma bekúszott.

Az Amazon azt mondta a Bloombergnek, hogy nem volt megkülönböztető szándéka, és minden ok megvan arra, hogy ezt az állítást elhiggye. A Bloomberg jelentésére válaszul: város tisztviselők és a más politikusok felszólította az Amazont, hogy oldja meg ezt a problémát. A cég gyorsan mozdult hozzá az eredetileg kizárt szegény városi irányítószámokat a szolgáltatási területére.

Hasonló kérdés merült fel - kérdezte az Uber, amely úgy tűnik, jobb szolgáltatást nyújt a nagyobb arányban fehér emberek által lakott területeken. Valószínűsíthető, hogy a jövőben több kiskereskedelmi és szolgáltatási példát találunk a nem szándékos algoritmikus megkülönböztetésre.

Túl sokat kér az algoritmusoktól?

Meg kell állnunk egy pillanatra, hogy megfontoljuk, szükségtelenül követelünk -e algoritmikus döntéseket. A téglagyártó üzleteket üzemeltető vállalatok állandóan döntenek a helyszínről, figyelembe véve az Amazon kritériumaitól eltérő kritériumokat. Az üzletek megpróbálnak olyan helyeket találni, amelyek kényelmesek a potenciális vásárlók nagy csoportja számára, akiknek pénzük van.

Ennek következtében kevés üzlet választja a szegény belvárosi környéket. Különösen az élelmiszerboltok összefüggésében ezt a jelenséget széles körben tanulmányozták, és a „élelmiszer sivatag”Olyan városi területek leírására használták, amelyek lakói nem jutnak kényelmesen hozzá a friss élelmiszerekhez. Ez hely torzítása a kiskereskedelmi üzletek esetében összességében kevésbé tanulmányozott.

Indikatív példaként a nagy átfogó kiskereskedelmi lánc Target 55 michigani helyszínét néztem meg. Amikor minden michigani irányítószámot szétválogattam az alapján, hogy átlagos jövedelme az ország felső vagy alsó felében volt -e, azt tapasztaltam, hogy a Target üzletek közül csak 16 (29 százalék) volt az alacsonyabb jövedelmű csoport irányítószámában. Több mint kétszer annyit, 39 üzletet, postai irányítószámban helyeztek el a tehetősebb felétől.


 Szerezd meg a legújabb e-mailben

Heti magazin Napi inspiráció

A diszkrimináció azonosítása

Sőt, Detroit városában nincsenek Target üzletek, pedig több van (gazdagabb) külvárosában. Mégsem volt olyan népszerű felháborodás, amely azt állítja, hogy a Target tisztességtelenül diszkriminálja szegény embereket az üzlethelyiségekkel kapcsolatos döntéseiben. Az Amazon -tal kapcsolatos aggodalmaknak két fő oka van: a merevség és az erőfölény.

A merevség mind az online kiskereskedő döntéshozatali folyamataihoz, mind az eredményhez kapcsolódik. Az Amazon dönti el, hogy melyik irányítószám van a szolgáltatási területén. Ha egy ügyfél az Amazon túloldalán, az utca túloldalán lakik, akkor a szolgáltatási területen kívül van, és keveset tud tenni ellene. Ezzel szemben, aki irányítószámban él Target áruház nélkül, továbbra is vásárolhat a Targetben - bár lehet, hogy tovább tart.

Az is számít, hogy a kiskereskedő mennyire domináns a fogyasztók fejében. Míg a Target csak egy a sok fizikai üzletlánc közül, az Amazon élvezi a webes kiskereskedő piaci erőfölénye, és így több figyelmet vonz. Ez a dominancia a mai kor jellemzője győztes mindent visz webes vállalkozások.

Bár merevségük és erőfölényük nagyobb aggodalmat okozhat számunkra az online vállalkozások iránt, mi is jobban felismerjük hátrányos megkülönböztetésüket, mint a téglagyártó üzletek esetében. Egy hagyományos üzletlánc esetében azt kell kitalálnunk, hogy a fogyasztók mennyire hajlandók utazni. Szükségünk lehet az idő ismeretére is: Öt mérföld a következő autópálya -kijárathoz nem ugyanaz, mint öt mérföld a zsúfolt utcákon keresztül a város másik oldalára. Ezenkívül maga az utazási idő is nagymértékben változhat a napszaktól függően. Miután azonosította az adott üzlet által valószínűsíthető területeket, előfordulhat, hogy nem térképezik fel őket pontosan olyan földrajzi egységekbe, amelyekre vonatkozóan statisztikákkal rendelkezünk a faji vagy jövedelmi adatok alapján. Röviden, az elemzés zavaros és sok erőfeszítést igényel.

Ezzel szemben a Bloomberg újságíróinak mindössze néhány órába telt volna, hogy elkészítsék az Amazon szolgáltatási területének térképét, és korrelálják azt a jövedelemmel vagy a versennyel. Ha az Amazon ezt belsőleg tette volna, akkor néhány perc alatt elvégezhette volna ugyanazt az elemzést-és talán észrevette volna a problémákat, és még aznapi szolgáltatás megkezdése előtt kijavíthatta volna őket.

Hogyan hasonlítanak össze az emberek?

Nézzünk egy nagyon eltérő példát, hogy lássuk, hogy ugyanazok a pontok széles körben alkalmazhatók. Nemrég jelent meg a ProPublica a faji megkülönböztetés kiváló elemzése egy algoritmus segítségével, amely megjósolja a bűnöző valószínűségét, hogy ismét bűncselekményt követ el. Az algoritmus több tucat tényezőt vesz figyelembe, és kiszámítja a valószínűségi becslést. A ProPublica elemzése jelentős szisztematikus faji elfogultságot talált, annak ellenére, hogy a faj nem tartozott a figyelembe vett konkrét tényezők közé.

Az algoritmus nélkül egy emberi bíró hasonló becslést végezne, az ítélet vagy feltételes szabadlábra helyezés részeként. Az emberi döntés gazdagabb tényezőket vehet figyelembe, mint például a bűnöző tárgyalótermi viselkedését. De tudjuk, ettől pszichológiai tanulmányokat, Hogy a az emberi döntéshozatal tele van elfogultsággal, még akkor is, ha mindent megteszünk, hogy igazságosak legyünk.

De az emberi bírák döntéseiben való elfogultságból eredő hibák valószínűleg eltérőek a bírák között, sőt, ugyanazon bíró által hozott különböző döntések esetében is. Összességében előfordulhat faji megkülönböztetés miatt tudatalatti elfogultság, de ennek végső megállapítása bonyolult. Egy amerikai igazságügyi minisztérium vizsgálata erős bizonyítékot talált arra különbségek a fehér és fekete elítéltek ítéletében, de nem tudta egyértelműen megállapítani, hogy maga a faj befolyásolta -e ezeket a döntéseket.

Ezzel szemben pontosan ugyanazt az algoritmust, amelyet a ProPublica vizsgált, több ezer esetben használják számos államban. Merevsége és nagy volumene megkönnyíti a megkülönböztetés megállapításának feladatát - és lehetőséget kínál a probléma hatékony orvoslására.

Úgy tűnik, hogy az információs technológia használata világosabbá teszi a vonalakat, a különbségek élesebbek, és az minderről szóló adatok sokkal könnyebben hozzáférhetők. Amit tegnap a szőnyeg alá lehetett ecsetelni, most a figyelemért kiált. Mivel egyre több alkalmazást találunk az adatvezérelt algoritmusokra, még nem gyakori, hogy elemezzük azok méltányosságát, különösen egy új adatalapú szolgáltatás bevezetése előtt. Ha így teszünk, messze lehet mérni és javítani ezen egyre fontosabb számítógépes számítások igazságosságát.

A szerzőrőlA beszélgetés

HV Jagadish, Bernard A Galler College of Electrical Engineering and Computer Science professzor, University of Michigan

Ezt a cikket eredetileg közzétették A beszélgetés. Olvassa el a eredeti cikk.

Kapcsolódó könyvek

at InnerSelf Market és Amazon

 

A cikk további cikkei

kövesse az InnerSelf oldalt

facebook ikonratwitter ikonrayoutube ikonrainstagram ikonrapintrest ikonrarss ikonra

 Szerezd meg a legújabb e-mailben

Heti magazin Napi inspiráció

ELÉRHETŐ NYELVEK

enafarzh-CNzh-TWdanltlfifrdeeliwhihuiditjakomsnofaplptroruesswsvthtrukurvi

A legolvasottabb

miért hőszivattyúk 6 12
Miért elengedhetetlenek a hőszivattyúk és a napelemek a honvédelemhez?
by Daniel Cohan, Rice Egyetem
A napelemek, a hőszivattyúk és a hidrogén a tiszta energiagazdaság építőkövei. De vajon…
szociális stressz és öregedés 6 17
Hogyan gyorsíthatja fel a szociális stressz az immunrendszer öregedését
by Eric Klopack, Dél-Kaliforniai Egyetem
Az életkor előrehaladtával az immunrendszerük természetesen hanyatlásnak indul. Az immunrendszernek ez az öregedése,…
főzve egészségesebb ételek 6 19
9 főzve egészségesebb zöldség
by Laura Brown, Teesside Egyetem
Nem minden étel táplálóbb nyersen fogyasztva. Valójában néhány zöldség valójában több…
a töltő nem használható 9 19
Az USB-C töltőre vonatkozó új szabály megmutatja, hogyan hoznak döntéseket az EU szabályozói a világ érdekében
by Renaud Foucart, Lancaster Egyetem
Előfordult már, hogy kölcsönkérte egy barátja töltőjét, csak azért, mert úgy találta, hogy nem kompatibilis a telefonjával? Vagy…
időszakos böjt 6 17
Az időszakos böjt valóban jó a fogyáshoz?
by David Clayton, Nottingham Trent Egyetem
Ha Ön olyan ember, aki gondolkodott a fogyáson, vagy szeretne egészségesebb lenni az elmúlt néhány évben…
csecsemő amnézia 6 9
Miért nem emlékszik arra, hogy megszületett, megtanult járni, vagy hogy kimondta az első szavait?
by Vanessa LoBue, Rutgers Egyetem
Annak ellenére, hogy az emberek 2-3 éves koruk előtt nem sok mindenre emlékeznek, a kutatások azt sugallják, hogy…
állatokkal való kommunikáció 6 12
Hogyan kommunikáljunk állatokkal
by Marta Williams
Az állatok mindig megpróbálnak átjutni hozzánk. Folyamatosan intuitív üzeneteket küldenek nekünk…
Férfi. nő és gyermek a strandon
Ez a nap? Apák napi fordulat
by Will Wilkinson
Apák napja van. Mi a szimbolikus jelentése? Történhet-e ma valami életet megváltoztató…

Új hozzáállás - új lehetőségek

InnerSelf.comClimateImpactNews.com | InnerPower.net
MightyNatural.com | WholisticPolitics.com | InnerSelf piac
Copyright © 1985 - 2021 InnerSelf kiadványok. Minden jog fenntartva.