A büntető igazságszolgáltatási rendszerekben, a hitelpiacokon, a foglalkoztatási arénákban, a felsőoktatási felvételi folyamatokban és még közösségi média hálózatok, adatvezérelt algoritmusok most ösztönözze a döntéshozatalt gazdasági, társadalmi és polgári életünket érintő módon. Ezek a szoftverrendszerek rangsorolják, osztályozzák, társítják vagy szűrik az információkat, olyan emberek által kidolgozott vagy adatok által előidézett szabályok felhasználásával, amelyek lehetővé teszik a következetes kezelést nagy populációk körében.

De ugyan ezek a technikák eredményezhetnek hatékonyságot, de lehetnek a hátrányos helyzetű csoportokkal szembeni elfogultság or megerősítse a strukturális diszkriminációt. Például a büntető igazságszolgáltatás szempontjából igazságos-e az egyének feltételes szabadlábra helyezéséről az emberek széles körében mérhető statisztikai tendenciák alapján ítélkezni? Előfordulhat-e diszkrimináció egy statisztikai modell alkalmazásával az egyik állam népességéhez kifejlesztve egy másik, demográfiai szempontból különböző népesség számára?

A nyilvánosságnak meg kell értenie a nyilvános szférában - ideértve a kormányzati szerveket is - alkalmazott algoritmusok elfogultságát és erejét. Egy erőfeszítés, amivel részt veszek, hívott algoritmikus elszámoltathatóság, igyekszik világosabbá és szélesebb körben megértetni az ilyen típusú rendszerek hatásait.

Az algoritmusoknál alkalmazott meglévő átláthatósági technikák lehetővé tehetik az emberek számára, hogy figyelemmel kísérjék, auditálják és kritizálják ezeknek a rendszereknek a működését - adott esetben attól függetlenül. Sajnos a kormányzati ügynökségek felkészületlennek tűnnek az algoritmusokkal és azok döntésekben történő felhasználásával kapcsolatos kérdések iránt, amelyek jelentősen érintik az egyéneket és a közvéleményt egyaránt.

Algoritmusok megnyitása a nyilvános ellenőrzés számára

Tavaly a a szövetségi kormány tanulmányozni kezdett A számítógépes adatelemzés alkalmazásának előnyei és hátrányai, amelyek segítenek meghatározni a börtönlakók valószínűségét, hogy szabadon engedve újból megsértik. Az egyének alacsony, közepes vagy magas kockázatúként történő értékelése segíthet a lakhatási és kezelési döntésekben, azonosíthatja azokat az embereket, akiket biztonságosan el lehet küldeni egy minimális biztonsági börtönbe vagy akár egy „félúton lévő házba”, vagy akik részesülnének egy adott típusú ellátásban. pszichológiai ellátás.

Ez az információ hatékonyabbá és olcsóbbá teheti az igazságszolgáltatás folyamatát, sőt csökkentheti a börtönök tömegét. Bebizonyosodott az alacsony kockázatú elkövetők, mint a nagy kockázatú elkövetők kezelése egyes tanulmányokban oda vezetni, hogy internalizálják őket "beteg" bűnözőnek és kezelésre szorulnak deviáns viselkedésük miatt. Elválasztásuk így csökkentheti a negatív viselkedés kialakulását, amely a visszaengedéskor visszaeséshez vezetne.

A fogvatartottak újbóli elkövetésének kockázatának értékeléséhez szükséges adatok és algoritmusok már vannak államok széles körben használják az előzetes letartóztatás, a próbaidő, a feltételes szabadlábra helyezés, sőt az ítélet elintézéséért. De könnyen észrevétlen maradhatnak - gyakran igénytelen bürokratikus papírmunkának tűnnek.

Az algoritmusokat általában egyszerűsített pontszámlapokra állítják össze, amelyeket a közalkalmazottak töltenek ki, alig értve az alapul szolgáló számításokat. Például az eset munkatársa értékelheti a foglyokat egy olyan űrlap segítségével, ahol az eset dolgozója jelzi, hogy a foglyot erőszakos bűncselekmény miatt ítélték el, az első letartóztatáskor fiatal volt, és még nem végzett középiskolában, vagy GED. Ezek a tényezők és a személyre és a bűncselekményre vonatkozó egyéb jellemzők olyan pontszámot eredményeznek, amely arra utal, hogy a fogvatartott jogosult-e feltételes feltételes felülvizsgálatra.

Maga az űrlap, valamint annak pontozási rendszere gyakran bemutatja az algoritmus legfontosabb jellemzőit, például a vizsgált változókat és azt, hogy miként állnak össze egy átfogó kockázati pontszám kialakításához. De az algoritmikus átláthatóság szempontjából az is fontos, hogy tudjuk, hogyan tervezték, fejlesztették és értékelték az ilyen űrlapokat. A nyilvánosság csak ezután tudja meg, hogy a pontszám eléréséhez szükséges tényezők és számítások tisztességesek és ésszerűek-e, vagy tájékozatlanok és elfogultak.

Az információszabadságról szóló törvény használata

Elsődleges eszközünk, hogy kézbe vegyük ezeket az űrlapokat és azok kiegészítő anyagait, a törvény, különös tekintettel az információszabadságról szóló törvényekre. Ezek a leghatékonyabb mechanizmusok, amelyek a nyilvánosság rendelkezésére állnak a kormányzati átláthatóság biztosítása érdekében. Szövetségi szinten az Az információszabadságról szóló törvény (FOIA) lehetővé teszi a nyilvánosság számára, hogy hivatalosan kérjen dokumentumokat a szövetségi kormánytól, és elvárja, hogy cserébe megkapja. Hasonló törvények léteznek minden állam számára.

1966-ban hozták létre az FOIA-t a számítástechnika széles körű használata előtt, és jóval azelőtt, hogy a szoftveres rendszerekben rendszeresen nagy mennyiségű adatot használtak az egyének kezelésére és előrejelzésekre. Volt már néhány kezdeti kutatás hogy az FOIA képes-e megkönnyíteni a szoftver forráskódjának nyilvánosságra hozatalát. De továbbra is kérdés, hogy a jelenlegi törvények reagálnak-e a 21. századi közönség igényeire: képesek vagyunk-e FOIA algoritmusokra?

Esettanulmány az algoritmus átláthatóságáról

Elkezdtem válaszolni erre a kérdésre a Philip Merrill Újságíró Főiskola a Marylandi Egyetemen, ahol adjunktus vagyok. 2015 őszén Sandy Banisky kollégám médiajogi osztályával együttműködve irányítottuk a hallgatókat az FOIA kérelmek benyújtásában az 50 állam mindegyikéhez. Dokumentumokat, matematikai leírásokat, adatokat, validációs értékeléseket, szerződéseket és forráskódokat kértünk a büntető igazságszolgáltatásban alkalmazott algoritmusokhoz, például feltételes szabadlábra helyezéshez, próbaidőhöz, óvadékhoz vagy ítélethozatalhoz.

Félévig tartó projektként az erőfeszítéseket szükségszerűen korlátozta az idő, rengeteg akadály és viszonylag kevés siker. Csakúgy, mint sok újságírói vizsgálat során, még az is kitalálta, hogy kit és hogyan kérdezzen. Különböző ügynökségek lehetnek felelősek a büntető igazságszolgáltatási rendszer különböző területeiért (az ítéletet bíróságok hajthatják végre, de a feltételes szabadlábra helyezését a Javítási Osztály végzi).

A diákok a megfelelő személy azonosítása után is azt találták, hogy a kormánytisztviselők különböző terminológiát használtak, ami megnehezítette a kívánt információk közlését. Időnként a hallgatóknak keményen kellett dolgozniuk, hogy megmagyarázzák a „büntető igazságszolgáltatás algoritmusait” egy nem túl adattudatos közalkalmazottnak. Utólag talán hatékonyabb lehetett „kockázatértékelési eszközöket” kérni, mivel ezt az állam kormányai gyakran használják.

A válaszok kezelése

Egyes államok, mint például Colorado, elutasították kérésünket, mondván, hogy az algoritmusokat szoftverek tartalmazzák, ami nem tekinthető „dokumentumnak”, amely szerint a nyílt kormányzati törvények előírják a hivatalnokok nyilvánosságra hozatalát. A különböző államok eltérő szabályokkal rendelkeznek a szoftverhasználat közzétételére vonatkozóan. Ez néha felmerült a bíróságokon, például 2004-ben kereset Detroit városa ellen arról, hogy nyilvánosságra kell-e hozni a szomszédos városra kivetett vízdíjak kiszámítási képletét.

Saját erőfeszítéseink szerint csak egy matematikai leírást kaptunk a büntető igazságszolgáltatás algoritmusáról: Oregon nyilvánosságra hozta a 16 változó és azok súlya a recidivizmus előrejelzésére használt modellben. Észak-Dakota állam kiadott egy Excel táblázatot, amely megmutatja az egyenletet, amely meghatározta azokat az időpontokat, amikor a fogvatartottak jogosultak a feltételes szabadlábra helyezésre. Idahoból és Új-Mexikóból olyan dokumentumokat kaptunk, amelyek az egyes államok által alkalmazott recidivizmus-kockázatértékelések néhány leírását tartalmazzák, de részletesen nem dolgoztak ki vagy fejlesztettek ki.

Kilenc állam arra hivatkozott, hogy megtagadta a büntető igazságszolgáltatási algoritmusaik részleteinek nyilvánosságra hozatalát, arra az állításra, hogy az információk valóban egy vállalat tulajdonában voltak. Ez azt jelenti, hogy az algoritmus felszabadítása ártana az azt fejlesztő cégnek. Gyakori recidivizmus-kockázat kérdőív, az LSI-R nevű, kiderül, hogy ez egy kereskedelmi termék, amelyet szerzői jog véd. Az olyan államok, mint Hawaii és Maine, azt állították, hogy megakadályozták annak nyilvánosságra hozatalát.

Louisiana szerint az új kockázatértékelési technika fejlesztőjével kötött szerződés hat hónapra korlátozta a kért információk kiadását. Kentucky állam idézte szerződését a emberbarát alapítvány ezért nem tudott további részleteket nyilvánosságra hozni. A tulajdonosi információkkal kapcsolatos aggodalmak jogosak lehetnek, de mivel a kormány rendszeresen szerződik magánvállalkozásokkal, hogyan tudjuk egyensúlyba hozni ezeket az aggályokat egy megmagyarázható és valóban legitim igazságszolgáltatási rendszerrel szemben?

Javítások

Nagyon szükséges FOIA reform jelenleg tanácskozás alatt áll kongresszus által. Ez lehetőséget ad a törvény korszerűsítésére, de a javasolt változtatások még mindig kevéssé alkalmazkodnak az algoritmusok kormányzati növekvő használatához. Algoritmikus átláthatóságra vonatkozó információk lehet kodifikálni jelentésekbe, amelyeket a kormány rendszeresen generál és nyilvánosságra hoz, a szokásos üzleti tevékenység részeként.

Társadalomként meg kell követelnünk, hogy a közérdekű információs tisztviselők képzettek legyenek, így azok írástudók és folyékonyan beszélnek a terminológiával, amellyel találkozhatnak, amikor a nyilvánosság algoritmusokat kér. A szövetségi kormány akár új pozíciót is létrehozhat egy „algoritmus cár”, egy ombudsman számára, akinek feladata a kormányzati automatizálással kapcsolatos kommunikáció és helyszíni vizsgálatok lesz.

A kutatás során kapott dokumentumok egyike sem árulta el, hogyan dolgozták ki vagy értékelték a büntető igazságszolgáltatás kockázatértékelési formáit. Mivel az algoritmusok egyre több életünket irányítják, a polgároknak nagyobb átláthatóságra van szükségük - és meg is kell őket követelniük.

A szerzőről

Nicholas Diakopoulos, Tow Fellow, a Columbia Egyetem Digitális Újságírás Központja; A Marylandi Egyetem újságíró egyetemi adjunktusa. Kutatásai a számítási és adatújságírás területén zajlanak, az algoritmikus elszámoltathatóságra, a narratív adatok vizualizálására és a társadalmi számítástechnikára helyezve a hangsúlyt a hírekben.

Ezt a cikket eredetileg közzétették A beszélgetés. Olvassa el a eredeti cikk.

Kapcsolódó könyvek

at InnerSelf Market és Amazon