Ahmet Misirligul / Shutterstock

A Slaughterbots rövidfilm olyan közeli jövőt ábrázol, amelyben a mikroherék rajai meggyilkolják emberek ezreit politikai meggyőződésük miatt. Megjelent 2017 novemberben tudósok és aktivisták figyelmeztetve a fejlett mesterséges intelligencia (AI) veszélyeire, ez gyorsan vírusosra vált, és mindeddig több mint 3m nézetet vonzott. Segített a szikra nyilvános vita az autonóm fegyverek jövőjéről, és nyomást gyakorol az Egyesült Nemzetek Szervezetén ülésező diplomatákra Egyezmény a hagyományos fegyverekről.

Az ilyen spekulatív tudományos fantasztikus mesemondás azonban nemcsak a figyelem felkeltésére szolgál. Azok az emberek, akik fejlett technológiát terveznek és építenek, a történetek felhasználásával mérlegelhetik munkájuk következményeit, és biztosíthatják, hogy a technológiát jó hasznukra használják. És úgy gondoljuk, hogy ez a fajta „tudományos-fantasztikus prototípus” vagy „tervezői fantasztika” segíthet megakadályozni, hogy az emberi elfogultságok új technológiába kerüljenek, és tovább erősítsék a társadalom előítéleteit és igazságtalanságát.

{vembed Y = 9CO6M2HsoIA}

Az elfogultság bizonyos kategóriák (eredmények, emberek vagy ötletek) tetszőleges előnyben részesítéséhez vezethet másokkal szemben. Például néhány ember elfogult lehet attól, hogy nőket alkalmazzon végrehajtó állásokra, függetlenül attól, hogy tudatában vannak-e ennek vagy nem.

Az ilyen torzításokat rögzítő adatok körül épített technológia végeredményben lehet a probléma megismétlése. Például egy olyan munkaerő-felvételi szoftvert programozhatunk, amely kiválasztja az adott munka számára a legjobb önéletrajzot, és olyan jellemzőket keres, amelyek a férfiakkal szembeni tudattalan elfogultságot tükrözik. Ebben az esetben az algoritmus a férfiak önéletrajzát részesíti előnyben. És ez nem elméleti, hanem az valójában történt az Amazon-szal.

Algoritmusok tervezése az esetleges negatív következmények figyelembevétele nélkül összehasonlították az orvosoknak, hogy „írnak egy adott kezelés előnyeiről, és teljes mértékben figyelmen kívül hagyják a mellékhatásokat, függetlenül attól, hogy komolyak”.

Egyes technológiai cégek és kutatók megpróbálják kezelni a kérdést. Például a Google elkészített egy etikai alapelvek irányítani az AI fejlődését. Az Egyesült Királyság akadémiai szakemberei elindították a Nem egyenlő amelynek célja a méltányosabb és igazságosabb ösztönzés a technológia tervezése és felhasználása terén.

A probléma az, hogy nyilvánosan a vállalatok hajlamosak csak a jövőbeli technológiák lehetséges következményeiről pozitív képet alkotni. Például a sofőr nélküli autókról úgy gondolják, hogy megoldják az összes szállítási kérdést a költségektől a biztonságig, figyelmen kívül hagyva a megnövekedett problémákat a kibertámadások veszélyei vagy az a tény, hogy ösztönözhetik az embereket gyalog vagy kevesebb kerékpározással.

A digitális technológiák működésének megértése, különösen a homályos algoritmusok által erősen megértett nehézségek megnehezítik az emberek számára a kérdések komplex és átfogó áttekintését. Ez a helyzet feszültséget vált ki a megnyugtató pozitív narráció és a homályos gyanú között, miszerint az elfogultság bizonyos mértékben beágyazódik a körülöttünk lévő technológiákba. Úgy gondoljuk, hogy a tervezői fantasztikán keresztül történetmesélés jöhet be.

A történetek a lehetőségekre és az összetett helyzetekre való gondolkodás természetes módszere, amelyeket egész életünk során hallottunk. A sci-fi segíthet spekulálni a közeljövőben alkalmazott technológiák társadalomra gyakorolt ​​hatásáról, amint azt a Slaughterbots is teszi. Ez magában foglalhatja a társadalmi igazságosság kérdéseit is, például az egyes csoportok, például a menekültek és a migránsok helyzetét kizárva valahonnan digitális innovációk.

A (lehetséges) jövő feltárása

Tervezzen fantasztikus történeteket új módszert kínál a tervezők, mérnökök és futuristák számára (többek között), hogy gondolkodjanak a technológia emberi szempontokról, és összekapcsolják azt a lehetséges jövőbeli igényekkel. A logika és a képzelet keverékével a tervezői fantasztika felfedheti a technológia alkalmazhatóságának és felhasználásának szempontjait, kezdve a jövőbeli következmények.

Például a „Crime-sourcing”Feltárja, mi történhet, ha AI tömeges forrásból származó információt és bűnügyi adatbázist használ fel annak előrejelzésére, hogy ki gyilkosságot követhet el. A kutatók megállapították, hogy mivel az adatbázis tele volt etnikai kisebbségi csoportokban élő emberekkel, akik társadalmi okokból statisztikailag nagyobb valószínűséggel teszik meg újból a bűncselekményt, a „bűncselekmény-származási modell” valószínűbb, hogy tévesen gyanítják a kisebbségeket mint fehér emberek.

Nem kell tehetséges írónak lennie, vagy csúnya filmet készítenie, hogy tervezői fantasztikát készítsen. Ötletgyűjtési tevékenységek, beleértve a kártyákat és a forgatókönyveket már használtak fejleszteni a tervezői fantasztikát és elősegíteni a mesemondás folyamatát. Az ilyen eszközöket használó műhelyek általánosabbá tétele lehetővé tenné, hogy több mérnök, vállalkozó és politikai döntéshozó használhassa ezt az értékelési módszert. Az eredményül kapott munka nyilvánosságra hozatala elősegítené a technológiai esetleges torzítások feltárását, még mielőtt azok a társadalmat érintik.

A tervezők arra ösztönzése, hogy több történetet hozzanak létre és osszanak meg ilyen módon, biztosítanák, hogy az új technológiát alátámasztó elbeszélés ne csak pozitív képet, hanem rendkívül negatív vagy disztopikus képet adjon. Ehelyett az emberek képesek lesznek felértékelni a körülöttünk zajló eseményeket.

A szerzőkről

Alessio Malizia, A felhasználói élménytervezés professzora, Hertfordshire-i Egyetem és a Silvio CartaA művészet és a formatervezés vezetője és a Design Research Group elnöke, Hertfordshire-i Egyetem

Ezt a cikket újra kiadják A beszélgetés Creative Commons licenc alatt. Olvassa el a eredeti cikk.