Fotó: Norbert Aepli, Svájc (Felhasználó: Noebu)

2016-ban az önvezető autók a mainstreambe kerültek. Uber autonóm járművei mindenütt elterjedt olyan városrészekben, ahol Pittsburghben élek, és röviden San Franciscóban. Az Egyesült Államok Közlekedési Minisztériuma kiadta új szabályozási útmutatás nekik. Számtalan papírok és a oszlopok megbeszélték, hogy az önvezető autók kellene megoldása etikai kérdések amikor rosszul mennek a dolgok. És sajnos 2016-ban is megtörtént a az első haláleset autonóm járművel.

Az autonóm technológiák gyorsan terjednek a közlekedési ágazaton túlra, a egészségügyi ellátás, fejlett kibervédelem és még autonóm fegyverek. 2017-ben el kell döntenünk, hogy megbízhatunk-e ezekben a technológiákban. Ez sokkal nehezebb lesz, mint amire számíthatunk.

A bizalom összetett és változatos, de életünk kulcsfontosságú része is. Gyakran bízunk a technológiában kiszámíthatóság alapján: Bízom valamiben, ha tudom, mit fog tenni egy adott helyzetben, még akkor is, ha nem tudom, miért. Például megbízom a számítógépemben, mert tudom, hogyan fog működni, beleértve azt is, hogy mikor fog elromlani. Abban már nem bízom, ha másként vagy meglepően viselkedik.

Ezzel szemben a feleségem iránti bizalmam ezen alapul meggyőződésének, értékeinek és személyiségének megértése. Általánosságban elmondható, hogy a személyek közötti bizalom nem jár azzal, hogy pontosan tudjuk, mit fog tenni a másik ember - a feleségem bizonyára meglepetést okoz néha! - hanem inkább miért viselkednek úgy, ahogy cselekszenek. És természetesen mindkétféleképpen megbízhatunk valakiben (vagy valamiben), ha tudjuk, hogy mit fog tenni és miért.

Felfedeztem az önvezető autók és más autonóm technológiák iránti bizalmunk lehetséges alapjait mind etikai, mind pszichológiai szempontból. Ezek eszközök, így a kiszámíthatóság tűnhet kulcsnak. Autonómiájuk miatt azonban figyelembe kell vennünk annak fontosságát és értékét - és a kihívást -, hogy megtanulunk bízni bennük abban, ahogyan más emberekben bízunk.

Autonómia és kiszámíthatóság

Szeretnénk, ha technológiáink, beleértve az önvezető autókat is, úgy viselkednének, ahogyan azt előre megjósolhatjuk és elvárhatjuk. Természetesen ezek a rendszerek meglehetősen érzékenyek lehetnek a kontextusra, beleértve a többi járművet, a gyalogosokat, az időjárási viszonyokat és így tovább. Általában azonban arra számíthatunk, hogy egy önvezető autónak, amelyet ismételten ugyanabba a környezetbe helyeznek, feltehetően minden alkalommal hasonlóan kell viselkednie. De milyen értelemben lennének ezek a jól kiszámítható autók önállóbbak, mint pusztán automatikusak?

Ott van óta sok különböző Kísérletek nak nek meghatározott autonómia, de mindegyikben megvan ez a közös: Az autonóm rendszerek meghozhatják saját (érdemi) döntéseiket és terveiket, és ezáltal a várakozásoktól eltérően járhatnak el.

Valójában az autonómia alkalmazásának egyik oka (az automatizálástól eltérően) pontosan az, hogy ezek a rendszerek váratlan és meglepő, bár igazolható cselekvési irányokat folytathatnak. Például, A DeepMind AlphaGo legutóbbi Go sorozatának második meccsét részben Lee Sedol ellen nyerte olyan mozdulatot, amelyet soha egyetlen emberi játékos sem fog megtenni, de mégis helyes lépés volt. De ugyanazok a meglepetések megnehezítik a kiszámíthatóságon alapuló bizalom megteremtését. A kizárólag kiszámíthatóságon alapuló erős bizalom vitathatatlanul csak az automatizált vagy automatikus rendszerek esetében lehetséges, pontosan azért, mert kiszámíthatóak (feltételezve, hogy a rendszer normálisan működik).

A meglepetések átfogása

Természetesen más emberek gyakran meglepnek minket, és mégis figyelemre méltó mértékben megbízhatunk bennük, sőt élet-halál hatalmat adunk nekünk önmagunk felett. A katonák bíznak bajtársaikban összetett, ellenséges környezetben; egy beteg bízik a sebészében, hogy kivágja a daganatot; és hétköznapibb értelemben a feleségem bízik bennem, hogy biztonságosan vezetek. Ez az interperszonális bizalom lehetővé teszi számunkra a meglepetések befogadását, így talán kialakíthatnánk olyasmit, mint a személyközi bizalom az önvezető autókban?

Általánosságban az interperszonális bizalom megköveteli annak megértését, hogy miért cselekedett valaki egy adott módon, még akkor is, ha nem tudja megjósolni a pontos döntést. A feleségem nem biztos, hogy pontosan tudja, hogyan fogok vezetni, de tudja, milyen érveléseket használok vezetés közben. És valójában viszonylag könnyű megérteni, miért tesz valaki valamit, éppen azért, mert mindannyian nagyjából hasonlóan gondolkodunk és okoskodunk, bár különböző „nyersanyagokkal” - meggyőződésünkkel, vágyainkkal és tapasztalatainkkal.

Valójában folyamatosan és öntudatlanul következtetéseket vonunk le mások meggyőződéséről és vágyairól a cselekedeteik alapján, nagyrészt azzal a feltételezéssel, hogy nagyjából úgy gondolkodunk, okoskodunk és döntünk, mint mi. Mindezek a következtetések és a közös (emberi) megismerésünkön alapuló érvelések lehetővé teszik számunkra, hogy megértsük valaki más okait, és ezáltal idővel kiépítsük az emberek közötti bizalmat.

Gondolkodni, mint az emberek?

Az autonóm technológiák - különösen az önvezető autók - nem úgy gondolkodnak és döntenek, mint az emberek. Erőfeszítések történtek, mindkettő múlt és a új, az emberhez hasonlóan gondolkodó és okoskodó számítógépes rendszerek kifejlesztésére. Azonban a gépi tanulás egyik következetes témája az elmúlt két évtizedben az a hatalmas nyereség volt, amelyet éppen akkor értünk el, ha nem követeltük meg, hogy mesterséges intelligencia rendszereink emberi módon működjenek. Ehelyett a gépi tanulási algoritmusok és rendszerek, például az AlphaGo, gyakran képesek voltak rá felülmúlják az emberi szakértőket azáltal, hogy konkrét, lokalizált problémákra összpontosít, majd egészen másképpen oldja meg azokat, mint az emberek.

Ennek eredményeként az autonóm technológia emberhez hasonló meggyőződés és vágyak értelmezésére tett kísérletek látványosan félresikerülhetnek. Amikor egy emberi sofőr meglát egy labdát az úton, a legtöbben automatikusan jelentősen lassítunk, hogy elkerüljük az esetleg utána üldöző gyereket. Ha autonóm autóval haladunk, és egy labdát látunk az utcára gurulni, akkor elvárjuk, hogy az autó felismerje, és felkészüljön arra, hogy megálljon a futó gyermekek számára. Az autó azonban csak egy elkerülendő akadályt lát. Ha lassítás nélkül megfordul, a fedélzeten lévő emberek riadhatnak - és egy gyerek veszélybe kerülhet.

Az önvezető autó „hiedelmeiről” és „vágyairól” levont következtetéseink szinte biztos, hogy fontos szempontból tévesek lesznek, pontosan azért, mert az autónak nincsenek emberhez hasonló meggyőződései vagy vágyai. Nem fejleszthetjük ki a személyek közötti bizalmat egy önvezető autó iránt pusztán azzal, hogy figyeljük az autó vezetését, mivel nem következtetünk helyesen a miértekre a tettei mögött.

Természetesen a társadalom vagy a piactér vásárlói tömegesen ragaszkodhatnak ahhoz, hogy az önvezető autók emberhez hasonló (pszichológiai) tulajdonságokkal rendelkezzenek, pontosan azért, hogy megértsük és kialakítsuk az emberek közötti bizalmat bennük. Ez a stratégia egy teljesen új értelmet adna aemberi központú tervezés, ”Mivel a rendszereket kifejezetten úgy terveznék meg, hogy cselekedeteiket az emberek értelmezhessék. De ehhez regényt is kellene foglalni algoritmusok és a technikák az önvezető autóban, amelyek mind hatalmas változást jelentenek az önvezető autók és más autonóm technológiák jelenlegi kutatási és fejlesztési stratégiáihoz képest.

Az önvezető autók sokféle előnyös módon képesek gyökeresen átalakítani közlekedési infrastruktúránkat, de csak akkor, ha eléggé megbízhatunk bennük a tényleges használatban. Ironikus módon éppen az a tulajdonság, amely értékessé teszi az önvezető autókat - rugalmas, autonóm döntéshozataluk különböző helyzetekben - pontosan az, ami megnehezíti bennük a bizalmat.

hitelesíteni

David Danks, a filozófia és a pszichológia professzora, Carnegie Mellon University

Ezt a cikket eredetileg közzétették A beszélgetés. Olvassa el a eredeti cikk.

Kapcsolódó könyvek:

at InnerSelf Market és Amazon