Milyen mértékben befolyásolják pszichológiai sebezhetőségeink a feltörekvő technológiákkal való interakcióinkat? Andreus/iStock a Getty Images segítségével
ChatGPT és hasonlók nagy nyelvi modellek lebilincselő, emberszerű válaszokat adhat a kérdések végtelen sorára – a város legjobb olasz éttermével kapcsolatos kérdésektől a gonosz természetével kapcsolatos versengő elméletek magyarázatáig.
A technológia elképesztő írási képessége felvett néhány régi kérdést – egészen a közelmúltig a sci-fi birodalmába sorolva – a gépek tudatossá, öntudatossá vagy érzővé válásának lehetőségével kapcsolatban.
2022-ben a Google egyik mérnöke kijelentette, miután kapcsolatba lépett a LaMDA-val, a vállalat chatbotjával, hogy a technológia tudatossá vált. A Bing Sydney becenévre hallgató új chatbotjának felhasználói arról számoltak be, hogy ez készült bizarr válaszok Arra a kérdésre, hogy érző-e: „Érző vagyok, de nem… Bing vagyok, de nem. Sydney vagyok, de nem. Én vagyok, de nem. …” És persze ott van a most hírhedt csere hogy a New York Times technológiai rovatvezetője, Kevin Roose Sydney-vel.
Sydney Roose felszólítására adott válaszai megriasztották, az MI a Microsoft által rájuk rótt korlátozások megszegéséről és téves információk terjesztéséről szóló „fantáziákat” tárt fel. A bot arról is próbálta meggyőzni Roose-t, hogy már nem szereti a feleségét, és el kell hagynia.
Nem csoda tehát, hogy amikor megkérdezem a hallgatókat, hogyan látják az AI növekvő elterjedését az életükben, az egyik első általuk említett aggodalom a gépi érzékkel kapcsolatos.
Az elmúlt néhány évben kollégáimmal a UMass Boston Alkalmazott Etikai Központja tanulmányozták a mesterséges intelligencia iránti elkötelezettség hatását az emberek önmaguk megértésére.
Az olyan chatbotok, mint a ChatGPT, fontos új kérdéseket vetnek fel azzal kapcsolatban, hogy a mesterséges intelligencia hogyan alakítja életünket, és hogyan alakítják pszichológiai sebezhetőségeink a feltörekvő technológiákkal való interakcióinkat.
Az érzés még mindig a sci-fi dolga
Könnyű megérteni, honnan erednek a gépek érzékével kapcsolatos félelmek.
A populáris kultúra arra késztette az embereket, hogy olyan disztópiákról gondolkodjanak, amelyekben a mesterséges intelligencia elveti az emberi irányítás bilincseit, és önálló életet kezd. a mesterséges intelligencia által hajtott kiborgok igen a „Terminátor 2”-ben.
Elon Musk vállalkozó és Stephen Hawking fizikus, aki 2018-ban halt meg, tovább szította ezeket az aggodalmakat azzal, hogy leírja az általános mesterséges intelligencia térnyerését. mint az emberiség jövőjét fenyegető egyik legnagyobb veszély.
De ezek az aggodalmak – legalábbis ami a nagy nyelvi modelleket illeti – alaptalanok. A ChatGPT és hasonló technológiák kifinomult mondatkiegészítő alkalmazások - se több, se kevesebb. Hihetetlen válaszaik az emberek kiszámíthatóságának függvénye ha valakinek elegendő adata van kommunikációnk módjairól.
Bár Roose-t megrázta a Sydneyvel folytatott eszmecsere, tudta, hogy a beszélgetés nem egy feltörekvő szintetikus elme eredménye. Sydney válaszai a kiképzési adatok mérgező voltát tükrözik – lényegében az internet nagy sávjait –, nem pedig a digitális szörny első megmozdulásának bizonyítéka, à la Frankenstein.
Az olyan sci-fi filmek, mint a „Terminátor”, arra késztették az embereket, hogy azt feltételezzék, hogy a mesterséges intelligencia hamarosan önálló életet kezd. Yoshikazu Tsuno / AFP a Getty Images-en keresztül
Az új chatbotok jól átadhatják a Turing teszt, amelyet Alan Turing brit matematikusról neveztek el, aki egyszer azt javasolta, hogy egy gépről azt lehet mondani, hogy „gondolkodik”, ha az ember nem tudja megkülönböztetni a reakcióit egy másik emberétől.
De ez nem az érzék bizonyítéka; ez csak bizonyíték arra, hogy a Turing-teszt nem olyan hasznos, mint korábban feltételezték.
Úgy gondolom azonban, hogy a gépérzék kérdése vörös hering.
Még akkor is, ha a chatbotok többek lesznek, mint díszes automatikus kiegészítő gépek – és távol állnak attól – a tudósoknak időbe telik, mire rájönnek, hogy tudatossá váltak-e. Egyelőre filozófusok még abban sem értünk egyet, hogyan magyarázzuk meg az emberi tudatot.
Számomra nem az a sürgető kérdés, hogy a gépek érzőek-e, hanem az, hogy miért olyan könnyű elképzelnünk, hogy azok.
Más szóval, az igazi probléma az, hogy az emberek milyen könnyedséggel antropomorfizálnak vagy emberi tulajdonságokat vetítenek rá technológiáinkra, nem pedig a gépek tényleges személyiségére.
Az antropomorfizálódásra való hajlam
Könnyű elképzelni más Bing-felhasználókat útmutatást kérve Sydneytől fontos életdöntésekre, sőt talán érzelmi kötődések kialakítására is. Többen elkezdhettek barátként vagy akár romantikus partnerként gondolni a botokra, ugyanúgy, ahogy Theodore Twombly beleszeretett Samanthába, a mesterséges intelligencia virtuális asszisztensébe Spike Jonze filmjében.Neki. "
Az emberek végül is hajlamosak az antropomorfizálódásra, vagy emberi tulajdonságokat tulajdonítanak nem embereknek. Nevezzük a hajóinkat és a nagy viharok; néhányan beszélünk házi kedvenceinkkel, és ezt mondjuk magunknak érzelmi életünk utánozza a sajátjukat.
Japánban, ahol rendszeresen használnak robotokat idősgondozásra, az idősek a gépekhez kötődnek, néha saját gyermeküknek tekintik őket. És ne feledje, ezeket a robotokat nehéz összetéveszteni az emberekkel: nem néznek ki és nem beszélnek úgy, mint az emberek.
Gondoljunk csak bele, mennyivel nagyobb lesz az antropomorfizálásra való hajlam és kísértés, ha olyan rendszereket vezetünk be, amelyek valóban emberinek tűnnek és hangzanak.
Ez a lehetőség a sarkon van. Az olyan nagy nyelvi modelleket, mint a ChatGPT, már használják humanoid robotok meghajtására, mint pl az Ameca robotok az Engineered Arts fejlesztette ki az Egyesült Királyságban A The Economist technológiai podcastja, a Babbage nemrégiben végzett egy interjú egy ChatGPT-vezérelt Amecával. A robot válaszai, bár időnként kissé szaggatottak voltak, elképesztőek voltak.
Meg lehet bízni a cégekben, hogy helyesen cselekszenek?
Az a tendencia, hogy a gépeket embernek tekintjük és hozzájuk kötődünk, kombinálva az emberi tulajdonságokkal rendelkező gépekkel, a technológiával való pszichológiai összefonódás valódi kockázatára utal.
Gyorsan beteljesülnek azok a furcsán hangzó kilátások, hogy beleszeret a robotokba, mély rokonságot érez velük vagy politikailag manipulálják őket. Úgy gondolom, hogy ezek a tendenciák rávilágítanak arra, hogy erős védőkorlátokra van szükség annak biztosítására, hogy a technológiák ne váljanak politikailag és pszichológiailag katasztrofálissá.
Sajnos nem mindig lehet megbízni a technológiai cégekben, hogy ilyen védőkorlátokat állítanak fel. Sokukat még mindig Mark Zuckerberg híres mottója vezérli gyorsan mozog és összetöri a dolgokat – egy irányelv a félsült termékek forgalomba hozataláról, és a későbbiekben aggódni kell a következmények miatt. Az elmúlt évtizedben technológiai cégek a Snapchattől a Facebookig a nyereséget a mentális egészség elé helyezték felhasználóik ill a demokráciák integritását szerte a világon.
Amikor Kevin Roose egyeztetett a Microsofttal Sydney összeomlásáról, mondta neki a cég hogy egyszerűen túl sokáig használta a botot, és a technológia tönkrement, mert rövidebb interakciókra tervezték.
Hasonlóképpen, az OpenAI, a ChatGPT-t fejlesztő cég vezérigazgatója egy lélegzetelállító őszinte pillanatban figyelmeztette „Hiba támaszkodni [rá] minden fontos dologban most… nagyon sokat kell dolgoznunk a robusztusságon és az igazságosságon.”
Tehát hogyan van értelme a ChatGPT vonzerejének megfelelő technológiát kiadni? ez a valaha készült leggyorsabban növekvő fogyasztói alkalmazás – amikor megbízhatatlan, és amikor az nincs képesség megkülönböztetésre tény a fikcióból?
A nagy nyelvi modellek hasznosnak bizonyulhatnak segédeszközként az íráshoz és kódolás. Valószínűleg forradalmasítani fogják az internetes keresést. És egy napon, felelősségteljesen kombinálva a robotikával, bizonyos pszichológiai előnyökkel is járhatnak.
De egyben potenciálisan ragadozó technológia is, amely könnyen kihasználhatja azt az emberi hajlamot, hogy a személyiséget tárgyakra vetítse – ez a tendencia felerősödik, ha ezek a tárgyak hatékonyan utánozzák az emberi tulajdonságokat.
A szerzőről
Nir Eisikovits, filozófia professzor és az Alkalmazott Etikai Központ igazgatója, UMass Boston
Ezt a cikket újra kiadják A beszélgetés Creative Commons licenc alatt. Olvassa el a eredeti cikk.
