robot ül egy laptop kezével a kulcsokon
Kép Susan Cipriano 

A szerkesztőtől:

Amint ebben a cikkben kiemeltük, a mesterséges intelligencia által vezérelt politikai kampányok, például a Clogger nevű hipotetikus gépezet fejlesztése alaposan alááshatja a választások integritását. Az automatizálás, a személyre szabott üzenetküldés és a tanulás megerősítése révén ezek a gépek hatalmas mértékben képesek manipulálni és megváltoztatni a szavazók viselkedését.

Egy olyan korszakban, amikor a mesterséges intelligencia (AI) gyorsan fejlődik, ébernek kell maradnunk a demokratikus folyamatainkat fenyegető lehetséges veszélyekre. Az AI-vezérelt kampányok megjelenése a demokrácia lényegét kérdőjelezi meg. Ahelyett, hogy a választásokat az ötletek, a politikai javaslatok és a valódi választói döntések hatalma határozná meg, azokat kizárólag a győzelemre összpontosító gépezetek befolyásolhatják. Az uralkodó tartalom mesterséges intelligencia nyelvi modellekből származna, figyelmen kívül hagyva az igazságot vagy a politikai elveket. Lényegében a választási eredményt egy mesterséges intelligencia szabná meg, erodálva a demokratikus folyamatot.

A „clogokrácia” kialakulásának és a polgárok elnyomásának megakadályozása érdekében kulcsfontosságú, hogy lépéseket tegyünk. A fokozott adatvédelem és az erős adatvédelmi törvények segíthetnek korlátozni az AI-gépek hozzáférését a személyes adatokhoz, csökkentve az egyének megcélzásában és manipulálásában való hatékonyságukat. A választási bizottságoknak fontolóra kell venniük a választók befolyásolására tervezett mesterséges intelligencia rendszerek betiltását vagy szigorú szabályozását is. Olyan szabályozások végrehajtása, amelyek egyértelmű felelősséget kizáró nyilatkozatokat írnak elő, amikor mesterséges intelligencia által generált üzeneteket használnak politikai kampányokban. Ez átláthatóságot biztosíthat, és segítheti a választókat a megalapozott döntések meghozatalában.

Elengedhetetlen, hogy proaktívan foglalkozzunk ezekkel a kihívásokkal, és biztosítsuk, hogy a mesterséges intelligencia erejét felelősségteljesen hasznosítsuk a demokrácia elveinek tiszteletben tartása érdekében. A választások integritásának és a választás szabadságának védelmével eligazodhatunk a mesterséges intelligencia összetettségei között, és megőrizhetjük a demokratikus kormányzás alapjait.

Hogyan veheti át a mesterséges intelligencia a választásokat – és alááshatja a demokráciát

Írta Archon Fung, az állampolgárság és önkormányzatok professzora, Harvard Kennedy iskola és a Lawrence Lessig, jogi és vezetési professzor, Harvard Egyetem


belső feliratkozási grafika


Használhatnák-e a szervezetek a mesterséges intelligencia nyelvi modelljeit, például a ChatGPT-t, hogy rávegyék a szavazókat meghatározott viselkedésre?

Josh Hawley szenátor feltette ezt a kérdést az OpenAI vezérigazgatójának, Sam Altmannak a 16. május 2023., az Egyesült Államok Szenátusi meghallgatása a mesterséges intelligenciáról. Altman azt válaszolta, hogy valóban aggódik amiatt, hogy egyesek nyelvi modelleket használhatnak a szavazók manipulálására, meggyőzésére és személyes interakcióba való bekapcsolódásra.

Altman nem részletezte, de valami ehhez hasonló forgatókönyvet gondolhatott. Képzeld el, hogy a politikai technológusok hamarosan kifejlesztenek egy Clogger nevű gépet – egy politikai kampányt egy fekete dobozban. A Clogger könyörtelenül egyetlen célt követ: maximalizálja annak esélyét, hogy jelöltje – a Clogger Inc. szolgáltatásait megvásárló kampány – nyerjen a választásokon.

Míg az olyan platformok, mint a Facebook, a Twitter és a YouTube, a mesterséges intelligencia formáit használják fel a felhasználók számára több időt tölteni webhelyeiken a Clogger mesterséges intelligenciájának más célja lenne: megváltoztatni az emberek szavazói viselkedését.

Hogyan működne a Clogger

Ennek politikai tudós és egy jogtudós akik a technológia és a demokrácia metszéspontját tanulmányozzák, úgy gondoljuk, hogy a Cloggerhez hasonló dolgok az automatizálás segítségével drámai mértékben növelhetik a viselkedésmanipuláció és mikrocélzási technikák amelyet a politikai kampányok a 2000-es évek eleje óta használnak. Amint a hirdetők az Ön böngészési és közösségi média előzményeit használják hogy egyénileg célozhassa meg a kereskedelmi és politikai hirdetéseket, a Clogger külön-külön figyelne Önre – és több száz millió más szavazóra.

Három előrelépést kínálna a jelenlegi legmodernebb algoritmikus viselkedésmanipulációhoz képest. Először is, a nyelvi modell üzeneteket – szövegeket, közösségi médiát és e-maileket, esetleg képeket és videókat – generál, amelyek személyre szabottan szólnak az Ön számára. Míg a hirdetők stratégiailag viszonylag kis számú hirdetést helyeznek el, addig a nyelvi modellek, mint például a ChatGPT, számtalan egyedi üzenetet generálhatnak Önnek személyesen – és milliókat másoknak – a kampány során.

Másodszor, a Clogger az ún megerősítő tanulás üzenetek sorozatának generálásához, amelyek egyre nagyobb valószínűséggel változtatják meg szavazatát. A megerősítő tanulás egy gépi tanulási, próba és hiba módszer, amelyben a számítógép lépéseket tesz, és visszajelzést kap arról, hogy melyik működik jobban, hogy megtanulja, hogyan lehet elérni egy célt. Go, Chess és sok videojáték játékára alkalmas gépek minden embernél jobb megerősítő tanulást alkalmaztak.

Hogyan működik a megerősítő tanulás.

 

Harmadszor, a kampány során a Clogger üzenetei fejlődhetnek annak érdekében, hogy figyelembe vegyék az Ön válaszait a gép korábbi küldeményeire, és azt, hogy mit tanult meg mások véleményének megváltoztatásáról. A Clogger idővel dinamikus „beszélgetéseket” folytathat Önnel – és több millió más emberrel. Clogger üzenetei hasonlóak lennének hirdetések, amelyek követik Önt különböző webhelyeken és közösségi médiában.

Az AI természete

Három további funkciót – vagy hibát – érdemes megjegyezni.

Először is, a Clogger által küldött üzenetek lehetnek politikai tartalmúak vagy nem. A gép egyetlen célja a szavazatok arányának maximalizálása, és valószínűleg olyan stratégiákat dolgoz ki e cél eléréséhez, amelyekre egyetlen emberi kampányoló sem gondolt volna.

Az egyik lehetőség az, hogy a valószínű ellenfél szavazóinak információkat küldenek a sport vagy szórakozás terén érzett nem politikai szenvedélyeikről, hogy eltemessék a kapott politikai üzeneteket. Egy másik lehetőség az elrettentő üzenetek – például inkontinenciareklámok – küldése, amely egybeesik az ellenfél üzeneteivel. Egy másik pedig a szavazók közösségimédia-baráti csoportjainak manipulálása, hogy azt az érzést keltsék, hogy társadalmi köreik támogatják jelöltjét.

Másodszor, Clogger nincs tekintettel az igazságra. Valójában nem tudja megtudni, mi igaz vagy hamis. Nyelvi modell „hallucinációk” nem jelent problémát ennek a gépnek, mert a célja a szavazat megváltoztatása, nem pedig a pontos információ biztosítása.

Harmadszor, mert ez a fekete doboz típusú mesterséges intelligencia, az emberek nem tudhatják, milyen stratégiákat használ.

A megmagyarázható mesterséges intelligencia területe számos gépi tanulási modell fekete dobozát kívánja kinyitni, hogy az emberek megértsék, hogyan működnek.

 

Clogokrácia

Ha a republikánus elnökválasztási kampány 2024-ben bevetné a Cloggert, a demokrata kampány valószínűleg kénytelen lenne válaszolni, esetleg egy hasonló gépezet segítségével. Nevezzük Doggernek. Ha a kampánymenedzserek azt gondolnák, hogy ezek a gépek hatékonyak, akkor az elnökválasztási verseny valószínűleg a Clogger vs. Dogger-re vezethető vissza, és a győztes a hatékonyabb gép ügyfele lesz.

A politológusoknak és szakértőknek sok mondanivalójuk lenne arról, hogy miért az egyik vagy a másik mesterséges intelligencia érvényesült, de valószínűleg senki sem tudná igazán. Az elnököt nem azért választották meg, mert politikai javaslatai vagy politikai elképzelései több amerikait meggyőztek, hanem azért, mert nála volt a hatékonyabb mesterséges intelligencia. A tartalom, amelyik megnyerte a napot, egy kizárólag a győzelemre összpontosító, saját politikai elképzelések nélküli AI-tól származott volna, nem pedig jelöltektől vagy pártoktól.

Ebben a nagyon fontos értelemben egy gép nyert volna a választásokon, nem pedig egy személy. A választás már nem lenne demokratikus, pedig a demokrácia minden szokásos tevékenysége – a beszédek, a hirdetések, az üzenetek, a szavazás és a szavazatszámlálás – megtörtént.

A mesterséges intelligencia által megválasztott elnök ezután két út közül választhat. Használhatja a választási köntöst a republikánus vagy a demokrata párt politikájának folytatására. De mivel a pártötleteknek nem sok közük lehetett ahhoz, hogy az emberek miért szavaztak úgy, ahogyan – Clogger és Dogger nem törődnek a politikai nézetekkel –, az elnök tettei nem feltétlenül tükrözik a választók akaratát. A választókat a mesterséges intelligencia manipulálta volna, ahelyett, hogy szabadon választották volna meg politikai vezetőiket és politikáikat.

Egy másik út az, hogy az elnök követi azokat az üzeneteket, magatartásokat és politikákat, amelyek a gépezet előrejelzései szerint maximalizálják az újraválasztás esélyeit. Ezen az úton az elnöknek a hatalom fenntartásán túl nem lenne konkrét platformja vagy programja. Az elnök Clogger által irányított cselekedetei a legvalószínűbbek a választók manipulálására, ahelyett, hogy valódi érdekeiket vagy akár az elnök saját ideológiáját szolgálnák.

A Clogokrácia elkerülése

Lehetséges lenne elkerülni a mesterséges intelligencia választási manipulációját, ha a jelöltek, a kampányok és a tanácsadók mind visszautasítanák az ilyen politikai mesterséges intelligencia használatát. Szerintünk ez nem valószínű. Ha politikailag hatékony fekete dobozokat dolgoznának ki, szinte ellenállhatatlan lenne a kísértés ezek használatára. Valójában a politikai tanácsadók úgy látják, hogy szakmai felelősségüknek megfelelően használják ezeket az eszközöket jelöltjeik győzelemhez. És ha egyszer egy jelölt ilyen hatékony eszközt használ, aligha várható el, hogy az ellenfelek egyoldalú lefegyverzéssel ellenálljanak.

Továbbfejlesztett adatvédelem segítene. A Clogger hatalmas mennyiségű személyes adathoz való hozzáféréstől függne, hogy megcélozhassa az egyéneket, üzeneteket hozzon létre azok meggyőzésére vagy manipulálására, valamint nyomon kövesse és újracélozza őket a kampány során. Minden olyan információ, amelyet a vállalatok vagy a döntéshozók tagadnak a géptől, kevésbé lesz hatékony.

A szigorú adatvédelmi törvények segíthetnek elkerülni a mesterséges intelligencia manipulációját.

 

Egy másik megoldás a választási bizottságok. Megpróbálhatják betiltani vagy szigorúan szabályozni ezeket a gépeket. Van egy heves vita arról, hogy ilyen „replikáns” beszéd, még ha politikai jellegű is, szabályozható. Az Egyesült Államok szélsőséges szólásszabadság-hagyománya sok vezető akadémikus azt állítja, hogy ez nem lehetséges.

De nincs ok arra, hogy az első kiegészítés védelmét automatikusan kiterjesztjük ezeknek a gépeknek a termékeire. A nemzet dönthet úgy, hogy jogokat ad a gépeknek, de ennek a mai kihívásokon kell alapulnia. nem a téves feltevés hogy James Madison 1789-es nézeteit az MI-re is alkalmazni akarták.

Az Európai Unió szabályozói ebbe az irányba haladnak. A döntéshozók felülvizsgálták az Európai Parlament mesterséges intelligenciáról szóló törvényének tervezetét, hogy kijelöljék „a MI-rendszereket, amelyek befolyásolják a szavazókat a kampányokban” mint "nagy kockázatú" és hatósági ellenőrzésnek kell alávetni.

Egy alkotmányosan biztonságosabb, ha kisebb lépéssel, amelyet részben már elfogadott európai internetszabályozók és Kaliforniacélja, hogy megtiltsák a botoknak, hogy embereknek adják ki magukat. Például a szabályozás megkövetelheti, hogy a kampányüzeneteket felelősségkizárásokkal kell ellátni, ha a bennük lévő tartalmat nem emberek, hanem gépek generálják.

Ez olyan lenne, mint a hirdetésre vonatkozó felelősségkizárási követelmények – „A Sam Jones a Kongresszusi Bizottság fizette” –, de módosították, hogy tükrözze a mesterséges intelligencia eredetét: „Ezt az AI által generált hirdetést a Sam Jones a Kongresszusi Bizottságért fizette.” Az erősebb verzióhoz szükség lehet: „Ezt a mesterséges intelligencia által generált üzenetet a Sam Jones Kongresszusi Bizottság küldte Önnek, mert a Clogger előrejelzése szerint 0.0002%-kal növeli az esélyét, hogy Sam Jonesra szavazzon.” Legalábbis úgy gondoljuk, hogy a választók megérdemlik, hogy tudják, mikor beszél hozzájuk egy bot, és tudniuk kell, hogy miért.

Egy olyan rendszer lehetősége, mint a Clogger, megmutatja, hogy a felé vezető út az emberi kollektív hatalomvesztés nem igényelhet valami emberfelettit mesterséges általános intelligencia. Lehet, hogy csak túlbuzgó kampányolókra és tanácsadókra van szükség, akik olyan hatékony új eszközökkel rendelkeznek, amelyek hatékonyan képesek több millió ember gombját megnyomni.

A szerzőkről

Archon Fung, az állampolgárság és önkormányzatok professzora, Harvard Kennedy iskola és a Lawrence Lessig, jogi és vezetési professzor, Harvard Egyetem

Ezt a cikket újra kiadják A beszélgetés Creative Commons licenc alatt. Olvassa el a eredeti cikk.


A szerkesztő kiegészítése: A mesterséges intelligencia azon képessége, hogy átvegye a választásokat és aláássa a demokráciát, nyomatékos aggodalom, amely figyelmet igényel. Amint ez a cikk rávilágított, az AI által vezérelt politikai kampányok, mint például a Clogger térnyerése átformálja a választási eredményeket, és a gépek soha nem látott mértékben befolyásolják a szavazók viselkedését. Egy ilyen váltásnak messzemenő következményei lennének, a választásokat nem az emberek akarata, hanem az AI-manipuláció hatékonysága határozza meg.

A polgárok e jogfosztottságának megakadályozása és a demokrácia védelme érdekében proaktív intézkedéseket kell tennünk. A szilárd adatvédelem és az AI-rendszerek választási befolyását korlátozó szabályozások kulcsfontosságúak. Az átláthatóság biztosításával, a mesterséges intelligencia által generált tartalmakra vonatkozó egyértelmű felelősség kizárásával, valamint a mesterséges intelligencia felelős használatának előmozdításával megőrizhetjük a demokratikus folyamatok integritását és megvédhetjük társadalmunk alapvető értékeit.

Alapvető fontosságú, hogy éberek maradjunk, és közösen dolgozzunk, hogy eligazodjunk a mesterséges intelligencia által a választások során támasztott kihívásokon. Ezzel megőrizhetjük társadalmainkat megalapozó demokratikus eszméket, és biztosíthatjuk azt a jövőt, ahol a technológia ereje összhangba kerül az emberek érdekeivel és törekvéseivel.

szünet

Kapcsolódó könyvek:

A Zsarnokságról: Húsz lecke a huszadik századból

írta Timothy Snyder

Ez a könyv történelmi tanulságokat kínál a demokrácia megőrzéséhez és védelméhez, beleértve az intézmények fontosságát, az egyes polgárok szerepét és a tekintélyelvűség veszélyeit.

Kattintson a további információkért vagy a megrendeléshez

A mi időnk most van: hatalom, cél és harc a tisztességes Amerikáért

írta: Stacey Abrams

A szerző, politikus és aktivista, osztja elképzelését egy befogadóbb és igazságosabb demokráciáról, és gyakorlati stratégiákat kínál a politikai szerepvállalásra és a szavazók mozgósítására.

Kattintson a további információkért vagy a megrendeléshez

Hogyan halnak meg a demokráciák

szerző: Steven Levitsky és Daniel Ziblatt

Ez a könyv a demokratikus összeomlás figyelmeztető jeleit és okait vizsgálja, a világ minden tájáról származó esettanulmányokra támaszkodva, hogy betekintést nyújtson a demokrácia védelmébe.

Kattintson a további információkért vagy a megrendeléshez

Az emberek, nem: Az anti-populizmus rövid története

írta Thomas Frank

A szerző bemutatja az egyesült államokbeli populista mozgalmak történetét, és bírálja az "antipopulista" ideológiát, amely szerinte elfojtotta a demokratikus reformokat és a haladást.

Kattintson a további információkért vagy a megrendeléshez

Demokrácia egy könyvben vagy kevesebbben: hogyan működik, miért nem, és miért egyszerűbb megjavítani, mint gondolná

írta: David Litt

Ez a könyv áttekintést nyújt a demokráciáról, beleértve annak erősségeit és gyengeségeit, és reformokat javasol a rendszer érzékenyebbé és elszámoltathatóbbá tétele érdekében.

Kattintson a további információkért vagy a megrendeléshez