A mélyhamisítások és a politikai kampányok ingatag keveréke jó ok arra, hogy vigyázzunk. Sean Anthony Eddy Creative/E+ a Getty Images segítségével
Képzelj el egy Októberi meglepetés semmihez sem hasonlítható: mindössze egy héttel 5. november 2024. előtt egy videofelvétel felfedi Joe Biden és Volodimir Zelenszkij titkos találkozóját. Az amerikai és az ukrán elnök megállapodik abban, hogy Ukrajnát a „különleges szükséghelyzeti tagsági jegyzőkönyv” értelmében azonnal beavatják a NATO-ba, és felkészülnek az Oroszország elleni atomfegyver-csapásra. Hirtelen a világ Armageddon küszöbén áll.
Míg az újságírók rámutathatnának arra nem létezik ilyen protokoll és a közösségi média felhasználói észrevehetik a videó furcsa videojátékszerű tulajdonságait, mások pedig ezt érezhetik legrosszabb félelmeik megerősítették. Amikor eljön a választás napja, ezek az aggódó polgárok hagyhatják, hogy a videó megingassa szavazataikat, anélkül, hogy tudatában lenne annak, hogy éppen most manipulálták őket egy szituáció mélyhamisításával – egy olyan esemény, amely valójában meg sem történt.
A szituációs mélyhamisítások a technológiák következő szakaszát jelentik, amelyek már megrendült a közönség valóságfelfogása. Kutatásunkban a DeFake projekt, kollégáim a Rochester Műszaki Intézet, a Mississippi Egyetem, Michigan Állami Egyetem és én tanulmányozza, hogyan készülnek mélyhamisítások, és milyen intézkedéseket tehetnek a választók, hogy megvédjék magukat ellenük.
Olyan eseményeket képzel el, amelyek meg sem történtek
Deepfake akkor jön létre, ha valaki mesterséges intelligencia eszközt használ, különösen mély tanulás, manipulálni vagy generálni a csinálEgy hang vagy – emelkedésével nagy nyelvi modellek mint ChatGPT - társalgási nyelv. Ezek kombinálhatók „szituációs mélyhamisítások” létrehozására.
A szituációs mélyhamisítás alapötlete és technológiája ugyanaz, mint bármely más deepfake-é, de merészebb ambícióval: egy valós eseményt manipulálni, vagy légből kapott kitalálni. Példák a következők ábrázolásaira Donald Trump tökéletes sétája és a Trump átöleli Anthony Faucit, egyik sem történt meg. Az ölelkezést népszerűsítette a Twitter-fiók az elnökválasztási kampányhoz kapcsolódik Trump riválisa, Ron DeSantis. An támadási hirdetés A Republikánus Nemzeti Bizottság által közzétett Joe Biden 2024-es kampányát célozta meg teljesen mesterséges intelligenciával készült.
A DeFake projekt, A mi kutatások találtak hogy a mélyhamisításokat – beleértve a helyzeteket is – jellemzően valamilyen keveréke hozza létre az egyik adathordozó hozzáadása egy másikhoz; videó segítségével egy kép animálásához vagy egy másik videó módosításához, szinkronizált bábozás; egy-egy médiát létezővé varázsol, jellemzően felhasználva generatív AI; vagy ezeknek a technikáknak valamilyen kombinációja.
Az egyértelműség kedvéért sok szituációs mélyhamisítást ártatlan célokra készítenek. Például, Infinite Odyssey Magazine hamis állóképeket készít olyan filmekből, amelyek soha nem állították elő or soha nem létezhetett. De még az ártatlan mélyhamisítások is adnak okot a szünetre, mint a szinte hihető hamis fényképek esetében, amelyek Az Apollo Hold leszállása filmes produkcióként.
A választások hamisítása
Most helyezze magát abba a helyzetbe, hogy valaki megpróbálja befolyásolni a közelgő választásokat. Milyen lehetséges helyzeteket szeretne létrehozni?
Kezdetnek számítana, hogy a szavazást egy adott eredmény irányába vagy attól távol szeretné-e dönteni. Lehet, hogy egy jelöltet hősiesen ábrázolna, ha elrángat egy gyalogost a száguldó autó elől, vagy éppen ellenkezőleg, valami sértő vagy bűnözőt tesz. A szituáció deepfake formátuma is számítana. Videó helyett lehet fénykép, esetleg olyan elmosódással és szögekkel, amelyek egy okostelefon kameráját szimulálják, vagy egy hírügynökség hamisított logóját.
A célközönség kulcsfontosságú lenne. Ahelyett, hogy az általános választókat vagy egy párt bázisát célozná meg, célba veheti az összeesküvés-elméletek híveit a kulcsfontosságú szavazókörzetekben. A jelöltet vagy családtagjait úgy ábrázolhatja, mint akik részt vesznek a sátáni rituálé, részt vesz egy fesztiválon a exkluzív és ellentmondásos Bohemian Grove, vagy amelynek a titkos találkozó egy földönkívülivel.
Ha van rá ambíciója és képességei, akkor akár magát a választást is megkísérelheti hamisítani. 2023 júniusában Oroszország televízió- és rádióállomásait feltörték, és teljes mozgósítási parancsot adtak ki egy Vlagyimir Putyin orosz elnök hamisítványa. Bár ezt nehezebb lenne megtenni egy amerikai választáson, elvileg bármelyik híradót feltörhetik, hogy sugárzó hamisítványokat sugározzanak a műsorvezetőkről, amelyek rossz eredményeket hirdetnek, vagy egy jelöltet engednek be.
A valóság védelme
Számos technológiai és pszichológiai módszer létezik a mélyhamisítások észlelésére és az ellenük való védekezésre.
Technológiai fronton minden mélyhamisítás tartalmaz némi bizonyítékot valódi természetére. Ezek közül néhányat az emberi szem is láthat – például a túl sima bőr vagy a furcsa megvilágítás vagy az építészet –, míg mások csak egy mélyhamisító AI által észlelhető.
Mi építkezünk HamisítványA detektor a mesterséges intelligencia segítségével érzékeli a mélyhamisítás árulkodó jeleit, és azon dolgozunk, hogy időben készen álljon a 2024-es választásokra. De még akkor is, ha a miénkhez hasonló kellően erős mélyhamisítás-érzékelőt nem lehet bevetni a választás napjáig, vannak olyan pszichológiai eszközök, amelyeket Ön, a választó, használhat a mélyhamisítások azonosítására: háttértudás, kíváncsiság és egészséges szkepticizmus.
Ha egy személyről, helyről vagy eseményről nem jellemző médiatartalommal találkozik, bízzon háttértudásában. Például a a közelmúltban a Pentagonban történt tűzvész álhíre, a bemutatott épület inkább négyzet alakú, mint ötszögletű, ami ajándék lehet.
Ne hagyatkozzon azonban teljes mértékben háttértudására, amely téves vagy hiányos lehet. Soha ne féljen többet megtudni megbízható forrásokból, például tényekkel ellenőrzött hírjelentésekből, lektorált tudományos cikkekből vagy hiteles szakértőkkel készített interjúkból.
Ezenkívül ügyeljen arra, hogy a mélyhamisítások felhasználhatók arra, hogy kihasználják Önt hajlamos hinni személyről, helyről vagy eseményről. Ennek az egyik legjobb módja az, ha egyszerűen légy tisztában az elfogultságaiddal és legyen óvatos minden olyan médiatartalommal kapcsolatban, amely megerősíteni látszik ezeket.
Még ha lehetséges is lesz tökéletes szituációs mélyhamisítás, a témájuk hihetősége valószínűleg megmarad az Achilles-sarkuknak. Tehát technológiai megoldással vagy anélkül továbbra is megvan a hatalma, hogy megvédje a választást a hamis események befolyásától.
A szerzőről
Christopher Schwartz, a számítástechnikai biztonság posztdoktori kutatója, Rochester Műszaki Intézet
Ezt a cikket újra kiadják A beszélgetés Creative Commons licenc alatt. Olvassa el a eredeti cikk.
Kapcsolódó könyvek:
A Zsarnokságról: Húsz lecke a huszadik századból
írta Timothy Snyder
Ez a könyv történelmi tanulságokat kínál a demokrácia megőrzéséhez és védelméhez, beleértve az intézmények fontosságát, az egyes polgárok szerepét és a tekintélyelvűség veszélyeit.
Kattintson a további információkért vagy a megrendeléshez
A mi időnk most van: hatalom, cél és harc a tisztességes Amerikáért
írta: Stacey Abrams
A szerző, politikus és aktivista, osztja elképzelését egy befogadóbb és igazságosabb demokráciáról, és gyakorlati stratégiákat kínál a politikai szerepvállalásra és a szavazók mozgósítására.
Kattintson a további információkért vagy a megrendeléshez
Hogyan halnak meg a demokráciák
szerző: Steven Levitsky és Daniel Ziblatt
Ez a könyv a demokratikus összeomlás figyelmeztető jeleit és okait vizsgálja, a világ minden tájáról származó esettanulmányokra támaszkodva, hogy betekintést nyújtson a demokrácia védelmébe.
Kattintson a további információkért vagy a megrendeléshez
Az emberek, nem: Az anti-populizmus rövid története
írta Thomas Frank
A szerző bemutatja az egyesült államokbeli populista mozgalmak történetét, és bírálja az "antipopulista" ideológiát, amely szerinte elfojtotta a demokratikus reformokat és a haladást.
Kattintson a további információkért vagy a megrendeléshez
Demokrácia egy könyvben vagy kevesebbben: hogyan működik, miért nem, és miért egyszerűbb megjavítani, mint gondolná
írta: David Litt
Ez a könyv áttekintést nyújt a demokráciáról, beleértve annak erősségeit és gyengeségeit, és reformokat javasol a rendszer érzékenyebbé és elszámoltathatóbbá tétele érdekében.
