Egy tipikus közösségi bot fiók. CC B
A közösségi média platformok már többet jelentenek puszta kommunikációs eszközöknél. Nyüzsgő színterekké fejlődtek, ahol az igazság és a hazugság ütközik. Ezen platformok közül az X kiemelkedik a kiemelkedő csatatér. Ez egy olyan hely, ahol a dezinformációs kampányok virágoznak, mesterséges intelligencia által hajtott robotok hadaival, amelyek a közvélemény befolyásolására és a narratívák manipulálására vannak programozva.
A mesterséges intelligencia által hajtott botok olyan automatizált fiókok, amelyeket úgy terveztek, hogy utánozzák az emberi viselkedést. A közösségi médiában, a chat-platformokon és a társalgási AI-n lévő botok a modern élet szerves részét képezik. Szükségesek például az AI-alkalmazások hatékony működéséhez.
Néhány robot azonban rosszindulatú szándékkal készült. Megdöbbentő módon a botok X felhasználói bázisának jelentős részét alkotják. 2017-ben becsülték hogy körülbelül 23 millió közösségi bot volt, ami az összes felhasználó 8.5%-át teszi ki. A tweetek több mint kétharmada ezekből az automatizált fiókokból származik, ami felerősíti a dezinformáció terjedelmét és elsározza a közbeszéd vizeit.
Hogyan működnek a botok
A társadalmi befolyás ma már olyan árucikknek számít, amelyeket botok megvásárlásával lehet megszerezni. A cégek hamis követőket adnak el, hogy mesterségesen növeljék a fiókok népszerűségét. Ezek a követők rendkívül alacsony áron érhetők el, számos hírességgel a vásárlók között.
Kutatásunk során kollégáimmal például egy botot észleltünk, amely 100 tweetet posztolt, és követőket kínált eladásra.
Az AI módszertanok és az ún színész-hálózat elmélet, kollégáimmal azt boncolgattuk, hogy a rosszindulatú közösségi botok hogyan manipulálják a közösségi médiát, és riasztó hatékonysággal befolyásolják az emberek véleményét és cselekvését. Azt, hogy az álhíreket ember vagy bot generálta-e, 79.7%-os pontossággal tudjuk megállapítani. Kulcsfontosságú annak megértése, hogy az emberek és a mesterséges intelligencia hogyan terjeszt dezinformációt, hogy megértsük, milyen módon használják fel az emberek az MI-t a téves információk terjesztésére.
Egy példaként megvizsgáltuk egy „True Trumpers” nevű fiók tevékenységét a Twitteren.
A fiókot 2017 augusztusában hozták létre, nincsenek követői és profilképe, de a kutatás idején 4,423 tweetet tett közzé. Ezek között volt egy sor teljesen kitalált történet. Érdemes megjegyezni, hogy ez a bot egy kelet-európai országból származik.
Álhírek folyama egy robotfiókból. Buzzfeed, CC BY
Az ehhez hasonló kutatások befolyásolták az X-et, hogy korlátozza a közösségi botok tevékenységét. A közösségi média manipulációjának veszélyére válaszul az X ideiglenes olvasási korlátozásokat vezetett be, hogy megfékezzék az adatok lekaparását és manipulációját. Az ellenőrzött fiókok napi 6,000 bejegyzésre korlátozódnak, míg az ellenőrzött fiókok napi 600-at. Ez egy új frissítés, így még nem tudjuk, hogy hatékony volt-e.
Meg tudjuk védeni magunkat?
Azonban végső soron a felhasználókra hárul az óvatosság és az igazság és a hazugság megkülönböztetése, különösen a választási időszakokban. Az információk kritikus értékelésével és a források ellenőrzésével a felhasználók szerepet játszhatnak a demokratikus folyamatok integritásának védelmében az X-en futó botok és dezinformációs kampányok ellen. Valójában minden felhasználó az igazság és a demokrácia frontvonalbeli védelmezője. Az éberség, a kritikus gondolkodás és az egészséges adag szkepticizmus elengedhetetlen páncél.
A közösségi médiában fontos, hogy a felhasználók megértsék a rosszindulatú fiókok által alkalmazott stratégiákat.
A rosszindulatú szereplők gyakran használnak robothálózatokat hamis narratívák felerősítésére, trendek manipulálására és téves információk gyors terjesztésére. A felhasználóknak elővigyázatosnak kell lenniük, amikor gyanús viselkedést tanúsító fiókokkal találkoznak, például túlzott bejegyzéseket vagy ismétlődő üzeneteket.
A dezinformációt gyakran terjesztik dedikált álhír-webhelyeken is. Ezeket úgy tervezték, hogy hiteles hírforrásokat utánozzanak. A felhasználóknak azt tanácsoljuk, hogy ellenőrizzék a hírforrások hitelességét az információk és a jó hírű források közötti kereszthivatkozás révén, valamint a tényellenőrző szervezetekkel való konzultációval.
Az öntudat a védelem egy másik formája, különösen a szociális mérnöki taktikákkal szemben. A pszichológiai manipulációt gyakran alkalmazzák annak érdekében, hogy a felhasználókat hamisságra higgyék vagy bizonyos cselekedetekben vegyenek részt. A felhasználóknak ébernek kell lenniük, és kritikusan értékelniük kell az általuk talált tartalmat, különösen a fokozott érzékenység időszakaiban, például a választásokon.
Azáltal, hogy tájékozott maradunk, részt veszünk a civil diskurzusban, és szorgalmazzuk az átláthatóságot és az elszámoltathatóságot, közösen alakíthatunk ki egy digitális ökoszisztémát, amely elősegíti a bizalmat, az átláthatóságot és a megalapozott döntéshozatalt.
Nick Hajli, mesterséges intelligencia-szakértő és a digitális stratégia professzora, Loughborough Egyetem
Ezt a cikket újra kiadják A beszélgetés Creative Commons licenc alatt. Olvassa el a eredeti cikk.
Kapcsolódó könyvek:
A Zsarnokságról: Húsz lecke a huszadik századból
írta Timothy Snyder
Ez a könyv történelmi tanulságokat kínál a demokrácia megőrzéséhez és védelméhez, beleértve az intézmények fontosságát, az egyes polgárok szerepét és a tekintélyelvűség veszélyeit.
Kattintson a további információkért vagy a megrendeléshez
A mi időnk most van: hatalom, cél és harc a tisztességes Amerikáért
írta: Stacey Abrams
A szerző, politikus és aktivista, osztja elképzelését egy befogadóbb és igazságosabb demokráciáról, és gyakorlati stratégiákat kínál a politikai szerepvállalásra és a szavazók mozgósítására.
Kattintson a további információkért vagy a megrendeléshez
Hogyan halnak meg a demokráciák
szerző: Steven Levitsky és Daniel Ziblatt
Ez a könyv a demokratikus összeomlás figyelmeztető jeleit és okait vizsgálja, a világ minden tájáról származó esettanulmányokra támaszkodva, hogy betekintést nyújtson a demokrácia védelmébe.
Kattintson a további információkért vagy a megrendeléshez
Az emberek, nem: Az anti-populizmus rövid története
írta Thomas Frank
A szerző bemutatja az egyesült államokbeli populista mozgalmak történetét, és bírálja az "antipopulista" ideológiát, amely szerinte elfojtotta a demokratikus reformokat és a haladást.
Kattintson a további információkért vagy a megrendeléshez
Demokrácia egy könyvben vagy kevesebbben: hogyan működik, miért nem, és miért egyszerűbb megjavítani, mint gondolná
írta: David Litt
Ez a könyv áttekintést nyújt a demokráciáról, beleértve annak erősségeit és gyengeségeit, és reformokat javasol a rendszer érzékenyebbé és elszámoltathatóbbá tétele érdekében.
Kattintson a további információkért vagy a megrendeléshez
