Ha a közösségi médiából kapja hírét, as az amerikaiak többsége igen, napi hoaxoknak, pletykáknak, összeesküvés-elméleteknek és félrevezető híreknek van kitéve. Ha mindez összekeveredik az őszinte forrásokból származó megbízható információkkal, az igazságot nagyon nehéz felismerni.

Valójában a kutatócsoportom elemezte a Columbia Egyetem adatait kiemelkedő pletykakövető erre utal A félretájékoztatás ugyanolyan valószínűséggel vírusos mint megbízható információ.

Sokan kérdezik, hogy a digitális félretájékoztatások ez a támadása befolyásolta az eredményt a 2016-os amerikai választásokon. Az igazság az, hogy nem tudjuk, bár vannak okok azt hinni, hogy ez alapján teljesen lehetséges múltbeli elemzés és a más országok számlái. Minden félretájékoztatás hozzájárul véleményünk kialakításához. Összességében a kár nagyon is valós lehet.

A félretájékoztatás közösségi médián keresztüli elterjedésének kutatójaként tudom, hogy ez korlátozza a hírhamisítók hirdetéseladási képességét, amint azt a közelmúltban bejelentette Google és a Facebook, egy lépés a helyes irányba. De ez nem fogja megfékezni a politikai indítékok által vezérelt visszaéléseket.

A közösségi média kihasználása

Körülbelül 10 évvel ezelőtt kollégáimmal és én vezetett egy kísérlet amelyben megtudtuk, hogy a főiskolai hallgatók 72 százaléka megbízható linkeket mutat, amelyek a barátoktól származnak - akár személyes bejelentkezési adatok megadásáig az adathalász webhelyeken. Ez a széles körben elterjedt biztonsági rés a rosszindulatú manipuláció egy másik formáját vetette fel: Az emberek azt is elhihetik, hogy a társadalmi kapcsolattartó linkjére kattintva félretájékoztatást kapnak.

Ennek az ötletnek a feltárására létrehoztam a hamis weboldal véletlenszerű, számítógéppel generált pletykahírekkel - például: „Celebrity X fogott ágyba Celebrity Y-vel!” A webhely látogatói, akik nevet kerestek, elindítanák a szkriptet, hogy automatikusan fabrikáljon egy történetet az illetőről. Feltettem az oldalra egy nyilatkozatot, mondván, hogy a webhely értelmetlen szöveget és kitalált „tényeket” tartalmaz. Hirdetéseket is elhelyeztem az oldalon. A hónap végén kaptam egy csekket az e-mailben, a hirdetésekből származó bevételekkel. Ez volt a bizonyítékom: az álhírek pénzt kereshettek azáltal, hogy hamisításokkal szennyezték az internetet.

Sajnos nem csak én kaptam ezt az ötletet. Tíz évvel később van egy hamis hírek ipara és a digitális félretájékoztatás. A Clickbait webhelyek álhíreket gyártanak, hogy pénzt keressenek a hirdetésekből, míg az úgynevezett hiperpárti oldalak pletykákat és összeesküvés-elméleteket tesznek közzé és terjesztenek a közvélemény befolyásolása érdekében.

Ezt az iparágat megerősíti, hogy mennyire könnyű létrehozni szociális botok, hamis számlák, amelyeket olyan szoftverek vezérelnek, amelyek valóságos embereknek tűnnek, és ezért valódi befolyással lehetnek. Kutatás az én labor számos példát tárt fel a hamis alapszintű kampányokról, más néven politikai asztrotúra.

Válaszul kifejlesztettük a BotOrNot eszköz a szociális botok felderítésére. Nem tökéletes, de elég pontos meggyőző kampányok feltárására a Brexit és az antivax mozgalmakban. A BotOrNot használatával munkatársaink megállapították, hogy a nagy adag a 2016-os választásokkal kapcsolatos online csevegést robotok generálták.

Információs buborékok létrehozása

Mi, emberek, kiszolgáltatottak vagyunk a digitális félretájékoztatással történő manipulációnak a társadalmi, kognitív, gazdasági és algoritmikus torzítások komplex halmazának köszönhetően. Ezek egy része jó okokból alakult ki: A társadalmi köreinkben kapott jelzések bizalma és a tapasztalatainknak ellentmondó információk elutasítása jól szolgált nekünk, amikor fajunk alkalmazkodott a ragadozók kikerüléséhez. De a mai zsugorodó online hálózatokban a bolygó másik oldalán lévő összeesküvés-elmélettel való társadalmi kapcsolat nem segít a véleményem megalapozásában.

Barátaink lemásolása és a különböző véleményűek követésének visszhangja így visszhangkamrákat ad polarizált hogy a kutatók nagy pontossággal meg tudják mondani, hogy az vagy-e liberális vagy konzervatív csak a barátaidra nézve. A hálózati struktúra olyan sűrű hogy bármilyen téves információ szinte azonnal elterjed az egyik csoporton belül, és annyira elkülönül, hogy nem éri el a másikat.

A buborékunkban szelektíven ki vannak téve a hitünkhöz igazodó információknak. Ez ideális forgatókönyv az elkötelezettség maximalizálása érdekében, de káros az egészséges szkepticizmus kialakulásához. Megerősítő torzítás vezet minket megosztani egy címsort még olvasás nélkül is a cikk.

Laboratóriumunk ebben személyes tanulságot kapott, amikor saját kutatási projektünk a gonosz félretájékoztató kampány a 2014-es amerikai félidős választások előtt. Amikor megvizsgáltuk, mi történik, azt találtuk, hogy hamis híreket közöltek kutatásunkról, amelyeket főleg a Twitter felhasználói osztanak meg egy pártpolitikai visszhangkamrában, egy politikailag aktív felhasználók nagy és homogén közösségében. Ezek az emberek gyorsan retweeteltek és áthatolhatatlanok voltak az információk megsemmisítése iránt.

Vírusos elkerülhetetlenség

Kutatásunk azt mutatja, hogy társadalmi hálózataink felépítése és korlátozott figyelme miatt ez az elkerülhetetlen hogy néhány mémek vírusossá válik, függetlenül azok minőségétől. Még akkor is, ha az egyének általában jobb minőségű információkat osztanak meg, a hálózat egésze nem képes hatékonyan megkülönböztetni a megbízható és a koholt információkat. Ez segít megmagyarázni a vadonban észlelt összes vírus-csalást.

A figyelemgazdaság gondoskodik a többiről: Ha odafigyelünk egy bizonyos témára, akkor több információ készül erről a témáról. Olcsóbb információt gyártani és tényként átadni, mint a tényleges igazságot jelenteni. A gyártás pedig minden egyes csoportra igazítható: a konzervatívok azt olvassák, hogy a pápa támogatta Trumpot, a liberálisok pedig azt, hogy ő Clintont. Ő sem tette.

Figyelj az algoritmusokra

Mivel nem tudunk figyelni a hírcsatornák összes bejegyzésére, az algoritmusok határozzák meg, hogy mit látunk és mit nem. A közösségi média platformjain manapság használt algoritmusok célja a megnyerő bejegyzések rangsorolása - azokra, amelyekre valószínűleg kattintani fogunk, reagálunk rájuk és megosztjuk őket. De egy nemrégiben végzett elemzés szerint a szándékosan félrevezető oldalak legalábbis eljutottak annyi online megosztás és a reakció mint valódi hír.

Ez az algoritmikus elfogultság az igazság iránti elkötelezettség felé erősíti társadalmi és kognitív elfogultságunkat. Ennek eredményeként, amikor követjük a közösségi médiában megosztott linkeket, hajlamosak vagyunk meglátogatni egy kisebb, homogénebb források összessége, mint amikor keresést végzünk és meglátogatjuk a legnépszerűbb eredményeket.

A jelenlegi kutatások azt mutatják, hogy az echo kamrában való tartózkodás embereket tehet hiszékenyebb igazolatlan pletykák elfogadásáról. De sokkal többet kell tudnunk arról, hogy a különböző emberek miként reagálnak egyetlen hamisításra: vannak, akik azonnal megosztják, mások előbb ellenőrizik.

Vagyunk szociális hálózat szimulálása hogy tanulmányozzam ezt a megosztást és a tényellenőrzés közötti versenyt. Reméljük, hogy segítünk kibontani az egymással ellentmondó bizonyítékokat amikor a tényellenőrzés segít megállítani a hamisításokat terjedésétől, és amikor nem. Előzetes eredményeink azt sugallják, hogy minél szegregáltabb a hamis hívők közössége, annál tovább él a kamu. Ismét nemcsak a hamisításról, hanem a hálózatról is szól.

Sokan próbálnak rájönni mit tegyen ez ellen. Mark Zuckerberg legújabbja szerint közlemény, A Facebook csapatai tesztelik a lehetséges lehetőségeket. A főiskolai hallgatók egy csoportja pedig javaslatot tett az egyszerűségre címkézze meg a megosztott linkeket mint „ellenőrzött” vagy sem.

Néhány megoldás nem elérhető, legalábbis egyelőre. Például még nem taníthatjuk meg a mesterséges intelligencia rendszereket, hogyan kell megkülönböztetni az igazságot és a hamisságot. De elmondhatjuk a rangsorolási algoritmusoknak, hogy nagyobb hangsúlyt kapjanak a megbízhatóbb források.

Az álhírek terjedésének tanulmányozása

Hatékonyabbá tehetjük az álhírek elleni küzdelmet, ha jobban megértjük, hogy a rossz információ terjed. Ha például a botok felelősek sok hamisításért, akkor azok felderítésére fordíthatjuk a figyelmet. Ha alternatív megoldásként a visszhangkamrákkal van a probléma, akkor talán tervezhetnénk olyan ajánlási rendszereket, amelyek nem zárják ki az eltérő nézeteket.

Ennek érdekében laboratóriumunk egy ún. Platformot épít Hoaxy nyomon követni és vizualizálni az ellenőrizetlen követelések terjedését és a megfelelő tényellenőrzést a közösségi médiában. Ez valós adatokat fog kapni számunkra, amelyekkel tájékoztathatjuk a szimulált közösségi hálózatokat. Ezután kipróbálhatjuk az álhírek elleni küzdelem lehetséges megközelítéseit.

Hoaxy képes arra is, hogy megmutassa az embereknek, mennyire könnyű online véleményekkel manipulálni a véleményüket - és még azt is, hogy egyesek milyen valószínűséggel osztják meg a hamisítványokat online. Hoaxy csatlakozik egy sor eszközhöz Obszervatórium a közösségi médiában, amely lehetővé teszi bárki számára, hogy lássa, hogyan terjednek a mémek a Twitteren. Az ilyen eszközök emberi tényellenőrzőkhöz és közösségi média platformokhoz való kapcsolata megkönnyítheti az erőfeszítések megkettőzésének minimalizálását és támogatás egymás.

Elengedhetetlen, hogy erőforrásokat fektessünk e jelenség tanulmányozásába. Minden kézre van szükségünk a fedélzeten: Számítógépes tudósoknak, társadalomtudósoknak, közgazdászoknak, újságíróknak és ipari partnereknek kell együtt dolgozni szilárdan álljon szemben a téves információk elterjedésével.

A szerzőről

Filippo Menczer, a számítástechnika és az informatika professzora; A Komplex Hálózatok és Rendszerkutatások Központjának igazgatója, Indiana Egyetem, Bloomington

Ezt a cikket eredetileg közzétették A beszélgetés. Olvassa el a eredeti cikk.

Kapcsolódó könyvek:

at InnerSelf Market és Amazon