A keresőmotorok gyakran az információk és a félretájékoztatások torzító keverékét szolgálják. Crispin la valiente / Moment via Getty Images, CC BY-ND

A keresőmotorok a társadalom egyik elsődleges kapuja az információkhoz és az emberekhez, ugyanakkor a félretájékoztatás csatornái is. Hasonló problémás közösségi média algoritmusok, a keresőmotorok megtanulják kiszolgálni Önt, amire Ön és mások korábban kattintottak. Mivel az embereket vonzza a szenzáció, az algoritmusok és az emberi természet közötti tánc elősegítheti a téves információk elterjedését.

A keresőmotor-vállalatok, mint a legtöbb online szolgáltatás, nemcsak hirdetések értékesítésével keresnek pénzt, hanem a felhasználók követésével és adataik eladásával is valós idejű ajánlattétel útján Rajta. Az embereket gyakran téves információkhoz vezetik a szenzációs és szórakoztató hírek iránti vágyuk, valamint olyan információk, amelyek ellentmondásosak vagy megerősítik nézeteiket. Egy tanulmány megállapította, hogy a cukorbetegségről szóló legnépszerűbb YouTube-videók kevésbé valószínű, hogy orvosilag érvényes információkkal rendelkezzen mint például kevésbé népszerű videók a témában.

A hirdetésekre épülő keresőmotorok - a közösségi média platformokhoz hasonlóan - célja a csábító linkekre való kattintás jutalma, mivel ez segíti a keresőcégeket az üzleti mutatók növelésében. Mint kutató, aki tanulmányozza a keresési és ajánlási rendszereket, Kollégáimmal megmutattuk, hogy a vállalati profit motívum és az egyéni érzékenység e veszélyes kombinációja megnehezíti a probléma megoldását.

Hogyan tévednek a keresési eredmények

Ha rákattint egy keresési eredményre, a keresési algoritmus megtudja, hogy a link, amelyre kattintott, releváns a keresési lekérdezés szempontjából. Ezt úgy hívják relevancia visszajelzés. Ez a visszajelzés segít a keresőmotornak a jövőben nagyobb súlyt adni az adott lekérdezés linkjének. Ha elég sok ember elégszer rákattint erre a linkre, így erős visszajelzést ad a relevanciáról, akkor az adott webhely magasabbra kerül az adott és a kapcsolódó lekérdezések keresési eredményei között.

Az emberek nagyobb valószínűséggel kattint a magasabbra mutató linkekre a találati listán. Ez pozitív visszacsatolási hurkot hoz létre - minél magasabb egy webhely jelenik meg, annál több a kattintás, ez pedig arra készteti a webhelyet, hogy magasabbra lépjen vagy magasabbra tartsa. A keresőmotor-optimalizálási technikák ezt az ismeretet használják a weboldalak láthatóságának növelésére.

Ennek a félretájékoztatási problémának két aspektusa van: hogyan értékelik a keresési algoritmust, és az emberek hogyan reagálnak a címsorokra, a címekre és a kivonatokra. A keresőmotorokat, mint a legtöbb online szolgáltatást, egy sor mérőszám alapján ítélik meg, amelyek egyike a felhasználói elkötelezettség. A keresőmotortársaságok érdeke, hogy olyan dolgokat adjon Önnek, amelyeket olvasni, nézni vagy egyszerűen rákattintani szeretne. Ezért amikor egy keresőmotor vagy bármely ajánlási rendszer létrehoz egy listát a bemutatandó elemekről, kiszámítja annak valószínűségét, hogy rákattint az elemekre.

Hagyományosan ennek célja az volt, hogy a legrelevánsabb információkat hozza ki. A relevancia fogalma azonban homályossá vált, mert az emberek a keresést használják a kereséshez szórakoztató keresési eredmények, valamint valóban releváns információk.

Képzelje el, hogy zongorahangolót keres. Ha valaki mutat egy videót egy macskáról, aki zongorázik, rákattintana? Sokan megtennék, még akkor is, ha ennek semmi köze a zongorahangoláshoz. A keresőszolgáltatás pozitív relevanciájú visszajelzéssel érvényesítettnek érzi magát, és megtudja, hogy rendben van egy macskát zongorázni, amikor az emberek zongorahangolókat keresnek.

Valójában még jobb is, mint sok esetben megmutatni a releváns eredményeket. Az emberek szeretnek vicces macska videókat nézni, és a keresési rendszer több kattintást és felhasználói elkötelezettséget kap.

Ez ártalmatlannak tűnhet. Tehát mi van akkor, ha az emberek időről időre elvonják a figyelmüket, és olyan eredményekre kattintanak, amelyek nem relevánsak a keresési lekérdezés szempontjából? A probléma az, hogy az embereket izgalmas képek és szenzációs címsorok vonzzák. Ők általában összeesküvés-elméletekre és szenzációs hírekre kattintanak, nem csak macskák zongoráznak, és tegyék meg több, mint valódi hírekre kattintani vagy releváns információkat.

Híres, de hamis pókok

2018-ban az „új halálos pók” keresése tüskés a Google-on egy új, halálos pókot állító Facebook-bejegyzés nyomán több ember is megölt több államban. Kollégáimmal elemeztük a Google keresésének 100 legeredményesebb találatát az „új halálos pók” kifejezésre a felkapott lekérdezés első hetében.

A Google keresési eredményeinek első két oldala az „új halálos pók” kifejezésre 2018 augusztusában (árnyékos terület) az adott témáról szóló eredeti hamis hírbejegyzéshez kapcsolódott, nem pedig nyilvánosságra hozatal vagy egyéb tényszerű információ. Chirag Shah, CC BY-ND

Kiderült ez a történet hamis volt, de a rá kereső emberek nagyrészt ki voltak téve az eredeti hamis bejegyzéssel kapcsolatos téves információknak. Amint az emberek tovább kattintottak és megosztották ezt a félretájékoztatást, a Google továbbra is ezeket az oldalakat szolgáltatta a keresési eredmények tetején.

Az izgalmas és nem ellenőrzött történeteknek ez a mintája jelenik meg, és az emberek rájuk kattintanak, és az emberek nyilvánvalóan vagy nem törődnek az igazsággal, vagy úgy gondolják, hogy ha egy megbízható szolgáltatás, például a Google Search megmutatja nekik ezeket a történeteket, akkor a történeteknek igazaknak kell lenniük. Újabban a megcáfolt jelentés azt állítva, hogy Kína hagyta, hogy a koronavírus egy laboratóriumból szivárogjon, ez az ördögi kör miatt vonzóbbá vált a keresőkben.

Helyezze el a téves információkat

Annak tesztelésére, hogy az emberek mennyire tesznek különbséget a pontos információk és a téves információk között, egy egyszerű játékotGoogle vagy nem. ” Ez az online játék két eredménycsoportot mutat ugyanazon lekérdezéshez. A cél egyszerű - válassza ki a megbízható, megbízható vagy a legrelevánsabb készletet.

A tesztek során az emberek körülbelül az idő felében nem tudnak különbséget tenni a félretájékoztatást tartalmazó Google keresési eredmények és a csak megbízható eredményeket tartalmazó eredmények között. Chirag Shah, CC BY-ND

E két halmaz egyikének egy vagy két eredménye van, amelyeket vagy félretájékoztatásként vagy elrontott történetként igazolnak és jelölnek meg. A játékot nyilvánosan elérhetővé tettük, és különféle közösségi média csatornákon keresztül hirdettük. Összességében 2,100 választ gyűjtöttünk össze több mint 30 országból.

Amikor elemeztük az eredményeket, azt találtuk körülbelül az idő felében az emberek tévesen választották megbízhatónak a készletet, egy-két félretájékoztatási eredménnyel. Több száz más felhasználóval sok iteráció során végzett kísérleteink hasonló eredményeket eredményeztek. Más szavakkal: az emberek körülbelül az idő felében válogatnak összeesküvés-elméleteket és hamis híreket tartalmazó eredményeket. Amint egyre többen választják ezeket a pontatlan és félrevezető eredményeket, a keresőmotorok megtudják, hogy az emberek ezt akarják.

A Big Tech és az önszabályozás kérdéseit eltekintve fontos, hogy az emberek megértsék, hogyan működnek ezek a rendszerek és hogyan keresnek pénzt. Ellenkező esetben a piacgazdaságok és az emberek természetes hajlandósága, hogy vonzódjanak a figyelemfelkeltő kapcsolatokhoz, fenntartják az ördögi kört.

A szerzőről

Chirag Shah, az informatika docense, Washington Egyetem

Ezt a cikket újra kiadják A beszélgetés Creative Commons licenc alatt. Olvassa el a eredeti cikk.