A magáncégek független felügyelet vagy szabályozás nélkül őrzik az online gyűlöletet, ami komoly következményekkel jár, és kockázatokat jelent az alapvető emberi jogokra és szabadságokra nézve. (Shutterstock)

A fegyveres fehér szupremácisták fáklyával meggyújtott felvonulása a közelmúltban a washingtoni Charlottesville-ben továbbra is vitát vált ki a gyűlöletcsoportok szabályozásáról. A menetet követő növekvő nyilvános nyomás közepette az internetes vállalatok az erőszakos gyűlöletbeszédet támogató weboldalakat siettek eltávolítani platformjaikról.

Hajrá apa megszüntette domain szolgáltatásait a The Daily Stormer neonáci honlapra, ahogy az is Google. A Cloudflare, amely weboldalakat véd az online támadásoktól, szintén betiltották a gyűlölet webhelyét a platformjáról. Oroszország elrendelte az oldal letiltását hogy az országban nem látják vendégül.

Kutatásom és a könyvem Chokepoints: Globális magánszabályozás az interneten demonstrálja, hogy sok internetes vállalat már eltávolítja a tartalmat és „önként” tiltja a felhasználókat - vagyis jogszabályok vagy bírósági eljárások hiányában. A fő közvetítők, köztük a Google, a PayPal, a GoDaddy, a Twitter és a Facebook önkéntesen ellenőrzik platformjaikat a gyermekekkel szembeni szexuális zaklatás, a szélsőségesség és a hamisított áruk tiltott kereskedelme miatt.

Sokan érthetően tapsolják ezeket az erőfeszítéseket a gyűlöletbeszéd és más kifogásolható tartalmak felszámolása érdekében. Az internetcégek tényleges beszédszabályozóként tett erőfeszítései azonban komoly kérdéseket vetnek fel: Hogyan kell szabályozni az online tartalmat? Ki által?

Nem támogatom a fehér szupermatistákat, és nem érvelek az ilyen beszédek rendészeti rendellenessége ellen. Inkább azt mondom, hogy komolyan meg kell fontolnunk az online tartalom szabályozásának módját, mivel a következő eset nem biztos, hogy egyértelmű.

Jelentős problémák merülnek fel abban, hogy a nagyvállalatok az internetes rendőrségre támaszkodnak, mivel végrehajtási gyakorlatuk aggasztóan átláthatatlan és hajlamos önkényes értelmezésre.

Zavaró precedens

Kijózanító ellentétben azzal, hogy az internetes társaságok a Daily Stormer-rel szembeni nyilvános ellenzék miatt szurkolnak, a Cloudflare vezérigazgatója, Matthew Prince árnyalt, óvatossági perspektívát kínált, figyelmeztetve, hogy a szolgáltatások visszavonása a gyűlöletcsoportoktól a nyilvános nyomásra válaszként aggasztó precedenst jelent az online beszéd rendészetében .

egy blogbejegyzés Prince a Daily Stormer elleni fellépését magyarázva Prince azzal érvelt, hogy a vállalat a megfelelő eljárást „fontosabb elvnek” tartja, mint a szólásszabadságot. A megfelelő eljárás szerinte azt jelenti, hogy „ismernie kell azokat a szabályokat, amelyeket egy rendszer követ, ha részt vesz ebben a rendszerben.” Ez a kijelentés találóan érzékelteti a bennük rejlő problémákat a közvetítőkkel, akik a tartalom és az online viselkedés de facto szabályozói.

Korábban ebben az évben, Shopify alkalmazottak és több száz több ezer ember sürgette és kérelmezett az online kereskedelmi platform a szélsőjobboldali Breitbart Media internetes áruházának megszüntetésére. Visszaállította az ügyvezető elnököt Stephen Bannon hívások Breitbart „az alt-right platformja”. Az úgynevezett „alt-right” - az általunk népszerűsített kifejezés Richard Bertrand Spencer -a fehér felsőbbrendű, szeparatista, neonáci, fasiszta, rasszista, antiszemita, iszlamofób és populista konzervatív ideológiák keverékét takarja.

Tobias Lütke, a Shopify vezérigazgatója elmondta, hogy védi a szólásszabadságot mivel az ottawai vállalat fenyegetéssel folytatta a Breitbart online áruházának üzemeltetését alkalmazottak lemondanak. Nyilvános után nyomás és alulról szervezett kampány #DeleteShopify olyan vizsgálathoz vezetett, amely többet árult el kérdéses üzlet, Shopify volt kényszerű elfogadni egy „Elfogadható felhasználási irányelvek.”

A The Daily Stormer ellentmondásos példái és internetes vállalatok általi törlése, valamint a Shopify határozott támogatása a Breitbart iránt egy olyan dilemma szélsőségeit mutatja be, amely csak fokozódni ígérkezik.

Önkényes politikák, szabályozás

Az internetes közvetítők arra képesek, hogy hatékony szabályozók legyenek a legkülönbözőbb kérdésekben, mivel gyorsan és bírósági végzés nélkül tudnak fellépni. Fontos, hogy van mozgásterük bármilyen tartalom cenzúrázására vagy a felhasználók betiltására a szolgáltatási feltételek alapján.

A PayPal fenntartja a jogot, hogy szolgáltatásait a felhasználóknak megszüntessebármilyen okból és bármikor, ”A nyelv, amely visszhangzik a legtöbb közvetítő szolgáltatási szerződésében. Az önkényes szabályozás képességét tehát a közvetítők belső szabályai alkotják.

Prince figyelmeztetett arra, hogy a Cloudflare akciója a Daily Stormer ellen precedenst teremt a közvetítők számára a rendőrségi beszédhez, anélkül, hogy a bíróság erre kötelezné őket.

Ezek a közvetítők gyakran azoknak a kormányoknak a parancsára cselekszenek, amelyek inkább a vállalatokat tekintik az internetes szabályozás nyilvános (de nagyrészt elszámolhatatlan) arcának. De ezek a cégek általában nincsenek felkészülve arra, hogy megkülönböztessék a törvényességet az illegálistól, jogtalan eltávolításokat okozva, és tévesen a törvényes magatartást célozzák meg.

Ugyanilyen problematikus: A közvetítők végrehajtási folyamata gyakran átláthatatlan, mivel tartalom moderátoraik önkényesen értelmezik összetett, gyorsan változó belső szabályaikat. Ezeket a problémákat súlyosbítja az a tény, hogy a közvetítők egyre nagyobb mértékben használják az automatizált eszközöket a problémás tartalom azonosítására és eltávolítására a platformjaikon.

Az úgynevezett küldetés-kúszás aggodalomra ad okot akkor is, amikor a gyermekbántalmazás vagy a terrorizmus ellen először elfogadott szabályokat - a végrehajtási intézkedések figyelemre méltó katalizátorait - később más, kifejezetten kevésbé káros kérdésekre, például a szerzői jog által védett tartalom engedély nélküli letöltésére is alkalmazzák.

Itt van a disztópikus jövő

A szabályozási erőfeszítések általában kiterjednek az erőszakos gyűlöletbeszéd cenzúrájáról olyan beszédre, amelyet egyesek vitathatónak tarthatnak, mint például a Fekete Életanyag. Emellett a kormányok világszerte rendszeresen nyomást gyakorolnak a közvetítőkre cenzor és pálya kritikusok és politikai ellenfelek.

Amikor a fő közvetítők a kormányok nevében vagy a nagy jelentőségű tiltakozásokra reagálva a tartalom rendjéért felelős szabályozókká válnak, akkor is jelentős hatalmuk nő. Amerikai székhelyű internetes vállalatok már most is számos iparágat uralnak, beleértve a keresést, a hirdetést, a domain regisztrációt, a fizetést és a közösségi médiát. Cloudflare hercege joggal figyelmeztetett hogy „néhány óriás hálózattól” függően „kis számú vállalat döntően meghatározza, mi lehet és mi nem lehet online.”

Ez a disztópikus jövő már itt van.

A Daily Stormer eltávolítása kétségtelenül jobb hellyé teszi a világot. De vajon valóban azt akarjuk, hogy a Facebook-hoz és a Twitterhez hasonló vállalatok döntsék el - függetlenül, önkényesen és titokban -, hogy milyen tartalmakhoz férhetünk hozzá és oszthatjuk meg őket?

Tekintettel ezekre a megoldhatatlannak tűnő problémákra, mit tehetünk? Először is kerülnünk kell a tiltakozások vagy a média nyomása alapján történő kormányzást. Helyette, világos szabályrendszerre van szükségünk hogy a közvetítők következetesen, átláthatóan és tiszteletben tartsák a megfelelő eljárást, ahogy Prince javasolta.

A kormányoknak tisztázniuk kell a közvetítõk szabályozási felelõsségének jellegét és fõként korlátait. Végül meg kell állítanunk a kormányzást konkrét válságokra - az úgynevezett „hamis hírekre”, a terrorizmusra és a gyűlöletcsoportokra - reagálva, és ehelyett kritikusan gondolkodnunk kell arról, hogyan tudnánk és kellene irányítanunk az internetet.

A szerzőről

Natasha Tusikov, adjunktus, kriminológia, Társadalomtudományi Tanszék, York Egyetem, Kanada

Ezt a cikket újra kiadják A beszélgetés Creative Commons licenc alatt. Olvassa el a eredeti cikk.

Kapcsolódó könyvek

at InnerSelf Market és Amazon