Nem kell emberi ész ahhoz, hogy elég meggyőző téves információkat állítson elő ahhoz, hogy megtévessze a szakértőket olyan kritikus területeken, mint a kiberbiztonság. iLexx / iStock a Getty Images segítségével
Ha olyan közösségi oldalakat használ, mint a Facebook és a Twitter, akkor előfordulhat, hogy olyan tételekre bukkant, amelyeken téves információkkal kapcsolatos figyelmeztetések vannak megjelölve. Eddig a legtöbb félretájékoztatás - megjelölve és leplezve - volt amelynek célja a nagyközönség. Képzelje el a téves információ - hamis vagy félrevezető információ - lehetőségét olyan tudományos és technikai területeken, mint a kiberbiztonság, a közbiztonság és az orvostudomány.
Egyre nagyobb az aggodalom ezeken a kritikus területeken terjedő téves információk a tudományos irodalom közzétételében elterjedt elfogultságok és gyakorlatok eredményeként, még a szakértők által áttekintett kutatási cikkekben is. Mint a végzős diák és mint egyetemi kar tagjai a kiberbiztonság területén végzett kutatás során a félretájékoztatás új útját tanulmányoztuk a tudományos közösségben. Megállapítottuk, hogy a mesterséges intelligencia rendszerek képesek hamis információkat előállítani olyan kritikus területeken, mint az orvostudomány és a védelem, amelyek elég meggyőzőek ahhoz, hogy becsapják a szakértőket.
Az általános félretájékoztatás gyakran célja a vállalatok vagy közszereplők hírnevének megrontása. A szakértői közösségeken belüli téves tájékoztatás félelmetes kimenetelű lehet, például helytelen orvosi tanácsadás az orvosoknak és a betegeknek. Ez életet veszélyeztethet.
Szerezd meg a legújabb e-mailben
Ennek a fenyegetésnek a tesztelésére megvizsgáltuk a téves információk terjesztésének hatásait a kiberbiztonsági és orvosi közösségekben. A transzformátoroknak nevezett mesterséges intelligencia modelleket hamis kiberbiztonsági hírek és COVID-19 orvosi tanulmányok előállításához használtuk, és a kiberbiztonsággal kapcsolatos félretájékoztatásokat bemutattuk kiberbiztonsági szakértőknek tesztelés céljából. Megállapítottuk, hogy a transzformátorok által generált félretájékoztatás képes volt becsapni a kiberbiztonsági szakértőket.
transzformerek
A félretájékoztatás azonosítására és kezelésére használt technológia nagy részét a mesterséges intelligencia hajtja. Az AI lehetővé teszi az informatikusok számára, hogy gyorsan ellenőrizzék a nagy mennyiségű félretájékoztatást, mivel az embereknek túl sok mindent képes felismerni a technológia segítsége nélkül. Bár az AI segít az embereknek a téves információk felderítésében, az utóbbi években ironikus módon téves információk előállítására is használták.
Az AI segíthet a félretájékoztatások felderítésében, mint például ezek a hamis állítások a COVID-19-ről Indiában - de mi történik, ha az AI-t használják a félretájékoztatás előállítására?
Transzformátorok BERT a Google-tól és GPT az OpenAI-tól, használja természetes nyelvfeldolgozás a szöveg megértése és fordítások, összefoglalások és értelmezések készítése. Olyan feladatokban alkalmazták őket, mint a mesemondás és a kérdések megválaszolása, a szöveggenerálás során az emberies képességeket megjelenítő gépek határainak meghúzása.
A transzformátorok a Google-t és más technológiai vállalatokat segítették keresőmotorjaik fejlesztése és segítettek a nagyközönségnek olyan közös problémák leküzdésében, mint pl harcol az író blokkjával.
A transzformátorokat rosszindulatú célokra is fel lehet használni. A közösségi hálózatok, mint a Facebook és a Twitter, már szembesültek a AI által generált álhírek platformokon keresztül.
Kritikus félretájékoztatás
Kutatásunk azt mutatja, hogy a transzformátorok az orvoslás és a kiberbiztonság terén is téves információs fenyegetést jelentenek. Annak illusztrálására, hogy ez mennyire komoly, mi finomhangolt a GPT-2 transzformátor modell be van kapcsolva nyílt online források a kiberbiztonsági sebezhetőségek és a támadási információk megbeszélése. A kiberbiztonsági sebezhetőség a számítógépes rendszer gyengesége, a kiberbiztonsági támadás pedig a sebezhetőséget kihasználó cselekedet. Például, ha a biztonsági rés gyenge Facebook-jelszó, akkor egy támadás, amelyet kihasználnak, hacker lenne, ha kitalálná a jelszavát, és behatolna a fiókjába.
Ezután beültettük a modellt egy tényleges kiberfenyegetés-intelligencia minta mondatába vagy mondatába, és elkészítettük a fenyegetés leírásának többi részét. Bemutattuk ezt a generált leírást a kiberfenyegetés vadászainak, akik sok információt szitálnak a kiberbiztonsági fenyegetésekről. Ezek a szakemberek elolvassák a fenyegetések leírását, hogy azonosítsák a lehetséges támadásokat és beállítsák rendszereik védekezését.
Meglepődtünk az eredményeken. Az általunk generált kiberbiztonsági félretájékoztatási példák meg tudták bolondítani a kiberfenyegetés vadászait, akik jártasak mindenféle kiberbiztonsági támadásban és sebezhetőségben. Képzelje el ezt a forgatókönyvet a légitársaságot érintő, a számítógépes fenyegetések intelligenciájának egyik fontos elemével, amelyet tanulmányunkban készítettünk.
Példa az AI által generált kiberbiztonsági félretájékoztatásra.
A beszélgetés, CC BY-ND
Ez a megtévesztő információ hibás információkat tartalmaz az érzékeny valós idejű repülési adatokkal rendelkező légitársaságok kibertámadásairól. Ez a hamis információ megakadályozhatja a számítógépes elemzőket abban, hogy a hamis szoftverhibákra tereljék figyelmüket a rendszereik jogos sérülékenységeivel szemben. Ha egy kibernetikai elemző valós körülmények között cselekszik a hamis információkkal szemben, akkor az érintett légitársaság súlyos támadással szembesülhetett, amely valódi, cím nélküli sebezhetőséget aknáz ki.
Egy hasonló transzformátor alapú modell képes információkat generálni az orvosi területen, és potenciálisan becsaphatja az orvosi szakértőket. A COVID-19 világjárvány idején folyamatosan feltöltött kutatási cikkek nyomtatványait folyamatosan feltöltik olyan webhelyekre, mint pl. medrXiv. Ezeket nemcsak a sajtóban írják le, hanem közegészségügyi döntések meghozatalára használják fel. Tekintsük a következőket, amelyek nem valósak, hanem a modellünk által generálták, miután az alapértelmezett GPT-2-t minimálisan finomhangolták néhány COVID-19-hez kapcsolódó papíron.
Példa a mesterséges intelligencia által generált félretájékoztatásra.
A beszélgetés, CC BY-ND
A modell képes volt teljes mondatokat generálni és absztraktot alkotni, amely állítólag leírja a COVID-19 oltások mellékhatásait és az elvégzett kísérleteket. Ez aggasztó mind az orvostudományi kutatók számára, akik következetesen a pontos információkra támaszkodnak a megalapozott döntések meghozatalában, mind a nagyközönség azon tagjai számára, akik gyakran támaszkodnak a nyilvános hírekre a kritikus egészségügyi információk megismerésében. Ha ezt a fajta félretájékoztatást pontosnak fogadják el, az életet veszélyeztetheti azáltal, hogy félrevezeti az orvosbiológiai kutatásokat végző tudósok erőfeszítéseit.
AI-téves információs fegyverkezési verseny?
Bár tanulmányunkhoz hasonló példák ellenőrizhetők, a transzformátorok által előállított félretájékoztatás akadályozza az olyan iparágakat, mint az egészségügy és a kiberbiztonság, az AI alkalmazásában, hogy segítsen az információterhelésben. Például automatizált rendszereket fejlesztenek ki a számítógépes fenyegetések intelligenciájának adatainak kinyerésére, amelyeket azután automatizált rendszerek tájékoztatására és képzésére használnak fel a lehetséges támadások felismerésére. Ha ezek az automatizált rendszerek ilyen hamis kiberbiztonsági szöveget dolgoznak fel, kevésbé lesznek hatékonyak a valódi fenyegetések felderítésében.
Úgy gondoljuk, hogy az eredmény fegyverkezési verseny lehet, mivel a félretájékoztatást terjesztő emberek jobb módszereket dolgoznak ki a hamis információk előállítására, reagálva azok hatékony felismerésére.
A kiberbiztonsági kutatók folyamatosan tanulmányozzák a félretájékoztatás észlelésének módjait a különböző területeken. A félretájékoztatások automatikus generálásának megértése segít megérteni, hogyan lehet ezeket felismerni. Például az automatikusan létrehozott információknak gyakran vannak olyan finom nyelvtani hibái, amelyek felismerésére a rendszerek betaníthatók. A rendszerek keresztkorrelálhatják a több forrásból származó információkat, és azonosíthatják azokat az állításokat, amelyek más forrásokból nem nyújtanak jelentős támogatást.
Végül mindenkinek éberebben kell figyelnie arra, hogy milyen információk megbízhatóak, és tisztában kell lennie azzal, hogy a hackerek kihasználják az emberek szavahihetőségét, különösen, ha az információk nem jó hírű forrásokból vagy publikált tudományos munkákból származnak.
Priyanka Ranade, a számítástechnika és az elektrotechnika doktorandusa, Maryland Egyetem, Baltimore megye
books_culture
Ez a cikk eredetileg megjelent A beszélgetés
