Az AI chatbotok egyre erősebbek, de honnan tudhatod, hogy az Ön érdekeit szolgálják-e? 

Ha megkérdezi az Alexát, az Amazon hangasszisztens mesterséges intelligencia rendszerét, hogy az Amazon monopólium-e, azt válaszolja mondván, hogy nem tudja. Nem kell sok az elkészítéséhez lambaste a többi technológiai óriás, de hallgat a saját céganya gaztetteiről.

Amikor az Alexa így reagál, nyilvánvaló, hogy a fejlesztői érdekeket az Önök elé helyezi. Általában azonban nem olyan nyilvánvaló, hogy kit szolgál ki egy AI-rendszer. Annak elkerülése érdekében, hogy ezek a rendszerek kihasználják őket, az embereknek meg kell tanulniuk szkeptikusan viszonyulni az AI-hoz. Ez azt jelenti, hogy szándékosan meg kell alkotni a bemenetet, és kritikusan kell gondolkodni a kimenetén.

A mesterséges intelligencia modellek újabb generációi kifinomultabb és kevésbé ragaszkodó válaszaikkal megnehezítik annak megállapítását, hogy kinek haszna van, amikor beszélnek. Nem újdonság az, hogy az internetes cégek saját érdekeiket szolgálják azzal, amit látsz. A Google keresési eredményei és a Facebook hírfolyamod tele van fizetett bejegyzésekkel. Facebook, TikTok mások pedig úgy manipulálják a hírcsatornákat, hogy maximalizálják a platformon eltöltött időt, ami több hirdetésmegtekintést jelent az Ön jóléte helyett.

Az AI-rendszereket az különbözteti meg ezektől a többi internetes szolgáltatástól, hogy mennyire interaktívak, és hogy ezek az interakciók egyre inkább kapcsolatokká válnak. Nem kell sokat extrapolálni a mai technológiából ahhoz, hogy olyan mesterséges intelligenciát képzeljünk el, amely megtervezi az Ön számára utazásokat, tárgyal az Ön nevében, vagy terapeutaként és életvezetési tanácsadóként tevékenykedik.

Valószínűleg a hét minden napján, 24 órában veled lesznek, közelről ismernek, és képesek lesznek előre látni az igényeit. Ez a fajta párbeszédes interfész a szolgáltatások és erőforrások hatalmas hálózatához a weben a meglévő generatív AI-k, például a ChatGPT lehetőségei közé tartozik. Jó úton haladnak afelé, hogy váljanak személyre szabott digitális asszisztensek.

Ennek biztonsági szakértő és a adattudós, hisszük, hogy azoknak, akik támaszkodnak ezekre a mesterséges intelligenciákra, hallgatólagosan bízniuk kell bennük, hogy eligazodjanak a mindennapi életben. Ez azt jelenti, hogy meg kell bizonyosodniuk arról, hogy az AI-k nem dolgoznak titokban valaki másnak. Az interneten az Ön számára látszólag működő eszközök és szolgáltatások már titokban ellened dolgoznak. Smart TV-k kémkedni utánad. Telefonos alkalmazások összegyűjti és eladja adatait. Számos alkalmazás és webhely sötét mintákon keresztül manipulál, design elemek, amelyek szándékosan félrevezetni, kényszeríteni vagy megtéveszteni a webhely látogatóit. Ez megfigyelő kapitalizmus, és a mesterséges intelligencia készül, hogy része legyen. A mesterséges intelligencia szerepet játszik a felügyeleti kapitalizmusban, amelynek lényege, hogy kémkednek, hogy pénzt szerezzenek.

Sötétben

Valószínűleg sokkal rosszabb a helyzet az AI-val. Ahhoz, hogy az AI digitális asszisztens valóban hasznos legyen, ismernie kell Önt. Jobban ismeri a telefonja. Jobban, mint a Google kereső ismer. Talán jobban, mint ahogy közeli barátai, intim partnerei és terapeutája ismernek.

Nincs okod megbízni a mai vezető generatív AI-eszközökben. Hagyja félre a hallucinációk, a kitalált „tények”, amelyeket a GPT és más nagy nyelvi modellek produkálnak. Arra számítunk, hogy ezeket nagyrészt megtisztítják, ahogy a technológia fejlődik az elkövetkező néhány évben.

De nem tudja, hogyan vannak beállítva az AI-k: hogyan képezték ki őket, milyen információkat kaptak, és milyen utasításokat kaptak, hogy kövessenek. Például kutatók felfedte a titkos szabályokat amelyek szabályozzák a Microsoft Bing chatbot viselkedését. Nagyrészt jóindulatúak, de bármikor megváltozhatnak.

Pénzt keresni

Ezen AI-k közül sokat a legnagyobb technológiai monopóliumok hoznak létre és képeznek ki óriási költséggel. Ingyenesen vagy nagyon alacsony áron kínálják az embereknek a használatát. Ezeknek a cégeknek valahogyan bevételt kell szerezniük belőlük. És az internet többi részéhez hasonlóan ez is valószínűleg magában foglalja a megfigyelést és a manipulációt.

Képzelje el, hogy megkéri a chatbotját, hogy tervezze meg a következő nyaralását. Azért választott egy adott légitársaságot, szállodaláncot vagy éttermet, mert az volt a legjobb az Ön számára, vagy mert a gyártója visszakapott a vállalkozásoktól? Csakúgy, mint a Google-keresés fizetett találatai, a Facebook hírfolyam-hirdetései és az Amazon-lekérdezések fizetett elhelyezései, ezek a fizetett hatások idővel valószínűleg burkoltabbak lesznek.

Ha politikai információkat kér a chatbotjától, az eredményeket torzítja a chatbotot birtokló vállalat politikája? Vagy az a jelölt, aki a legtöbb pénzt fizette? Vagy akár azoknak az embereknek a demográfiai nézeteit, akiknek adatait felhasználták a modell képzéséhez? A mesterséges intelligencia ügynöke titokban kettős ügynök? Jelenleg nem lehet tudni.

A törvény szerint megbízható

Hiszünk abban, hogy az embereknek többet kell várniuk a technológiától, és hogy a technológiai vállalatok és az AI-k megbízhatóbbá válhatnak. Az Európai Unió javaslata AI törvény megtesz néhány fontos lépést, amelyek megkövetelik az AI-modellek betanításához használt adatok átláthatóságát, az esetleges torzítások mérséklését, az előrelátható kockázatok feltárását és az ipari szabványos tesztekről szóló jelentést. Az Európai Unió előrébb tör a mesterséges intelligencia szabályozásával.

A legtöbb létező AI nem tesz eleget ezzel a kialakuló európai mandátummal, és ennek ellenére legutóbbi bökkenő Chuck Schumer, a szenátus többségi vezetője szerint az Egyesült Államok messze lemaradt az ilyen szabályozással kapcsolatban.

A jövő mesterséges intelligenciájának megbízhatónak kell lennie. Hacsak és amíg a kormány nem biztosít szilárd fogyasztóvédelmet az AI-termékek számára, az emberek maguknak kell kitalálniuk a mesterséges intelligencia lehetséges kockázatait és elfogultságait, és mérsékelni azok legrosszabb hatását az emberek velük kapcsolatos tapasztalataira.

Tehát amikor utazási ajánlást vagy politikai információt kap egy AI-eszköztől, ugyanolyan szkeptikus szemmel közelítse meg, mint egy óriásplakát-hirdetéshez vagy egy önkéntes kampányhoz. Minden technológiai varázslat ellenére az AI eszköz alig több, mint ugyanaz.

A szerzőről

Bruce schneier, közpolitikai adjunktus, Harvard Kennedy iskola és a Nathan Sanders, Affiliate, Berkman Klein Center for Internet & Society, Harvard Egyetem

Ezt a cikket újra kiadják A beszélgetés Creative Commons licenc alatt. Olvassa el a eredeti cikk.