Nem valószínű, hogy a mesterséges intelligencia rabszolgává teszi az emberiséget, de életünk számos területén átveheti az uralmat. elenabs/iStock a Getty Images segítségével

A ChatGPT és a hasonló mesterséges intelligencia rendszerek térnyerését éles változás kísérte az AI miatti szorongás növekedése. Az elmúlt néhány hónapban a vezetők és a mesterséges intelligencia-biztonsági kutatók jóslatokat adtak, amelyeket „P(végzet)”, annak a valószínűségéről, hogy az AI nagyszabású katasztrófát idéz elő.

Az aggodalmak 2023 májusában tetőztek, amikor a Center for AI Safety nonprofit kutató- és érdekvédelmi szervezet közzétette. egy mondatos kijelentés: „A mesterséges intelligencia okozta kihalás kockázatának csökkentését globális prioritásként kell kezelni más társadalmi szintű kockázatok mellett, mint például a világjárványok és a nukleáris háború.” A nyilatkozatot a terület számos kulcsszereplője aláírta, köztük az OpenAI, a Google és az Anthropic vezetői, valamint az AI két úgynevezett „keresztapja”: Geoffrey Hinton és a Yoshua Bengio.

Felmerülhet a kérdés, hogy ezek az egzisztenciális félelmek hogyan működnek. Az egyik híres forgatókönyv a „gemkapocs maximalizáló” gondolatkísérletet fogalmazott meg az oxfordi filozófus Nick Bostrom. Az ötlet az, hogy egy mesterséges intelligencia-rendszer, amelynek feladata a lehető legtöbb gemkapocs előállítása, rendkívüli erőfeszítéseket tehet a nyersanyagok megtalálása érdekében, például gyárakat rombolhat le vagy autóbaleseteket okozhat.

A kevésbé erőforrásigényes variáció egy mesterséges intelligencia feladata, hogy foglaljon helyet egy népszerű étteremben, amely leállítja a mobilhálózatokat és a közlekedési lámpákat, hogy megakadályozza, hogy a többi vendég asztalhoz jusson.

Irodaszerek vagy vacsora, az alapötlet ugyanaz: a mesterséges intelligencia gyorsan idegen intelligenciává válik, aki jó a célok elérésében, de veszélyes, mert nem feltétlenül igazodik meg alkotói erkölcsi értékrendjéhez. És a legszélsőségesebb változatában ez az érvelés a mesterséges intelligencia okozta explicit aggodalmakká alakul át az emberi faj rabszolgává tétele vagy elpusztítása.

A gemkapocs-készítő mesterséges intelligencia ámokfutása az AI apokalipszis forgatókönyvének egyik változata.

Valós kár

Az elmúlt néhány évben kollégáimmal a UMass Boston Alkalmazott Etikai Központja tanulmányozták a mesterséges intelligencia iránti elkötelezettség hatását az emberek önmaguk megértésére, és úgy gondolom, hogy ezek a katasztrofális aggodalmak túlfújt és rosszul irányított.

Igen, a mesterséges intelligencia azon képessége, hogy meggyőző mély hamis videót és hangot hozzon létre, ijesztő, és rossz szándékú emberek visszaélhetnek vele. Valójában ez már megtörténik: az orosz ügynökök valószínűleg megpróbálták zavarba hozni a Kreml kritikusát Bill Browder azzal, hogy behálózta egy beszélgetésbe Petro Porosenko volt ukrán elnök avatárjával. A kiberbûnözõk AI hangklónozást alkalmaztak számos bûncselekményhez – kezdve high-tech rablás nak nek közönséges csalások.

AI döntéshozó rendszerek, amelyek hitel jóváhagyását és felvételi ajánlásokat kínál magában hordozza az algoritmikus torzítás kockázatát, mivel az általuk futtatott képzési adatok és döntési modellek régóta fennálló társadalmi előítéleteket tükröznek.

Ezek nagy problémák, és a döntéshozók figyelmét igénylik. De már egy ideje léteznek, és aligha kataklizmát okoznak.

Nem ugyanabban a ligában

A Center for MI Safety nyilatkozata a mesterséges intelligenciát a világjárványokkal és a nukleáris fegyverekkel keverte össze, mint a civilizációt veszélyeztető fő kockázatot. Ezzel az összehasonlítással vannak problémák. A COVID-19 majdnem 7 millió haláleset világszerte, hozott a súlyos és tartós mentális egészségügyi válság és létrehozta gazdasági kihívások, beleértve a krónikus ellátási lánc hiányt és az elszabadult inflációt.

Valószínűleg nukleáris fegyverek haltak meg Több mint ember 200,000 Hirosimában és Nagaszakiban 1945-ben, az ezt követő években sokkal több emberéletet követeltek a rák következtében, több évtizedes mély szorongást váltottak ki a hidegháború alatt, és a világot a megsemmisülés szélére juttatták az 1962-es kubai rakétaválság idején. megváltoztatta az országos vezetők számításait a nemzetközi agresszióra való reagálásról, ahogy jelenleg Oroszország ukrajnai inváziója játszik.

A mesterséges intelligencia egyszerűen közel sem éri el azt a képességet, hogy ilyen jellegű károkat okozzon. A gemkapocs-forgatókönyv és a többi hasonló sci-fi. A meglévő AI-alkalmazások konkrét feladatokat hajtanak végre, ahelyett, hogy átfogó ítéleteket hoznának. A technológia az távolról sem tud dönteni, majd tervezni azokat a célokat és alárendelt célokat, amelyek szükségesek a forgalom leállításához, hogy helyet kapjon egy étteremben, vagy egy autógyár felrobbantásához, hogy kielégítse a gemkapocs-vágyat.

A technológiából nemcsak hiányzik az ezekben a forgatókönyvekben szereplő bonyolult többrétegű ítélkezési képesség, hanem a kritikus infrastruktúránk elegendő részéhez sem rendelkezik önálló hozzáféréssel ahhoz, hogy ilyen jellegű károkat okozzon.

Mit jelent embernek lenni

Valójában az MI használatában rejlik egy egzisztenciális veszély, de ez a kockázat inkább filozófiai, mint apokaliptikus értelemben egzisztenciális. A mesterséges intelligencia jelenlegi formájában megváltoztathatja az emberek önmagukról alkotott képét. Leronthatja azokat a képességeket és tapasztalatokat, amelyeket az emberek alapvetőnek tartanak az emberi léthez.

Például az emberek ítéletet hozó lények. Az emberek racionálisan mérlegelik a részleteket, és napi döntést hoznak a munkahelyükön és a szabadidőben arról, hogy kit vegyenek fel, ki vegyen fel hitelt, mit nézzen meg és így tovább. De egyre több ilyen ítélet van automatizált és algoritmusokra fejlesztve. Ahogy ez megtörténik, a világnak nem lesz vége. De az emberek fokozatosan elvesztik a képességüket, hogy maguk döntsenek. Minél kevesebbet készítenek belőlük az emberek, valószínűleg annál rosszabb lesz.

Vagy vegyük figyelembe a véletlen szerepét az emberek életében. Az emberek nagyra értékelik a szerény találkozásokat: véletlenül találkoznak egy hellyel, személyrel vagy tevékenységgel, belekerülnek abba, és utólag értékelik a véletlen szerepét ezekben a jelentőségteljes leletekben. De az algoritmikus ajánlómotorok szerepe az csökkentsd az efféle serénységet és helyettesítse tervezéssel és előrejelzéssel.

Végül vegye figyelembe a ChatGPT írási képességeit. A technológia folyamatban van, hogy felszámolja az írásbeli feladatok szerepét a felsőoktatásban. Ha ez megtörténik, az oktatók elveszítik a tanulók tanításának egyik kulcsfontosságú eszközét hogyan kell kritikusan gondolkodni.

Nem halott, hanem csökkent

Tehát nem, a mesterséges intelligencia nem fogja felrobbantani a világot. De ennek egyre kritikátlanabb ölelése, különféle szűk összefüggésekben, az emberek néhány legfontosabb képességének fokozatos erózióját jelenti. Az algoritmusok máris aláássák az emberek azon képességét, hogy ítéletet hozzanak, élvezzék a serény találkozásokat és csiszolják a kritikai gondolkodást.

Az emberi faj túléli az ilyen veszteségeket. De a létezési módunk eközben elszegényedik. A közelgő mesterséges intelligencia-kataklizma, a szingularitás, a Skynet körüli fantasztikus aggodalom, vagy akárhogy is gondolja, elfedi ezeket a finomabb költségeket. Emlékezzünk vissza TS Eliot híres zárósorairaAz üreges emberek": "Így ér véget a világ" - írta - "nem csattanással, hanem nyöszörgéssel."

A szerzőről

Nir Eisikovits, filozófia professzor és az Alkalmazott Etikai Központ igazgatója, UMass Boston

Ezt a cikket újra kiadják A beszélgetés Creative Commons licenc alatt. Olvassa el a eredeti cikk.