A jövő történészei 2023-at a mesterséges intelligencia (AI) megjelenésének mérföldkőnek tekinthetik. De vajon ez a jövő bebizonyítja-e utópisztikus, apokaliptikus or valahol közte valakinek hiszem.

Februárban a ChatGPT rekordot döntött a leggyorsabban elérhető alkalmazásként 100 millió felhasználó. Ezt követték a Google, az Amazon, a Meta és más nagy technológiai cégek hasonló „nagy nyelvű” AI-modellei, amelyek együttesen készen állnak arra, hogy átalakítsák az oktatást, az egészségügyet és sok más tudásintenzív területet.

A mesterséges intelligencia ártalmatlanságát azonban májusban egy baljóslatú kijelentés vezető kutatók aláírásával:

A mesterséges intelligencia okozta kihalás kockázatának mérséklését globális prioritásként kell kezelni az egyéb társadalmi szintű kockázatok, például a világjárvány és a nukleáris háború mellett.

Novemberben, válaszul a mesterséges intelligencia kockázatával kapcsolatos növekvő aggodalomra, 27 ország (köztük az Egyesült Királyság, az Egyesült Államok, India, Kína és az Európai Unió) együttműködést ígért az angliai Bletchley Parkban megtartott AI biztonsági csúcstalálkozón az AI biztonságos fejlesztésének biztosítása érdekében. a mindenki hasznára.

Ennek elérése érdekében a kutatók arra összpontosítanak AI igazítás – vagyis hogyan lehet megbizonyosodni arról, hogy az AI-modellek összhangban vannak az emberi értékekkel, preferenciákkal és célokkal. De van egy probléma – az AI ún.sötét titok”: a nagyméretű modellek annyira összetettek, hogy olyanok, mint egy fekete doboz, amit senki sem érthet meg teljesen.

Az AI fekete doboz problémája

Bár az AI-rendszerek átláthatósága és magyarázhatósága az fontos kutatási célok, úgy tűnik, hogy az ilyen erőfeszítések nem képesek lépést tartani az innováció rohamos ütemével.

A fekete doboz metafora megmagyarázza, hogy az emberek mesterséges intelligenciával kapcsolatos hiedelmei miért vannak a térképen. Az előrejelzések az utópiától a kihalásig terjednek, és sokan még azt is hiszik, hogy hamarosan egy mesterséges általános intelligencia (AGI) lesz. érzéket elérni.

De ez a bizonytalanság súlyosbítja a problémát. A mesterséges intelligencia összehangolásának kétirányúnak kell lennie: nemcsak azt kell biztosítanunk, hogy a mesterséges intelligencia modelljei összhangban legyenek az emberi szándékokkal, hanem azt is, hogy az AI-val kapcsolatos hiedelmeink pontosak legyenek.

Ez azért van, mert rendkívül ügyesek vagyunk olyan jövők létrehozásában, amelyek összhangban állnak ezekkel a hiedelmekkel, még akkor is, ha nem vagyunk tisztában velük.

Úgynevezett „várható hatások”, vagy önbeteljesítő próféciák, jól ismertek a pszichológiában. A kutatások pedig kimutatták, hogy a felhasználók hiedelmeinek manipulálása nem csak azt befolyásolja, hogyan interakcióba lépni az AI-val, de hogyan AI alkalmazkodik a felhasználóhoz.

Más szóval, hiedelmeink (tudatos vagy tudattalan) hatása az MI-re potenciálisan növelheti bármilyen kimenetel valószínűségét, beleértve a katasztrofálisakat is.

AI, számítás, logika és aritmetika

Mélyebben kell kutakodnunk, hogy megértsük a mesterséges intelligencia alapjait – mint az Alice Csodaországban, menj le a nyúllyukba, és nézd meg, hová visz minket.

Először is, mi az AI? Számítógépeken fut, és az automatizált számítás is. Eredetétől kezdve a „perceptron” – egy mesterséges idegsejt, amelyet 1943-ban matematikailag definiált a neurofiziológus Warren McCulloch és logikus Walter Pitts – Az AI összefonódott a kognitív tudományokkal, az idegtudományokkal és a számítástechnikával.

Ez a konvergencia elmék, agyvelő és a gépek ahhoz a széles körben elterjedt hiedelemhez vezetett, hogy mivel a mesterséges intelligencia gépi számítás, ezért a természetes intelligenciának (az elmének) az agynak kell lennie.

De mi is az a számítás? A 19. század végén a matematikusok Richard Dedekind és a Giuseppe Peano axiómakészletet javasolt, amely az aritmetikát a logika szempontjából határozta meg, és ihletett kísérletek arra, hogy minden matematikát biztonságosan megalapozzanak formális alapon.

Bár a logikus Kurt Godel később bebizonyosodott, hogy ez a cél volt elérhetetlen, az ő munkája volt a matematikus (és kódtörő) kiindulópontja. Alan Turing. Övé "Turing gép”, egy absztrakt eszköz, amely képes univerzális számítás, az informatika alapja.

Az érzékelés mély szerkezete

Tehát a számítás olyan matematikai elképzeléseken alapul, amelyek az aritmetika logikai meghatározására tett erőfeszítésekre vezethetők vissza. De az aritmetikai tudásunk létezik a logika előtt. Ha meg akarjuk érteni az MI alapját, tovább kell mennünk, és meg kell kérdeznünk, honnan származik maga az aritmetika.

Kollégáimmal nemrégiben megmutattuk, hogy az aritmetika a „mély szerkezet” az észlelés. Ez a szerkezet olyan, mint a színes szemüveg, amely sajátos módon alakítja érzékelésünket, így a világról alkotott tapasztalatunk rendezett és kezelhető.

Az aritmetika elemek (számok) és műveletek (összeadás, szorzás) halmazából áll, amelyek elempárokat kombinálva egy másik elemet adnak. Megkérdeztük: az összes lehetőség közül miért a számok az elemek, az összeadás és szorzás pedig a műveletek?

Megmutattuk matematikai bizonyíték hogy amikor azt feltételezték, hogy az észlelés mélystruktúrája korlátozza a lehetőségeket, az aritmetika volt az eredmény. Más szóval, amikor elménk ugyanazon a „színes szemüvegen” keresztül nézi az absztrakt világot, amely a fizikai világról alkotott tapasztalatunkat formálja, akkor „lát” számokat és aritmetikát.

Mivel az aritmetika a matematika alapja, ebből az következik, hogy a matematika az elme tükörképe – alapvető természetének és kreativitásának szimbólumokban való kifejezése.

Bár az észlelés mély szerkezete megosztja más állatokkal, és így az evolúció terméke, a matematikát csak az emberek találták fel. Ez a legbensőségesebb alkotásunk – és a mesterséges intelligencia fejlesztésének lehetővé tételével talán a legmeghatározóbb alkotásunk.

Az elme kopernikuszi forradalma

A beszámolónk a az aritmetika eredete összhangban van a 18. századi filozófus Immanuel Kant nézeteivel. Szerinte a világról alkotott tudásunkat a tér és idő „tiszta megérzései” strukturálják, amelyek az érzéki tapasztalat előtt léteznek – hasonlóan a színes szemüvegekhez, amelyeket soha nem tudunk eltávolítani.

Kant a magáét állította filozófia „az elme kopernikuszi forradalma volt”. Ugyanúgy hitték az ókori csillagászok, hogy a Nap kering a Föld körül, mert nem voltak tudatában a Föld mozgásának, érvelt Kant, a filozófusok, akik úgy gondolták, hogy minden tudás a Föld körül forog. érzéki tapasztalat (John Locke és David Hume például) figyelmen kívül hagyták, hogy az elme hogyan alakítja az észlelést.

Bár Kant nézeteit az korának természettudományai, bebizonyították befolyásos a kortárs pszichológiára.

Az a felismerés, hogy az aritmetika a felfogásunk természetes következménye, és így biológiai alapú, hasonló kanti elmozdulásra utal a számítások megértésében.

A számítás nem „kívül” vagy tőlünk elkülönült a matematikai igazság elvont birodalmában, hanem elménk természetében rejlik. Az elme több mint számítás; az agy nem számítógép. Inkább a számítás – az MI alapja – a matematikához hasonlóan az elme természetének és kreativitásának szimbolikus kifejezése.

Prometheus tűz

Milyen következményekkel jár az AI? Először is, a mesterséges intelligencia nem elme, és soha nem válik érzővé. Az az elképzelés, hogy túlléphetünk biológiai természetünkön és elérhetjük a halhatatlanságot, ha feltöltjük elménket a felhőbe, csak fantázia.

Mégis, ha a mesterséges intelligencia alapját képező elme alapelveit az egész emberiség (és valószínűleg más élőlények is) osztja, lehetséges, hogy túllépünk egyéni elménk korlátain.

Mivel a számítás univerzális, szabadon szimulálhatunk és létrehozhatunk bármilyen eredményt, amelyet választunk az egyre inkább összekapcsolódó virtuális és fizikai világunkban. Ily módon az AI valóban a miénk Prometheus tűz, az istenektől ellopott ajándék az emberiségnek, mint a görög mitológia.

Globális civilizációként valószínűleg fordulóponthoz érkezünk. A mesterséges intelligencia nem válik érzővé, és úgy dönt ölj meg mindannyiunkat. De nagyon is képesek vagyunk „apokalipizálni” magunkat vele – az elvárás valóságot teremthet.

A mesterséges intelligencia összehangolására, biztonságára és biztonságára irányuló erőfeszítések létfontosságúak, de nem biztos, hogy elegendőek, ha hiányzik a tudatosság és a kollektív bölcsesség. Alice-hez hasonlóan nekünk is fel kell ébrednünk az álomból, és fel kell ismernünk elménk valóságát és erejét.

Randolph Grace, Pszichológia professzor, University of Canterbury

Ezt a cikket újra kiadják A beszélgetés Creative Commons licenc alatt. Olvassa el a eredeti cikk.