Az információ értékes áru. És a technológiának köszönhetően vannak millió terabájt online.

A mesterséges intelligencia (AI) eszközei, mint például a ChatGPT, most a mi nevünkben kezelik ezeket az információkat – összevetik, összefoglalják és visszaadják nekünk.

De az információkezelés mesterséges intelligencia felé történő „kiszervezése” – bármilyen kényelmes is – következményekkel jár. Nemcsak befolyásolhatja mit gondoljuk, de potenciálisan is hogyan gondoljuk.

Mi történik egy olyan világban, ahol a mesterséges intelligencia algoritmusai döntik el, hogy milyen információkat örökítsenek meg, és mi maradjon az út szélén?

A személyre szabott mesterséges intelligencia térnyerése

A generatív AI-eszközök több száz gigabájtra betanított modellekre épülnek már meglévő adatok. Ezekből az adatokból megtanulják, hogyan hozhatnak létre önállóan szöveget, képeket, hang- és videótartalmakat, és a „legvalószínűbb” válasz összeillesztésével válaszolhatnak a felhasználói kérdésekre.

A ChatGPT-t használja emberek milliói, annak ellenére, hogy kevesebb, mint egy éve jelent meg nyilvánosan. Júniusban kiegészítve egyéni válaszok még hasznosabbá tette az amúgy is lenyűgöző chatbotot. Ezzel a funkcióval a felhasználók testreszabott utasításokat menthetnek el, amelyek elmagyarázzák, mire használják a botot, és hogyan szeretnének reagálni.

Ez a „személyre szabott mesterségesintelligencia” számos példája egyike: olyan AI-eszközök kategóriája, amelyek a felhasználó speciális igényeinek és preferenciáinak megfelelő tartalmat állítanak elő.

Egy másik példa a Meta nemrégiben piacra dobása virtuális asszisztens, Meta AI. Ez a chatbot beszélgetéseket folytathat, képeket generálhat és feladatokat hajthat végre a Meta platformjain, beleértve a WhatsApp-ot, a Messengert és az Instagramot.

A mesterséges intelligencia kutatója és a DeepMind társalapítója, Mustafa Suleyman, körülír a személyre szabott mesterséges intelligencia, mint inkább kapcsolat, mint technológia:

Ez egy barát. […] Valójában mindig jelen lesz és melletted, veled élve – alapvetően a csapatodban. Szeretek úgy gondolni rá, mintha egy nagyszerű edző lenne a sarokban.

De ezek a technológiák is ellentmondásosak, és aggályok merülnek fel az adatok tulajdonjoga, előítélet és a félrevezető tájékoztatás.

A technológiai cégek megpróbálják megtalálni a módját ezeknek a problémáknak a leküzdésére. A Google például forráshivatkozásokat adott hozzá az AI által generált keresési összefoglalókhoz Keressen Generatív tapasztalatot (SGE) eszköz, amely az év elején került kritika alá felajánlása pontatlan és problémás válaszokat.

A technológia már megváltoztatta a gondolkodásunkat

Hogyan változtatják meg a gondolkodásunkat a generatív AI-eszközök – és különösen a számunkra személyre szabottak?

Ennek megértéséhez tekintsük vissza az 1990-es évek elejére, amikor az internet először lépett életünkbe. Az emberek hirtelen szinte bármiről információhoz juthattak, legyen az banki, sütési, tanítási vagy utazási.

Közel 30 év elteltével a tanulmányok kimutatták, hogy a globális „kaptár-elmével” való kapcsolat hogyan változtatta meg megismerésünket, memóriánkat és kreativitásunkat.

Például azonnali hozzáférés a megfelelőjéhez 305.5 milliárd oldalt az információ mennyisége növelte az embereket meta-tudás – vagyis tudásukat a tudásról. Ennek egyik hatása a „Google effektus”: olyan jelenség, amelyben az online keresés növeli az információkeresési képességünket, de csökkenti a memóriánkat arra vonatkozóan, hogy mi volt az információ.

Egyrészt bebizonyosodott, hogy gondolkodásunk keresőmotorokra való átrakása felszabadítja szellemi tartalékainkat problémamegoldás és kreatív gondolkodás. Másrészt az online információkeresés megnövekedett figyelemelterelés és függőség.

A kutatások azt is kimutatják, hogy az online keresés – függetlenül a visszakeresett információ mennyiségétől vagy minőségétől – növeli a keresésünket kognitív önértékelés. Más szóval, növeli a saját „okosságainkba” vetett hitünket.

Párosítsd ezt azzal a ténnyel az információk megkérdőjelezése erőfeszítést igényel – és minél jobban megbízunk keresőmotorunkban, annál kevésbé vagyunk kritikusak részt vesz annak eredményeivel – és láthatja, hogy a példátlan mennyiségű információhoz való hozzáférés miért nem tesz szükségszerűen bölcsebbé bennünket.

„Kiszervezzük” a gondolkodásunkat?

A mai generatív AI-eszközök sokkal továbbmennek annál, hogy keresési eredményeket mutassanak be. Megkeresik számunkra az információt, kiértékelik, szintetizálják és visszaadják nekünk.

Milyen következményei lehetnek ennek? Az ember által irányított minőség-ellenőrzés nélkül a kilátások nem biztatóak.

A generatív mesterséges intelligencia azon képessége, hogy ismerősnek, tárgyilagosnak és vonzónak tűnő válaszokat tud produkálni, azt jelenti, hogy sebezhetőbbé tesz bennünket Kognitív előítéletek.

A automatizálási torzításEz például az emberi hajlam arra, hogy túlbecsülje a gépi forrásból származó információk integritását. És a puszta expozíció hatás az, amikor nagyobb valószínűséggel bízunk az ismerősként vagy személyesen bemutatott információkban.

A közösségi médiával kapcsolatos kutatások segíthetnek megérteni az ilyen torzítások hatását. Egy 2016-os tanulmányban Facebook-felhasználók számoltak be jobban „tudatosabbnak” érzi magát az interneten közzétett hírtartalom mennyisége alapján – és nem az, hogy valójában mennyit olvasnak belőlük.

Azt is tudjuk, hogy "szűrőbuborékokat” közösségimédia-algoritmusok által létrehozott ” – ahol hírfolyamainkat érdeklődésünk szerint szűrjük – korlátozza a számunkra elérhető tartalmak sokszínűségét.

Az információszűkítésnek ez a folyamata fokozódott ideológiai polarizáció azáltal, hogy csökkenti az emberek hajlandóságát az alternatív perspektívák mérlegelésére. Azt is kimutatták, hogy növeli annak valószínűségét, hogy ki vagyunk téve ennek hamis hírek.

AI használata bölcsesítésre, nem butításra

A generatív mesterséges intelligencia kétségtelenül egy forradalmi erő, amely képes nagy dolgokat tenni a társadalomért. Átalakíthatná oktatási rendszerünket azáltal, hogy biztosít személyre szabott tartalom, gyorsítással változtassuk meg munkagyakorlatunkat írás és információelemzés, és feszegetik a határait tudományos felfedezés.

Még arra is képes, hogy pozitívan módosítsa kapcsolatainkat azáltal, hogy segít kommunikálni és kapcsolatba lépni másokkal, és időnként a szintetikus társasági forma.

De ha a jövő megítélésének egyetlen módja az, ha a múltba tekintünk, akkor talán itt az ideje, hogy átgondoljuk, hogyan változtatta meg megismerésünket az internet és a közösségi média egyaránt, és alkalmazzunk néhányat. elővigyázatossági intézkedések. Fejlesztés AI műveltség jó kiindulópont, akárcsak az emberi autonómiát és kritikai gondolkodást ösztönző AI-eszközök tervezése.

Végső soron mindkettőnket meg kell értenünk valamint az AI erősségei és gyengeségei hogy ezek a „gondolkodó” társak segítsenek megteremteni a kívánt jövőt – és nem azt, amely történetesen a lista elején van.

Sarah Vivienne Bentley, kutató, felelős innováció, Data61, CSIRO; Claire Mason, vezető kutató, CSIROés Einat Grimberg, technológiai és társadalomtudományi posztdoktori tudományos munkatárs, CSIRO

Ezt a cikket újra kiadják A beszélgetés Creative Commons licenc alatt. Olvassa el a eredeti cikk.