Getty Images
A mesterséges intelligencia (AI) gyorsan fejlődik, és a klinikai ellátás fontos támogató eszközévé válik. A kutatások szerint az AI-algoritmusok pontosan képesek melanómák kimutatása és a előre jelezni a jövőbeli emlőrák kialakulását.
Mielőtt azonban a mesterséges intelligencia integrálható lenne a rutin klinikai használatba, foglalkoznunk kell az algoritmikus torzítás kihívásával. Az AI-algoritmusok olyan eredendő torzításokkal rendelkezhetnek, amelyek diszkriminációhoz és adatvédelmi problémákhoz vezethetnek. Az AI-rendszerek a szükséges felügyelet vagy emberi közreműködés nélkül is hozhatnak döntéseket.
Az AI potenciálisan káros hatásaira egy példa származik egy nemzetközi projekt amelynek célja, hogy a mesterséges intelligenciát életek megmentésére használja áttörő orvosi kezelések kifejlesztésével. Egy kísérlet során a csapat megfordította a „jó” mesterséges intelligencia modelljét, hogy lehetőséget teremtsen egy új mesterséges intelligencia-modell „károsítására”.
Kevesebb, mint hat órányi kiképzés alatt a fordított AI algoritmus több tízezer potenciális vegyi harci anyagot generált, amelyek sokkal veszélyesebbek, mint a jelenlegi harci anyagok. Ez egy szélsőséges példa a kémiai vegyületekre vonatkozóan, de ébresztőként szolgál a mesterséges intelligencia ismert és elképzelhetetlen etikai következményeinek értékelésére.
AI a klinikai ellátásban
Az orvostudományban az emberek legprivátabb adataival és gyakran életüket megváltoztató döntésekkel foglalkozunk. A robusztus AI etikai keretrendszer elengedhetetlen.
A Ausztrál Epilepszia Projekt célja, hogy javítsa az emberek életét, és szélesebb körben elérhetővé tegye a klinikai ellátást. A fejlett agyi képalkotás, valamint több ezer epilepsziás ember genetikai és kognitív információi alapján azt tervezzük, hogy az AI-t használjuk válaszoljon a jelenleg megválaszolhatatlan kérdésekre.
Folytatódnak ennek a személynek a rohamai? Melyik gyógyszer a leghatékonyabb? Az agyműtét életképes kezelési lehetőség? Ezek olyan alapvető kérdések, amelyekre a modern orvostudomány küzd.
A projekt mesterséges intelligencia vezetőjeként a fő gondom az, hogy a mesterséges intelligencia gyorsan halad, és a szabályozói felügyelet minimális. Ezek miatt a problémák miatt nemrégiben létrehoztunk egy etikai keret az AI klinikai támogató eszközként való használatához. Ennek a keretrendszernek az a célja, hogy mesterséges intelligencia-technológiáink nyitottak, biztonságosak és megbízhatóak legyenek, miközben előmozdítja az inkluzivitást és a méltányosságot a klinikai ellátásban.
Hogyan alkalmazzuk tehát a mesterséges intelligencia etikáját az orvostudományban az elfogultság csökkentése és az algoritmusok feletti ellenőrzés megőrzése érdekében? A „szemetet be, szemetet ki” számítástechnikai elv érvényes az MI-re. Tegyük fel, hogy kis mintákból torzított adatokat gyűjtünk. AI-algoritmusaink valószínűleg elfogultak, és nem replikálhatók más klinikai környezetben.
A kortárs AI-modellekben nem nehéz példákat találni a torzításokra. A népszerű nagy nyelvi modellek (például a ChatGPT) és a látens diffúziós modellek (DALL-E és Stable Diffusion) megmutatják, hogyan kifejezett torzítások a nem, az etnikai hovatartozás és a társadalmi-gazdasági státusz tekintetében.
A kutatók azt találták, hogy az egyszerű felhasználói felszólítások olyan képeket generálnak, amelyek állandósítják az etnikai, nemi és osztály-sztereotípiákat. Például egy felszólítás az orvoshoz többnyire generál férfi orvosokról készült képek, ami nincs összhangban a valósággal, mivel az OECD-országok orvosainak körülbelül fele nő.
Az orvosi mesterséges intelligencia biztonságos megvalósítása
Az elfogultság és a diszkrimináció megelőzésének megoldása nem triviális. Az egészségügyi egyenlőség lehetővé tétele és az inkluzivitás elősegítése a klinikai vizsgálatokban valószínűsíthető elsődleges megoldások az orvosi mesterséges intelligencia elfogultságainak leküzdésére.
Az Egyesült Államok Élelmiszer- és Gyógyszerügyi Hivatala nemrégiben biztató javaslatot tett kötelezővé téve a sokszínűséget klinikai vizsgálatokban. Ez a javaslat elmozdulást jelent a kevésbé elfogult és közösségi alapú klinikai vizsgálatok felé.
A haladás másik akadálya a korlátozott kutatásfinanszírozás. Az AI algoritmusok általában jelentős mennyiségű adatot igényelnek, ami költséges lehet. Kulcsfontosságú olyan továbbfejlesztett finanszírozási mechanizmusok létrehozása, amelyek biztosítják a kutatók számára a szükséges erőforrásokat az AI-alkalmazásoknak megfelelő, klinikailag releváns adatok összegyűjtéséhez.
Azt is állítjuk, hogy mindig ismernünk kell az AI-algoritmusok belső működését, és meg kell értenünk, hogyan jutnak el következtetéseikhez és javaslataikhoz. Ezt a koncepciót gyakran „magyarázhatóságnak” nevezik az AI-ban. Ez azzal az elképzeléssel kapcsolatos, hogy az embereknek és a gépeknek együtt kell működniük az optimális eredmény érdekében.
A jóslatok modellekben történő megvalósítását inkább „kibővített”-nek tekintjük, semmint „mesterséges” intelligenciának – az algoritmusoknak a folyamat részét kell képezniük, és az orvosi szakmáknak meg kell őrizniük a döntéshozatalt.
A magyarázható algoritmusok használatának ösztönzése mellett támogatjuk az átlátható és nyitott tudományt. A tudósoknak közzé kell tenniük az AI-modellek részleteit és módszertanát az átláthatóság és a reprodukálhatóság javítása érdekében.
Mire van szükségünk Aotearoa Új-Zélandon, hogy biztosítsuk a mesterséges intelligencia biztonságos alkalmazását az orvosi ellátásban? Az AI etikai aggályait elsősorban a terület szakértői irányítják. Azonban célzott mesterséges intelligencia szabályozások, mint például az EU-alapú Mesterséges intelligencia törvény javaslatot tettek ezekre az etikai szempontokra.
Üdvözöljük az európai mesterségesintelligencia-törvényt, amely megvédi a „biztonságos mesterségesintelligencia” keretein belül dolgozókat. Az Egyesült Királyság kormánya a közelmúltban kiadta proaktív megközelítés a mesterséges intelligencia szabályozásához, amely az AI biztonságára vonatkozó egyéb kormányzati válaszok mintájaként szolgál.
Az Aotearoa-ban amellett érvelünk, hogy a mesterséges intelligencia biztonságával kapcsolatban inkább proaktív, mint reagáló álláspontot fogadjunk el. Etikai keretet hoz létre a mesterséges intelligencia klinikai ellátásban és más területeken történő használatához, értelmezhető, biztonságos és elfogulatlan MI-t eredményezve. Következésképpen erősödni fog az a bizalom, hogy ez a hatékony technológia a társadalom javára válik, miközben megóvja a károktól.
A szerzőről
Mangor Pedersen, a pszichológia és idegtudomány docense, Auckland Műszaki Egyetem
Ezt a cikket újra kiadják A beszélgetés Creative Commons licenc alatt. Olvassa el a eredeti cikk.
Kapcsolódó könyvek:
A test tartja a pontszámot: Az agy és a test a traumák gyógyításában
írta Bessel van der Kolk
Ez a könyv a trauma, valamint a fizikai és mentális egészség összefüggéseit tárja fel, betekintést és stratégiákat kínálva a gyógyuláshoz és felépüléshez.
Kattintson a további információkért vagy a megrendeléshez
Lélegzet: Egy elveszett művészet új tudománya
írta: James Nestor
Ez a könyv a légzés tudományát és gyakorlatát tárja fel, betekintést és technikákat kínálva a testi és lelki egészség javítására.
Kattintson a további információkért vagy a megrendeléshez
A növényi paradoxon: Az „egészséges” élelmiszerek rejtett veszélyei, amelyek betegségeket és súlygyarapodást okoznak
szerző: Steven R. Gundry
Ez a könyv az étrend, az egészség és a betegségek közötti összefüggéseket tárja fel, betekintést és stratégiákat kínálva az általános egészség és jólét javítására.
Kattintson a további információkért vagy a megrendeléshez
Az Immunity Code: A valódi egészség és a radikális öregedésgátlás új paradigmája
írta Joel Greene
Ez a könyv új perspektívát kínál az egészségről és az immunitásról, az epigenetika alapelveire támaszkodva, valamint betekintést és stratégiákat kínál az egészség és az öregedés optimalizálásához.
Kattintson a további információkért vagy a megrendeléshez
A böjt teljes útmutatója: Gyógyítsa meg testét időszakos, váltakozó napos és hosszabb böjtöléssel
Dr. Jason Fung és Jimmy Moore
Ez a könyv a böjt tudományát és gyakorlatát tárja fel, betekintést és stratégiákat kínálva az általános egészség és jólét javítására.
ami