Hogyan képes az AI forradalmasítani az egészségügyi ellátást?
Getty Images

A mesterséges intelligencia (AI) gyorsan fejlődik, és a klinikai ellátás fontos támogató eszközévé válik. A kutatások szerint az AI-algoritmusok pontosan képesek melanómák kimutatása és a előre jelezni a jövőbeli emlőrák kialakulását.

Mielőtt azonban a mesterséges intelligencia integrálható lenne a rutin klinikai használatba, foglalkoznunk kell az algoritmikus torzítás kihívásával. Az AI-algoritmusok olyan eredendő torzításokkal rendelkezhetnek, amelyek diszkriminációhoz és adatvédelmi problémákhoz vezethetnek. Az AI-rendszerek a szükséges felügyelet vagy emberi közreműködés nélkül is hozhatnak döntéseket.

 Az AI potenciálisan káros hatásaira egy példa származik egy nemzetközi projekt amelynek célja, hogy a mesterséges intelligenciát életek megmentésére használja áttörő orvosi kezelések kifejlesztésével. Egy kísérlet során a csapat megfordította a „jó” mesterséges intelligencia modelljét, hogy lehetőséget teremtsen egy új mesterséges intelligencia-modell „károsítására”.

Kevesebb, mint hat órányi kiképzés alatt a fordított AI algoritmus több tízezer potenciális vegyi harci anyagot generált, amelyek sokkal veszélyesebbek, mint a jelenlegi harci anyagok. Ez egy szélsőséges példa a kémiai vegyületekre vonatkozóan, de ébresztőként szolgál a mesterséges intelligencia ismert és elképzelhetetlen etikai következményeinek értékelésére.

AI a klinikai ellátásban

Az orvostudományban az emberek legprivátabb adataival és gyakran életüket megváltoztató döntésekkel foglalkozunk. A robusztus AI etikai keretrendszer elengedhetetlen.

A Ausztrál Epilepszia Projekt célja, hogy javítsa az emberek életét, és szélesebb körben elérhetővé tegye a klinikai ellátást. A fejlett agyi képalkotás, valamint több ezer epilepsziás ember genetikai és kognitív információi alapján azt tervezzük, hogy az AI-t használjuk válaszoljon a jelenleg megválaszolhatatlan kérdésekre.


belső feliratkozási grafika


Folytatódnak ennek a személynek a rohamai? Melyik gyógyszer a leghatékonyabb? Az agyműtét életképes kezelési lehetőség? Ezek olyan alapvető kérdések, amelyekre a modern orvostudomány küzd.

A projekt mesterséges intelligencia vezetőjeként a fő gondom az, hogy a mesterséges intelligencia gyorsan halad, és a szabályozói felügyelet minimális. Ezek miatt a problémák miatt nemrégiben létrehoztunk egy etikai keret az AI klinikai támogató eszközként való használatához. Ennek a keretrendszernek az a célja, hogy mesterséges intelligencia-technológiáink nyitottak, biztonságosak és megbízhatóak legyenek, miközben előmozdítja az inkluzivitást és a méltányosságot a klinikai ellátásban.

Hogyan alkalmazzuk tehát a mesterséges intelligencia etikáját az orvostudományban az elfogultság csökkentése és az algoritmusok feletti ellenőrzés megőrzése érdekében? A „szemetet be, szemetet ki” számítástechnikai elv érvényes az MI-re. Tegyük fel, hogy kis mintákból torzított adatokat gyűjtünk. AI-algoritmusaink valószínűleg elfogultak, és nem replikálhatók más klinikai környezetben.

A kortárs AI-modellekben nem nehéz példákat találni a torzításokra. A népszerű nagy nyelvi modellek (például a ChatGPT) és a látens diffúziós modellek (DALL-E és Stable Diffusion) megmutatják, hogyan kifejezett torzítások a nem, az etnikai hovatartozás és a társadalmi-gazdasági státusz tekintetében.

A kutatók azt találták, hogy az egyszerű felhasználói felszólítások olyan képeket generálnak, amelyek állandósítják az etnikai, nemi és osztály-sztereotípiákat. Például egy felszólítás az orvoshoz többnyire generál férfi orvosokról készült képek, ami nincs összhangban a valósággal, mivel az OECD-országok orvosainak körülbelül fele nő.

Az orvosi mesterséges intelligencia biztonságos megvalósítása

Az elfogultság és a diszkrimináció megelőzésének megoldása nem triviális. Az egészségügyi egyenlőség lehetővé tétele és az inkluzivitás elősegítése a klinikai vizsgálatokban valószínűsíthető elsődleges megoldások az orvosi mesterséges intelligencia elfogultságainak leküzdésére.

Az Egyesült Államok Élelmiszer- és Gyógyszerügyi Hivatala nemrégiben biztató javaslatot tett kötelezővé téve a sokszínűséget klinikai vizsgálatokban. Ez a javaslat elmozdulást jelent a kevésbé elfogult és közösségi alapú klinikai vizsgálatok felé.

A haladás másik akadálya a korlátozott kutatásfinanszírozás. Az AI algoritmusok általában jelentős mennyiségű adatot igényelnek, ami költséges lehet. Kulcsfontosságú olyan továbbfejlesztett finanszírozási mechanizmusok létrehozása, amelyek biztosítják a kutatók számára a szükséges erőforrásokat az AI-alkalmazásoknak megfelelő, klinikailag releváns adatok összegyűjtéséhez.

Azt is állítjuk, hogy mindig ismernünk kell az AI-algoritmusok belső működését, és meg kell értenünk, hogyan jutnak el következtetéseikhez és javaslataikhoz. Ezt a koncepciót gyakran „magyarázhatóságnak” nevezik az AI-ban. Ez azzal az elképzeléssel kapcsolatos, hogy az embereknek és a gépeknek együtt kell működniük az optimális eredmény érdekében.

A jóslatok modellekben történő megvalósítását inkább „kibővített”-nek tekintjük, semmint „mesterséges” intelligenciának – az algoritmusoknak a folyamat részét kell képezniük, és az orvosi szakmáknak meg kell őrizniük a döntéshozatalt.

A magyarázható algoritmusok használatának ösztönzése mellett támogatjuk az átlátható és nyitott tudományt. A tudósoknak közzé kell tenniük az AI-modellek részleteit és módszertanát az átláthatóság és a reprodukálhatóság javítása érdekében.

Mire van szükségünk Aotearoa Új-Zélandon, hogy biztosítsuk a mesterséges intelligencia biztonságos alkalmazását az orvosi ellátásban? Az AI etikai aggályait elsősorban a terület szakértői irányítják. Azonban célzott mesterséges intelligencia szabályozások, mint például az EU-alapú Mesterséges intelligencia törvény javaslatot tettek ezekre az etikai szempontokra.

Üdvözöljük az európai mesterségesintelligencia-törvényt, amely megvédi a „biztonságos mesterségesintelligencia” keretein belül dolgozókat. Az Egyesült Királyság kormánya a közelmúltban kiadta proaktív megközelítés a mesterséges intelligencia szabályozásához, amely az AI biztonságára vonatkozó egyéb kormányzati válaszok mintájaként szolgál.

Az Aotearoa-ban amellett érvelünk, hogy a mesterséges intelligencia biztonságával kapcsolatban inkább proaktív, mint reagáló álláspontot fogadjunk el. Etikai keretet hoz létre a mesterséges intelligencia klinikai ellátásban és más területeken történő használatához, értelmezhető, biztonságos és elfogulatlan MI-t eredményezve. Következésképpen erősödni fog az a bizalom, hogy ez a hatékony technológia a társadalom javára válik, miközben megóvja a károktól.A beszélgetés

A szerzőről

Mangor Pedersen, a pszichológia és idegtudomány docense, Auckland Műszaki Egyetem

Ezt a cikket újra kiadják A beszélgetés Creative Commons licenc alatt. Olvassa el a eredeti cikk.

Kapcsolódó könyvek:

A test tartja a pontszámot: Az agy és a test a traumák gyógyításában

írta Bessel van der Kolk

Ez a könyv a trauma, valamint a fizikai és mentális egészség összefüggéseit tárja fel, betekintést és stratégiákat kínálva a gyógyuláshoz és felépüléshez.

Kattintson a további információkért vagy a megrendeléshez

Lélegzet: Egy elveszett művészet új tudománya

írta: James Nestor

Ez a könyv a légzés tudományát és gyakorlatát tárja fel, betekintést és technikákat kínálva a testi és lelki egészség javítására.

Kattintson a további információkért vagy a megrendeléshez

A növényi paradoxon: Az „egészséges” élelmiszerek rejtett veszélyei, amelyek betegségeket és súlygyarapodást okoznak

szerző: Steven R. Gundry

Ez a könyv az étrend, az egészség és a betegségek közötti összefüggéseket tárja fel, betekintést és stratégiákat kínálva az általános egészség és jólét javítására.

Kattintson a további információkért vagy a megrendeléshez

Az Immunity Code: A valódi egészség és a radikális öregedésgátlás új paradigmája

írta Joel Greene

Ez a könyv új perspektívát kínál az egészségről és az immunitásról, az epigenetika alapelveire támaszkodva, valamint betekintést és stratégiákat kínál az egészség és az öregedés optimalizálásához.

Kattintson a további információkért vagy a megrendeléshez

A böjt teljes útmutatója: Gyógyítsa meg testét időszakos, váltakozó napos és hosszabb böjtöléssel

Dr. Jason Fung és Jimmy Moore

Ez a könyv a böjt tudományát és gyakorlatát tárja fel, betekintést és stratégiákat kínálva az általános egészség és jólét javítására.

Kattintson a további információkért vagy a megrendeléshez

ami