Bocsánatot kaphat arra, hogy azt gondolja, hogy az AI hamarosan helyettesíti az emberi orvosokat, olyan címsorok alapján, mint például: „Az AI orvos találkozni fog”, „Lehetséges, hogy a jövőbeni orvos nem lesz ember” és „Ez az AI csak verte az emberi orvosokat klinikai vizsgára "" A szakértők szerint azonban a valóság inkább együttműködés, mint kiesés: a betegek életét hamarosan részben az emberi klinikákkal dolgozó AI szolgálatok kezébe tudják találni.
Az orvosi közösségben nincs hiány az optimizmusról. De sokan figyelmeztetnek arra is, hogy az AI körüli hype-et még valós klinikai körülmények között sem kell megvalósítani. Különböző elképzelések vannak arról is, hogy az AI szolgáltatások hogyan tudják a legnagyobb hatást gyakorolni. És még mindig nem tisztázott, hogy az AI javítja-e a betegek életét, vagy csak a Szilícium-völgy társaságai, egészségügyi szervezetei és biztosítói számára rejlik.
"Úgy gondolom, hogy minden betegünknek valóban azt akarja, hogy az AI technológiák beépüljenek az egészségügyi rendszer hiányosságaiba, de ezt nem a Szilícium-völgy hype módszerével kell megtennünk" - mondja Isaac Kohane, a biomedicinális informatikai kutató a Harvardi Orvosiskola.
Ha az AI az ígérteknek megfelelően működik, demokratizálhatja az egészségügyi ellátást az alulszolgáltatott közösségek hozzáférésének javításával és a költségek csökkentésével - egy áldás az Egyesült Államokban, amely sok egészségügyi intézkedéssel szemben rosszul helyezkedik el, annak ellenére, hogy az egyéni átlagos éves egészségügyi költségek 10 739 dollár. Az AI rendszerek felszabadíthatják a túlmunkált orvosokat és csökkenthetik az orvosi hibák kockázatát, amelyek évente több tízezer, ha nem is több százezer amerikai állampolgárt ölhetnek meg. És sok országban, ahol nemzeti orvoshiány van, például Kínában, ahol a túlzsúfolt városi kórházak járóbeteg-osztályai napi akár 10 000 embert is láthatnak, az ilyen technológiáknak nem kell tökéletes pontosságúak, hogy hasznosnak bizonyuljanak.
De a kritikusok rámutatnak, hogy mindez az ígéret eltűnik, ha az AI bevezetésének rohanása megrontja a betegek magánéletének jogait, figyelmen kívül hagyja az elfogultságokat és korlátozásokat, vagy nem vezet be szolgáltatásokat oly módon, hogy javítsa a legtöbb ember egészségét.
„Ugyanúgy, ahogy a technológiák kiküszöbölhetik az egyenlőtlenségeket, súlyosbíthatják az egyenlőtlenségeket is” - mondja Jayanth Komarneni, a Human Diagnosis Project (Human Dx) alapítója és elnöke, egy olyan közhasznú társaság, amelynek középpontjában az orvosi szakértelem tömegbeszerzése áll. "És semmi sem képes arra, hogy súlyosbítsa az egyenlőtlenségeket, mint például az AI"
***
Manapság a legnépszerűbb AI technikák a gépi tanulás és fiatalabb unokatestvére, mélytanulás. A számítógépes programoktól eltérően, amelyek szigorúan követik az emberek által írt szabályokat, mind a gépi tanulás, mind a mélyreható tanulási algoritmusok megnézhetik az adatkészletet, tanulhatnak belőle és új előrejelzéseket tehetnek. Különösen a mély tanulás lenyűgöző előrejelzéseket tehet azáltal, hogy felfedezi az adatmintákat, amelyekről az emberek hiányozhatnak.
De az egészségügyi ellátásban a legtöbb ilyen előrejelzés kihasználása érdekében az AI nem képes egyedül megtenni. Inkább az embereknek továbbra is hozzá kell járulniuk olyan döntések meghozatalához, amelyek súlyos egészségügyi és pénzügyi következményekkel járhatnak. Mivel az AI rendszerekben hiányzik az emberek általános intelligenciája, zavaró előrejelzéseket tehetnek, amelyek károsnak bizonyulhatnak, ha az orvosok és a kórházak vitathatatlanul követik őket.
A klasszikus példa Rich Caruana-tól, a Microsoft Research egyik vezető kutatójától származik, amint azt a Engineering and Technology magazin elmagyarázta tavaly. Az 1990-es években Caruana egy olyan projekten dolgozott, amely megkísérelte a gépi tanulás egy korábbi formájának alkalmazását annak előrejelzésére, hogy a tüdőgyulladásos beteg alacsony vagy magas kockázatú-e. Probléma merült fel azonban akkor, amikor a gépi tanulási modell megpróbálta előre jelezni az asztmás betegek esetét, akiknek nagy a kockázata, mivel már létező légzési nehézségeik miatt érzékenyek a tüdőgyulladásra. A modell ezeket a betegeket alacsony kockázatúnak ítélte oda, és kórházi ápolás helyett inkább kisebb beavatkozást igényelt - amit valamely emberi szakértő soha nem tett volna.
Ha vakon követi a modellt - mondja Kenneth Jung, a Stanfordi Biomedicinális Informatikai Kutatási Központ kutatója -, akkor házigazdád van. Mivel a modell azt mondja: "Ó, bejutott egy asztmás gyerek, és tüdőgyulladásuk volt, de nem kell aggódnunk miattuk, és néhány antibiotikummal küldjük őket haza."
A mélyreható tanulás előrejelzései akkor is kudarcot valhatnak, ha először találnak szokatlan adatpontokkal, például egyedi orvosi esetekkel, vagy ha sajátos mintákat tanulnak bizonyos adatkészletekben, amelyek nem általánosítják az új orvosi eseteket.
Az AI előrejelzései akkor a legjobbak, ha hatalmas adatkészletekre alkalmazzák, például Kínában, amely a nagy populációkhoz és a beteg adatokhoz való hozzáférésnek köszönhetően előnye az AI rendszerek képzésének. Februárban a Nature Medicine folyóirat közzétette egy kutatót, amely San Diegóban és a kínai Guangzhou-ban székhellyel rendelkezik, és amely több, mint 567 000 gyermek elektronikus egészségügyi nyilvántartása alapján ígéretet mutatott sok általános gyermekkori betegség diagnosztizálására.
De még a nagy adatkészletek is problémákat okozhatnak, különösen akkor, ha a kutatók megpróbálják alkalmazni algoritmusukat egy új populációra. A Nature Medicine tanulmányban mind a félmillió beteg egy guangói orvosi központból érkezett, ami azt jelenti, hogy nincs garancia arra, hogy az ezen adatállományon történő képzésből tanulmányozott diagnosztikai tanulságok máshol gyermekeket érintő esetekre vonatkozzanak. Minden egészségügyi központ vonzhatja saját egyedi betegkészletét - például a kardiovaszkuláris központjairól ismert kórház vonzóbb szívbetegségeket vonhat maga után. És egy olyan Guangzhou kórház eredményei, amelyek leginkább vonzzák az etnikai kínai betegeket, előfordulhat, hogy Sanghajban nem fordulnak elő olyanok, amelyekben nagyobb a külföldön született, nem kínai betegek száma.
Ebben a 2017-es TEDx-beszélgetésben Shinjini Kundu, a Johns Hopkins Kórház elmagyarázza, hogy az AI-eszközök hogyan tudnak többet orvosi felvételekből nyerni, mint az orvosok önmagukban - ideértve a betegségek előrejelzését, még mielőtt a betegek tüneteket mutatnának.
Ez az extrapoláció más helyzetekben is nehéznek bizonyul. Például, mondja Marzyeh Ghassemi, a torontói egyetemi számítógépes tudós és orvosorvos, azt mondja, hogy 40 000 ICU-beteg van a Beth Israel Deaconess Medical Centerben - ez csak egy kórház egy városban. „És így van mindezen papírok, amelyek előrejelzéseket készítettek ezekkel az adatokkal. Egy másik bostoni kórházzal működik? Talán. Működik-e egy másik állam kórházában? Más országban működne? Nem tudjuk.
***
Noha az AI modellek nem minden esetben működnek, Ghassemi szerint a technológiát még érdemes feltárni. "Nagyon támogatom, hogy ezeket a modelleket a padról az ágyra szállítsák" - mondja a nő -, de igazán agresszív elővigyázatossági lépésekkel. "
Ezeknek a lépéseknek fenn kell tartaniuk az AI fejlesztését és telepítését - mondja I. Glenn Cohen, a Harvard Egyetem jogi professzora, a precíziós orvoslás, a mesterséges intelligencia és a törvény vezetője. Ez magában foglalhatja az AI-előrejelzések pontosságának és átláthatóságának ellenőrzését. Az adatgyűjtés során a kutatóknak meg kell védeniük a betegek magánéletét, és engedélyt kell kérniük a betegek adatainak felhasználására az AI kiképzéséhez
A jóváhagyási kérdés akkor is felmerül, amikor az AI modell készen áll a valódi betegekkel végzett kísérleti klinikai vizsgálatokra. „Meg kell mondani a betegeknek, hogy rájuk használja az algoritmust, és nem számít, hogy az AI teljesen irányítja-e a gondozást, vagy részben az ellátást?” - kérdezi Cohen. "Ezekre a kérdésekre nagyon kevés gondolkodásmód van."
Ghassemi egyúttal az AI algoritmusok gyakori ellenőrzésének mellett szól, hogy biztosítsák az igazságosságot és a pontosságot az emberek különböző csoportjai között etnikai hovatartozás, nem, életkor és egészségbiztosítás alapján. Ez azért fontos, tekintettel arra, hogy a más területeken található AI alkalmazások már megmutatták, hogy könnyen el tudják fogadni az eltéréseket.
Mindezen lépések után az AI szolgáltatásokat nyújtó embereknek és cégeknek el kell kerülniük a jogi felelősséget az elkerülhetetlen hibák esetén. És a legtöbb orvostechnikai eszközzel ellentétben, amelyek általában csak egy szabályozói jóváhagyást igényelnek, az AI szolgáltatások további felülvizsgálatot igényelhetnek, amikor új adatokból tanulnak.
Egyes szabályozó ügynökségek újragondolják, hogyan lehet értékelni az egészségügyi ellátást. Áprilisban az Egyesült Államok Élelmezési és Gyógyszerügyi Igazgatósága (FDA) vitaanyagot adott ki, hogy nyilvános visszajelzéseket kapjon a vonatkozó szabályozási felülvizsgálat frissítéséről. „Amit itt folyamatosan próbálunk elérni, visszatérünk ahhoz a célunkhoz, hogy hozzáférést biztosítsunk az embereknek a technológiákhoz, de azt is felismerjük, hogy jelenlegi módszereink nem igazán működnek jól” - mondta Bakul Patel, a digitális egészségügy igazgatója. FDA. "Ezért kell a termék teljes életciklusának holisztikus megközelítését vizsgálnunk."
A hozzáféréssel, a magánélettel és a szabályozással kapcsolatos kérdések mellett az sem világos, hogy ki az, aki a legjobban profitál az AI egészségügyi szolgáltatásokból. Az egészségügyi ellátásban már vannak különbségek: A Világbank és az Egészségügyi Világszervezet szerint a világ lakosságának felében nincs hozzáférés az alapvető egészségügyi szolgáltatásokhoz, és közel 100 millió embert szélsőséges szegénységben szenvednek az egészségügyi kiadások. Attól függően, hogy alkalmazzák, az AI javíthatja ezeket az egyenlőtlenségeket, vagy még rosszabbá teheti őket.
„Az AI vita nagy része az egészségügyi ellátás demokratizálásának kérdéséről szól, és azt szeretném látni, hogy ez történjen” - mondja Effy Vayena, a svájci Szövetségi Technológiai Intézet bioetikusa.
"Ha csak szeretetteljes szolgáltatást nyújt azoknak, akik egyébként is megengedhetik maguknak a jó egészségügyi ellátást, " tette hozzá. "Nem vagyok biztos abban, hogy ez az átalakulás, amelyet keresünk."
Hogy mindez hogyan működik, az AI megvalósításának különféle látásaitól függ. A korai fejlesztés nagyon szűk diagnosztikai alkalmazásokra összpontosított, például a bőrrákra vagy a körömgombara utaló képek ellenőrzéséhez vagy a mellkasi röntgenfelvételek olvasásához. A legújabb erőfeszítések azonban megpróbálták egyszerre több egészségi állapotot diagnosztizálni.
2018 augusztusában a Moorfields Eye Hospital az Egyesült Királyságban és a DeepMind. A londoni székhelyű AI laboratórium, amely a Google anyavállalata, az Alphabet tulajdonában volt, azt mutatta, hogy sikeresen képzett AI-rendszert több mint 50 szembetegség azonosítására a szkennelések során, ami megegyezett a vezető szakértők teljesítményével. Hasonlóképpen széles ambíciók vezettek a San Diegóban és a Guangzhou-ban végzett tanulmányhoz, amely az AI-t kiképezte a gyermekek körében gyakori betegségek diagnosztizálására. Ez utóbbi nem volt olyan jó a gyermekkori betegségek diagnosztizálásában, mint az idősebb orvosok, de jobban teljesített, mint néhány fiatal orvos.
Az ilyen AI-rendszereknek nem feltétlenül kell felülmúlniuk a legjobb emberi szakértőket az egészségügyi ellátás demokratizálódásának elősegítéséhez, hanem egyszerűen bővíteniük kell a hozzáférést a jelenlegi orvosi szabványokhoz. Ennek ellenére eddig sok javasolt AI-alkalmazás a gondozás jelenlegi színvonalának javítására összpontosított, nem pedig a megfizethető egészségügyi ellátás körüli terjesztésére, mondja Cohen: „A már meglévő demokratizálása sokkal nagyobb botrányt jelent a pénzedre nézve, mint az, hogy javítsuk a már meglévőket. sok terület. ”
Az Accenture, egy tanácsadó cég azt jósolja, hogy a legfontosabb AI alkalmazások 2026-ra évente 150 milliárd dollárt takaríthatnak meg az Egyesült Államok gazdaságában. De nem világos, hogy az adófizetők dollárjaival kiegészített betegek és egészségügyi rendszerek profitálnának-e, vagy ha több pénz egyszerűen beáramlik a tech-cégekbe., egészségügyi szolgáltatók és biztosítók.
"Fontos kérdés az, hogy ki fogja vezetni ezt, és ki fogja fizetni érte" - mondja Kohane. "Valami kissé hallucinatív mindezen üzleti tervekkel kapcsolatban, hogy azt gondolják, hogy tudják, hogyan fog ez működni."
Még ha az AI szolgáltatások költségmegtakarítási javaslatokat is tesznek, az emberi orvosok és az egészségügyi szervezetek habozhatják az AI tanácsát, ha kevesebb pénzt eredményeznek, figyelmeztet Kohane. Ez az amerikai egészségbiztosítók nagyobb rendszerszintű kérdésére vonatkozik, egy olyan díjszabási modell alkalmazásával, amely gyakran jutalmazza az orvosokat és a kórházakat a tesztek és orvosi eljárások hozzáadásáért, még akkor is, ha nincs rá szükség.
***
Van egy másik AI lehetőség, amely javíthatja az ellátás minőségét, miközben a legtöbb orvosi diagnózist az orvosok kezébe hagyja. A mély orvoslásról szóló 2019. évi könyvében Eric Topol, a Scripps Research Translational Institute igazgatója és alapítója lényegében egy feltöltött orvosi Siri létrehozásáról szól - egy AI asszisztens, aki feljegyzéseket készít az orvosok és betegeik közötti interakciókról, és ezeket a jegyzeteket az elektronikus egészségügybe írja. nyilvántartások, és emlékezteti az orvosokat, hogy kérdezzenek a beteg kórtörténetének releváns részeiről.
"Arra törekszem, hogy kicsomagoljuk az orvosok munkáját és megszabaduljunk az adatkezelő szerepüktől, segítünk a betegeknek nagyobb felelősséget vállalni, és összegyűjtjük az adatokat, így a dolgok áttekintése nem tart sokáig" - mondta Topol.
Ez a „soha nem felejthető orvosi asszisztens vagy írástudó” - mondja Kohane - olyan AI-re lenne szükség, amely automatikusan képes nyomon követni és átírni az orvosok és a betegek közötti több hangot. Támogatja Topol elképzelését, de hozzáteszi, hogy a fejlesztés alatt álló legtöbb AI-alkalmazás nem tűnik az ilyen asszisztensekre összpontosítva. Ennek ellenére néhány vállalat, mint például a Saykara és a DeepScribe, fejlesztették ki ezeket a szolgáltatásokat, sőt a Google összeállt a Stanford Egyetemmel, hogy teszteljék egy hasonló „digitális írástudó” technológiát.
Az AI asszisztens kevésbé izgalmasnak tűnik, mint egy AI orvos, de ez felszabadíthatja az orvosokat, hogy több időt töltsenek el a betegeikkel, és javítsák az ellátás általános minőségét. Különösen a családorvosok munkanapjaik több mint felét gyakran tölti az adatokba az elektronikus egészségügyi nyilvántartásba - ez a fizikai és érzelmi kiégés fő tényezője, amelynek súlyos következményei vannak, ideértve a betegek halálát is.
Ironikus módon az elektronikus egészségügyi nyilvántartásoknak javítaniuk kellett az orvosi ellátást és csökkenteniük kellett a költségeket azáltal, hogy hozzáférhetőbbé tették a betegekkel kapcsolatos információkat. Most Topol és sok más szakértő rámutatott az elektronikus egészségügyi nyilvántartásokra, mint óvintézkedésre az AI jelenlegi hype-je körül az orvostudományban és az egészségügyben.
Az elektronikus egészségügyi nyilvántartások bevezetése révén már kialakult egy patchwork rendszer, amely több száz magánforgalmazó között terjedt el, amely elsősorban a betegek adatainak elkülönítésére és az orvosok és a betegek számára egyaránt elérhetetlenné teszi az adatokat. Ha a történelem bármilyen útmutatást tartalmaz, sok technológiai vállalat és egészségügyi szervezet úgy fogja érezni a vonzódást, hogy hasonló utat kövessen, ha saját adatgyűjtő rendszeréhez orvosi adatokat gyűjt.
Ennek egyik módja lehet egy kollektív intelligencia rendszer használata, amely összesíti és rangsorolja a különféle forrásokból származó orvosi szakértelmet - mondja Komarneni, aki ezt a megközelítést próbálja meg a Human Dx-rel. A nagy orvosi szervezetek, például az Amerikai Orvostudományi Szövetség támogatásával a Human Dx online platformot épített fel, hogy az orvosok ezreitől különféle orvosi esetekkel foglalkozzon. Komarneni reméli, hogy egy ilyen platform elvileg magában foglalhatja számos különféle AI-szolgáltatás diagnosztikai tanácsát is.
"Ugyanúgy, ahogyan a jövőben több emberi szakember megnézheti az Ön esetét, nincs oka annak, hogy a többszörös AI nem teheti meg" - mondja Komarneni.
Amint az orvosok várják az AI-segítőket, az olyan tömegforrás-fejlesztési projektek, mint a Human Dx, „határozottan jobb diagnosztikához vagy akár jobb terápiás ajánlásokhoz vezethetnek” - mondja Topol, aki a Medscape Consult nevű, hasonló platformon 2018-ban végzett kutatás társszerzője. A tanulmány arra a következtetésre jutott, hogy a kollektív emberi intelligencia „verseny- vagy kiegészítő stratégia” lehet az AI gyógyászatban.
De ha az AI-szolgáltatások átvizsgálják az összes tesztet és a valós ellenőrzéseket, jelentős partnerré válhatnak az emberek számára a modern egészségügyi ellátás átalakításában.
"Vannak olyan dolgok, amelyekben a gépek soha nem fognak jól működni, és másokban, ahol meghaladják azt, amit bármely ember meg tud tenni" - mondja Topol. "Tehát, ha összeilleszted a kettőt, ez egy nagyon erős csomag."
***
Jeremy Hsu egy szabadúszó újságíró, New York City-ben székhellyel. Gyakran ír a tudományról és a technológiáról a Backchannel, az IEEE Spectrum, a Popular Science és a Scientific American számára, többek között a publikációk között.
Ezt a cikket eredetileg az Undark kiadta. Olvassa el az eredeti cikket.
