Galima teigti, kad viena iš pagrindinių gydytojo pareigų yra nuolat vertinti ir iš naujo įvertinti tikimybes: Kokia yra medicininės procedūros sėkmės tikimybė? Ar pacientui gresia sunkių simptomų atsiradimas? Kada pacientas turėtų grįžti daugiau tyrimų?
Vykstant šiems kritiniams svarstymams, dirbtinio intelekto augimas žada sumažinti riziką klinikinėje aplinkoje ir padėti gydytojams teikti pirmenybę didelės rizikos pacientų priežiūrai.
Nepaisant jo potencialo, mokslininkai iš MIT Elektros inžinerijos ir kompiuterių mokslų katedros (EECS), „Equality AI“ ir Bostono universiteto ragina reguliavimo institucijas labiau prižiūrėti dirbtinį intelektą, paskelbtame komentare. Naujosios Anglijos medicinos žurnalas AI (NEJM AI) po to, kai JAV Sveikatos ir žmogiškųjų paslaugų departamento (HHS) pilietinių teisių biuras (OCR) paskelbė naują taisyklę pagal Įperkamos priežiūros įstatymą (ACA).
Gegužės mėn. OCR paskelbė galutinę ACA taisyklę, draudžiančią diskriminaciją dėl rasės, odos spalvos, tautinės kilmės, amžiaus, negalios ar lyties „paciento priežiūros sprendimų palaikymo priemonėse“ – naujai nustatytas terminas, apimantis ir AI. ir neautomatizuoti įrankiai, naudojami medicinoje.
Paskutinė taisyklė, sukurta atsižvelgiant į prezidento Joe Bideno vykdomąjį įsakymą dėl saugaus, saugaus ir patikimo dirbtinio intelekto plėtros ir naudojimo nuo 2023 m., grindžiama Biden-Harris administracijos įsipareigojimu skatinti teisingumą sveikatos srityje, daugiausia dėmesio skiriant diskriminacijos prevencijai.
Pasak vyresniojo autoriaus ir EECS docento Marzyeh Ghassemi, „taisyklė yra svarbus žingsnis į priekį“.
Ghassemi, kuris yra susijęs su MIT Abdul Latif Jameel mašininio mokymosi sveikatos klinika (Jameel Clinic), Kompiuterių mokslo ir dirbtinio intelekto laboratorija (CSAIL) ir Medicinos inžinerijos ir mokslo institutu (IMES), priduria, kad taisyklė ” turėtų diktuoti ne AI algoritmų ir klinikinių sprendimų palaikymo priemonių, jau naudojamų visose klinikinėse srityse, patobulinimus. subspecialybės“.
JAV Maisto ir vaistų administracijos patvirtintų, dirbtinį intelektą palaikančių įrenginių skaičius smarkiai išaugo per pastarąjį dešimtmetį nuo pirmojo AI palaikančio įrenginio patvirtinimo 1995 m. (PAPNET testavimo sistema, gimdos kaklelio patikros įrankis).
Nuo spalio mėn. FDA patvirtino beveik 1000 AI palaikančių įrenginių, iš kurių daugelis yra skirti priimti klinikinius sprendimus.
Tačiau mokslininkai pažymi, kad nėra jokios reguliavimo institucijos, prižiūrinčios klinikinės rizikos balus, gautus naudojant klinikinių sprendimų palaikymo priemones, nepaisant to, kad dauguma JAV gydytojų (65 %) naudoja šias priemones kas mėnesį, kad nustatytų tolesnius veiksmus. pacientų priežiūra.
Siekdama pašalinti šį trūkumą, 2025 m. kovo mėn. Jameel klinika surengs dar vieną reguliavimo konferenciją. Praėjusių metų konferencija sukėlė daugybę diskusijų ir diskusijų tarp dėstytojų, reguliuotojų iš viso pasaulio ir pramonės ekspertų, daugiausia dėmesio skiriant dirbtinio intelekto reguliavimui sveikatos srityje.
„Klinikinės rizikos balai yra mažiau neskaidrūs nei AI algoritmai, nes paprastai jie apima tik keletą kintamųjų, susietų su paprastu modeliu“, – komentuoja Isaacas Kohane’as, Harvardo medicinos mokyklos Biomedicininės informatikos katedros pirmininkas ir vyriausiasis redaktorius. NEJM AI.
„Nepaisant to, net ir šie balai yra tokie pat geri, kaip duomenų rinkiniai, naudojami jiems mokyti, ir kaip kintamieji, kuriuos ekspertai pasirinko pasirinkti arba tirti tam tikroje grupėje. Jei jie turi įtakos priimant klinikinius sprendimus, jie turėtų atitikti tuos pačius standartus. kaip jų naujesni ir daug sudėtingesni AI giminaičiai.
Be to, nors daugelis sprendimų priėmimo priemonių nenaudoja AI, mokslininkai pažymi, kad šios priemonės yra tokios pat kaltos dėl sveikatos priežiūros šališkumo išsaugojimo ir reikalauja priežiūros.
„Klinikinės rizikos balų reguliavimas kelia didelių iššūkių, nes daugėja klinikinių sprendimų palaikymo priemonių, įterptų į elektroninius medicininius įrašus, ir jų plataus naudojimo klinikinėje praktikoje“, – sako bendraautorė Maia Hightower, „Equality AI“ generalinė direktorė. „Toks reguliavimas tebėra būtinas siekiant užtikrinti skaidrumą ir nediskriminavimą“.
Tačiau Hightower priduria, kad vadovaujant naujai administracijai, klinikinės rizikos balų reguliavimas gali pasirodyti „ypač sudėtingas, atsižvelgiant į tai, kad jame pabrėžiamas reguliavimo panaikinimas ir opozicija Įperkamos priežiūros įstatymui bei tam tikrai nediskriminavimo politikai“.