Naujoje apžvalgoje Jeilio tyrėjai pateikia nuodugnią analizę, kaip skirtinguose AI vystymosi etapuose esantys šališkumas gali lemti prastus klinikinius rezultatus ir padidinti sveikatos skirtumus. Autoriai teigia, kad jų rezultatai atspindi seną posakį kompiuterijos pasaulyje: „Šiukšlės į vidų, šiukšlės lauk“.
„Nukrypti, išjungti“, – sakė John Onofrey, Ph.D., Jeilio medicinos mokyklos (YSM) radiologijos ir biomedicininio vaizdavimo bei urologijos docentas ir vyresnysis tyrimo autorius. „Visiškai tinka ta pati idėja“.
Paskelbta lapkričio 7 d PLOS skaitmeninė sveikataStraipsnyje pateikiami tiek hipotetiniai, tiek realūs pavyzdžiai, iliustruojantys, kaip šališkumas daro įtaką sveikatos priežiūros rezultatams, ir pateikti sušvelninimo strategijas.
„Jau daugelį metų dirbdamas mašininio mokymosi / AI srityje, idėja, kad algoritmai yra šališki, nestebina“, – sakė Onofrey. „Tačiau išvardinti visus galimus būdus, kuriais šališkumas gali patekti į AI mokymosi procesą, yra neįtikėtina. Dėl to šališkumo mažinimas atrodo bauginanti užduotis.”
Tyrimo autoriai nustatė šališkumo šaltinius kiekviename medicininio AI kūrimo etape – mokymo duomenis, modelio kūrimą, publikavimą ir įgyvendinimą – ir kiekvienam iš jų pateikė iliustruojančius pavyzdžius bei šališkumo mažinimo strategijas.
Viename pavyzdyje ankstesni tyrimai parodė, kad rasės naudojimas kaip veiksnys įvertinant inkstų funkciją gali lemti ilgesnį laukimo laiką, kol juodaodžiai persodinami į transplantacijų sąrašus. Jeilio komanda atkreipė dėmesį į daugybę rekomendacijų, kad būsimi algoritmai naudotų tikslesnes priemones, tokias kaip socialiniai ir ekonominiai veiksniai ir pašto kodas.
„Svarbiausia bus labiau užfiksuoti ir panaudoti socialinius sveikatą lemiančius veiksnius medicininiuose AI modeliuose klinikinės rizikos prognozavimui“, – sakė YSM pirmo kurso medicinos studentas Jamesas L. Crossas ir pirmasis tyrimo autorius.
„Pašališkumas yra žmogaus problema“, – pridūrė radiologijos ir biomedicininio vaizdo gavimo docentas ir tyrimo bendraautorius Michaelas Choma, MD, Ph.D. „Kai kalbame apie „AI šališkumą“, turime atsiminti, kad kompiuteriai mokosi iš mūsų.