Me zgjerimin e përdorimit të inteligjencës artificiale (IA) në kujdesin shëndetësor, ekspertët po ngrenë shqetësime mbi mënyrën se si këto mjete testohen. Algoritmet e IA përdoren në diagnostikim, sigurime shëndetësore dhe aplikacione mobile që ndihmojnë pacientët, por testet aktuale nuk reflektojnë realitetin e praktikës klinike.
Shumë nga vlerësimet e IA bazohen në testet e studentëve të mjekësisë, si MCAT, por një studim zbuloi se vetëm 5% e analizave përdorin të dhëna nga pacientë të vërtetë. Shumica e testimeve fokusohen në njohuritë teorike dhe nuk matin aftësinë e IA për të shkruar recetat, për të përmbledhur konsultat apo për të komunikuar me pacientët.
Në një artikull të publikuar në New England Journal of Medicine AI, studiuesja Deborah Raji argumenton se këto vlerësime janë të kufizuara dhe shpërqendrojnë nga çështjet reale. Testet aktuale nuk mund të matin kompleksitetin e rasteve klinike dhe nuk marrin parasysh informacionin nga infermierët apo profesionistët e tjerë të shëndetit.
Sipas Raji, duhet zhvilluar metoda të reja për të testuar modelet e IA në situata reale. Kjo përfshin mbledhjen e të dhënave nga spitalet, analizimin e përdorimit të IA në praktikat e përditshme dhe krijimin e grupeve të specializuara për të vlerësuar këto sisteme me pyetje sfiduese dhe raste të vërteta.
Ndër qasjet e sugjeruara është “red teaming”, një metodë ku një grup ekspertësh provokon IA me pyetje të vështira për të vlerësuar performancën e saj. Gjithashtu, mbledhja e të dhënave nga përdorimi i IA në spitale dhe publikimi i listës së mjeteve të përdorura mund të ndihmojë në rritjen e transparencës dhe përmirësimin e vlerësimeve.
Testet duhet të jenë më specifike për detyra të ndryshme, si përmbledhja e shënimeve të mjekëve apo dhënia e rekomandimeve të personalizuara. Aktualisht, shumë modele IA vlerësohen vetëm me teste me alternativa, të cilat nuk përfaqësojnë situatat e vërteta klinike.
Raji thekson se spitalet dhe kompanitë e IA duhet të jenë më transparente në mënyrën se si testojnë dhe përdorin këto sisteme. Shpërndarja e informacionit mbi praktikat e testimit do të ndihmonte në zhvillimin e standardeve më të sakta për vlerësimin e IA në mjekësi.
Në fund, ajo i bën thirrje komunitetit shkencor që të jetë më i kujdesshëm dhe të fokusohet në vlerësime që reflektojnë realitetin. Ndërsa testet e studentëve të mjekësisë janë të lehta për t’u përdorur, ato nuk pasqyrojnë aftësitë reale që IA duhet të ketë në sistemin shëndetësor.
Pikat kryesore:
- Vetëm 5% e testimeve të IA në mjekësi përdorin të dhëna nga pacientë të vërtetë, duke mos reflektuar realitetin klinik.
- Ekspertët kërkojnë krijimin e metodave më të sakta për të vlerësuar IA në situata të vërteta.
- Transparenca nga spitalet dhe kompanitë e IA është thelbësore për përmirësimin e standardeve të vlerësimit.
Hashtage: #AI #Mjekesi #Shendet #Teknologji #Inovacion #Shkence