Fer que la intel·ligència artificial sigui explicable, auditable i lliure de biaixos des del moment en què es dissenya. Aquest és l’objectiu d’IA-ÈTICA, un projecte d’R+D finançat pel Programa Missions del CDTI que compta amb la participació de Qualud, empresa de solucions digitals per al sector salut (aplicacions mòbils, webs, gestió interna, bases de dades, plataformes, dispositius connectats i digitalització de processos assistencials) amb seu fiscal a Terrassa i oficines a Sant Cugat del Vallès.
La iniciativa, liderada per Multiverse Computing, reuneix també la vallesana Ficosa, Maier i Segula Technologies, amb el suport del centre de recerca Vicomtech. El consorci treballarà en una metodologia per desenvolupar sistemes d’IA fiables des del seu disseny, amb mecanismes per protegir la privacitat, minimitzar els biaixos, facilitar-ne l’auditoria i garantir el compliment de la normativa europea, especialment l’AI Act i el Reglament general de protecció de dades (RGPD).
El projecte també estudiarà com aconseguir models més lleugers i eficients i com garantir la supervisió humana en les decisions sensibles. Cada empresa aplicarà aquesta metodologia al seu àmbit d’activitat: l’automoció, els materials, la gestió documental industrial i, en el cas de Qualud, la salut.
Aplicació en entorns clínics
Qualud serà responsable del cas d’ús sanitari, un àmbit en què la companyia considera especialment rellevant que els sistemes siguin comprensibles i fiables, ja que poden intervenir en processos que afecten directament els pacients.
Una de les línies de treball serà l’ús de dades clíniques anonimitzades, amb mesures per protegir la informació sensible i comprovar que els diferents grups de població estiguin adequadament representats. L’objectiu és reduir el risc que els models incorporin biaixos que puguin generar resultats discriminatoris.
La segona línia se centrarà en la comprensibilitat dels models per als professionals sanitaris. Qualud estudiarà el seu comportament en escenaris clínics reals, la seva robustesa i fins a quin punt les recomanacions que generen poden ser interpretades i validades pels professionals que les utilitzen.
Finalment, el projecte abordarà la supervisió humana mitjançant el disseny i la validació d’interfícies que permetin als professionals controlar el funcionament de la IA, conèixer els motius de les seves recomanacions i mantenir sempre la capacitat de prendre la decisió final.
Experiència en salut digital
El treball parteix de l’experiència de Qualud en el desenvolupament de productes digitals de salut amb hospitals públics i administracions del sistema sanitari català. La companyia també disposa de productes propis com Laia, orientat a la salut mental perinatal, i Kala, centrat en la salut de la dona i la menopausa.
Aquest coneixement s’aplicarà a qüestions com la interoperabilitat amb els sistemes hospitalaris, la protecció de dades sensibles, el disseny de les eines per a professionals i pacients i el compliment normatiu (MDR, AI Act, RGPD i l'Espai Europeu de Dades de Salut).
"L'objectiu és demostrar que es pot fer una IA en salut transparent, que compleixi la normativa de producte sanitari i en què els clínics puguin confiar de veritat", explica Irene González, directora d’operacions i cofundadora de Qualud. El projecte ha de permetre a la companyia reforçar la seva línia de treball en ètica de la IA aplicada a la salut i incorporar aquest coneixement als seus productes i als projectes que desenvolupa amb hospitals.
