{"id":36777,"date":"2023-06-01T13:57:58","date_gmt":"2023-06-01T11:57:58","guid":{"rendered":"https:\/\/ellipse.prbb.org\/?p=36777"},"modified":"2023-06-01T13:58:17","modified_gmt":"2023-06-01T11:58:17","slug":"data-science-meet-up-sobre-els-biaixos-de-la-ia-en-biomedicina-i-salut","status":"publish","type":"post","link":"https:\/\/ellipse.prbb.org\/ca\/data-science-meet-up-sobre-els-biaixos-de-la-ia-en-biomedicina-i-salut\/","title":{"rendered":"Data Science Meet-up sobre els biaixos de la IA en biomedicina i salut"},"content":{"rendered":"\n

El primer Data Science Meet-Up<\/strong> de l’Institut de Salut Global de Barcelona (ISGlobal)<\/a>, centrat en els biaixos en intel\u00b7lig\u00e8ncia artificial<\/strong><\/a>, va tenir lloc el passat dimarts 23 de maig a la Sala Marie Curie, a la pla\u00e7a interior del Parc de Recerca Biom\u00e8dica de Barcelona (PRBB)<\/a>. Aquestes trobades s\u00f3n una s\u00e8rie de xerrades mensuals h\u00edbrides, presencials i en l\u00ednia, que tenen com a objectiu exposar diferents problemes de la ci\u00e8ncia de dades i discutir solucions. Les trobades, organitzades pel grup de Ci\u00e8ncia de Dades Biom\u00e8diques<\/a> liderat per Paula Petrone<\/strong> <\/a>a ISGlobal, estan obertes a tota la comunitat del PRBB i m\u00e9s enll\u00e0<\/strong>, i tamb\u00e9 es retransmeten en directe. A m\u00e9s van seguides d’un refrigeri i la oportunitat per establir contactes.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Les trobades mensuals de ci\u00e8ncia de dades estan obertes a tota la comunitat del PRBB i m\u00e9s enll\u00e0<\/em><\/p><\/blockquote>\n\n\n\n

<\/div>\n\n\n\n

En aquesta ocasi\u00f3, l’amfitri\u00f3 va ser Pablo I\u00e1\u00f1ez Picazo<\/strong>, recent estudiant de doctorat al grup. I el ponent convidat d’aquesta edici\u00f3 va ser Davide Cirillo<\/strong>, cap de la Machine Learning for Biomedical Research Unit<\/a> al departament de ci\u00e8ncies de la vida del Barcelona Supercomputing Center (BSC) – un centre de recerca que allotja un dels superordinadors m\u00e9s potents d’Europa, el MareNostrum.<\/p>\n\n\n\n

Cirillo va tornar a visitar el PRBB anys despr\u00e9s d’acabar el seu doctorat al Parc, al grup dirigit per Gian Gaetano Tartaglia, llavors al Centre de Regulaci\u00f3 Gen\u00f2mica (CRG)<\/a>. La seva investigaci\u00f3 actual se centra en l’aplicaci\u00f3 d’algorismes d’aprenentatge autom\u00e0tic i ci\u00e8ncia de xarxes per a la medicina de precisi\u00f3<\/strong>, amb un gran \u00e8mfasi en l’\u00e8tica de la intel\u00b7lig\u00e8ncia artificial<\/strong> (IA). Al seminari va parlar sobre les difer\u00e8ncies i els biaixos de sexe i g\u00e8nere en la IA per a la biomedicina i la salut.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Causes dels biaixos a la tecnologia<\/h2>\n\n\n\n

Abans de comprendre les causes dels biaixos, hem d’aclarir qu\u00e8 s\u00f3n. Un biaix es pot definir a grans trets com un error que crea un desavantatge per a algunes persones. Hi ha innumberables biaixos<\/strong> i, com va esmentar Davide, sempre n’hi haur\u00e0<\/strong>; fins i tot se’n crearan de nous a mesura que es cre\u00efn noves tecnologies.<\/p>\n\n\n\n

Els biaixos tecnol\u00f2gics poden estar relacionats amb procesos autom\u00e0tics i anal\u00edtics (i.e. el biaix estad\u00edstic<\/strong>). Per\u00f2 tamb\u00e9 hi ha biaixos deguts als \u00e9ssers humans que estan darrere de la tecnologia: biaixos cognitius<\/strong> a nivell individual i biaixos culturals<\/strong> a nivell social. Tots aquests biaixos poden tenir altres atributs, com ser expl\u00edcits o impl\u00edcits, cosa que els fa molt m\u00e9s dif\u00edcils de detectar. Per\u00f2, com apareixen aquests biaixos a la IA?<\/p>\n\n\n\n

Les dades<\/strong> s’utilitzen per entrenar models<\/strong>, que poden utilitzar-se per fer prediccions<\/strong> que tenen un impacte a la societat. Si les dades utilitzades estan esbiaixades, \u00e9s probable que aquest impacte tingui conseq\u00fc\u00e8ncies negatives per a algunes persones. Aix\u00ed, en la majoria de casos, el problema comen\u00e7a amb les dades. La recopilaci\u00f3 de dades<\/strong> \u00e9s, per tant, el primer aspecte en qu\u00e8 cal enfocar-se.<\/p>\n\n\n\n

<\/div>\n\n\n\n

\u201cLamentablement, vivim en un m\u00f3n on hi ha desigualtats i discriminaci\u00f3. Aix\u00ed que siguin quines siguin les dades que treiem d’aquest m\u00f3n, aquestes contindran rastres d’aquesta discriminaci\u00f3. I si es genera un model amb aquestes dades, el seu \u00fas perpetuar\u00e0 la discriminaci\u00f3\u201d <\/em>
Davide Cirillo <\/em><\/strong>(BSC)<\/em><\/p><\/blockquote>\n\n\n\n

<\/div>\n\n\n\n
\"\"
Leslie et al. BMJ, vol. 372, Mar. 2021, p. N304. DOI: 10.1136\/bmj.n304<\/a>.<\/figcaption><\/figure>\n\n\n\n
<\/div>\n\n\n\n
<\/div>\n\n\n\n

Qu\u00e8 es pot fer per evitar-ho?<\/h2>\n\n\n\n

Les dades utilitzades per al desenvolupament de l’IA en biomedicina poden procedir de diferents llocs. Per exemple, un dels principals repositoris d’Europa \u00e9s l’EGA (European Genome-Phenome Archive)<\/a><\/strong>.<\/p>\n\n\n\n

Per aix\u00f2 en Davide i un grup d’investigadors al ELIXIR Biohackathon Europe van analitzar les metadades d’EGA<\/a> per veure si les categories de g\u00e8nere\/sexe estaven ben reflectides en les dades recolectades. Tamb\u00e9 van examinar dbGaP<\/strong>, l’hom\u00f2loga nord-americana<\/strong> d’EGA. La comparaci\u00f3 de les bases de dades nord-americana i europea va mostrar que a la primera s’informava molt menys del sexe biol\u00f2gic de les mostres recollides. Concretament, al repositori dels EUA, gaireb\u00e9 la meitat dels estudis tenien mostres de sexe desconegut; mentre que al repositori europeu la meitat de les mostres tenien una identificaci\u00f3 clara de home\/dona. Una indicaci\u00f3 clara de la millora a nivell europeu va ser que, el 2018, EGA va fer obligatori indicar la categoria de sexe per totes les dades que s’hi registraven. <\/p>\n\n\n\n

<\/div>\n\n\n\n

\u201cEls recopiladors de dades i les bases de dades tenen un paper crucial a l’hora d’avaluar la classificaci\u00f3 de les dades per sexe\/g\u00e8nere per evitar problemes m\u00e9s endavant\u201d <\/em><\/p><\/blockquote>\n\n\n\n

<\/div>\n\n\n\n

A m\u00e9s de l’an\u00e0lisi de les metadades, en Davide i els seus col\u00b7legues van enquestar els participants del ELIXIR Biohackathon Europe, tots ells usuaris de repositoris de dades biom\u00e8diques<\/strong>, sobre els seus coneixements en mat\u00e8ria de diversitat en la biomedicina. Tot i que tots estaven d’acord que era important incloure la diversitat<\/strong>, la majoria (67%) va dir no saber on trobar les directrius per fer-ho<\/strong>.<\/p>\n\n\n\n

Aix\u00ed doncs, en Davide i els seus col\u00b7legues proposen ampliar els principis FAIR<\/strong> en l’administraci\u00f3 de dades (segons els quals les dades han de ser Localitzables, Accessibles, Interoperables <\/strong>i Reutilitzables<\/strong>) afegint una lletra m\u00e9s: una X que indicaria que les dades tamb\u00e9 han de ser imparcials<\/strong>.<\/p>\n\n\n\n

Per aconseguir aquestes dades FAIR-X<\/strong>, \u00e9s essencial tenir una definici\u00f3 clara de sexe i g\u00e8nere, <\/strong>i considerar el no binarisme; utilitzar els est\u00e0ndards; garantir la transpar\u00e8ncia per\u00f2 tamb\u00e9 la preservaci\u00f3 de la privacitat<\/a>; i fomentar l’educaci\u00f3, l’impacte social i la implicaci\u00f3 de les parts interessades.<\/p>\n\n\n\n

L’any passat, en Davide i els seus companys i companyes van participar en la creaci\u00f3 d’un document presentat al Parlament Europeu<\/strong><\/a> sobre possibles pol\u00edtiques davant del biaix tecnol\u00f2gic en les bases de dades en biomedicina<\/a>. El document proposava:<\/p>\n\n\n\n

  1. No cal crear normatives espec\u00edfiques sobre aquest tema: ja s’est\u00e0 debatent la llei sobre la IA<\/strong>, i el tema del biaix s’hi hauria d’incloure (en aquesta i en qualsevol altra normativa)<\/strong>
    <\/div><\/div><\/div><\/li>
  2. Enfocar-se en la recopilaci\u00f3 de dades<\/strong>, per exemple, promovent la certificaci\u00f3 de bases de dades per garantir que una font de dades determinada \u00e9s imparcial.<\/li>
  3. Ser transparent, especialment pel que fa a les persones de les quals procedeixen les dades.<\/li><\/ol>\n\n\n\n
    <\/div>\n\n\n\n

    M\u00e9s enll\u00e0 del sexe i el g\u00e8nere \u2013 una multiplicitat de biaixos<\/h2>\n\n\n\n

    Com s’esmentava al principi, hi ha molts tipus de biaixos m\u00e9s enll\u00e0 del sexe\/g\u00e8nere, i per aix\u00f2 necessitem una diversitat de dades<\/strong> quant a origen, edat, discapacitats<\/strong>,\u2026 totes aquestes, caracter\u00edstiques que solen tenir biaixos lligats a elles. \u201cHi ha cadenes de biaixos<\/strong>, estan interrelacionats. La interseccionalitat \u00e9s molt rellevant<\/strong>. M\u00e9s enll\u00e0 dels biaixos de sexe i el g\u00e8nere, potser els biaixos racials s\u00f3n els m\u00e9s cr\u00edtics, per\u00f2 tamb\u00e9 n’hi ha molts m\u00e9s\u201d, admet Davide.<\/p>\n\n\n\n

    <\/div>\n\n\n\n

    \u201cEls biaixos estan interrelacionats i niats. La interseccionalitat \u00e9s molt rellevant. M\u00e9s enll\u00e0 dels biaixos del sexe i el g\u00e8nere, potser els biaixos racials s\u00f3n els m\u00e9s cr\u00edtics, per\u00f2 tamb\u00e9 n’hi ha molts m\u00e9s<\/em>\u00ab<\/p><\/blockquote>\n\n\n\n

    <\/div>\n\n\n\n

    Les normes i taxonomies o models de metadades <\/strong>s\u00f3n molt importants en aquest context, per a que les dades es puguin descriure correctament i utilitzar de forma justa. Per\u00f2 fins i tot si aix\u00f2 es resolgu\u00e9s, continuarien existint altres reptes:<\/p>\n\n\n\n