{"id":36775,"date":"2023-06-01T13:57:58","date_gmt":"2023-06-01T11:57:58","guid":{"rendered":"https:\/\/ellipse.prbb.org\/?p=36775"},"modified":"2023-06-01T13:58:29","modified_gmt":"2023-06-01T11:58:29","slug":"encuentro-de-data-science-sobre-los-sesgos-de-la-ia-en-biomedicina-y-salud","status":"publish","type":"post","link":"https:\/\/ellipse.prbb.org\/es\/encuentro-de-data-science-sobre-los-sesgos-de-la-ia-en-biomedicina-y-salud\/","title":{"rendered":"Encuentro de Data Science sobre los sesgos de la IA en biomedicina y salud"},"content":{"rendered":"\n

El primer Data Science Meet-Up<\/strong> del Instituto de Salud Global de Barcelona (ISGlobal)<\/a>, centrado en los sesgos en inteligencia artificial<\/strong><\/a>, tuvo lugar el pasado martes 23 de mayo en la Sala Marie Curie, en la plaza interior del Parque de Investigaci\u00f3n Biom\u00e9dica de Barcelona (PRBB)<\/a>. Estos encuentros son una serie de charlas mensuales h\u00edbridas (presenciales y online), que tienen como objetivo exponer diferentes retos de la ciencia de datos y discutir soluciones. Los encuentros, organizados por el grupo de Ciencia de Datos Biom\u00e9dicos<\/a> liderado por Paula Petrone<\/strong><\/a> en ISGlobal, est\u00e1n abiertos a toda la comunidad del PRBB y m\u00e1s all\u00e1<\/strong>, y tambi\u00e9n se retransmiten en directo. Asimismo, van seguidos de un refrigerio y de la oportunidad para establecer contactos.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Los encuentros mensuales de ciencia de datos est\u00e1n abiertos a toda la comunidad del PRBB y m\u00e1s all\u00e1.<\/em><\/p><\/blockquote>\n\n\n\n

<\/div>\n\n\n\n

En esta ocasi\u00f3n, el anfitri\u00f3n fue Pablo I\u00e1\u00f1ez Picazo<\/strong>, reciente estudiante de doctorado en el grupo. Y el ponente invitado fue Davide Cirillo<\/strong>, jefe de la unidad de Machine Learning for Biomedical Research<\/a>, del departamento de ciencias de la vida del Barcelona Supercomputing Center (BSC) – un centro de investigaci\u00f3n que alberga uno de los superordenadores m\u00e1s potentes de Europa, el MareNostrum.<\/p>\n\n\n\n

Cirillo volvi\u00f3 a visitar el PRBB a\u00f1os despu\u00e9s de terminar su doctorado en el Parque, en el grupo dirigido por Gian Gaetano Tartaglia, entonces en el Centro de Regulaci\u00f3n Gen\u00f3mica (CRG)<\/a>. Su investigaci\u00f3n actual se centra en la aplicaci\u00f3n de algoritmos de aprendizaje autom\u00e1tico y ciencia de redes para la medicina de precisi\u00f3n<\/strong>, con un gran \u00e9nfasis en la \u00e9tica de la Inteligencia Artificial<\/strong> (IA). En el seminario habl\u00f3 sobre las diferencias y sesgos de sexo y g\u00e9nero en la IA en la biomedicina y la salud.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Causas de los sesgos en la tecnolog\u00eda<\/h2>\n\n\n\n

Antes de comprender las causas de los sesgos, debemos aclarar qu\u00e9 son. Un sesgo puede definirse a grandes rasgos como un error que crea una desventaja para algunas personas. Existen innumerables sesgos<\/strong> y, como mencion\u00f3 Davide, siempre los habr\u00e1<\/strong>; incluso se crear\u00e1n nuevos a medida que se creen nuevas tecnolog\u00edas.<\/p>\n\n\n\n

Los sesgos tecnol\u00f3gicos pueden estar relacionados con los procesos autom\u00e1ticos y anal\u00edticos (i.e. el sesgo estad\u00edstico<\/strong>). Pero tambi\u00e9n hay sesgos debidos a los seres humanos que est\u00e1n detr\u00e1s de la tecnolog\u00eda: sesgos cognitivos<\/strong> a nivel individual y sesgos culturales<\/strong> a nivel social. Todos estos sesgos tienen distintos atributos, como el hecho que pueden ser expl\u00edcitos o impl\u00edcitos, lo que los hace mucho m\u00e1s dif\u00edciles de detectar. Pero, \u00bfc\u00f3mo aparecen esos sesgos en la IA?<\/p>\n\n\n\n

Los datos<\/strong> se utilizan para entrenar modelos<\/strong>, que pueden ser utilizados para hacer predicciones<\/strong> que tienen un impacto en la sociedad. Si los datos utilizados est\u00e1n sesgados, es probable que este impacto tenga consecuencias negativas para algunas personas. Por tanto, el problema empieza, en la mayor\u00eda de los casos, con los datos. La recopilaci\u00f3n de datos<\/strong> es por eso el primer aspecto en el que hay que enfocarse. <\/p>\n\n\n\n

<\/div>\n\n\n\n

\u201cLamentablemente, vivimos en un mundo en el que hay desigualdades y discriminaci\u00f3n. As\u00ed que sean cuales sean los datos que saquemos de este mundo, estos contendr\u00e1n rastros de esta discriminaci\u00f3n. Y si se genera un modelo con estos datos, su uso perpetuar\u00e1 la discriminaci\u00f3n\u201d <\/em>
Davide Cirillo <\/em><\/strong>(BSC)<\/em><\/p><\/blockquote>\n\n\n\n

<\/div>\n\n\n\n
\"\"
Leslie et al. BMJ, vol. 372, Mar. 2021, p. N304. DOI: 10.1136\/bmj.n304<\/a>.<\/figcaption><\/figure>\n\n\n\n
<\/div>\n\n\n\n

Qu\u00e9 hacer para evitar o reducir los sesgos<\/strong><\/h2>\n\n\n\n

Los datos utilizados para el desarrollo del aprendizaje autom\u00e1tico en biomedicina pueden proceder de distintos lugares<\/a>,. Por ejemplo, en Europa, uno de los principales repositorios de datos humanos es el EGA (European Genome-Phenome Archive)<\/strong><\/a>.<\/p>\n\n\n\n

Por eso Davide y un equipo de investigadores del ELIXIR Biohackathon Europe analizaron los metadatos de EGA para ver<\/a> si las categor\u00edas de g\u00e9nero\/sexo estaban correctamente categorizadas. Tambi\u00e9n examinaron dbGaP<\/strong>, la hom\u00f3loga estadounidense<\/strong> de EGA. La comparaci\u00f3n de las bases de datos estadounidense y europea mostr\u00f3 que en la primera se informaba mucho menos del sexo biol\u00f3gico de las muestras. Concretamente, en EE.UU., casi la mitad de los estudios ten\u00edan muestras de sexo desconocido, mientras que en el repositorio europeo la mitad de los datos ten\u00edan el g\u00e9nero\/sexo correctamente registrado. Una indicaci\u00f3n clara de la mejora a nivel europeo fue que, en 2018, EGA hizo obligatorio indicar la categor\u00eda de sexo para todos los datos que se registraban.<\/p>\n\n\n\n

<\/div>\n\n\n\n

\u201cLas personas que recopilan datos y las bases de datos tienen un papel enorme en su clasificaci\u00f3n por sexo\/g\u00e9nero, para evitar problemas a posteriori\u201d <\/em><\/p><\/blockquote>\n\n\n\n

<\/div>\n\n\n\n

Adem\u00e1s del an\u00e1lisis de los metadatos, Davide y sus colegas encuestaron a los participantes del ELIXIR Biohackathon Europe, todos ellos usuarios de repositorios de datos biom\u00e9dicos<\/strong>, sobre sus conocimientos en materia de diversidad en biomedicina. Aunque todos estaban de acuerdo en que era importante incluir la diversidad<\/strong>, la mayor\u00eda (67%) dijo no saber d\u00f3nde encontrar las directrices<\/strong> para hacerlo.<\/p>\n\n\n\n

As\u00ed pues, Davide y colaboradores proponen ampliar el concepto de los principios FAIR <\/strong>en la administraci\u00f3n de datos (seg\u00fan los cuales los datos deben ser Localizables, Accesibles, Interoperables <\/strong>y Reutilizables<\/strong>) a\u00f1adiendo una letra m\u00e1s: una X que indicar\u00eda que los datos tambi\u00e9n deben ser imparciales<\/strong>.<\/p>\n\n\n\n

Para obtener estos datos FAIR-X<\/strong>, es esencial tener una definici\u00f3n clara de sexo y g\u00e9nero<\/strong> y considerar el no binarismo); utilizar est\u00e1ndares; asegurar la transparencia pero tambi\u00e9n preservaci\u00f3n<\/a> de la privacidad; y fomentar la educaci\u00f3n, el impacto social y la implicaci\u00f3n de las partes interesadas.<\/p>\n\n\n\n

El a\u00f1o pasado, Davide y sus compa\u00f1eros y compa\u00f1eras participaron en un documento presentado al Parlamento Europeo<\/strong><\/a> sobre posibles pol\u00edticas frente al sesgo tecnol\u00f3gico en biomedicina<\/a>. El documento propon\u00eda:<\/p>\n\n\n\n

  1. No crear m\u00e1s normativas al respecto: ya se est\u00e1 debatiendo la ley sobre IA<\/strong>, y el tema del sesgo deber\u00eda incluirse en ella<\/strong> (y en todas las dem\u00e1s).<\/li>
  2. Enfocarse en la recopilaci\u00f3n de datos<\/strong>, por ejemplo, promoviendo la certificaci\u00f3n de bases de datos para garantizar que una fuente de datos es imparcial.<\/li>
  3. Ser transparente, especialmente en lo que respecta a las personas de las quales proceden los datos. <\/li><\/ol>\n\n\n\n
    <\/div>\n\n\n\n

    M\u00e1s all\u00e1 del sexo y el g\u00e9nero\u2013 una multiplicidad de sesgos <\/strong><\/h2>\n\n\n\n

    Como se mencionaba al principio, hay muchos tipos de sesgos m\u00e1s all\u00e1 del sexo\/g\u00e9nero, y necesitamos una diversidad de datos<\/strong> en cuanto a origen, edad, discapacidades<\/strong>,… todas estas caracter\u00edsticas que suelen tener sesgos ligados a ellas. \u201cHay cadenas de sesgos<\/strong>, est\u00e1n interrelacionados. La interseccionalidad es muy relevante<\/strong>. M\u00e1s all\u00e1 del sesgo de sexo y g\u00e9nero, quiz\u00e1 el sesgo racial sea el m\u00e1s cr\u00edtico, pero hay muchos m\u00e1s\u201d, admite Davide.<\/p>\n\n\n\n

    <\/div>\n\n\n\n

    \u201cLos prejuicios est\u00e1n interrelacionados. La interseccionalidad es muy relevante. M\u00e1s all\u00e1 del sesgo de sexo y g\u00e9nero, quiz\u00e1 el sesgo racial sea el m\u00e1s cr\u00edtico, pero hay muchos m\u00e1s\u201d<\/em><\/p><\/blockquote>\n\n\n\n

    <\/div>\n\n\n\n

    Las normas y taxonom\u00edas<\/strong> o modelos de metadatos son muy importantes en este contexto, para que los datos se puedan describir correctamente y utilizar de forma justa. Pero incluso si eso se resolviera, seguir\u00edan existiendo otros retos:<\/p>\n\n\n\n