{"id":45412,"date":"2024-11-22T09:30:09","date_gmt":"2024-11-22T08:30:09","guid":{"rendered":"https:\/\/ellipse.prbb.org\/?p=45412"},"modified":"2025-01-10T09:46:24","modified_gmt":"2025-01-10T08:46:24","slug":"explorando-la-etica-y-el-impacto-de-la-ia-en-la-investigacion","status":"publish","type":"post","link":"https:\/\/ellipse.prbb.org\/es\/explorando-la-etica-y-el-impacto-de-la-ia-en-la-investigacion\/","title":{"rendered":"Explorando la \u00e9tica y el impacto de la IA en la investigaci\u00f3n"},"content":{"rendered":"\n

A finales de octubre, tuvieron lugar dos eventos importantes<\/strong> en el Parque de Investigaci\u00f3n Biom\u00e9dica de Barcelona (PRBB)<\/a>, centrados en la intersecci\u00f3n entre la inteligencia artificial (IA), la \u00e9tica y las buenas pr\u00e1cticas<\/strong>. Estos eventos reunieron a destacados expertos, responsables de pol\u00edticas y personal investigador para examinar cr\u00edticamente c\u00f3mo la IA est\u00e1 moldeando el futuro de la investigaci\u00f3n cient\u00edfica<\/strong> y qu\u00e9 pautas \u00e9ticas deber\u00edan guiar su uso.<\/p>\n\n\n\n

Los dos eventos, cada uno con su propio enfoque, ten\u00edan como objetivo abordar los desaf\u00edos \u00e9ticos de la IA en la investigaci\u00f3n, proporcionar informaci\u00f3n sobre las normativas actuales de la UE y reflexionar sobre un enfoque responsable para la integraci\u00f3n de herramientas de IA en el trabajo cient\u00edfico.<\/p>\n\n\n\n

Adem\u00e1s, el primer episodio de la nueva serie de p\u00f3dcast<\/strong> del PRBB<\/a>, \u201cScience with a view\u201d, tambi\u00e9n se centr\u00f3 en la IA en la investigaci\u00f3n<\/strong> y en el uso que la comunidad hace de estas herramientas (puedes escucharlo aqu\u00ed<\/a>).<\/p>\n\n\n\n

<\/div>\n\n\n\n

\u00abInteligencia Artificial y \u00e9tica, la gran ola\u00bb  <\/strong><\/h2>\n\n\n\n

El primero de estos eventos<\/a>, celebrado el 30 de octubre, fue la reuni\u00f3n anual de ERION-EARMA<\/strong><\/a>, co-organizada con el Instituto de Salud Global de Barcelona (ISGlobal)<\/strong><\/a> y el grupo de Buenas Pr\u00e1cticas Cient\u00edficas del PRBB<\/strong><\/a>. El enfoque principal fue en los aspectos \u00e9ticos y regulatorios de la IA en la investigaci\u00f3n<\/a>. Con un \u00e9nfasis en el contexto regulador de Europa, el evento reuni\u00f3 a un destacado grupo de ponentes de todo el continente para discutir el equilibrio entre fomentar los avances en IA y proteger los derechos humanos y los valores sociales.<\/p>\n\n\n\n

La sesi\u00f3n matutina estuvo abierta a todos y se centr\u00f3 en el desarrollo de herramientas de IA. La sesi\u00f3n comenz\u00f3 con Dorian Karatzas<\/strong>, ex director del Sector de \u00c9tica e Integridad en la Investigaci\u00f3n en la Direcci\u00f3n General de Investigaci\u00f3n e Innovaci\u00f3n de la Comisi\u00f3n Europea, quien reflexion\u00f3 sobre lo que pueden hacer los y las gestoras de investigaci\u00f3n para promover la \u00e9tica y la integridad en la investigaci\u00f3n de IA. A continuaci\u00f3n, el profesor Dirk Lanzerath<\/strong> de la Universidad de Bonn explor\u00f3 la gobernanza \u00e9tica de la investigaci\u00f3n en IA, bas\u00e1ndose en su experiencia en el proyecto iRECS<\/a>.<\/p>\n\n\n\n

<\/div>\n\n\n\n
\"\"
Dorian Karatzas<\/strong>, ex director del Sector de \u00c9tica e Integridad en la Investigaci\u00f3n en la Direcci\u00f3n General de Investigaci\u00f3n e Innovaci\u00f3n de la Comisi\u00f3n Europea.<\/figcaption><\/figure><\/div>\n\n\n\n
<\/div>\n\n\n\n

Mara de Sousa Freitas<\/strong> de la Universidade Cat\u00f3lica Portuguesa habl\u00f3 sobre el trabajo del grupo CoARA-ERIP (\u00c9tica e Integridad en la Investigaci\u00f3n en la Evaluaci\u00f3n Responsable de Investigaci\u00f3n<\/a> para Datos e Inteligencia Artificial).<\/p>\n\n\n\n

Juliana Chaves-Chaporro<\/strong>, de la UNESCO, abord\u00f3 los desaf\u00edos sociales de equilibrar los avances en IA con los derechos humanos, especialmente en relaci\u00f3n con grupos y regiones marginados. Present\u00f3 el primer est\u00e1ndar global sobre \u00e9tica en IA de la UNESCO: la \u2018Recomendaci\u00f3n sobre la \u00c9tica de la Inteligencia Artificial<\/a>\u2019, adoptada en 2021, que, entre otras cosas, propone una evaluaci\u00f3n del impacto \u00e9tico para los equipos de desarrollo de IA, con preguntas como: \u00bfQui\u00e9n es m\u00e1s probable que se vea afectado negativamente por este sistema de IA? \u00bfQu\u00e9 forma tendr\u00e1n estos impactos? \u00bfQu\u00e9 se puede hacer para prevenir estos da\u00f1os y se han asignado recursos para su prevenci\u00f3n?<\/em><\/p>\n\n\n\n

<\/div>\n\n\n\n
\"\"
Ponentes y participantes en el acto \u00abIA y \u00e9tica, la gran ola\u00bb organizado en el PRBB el 30 de octubre.<\/figcaption><\/figure>\n\n\n\n
<\/div>\n\n\n\n

Lisa H\u00e4berlein<\/strong>, de la Red Europea de Comit\u00e9s de \u00c9tica en la Investigaci\u00f3n (EUREC)<\/a>, abord\u00f3 los desaf\u00edos \u00e9ticos y regulatorios de la IA en la atenci\u00f3n m\u00e9dica digital en regiones en desarrollo<\/strong>, como \u00c1frica Subsahariana. Present\u00f3 el proyecto STRATEGIC, cuyo objetivo es desarrollar materiales de formaci\u00f3n adaptados para evaluaciones \u00e9ticas y regulatorias en este contexto, con especial atenci\u00f3n a la privacidad del paciente y la seguridad de los datos, el consentimiento informado – especialmente con lenguas diversas – y la mitigaci\u00f3n de prejuicios y sesgos para garantizar una prestaci\u00f3n sanitaria equitativa<\/a>.<\/p>\n\n\n\n

A continuaci\u00f3n, Kaisar Kushibar<\/strong> present\u00f3 las gu\u00edas FUTURE-AI<\/strong> para una inteligencia artificial confiable y aplicable en el \u00e1mbito sanitario<\/a>, generadas por una comunidad internacional con personas expertas en ciencia de datos, cl\u00ednica, \u00e9tica, ciencias sociales y legislaci\u00f3n. Mostr\u00f3 c\u00f3mo, a pesar de las promesas de la IA en la atenci\u00f3n sanitaria, la gran mayor\u00eda del personal m\u00e9dico no la utiliza debido a preocupaciones sobre la (falta de) robustez, equidad, seguridad y transparencia de las herramientas. Por lo tanto, estas gu\u00edas buscan orientar sobre c\u00f3mo deben dise\u00f1arse, desarrollarse y validarse las herramientas de IA m\u00e9dica para ser Justas, Universales, Rastreables, Usables, Robusta y Explicables (de aqu\u00ed las iniciales en ingl\u00e9s FUTURE). A trav\u00e9s del consenso, se definieron 30 buenas pr\u00e1cticas, abordando las dimensiones t\u00e9cnica, cl\u00ednica, socio\u00e9tica y legal de una IA confiable. Kushibar destac\u00f3 la importancia de involucrar a todas las partes interesadas<\/strong> para eliminar los prejuicios y ayudar a identificar las fuentes de sesgos y riesgos \u00e9ticos<\/a> en cada contexto y as\u00ed evitar sorpresas inesperadas.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Varios de los ponentes destacaron la necesidad de involucrar a todas las partes interesadas y de trabajar en colaboraci\u00f3n con personal investigador de diferentes disciplinas, con el fin de identificar las fuentes de sesgo y los riesgos \u00e9ticos en cada contexto.<\/p><\/blockquote>\n\n\n\n

<\/div>\n\n\n\n

Shereen Cox<\/strong>, del Centro de \u00c9tica M\u00e9dica de la Universidad de Oslo, Noruega, continu\u00f3 con el tema de la realidad extendida<\/strong>, ampliando a\u00fan m\u00e1s la conversaci\u00f3n sobre el impacto global de la IA y llevando los temas \u00e9ticos a otra dimensi\u00f3n \u2013 o a otra realidad.<\/p>\n\n\n\n

El tema del sesgo de g\u00e9nero y sexo en la Inteligencia Artificial para la salud<\/a> fue discutido por Atia Cort\u00e9s<\/strong>, del Centro de Supercomputaci\u00f3n de Barcelona (BSC) y miembra de la iniciativa Bioinfo4Women<\/a>. Destac\u00f3, por un lado, la importancia de comprender las diferencias de g\u00e9nero que son m\u00e9dicamente relevantes y, por otro, c\u00f3mo asegurar la correcta identificaci\u00f3n, evaluaci\u00f3n y mitigaci\u00f3n de los sesgos, desde el momento de la recopilaci\u00f3n de datos, para asegurar una IA confiable.<\/p>\n\n\n\n

Por \u00faltimo, Alexandra Lillo<\/strong>, del Observatorio de \u00c9tica de la Inteligencia Artificial de Catalu\u00f1a (OEIAC)<\/a>, ofreci\u00f3 una visi\u00f3n jur\u00eddica<\/strong> sobre el uso de la IA. Present\u00f3 su herramienta de autoevaluaci\u00f3n \u00abModelo PIO\u00bb<\/strong>,<\/a> una herramienta \u00fatil tanto para desarrolladores como para usuarios, dijo. Basado en 7 principios, y con m\u00e1s de 130 preguntas, el Modelo PIO se basa en la normativa aplicable y en recomendaciones \u00e9ticas y legales, y pretende ayudar a los usuarios a identificar si un sistema de IA cumple con los principios legales y \u00e9ticos y cu\u00e1l es su nivel de riesgo<\/strong> (probabilidad de da\u00f1o).<\/p>\n\n\n\n

<\/div>\n\n\n\n
\"\"<\/figure>\n\n\n\n
<\/div>\n\n\n\n

Con la parte de la ma\u00f1ana terminada, el evento continu\u00f3 con un almuerzo de networking y un taller por la tarde solo para miembros de ERION, donde las discusiones continuaron sobre c\u00f3mo la IA y la \u00e9tica pueden integrarse de manera significativa en la comunidad investigadora.<\/p>\n\n\n\n

<\/div>\n\n\n\n

IA en la redacci\u00f3n cient\u00edfica<\/strong><\/h2>\n\n\n\n

El segundo evento, que tuvo lugar al d\u00eda siguiente, fue un curso dise\u00f1ado para discutir de forma cr\u00edtica el papel de la IA en la redacci\u00f3n cient\u00edfica. Este taller<\/strong> estaba dirigido a ayudar a los investigadores e investigadoras a comprender las normas y pautas en torno al uso de herramientas de IA en la redacci\u00f3n de proyectos de investigaci\u00f3n, manuscritos, revisiones bibliogr\u00e1ficas o solicitudes de financiaci\u00f3n. Dirigido por Thiago Carvalho<\/strong> y David del \u00c1lamo Rodr\u00edguez<\/strong> de Fellowsherpa<\/a>, el curso explor\u00f3 el concepto de autor\u00eda, la responsabilidad que conlleva y por qu\u00e9, por tanto, una herramienta de IA generativa como ChatGPT no puede considerarse autora de un art\u00edculo.<\/p>\n\n\n\n

Los participantes debatieron las principales ventajas y usos de la tecnolog\u00eda generativa de IA en la investigaci\u00f3n – en escritura, traducci\u00f3n, generaci\u00f3n de im\u00e1genes o incluso revisi\u00f3n bibliogr\u00e1fica y ayuda en la lluvia de ideas. Luego, formularon sus propias mejores pr\u00e1cticas para el uso de IA – como nunca alimentar datos confidenciales a un algoritmo de IA<\/strong> o siempre verificar los resultados<\/strong> y referencias proporcionados – que se compararon con las pautas existentes de revistas y agencias de financiaci\u00f3n. El mensaje principal fue que la responsabilidad \u00faltima recae en el o la investigadora, cualquiera que sea la herramienta que utilice, por lo que se anim\u00f3 a los participantes a reflexionar cr\u00edticamente sobre los riesgos potenciales de una excesiva dependencia de la IA y la importancia de mantener la integridad acad\u00e9mica.<\/p>\n\n\n\n

<\/div>\n\n\n\n

\u201cLa IA es, al fin y al cabo, una herramienta. Por lo tanto, depende de los investigadores e investigadoras usarla responsablemente y evitar depender excesivamente de ella.\u201d<\/em><\/p><\/blockquote>\n\n\n\n

<\/div>\n\n\n\n

Caminando juntos hacia un uso responsable de la IA en la investigaci\u00f3n<\/strong><\/h2>\n\n\n\n

Ambos eventos subrayaron la creciente importancia de la IA en la investigaci\u00f3n cient\u00edfica y la necesidad de integrar directrices \u00e9ticas que aseguren que estas herramientas se usen de manera responsable.<\/p>\n\n\n\n

La IA tiene el potencial de impulsar avances significativos en la investigaci\u00f3n, pero tambi\u00e9n presenta dilemas \u00e9ticos, desde la imparcialidad y la equidad hasta preocupaciones de privacidad. <\/p>\n\n\n\n

En el PRBB, estamos comprometidos a fomentar un espacio donde estas conversaciones puedan tener lugar, involucrando a todas las partes interesadas<\/strong>, desde personal investigador hasta responsables de pol\u00edticas, para que podamos avanzar colectivamente con un enfoque equilibrado y responsable, asegurando que estas herramientas transformadoras beneficien a la sociedad de maneras que sean tanto efectivas como \u00e9ticas.<\/p>\n\n\n\n

<\/div>\n","protected":false},"excerpt":{"rendered":"

A finales de octubre se llevaron a cabo una conferencia y un taller sobre el uso \u00e9tico de la Inteligencia Artificial en el PRBB, reuniendo a diferentes partes interesadas del contexto europeo y m\u00e1s all\u00e1.<\/p>\n","protected":false},"author":6,"featured_media":45321,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[33],"tags":[435,823,861,296,228],"new-type":[39,44],"class_list":["post-45412","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-vida-cientifica-es","tag-buenas-practicas-cientificas","tag-etica","tag-ia-es","tag-isglobal-es","tag-prbb-es","new-type-a-fondo","new-type-noticias"],"acf":[],"_links":{"self":[{"href":"https:\/\/ellipse.prbb.org\/es\/wp-json\/wp\/v2\/posts\/45412","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ellipse.prbb.org\/es\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ellipse.prbb.org\/es\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ellipse.prbb.org\/es\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/ellipse.prbb.org\/es\/wp-json\/wp\/v2\/comments?post=45412"}],"version-history":[{"count":6,"href":"https:\/\/ellipse.prbb.org\/es\/wp-json\/wp\/v2\/posts\/45412\/revisions"}],"predecessor-version":[{"id":45446,"href":"https:\/\/ellipse.prbb.org\/es\/wp-json\/wp\/v2\/posts\/45412\/revisions\/45446"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ellipse.prbb.org\/es\/wp-json\/wp\/v2\/media\/45321"}],"wp:attachment":[{"href":"https:\/\/ellipse.prbb.org\/es\/wp-json\/wp\/v2\/media?parent=45412"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ellipse.prbb.org\/es\/wp-json\/wp\/v2\/categories?post=45412"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ellipse.prbb.org\/es\/wp-json\/wp\/v2\/tags?post=45412"},{"taxonomy":"new-type","embeddable":true,"href":"https:\/\/ellipse.prbb.org\/es\/wp-json\/wp\/v2\/new-type?post=45412"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}