{"id":45414,"date":"2024-11-22T09:30:09","date_gmt":"2024-11-22T08:30:09","guid":{"rendered":"https:\/\/ellipse.prbb.org\/?p=45414"},"modified":"2025-01-10T09:46:07","modified_gmt":"2025-01-10T08:46:07","slug":"explorant-letica-i-limpacte-de-la-ia-en-la-recerca-al-prbb","status":"publish","type":"post","link":"https:\/\/ellipse.prbb.org\/ca\/explorant-letica-i-limpacte-de-la-ia-en-la-recerca-al-prbb\/","title":{"rendered":"Explorant l\u2019\u00e8tica i l\u2019impacte de la IA en la recerca al PRBB"},"content":{"rendered":"\n

A finals d\u2019octubre, dos esdeveniments significatius centrats en la intersecci\u00f3 entre la Intel\u00b7lig\u00e8ncia Artificial (IA), l\u2019\u00e8tica i les bones pr\u00e0ctiques<\/strong> van tenir lloc al Parc de Recerca Biom\u00e8dica de Barcelona (PRBB)<\/a>. Aquests esdeveniments van reunir destacats experts, responsables de pol\u00edtiques i personal investigador per examinar cr\u00edticament com la IA est\u00e0 donant forma al futur de la recerca cient\u00edfica<\/strong> i quines directrius \u00e8tiques haurien de guiar-ne l\u2019\u00fas.<\/p>\n\n\n\n

Ambd\u00f3s esdeveniments, cadascun amb el seu enfocament particular, tenien com a objectiu abordar els reptes \u00e8tics de la IA en la recerca, proporcionar informaci\u00f3 sobre les normatives actuals de la UE i reflexionar sobre un enfocament responsable per integrar eines de IA en el treball cient\u00edfic.<\/p>\n\n\n\n

A m\u00e9s, el primer episodi de la nova s\u00e8rie de podcasts<\/strong> del PRBB<\/a>, \u201cScience with a view\u201d, tamb\u00e9 es va centrar en la IA en la recerca<\/strong> i en l\u2019\u00fas que la comunitat fa d\u2019aquestes eines (pots escoltar-lo aqu\u00ed<\/a>).<\/p>\n\n\n\n

<\/div>\n\n\n\n

\u201cIntel\u00b7lig\u00e8ncia Artificial i \u00c8tica, la gran onada\u201d<\/strong><\/h2>\n\n\n\n

El primer d\u2019aquests esdeveniments<\/a>, celebrat el 30 d\u2019octubre, va ser la reuni\u00f3 anual ERION-EARMA<\/a><\/strong>, organitzada en col\u00b7laboraci\u00f3 amb l\u2019Institut de Salut Global de Barcelona (ISGlobal)<\/a> i el grup de Bones Pr\u00e0ctiques Cient\u00edfiques del PRBB<\/a><\/strong>. Aquest esdeveniment es va centrar en els aspectes \u00e8tics i normatius de la IA en la recerca<\/a>. Amb un fort \u00e8mfasi en el marc regulador d\u2019Europa, l\u2019esdeveniment va reunir una impressionant llista de ponents de tot el continent per debatre l\u2019equilibri entre fomentar els aven\u00e7os en IA i protegir els drets humans i els valors socials.<\/p>\n\n\n\n

La sessi\u00f3 del mat\u00ed va estar oberta a tothom i es va centrar en el desenvolupament d\u2019eines de IA. Va comen\u00e7ar amb Dorian Karatzas<\/strong>, ex-director del Sector d\u2019\u00c8tica i Integritat en la Recerca de la Direcci\u00f3 General d’Investigaci\u00f3 i Innovaci\u00f3 de la Comissi\u00f3 Europea, que va oferir idees valuoses sobre el que els gestors i gestores de recerca poden fer per promoure l\u2019\u00e8tica i la integritat en la recerca de IA. A continuaci\u00f3, el professor Dirk Lanzerath<\/strong> de la Universitat de Bonn va explorar la governan\u00e7a \u00e8tica de la recerca en IA, basant-se en la seva experi\u00e8ncia en el projecte iRECS<\/a>.<\/p>\n\n\n\n

<\/div>\n\n\n\n
\"\"
Dorian Karatzas<\/strong>, ex-director del Sector d\u2019\u00c8tica i Integritat en la Recerca de la Direcci\u00f3 General d’Investigaci\u00f3 i Innovaci\u00f3 de la Comissi\u00f3 Europea.<\/figcaption><\/figure><\/div>\n\n\n\n
<\/div>\n\n\n\n

La ponent Mara de Sousa Freitas<\/strong>, de la Universidade Cat\u00f3lica Portuguesa, va parlar sobre la feina del grup CoARA-ERIP (\u00c8tica i Integritat en la Recerca en la Avaluaci\u00f3 Responsable de la Recerca<\/a> per a Dades i Intel\u00b7lig\u00e8ncia Artificial).<\/p>\n\n\n\n

Juliana Chaves-Chaporro<\/strong>, de la UNESCO<\/strong>, va abordar els reptes socials d\u2019equilibrar els aven\u00e7os en IA amb els drets humans<\/strong>, especialment en relaci\u00f3 amb els grups i regions marginades. Chaves-Chaporro va presentar el primer est\u00e0ndard global de la UNESCO sobre \u00e8tica en IA: la \u201cRecomanaci\u00f3 sobre l\u2019\u00c8tica de la Intel\u00b7lig\u00e8ncia Artificial<\/a>\u201d, adoptada el 2021, que, entre altres coses, proposa una avaluaci\u00f3 de l\u2019impacte \u00e8tic per als equips de desenvolupament de IA, plantejant preguntes com Qui t\u00e9 m\u00e9s probabilitats de veure\u2019s afectat negativament per aquest sistema de IA? En quina forma es presentaran aquests impactes? Qu\u00e8 es pot fer per prevenir aquests danys, i s\u2019han assignat recursos per a la prevenci\u00f3 d\u2019aquests danys?<\/em><\/p>\n\n\n\n

<\/div>\n\n\n\n
\"\"
Ponents i participants en l’acte \u00abIA i \u00e8tica, la gran onada\u00bb organitzat al PRBB el 30 d’octubre. <\/figcaption><\/figure>\n\n\n\n
<\/div>\n\n\n\n

Despr\u00e9s d\u2019una pausa per al caf\u00e8, Lisa H\u00e4berlein<\/strong>, de la Xarxa Europea de Comit\u00e8s d\u2019\u00c8tica en Recerca (EUREC)<\/a>, va abordar els reptes \u00e8tics i normatius que planteja la IA en l\u2019atenci\u00f3 sanit\u00e0ria digital en regions en desenvolupament<\/strong> com l\u2019\u00c0frica Subsahariana. Va presentar el projecte STRATEGIC, que t\u00e9 com a objectiu desenvolupar materials de formaci\u00f3 adaptats per a avaluacions \u00e8tiques i normatives en aquell context, amb un enfocament en la privacitat del pacient i la seguretat de les dades, el consentiment informat – especialment en diversos idiomes – i la mitigaci\u00f3 de biaixos per assegurar una atenci\u00f3 sanit\u00e0ria equitativa<\/a>.<\/p>\n\n\n\n

A continuaci\u00f3, Kaisar Kushibar<\/strong> va presentar les guies FUTURE-AI<\/strong> per a una intel\u00b7lig\u00e8ncia artificial fiable i aplicable en l\u2019\u00e0mbit sanitari<\/a>, generades per una comunitat internacional d’experts i expertes en ci\u00e8ncia de dades, cl\u00ednica, \u00e8tica, ci\u00e8ncies socials i dret. Va mostrar com, malgrat les promeses de la IA en l\u2019atenci\u00f3 sanit\u00e0ria, la gran majoria del personal m\u00e8dic no la utilitza per preocupacions sobre la (falta de) robustesa, equitat, seguretat i transpar\u00e8ncia de les eines. Per tant, aquestes guies busquen orientar sobre com han de dissenyar-se, desenvolupar-se i validar-se les eines de IA m\u00e8dica per ser Justes, Universals, Rastreables, Usables, Robustes i Explicables (d’aqu\u00ed les sigles en angl\u00e8s FUTURE). A trav\u00e9s del consens, es van definir 30 bones pr\u00e0ctiques, abordant les dimensions t\u00e8cnica, cl\u00ednica, socio\u00e8tica i legal d\u2019una IA fiable<\/strong>. Kushibar va destacar la import\u00e0ncia d\u2019involucrar totes les parts interessades<\/strong> per eliminar els prejudicis i ajudar a identificar les fonts de biaixos i riscos \u00e8tics<\/a> en cada context i aix\u00ed evitar sorpreses inesperades.<\/p>\n\n\n\n

<\/div>\n\n\n\n

Diversos dels ponents van destacar la necessitat d\u2019involucrar totes les parts interessades i de treballar en col\u00b7laboraci\u00f3 amb investigadors i investigadores de diferents disciplines, amb la finalitat d\u2019identificar les fonts de biaixos i els riscos \u00e8tics en cada context.<\/p><\/blockquote>\n\n\n\n

<\/div>\n\n\n\n

Shereen Cox<\/strong>, del Centre d\u2019\u00c8tica M\u00e8dica de la Universitat d\u2019Oslo, Noruega, va continuar amb el tema de la realitat estesa<\/strong> (extended reality<\/em>), ampliant encara m\u00e9s la conversa sobre l\u2019impacte global de la IA i portant els temes \u00e8tics a una altra dimensi\u00f3 \u2013 o a una altra realitat.<\/p>\n\n\n\n

El tema del biaix de g\u00e8nere i sexe en la Intel\u00b7lig\u00e8ncia Artificial per a la salut<\/strong> <\/a>va ser discutit per Atia Cort\u00e9s<\/strong>, del Centre de Supercomputaci\u00f3 de Barcelona (BSC) i membre de la iniciativa Bioinfo4Women<\/a>. Va destacar, per una banda, la import\u00e0ncia de comprendre les difer\u00e8ncies de g\u00e8nere que s\u00f3n m\u00e8dicament rellevants i, per l\u2019altra, com assegurar la correcta identificaci\u00f3, avaluaci\u00f3 i mitigaci\u00f3 dels biaixos, des del moment de la recopilaci\u00f3 de dades, per assegurar una IA fiable.<\/p>\n\n\n\n

Finalment, Alexandra Lillo<\/strong>, de l\u2019Observatori d\u2019\u00c8tica en Intel\u00b7lig\u00e8ncia Artificial de Catalunya (OEIAC)<\/a>, va oferir una perspectiva legal<\/strong> sobre l\u2019\u00fas de la IA. Va presentar la seva eina d\u2019autoavaluaci\u00f3, el \u201cModel PIO\u201d<\/a><\/strong>, una eina \u00fatil tant per a desenvolupadors com per a usuaris, va dir. Basat en 7 principis i amb m\u00e9s de 130 preguntes, el Model PIO es fonamenta en les regulacions aplicables i les recomanacions \u00e8tiques i legals, i t\u00e9 com a objectiu ajudar els usuaris a identificar si un sistema d\u2019IA compleix els principis legals i \u00e8tics i quin \u00e9s el seu nivell de risc <\/strong>(probabilitat de dany).<\/p>\n\n\n\n

<\/div>\n\n\n\n
\"\"<\/figure>\n\n\n\n
<\/div>\n\n\n\n

Amb la part del mat\u00ed finalitzada, l\u2019esdeveniment va continuar amb un dinar de networking i un taller a la tarda nom\u00e9s per a membres de ERION, on es va debatre sobre com la IA i l\u2019\u00e8tica poden integrar-se de manera significativa en la comunitat investigadora.<\/p>\n\n\n\n

<\/div>\n\n\n\n

IA en la redacci\u00f3 cient\u00edfica<\/strong><\/h2>\n\n\n\n

El segon esdeveniment, que va tenir lloc l\u2019endem\u00e0, va ser un curs dissenyat per discutir de forma cr\u00edtica el paper de la IA en la redacci\u00f3 cient\u00edfica. Aquest taller<\/strong> estava dirigit a ajudar els investigadors i investigadores a comprendre les normes i pautes al voltant de l\u2019\u00fas d\u2019eines d’IA en la redacci\u00f3 de projectes de recerca, manuscrits, revisions bibliogr\u00e0fiques o sol\u00b7licituds de finan\u00e7ament. Dirigit per Thiago Carvalho<\/strong> i David del \u00c1lamo Rodr\u00edguez<\/strong> de Fellowsherpa<\/a>, el curs va explorar el concepte d\u2019autoria, la responsabilitat que comporta i per qu\u00e8, per tant, una eina de IA generativa com ChatGPT no pot considerar-se autora d\u2019un article.<\/p>\n\n\n\n

Els participants van debatre les principals avantatges i usos de la tecnologia generativa de IA en la recerca <\/strong>– en escriptura, traducci\u00f3, generaci\u00f3 d\u2019imatges o fins i tot revisi\u00f3 bibliogr\u00e0fica i ajuda en la pluja d\u2019idees. Despr\u00e9s, van formular les seves pr\u00f2pies bones pr\u00e0ctiques per a l\u2019\u00fas d’IA – com mai alimentar dades confidencials a un algoritme de IA<\/strong> o sempre verificar els resultats<\/strong> i refer\u00e8ncies proporcionades – que es van comparar amb les pautes existents de revistes i ag\u00e8ncies de finan\u00e7ament. El missatge principal va ser que la responsabilitat \u00faltima recau en la persona investigadora, qualsevol que sigui l\u2019eina que utilitzi, per la qual cosa es va animar a les participants a reflexionar cr\u00edticament sobre els riscos potencials d\u2019una depend\u00e8ncia excessiva de la IA i la import\u00e0ncia de mantenir la integritat acad\u00e8mica.<\/p>\n\n\n\n

<\/div>\n\n\n\n

La IA \u00e9s, al cap i a la fi, una eina. Per tant, dep\u00e8n dels investigadors i investigadores utilitzar-la responsablement i evitar dependre\u2019n excessivament\u201d<\/em><\/p><\/blockquote>\n\n\n\n

<\/div>\n\n\n\n

Caminant conjuntament cap a un \u00fas responsable de la IA en la recerca<\/strong><\/h2>\n\n\n\n

Tots dos esdeveniments van destacar la creixent import\u00e0ncia de la IA en la investigaci\u00f3 cient\u00edfica i la necessitat d\u2019integrar pautes \u00e8tiques per assegurar-ne l\u2019\u00fas responsable.<\/p>\n\n\n\n

La IA t\u00e9 el potencial d\u2019impulsar aven\u00e7os significatius en la investigaci\u00f3, per\u00f2 tamb\u00e9 presenta dilemes \u00e8tics, des de la imparcialitat i l\u2019equitat fins a preocupacions sobre la privacitat. <\/p>\n\n\n\n

Al PRBB, estem compromesos a fomentar un espai on aquestes converses puguin tenir lloc, involucrant totes les parts interessades<\/strong>, perqu\u00e8 puguem avan\u00e7ar col\u00b7lectivament amb un enfocament equilibrat i \u00e8tic.<\/p>\n\n\n\n

<\/div>\n","protected":false},"excerpt":{"rendered":"

Una confer\u00e8ncia i un taller sobre l’\u00fas \u00e8tic de la Intel\u00b7lig\u00e8ncia Artificial van tenir lloc a finals d\u2019octubre al PRBB, reunint diverses parts interessades del context europeu i m\u00e9s enll\u00e0.<\/p>\n","protected":false},"author":6,"featured_media":45320,"comment_status":"open","ping_status":"open","sticky":false,"template":"","format":"standard","meta":{"_acf_changed":false,"footnotes":""},"categories":[32],"tags":[434,824,859,295,227],"new-type":[38,35],"class_list":["post-45414","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-vida-cientifica","tag-bones-practiques-cientifiques","tag-etica-ca","tag-ia","tag-isglobal-cat","tag-prbb-ca","new-type-a-fons","new-type-noticies"],"acf":[],"_links":{"self":[{"href":"https:\/\/ellipse.prbb.org\/ca\/wp-json\/wp\/v2\/posts\/45414","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/ellipse.prbb.org\/ca\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/ellipse.prbb.org\/ca\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/ellipse.prbb.org\/ca\/wp-json\/wp\/v2\/users\/6"}],"replies":[{"embeddable":true,"href":"https:\/\/ellipse.prbb.org\/ca\/wp-json\/wp\/v2\/comments?post=45414"}],"version-history":[{"count":6,"href":"https:\/\/ellipse.prbb.org\/ca\/wp-json\/wp\/v2\/posts\/45414\/revisions"}],"predecessor-version":[{"id":45448,"href":"https:\/\/ellipse.prbb.org\/ca\/wp-json\/wp\/v2\/posts\/45414\/revisions\/45448"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/ellipse.prbb.org\/ca\/wp-json\/wp\/v2\/media\/45320"}],"wp:attachment":[{"href":"https:\/\/ellipse.prbb.org\/ca\/wp-json\/wp\/v2\/media?parent=45414"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/ellipse.prbb.org\/ca\/wp-json\/wp\/v2\/categories?post=45414"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/ellipse.prbb.org\/ca\/wp-json\/wp\/v2\/tags?post=45414"},{"taxonomy":"new-type","embeddable":true,"href":"https:\/\/ellipse.prbb.org\/ca\/wp-json\/wp\/v2\/new-type?post=45414"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}