La intel·ligència artificial avança a gran velocitat, i fins i tot els seus propis creadors han avisat les darreres setmanes que hi ha un perill real que la IA se’ns escapi de les mans i actuï de forma autònoma. Davant d’aquesta situació, que està generant molta angoixa entre la gent, la primera encíclica del papa Lleó XIV, Magnifica humanitas, pren una especial rellevància, ja que precisament tracta sobre la relació entre el progrés tecnològic i la dignitat de la persona.
Per reflexionar sobre l’encíclica del Papa i el futur de la IA, aquest dimecres 16 de setembre el programa El Matí a Ràdio Estel ha entrevistat Sergi Rodríguez López-Ros, vaticanista, professor de la Universitat CEU Abat Oliba i expert en IA.
Rodríguez López-Ros, que ja va ser entrevistat a Catalunya Cristiana amb motiu de a primera encíclica de Lleó XIV, ha explicat que actualment ens trobem en una segona fase de la intel·ligència artificial: “Diria que estem en la segona fase de la IA, en la qual ja podem crear textos o crear imatges, i és un pas molt gran”, ha assenyalat. Si continua el seu desenvolupament, arribarà una tercera etapa, la de la “superintel·ligència artificial”, que, com diu el professor de la Universitat CEU Abat Oliba, “teòricament, ens hauria de fer por, perquè és una intel·ligència conscient”.
No obstant això, el vaticanista ha assenyalat que encara som a temps de posar límits a aquesta tecnologia i ha remarcat la necessitat d’educar en el seu ús i de regular-ne el desenvolupament.
“No podem delegar les decisions”
Davant la possibilitat que la IA pugui actuar de manera autònoma, Rodríguez López-Ros ha advertit que en cap cas hauria d’assumir decisions sobre la vida de les persones. “No podem delegar decisions en una IA. Podem consultar, podem ajudar-nos, però no podem delegar la nostra vida quotidiana, ni podem pensar que ella és una persona, no podem dialogar, no ens pot aconsellar”.
«Cal una educació en l’ús de la IA i posar un límit en el tema del desenvolupament»
Durant l’entrevista, on també hi ha participat Tica Font i les periodistes Carme Munté i Mercè Raga, Sergi Rodríguez ha alertat també que la quantitat d’informació que se li proporciona a la IA i el nombre de decisions que se li poden arribar a delegar poden acabar convertint-se en un risc: “És molt operatiu, és molt pràctic, però tenim el risc que, finalment, tantes decisions delegades i tanta informació siguin un risc per a nosaltres”.
En aquest sentit, el vaticanista ha recordat que actualment ja hi ha persones, fins i tot nens, que arriben a establir amb la IA una relació semblant a la que tindrien amb una altra persona, i ha advertit: “La IA Pràcticament no és res, no és una persona, mai no serà una persona. Semblarà que és una persona, però no és realment una persona”, ha remarcat.
Per això, ha defensat la necessitat d’una educació en l’ús d’aquestes eines i d’una regulació que estableixi límits al seu desenvolupament. “Cal una educació en l’ús de la IA i posar un límit en el tema del desenvolupament ”, ha afirmat.
“La IA no és Déu, no podem idolatrar-la ni donar-li el paper de superconsciència”
A la llum de Magnifica humanitas, Sergi Rodríguez ha explicat que el Vaticà ha posat en marxa un mecanisme interdicasterial per concretar les propostes de l’encíclica, una iniciativa que, segons ell, mostra la voluntat de portar el document a l’àmbit pràctic. “Som encara a temps d’aturar-ho, podem posar-hi límits: bé en l’ús que nosaltres en fem, bé en la regulació, bé en la capacitat de recerca tecnològica”.
En relació amb les advertències que han fet alguns dels mateixos creadors de la IA sobre els riscos d’aquesta tecnologia, Rodríguez López-Ros ha interpretat que són també “fruits” de la reflexió generada per la Magnifica humanitas, de la qual ha subratllat dues idees: “La IA no és Déu, no podem idolatrar-la i, per tant, donar-li el paper de superconsciència, i tampoc no podem pensar que la IA sent o té una capacitat de sentir”.
Límits també físics i materials
En la seva intervenció, Tica Font ha coincidit amb Sergi Rodríguez en la necessitat de posar límits al desenvolupament de la IA. “No només és que hi som a temps, sinó que hem de posar-hi límits i és el moment”, ha afirmat. Font ha assenyalat que els mateixos dissenyadors de la intel·ligència artificial han pogut comprovar que, quan es dona un objectiu a una IA, aquesta pot prendre un camí que els seus creadors no havien previst.
Font ha posat l’accent en la necessitat que el desenvolupament d’aquesta tecnologia tingui també uns límits definits des del seu mateix disseny. “A qualsevol enginyer li dius: ‘fes-me un telèfon’ i li poses límits. I aquí hem creat alguna cosa sense límits. I aquesta és la primera qüestió que hem de fer”. Aquests límits, com ha dit, no haurien de ser només tècnics, sinó també físics i materials: “Necessitem límits al consum energètic, límits en el consum d’aigua, límits en la disponibilitat que tot sigui immediat”, ha assenyalat.