La encíclica Magnifica Humanitas del Papa León XIV, centrada en la inteligencia artificial, ha hecho ya correr ríos de tinta y reacciones en todo el mundo. No solo porque se trata de un texto fundamental por su alcance para millones de personas – según un Eurobarómetro de 2021, el 45,3 % de los ciudadanos europeos se identificaban como católicos– sino también por su enfoque, solidez, claridad y oportunidad.
Desde la AETD llevamos promoviendo un dialogo estratégico sobre los efectos e implicaciones del progreso tecnológico en la economía, el trabajo y la sociedad. Y por ello creemos que el contenido humanista y social del mensaje papal no solamente incumbe a los católicos como guía moral, sino que interpela a todos los que piensen que hay que actuar para prevenir efectos indeseados del desarrollo de la IA.
Como sociedad civil aconfesional, resulta fácil sentirse identificado con la mayor parte de los mensajes éticos, sociales y políticos que se argumentan en la encíclica. Confiamos rotundamente en el valor de la tecnología y la IA para ayudar al progreso de la humanidad. Así ha sido a lo largo de la historia. Sin embargo, la fase actual de despliegue tecnológico se asemeja más a un periodo de adoración acrítica al nuevo becerro de oro simbolizado en la irrupción de la IA.
Como entidad que ha promovido un Pacto de Estado para proteger a los menores en el entorno digital, suscrito por más de 240 entidades e instituciones, nos felicitamos de la referencia a los efectos perversos de la IA en menores: cómo puede contribuir a aislarles de su entorno vivencial natural, tensionando su desarrollo social e individual y, en definitiva, impactando negativamente el ámbito familiar.
Pero hay mucho más en la encíclica. Partiendo de la dignidad humana, ‘Magnifica Humanitas’ es rica y densa en ideas y contenidos. Siembra la doctrina social de la Iglesia, pero también incorpora temas esenciales relacionados con los derechos fundamentales, el poder tecnológico, la responsabilidad institucional, la vigilancia, la gobernanza ética o los riesgos de la sociedad algorítmica. Me detendré solamente en dos aspectos específicos.
La brecha de desigualdad
En primer lugar, la idea de pérdida de control económico, social, político y ciudadano que acompaña al modo en que se está desplegando la IA. Máxime si el poder de este despliegue se concentra en unas pocas corporaciones tecnológicas, nítidamente residenciadas en EEUU y en China.
La encíclica advierte lo evidente: las consecuencias de este desarrollo acelerado y competitivo se pueden observar ya en la creciente brecha entre los verdaderamente beneficiados por estos avances y aquellos amenazados de quedarse fuera, los excluidos, incrementando la ya hiriente desigualdad en el planeta.
Compartimos plenamente la idea contenida en el mensaje papal de reforzar la institucionalidad, entendida no solo desde un enfoque regulatorio y gubernamental, sino incluyendo también aquellos otras creaciones cívicas y sociales que conforman relaciones densas de cooperación y solidaridad. Instituciones esenciales como la educación, la salud digital, los cuidados de bienestar, los servicios públicos y, en general, todo el armazón institucional del que se han dotado nuestras sociedades para proteger sus vínculos de cohesión y orientar su futuro.
Esta activación institucional debe realizarse cuanto antes, dado el vértigo que produce el desfase entre la velocidad tecnológica y la lentitud de las respuestas institucionales. Ya se ha demostrado con evidencia histórica y económica que la excusa preferida por la industria y la mayoría de los gobiernos para no poner coto a un despliegue tecnológico ciego y desorientado – no perder el tren de la innovación – es una dicotomía falsa y, sobre todo, interesada.
Los datos son un bien común
No resulta difícil tampoco coincidir con la idea de que bajo el disfraz del progreso tecnológico subyace un espíritu neocolonial digital, plasmado en el regreso a lo peor de las industrias extractivas de los datos personales y de empresas. La colonia digital, como un remedo de tiempos pasados, está aquí y ocurre ahora. Europa es, hoy por hoy, una colonia de las grandes corporaciones tecnológicas que la utilizan, grosso modo, para el mismo fin que antaño: suministro gratis de materia prima (nuestros datos); colocación de servicios y productos digitales (consumo); y explotación fiscal (bajos o inexistentes tipos impositivos y repatriación de ingresos). Frente a esta cruda y humilde realidad, ante la que se alza el proyecto aspiracional de soberanía digital europea, el Papa señala valientemente que los datos por cuya extracción las tecnológicas no pagan son un bien común.
Frente a esta postura, resulta candorosa la reacción oficial de la Comisión Europea afirmando que la UE ya se ha dotado de un marco normativo efectivo. Es decir, una especie de “ya lo tenemos resuelto”. Es justamente lo contrario: el enfoque de la UE es considerar a la IA como una tecnología compleja que produce resultados que pueden ser negativos y, por tanto, genera riesgos que deben ser mitigados o eliminados. Presentando la IA como un producto o servicio comercial encapsulado en un marco regulatorio digital – respetuoso de los derechos humanos -, y a los europeos como meros consumidores, se nos ha hurtado el debate de fondo sobre cómo y para qué queremos la IA.
Responsabilidad aguas abajo
En segundo lugar, desde la AETD hemos reclamado que se definan y delimiten con claridad las responsabilidades concretas cuando el uso de la IA provoque daños o perjudique a personas o grupos sociales.
Mas allá de la responsabilidad penal o civil de directivos, gerentes o miembros de consejos de administración, proponemos explorar dos cauces de responsabilidad aguas abajo: por una parte, debería existir la posibilidad de identificar y pedir cuentas a aquellos auxiliadores necesarios, los programadores que diseñan patrones de alto riesgo potencialmente capaces de generar daños en las personas, o a quienes deberían controlarlos.
Por otra parte, la responsabilidad también anida a nivel individual y colectivo. No se trata solo de exigir nuestros derechos digitales, sino también de ser conscientes de que tenemos obligaciones en ese nuevo ámbito. No nos quejemos tanto, y actuemos.
En definitiva, reconforta leer un texto tan relevante para el mundo católico y con el que nos identificamos en gran parte. Como actores en la sociedad civil y como individuos, reconocemos el valor de la doctrina aportada por el Papa. En esa senda, aspiramos también a ser parte de esa ‘magnífica humanidad’.
Ricardo Rodríguez Contreras, presidente de la Asociación Europea para la Transición Digital
