El desarrollo de la cuarta revolución industrial, con la progresiva generalización del big data, la Inteligencia Artificial y los algoritmos, plantea retos de enorme importancia que transcienden, con mucho, el mundo de la tecnología. Se está configurando una nueva sociedad que requiere un nuevo pacto social, basado en un compromiso ético en el uso de los algoritmos, con pleno respeto a los derechos humanos fundamentales y la adecuación de esas protecciones básicas al entorno digital.
El Ateneo de Madrid organizó en torno a estos conceptos la mesa redonda ‘Ética, derechos digitales y algoritmos’, que contó con la participación, entre otros expertos, de Ana Caballero, vicepresidenta de la AETD. Los ponentes coincidieron en que vivimos un momento de transición definitorio, en el que la Inteligencia Artificial puede suponer enormes progresos, pero también plantea grandes amenazas. Como dijo Nuria Oliver, directora de la Fundación Ellis, citando una intervención de 2016 de Steven Hawking, “la inteligencia artificial será lo peor o lo mejor que le ha pasado a la humanidad”. En el peor de los escenarios, dijo Juan Antonio Garde, presidente de la asociación Algoverit, “la digitalización puede suponer una quiebra del Estado de Derecho, y dar lugar a una crisis civilizatoria”.
El ingeniero y doctor en IA Ignacio González, que pertenece a la asociación Algoverit, fue el más rotundo al defender la necesidad de vincular el uso de los algoritmos a un visión humanista. Hemos construido una sociedad en la que los llamados GAFAs lo saben todo de nosotros, “y vivimos en la neurosis de no querer pagar el precio de sus servicios. Si queremos servicios gratuitos, tenemos que pagar el precio”, dijo el experto en relación con esa pérdida de privacidad y el enorme poder de las plataformas tecnológicas. “Es como quien pretende comer todos los días cocido y estar flaco”, aseguró.
González advirtió del posible uso de los datos para discriminar, por ejemplo, en el acceso a equipamientos hospitalarios. Pero los algoritmos ya toman decisiones en otros ámbitos esenciales, como el mundo del trabajo. José Varela, responsable de digitalización del sindicato UGT, lamentó como en el negocio de los servicios de reparto “todo lo decide un algoritmo”: la asignación de los pedidos, quién lo hace, cuánto cobra… “También decide si me van a desconectar, es decir, si me van a despedir”. Y este uso de los algoritmos, explicó, también está llegando a otros sectores. Pero quiso mostrarse “optimista”: ya hay una cierta concienciación social, dijo, y “las sociedades tienden a requilibrarse” tras las grandes disrupciones sociales.
Ana Caballero centró su intervención en los peligros del uso poco ético de los algoritmos con una población especialmente vulnerable: los menores. Se remitió a la Declaración Europea de Derechos y Principios Digitales para la Década Digital para defender la necesidad de proteger a todos los menores frente a los contenidos dañinos y la manipulación y el abuso online, pero fue más allá al advertir de la mercantilización de sus datos, obtenidos, en muchas ocasiones, con opacidad. “Necesitamos controlar estas prácticas, reformulando incluso el artículo 32 del Convención de los Derechos del Niño [de UNICEF] para incluir la explotación económica en el entorno digital”, defendió.
La AETD es especialmente beligerante con determinadas prácticas de las grandes plataformas tecnológicas con los menores, una preocupación que se sustenta en denuncias como la que realizó Frances Haugen, exejecutiva de Facebook, en el Senado estadounidense: la empresa sabía desde hace tiempo que su aplicación Instagram tiene efectos psicológicos dañinos para los adolescentes, y no tomó ninguna medida al respecto. La regulación, como la que poco a poco va articulando la Unión Europea, debe de ir poniendo coto a determinadas prácticas, pero la concienciación social y ciudadana también ha de hacer su trabajo.
