Introducción
En este, como en cualquier otro análisis político, debemos evitar las simplificaciones maniqueas habituales. En el mundo académico encontramos inmensidad de cuestiones relacionadas con la Inteligencia Artificial (IA). No es para menos, teniendo en cuenta que la IA se ha convertido en una combinación de algoritmos que está prácticamente en todas partes. Sin embargo, no somos conscientes de dicha presencia, no la percibimos, si algo o alguien no nos lo recuerda. Si bien es cierto que es más fácil detectar visualmente una carretera o un tren para llegar de un punto a otro, no podemos olvidar que también están presentes algoritmos que se encargan de indicarnos, por ejemplo, el transporte que deberíamos coger o por qué carretera deberíamos ir según nuestro patrón de desplazamientos y nuestras preferencias anteriormente mostradas.
Nos encontramos ante una explosión sin fin de la IA. Una explosión cuya onda expansiva abarca prácticamente cualquier ámbito de nuestra vida diaria, especialmente desde el momento en el que desbloqueamos nuestros teléfonos móviles y nos disponemos a hacer cualquier gestión, ya sea a través de nuestra banca on-line o simplemente al pedir comida a domicilio. Pero no solo es una cuestión cuantitativa, también lo es cualitativa: el machine learning busca hacer predicciones y tomar decisiones, a la vez que realiza un proceso de aprendizaje automático. El impacto socioeconómico de la IA es evidente, plantea problemas serios de gobernanza, con claro impacto en la vida política de los Estados y de la comunidad internacional en su conjunto.
“La gobernanza de los algoritmos y la reciente evolución de la IA indicarían un progresivo cuestionamiento de equilibrios democráticos básicos de nuestras comunidades políticas”, J. Ignacio Criado
¿Quién no conoce el caso del sistema de IA que discrimina a las personas de color en el ámbito jurídico en Estados Unidos? ¿O el sistema inteligente que ayudaba a la contratación de personal y que discriminaba por género? ¿O la influencia en procesos democráticos por algoritmos de recomendación que fomentan la polarización de la sociedad? ¿Escándalos de privacidad? ¿O los algoritmos opacos que buscan el fraude en prestaciones sociales? ¿Sesgos de género en la traducción automática? Y existe un largo etc. (OdiseIA 2022, 15).
El profesor J. Ignacio Criado (2019) afirma que “la gobernanza de los algoritmos y la reciente evolución de la IA indicarían un progresivo cuestionamiento de equilibrios democráticos básicos de nuestras comunidades políticas”. Prosigue Criado poniendo como ejemplos “los problemas relacionados con las cámaras de eco polarizadoras y la difusión de noticias falsas en redes sociales”, un hecho que, como bien sabemos, ha generado un refuerzo de las posiciones políticas más extremas y que incluso ha tenido consecuencias en diferentes resultados electorales.
En este contexto resulta imprescindible preguntarse: ¿la IA está mejorando nuestras administraciones públicas y los sistemas políticos o está llevándonos hacia un camino de crisis de legitimidad de las democracias? ¿Puede contribuir la IA a transformar los procesos de adopción de decisiones en el ámbito público? ¿Son más las oportunidades o los retos que plantea la activación de esta innovación en la Administración Pública? ¿Qué características debe tener la IA para aportar valor democrático a las administraciones públicas y contribuir a mejorar la legitimación del sistema? Sobre lo que no hay duda ninguna es que la IA actúa como palanca de cambio en los contextos políticos.
Las dudas que surgen y el desconocimiento por parte de la mayoría de la población hacia la IA y su implementación en el ámbito público la convierte, en ocasiones, en algo que genera desconfianza o, incluso, rechazo. Es lo que García Mexía (2022) llama “ciberfatalismo”. Conviene hacerle frente con datos y análisis riguroso.
En este artículo se pretende hacer un repaso de la situación de la IA en el ámbito público, de sus implicaciones éticas y del futuro más inmediato sobre esta cuestión.
Administración Pública e Inteligencia Artificial
La IA no es algo nuevo. Sus orígenes se remontan ya a varias décadas atrás y su campo de actuación se circunscribe a cualquier ámbito imaginable. Si bien es cierto que la utilización de la IA en el sector público es un hecho que crece exponencialmente, se encuentra, en numerosas ocasiones, en una situación incipiente o desconocida por lo que respecta a sus posibles usos y potencial transformador. El problema no son los algoritmos en sí mismos, sino la evolución de los avances que producen y que, en ocasiones, escapan a nuestro control.
En el ámbito de la Administración Pública, la incorporación de algoritmos que prevean los comportamientos y patrones por parte de la ciudadanía en su relación con la Administración convierte a la IA en una herramienta modernizadora del sector público de primer orden. Obviamente, los algoritmos, que no son más que procesos complejos diseñados para la resolución más efectiva y eficiente de problemas, influyen en la acción de gobierno, una acción que se desarrolla a través de dispositivos y tecnologías que permiten la gestión y el control de datos, especialmente de aquellos que provienen de la ciudadanía (Criado, 2020).
De esta forma, la incorporación de la IA en la gestión pública debería tener como principal consecuencia un cambio hacia un horizonte más innovador, más complejo y a la vez más efectivo y eficiente. Unos cambios que se pueden percibir a la hora de realizar contratos públicos, a la hora de contratar al personal, a la hora de elegir entre diferentes alternativas de políticas públicas y, cómo no, se trata de unos cambios que inciden en la relación entre ciudadanos y administraciones, especialmente en aquello relativo a las concesiones de licencias, ayudas o cualquier tipo de resolución de trámites administrativos. Las consecuencias del uso de la IA en la Administración Pública son importantísimas para el presente y el futuro de nuestras administraciones.
“La incorporación de la IA en la gestión pública debería tener como principal consecuencia un cambio hacia un horizonte más innovador, más complejo y a la vez más efectivo y eficiente”.
Como consecuencia de ello, hay distintas organizaciones internacionales que son conscientes de ello y que, además, apuestan claramente por la incorporación de algoritmos en la gestión de lo público. LA OCDE, la ONU, el Consejo de Europa o la Comisión Europea son ejemplo de ello. En este contexto, hay que mencionar la complejidad que supone para algunas administraciones incorporar la IA sin los medios ni el contexto social y económico adecuado. Por ello, una de las principales cuestiones sería preguntarnos si la IA estaría disponible y sería viable para un ayuntamiento como el de Sempere (Valencia), cuya población es de 26 habitantes, o para el de Madrid, con una población de más de 3,2 millones de personas y unos recursos muchísimo más superiores en comparación a otras corporaciones municipales. O, si se quiere ver de otra forma: ¿sería más eficiente implementar un sistema de IA en una administración más modesta a través de programas piloto que en una ciudad con muchos más recursos? Ese sería un largo debate que no corresponde tratar ahora. Lo que sí queda claro es que la estructura de la administración impactará de forma rotunda en la incorporación de la IA en el ámbito público y que el estudio de la eficiencia del sistema es básico para conocer su impacto real.
Nos encontramos, por tanto, ante una situación de cambio radical no solo a nivel tecnológico, sino también en el plano organizacional, de procesos y de sistemas de prestación de servicios, lo cual, según Ramió (2019), debería implicar un verdadero cambio de paradigma de la Administración Pública ante los diferentes modelos de gestión que actualmente conviven y situar a la Administración mirando a la ciudadanía, e integrarlos de forma ordenada para afrontar con garantías los retos del presente y del futuro.
¿No resultaría positivo que los gobiernos pudieran utilizar big data para conocer futuros cambios en el crecimiento de las ciudades y ampliar así la oferta de vivienda? ¿No sería interesante que el Ministerio de Sanidad integrara los datos de toda la red de hospitales para conocer la efectividad de los procedimientos médicos? ¿No sería útil que el Ministerio de Educación conociera de manera temprana los estudiantes con riesgo de abandono escolar y que requieren de mayores apoyos académicos? (Socías, 2018). Un interesante debate sobre el que se pretende que el lector extraiga sus propias conclusiones.
¿Inteligencia Artificial vs Democracia? Camino a una ciberdemocracia.
Uno de los temores más extendidos entre los que saben (y los que no) sobre estas cuestiones es el posible conflicto que puede estallar en torno al debate entre la IA y la estructura democrática de una nación.
No cabe duda de que la implementación interna y externa de los sistemas de IA debe disponer de una regulación normativa adecuada. Además, hay que tener en cuenta que la Administración Pública no es una empresa, sino un ente que presta servicios a ciudadanos que poseen una serie de derechos que deben ser tutelados y protegidos. La IA no puede entrar en conflicto con la integridad de la Administración y el resto de los principios rectores del ámbito público.
Efectivamente, el conflicto existe, pero no debe servir como excusa para impedir o ralentizar la implementación de la IA en la Administración. De hecho, destacando la parte de las ventajas, según Ramió (2019), encontramos dos dimensiones respecto a la implementación de IA a través del paradigmático caso de Dubái, que pueden generalizarse: la dimensión de gestión y la dimensión política.
Respecto a la dimensión de gestión, se destacan cuestiones altamente positivas, como la mejora de la transparencia del sistema, una mayor rendición de cuentas y la obtención de un sistema más participativo y colaborativo. Sería un claro ejemplo de mejora de la calidad institucional.
En el plano político se destaca el concepto de tecnocracia, a través de un claro cambio hacia una concepción tecnológica del poder. Para el caso concreto de China, se podría destacar que se trata de un sistema político autocrático en el que, además, el uso de la tecnología sirve para justificar con más fuerza el propio sistema. Habría que ver, por tanto, cómo ciertos regímenes políticos considerados hasta ahora dictatoriales podrían hacer uso de esta tecnología para justificar sus actuaciones. Ciertamente, el interés por la democracia no es el mismo en China que en Estados Unidos o Europa.
“Se destacan cuestiones altamente positivas, como la mejora de la transparencia del sistema, una mayor rendición de cuentas y la obtención de un sistema más participativo y colaborativo”.
Pero no solo es importante destacar la influencia de los factores tecnológicos en las autocracias o sistemas poco democráticos. En sistemas democráticos consolidados, también pueden jugar un papel fundamental. Un claro ejemplo de ello sería los Estados Unidos y la situación que se vivió durante la campaña y las elecciones presidenciales del año 2016, en las que la inteligencia norteamericana detectó interferencias rusas en el desarrollo de la campaña electoral. Unas interferencias que se identificaron con el gobierno ruso para socavar la confianza en el proceso electoral convocado y sembrar dudas sobre la candidata del Partido Demócrata, Hillary Clinton. En concreto, se hackearon las bases de datos del Comité Nacional Demócrata a través de ciberataques coordinados desde Rusia. Algo que se repitió en las elecciones de noviembre de 2020, esta vez con un ataque coordinado desde la propia Rusia, pero también desde Irán Cuba, Venezuela y la organización terrorista Hezbolá. Ataques que se produjeron de forma más limitada, menos coordinada y, por tanto, sin tanto éxito como en los anteriores comicios.
La realidad nos muestra el nivel de alerta que debemos tener ante el uso inadecuado de la tecnología y de la IA: una deriva autoritaria en países poco democráticos y un camino hacia el populismo en sistemas democráticos. Eso, obviamente, si la gestión no es buena.
Al fin y al cabo, la instrumentalización política es un defecto que se puede dar prácticamente en cualquier ámbito de los sistemas políticos y la implementación de la IA es uno más. Hay que estar atentos a la evolución en la aplicación de los sistemas de IA en el ámbito público sin perder de vista las necesidades de modernización de la Administración ni tampoco los posibles conflictos ético-políticos a los que nos podamos enfrentar.
Implicaciones éticas
El debate en torno a la IA va creciendo de forma proporcional a la evolución de esta y, por ello, existen diferentes iniciativas, documentos y políticas públicas que intentan encontrar un equilibrio entre las cuestiones ya no solo éticas, sino también jurídicas de la IA y sus implicaciones en la vida política, social y económica.
Si bien es cierto que la ética es fundamental a la hora de tratar con la IA, no resulta suficiente para garantizar los derechos de los individuos, si no se le acompaña de un marco jurídico y legal determinado en consonancia con esos mismos valores éticos. Además de eso, también es fundamental la creación de controles adecuados que conozcan los algoritmos y faciliten la explicación de las decisiones que toman sus modelos. Esta especie de trazabilidad de las decisiones tomadas en base a la IA resulta fundamental para conocer en profundidad sus mecanismos de actuación.
Aunque, en ocasiones, podría parecer difícil establecer una solución ética a las cuestiones que plantea la IA (el mejor ejemplo sería el del dilema que se plantea un coche autónomo ante una situación de peligro), sí sería conveniente establecer una serie de generalidades que marquen, de forma universal, el camino hacia una IA que no plantee problemas éticos.
De hecho, ya en el año 2017, el Comité Selecto de Inteligencia Artificial de la Cámara de los Lores de Reino Unido hizo un llamamiento para que expertos y miembros del público compartieran sus puntos de vista sobre la IA. Un llamamiento cuyos resultados quedaron plasmados en un informe que se publicó posteriormente. Entre otras cuestiones, se recomendó la creación de una Comisión de Inteligencia Artificial para gobernar el desarrollo y la aplicación de las técnicas de la IA y para poder asesorar sobre la regulación en la materia, en un intento de liderar el camino hacia una IA ética.
Además de lo anterior, la Cámara de los Lores se propone construir una especie de código de IA nacional e internacional basado en cinco principios, precisamente para hacer de Reino Unido un líder en la aplicación ética de la Inteligencia Artificial.
A modo de resumen, el informe habla de que la IA debe desarrollarse para el bien común y el beneficio de la humanidad; de la necesidad de que opere según los principios de inteligibilidad y equidad; que no sea utilizada para reducir los derechos de las personas, familias o comunidades; el derecho a una educación que permita la evolución mental, emocional y económica en un contexto de IA y, finalmente, el buen uso de la IA, impidiendo que el poder autónomo se utilice para herir, destruir o engañar a los seres humanos.
Han surgido documentos similares al anterior, entre los que podemos destacar: la Declaración de Barcelona para el adecuado desarrollo y uso de la IA en Europa (2017); la Declaración de la Unión Europea para la cooperación del desarrollo de la IA (2018); el Libro Blanco sobre la IA: un enfoque europeo orientado a la excelencia y la confianza (2020) o la Estrategia Nacional de Inteligencia Artificial (impulsada por el Gobierno de España a finales de 2020).
Este último documento contiene un apartado interesante enfocado a la confianza y la ética en la IA en el que se proponen, entre otras medidas, el desarrollo de un sello nacional de calidad IA, la puesta en marcha de observatorios para evaluar el impacto social de los algoritmos, el desarrollo de una Carta de Derechos Digitales, la puesta el funcionamiento del Consejo Asesor de IA o la promoción de diálogo, sensibilización y participación sobre IA. Todas estas iniciativas suponen ir más allá del enfoque centrado en la economía digital y la tecnología, añadiendo una perspectiva ética y normativa de la que se carecía hasta ahora (Criado, 2021).
Resulta indispensable mencionar también la “GuIA de buenas prácticas en el uso de la Inteligencia Artificial ética”, un documento elaborado por PwC y OdiseIA, el Observatorio del impacto social y ético de la inteligencia artificial (2022). En dicho documento se sientan las bases para generar un ecosistema donde cualquier entidad se pueda integrar para compartir y conocer las mejores prácticas en IA atendiendo a principios éticos y preceptos normativos, para lo cual seleccionan una serie de mejores prácticas a través de las que se puede conocer la mejor forma para implementar, a través de diferentes principios éticos indispensables, la IA en las empresas u organizaciones.
La Agencia Española de Supervisión de la Inteligencia Artificial
Teniendo en cuenta el actual contexto político, en el que la Unión Europea publicó un reglamento para afrontar el reto de gestionar la IA sin que los derechos de los ciudadanos y los valores europeos se vieran menoscabados, el Gobierno incluyó en la Estrategia Nacional de Inteligencia Artificial la creación de la Agencia Española de Supervisión de Inteligencia Artificial, tras conocerse que tanto el propio Gobierno como la Generalitat de Cataluña habían estado haciendo uso de algoritmos que serían susceptibles de generar discriminación de algún tipo. Recordemos que los algoritmos se fundamentan en datos recopilados por humanos que pueden acarrear sesgos (racistas, de género o socioeconómicos, entre otros) y traducirse en consecuencias no deseadas como una vigilancia perpetua de los ciudadanos o una mayor discriminación que perjudica especialmente a minorías (EPE, 2021).
Según el acuerdo del Consejo de Ministros del 13 de septiembre de 2022 para iniciar el procedimiento para establecer la sede física de este organismo, con el impulso a esta Agencia, España se convertirá en el primer país de la Unión Europea con una agencia estatal de supervisión de la Inteligencia Artificial, anteponiéndose a la entrada en vigor del futuro Reglamento europeo de IA, que establece la necesidad de que los Estados miembros cuenten con una autoridad supervisora en esta materia.
La idea que se traslada sobre esta Agencia es que entre sus funciones se encuentre la clasificación de los riesgos que deparen los algoritmos dentro del ámbito administrativo. Asimismo, tendrá capacidad sancionadora y deberá actuar de forma transparente tanto en la designación de su máximo responsable como en las reglas de funcionamiento y ejecución. Tras el acuerdo de creación de la Agencia por parte del Consejo de Ministros, ahora llega el momento de dotarla de la estructura, presupuesto, funciones y competencias para convertir la idea en una realidad viable. La ciudad elegida para su ubicación es A Coruña, en la Comunidad Autónoma de Galicia.
“Hablamos de una simbiosis entre la Inteligencia Artificial y la ética que redunde en beneficio de todos de forma igualitaria, trasparente y efectiva”.
El objetivo final que se pretende con esta Agencia es la creación de algoritmos éticos, la supresión de los “sesgos” técnicos y el asesoramiento a las administraciones públicas en el desarrollo, por ejemplo, de protocolos de compra pública, tareas de auditoría, etc. Todo ello con el objetivo de garantizar los derechos de los ciudadanos y disminuir abusos y discriminaciones "automáticas", así como cumplir los estándares en los llamados ámbitos de alto impacto (salud, empleo, educación, seguridad, servicios sociales o justicia) a través de equipos multidisciplinares.
Para el cumplimiento de estos fines, la Agencia gozará de autonomía, independencia, patrimonio propio y de potestades administrativas. También será clave, por supuesto, para certificar el cumplimiento de la legislación Europa en materia de IA y para supervisar la implantación correcta de la misma. Esto es, minimizar los riesgos que pudiera traer consigo la IA en campos tan importantes como la seguridad, la intimidad o la salud de las personas, derechos fundamentales por cuyo cumplimiento debe velar el Estado.
En definitiva, hablamos de una simbiosis entre la Inteligencia Artificial y la ética que redunde en beneficio de todos de forma igualitaria, trasparente y efectiva.
Conclusiones
Nick Bostrom finalizaba en 2016 su libro “Superinteligencia. Caminos, peligros, estrategias” – todo un superventas, por cierto- con un apartado de sugerente título, “Que los mejores en naturaleza humana, por favor, se pongan en pie”, del que se pueden extraer diferentes conclusiones. La principal, su advertencia de que los humanos con la IA seríamos como unos niños jugando con una bomba, al considerarla un verdadero reto para el que aún no estamos preparados. Una incertidumbre que llevaría a la humanidad a cumplir sus sueños o a destruirlos para siempre. Al mismo tiempo, también advierte que sus palabras no son una prescripción para el fanatismo, sino una advertencia ante un desafío de aferrarnos a nuestra humanidad.
Como cualquier tecnología emergente, la IA requiere responsabilidad y ética en su uso y desarrollo. ¿Qué ocurriría si una decisión tomada por un dispositivo inteligente tuviera consecuencias negativas? ¿Sobre quién recae la responsabilidad? Por motivos como este, la necesidad de un marco jurídico adecuado y estable resulta imprescindible.
El mundo contemporáneo está cada vez más desarrollado, es más complejo y nos obliga a confiar en expertos, en instituciones, en algoritmos, en máquinas. Una confianza que no nos debe hacer evolucionar hacia un proceso de deshumanización en el que la humanidad acabe perdiendo el control de los valores democráticos en un contexto de desconfianza, como tampoco debemos dejarnos caer en un populismo tecnológico sin sentido alguno cuando, según los datos más recientes, el 53% de la población mundial dispone de un teléfono móvil con acceso a internet.
La clave está, pues, en desarrollar un entorno tecnológico de delegación democrática en el que la cesión de poder a las máquinas permita gobernar mejor la situación en general y mejorar los servicios públicos, con mayor eficacia, más prestaciones y más seguridad. Evidentemente, esto solo se consigue si la delegación democrática anteriormente mencionada está diseñada de tal forma que pueda ser revertida de una forma rápida y directa. Necesitamos un humanismo tecnológico que contribuya a que las sociedades y los sistemas políticos avancen, garantizando los derechos individuales a través de una implementación ética de la IA. Y dado que es un asunto global, ese humanismo también habrá de ser cosmopolita, planetario: el reto político es hercúleo, pero no imposible.
Vicente Pastor
Licenciado en Ciencias Políticas y de la Administración,
Máster en Democracia y Gobierno.
Asesor del Grupo Parlamentario del Partido Popular en el Congreso de los Diputados.
BIBLIOGRAFÍA
Bostrom, N. (2016). Superinteligencia. Caminos, peligros, estrategias. Zaragoza: Teell.
Comisión Europea (2020). Libro blanco sobre la inteligencia artificial. Un enfoque europeo orientado a la excelencia y la confianza. Bruselas.
Criado, J.I. (2021a). “Hacia una Política de Inteligencia Artificial en la Unión Europea y España”.
Criado, J.I. (2021b). Inteligencia Artificial (y Administración Pública). Eunomía. Revista en Cultura de la Legalidad 20: 348-372.
García Mexía, P. (2022). Contra el «ciberfatalismo». Beneficio y riesgo en la sociedad digital. Revista de las Cortes Generales 114: 285-354.
Innerarity, D.; Torres Aguilar, M. (2021). La democracia de los algoritmos. Actas del VI Congreso Córdoba Ciudad de Encuentro y Diálogo. Madrid: Dykinson.
OdiseIA. Observatorio del Impacto Social y Ético de la Inteligencia Artificial (2022). GuIA de buenas prácticas en el uso de la inteligencia artificial ética. Madrid: PricewaterhouseCoopers
Planas Bou, C. (2021). El Gobierno y la Generalitat usan algoritmos que pueden ser discriminatorios. El Periódico de España.
Ramió, C. (2019). Inteligencia Artificial y Administración Pública. Robots y humanos compartiendo el servicio público. Madrid: Catarata.
Select Committee on Artificial Intelligent. (2017). AI in the UK: ready, willing and able? House of LorsHouse of Lors.
Socías, M. (2018): “La revolución del big data en el sector privado y sus implicaciones para el sector público”, en AA.VV. Manual sobre utilidades del big data para bienes públicos, pp. 23-33. Madrid: Fundación Ortega-Marañón.
