Diverger archivos - Fundación Pablo VI

Segunda Jornada del Programa de Liderazgo Humanista: Desafíos y soluciones para la IA

admin — Tue, 16 Jun 2026 13:43:13 +0000

La incertidumbre parece ser el rasgo principal de nuestros tiempos. La irrupción de la digitalización y la Inteligencia Artificial, con cambios cada vez más rápidos y vertiginosos, hacen prever un futuro inseguro en algunos ámbitos como en el del trabajo. Muchas profesiones y actividades se automatizarán y la realidad laboral cambiará sustancialmente. Para abordar los cambios inminentes es necesario conocer cómo funciona la IA y así poder tomar decisiones conscientes. La segunda jornada del programa de Liderazgo Humanístico estuvo dedicada a conocer los desafíos y los riesgos que generará la IA a corto y medio plazo. José Luis Calvo, cofundador de Diverger, impartió la primera ponencia. “Este año he cambiado bastante el planteamiento de la ponencia para hablarles de algo que es muy actual. En los últimos meses han ido apareciendo los sistemas multiagente que automatizan numerosas tareas. Y a partir de este ejemplo de lo que está ocurriendo con la profesión de desarrollador de software, extrapolarlo a otras profesiones”. Juan Ignacio Rouyet, doctor en informática e ingeniero de telecomunicaciones y senior manager en Eraneos, impartió la segunda ponencia en la que habló de los riesgos éticos que existen con respecto a la IA. “Hay algunos que son más conocidos como las deepfakes o el sesgo y otras que lo son menos, como las alucinaciones o las alteraciones de resultados, que consiste en un resultado erróneo provocado por un tercero, no casual. Hay que conocer que buenas prácticas se pueden hacer para que un tercero no te altere un resultado”. El conocimiento de los riesgos da herramientas para poder tomar decisiones éticas cuando se presenta un dilema entorno a la IA. Una oportunidad de dialogar y compartir ideas Las ponencias del programa de Liderazgo Humanístico son una oportunidad para compartir ideas. Los jóvenes oyentes tienen la ocasión de debatir con profesionales de distintos ámbitos generando un diálogo que enriquece a ambas partes. “Me gustan mucho las preguntas y reflexiones que hacen. La edad da mucha frescura”, explicaba José Luis Calvo. “Los jóvenes son la sociedad del futuro y un buen líder debe tener una visión Humanista como la impartida en este programa”, apuntaba Juan Ignacio Rouyet. Por la tarde, los jóvenes asistirán al coloquio “La divulgación científica ante la polarización”, una actividad programa por la Fundación Pablo VI.

La entrada Segunda Jornada del Programa de Liderazgo Humanista: Desafíos y soluciones para la IA se publicó primero en Fundación Pablo VI.

Segunda jornada del curso de Liderazgo Humanista: los desafíos de la revolución digital

admin — Wed, 18 Jun 2025 13:35:03 +0000

La segunda jornada del programa de Liderazgo Humanista de la Fundación Conexus y la Fundación Pablo VI versó sobre los retos que plantean los cambios tecnológicos de la Inteligencia Artificial en distintos ámbitos como el social, el ético o el político y las consecuencias que pueden tener estos cambios a medio y largo plazo. Las nuevas herramientas tecnológicas permiten que las máquinas creen como un humano, escriban como un humano, establezcan las secuencias lógicas de un humano y casi piensen. Se plantea hasta la posibilidad de que las máquinas puedan alcanzar un nivel de conciencia que nos iguale. José Luis Calvo, ingeniero, y cofundador de Diverger, una empresa que se dedica al desarrollo de tecnologías para la adaptación de las empresas a la nueva era digital es, con sus reflexiones sobre los límites éticos de esta revolución, ya un habitual en el programa. En él invita a los jóvenes a hacerse preguntas sobre aquellos dilemas que surgen tanto en la creación de la tecnología, como en sus usos y aplicaciones. Desde su conocimiento y experiencia, cree que todo intento de atribuir a las máquinas potencialidades humanas que, incluso, nos superen en nivel de consciencia, no son más que ciencia ficción. “Una cosa es entender y otra comprender. Esto último significa conciencia, historia, sentimientos… Y eso no puede ser sustituido por una máquina, que, no hay que olvidar, se nutre de la información que nosotros seamos capaces de trasladarle”. En esta misma línea, Juan Ignacio Rouyet, doctor en informática, les habló de la importancia de una ética para la aplicación de la IA; para evitar sesgos, manipulaciones, distorsiones de la realidad; y ataques a la verdad y a la libertad de los individuos. Todas estas cuestiones las ha plasmado en un libro con el título “Cómo usar la inteligencia artificial sin que ella te utilice a ti”, que tiene el objetivo de hacer reflexionar sobre el miedo infundado que se le tiene a la IA, a la vez que invita a pensar en todas sus ventajas. ¿La utilización masiva de la IA supondrá el fin de la democracia? Rafael Rubio, catedrático de Derecho Constitucional en la UCM, impartió la última ponencia del día. Su charla se centró en la posibilidad de que la Inteligencia Artificial pueda acabar con la democracia tal y como la conocemos ahora. “Para analizar este punto es primero preciso ver si esta tecnología está cambiando la sociedad”, puntualizó. La creencia de que la Inteligencia Artificial es objetiva y neutra y que puede llegar a las mejores decisiones por sí misma ha generado unas expectativas que derivan en que una parte de la población crea que la democracia no tiene porqué ser mejor sistema político que otro no democrático, lo importante es que el sistema que haya de resultados, que asegure una prosperidad. Según Rafael Rubio, el modelo de democracia ha ido cambiando a lo largo de la historia desde su aparición. En la actualidad, estamos entrando en una cuarta fase que se caracteriza por una concentración de poder en manos de organizaciones y empresas que definen lo que es el interés común de una sociedad y ponen al Estado a trabajar a su servicio. Las tres sesiones fueron abiertas a la participación de todos los jóvenes, siguiendo el objetivo principal de un curso que busca la deliberación y el ejercicio de pararse a pensar sobre los grandes cambios a los que nos enfrentamos en este cambio de época.

La entrada Segunda jornada del curso de Liderazgo Humanista: los desafíos de la revolución digital se publicó primero en Fundación Pablo VI.

Segunda jornada del programa de liderazgo centrada en los desafíos de la Inteligencia Artificial

admin — Wed, 09 Oct 2024 06:25:34 +0000

La segunda jornada de la V edición del programa de liderazgo organizado junto a la Fundación Conexus se ha centrado en los desafíos del vertiginoso desarrollo de la Inteligencia Artificial y la revolución digital que conlleva. Los diez jóvenes becados que participan en el programa se vieron asaltados por preguntas difíciles de responder lanzadas por los tres profesores que dieron las clases magistrales. ¿Entienden las máquinas lo que están haciendo? ¿Podemos aprender pensamiento innovador de las máquinas? ¿Tenemos que confiscar la Inteligencia Artificial? ¿Cómo debemos diseñar éticamente la IA? ¿Para qué necesitamos a los humanos si la mejor decisión posible siempre la toma una máquina? Unas preguntas que dieron lugar a reflexiones y debates dinámicos entre profesores y alumnos. José Luis Calvo, cofundador de Diverger: los desafíos de la revolución digital José Luis Calvo, cofundador de Diverger, empresa dedicada a la Inteligencia Artificial generativa, fue el encargado de abrir la segunda jornada con una ponencia sobre los desafíos de la revolución digital. Comenzó haciendo un recorrido histórico sobre los distintos hitos que la tecnología ha ido consiguiendo a lo largo de las últimas décadas en cuanto a la fuerza bruta, los modelos de lenguaje y la representación artística. Contó desde las primeras veces que una máquina ganó a un humano hasta las últimas innovaciones inimaginables hace unos años. En 1996. Gasparov pierde una partida de ajedrez contra la máquina Deep Blue de IBM. La creación de modelos de lenguaje de GPT2 fue en 2019 y los últimos avances han sido la generación de arte de forma virtual con ejemplos como la creación de fotografías del Papa Francisco con chupa de cuero o la conducción autónoma. En San Francisco la empresa de automóviles waymo te lleva a casa sin que haga falta conductor. La consecuencia de toda esta evolución de las nuevas tecnologías es la cuarta revolución industrial. “Por primera vez podemos automatizar tareas para las que necesitamos pensar”, apuntaba José Luis Calvo. La sustitución de los puestos de trabajo más cualificados por máquinas podría ser una realidad dentro de muy poco tiempo. “Con las nuevas tecnologías se puede hacer un diagnóstico de primer nivel, mejor que el que hace cualquier médico”, explicaba Calvo. Si las máquinas hacen nuestros trabajos ¿Cómo se redistribuirá la riqueza? ¿Será un problema la ocupación de nuestro tiempo sin un trabajo al que acudir? Quizá, lo único que nos quede a los humanos, auguraba Calvo, que no es capaz de hacer una máquina, es el deseo de hacer algo. Juan Ignacio Rouyet, doctor en informática: Ética e Inteligencia Artificial Juan Ignacio Rouyet, presidente de We The Humans Think Tank y director académico de la Universidad Internacional de La Rioja abrió su sesión con una pregunta desafiante. Dado los tiempos actuales ¿Tenemos que confiscar la Inteligencia Artificial? Habló de las dos visiones principales sobre la IA que imperan en la actualidad: La primera se origina en el pensamiento de Alan Turing: “Una máquina es inteligente si puede imitar el comportamiento humano”. Esto da lugar a una visión fuerte de la Inteligencia Artificial. La segunda es la defendida por John Searle y su experimento mental de la habitación china cuya conclusión es que la máquina sigue unas normas establecidas, pero no entiende lo que está haciendo. Este punto de vista da lugar a una visión más amplia de la IA, en la que la computación no es igual a pensamiento. ¿Cuál de las dos es la correcta? “La realidad es que no hay solución a este debate”, confesó Rouyet después de las distintas reflexiones de los alumnos. “Es más bien cuestión de creencias”. A continuación, explicó los retos éticos que existen en la actualidad con respecto a la IA. Más allá de las Deepfakes, los sesgos, las alucinaciones de la inteligencia generativa o la seguridad, Rouyet ve un riesgo mayor y oculto. “Los valores que transmite la Inteligencia Artificial que están dados por las personas que la crean”. De esta reflexión derivó la siguiente pregunta: ¿Cómo diseñar éticamente la IA? Basándose en la ética aplicada que se fundamenta en una mezcla de la ética de principios defendida por Kant, la ética de consecuencias de Jeremy Bentahm y el equilibrio entre ellas conseguido gracias a las virtudes. Así, la aplicación de la IA debe explicar con qué fin legítimo se está utilizando esta tecnología, indagar los principios que van a guiar su desarrollo y uso dentro de la moral cívica de la sociedad, conocer y explicar de forma clara y precisa cómo está actuando y dejar al usuario decidir sobre su utilización. Rafael Rubio, Catedrático de Derecho Constitucional en la UCM: IA y campañas electorales Rafael Rubio reflexionó sobre los peligros que la Inteligencia Artificial entraña para las democracias. “El gran mérito de las tecnologías es hacer pensar que la intermediación ya no existe, cuando es mentira”, explicó. De hecho, esta intermediación se ha vuelto más peligrosa porque “no sabemos que parámetros coge el algoritmo para hacerla”. Esta creencia se ha extendido al terreno de la política donde con la introducción de la tecnología, la democracia directa de los ciudadanos parece que empieza a ser posible, cuando en realidad siempre hay un partido intermediario. Para Rafa Rubio, las dos amenazas futuras con respecto a la política y la IA es que las decisiones las acaben tomando las máquinas y no las personas y que tendamos hacia modelos peligrosos en los que los datos sean lo único que cuente. Las tres clases magistrales terminaron con una merecida ovación para cada uno de los profesores.

La entrada Segunda jornada del programa de liderazgo centrada en los desafíos de la Inteligencia Artificial se publicó primero en Fundación Pablo VI.