La segunda jornada de la V edición del programa de liderazgo organizado junto a la Fundación Conexus se ha centrado en los desafíos del vertiginoso desarrollo de la Inteligencia Artificial y la revolución digital que conlleva.
Los diez jóvenes becados que participan en el programa se vieron asaltados por preguntas difíciles de responder lanzadas por los tres profesores que dieron las clases magistrales. ¿Entienden las máquinas lo que están haciendo? ¿Podemos aprender pensamiento innovador de las máquinas? ¿Tenemos que confiscar la Inteligencia Artificial? ¿Cómo debemos diseñar éticamente la IA? ¿Para qué necesitamos a los humanos si la mejor decisión posible siempre la toma una máquina? Unas preguntas que dieron lugar a reflexiones y debates dinámicos entre profesores y alumnos.
José Luis Calvo
José Luis Calvo, cofundador de Diverger: los desafíos de la revolución digital
José Luis Calvo, cofundador de Diverger, empresa dedicada a la Inteligencia Artificial generativa, fue el encargado de abrir la segunda jornada con una ponencia sobre los desafíos de la revolución digital.
Comenzó haciendo un recorrido histórico sobre los distintos hitos que la tecnología ha ido consiguiendo a lo largo de las últimas décadas en cuanto a la fuerza bruta, los modelos de lenguaje y la representación artística. Contó desde las primeras veces que una máquina ganó a un humano hasta las últimas innovaciones inimaginables hace unos años. En 1996. Gasparov pierde una partida de ajedrez contra la máquina Deep Blue de IBM. La creación de modelos de lenguaje de GPT2 fue en 2019 y los últimos avances han sido la generación de arte de forma virtual con ejemplos como la creación de fotografías del Papa Francisco con chupa de cuero o la conducción autónoma. En San Francisco la empresa de automóviles waymo te lleva a casa sin que haga falta conductor.
La consecuencia de toda esta evolución de las nuevas tecnologías es la cuarta revolución industrial. “Por primera vez podemos automatizar tareas para las que necesitamos pensar”, apuntaba José Luis Calvo. La sustitución de los puestos de trabajo más cualificados por máquinas podría ser una realidad dentro de muy poco tiempo. “Con las nuevas tecnologías se puede hacer un diagnóstico de primer nivel, mejor que el que hace cualquier médico”, explicaba Calvo.
Si las máquinas hacen nuestros trabajos ¿Cómo se redistribuirá la riqueza? ¿Será un problema la ocupación de nuestro tiempo sin un trabajo al que acudir? Quizá, lo único que nos quede a los humanos, auguraba Calvo, que no es capaz de hacer una máquina, es el deseo de hacer algo.
Juan Ignacio Rouyet
Juan Ignacio Rouyet, doctor en informática: Ética e Inteligencia Artificial
Juan Ignacio Rouyet, presidente de We The Humans Think Tank y director académico de la Universidad Internacional de La Rioja abrió su sesión con una pregunta desafiante. Dado los tiempos actuales ¿Tenemos que confiscar la Inteligencia Artificial?
Habló de las dos visiones principales sobre la IA que imperan en la actualidad:
La primera se origina en el pensamiento de Alan Turing: “Una máquina es inteligente si puede imitar el comportamiento humano”. Esto da lugar a una visión fuerte de la Inteligencia Artificial.
La segunda es la defendida por John Searle y su experimento mental de la habitación china cuya conclusión es que la máquina sigue unas normas establecidas, pero no entiende lo que está haciendo. Este punto de vista da lugar a una visión más amplia de la IA, en la que la computación no es igual a pensamiento. ¿Cuál de las dos es la correcta?
“La realidad es que no hay solución a este debate”, confesó Rouyet después de las distintas reflexiones de los alumnos. “Es más bien cuestión de creencias”.
A continuación, explicó los retos éticos que existen en la actualidad con respecto a la IA. Más allá de las Deepfakes, los sesgos, las alucinaciones de la inteligencia generativa o la seguridad, Rouyet ve un riesgo mayor y oculto. “Los valores que transmite la Inteligencia Artificial que están dados por las personas que la crean”. De esta reflexión derivó la siguiente pregunta:
¿Cómo diseñar éticamente la IA? Basándose en la ética aplicada que se fundamenta en una mezcla de la ética de principios defendida por Kant, la ética de consecuencias de Jeremy Bentahm y el equilibrio entre ellas conseguido gracias a las virtudes.
Así, la aplicación de la IA debe explicar con qué fin legítimo se está utilizando esta tecnología, indagar los principios que van a guiar su desarrollo y uso dentro de la moral cívica de la sociedad, conocer y explicar de forma clara y precisa cómo está actuando y dejar al usuario decidir sobre su utilización.
Rafael Rubio imparte clase a los alumnos del Curso de Liderazgo
Rafael Rubio, Catedrático de Derecho Constitucional en la UCM: IA y campañas electorales
Rafael Rubio reflexionó sobre los peligros que la Inteligencia Artificial entraña para las democracias. “El gran mérito de las tecnologías es hacer pensar que la intermediación ya no existe, cuando es mentira”, explicó. De hecho, esta intermediación se ha vuelto más peligrosa porque “no sabemos que parámetros coge el algoritmo para hacerla”. Esta creencia se ha extendido al terreno de la política donde con la introducción de la tecnología, la democracia directa de los ciudadanos parece que empieza a ser posible, cuando en realidad siempre hay un partido intermediario.
Para Rafa Rubio, las dos amenazas futuras con respecto a la política y la IA es que las decisiones las acaben tomando las máquinas y no las personas y que tendamos hacia modelos peligrosos en los que los datos sean lo único que cuente.
Las tres clases magistrales terminaron con una merecida ovación para cada uno de los profesores.
