Ética y conciencia archivos - Fundación Pablo VI Fpablovi Tue, 29 Jul 2025 14:51:36 +0000 es hourly 1 https://wordpress.org/?v=7.0 https://fpablovi.org/wp-content/uploads/2026/03/cropped-logo2-32x32.png Ética y conciencia archivos - Fundación Pablo VI 32 32 245582197 Reflexiones sobre ética y conciencia en la era de la IA https://fpablovi.org/reflexiones-sobre-etica-y-conciencia-en-la-era-de-la-ia/ https://fpablovi.org/reflexiones-sobre-etica-y-conciencia-en-la-era-de-la-ia/#respond Mon, 08 Jan 2024 15:17:31 +0000 https://romantic-sanderson.82-223-123-43.plesk.page/index.php/2024/01/08/reflexiones-sobre-etica-y-conciencia-en-la-era-de-la-ia/ “Nos encontramos en la encrucijada de un cambio paradigmático, donde nuestras decisiones actuales sobre la IA y su regulación modelarán la esencia misma de nuestra sociedad y humanidad en las décadas venideras” El 14 de diciembre de 2023 se llevó a cabo en la Escuela Técnica Superior de Ingeniería de la Universidad Pontificia Comillas el VII Seminario Interdisciplinar Tecnología y Religión, organizado por la Cátedra Hana y Francisco J. Ayala de Ciencia, con el objetivo de debatir sobre la inteligencia artificial (IA) y su intersección con la humanidad. El seminario brindó una magnífica ocasión para reflexionar sobre los recientes avances en la legislación sobre IA en la Unión Europea. A partir de un análisis etimológico de la palabra, el seminario comenzó con un estudio histórico-filosófico de la inteligencia (Alfredo Marcos), marcando así el camino que se reflejaría en una reflexión sobre el fenómeno emergente de la IA que estamos tratando de comprender y que se está integrando en nuestra existencia a una velocidad exponencial. Ya a partir de la primera ponencia, se planteó el enfoque central que surgió en prácticamente todas las intervenciones: la distinción entre la inteligencia humana y la artificial, al menos hasta la fecha, siendo esta última carente de conciencia.   Para reforzar esta idea, Marcos se posicionó en contra de términos como “aprendizaje automático” (machine learning) y “aprendizaje profundo” (deep learning), que pueden sugerir erróneamente que las máquinas son capaces de pensar. En su lugar, expresiones como “inteligencia asistida” o “ampliada” proponen un modelo de colaboración en lugar de autonomía, invitándonos a reflexionar sobre el rol de la IA: no como una entidad independiente, sino como una herramienta que amplifica nuestras capacidades humanas. Esta idea se fue consolidando a lo largo del desarrollo de la jornada, resaltando la idea que la IA puede realizar tareas específicas y resolver problemas concretos, pero carece de una verdadera comprensión y de la capacidad para enfrentar problemas en un sentido más abstracto, ya que simplemente no posee la facultad de tenerlos. Esta marcada distinción coloca a la IA en un profundo contraste con la inteligencia humana, la cual está intrínsecamente vinculada a nuestra habilidad para navegar, comprender y resolver problemas en un contexto de vida real. En este sentido, se pusieron de manifiesto las facetas de la inteligencia humana, explorando temas como la inteligencia emocional y la inteligencia cordial (Alicia Villar) con el objetivo de enfatizar el valor de cualidades humanas como la amabilidad y la cordialidad, considerándolas formas típicamente humanas de comprender y afrontar la realidad. Además, se analizó la forma en que los seres humanos aprenden a través de la inteligencia pedagógica (Nereida Bueno), resaltando cómo el aprendizaje humano trasciende la mera acumulación de conocimientos. Se abordaron también los temas de la inteligencia colectiva (Adolfo Castilla) y de la inteligencia espiritual (Pedro Rodríguez Panizo). Esta distancia determinada por la conciencia (la predisposición a tener estados mentales, voluntad, intuición, fantasía) que caracteriza los seres humanos quedó claramente reflejada en las fascinantes presentaciones finales sobre la inteligencia consciente (Carlos Blanco y Eduardo Garrido), con una clara referencia a la “habitación china” de John Searle, un argumento que cuestiona si la IA, por avanzada que sea, puede realmente “entender” en el mismo sentido que un humano, lo que toca la esencia de la conciencia y la comprensión. Estas presentaciones invitaron a considerar aspectos de la IA que van más allá de lo técnico y tangible, adentrándonos en un territorio que cuestiona la relación entre la tecnología y el espíritu humano y considerando las combinaciones posibles de una inteligencia con conciencia (los seres humanos), de una conciencia sin inteligencia (por ejemplo, los seres humanos en estado de coma) y de una inteligencia sin conciencia (la IA). Es un hecho: en la actualidad la IA no tiene una conciencia y esto marca una diferencia, me atrevería a decir, abismal con lo que significa ser humano. Sin embargo, a lo largo del curso se fue generando una sospecha, más o menos declarada: ¿la IA podría en algún momento tener una conciencia? Esta sospecha se fue reforzando a través de algunas consideraciones presentes en las intervenciones sobre los límites de la IA (Álvaro López, Mario Castro y Javier Sánchez Cañizares), así como en la ponencia sobre la posibilidad de una “justicia artificial” (Federico de Montalvo). En la primera, se plantearon cuestiones fundamentales sobre las capacidades y limitaciones de la IA, comparándolas con las habilidades humanas. Un punto crucial fue el “problema de la alineación” entre el cerebro humano y la IA, subrayando la complejidad de programar máquinas que comprendan nuestras intenciones y objetivos. Este desafío resalta la importancia de garantizar que los sistemas de IA actúen en consonancia con los valores humanos, lo que abre la puerta a cuestiones éticas en el ámbito de la nueva tecnología. En la segunda intervención sobre la “justicia artificial”, se planteó la pregunta de si la IA podría asistir en la revisión de casos legales, reconociendo al mismo tiempo sus limitaciones en comprender contextos culturales y matices éticos intrínsecos al razonamiento jurídico. De hecho, aunque la IA puede llegar a conocer todas las leyes, carece actualmente de la capacidad de juicio e interpretación necesaria para comprender verdaderamente el derecho. Se argumentó que el concepto de justicia, ligado a normas objetivas, posee un componente de subjetividad que la IA no puede replicar. La cuestión de la conciencia, de los límites y del derecho en el ámbito de la IA nos llevan naturalmente a considerar los últimos avances de la Ley de IA que se va desarrollando en la Unión Europea. Aquí vemos cómo los conceptos teóricos discutidos se traducen en acciones legislativas concretas, enfrentando desafíos éticos similares en un marco legal. Regulación europea y derechos universales del ser humano El 9 de diciembre de 2023 marcó un hito importante para la Unión Europea, ya que su Parlamento alcanzó un acuerdo provisional con el Consejo respecto a la Ley de IA[1]. Este pacto, que aún requiere la aprobación formal tanto del Parlamento como del Consejo, es un paso crucial para

La entrada Reflexiones sobre ética y conciencia en la era de la IA se publicó primero en Fundación Pablo VI.

]]> https://fpablovi.org/reflexiones-sobre-etica-y-conciencia-en-la-era-de-la-ia/feed/ 0 3270