L. Mari, A. Giordani, con la colaboración de D. Bellasio, L’intelligenza artificiale di Platone
Milán: Il Sole 24 Ore, 2025.
Hay dos formas distintas de experimentar la llegada de una revolución. Por un lado, se puede reinterpretar la novedad como un simple paso dentro del recorrido histórico. En muchos casos, lo que nos parece extraordinariamente novedoso no es más que un paso adicional en la historia, algo que no cuestiona la concepción del mundo que se ha logrado hasta ese momento, y que representa más bien un movimiento de continuidad respecto al pasado.
Por otro lado, a veces ocurren este tipo de revoluciones que marcan un antes y un después en la historia. Estoy bastante convencido de que la tecnología de la Inteligencia Artificial pertenece a esta segunda categoría de las grandes revoluciones, equiparable solo a unas pocas más, como por ejemplo la invención de la escritura.
Es por eso por lo que he querido escribir una reseña de un texto cuyas tesis comparto en primera persona. L’intelligenza artificiale di Platone, escrito por Luca Mari (Profesor titular de Metrología en la Scuola di Ingegneria Industriale dell’Università Cattaneo - LIUC di Castellanza) y Alessandro Giordani (Profesor titular de Lógica, Epistemología y Filosofía de la Ciencia en la Università Cattolica del Sacro Cuore) con la colaboración de Daniele Bellasio (vicedirector de Il Sole 24 Ore), y publicado por Il Sole 24 Ore en 2025.
El libro aborda el tema de la revolución de la IA comparándola con la reflexión presente en el Fedro platónico, en el que el dios Theuth entrega el don de la escritura al rey egipcio Thamus. La intención del dios es que los egipcios se vuelvan más sabios a través del fortalecimiento de la memoria que la escritura proporcionaría.
Sin embargo, Thamus se muestra escéptico ante esta invención, pues teme que pueda volver más vulnerable la capacidad mnemónica de los seres humanos. Su argumentación invita a una reflexión: la escritura consiste en delegar la función de la memoria humana en un objeto externo, lo que implica el riesgo de que los seres humanos se vuelvan más frágiles.
La obra está disponible en italiano y aún no está traducida al español, por lo que informo al lector que las traducciones al castellano han sido realizadas por mí mismo, con la esperanza de que pronto cuente con una traducción oficial al castellano.
Al comienzo del texto, los autores proponen una readaptación moderna del diálogo platónico y plantean que, esta vez, el don del dios al rey no es la escritura, sino el chatbot:
Imaginemos entonces una continuación de la historia de Platón, dos mil cuatrocientos años después, en la que el diálogo entre el dios y el rey toma una dirección impensable no solo en el tiempo de Platón sino también hasta hace pocos años (p. 6).
A partir de la reformulación del diálogo, y retomando la actitud recelosa del rey hacia la nueva tecnología, se lleva a cabo una reflexión sobre la revolución de la IA. Esta reflexión trata, por un lado, de comprender mejor sus características técnicas y, por otro, de analizar el alcance filosófico de su difusión para los seres humanos. La idea de servirse del recelo del rey define claramente la postura de los autores: trazar un paralelismo entre las dos revoluciones en la medida en que ambas han aportado cambios profundos en la forma en la que los seres humanos experimentamos el mundo.
Tal y como Platón, en las palabras del rey Thamus, temía que la escritura pudiera reemplazar, como memoria externa, las capacidades mnemónicas humanas, del mismo modo, hoy la IA plantea la duda de si su uso podría tener efectos cognitivos en los seres humanos. Sin embargo, la cuestión se ha vuelto más compleja, ya que la IA generativa, siendo capaz de elaborar un discurso a través del entrenamiento, pone en tela de juicio un aspecto absolutamente distintivo de los seres humanos, por lo menos hasta ahora: la capacidad de pensar.
Tal y como Platón, en las palabras del rey Thamus, temía que la escritura pudiera reemplazar, como memoria externa, las capacidades mnemónicas humanas, del mismo modo, hoy la IA plantea la duda de si su uso podría tener efectos cognitivos en los seres humanos.
La cuestión principal es si el pensamiento artificial puede llegar a reemplazar o debilitar de alguna forma el pensamiento humano, tal y como la escritura habría reducido las capacidades mnemónicas de los seres humanos. A través de un lenguaje accesible a un público heterogéneo, el texto se presenta como una lectura completa y exhaustiva que acompaña al lector en el conocimiento de los Modelos de Lenguaje de Gran Tamaño (Large Language Models).
Está dividido en tres partes y nueve capítulos (más un Post-scriptum), que abordan el tema del machine learning, de las redes neuronales artificiales y la inteligencia artificial generativa, para luego pasar a reflexionar sobre las repercusiones en el ser humano en función del grado de desarrollo de la tecnología. Las tres partes tienen en común el estudio y el enfoque del fenómeno de la IA como revolución, una idea recurrente a lo largo de toda la obra.
La primera parte, “Una Revolución cultural”, introduce la analogía entre la invención de la escritura y la difusión de los chatbots generativos a través de la lectura contemporánea del mito de Theuth. A partir de ahí, se considera la IA como una posible sustituta de la “memoria social” de los seres humanos de la que la propia IA acabaría siendo depositaria.
Esta transformación puede convertir a los seres humanos en sujetos no ya activos y dinámicos, sino pasivos, ante la creciente capacidad de la IA para tomar decisiones e iniciativas. Además, los chatbots son capaces de dialogar activamente con el interlocutor humano, y de ahí la pregunta: ¿qué consecuencia tendría esto para las capacidades cognitivas humanas?
Estamos en un contexto en que las capacidades de la IA permiten una replicación cada vez más eficaz de la actividad humana, hasta llegar a las actualizaciones más recientes: una de las más impresionantes ha sido presentada el pasado 20 de mayo, cuando Google anunció Veo 3, la última versión de su modelo de generación de vídeos.
Los resultados obtenidos abren un debate sobre la dificultad creciente para distinguir entre lo real y lo artificial. A lo largo del texto, se pone en cuestión las concepciones aceptadas hasta ahora de diálogo e inteligencia, que podrían cambiar radicalmente su significado primordial al considerar que el otro también puede ser una máquina.
Otro aspecto particularmente interesante y urgente que se menciona es la cuestión del coste energético de la IA asociado al entrenamiento del hardware. En concreto, se menciona el entrenamiento de Llama 31.405 B, uno de los LLM de los que disponemos de más información. Esto ha sido entrenado con cinco mil millones de tokens (palabras o partes de palabras), esto es, alrededor de doscientos millones de libros, con un coste en infraestructuras de alrededor de mil millones de dólares. Otro dato interesante es que dicho entrenamiento ha supuesto un consumo energético de 1.300 MWh, que es equivalente al consumo energético de cien seres humanos durante veinte años.
En la segunda parte del libro, “En la base de la revolución”, los autores abordan desde un punto de vista más técnico la naturaleza de los chatbots generativos, explicando el funcionamiento del machine learning y de las redes neuronales artificiales con el objetivo de mostrar cómo imitan el funcionamiento de la mente humana.
La estructura de una learning machine se basa en redes neuronales caracterizadas por el número de conexiones, las cuales configuran el proceso de entrenamiento. Sin entrar en los detalles de la discusión – para lo cual se remite a la lectura del libro –, resulta interesante subrayar el paralelismo propuesto entre naturaleza y cultura en los seres humanos, que en el caso de la máquina se refleja en la distinción entre estructura (es decir, la programación inicial) y entrenamiento. Este último es el aspecto más interesante que distingue a las learning machines, las cuales son capaces de aprender en la medida en que adaptan su propio comportamiento a las condiciones del entorno.
La cuestión del entrenamiento termina inevitablemente por tocar cuestiones éticas, ya que esta tecnología es cada vez más capaz de tomar decisiones de forma autónoma (contrataciones, concesiones de préstamos, etc.). Uno de los grandes retos éticos es que el entrenamiento puede estar condicionado (de hecho, lo está) por distintos tipos de sesgos: desde sesgos en los datos hasta sesgos en su procesamiento, a los que hay que añadir los sesgos de tipo social, cultural o político. Es fundamental debatir seriamente sobre el tema, ya que estos sesgos pueden tener consecuencias nefastas, replicando injusticias, estereotipos, diferencias estructurales.
En esta sección también se abarca la manera en que los chatbots desarrollan el lenguaje. Es interesante hacer mención de ello: las inteligencias artificiales generativas aprenden el lenguaje a través de la experiencia de lectura de textos según un modelo bottom-up que (el mismo con el que evoluciona el lenguaje natural) y no porque se les haya enseñado a aplicar las reglas gramaticales de la lengua (como se haría en un modelo top-down con que suele funcionar el lenguaje formal).
En ese sentido se puede entender bien cómo se refleja la idea de cultura-entrenamiento aplicado a la IA: es el resultado de un aprendizaje orientado a comprender las conexiones semánticas entre las palabras e identificar las dinámicas típicas de los diálogos del lenguaje natural.
Una learning machine está entrenada para predecir lo desconocido a partir de lo conocido, donde lo conocido es la información previamente conocida y lo desconocido representa la manera en que puede proseguir la conversación. En este sentido, la manera en que se desarrolla el lenguaje en el chatbot se inspira en las “cadenas de pensamiento” humanas: se descompone el problema en subproblemas y se trata de reconocer y detectar sus propios errores para poder cambiar de estrategia y lograr que el lenguaje y la comunicación sean efectivos.
La tercera parte, “Una nueva concepción del ser humano”, es guiada por una pregunta que representa la cuestión fundamental de la obra: si las capacidades de la IA son similares a las humanas, ¿lo serán también sus funciones? Dicho con otras palabras, ¿el hecho de que sepan dialogar implica que también sepan pensar? Si queremos verlo desde una perspectiva más directa, la pregunta de fondo es la que da título al capítulo 7: ¿Estamos destinados a volvernos estúpidos?
Esta pregunta provocadora adquiere más sentido si pensamos que la delegación del pensamiento humano a las máquinas podría, de alguna forma, aniquilar nuestras capacidades de concentración y comprensión.
Frente a esta cuestión, los autores plantean tres grandes problemas (p. 84):
- ¿Es cierto que el uso de estos sistemas está modificando nuestros procesos cognitivos?
- Si esto es cierto, ¿nuestras capacidades cognitivas están cambiando a peor?
- Y si esto es cierto, ¿qué podemos hacer para evitarlo?
Con respecto a la primera pregunta, los autores afirman que sí, que los procesos cognitivos podrían verse afectados por el desarrollo de las capacidades artificiales. Para entender mejor esto, el libro hace referencia al proceso de delegación de capacidades y trae ejemplos de las invenciones tecnológicas del pasado. Como explican los autores, es suficiente observar los efectos de las revoluciones tecnológicas del pasado:
La difusión de los telares mecánicos hizo que se fuera perdiendo progresivamente la capacidad de tejer manualmente, y las máquinas calculadoras han sustituido en las tareas ordinarias a muchas personas cuyo trabajo consistía en realizar cálculos manualmente (p. 85).
No obstante, la pérdida de unas capacidades no tiene por qué ser un problema por sí. En este sentido, diferencian entre estupidez e ignorancia. No ser capaz de hacer algo no nos hace estúpidos, al contrario: incluso puede aumentar la inteligencia. Por ejemplo, el desplazamiento de las capacidades de cálculo a las calculadoras ha permitido el desarrollo del pensamiento científico en general gracias a la rapidez con que se han podido solucionar los cálculos simples.
Con respecto a la segunda pregunta, de si nuestras capacidades cognitivas van a empeorar, en efecto, el caso de la IA respecto a otras invenciones es diferente. De hecho, se trata de una tecnología ya no solo instrumental, en el sentido de que requiere de “inteligencia” para ser llevada a cabo (los autores deciden no entrar en la cuestión de si realmente son inteligentes; se limitan a reconocer que realizan tareas que requieren inteligencia para ser llevadas a cabo). Por esta razón, el riesgo de que nuestras capacitades cognitivas empeoren es posible, si dejamos de usarlas y las delegamos a la IA. Si esta delegación fuera sistemática, entonces sí, nuestras capacidades cognitivas empeorarían.
La IA es una tecnología ya no solo instrumental, en el sentido de que requiere de “inteligencia” para ser llevada a cabo (los autores deciden no entrar en la cuestión de si realmente son inteligentes; se limitan a reconocer que realizan tareas que requieren inteligencia para ser llevadas a cabo). Por esta razón, el riesgo de que nuestras capacitades cognitivas empeoren es posible, si dejamos de usarlas y las delegamos a la IA. Si esta delegación fuera sistemática, entonces sí, nuestras capacidades cognitivas empeorarían.
Para contestar a la tercera pregunta, es decir, qué podemos hacer para evitar que nuestras capacidades cognitivas vayan a peor, se tiene en consideración un aspecto importante del uso que hacemos de nuestras facultades. De hecho, el uso que hacemos de nuestra inteligencia no es solo instrumental (motivación extrínseca como, por ejemplo, estudiar para encontrar trabajo), sino que también implica una dimensión intrínsecamente satisfactoria, como forma de autorrealización.
En este sentido, en opinión de los autores, para evitar que nuestra inteligencia deteriore, habría que preservar la importancia esencial la importancia de la autorrealización (autonomía, capacidad de relacionarse y operar eficazmente en el mundo) para evitar el embrutecimiento. Por lo tanto, la cuestión central versa sobre qué es lo que nos hace insustituibles. Debemos comprometernos a no volvernos estúpidos, pues esto podría evitar un escenario no deseable que podría repetir las diferencias entre personas:
Lo que estamos discutiendo, y lo que deberíamos proponernos evitar, no es tanto el escenario radicalmente distópico en el que las inteligencias artificiales sometan a todas las naturales, volviéndonos a todos estúpidos, sino más bien la situación —mucho más probable— en la que la tecnología podría actuar, también en este caso y una vez más, como amplificadora de las diferencias (p. 91).
L’inteligencia artificiale di Platone es un libro de gran actualidad y relevancia, que llega al gran público a través de su accesibilidad, claridad e importancia de los temas tratados. Cabe destacar la prontitud con que los autores abordan cuestiones cada vez más urgentes sobre la IA. Situándose en el fértil debate sobre esta nueva tecnología, la obra se muestra crítica y agnóstica respecto a posiciones prefabricadas, lo que la convierte en una aportación relevante para quienes deseen comprender mejor el impacto que la inteligencia artificial tendrá (y ya está teniendo) en nuestras vidas e identidades.
Sería interesante abrir un diálogo con los autores para poder profundizar en temas que han sido tratados y quizás merecerían un mayor desarrollo, como las implicaciones sociales y políticas, el impacto energético y en el medioambiente de este gran recurso, tocando el tema de la vigilancia algorítmica, el control social por medio de la tecnología y la cuestión de la ampliación de las desigualdades sociales generadas por un mal uso de la tecnología.
Me resulta extremadamente interesante ver cómo estamos viviendo, y en eso coincido plenamente con los autores, una época de revolución que no tiene comparación (si no, quizás, con la escritura mencionada por Platón) y que nos pone delante la pregunta sobre cuestiones tan basilares -y que hasta ahora dábamos- por sentadas, como pueden ser la identidad del ser humano, el pensamiento o la inteligencia. Todo ello hace imprescindible que, desde la Filosofía y la Ética, sigamos preguntándonos qué significa ser humanos, ya que el desarrollo de esta tecnología vuelve cada vez más actual esta pregunta tan antigua.
Fabio Scalese
Doctor en Filosofía
Facultad de Ciencias Políticas y Sociología León XIII