El 25.2.2023 Manuel Castells publicó en LA VANGUARDIA un artículo sobre Chat GPT, el programa de Inteligencia Artificial desarrollado por Open IA. Exponía las posibilidades y los riesgos de ese sistema. Era un artículo escrito en la prosa sobria, informativa y poco brillante de Castells. Lo interesante estaba en el último párrafo: “Este texto hasta aquí es generado por ChatGPT-3 tras mi demanda: “Escribe una nota de opinión sobre ChatGPT como si fueras Manuel Castells”. Al día siguiente, el mismo periódico publicaba sendos discursos sobre el aborto según la ideología del PSOE y de VOX, redactados en medio minuto por el citado programa. El mundo está inquieto y con razón acerca de las posibilidades de la Inteligencia Artificial. A mí me interesa, sobre todo, lo que ese programa nos dice sobre cómo funciona nuestra propia inteligencia. GPT son las iniciales de Generative Pre-trained Transformer. Cuando habla, nuestro cerebro también podría considerarse un “generador previamente entrenado”. No olvidemos que el núcleo de la teoría lingüística de Noam Chomsky es una “gramática generativa” capaz de transformar estructuras profundas en variadas estructuras lingüísticas.
“El mundo está inquieto y con razón acerca de las posibilidades de la Inteligencia Artificial”
A la pregunta que me estoy haciendo en este Diario – ¿Quién piensa cuando yo pienso? – puedo responder: “mi inteligencia generadora”, es decir, mi ChatGPT personal, biológico, que responde cuando le pregunto. Los diseñadores del programa GPT han mirado al cerebro humano, y ahora nos ofrecen herramientas para comprenderlo mejor.
Los componentes del ChatGPT son una gigantesca memoria entrenada, y sistemas operativos para relacionar y combinar elementos. Tras una primera producción incluye un proceso de supervisión para afinar los resultados. Lo que sorprende es que la máquina no comprende nada de lo que está haciendo, lo mismo que sucede con los programas de traducción automática. Se limita a establecer aquellos enlaces que tienen mayor probabilidad de ser correctos. Lo mismo le sucede a nuestro cerebro. Tampoco entiende lo que está haciendo. Homo non intelligendo fit omnia, escribió Vico. Cuando le hacemos una pregunta, activamos redes que elabora una respuesta. Pero el impulso nervioso que recorre las neuronas no sabe lo que busca. Elige ciegamente los enlaces que tienen más peso, sigue los camino más transitados. Programas como el GTP ponen de relieve que la fuente de las ocurrencias es una “memoria entrenada”. También en los humanos. Yo no puedo hacer directamente que se me ocurra una idea, un chiste, un poema. Tengo que pedírselo a esa “memoria generativa”, que previamente he tenido que adiestrar. Puedo construir una memoria de escritor, de matemático, o de estúpido. Esta última, decía Sartre, es una inteligencia inerte, que se limita a repetir los tópicos ambientales. Por supuesto, la memoria no guarda solo contenidos, sino procedimientos, hábitos operativos, habilidades. A la memoria muscular de Nadal se le ocurren movimiento, golpes, y estrategias en acción.
La producción de ocurrencias por un cerebro y por un programa digital sofisticado como el que estoy comentando guarda analogías en su origen. Ambos reciben un input, un desencadenante, un estímulo (I), lo elaboran con ayuda de la memoria (I+M), y emiten un output, una respuesta (O). El proceso, por lo tanto, es
I.………I+M………..O
A partir de esa base común, el cerebro añade otra. Puede ser consciente del output (O), de la respuesta. Es una fantástica novedad. Gracias a ella, podemos evaluar, rechazar, aceptar o corregir los contenidos presentados. De eso se encargan las funciones ejecutivas, que he estudiado en La inteligencia ejecutiva y Proyecto Centauro. Los psicólogos evolucionistas piensan que la posibilidad de operar con esas representaciones intencionadamente es el gran recurso de nuestra inteligencia. Merlin Donald lo identificaba con el manejo voluntario de la memoria. Karmiloff-Smith, con la capacidad de reescribir las representaciones en otro formato, lo que permite vínculos representativos entre diferentes áreas Mithen considera que es la “fluidez cognitiva” lo que permite todo esto.
«Toda la incertidumbre y la ansiedad que nos producen los fantásticos logros de la Inteligencia Artificial pueden quedar amortiguados si nos centramos en elaborar los criterios de evaluación a que debe someterse»
Es fácil ver que, para poder realizar esa labor de aceptación, corrección, o rechazo el sujeto debe tener en su memoria un criterio de evaluación con el que comparar las ocurrencias nuevas. No hay progreso en ninguna actividad si no sabes si lo estás haciendo bien o mal. En la tarea creadora, la fase más importante no es la producción de ocurrencias, sino la creación por parte del artista de su estilo (su criterio de evaluación) que acabará funcionando automáticamente y que le permitirá elegir las propuestas de mayor calidad. “Crear es el proceso de seleccionar gradualmente entre una infinidad de posibilidades”, dice David Perkins, director del Proyecto Zero de Harvard. Según el poeta Paul Valéry, “las tres cuartas partes de un trabajo bien hecho consiste en rechazar”. El gran novelista Julien Green, que analizó su modo de escribir, en su oceánico Diario, escribe:” Al principio de una novela me equivoco completamente: escribo veinte o treinta páginas antes de darme cuenta de que he emprendido un camino equivocado (…) Es preciso que me detenga y que comience otra vez hasta que algo me advierte que estoy en lo cierto”. Van Gogh escribe a su hermano cuanto le cuesta dibujar como quiere: “En el caso de que cincuenta no bastaran, dibujare cien, y si esto no fuera suficiente todavía, haré más aún, hasta que obtenga plenamente lo que deseo”.
También en los sistemas de Inteligencia Artificial el problema más endiablado es el de evaluar. Un programa de alto nivel puede producir millones de jugadas en un segundo. Lo difícil es identificar en esa multitud la mejor. Las actividades de la inteligencia podemos reformularlas como “soluciones a un problema”, lo que exige poder compararlas y poder reconocer la mejor. Toda la incertidumbre y la ansiedad que nos producen los fantásticos logros de la Inteligencia Artificial pueden quedar amortiguados si nos centramos en elaborar los criterios de evaluación a que debe someterse. Esta debe ser nuestra prioridad.
