Lo importante es la razón que da: para evitar que la IA invada peligrosamente competencias humanas, la solución es mejorar la ingeniería de los prompts, es decir, de las preguntas u órdenes que se dirigen a la IA. Para Musk, la ingeniería de instrucciones es el puente de comunicación entre los humanos y la IA. Cuanto más amplio sea el mapa mental y cultural de un individuo, más éticas, profundas y revolucionarias podrán ser las preguntas que formulen.
Me parece muy oportuno este recuerdo del prompting. Ante la IA, el usuario puede adoptar una postura pasiva, ignorante y crédula. En esa situación, la IA puede volverse invasiva por claudicación del sujeto. Pero el usuario también puede adoptar una postura crítica: dirigiendo el “pensamiento” de la IA, haciéndola buscar más fuentes de información y opiniones que contradigan la primera respuesta. Esta es la metodología del prompt, que es una aplicación tecnificada del método socrático, con el que tiene tantas similitudes que podríamos llamar a los prompts la mayéutica de la IA. En el diálogo Menón, Sócrates consigue que un esclavo ignorante demuestre el teorema de Pitágoras guiándole con preguntas. Lo que pretendía demostrar es que el alma del esclavo contempló todas las ideas mientras habitaba en el mundo inteligible, pero al nacer olvidó todo ese conocimiento. Las preguntas le permitían recordarlo. Los prompts hacen algo análogo: la colosal memoria de la IA guarda toda la información, pero las preguntas le hacen actualizar la pertinente.
”Cuanto más amplio sea el mapa mental y cultural de un individuo, más éticas, profundas y revolucionarias podrán ser las preguntas que formulen
La importancia de las preguntas también ha sido reconocida en las teorías sobre el management. Michael Marquardt, de la Universidad George Washington, lo explicó en su libro Leading with Questions.
El consejo de Elon Musk tiene dos partes. La primera es que el rendimiento de la IA depende de la calidad de las preguntas que le hagamos. La segunda, que para hacer buenas preguntas hay que saber muchas cosas. La memoria personal es la gran vendimiadora de la IA.
La correlación entre la calidad de las preguntas y la de las respuestas ha sido demostrada por muchos estudios. Solo citaré el llevado a cabo por la MIT Sloan School of Management, publicado con el título “Study: Generative AI results depend on user prompts as much as models”, donde se probaba que la eficacia de un modelo depende a partes iguales de su tecnología y de la calidad de los prompts. Otro, dirigido por Jason Wei en 2022 y titulado Chain-of-Thought Prompting Elicits Reasoning in Large Language Models, muestra que si el prompt se diseña para obligar a la IA a “pensar paso a paso”, el rendimiento real se dispara de forma espectacular sin cambiar una sola línea de su código.
En el mundo educativo debemos investigar sobre el uso de los prompts, porque puede vacunarnos contra muchos de los peligros que supone la IA, y hacerlo precisamente fomentando nuestra competencia resolutiva.
Para saber más
- El Panóptico, episodio 3×01: «La vacuna contra la insensatez»
- Entrevista a Elon Musk en CGTN (China Media Group)
- MIT Sloan: «Study: Generative AI results depend on user prompts as much as models»
- Jahani, Holtz et al.: «Prompt Adaptation as a Dynamic Complement in Generative AI Systems» (estudio completo)
- Wei et al. (2022): «Chain-of-Thought Prompting Elicits Reasoning in Large Language Models»
- Michael J. Marquardt: Leading with Questions: How Leaders Find the Right Solutions by Knowing What to Ask (Jossey-Bass)
- Jaime Rodríguez de Santiago: «Aprendiendo a aprender (VI)», sobre Elon Musk
