He participado en el programa «No es un día cualquiera» de Pepa Fernández en RNE hablando sobre las novísimas tecnologías (como el ChatPGT) y la escuela. El tema es de tal envergadura que me inquieta la pasividad con que estamos contemplando tan acelerados acontecimientos. Wait and see, esperar y ver, implica aceptar que las decisiones la tomen otros. Respecto a las nuevas tecnologías digitales retoña la permanente polémica entre apocalípticos e integrados. Y mientras seguimos discutiendo si son galgos o podencos, los sistemas educativos acabarán siendo dirigidos por la tecnología.
Como vieron los grandes filósofos de todos los tiempos, los problemas educativos, que se refieren a la preparación del futuro, son los que exigen un conocimiento de superior nivel, metacientífico, del que carecemos ahora, cuando es más necesario por la potencia de las posibilidades. La educación necesita grandes talentos, conocedores de lo que está sucediendo, que presenten a la sociedad un convincente “proyecto de inteligencia” capaz de orientar el porvenir. Vuelvo a acordarme de frase de Thomas Homer-Dixon, que mencioné en el post anterior: “¿Seremos capaces de producir el talento que necesitamos para resolver los colosales problemas a que nos enfrentamos?”. ¿La Inteligencia Artificial será la respuesta?
Creo que cuando hablamos de las extraordinarias posibilidades de los sistemas de Inteligencia Artificial, admirados o asustados por su capacidad de manejar datos, estamos mirando donde no debemos. El problema no se da en el ámbito del conocimiento, sino en el ámbito de la acción. Lo explicaré. La Inteligencia humana (IH) y la inteligencia artificial (IA) no juegan en la misma Liga. La IH tiene como función dirigir bien la acción. La IA, manejar bien los datos. El éxito supremo de la Inteligencia Artificial sería dirigir el comportamiento de las personas, es decir, cambiar de Liga. Puede parecer sensato, porque, en teoría, al aumentar nuestra capacidad de acceder a los datos y opiniones ajenas, la galaxia Internet puede aumentar nuestra libertad y la racionalidad de nuestro comportamiento. Eso es lo que pensaban los hackers de los comienzos de la era digital, que no eran unos gamberros ni unos delincuentes, sino “personas que se dedican a programar de manera apasionada y creen que es un deber para ellos compartir la información y elaborar software gratuito”, como explica Pekka Himanen (La ética del hacker y el espíritu de la sociedad de la información, Destino, 2002. Wikipedia aparecía como el ejemplo de inteligencia colaborativa y generosa más colosal de todos los tiempos. Sin embargo, las esperanzas de democratización y liberación a través de Internet no se han cumplido. Maria Ressa, premio Nobel de la Paz, advierte en su reciente libro Cómo luchar contra un dictador (Península, 2023) que las redes sociales están permitiendo que sean elegidos democráticamente líderes autoritarios que una vez elegidos desmoronan las instituciones desde dentro.
“Internet y su última creación -las redes sociales- están debilitando el deseo de libertad. Los avances de la Inteligencia Artificial siguen la misma línea”
El peligro de las nuevas tecnologías no está en el mal uso, sino en algo más profundo que tiene que ver con la tópica frase de McLuhan, “el medio es el mensaje”. Internet y su última creación -las redes sociales- están debilitando el deseo de libertad. Los avances de la Inteligencia Artificial siguen la misma línea. Están fomentando una libertad anémica. Difunden un espejismo de libertad, que se reduce a poder elegir entre varias opciones dentro de un marco impuesto. Por ejemplo, puedo escoger entre muchas plataformas digitales y entre miles de series. Lo que ya no sé es si puedo vivir sin series. Alessandro Baricco en The Game, (Anagrama, 2019) un libro muy perspicaz, reconoce que necesitamos comprender este mecanismo paradójico para no ser tecnófobos ni tecnófilos ingenuos. El aumento de posibilidades de elección no aumenta la libertad si se da dentro de un marco cerrado. Que en un gigantesco supermercado se den miles de opciones satisfactorias puede hacer olvidar que uno está dentro de “un” supermercado. Empieza a haber muchos tecnólogos asustados. “Las redes sociales están desgarrando a la sociedad”, afirma Chamath Palihapitiya, que fue vicepresidente de Facebook, encargado del crecimiento de usuarios. No es el único tecnólogo que ha acabado luchando contra la tecnología. Tristan Harris escribe: “Puedo ejercer control sobre mis dispositivos digitales, pero tengo que recordar que al otro lado de la pantalla hay un millar de personas cuyo trabajo es acabar con cualquier asomo de responsabilidad que me quede”. Su testimonio es relevante porque formó parte como experto de ese millar de personas, mientras trabajaba en Apple, Wikia, Apture, y Google. En Anti-Social Media (Oxford University Press, 2018) Siva Vaidhyanathan escribe que Facebook nos engancha como una bolsa de patatas fritas: ”Ofrece placeres frecuentes y banales”. Harari en “21 Lecciones para el siglo XXI” advierte: “Podrías ser perfectamente feliz cediendo toda la autoridad a los algoritmos y confiando en ellos para que decidan por ti y por el resto del mundo”. Resumiré todos estos avisos en una frase de Sean Parker, primer presidente de Facebook: ”Sólo Dios sabe lo que le estamos haciendo al cerebro de nuestros hijos”. Algo si sabemos y deberíamos recordarlo.
“Los grandes avances de la tecnología digital y de la Inteligencia Artificial han sido realizados por empresas privadas, y la lucha inevitable y sin duda legítima por el beneficio ha convertido la tecnología de la información en una tecnología de la persuasión”
La debilitación del deseo de libertad se está produciendo por el crecimiento de la industria de la persuasión. El problema no es la tecnología, sino que ha nacido, y seguirá desarrollándose, dentro de una estructura industrial que debe competir por los beneficios. Cuando la tecnología digital se desarrollaba en las universidades, podía aun pensarse que se podía poner a salvo de los imperativos del mercado. Iniciativas como Linux y los códigos fuente abiertos formaban parte de esa utopía. Tim Berners-Lee, inventor de la World Wide Web creó el Consorcio W3C, un organismo internacional para la administración de las tecnologías web. W3C decidió que todos sus estándares fueran libres y los pudiese utilizar todo el mundo sin coste alguno. Pero estas esperanzas de libertad no se cumplieron. Los grandes avances de la tecnología digital y de la Inteligencia Artificial han sido realizados por empresas privadas, y la lucha inevitable y sin duda legítima por el beneficio ha convertido la tecnología de la información en una tecnología de la persuasión. Ha caído bajo la lógica del poder, que es intrínsecamente manipuladora. Por eso, la solución no sería que el Estado fuera quien se encargara de desarrollar esas tecnologías, porque sería poner al lobo al cuidado de las ovejas.
Esta indisoluble unión de poder económico y tecnología de la información está recibiendo distintos nombres: “Capitalismo de plataformas” (Snicker), “revolución de plataformas” (Van Alstyne), ”complejo informacional-industrial” (Jablonsky), ”complejo industrial de datos” (Cooke), “cuarta revolución industrial” (Schwab), “esfera pública algorítmica” (Tufekci), capitalismo de la vigilancia ( Zuboff), son algunas de las opciones. Emergió cuando Google y Facebook, que habían nacido para facilitar la información y la conexión, descubrieron que su colosal fuente de ingresos era la publicidad y, posteriormente, lo que empieza a llamarse “excedente conductual”, es decir, la información sobre el comportamiento de los usuarios que puede servir para predecir los deseos y comportamientos futuros. Esta información puede venderse a empresas para facilitar su negocio. El escándalo de Cambridge Analytica mostró que entre esos compradores de datos y predicciones estaban los partidos políticos.
No se trata de que haya una pandilla de torvos capitalistas deseando esclavizar a la humanidad. No hay ninguna conspiración secreta. Se trata solo de la perversa consecuencia de un sistema. Al triunfar, las nuevas tecnologías de la información -en sí magníficas- limitan la libertad de decisión de los consumidores. La adicción a ellas es solo un síntoma de algo más profundo. Es el resultado de tres herramientas que utilizan las tecnológicas irremediablemente: el debilitamiento de la atención, la ingeniería social de Skinner, y la cultura de la facilidad. La explicación tiene que quedar para próximos post.
