PANÓPTICO

El panóptico

El derecho a no ser engañado

El Panóptico 26

“Erase una vez un mundo en que se podía distinguir la verdad de la falsedad. No es seguro que exista todavía”. Este no es el comienzo de un cuento de miedo, sino una breve descripción de nuestra situación. Acabo de leer dos libros sobre este tema. El Derecho a no ser engañado. Y como nos engañan y nos autoengañamos, de Antonio Garrigues Walker y Luis Miguel González de la Garza (Aranzadi, 2021) y Propagande. La manipulation de masse dans le monde contemporain, de David Colon (Flammarion, 2021). 

La visión que dan del momento presente es alarmante. Consideran que el exceso de información, y la aparición de técnicas de falsificación como las Deep Fakes, (videos falsos difíciles de distinguir de la realidad) están haciendo difícil separar lo verdadero de lo falso. Por eso, los juristas autores del primer libro sostienen que debería reconocerse un derecho universal a no ser engañado para proteger a los ciudadanos de la manipulación.

Desde el Panóptico podemos comprender la situación en toda su amplitud. Hace años propuse una “Ley de garantía de la información”, que decía: “Para ser útil, el aumento de la información disponible debe ir acompañado de una mejora en los criterios para evaluar su fiabilidad”. Esto no se ha cumplido y el mundo de las tecnologías de la información se ha vuelto sospechoso e incluso amenazador. Pero vayamos a la historia.

La inteligencia humana es crédula. Tiende a creer lo que ve, lo que cree que ve, y lo que le dicen. Margaret Mead, cuenta que durante su estancia en un poblado melanesio ocurrió un crimen. Preguntó a unos vecinos qué opinan del suceso. “Nada porque el jefe no nos ha dicho todavía lo que hay que pensar”. Pensar por cuenta propia es una rareza tardía en nuestra evolución cultural. El poder se ha asegurado siempre la obediencia controlando las creencias de sus súbditos. Incluso algo tan noble como la escuela pública se creó para reforzar la identidad nacional.

Para configurar la opinión pública y los deseos de la gente, el poder, sea político, religioso o económico, ha utilizado siempre métodos de adoctrinamiento: el púlpito, la escuela, la propaganda, el control de la información o los campos de reeducación. Jacques Ellul lo ha descrito en su Histoire de la Propagande. Con la llegada de la democracia, la opinión pública se legitimó como poder político, lo que hizo más urgente poder controlarla. Edward Bernays, importante figura de la industria de las relaciones públicas escribió en 1928 sobre “the engineering of consent”: “La manipulación consciente e inteligente de los hábitos y opiniones de las masas es un elemento importante en la sociedad democrática. Son las minorías inteligentes las que necesitan recurrir continua y sistemáticamente al uso de la propaganda”. Walter Lippman acuñó la expresión: “fabricación del consenso”. Herman y Chomsky escribieron Manufacturing consent. Gramsci, Declau y los ideólogos de Podemos hablan de “hegemonía”. Configurar la opinión pública ha sido siempre el objetivo de la propaganda política. Después de la Primera guerra mundial, el Ministerio de Información británico definía secretamente su labor como “dirigir el pensamiento de la mayor parte del mundo” (Marlin, R.R.A. “Propaganda and the Ethics of Persuasion”, Inernational Journal of Moral and Social Studies,1989). Quince años después, el influyente Harold Lasswell explicó en la Encyclopedia of the Social Sciences que cuando las élites carecen del requisito de la fuerza para obligar a la obediencia, deben recurrir a una forma nueva de control: “Uno de los objetivos de los sistemas de adoctrinamiento son las masas estúpidas e ignorantes. Deben mantenerse así, desviadas con hipersimplificaciones emocionalmente potentes, marginalizadas y aisladas”. En ese mundo, que es ideaI para los influencers, los individuos deberían estar solos ante las pantallas viendo deportes, culebrones o canales de YouTube. Sherry Turkle, del MIT, una de las primeras investigadoras sobre las consecuencias psicológicas de las tecnologías de la información, señala este hecho en su libro Alone Together, solos pero conectados. De hecho, la reclusión exigida por la pandemia, al impedir las interacciones reales, ha aumentado la dependencia de los medios electrónicos de comunicación, lo que en términos de un factcheker profesional ha sido “la tormenta perfecta de la desinformación”. Aparece así una característica de la propaganda actual. Es más eficaz dirigida al individuo aislado, pero introduciéndole simultáneamente en una “masa social”. Ese ha sido el papel de las redes: convocan a una muchedumbre solitaria.

“Debería reconocerse un derecho universal a no ser engañado para proteger a los ciudadanos de la manipulación”.

Así pues, la manipulación de las ideas y motivaciones de la gente para influir en su forma de comportarse ha sido una constante en la historia de la humanidad. En 1572, el papa Gregorio XIII creó la Congregatio de propaganda fidem. Napoleón manejó la propaganda con gran destreza. “¿Qué es el poder? -se preguntó en 1802- Nada si to tiene con él la opinión de la gente”. Goebbels organizó el Reichsministerium für Volksaufklärung und Propaganda. (Ministerio de Ilustración pública y propaganda). En 1936, el gobierno de Largo Caballero, creó un Ministerio de Propaganda, y en el primer gobierno de Franco, hubo una Delegación Nacional de Prensa y Propaganda, dirigida por Dionisio Ridruejo. De hecho, la palabra “propaganda” no ha tenido una connotación peyorativa en las democracias liberales hasta 1970, cuando empezó a desaparecer de los organigramas políticos sustituida por “Información”, que es más neutral.

¿Qué hay de nuevo entonces en la situación actual?

En apariencia, nada. Desde el Panóptico se constata que los sistemas de adoctrinamiento han evolucionado al mismo compás que la ciencia y la tecnología, y que la potencia actual de ambas cosas ha aumentado la posibilidad de manipulación de la mente de los ciudadanos. Ha aparecido la “economía de la atención”, porque la atención -introducirse en el cerebro de la gente- es el bien más escaso. Las grandes tecnologías de la información, que prometieron una era de libertad al abrir los canales de comunicación a todo el mundo, han producido un efecto contrario. Se ha creado una “ciencia de la persuasión digital” y una industria que la aprovecha. Christopher Wylies, el creador de los perfiles psicológicos-computacionales para Cambridge Analityca, que fueron utilizados en la campaña del Brexit y la elección de Trump-, ha contado esta inquietante historia en Mindf*ck. En 2013, la revista independiente rusa Novaya Gazeta reveló la existencia en Olgina, cerca de San Petersburgo, de una fábrica clandestina de información, dedicadas a producir trolls, identidades falsas y mensajes provocadores. En 2015 tenía mil empleados permanentes. Se disolvió en ese año tras un artículo en The New York Times, pero ha sido reemplazada por otras empresas. Los funcionarios de Pekín publican al año 450 millones de comentarios favorables a los intereses de Pekín en redes sociales. En 2017, el presidente de la comisión de defensa de la Duma, Vladimir Chamanov, declaró que “el conflicto de la información es un componente fundamental del conflicto general”. La guerra de la información no es exclusiva rusa o china. Los documentos internos del Joint Research Intelligence Group, un departamento del gobierno británico (según la información proporcionada por Snowden) han revelado que la agencia tenía como objetivo “destruir, negar, degradar y perturbar a los enemigos desacreditándoles, sembrando desinformación y bloqueando sus informaciones”. Tras el 11 septiembre EEUU creo la Office of Strategic Influence para conducir la guerra psicológica contra el terrorismo.

 

Ahora vemos con más claridad que el objeto de las informaciones falsas, la propaganda, las intoxicaciones o el adoctrinamiento no es cognitivo. Lo que pretenden es dirigir los comportamientos. Lo que está en juego es el control. Tim Harris, que trabajó en Apple, Wikia, Apture y Google, escribe:” Puedo ejercer control sobre mis dispositivos digitales, pero no debo olvidar que al otro lado de la pantalla hay un millar de personas cuyo trabajo es acabar con cualquier asomo de responsabilidad que me quede”. Un influyente personaje de este mundo tecno es B.J. Fogg, fundador del Persuasive Tech Lab de la Universidad de Stanford. Ha inventado la “Captología”, la ciencia de la persuasión a través de ordenadores. El título de su obra más conocida es revelador: Tecnologías persuasivas: usar ordenadores para cambiar lo que pensamos y hacemos. También lo es el de otro experto, Nir Eyal: Enganchado: cómo diseñar productos para crear hábitos. O el de la empresa del neurocientífico Ramsay Brown, Dopamine Lab., que en su página web anuncia: “Nuestra tecnología predice y troquela la conducta humana. Usamos la neurociencia y la inteligencia artificial para personalizar su aplicación para cada usuario”. Dean Eckles, del MIT, antiguo experto de Facebook, ha estudiado cómo las nuevas tecnologías interactivas afectan la conducta humana, amplificando y dirigiendo la influencia social y ha creado instrumentos estadísticos para medirlo.

Ante esta situación, Garrigues y González de la Garza aciertan pasando del enfoque tecnológico a la psicología, al estudiar la vulnerabilidad de la inteligencia humana, la facilidad con que cae presa de sesgos cognitivos que la hacen procesar de manera errónea la información recibida. Creen que el Derecho debe proteger la vulnerabilidad humana, también en este territorio, por eso defienden el reconocimiento de un Derecho Universal a no ser engañado, que obligaría fundamentalmente a los poderes públicos, y a las empresas con especial influencia social. El engaño ya está prohibido y castigado por las leyes, en el caso de la calumnia, la falsedad en documento público, la ley de publicidad o de defensa de la competencia. Piensan que sobre ese modelo se podría construir una ley más general que incluyera, por ejemplo, las mentiras políticas. La dificultad está en cómo hacerla compatible con el derecho a la libre expresión y, en segundo lugar, como ponerla en práctica. Facebook ha prometido introducir sistemas de verificación, y se ha asociado para ello con organizaciones de periodistas especializados en factcheking. La avalancha de información es demasiado grande, la evaluación automática demasiado poco fiable, y, además, una vez difundido el bulo no desaparece con su corrección. El problema, por lo tanto, es complejo. Andrew Marantz, en su reciente libro Antisocial, advierte de la necesidad de poner freno a la difusión de calumnias, bulos y falsedades, pero también de lo peligroso que es que sean las grandes plataformas las que decidan lo que es verdad o falsedad. Que Twitter borrara las cuentas de Trump fue beneficioso para la democracia en su efecto, pero no en el procedimiento. Una empresa privada no debe tener poder para tomar una decisión así por su cuenta. Marantz, al igual que David Colon, cree que las grandes redes sociales, a pesar de sus declaraciones, no pueden estar verdaderamente interesadas en eliminar las falsas noticias, porque forman parte esencial de su negocio. Los creadores y consumidores de noticias falsas son muy buenos clientes. Por ello, será difícil prescindir de ellos mientras no se cambie el tipo de negocio

Pensar que solo la ley va a arreglarlo fomenta una actitud pasiva del ciudadano, que es una de las actitudes que la “democracia fácil” fomentada por las tecnologías de la información está provocando.

En este complejo asunto, como en tantos otros en que valores fundamentales entran en juego, tenemos que apelar al “capital social” de una nación, que actúa por muchos canales: educativos, legislativos, de presión social, de descrédito de los desaprensivos, de pensamiento crítico, de rechazo del engaño. Pensar que solo la ley va a arreglarlo fomenta una actitud pasiva del ciudadano, que es una de las actitudes que la “democracia fácil” fomentada por las tecnologías de la información está provocando. Dicho esto, añadiré que no creo que la expansión y la eficacia de del engaño posibilitada por la tecnología sea lo único que caracteriza la situación actual. Hay por debajo un “sistema oculto de descrédito de la verdad”, lo que ha permitido hablar de la “era de la posverdad”. A esto se refería el comienzo de este artículo. En la demolición de la idea de verdad han colaborado muchas fuerzas: el pensamiento posmoderno, la sociología del conocimiento, las ideologías identitarias, el relativismo cultural, las técnicas de manipulación mental, la tiranía de lo políticamente correcto, y también, una desdichada característica humana: nuestro cerebro es perezoso (cognitive miser, dice Kahneman), y el pensamiento crítico es costoso. Por eso tardó tanto en imponerse. Además, parece que la inteligencia humana se siente atraída por la falsedad. Soroush Vosoughi, en un artículo publicado en Science (“The spread of true and false news on line”) estudió 126.000 historias tuiteadas 4.5 millones de veces por 3 millones de personas. Encontró que las noticias falsas se difunden con más rapidez que las verdaderas.

Las redes sociales se han convertido en la principal fuente de información para gran parte de la población. Pero quienes consultan Google, según un estudio de Gerald Bronner, autor de La democracia credule, no pasan de las diez primeras entradas. Son por lo tanto ellas las que tienen mayor influencia, por lo que no resulta extraño que las artimañas para conseguir escalar a esas posiciones sean muy refinadas. Bronner ha querido testar la información que Google da sobre varias falsedades (la psicocinesis, el monstruo del lago Ness o la astrología), y ha comprobado que alrededor del 75 de las primeras entradas transmiten ideas falsas, y solo el resto da información veraz sobre ellas. Las teorías de la conspiración tienen un éxito colosal. Varias investigaciones han demostrado que en redes sociales la información falsa es más numerosa que la científica, lo que provoca un “sesgo de confirmación”. El lector poco avisado ve en esa insistencia en la falsedad una demostración de su veracidad. The Guardian Week (20.11.2020) titula en portada “¿Está internet rompiendo nuestra captación de la realidad?”. Cuenta la historia de un matrimonio. El marido durante la pandemia se ha hecho adicto a la red QAnon y se interna cada vez más en el mundo de la conspiración. La mujer piensa en divorciarse porque “se ha roto el consenso matrimonial sobre la realidad”. Viven en mundos diferentes. Hay una realidad alternativa. La palabra “alternativo/a” está de moda. Las numerosas instituciones que se dedican a tareas de verificación tienen poco éxito, porque frecuentemente impulsan a refugiarse en la propia tribu como sistema de autodefensa ante la confusión.

La noción de verdad parece haberse quedado anticuada.

 Alessandro Baricco, en su perspicaz libro The Game (Anagrama), habla de la posexperiencia, y de la “verdad rápida”, un concepto interesantísimo relacionado con los “trending topics”. Algo puede ser verdad quince segundos. Incluso la noción de “hecho” ha quedado desacreditada. La “verdad” es un relato y el “hecho” una interpretación. Lo importante es adueñarse de ambas cosas: del relato y de la interpretación. Neerzan Zimmerman, que trabajó en ‘Gawker’ como especialista en “tráfico rápido de historias virales” (el nombre de su profesión ya es significativo), afirma: “Hoy día no es importante que la historia sea real. Lo único importante es que la gente haga clic sobre ella. Los hechos están superados. Es una reliquia de la edad de la prensa escrita, cuando los lectores no podían elegir. Ahora, si una persona no comparte una noticia, no hay noticia”. Vuelve a ser de actualidad el concepto “factoide”, inventado por Norman Mailer en su biografía de Marilyn Monroe (1973). Creó la palabra combinando “facto” (del latín “factum”,” hecho”) con el sufijo “oide” que significa “parecido, pero no igual”. Mailer definía “factoide” como “hechos que no existían antes de aparecer en un medio de comunicación”. El Washington Times lo definió como “algo que parece un hecho, podría ser un hecho, pero en realidad no es un hecho”. Se genera por medio de prejuicios cognitivos, da lugar a leyendas urbanas y fomenta las teorías de la conspiración. La pandemia ha aumentado la difusión de bulos y de mensajes esotéricos, antivacunas, nacionalistas y conspirativos, que hacen decir a Carolin Emcke:”lo que de verdad da miedo es que vuelva la pretensión de que no es posible distinguir entre afirmaciones factuales verdaderas y falsas, entre suposiciones verosímiles y disparatadas” (El País, 6.6.2020).

Todas las ramificaciones del “sistema invisible de la posverdad” merecen ser puestas en evidencia. Conocer nuestras limitaciones y determinismos es imprescindible para compensarlos. Por eso dedicaré al tema el próximo número de El Panóptico. Se titulará: Campaña para la rehabilitación de la verdad.

DICCIONARIO DE UNA NEOLENGUA.

“Posverdad” es un neologismo que pertenece a un diccionario de neologismos más amplio, que puede servir de test para saber si usted está “in” o “out”.

Compruébelo: “Molinos de contenido” (content mills), “granjas de enlace” (link farms), “criaderos de clicks” (click farms), movimientos artificiales (astroturfing), “páginas cebo” (honey pots), “diseño de conductas” (behaviour design), “anuncios oscuros” (dark Adds), “estado profundo” (deep state), “falsedad profunda” (deep fake), “Internet profunda” (deep web), “datos profundos” (deep data), enlaces profundos (deep links), “filtros burbuja” (filter bubbles), “hechos alternativos ” (alternative facts),. ¿Ha superado la prueba?

Join the discussion 4 Comments

  • maria isabel dice:

    Gracias, José Antonio Marina – no puedes contribuir más a la verdad. Tiene que haber una verdad, …pues si hay falsedad…
    marisa urdaneta

    • jose antonio marina dice:

      En efecto, si no hay verdad no puede haber falsedad. La experiencia del error es la que fortalece la experiencia de la verdad, Lo mismo ocurre con la mentira, que es decir una falsedad a sabiendas de que hay una falsedad,

  • Javier Rambaud dice:

    No estoy seguro de que la inteligencia humana se sienta atraída por la falsedad. Quizá sería más preciso decir que, en una situación de desconocimiento o desconcierto, la inteligencia opta por una respuesta sencilla (por pereza cognitiva) o rocambolesca (por la gratificante sensación del descubrimiento de algo oculto) que suele ser falsa, pues siempre hay muchas más respuestas falsas que verdaderas o próximas a la verdad. Por otra parte, las redes sociales y la sobreabundancia informativa han reforzado el tribalismo moral, la tendencia a informarse en los medios que reafirman nuestras creencias y aceptar sólo como válidos los datos que las confirman. Es pereza mental, sí, pero también temor a enfrentarse a incoherencias.

  • jose antonio marina dice:

    Decir que “nos sentimos atraidos por la falsedad” es exagerado, sin duda, pero tiene un punto de verdad. Lo que va en contra de lo acostumbrado (que la tierra es plana) llama mas la atención que lo que repite lo sabido. Los herejes hacen mas ruido que los fieles, La “gratificante sensación del descubrimiento de algo oculto” es una experiencia cercana, El que las teorias falsas ocupen los primeros lugares puede deberse tambien a una mayor necesidad de confirmar las creencias en aquellos que van contracorriente. Son temas muy interesantes para una “economia basada en la atención”.

Leave a Reply