No soy muy aficionado a las películas de ciencia ficción ni a las novelas distópicas. Con el aquí y ahora suelo tener bastante. Pero, a veces, la realidad supera la ficción. Creo que pocos dimos verosimilitud al ordenador HAL de la película Odisea 2001 cuándo éste asumió el mando de la nave espacial, imponiendo su propio criterio por encima del de los humanos que lo habían construido y programado.
Pues, esta realidad aparentemente inverosímil, en la que un ente artificial domina dinámicamente y con capacidad de autoadaptación permanente a un grupo de seres humanos, ya está aquí, y no nos hemos dado cuenta. Los robots peligrosos no son esas muñecas metálicas que chirrían al andar, sino los algoritmos informáticos basados en la Inteligencia Artificial y el Big Data que intervienen de manera cada vez más autónoma, descontrolada, invisible y profunda en nuestra vida personal y social.
La construcción del poder sobre la mentira declarada verdad
Desde Gramsci hasta la escuela de Francfort, Foucault o Derrida, los filósofos y sociólogos modernos y postmodernos nos han demostrado de sobra que quién es capaz de dominar el conocimiento y difundirlo, tiene el poder y que para este asalto al poder sobre un grupo de personas, es irrelevante si este conocimiento es verdadero o no. Funciona si es coherente y nos hace creer en su veracidad. Si el sistema de ideas propuesto es suficientemente atractivo para un número suficiente de seguidores que refuerzan entre si la aceptación de este sistema, se crea un discurso que se vuelve hegemónico entre ellos. Terminarán entendiendo como verdadero sólo aquello que no contradice al sistemas de coordenadas de este discurso convencional (por haber sido convenido entre sus miembros, no por haber sido cotejado con la realidad). Al convencerse mutuamente de su veracidad incuestionable,despreciarán y perseguirán a los seguidores de discursos alternativos.
Los fundamentalismos en lo religioso, las ideologías en lo político o los nacionalismos en lo social son ejemplos de estos “discursos hegemónicos construídos” en los que la única “verdad” aceptada es la del discurso convenido y asimilado por sus seguidores. Su desconexión de la realidad se hace patente cuando sus adeptos se enfrentan a realidades objetivas: ni ante la evidencia de “lo real” renunciarán a sus convicciones, sino cuestionarán la percepción de la realidad “del otro”.
Poner un ejemplo de sectarismo económico es más complejo. En la “pequeña economía” no cabe un comportamiento alejado de la realidad (primo hermano de la Verdad), porque, por muy coherente y deseable que parezca el discurso alternativo, si no da beneficios económicos, la propia realidad lo liquida, literalmente. Desafortunadamente, los discursos cerrados fundamentalistas, ideológicos y nacionalistas no entran tan fácilmente en quiebra porque “imprimen su propia moneda” (el valor que motiva a sus seguidores a seguir en la actividad), mientras que una realidad económica siempre dependerá de una moneda (aunque se llame “trueque”) que no se puede generar endogámicamente.
Curiosamente, si nos vamos al nivel de la “gran economía”, la situación es la contraria. El capitalismo neoliberal (occidental, chino o venezolano– da igual el avatar, mandan los mismos) es, por supuesto, un sistema de “verdades convenidas” sostenido sobre la gran mentira de ser el sistema más eficaz y mejor posible para generar riqueza para todos. Como todas las mentiras históricamente persistentes, se erige sobre un enorme aparato de poder político, cultural y militar que lo blinda contra los intentos de irrupción de la “realidad real”, es decir, de los auténticos sujetos económicos: las personas que quieren vivir dignamente de su trabajo. Desde luego, uno de sus mayores logros culturales es precisamente haber conseguido no sólo nuestra confusión entre la mentira y la verdad, sino la, a veces, militante defensa de la mentira como verdad suprema.
Quien rechaza la existencia de una “Verdad objetiva” consigue que nadie pueda denunciar que su discurso se basa en una “Mentira objetiva”, ya que relativizando la Verdad, la mentira deja de existir, con consecuencias terribles.
En economía de empresa, la mentira se objetiva con la quiebra económica. En la economía mundial no hay mayor objetivación posible de la mentira que miles de millones de personas excluidas del banquete de unos pocos. Esto no es una post-verdad, sino una realidad existencial para la mayoría de la humanidad y no hay derecho a que se relativice. Vivir en la ahora tan cacareada post-realidad líquida con sus verdades y mentiras relativas y consensuadas, tiene un alto precio para los seres humanos, quienes, a pesar de todo, seguimos siendo seres físicos e indiscutiblemente reales.
Esto es el punto de partida: hay verdades que trascienden las con-veniencias humanas y renunciar a descubrir y defenderlas crea un mundo sin ley ni orientación moral. Y donde no hay ley, siempre domina la ley del más fuerte.
Esto es el punto de partida: hay verdades que trascienden las con-veniencias humanas y renunciar a descubrir y defenderlas crea un mundo sin ley ni orientación moral. Y donde no hay ley, siempre domina la ley del más fuerte.
Internet: plataforma global para declarar mentira la verdad
La primera gran utopía tecnológica del siglo XXI, el Internet, está contribuyendo en gran medida a relativizar la verdad y la mentira. Nació con la promesa de derribar muros, pero en realidad es utilizado para levantar otros nuevos y reforzar los viejos. En lugar de ser una tecnología a nuestro servicio, se convierte cada vez más en ese “ordenador HAL” que se impone y anula la voluntad de los seres humanos.
Hasta ahora los totalitarismos se han construido en torno a la voluntad expresa, aunque generalmente oculta, de un individuo o una élite. Esto ha evolucionado radicalmente: entre los motores más potentes de la construcción de la cohesión social construída en torno a un discurso hegemónico están ahora los algoritmos informáticos.
Por supuesto, en el origen de cualquier realidad totalitaria existe el deseo de poder de un núcleo revolucionario, de una élite que quiere imponer sus intereses. El “internet antiguo” de los últimos 20 años ha servido de altavoz perfecto para difundir sus mensajes, crear noticias falsas, influir en la opinión pública con “trolls” contratados o automatizados que generan masas ingentes de mensajes, comentarios y tweets apoyando a quien le paga y desprestigiando a su contrario.
Puesto que el porcentaje de personas que nos relacionamos y nos informamos principalmente a través de Internet es cada vez mayor, el alcance de esta nueva máquina de propaganda es global en lo geográfico y profundo en lo personal.
Redes sociales: la persona, desnuda
Al mismo tiempo, las tecnologías que “radiografían nuestra personalidad” se perfeccionan: el Big Data y de la Inteligencia Artificial permiten sacar deducciones cada vez más concretas y certeras sobre nuestras preferencias personales y grupales. Interpretan con gran eficacia qué buscamos, qué contenidos nos interesan más, qué opinión tenemos (al comentar, compartir, poner “me gusta”,…), qué nivel socio-cultural tenemos, qué música escuchamos (psicograma completo…), dónde vamos en qué medio de transporte, con quiénes coincidimos, qué compramos, qué hacemos y con quiénes nos relacionamos cuando estamos offline (subiendo luego fotos u otros subiendo fotos en las que salimos), etcétera, etcétera, etcétera.
Toda esta información se usa para “engancharnos” cada vez más. Los algoritmos de estas empresas de Internet (como Facebook con Whatsapp o Instagram, Google con Youtube o Maps, o “periódicos dinámicos” como Huffington Post) no tienen el objetivo de seleccionar para nosotros la información más importante y veraz, sino con aquella que más nos predispondrá a hacer click en un anuncio
Toda esta información se usa para “engancharnos” cada vez más. Los algoritmos de estas empresas de Internet (como Facebook con Whatsapp o Instagram, Google con Youtube o Maps, o “periódicos dinámicos” como Huffington Post) no tienen el objetivo de seleccionar para nosotros la información más importante y veraz, sino con aquella que más nos predispondrá a hacer click en un anuncio. Al conocernos tan a fondo, también nos propone posibles “amigos” nuevos, tampoco con el criterio del enriquecimiento personal, sino por hacer coincidir estilos de vida y opiniones.
La información no sólo se usa para “engancharnos”. Hace años que sabemos que las redes sociales son una de las principales fuentes de información de los servicios secretos de todo el mundo, los cuáles nos convierten en espías y espiados voluntarios. No en vano, un fondo de inversión relacionado con la CIA estuvo entre los que lanzaron Facebook.
Con el rápido avance inteligencia artificial entramos en una nueva época: la de los sistemas informáticos que aprenden en profundidad y “se optimizan” permanentemente a si mismos. Han sido programados, obviamente, por seres humanos, con el objetivo de conocernos mejor para vender o dominarnos más. Además, ahora esta adquiriendo una insospechada autonomía difícil de controlar y que crea toda una serie de efectos colaterales, deseados o no, en nuestra sociedad.
Neotribalismo Instagram
Al seleccionar por y para nosotros información, noticias y “amigos”, estos algoritmos construyen nuevos discursos hegemónicos alrededor de los cuales articula sus “tribus”. Como en cualquier régimen totalitario, dejamos de ver todo lo que nos podría “hacer abandonar” (el algoritmo quiere conseguir que nos quedemos viendo SUS videos, imágenes y textos, evitando que apaguemos o busquemos en otro lado). Así entramos en una espiral de ver ya sólo aquello que “me gusta” junto a “mis amigos”. La Inteligencia Artificial, cuánto más tiempo va “estudiando” nuestras reacciones, más acertará con sus propuestas futuras y más nos integrará a su sistema.
Se crea, por tanto, un poderoso “efecto tribu”, ampliamente estudiado por la sociología: lo que dicen “todos” se convierte en “verdad” incuestionable,haciéndonos olvidar que los que los comentarios que leemos, obviamente NO son los de “todos”, sino de personas similares a nosotros, seleccionadas expresamente para reforzar nuestra manera de pensar. Los que niegan “nuestra verdad” se convierten en “los otros”, en imbéciles a los que ha comido el coco. Este proceso se desarrolla a menudo alrededor de eslóganes de gran poder emocional y frases totémicas promovidas por “influencers” y que son interiorizados como parte de una cosmovisión grupal. Estructuran nuestra cohesión social no con razones, sino con poderosos sentimientos de pertenencia a un grupo en el que opinamos igual y hacemos lo mismo, nos regodeamos en nuestra superioridad, creando en refugio para individuos debilitados en una sociedad rota e inhóspita.
Estos algoritmos nos introducen en un circuito cada vez más cerrado de consumo de “ideas” en una comunidad virtual de personas configurada para nosotros. Puede parecer poco revolucionario puesto que, de toda la vida, el “progre” compraba El País y el conservador el ABC para reforzar sus respectivas ideas preconcebidas y evitar el esfuerzo del recurrir pensamiento crítico (el que exigimos, sin embargo, al que no piensa como yo).
Entramos en una nueva dimensión de técnicas para imponer el pensamiento único. Aprovechando características antropológicas del ser humano del siglo XXI, particularmente de su soledad y de su narcisismo, “la máquina” automatiza la construcción de un discurso. Lo verdaderamente preocupante es que la información que nos llega es elegida por un automatismo y ya no por un editor humano que exigiría cierta presunción de veracidad y equilibrio. Resultado: una burbuja feliz con noticias que reafirman mi visión del mundo, rodeado de gente la comparte plenamente.
No hace falta ser un lince para darse cuenta de su potencial para construir comunidades muy cohesionadas alrededor de ilusiones y mentiras: ciber-SS al servicio de intereses privados.
El show de Truman: una burbuja feliz para cada comunidad
No estamos hablando de una teoría ni de algo perteneciente a un futuro lejano. Los automatismos informáticos no entienden de política pero crean opinión aunque no entiendan lo que están haciendo. Lo mismo que HAL estaba programado para sobrevivir, los algoritmos de las redes sociales, Google, etc. están programados para crear las condiciones que permita vender más publicidad. El primero mata, el segundo manipula. Asesinato físico versus asesinato mental.
En una sociedad en la que se ataca a quien intenta buscar la verdad, en la que la emoción se impone a la razón, en la que los robots deciden qué “noticias” se muestran en función de nuestra reacción emocional deseada, se está construyendo a cada uno de nosotros su particular “Show de Truman”. Vivimos en nuestra burbuja de mentiras convencidos de que son verdades. Esto no sólo puede ser aprovechado por las élites que controlan estos algoritmos para hacer fortuna rompiendo y recomponiendo sociedades a su antojo.
En apariencia, los algoritmos son políticamente neutros. Están programados para olfatear nuevas tendencias y crear comunidades leales alrededor de ellas. Es este mecanismo que empieza a tender efectos secundarios (o primarios, quién sabe) cada vez más preocupantes.
Algoritmos de poder destructivo global: el caso Myanmar
No se trata de un fenómeno exclusivo del “primer mundo”. La revista americana Foreign Policy apunta a Myanmar como un ejemplo reciente de extrema gravedad.
En 2014, cuando el gobierno de este país aún mantenía el precio de las tarjetas SIM deliberadamente fuera del alcance de la gran mayoría de la población a fin de evitar que pudiera comunicar y organizarse, sólo el 1% de sus 52 millones de habitantes tenía acceso a Internet. En tan sólo tres años, este porcentaje ha subido a un sorprendente 89%. Este dato es de especial relevancia porque esta explosión en el acceso a Internet se ha producido prácticamente al 100% a través de teléfonos móviles, los cuales se activan en casi todos los casos mediante una cuenta de Facebook para identificar a su usuario. En Myanmar, Internet esFacebook.
Foreign Policy sugiere que la bola de odio étnico contra los Rohingya sólo pudo explotar con tanta velocidad y voracidad debido al uso masivo de Facebook y sus automatismos internos, programados, como ya apuntamos, para detectar tendencias emergentes, reforzarlas creando “tribus” de seguidores y hacer negocio con ellas. Aunque estos algoritmos no tenían ninguna intencionalidad particular contra los Rohingya ni existe en la budista Myanmar una particular predisposición a la violencia, la ausencia de controles y protocolos de intervención política (como pasaría -precariamente- en Europa al disponer de legislación y “contra-automatismos” para frenar la propagación de mensajes de odio racial) calentó de tal manera una opinión pública no preparada para contrastar “lo que todos dicen” con la verdad, que Facebook se convirtió en amplificador del odio lanzado por unos pocos y cómplice directo de la expulsión y genocidio de este grupo de la población birmana.
Ese sistema haciendo daño ya, y a gran escala: con la construcción de comunidades que hacen bandera de la insolidaridad con “los otros” en los EE.UU. de Trump, la dolorosa ruptura social de Cataluña o el genocidio Rohingya son sólo algunos ejemplos del poder de magnificación de los algoritmos para tendencias inducidas planificadamente o no desde fuera.
También están en nuestro día a día, programando nuestra mentalidad con información y relaciones sociales elegidas por un robot.
Conclusión: las redes sociales existen para cambiar la convivencia humana
Las tecnologías avanzadas de la “automatización del marketing” (que es su nombre técnico) han sido diseñadas para influir en la convivencia humana con fines comerciales. Pero su automatismo se activa y es aprovechable también para otros fines que consigan acumular una masa crítica seminal de noticias y seguidores para ser reconocido y procesado como “tendencia”.
El riesgo de que un automatismo que se gestiona y optimiza a si mismo sustituya asuma la “responsabilidad” por cómo se configura nuestra sociedad, no es una distopia, sino una realidad y, como dije al principio, ni siquiera nos hemos dado cuenta. La preocupación mostrada por Foreign Policy indica que se está escapando del control hasta de las élites que la pusieron en marcha.
Esto sólo es el principio. Mientras unos piensan (cada vez más reforzados por esos mismos algoritmos) que su tribu tiene derecho a su propio estado o a aislarse con vallas y muros y otros pasan de involucrarse en la gestión política de nuestra sociedad asqueados o resignados por la corrupción, el Leviathan tecnológico crece.
Por tanto, es importante, urgente e imprescindible que formemos grupos de estudio para analizar seriamente el impacto de las nuevas tecnologías en nuestra sociedad y, desde estos grupos, creamos un tejido social consciente y capaz de exigir el control político eficaz sobre una tecnología y una economía que se arrogan cada vez más programar nuestras vidas sin el menor control democrático en función de los intereses de pequeñas élites del nuevo “complejo tecnológico–financiero”.
Rainer Uphoff, periodista.