La preocupación por la posverdad, suscitada nuevamente por el uso masivo de la Inteligencia Artificial (IA) en el ámbito virtual, es apenas una consecuencia visible de la impotencia política producida por la maquinaria del capitalismo digital.
Los ataques de EE.UU. e Israel contra Irán pusieron nuevamente en el centro de la discusión el trajinado asunto de la “posverdad”, esta vez en su versión “recargada”, debido a la avalancha de consultas a los chatbots más utilizados para verificar si las cruentas imágenes que circulaban en el espacio virtual eran reales. La preocupación no es irrelevante: los LLM (grandes modelos de lenguaje) nunca mienten, ni siquiera cuando son programados para difundir propaganda bélica. Mentir supone una intencionalidad y ésta, por el momento, es privativa de los seres humanos. Tales artefactos solamente se equivocan o “alucinan”, pero lo hacen la mayoría de las veces1. ¿Cómo cerciorarse de que una imagen es real o de que se está interactuando con otra persona cuando, además, la tercera parte de los contenidos virtuales es fabricada mediante IA y poco más de la mitad del tráfico digital es producido por bots?2
Paradójicamente, hoy los usuarios digitales tienen acceso a la mayor cantidad imaginable de información en la historia, pero han quedado sin posibilidad de corroborar la realidad, incluso cuando acuden a una mediación técnica. La “posverdad” recargada, sin embargo, es apenas un síntoma de un problema cuyas consecuencias políticas pueden ser incluso más trágicas que la mayor vulnerabilidad frente al engaño y la manipulación. De una u otra manera, sigue siendo posible saber con bastante certeza lo que ocurre, al menos en lo que se refiere a los grandes acontecimientos de nuestro tiempo. El problema real no radica tanto en que no podamos acceder a la verdad como en ¿qué hacemos una vez sabemos lo que sucede?
Hace dos décadas, el 15 y el 16 de febrero de 2003, millones de personas protestaron, en ochenta ciudades de los cinco continentes, contra la invasión a Irak por parte de EE.UU. ¿Por qué no se ha producido algo similar para rechazar el genocido en Palestina o la guerra contra Irán, aunque sabemos que están sucediendo y tenemos acceso a muchísima más información? Para responder este tipo de interrogantes, al menos parcialmente, es necesario trascender el fetichismo tecnológico e inscribir la IA en el entramado de relaciones sociales donde opera.
El capitalismo de plataformas no solo hace a los usuarios digitales más vulnerables a la manipulación sino, sobre todo, los convierte en sujetos políticamente impotentes. La privatización de los vínculos sociales, de donde se extrae el valor, erosiona la esfera pública o “mundo común”, aisla a los individuos y limita sus posibilidades para ejercer poder, es decir, reduce su capacidad para actuar concertadamente.
La privatización
del vínculo social
Curiosamente, la imaginación distópica no es patrimonio exclusivo del progresismo sino que también ha tocado a los capitalistas digitales. Una de las tendencias que más les preocupa es el “Internet dividido” o splinternet, la creciente compartimentación producto de los controles y regulaciones impuestos por estados como Rusia, China, o la Unión Europea, que obstaculiza la “autopista de la información” y con ella el lucrativo negocio. Pero más interesante es el temor por la “Internet muerta”, un escenario en donde hipotéticamente predominara la información producida por bots, pues permite identificar claramente de dónde proviene el valor del que se apropian las grandes empresas tecnológicas.
En La era del capitalismo de la vigilancia, S. Zuboff argumenta que el “modelo de negocio” radica en la apropiación de la experiencia de los usuarios, en forma de datos, con el fin de modelar su conducta mediante herramientas de IA predictiva. Esta manipulación conductual, aunque más eficaz, no parece ser novedosa, si se tiene en cuenta el gigantesco desarrollo de las técnicas publicitarias en la sociedad de consumo postfordista. Por su parte, la apropiación de la experiencia resulta imprecisa. La experiencia, entendida como la interacción entre el sujeto y su medio, nunca es meramente individual: la acción humana solo adquiere sentido en entramados simbólicos de naturaleza, necesariamente, social.
Más que de la apropiación de experiencia, las grandes empresas tecnológicas obtienen sus ganancias de la explotación de los vínculos sociales, es decir, ya no solo de las relaciones resultantes directamente de procesos productivos sino de las relaciones sociales consideradas genéricamente (eroticoafectivas, familiares, políticas, etc.). En efecto, la vida social en sí misma —interacciones, relaciones más o menos estables, confianza, tejido social, emociones, significados, cultura, etc.— es la forma que hoy adopta el valor, parte del cual se puede expresar en los datos de distinta naturaleza de los que se apropian las plataformas digitales. Así pues, aunque fundamental para las compañías tecnológicas, la captura de los datos no es su fin último, sino apenas un medio para apropiarse del valor producido por la vida social.
A diferencia de lo que suponen quienes postulan la existencia de un “tecnofeudalismo”, los datos no son equivalentes a un medio de producción como la tierra. Son producidos por las personas y conservados en forma de memorias y pensamiento, de corto y largo plazo, para dotar de sentido y retroalimentar la vida social, antes de que les sean despojados. Es por eso que los capitalistas digitales temen una “Internet muerta”: los datos pueden ser producidos artificialmente, pero en sí mismos carecen de valor. La información es el objeto fundamental de su negocio, pero esta no designa simplemente una cantidad o un flujo de datos. Su sentido primigenio proviene del latín informare, conferir forma: el negocio del capitalismo digital consiste en organizar la vida social para lucrarse de ella.
Para privatizar los vínculos sociales, los capitalistas requieren que las personas tengan acceso efectivo a la conexión digital y pasen conectados la mayor cantidad de tiempo posible. Por esa razón, la mayoría de las relaciones sociales están hoy mediadas o han sido reemplazadas por conexiones digitales. La propagación del “teletrabajo” o la educación en línea no se explican solo porque reduzcan los costos de producción, sino sobre todo porque aumentan las ganancias de las corporaciones tecnológicas a la vanguardia del capitalismo.
De ahí también la centraliddad que en su engranaje adquiere la economía de la atención: la parte visible de las plataformas digitales se estructura por dispositivos para capturar la atención mediante la inducción de comportamientos compulsivos, generalmente sistemas de expectativas y recompensas a corto plazo (el like, el repost, el conteo de visados, etc.). De esa forma, se consigue que el usuario permanezca conectado o consulte sus “estados” periódicamente, produciendo datos e interacciones.
En todo caso, a consecuencia de la privatización de los vínculos sociales, reemplazados o mediados por conexiones digitales, cada interacción virtual, con independencia de su contenido (político, económico, personal, profesional, etc.) alimenta las ganancias de los emporios tecnológicos globales.
La destrucción
del mundo común
Una vez se privatizan los vínculos sociales, las plataformas digitales reducen y en muchos casos anulan el espacio de encuentro entre desconocidos, el ámbito público. Los flujos de información que circulan en las plataformas son gobernados por algoritmos que personalizan la información, vale decir, determinan lo que el usuario individual puede ver, así como sus posibles interacciones con otros usuarios. De ese modo, las empresas tecnológicas no solo reemplazan las relaciones sociales por conexiones digitales sino que reducen la contigencia de la vida social, limitando la gama de relaciones posibles entre usuarios e imponiéndoles una lógica mecánica.
En rigor, las plataformas destruyen aquello que H. Arendt llamaba el “mundo común”, el espacio de encuentro entre la pluralidad de los seres humanos y los referentes compartidos que, entre otras cosas, hacen posible una corroboración intersubjetiva de la realidad. La única vinculación entre usuarios resulta siendo la plataforma misma y las interacciones que permiten sus algoritmos. Paradójicamente, aunque el negocio se publicita con la retórica de la “conexión”, en realidad lo que hacen las plataformas es aislar a los individuos una vez devienen usuarios digitales. Incluso más que la posibilidad de ser engañados por un chatbot, es este aislamiento lo que priva a los sujetos de validar con el otro la realidad objetiva del mundo en que habitan. El usuario digital es abstraido de las comunidades cara a cara a las que pertenece y despojado de la posibilidad de verificar cara a cara la veracidad de la información más allá de lo que la plataforma le permite ver, lo que aumenta exponencialmente su vulnerabilidad a la manipulación.
Las comunidades cara a cara son reemplazadas por las burbujas o cámaras de eco del espacio virtual, contenedores creados artificialmente por los algoritmos que confinan a los usuarios a fin de personalizar los flujos de información. El mundo común que los individuos pueden construir con los otros es suplantado por dichos compartimientos, en los cuales no solo ven reducida su visión, puesto que los algoritmos dirigen y restringen la información que pueden percibir, sino que también se ven privados de la posibilidad de construir lazos sociales de manera autónoma, según sus propios deseos e intereses.
Aún más, los flujos de información y las conexiones entre usuarios son controlados de manera centralizada. Esa es una diferencia fundamental entre el Internet de 2003 y el Internet actual: hoy es menos público, más privatizado y, sobre todo, más controlado. Tal vez esta sea una clave para explicar por qué la reacción global contra la guerra y el genodicio son tan disímiles. En cualquier caso, la relación entre plataformas y usuarios es totalmente asimétrica. Dada la magnitud y la velocidad de la información con que los usuarios son bombardeados todo el tiempo, individualmente están imposibilitados de procesarla para darle sentido o convertirla en conocimiento. En cambio, las grandes empresas tecnológicas disponen de los medios necesarios para convertir esas inmensas cantidades de información de sus usuarios en conocimiento útil para manipular su conducta y obtener ganancias.
Por esa razón, el capitalismo digital o de plataformas hace improbable la discusión colectiva y la construcción de la “opinión pública”, entendida como un raciocinio producto del debate argumentado. El negocio de las plataformas no tiene como propósito cualificar la opinión de sus usuarios, sino “engancharlos” para que se mantengan conectados, produciendo y consumiendo datos. La velocidad y la magnitud de la información, así como los estímulos y recompensas a corto plazo que gobiernan su circulación, le impiden al usuario digital fijar su atención incluso el tiempo necesario para una comunicación de calidad: más que un sujeto comunicante, deviene un replicante de información.
Políticas de la impotencia
El criterio rector de las plataformas es meramente cuantitativo. Aditamentos como el “me gusta” o el “re-post”, en su parte visible, están hechos para cuantificar la adhesión y visibilizar alguna información con independencia de cualquier criterio de relevancia social: constituyen una tendencia, la opinión más popular en un momento, generalmente efímero, en lugar de la opinión pública. Por eso, la discusión argumentada es reemplazada por choques entre burbujas y cámaras de eco con posiciones irreconciliables, basadas en información polémica y superficial que automáticamente produce agrado o desagrado, más que en explicaciones complejas de la realidad.
Efectivamente, en las burbjas o cámaras de eco circula una información previamente tamizada por los algoritmos, que uniformiza los puntos de vista como condición para llegar a influir en la conducta de los usuarios en ellas comprendidos. Estos algoritmos dirigen a cada usuario información capaz de suscitar una reacción y apartándolo de otra: inducen emociones relativas al sexo, el odio o la indignación, entre otras, a fin de mantenerlo conectado. De hecho, redes sociales politizadas como Twitter/X, utilizan algoritmos para promover intercambios hostiles entre usuarios enclaustrados en burbujas distintas. Incluso los usuarios, por iniciativa propia, acuden al llamado ragebait —provocar enojo— para hacerse visibles por ese tipo de algoritmos y aumentar su tráfico digital. De ahí el sectarismo, el dogmatismo, la “polarización” y la violencia simbólica predominantes en el espacio virtual.
En ese ámbito, las posibilidades de participación política para el usuario individualmente considerado se limitan a reaccionar periódica y compulsivamente a la tendencia del momento. El círculo vicioso de las tendencias atrapa la indignación que pueda suscitar un hecho moral o políticamente inadmisible: su duración instantánea y su reemplazo constante por algo más efectivo para despojar la atención reducen la posibilidad de que la indignación se transforme en descontento político efectivo, acción colectiva o compromiso de largo plazo. En la práctica, la política tiende a convertirse en una forma de entretenimiento: un espectáculo interactivo, formado por escándalos permanentes pero fugaces, respondidos a su vez por indignaciones ciudadanas igualmente efímeras que no trascienden lo virtual.
Es cierto que los medios digitales pueden ser efectivos para coordinar acciones colectivas cuando existen, previamente, comunidades cara a cara, con vínculos sólidos. Por el contrario, constituir este tipo de colectividades capaces de soportar la acción colectiva desde el ámbito online hacia el mundo offline es muy improbable, dada la naturaleza fundamentalmente hostil de los intercambios con la otredad que impone la lógica de operación de las burbujas y cámaras de eco. La vida de estos contenedores depende, además de las afinidades entre usuarios que identifican los algoritmos, de una purga, “funa” o “cancelación” permanente, único mecanismo capaz de dirimir quién está dentro y quién fuera, quién es “amigo” y quién “enemigo”.
Asimismo, en la medida en que las plataformas aislan a los individuos –reemplazan el vínculo social por la conexión digital y los enclaustran en burbujas o cámaras de eco– no solo limitan la posibilidad de establecer relaciones sociales sólidas sino que incluso erosionan las existentes. El “teletrabajo”, por ejemplo, suprime el espacio de reunión cotidiano necesario para que los trabajadores puedan constituirse en sujetos políticos. Pero esta tendencia está presente en todas las relaciones sociales: en los espacios de encuentro entre personas extrañas –transporte público, salas de espera, etc.– estas prefieren refugiarse en su teléfono móvil en vez de socializar con los desconocidos, privilegian la conexión digital sobre la el vínculo social propiamente dicho.
Por todo esto, el protestódromo virtual constituye, quizás, el más eficaz dispositivo de control jamás inventado. El aislamiento algorítmico priva al individuo del mundo común y de las relaciones con los otros. De esa forma, reduce sus posibilidades de ejercer poder —la capacidad humana para “actuar concertadamente” de acuerdo al concepto de H. Arendt— con el fin de perturbar efectivamente la monotonía compulsiva de las tendencias que lo despojan de su tiempo y de su atención.
En última instancia, los ciudadanos contemporáneos son reducidos a una política de la impotencia. El escenario político está permanentemente alterado por las tendencias que se suceden velozmente, pero, al mismo tiempo, impide la introducción de cambios sociales sustanciales: por lo general, la expresión virtual individual no propicia sino, al contrario, sublima la acción política. Conduce a una especie de “banalidad del bien”, en tanto deja en cada individuo la sensación de que ha hecho “lo correcto”, aunque su acción se limite a un click cuyo efecto concreto se reduzca a alimentar con tráfico digital la maquinaria del capitalismo y, por ende, las ganancias privadas.
1 “¿Por qué los modelos de lenguaje alucinan?”. Disponible en: https://openai.com/es-419/index/why-language-models-hallucinate/
2 Daniel Arjona, “El dividendo del mentiroso: sobre deepfakes y la gente que le pregunta a Grok si Irán existe”. Disponible en: https://elarjonauta.substack.com/p/el-dividendo-del-mentiroso-sobre
* Politólogo, Doctor en Estudios políticos y relaciones internacionales de la Universidad Nacional de Colombia.
Leave a Reply