El documental El dilema de las redes sociales aborda la problemática de la adicción a las redes sociales y el auge de los discursos de odio. Sin embargo, la simplificación y las teorías de la manipulación (que suponen que los seres humanos solo son conejillos de indias del poder tecnológico) empobrecen el debate. El documental, que rechaza las nuevas teorías conspirativas que «surgen en las redes», también apela a una de ellas: la que sindica a los «villanos de Silicon Valley» como responsables de todo.
The great hack [El gran hackeo], el documental de Netflix sobre Cambridge Analytica, comienza con una sentencia interesante. David Carroll, profesor asociado en Parsons School of Design de Nueva York, está sentado frente a un pequeño grupo de estudiantes y pregunta:
–¿Quién no ha visto un anuncio que le haya hecho pensar que su micrófono está escuchando sus conversaciones?
Entonces, se producen las risas incómodas de los alumnos. Y Carroll afirma:
-Nos cuesta imaginar cómo funciona (…) Los anuncios que parecen increíblemente precisos nos hacen pensar que nos espían, pero es muy probable que sean una evidencia de que el targeting funciona y que puede predecir nuestra conducta.
La respuesta de Carroll plantea interrogantes que no han perdido vigencia. ¿Qué datos almacenan las plataformas de redes sociales? ¿Son usados solo para la publicidad? ¿Tiene un límite el extractivismo de datos? ¿Qué hacen las empresas con toda esa información de los usuarios?
El documental también pone el foco en escándalo de Cambridge Analytica, los problemas de privacidad de Facebook, las fake news y la consecuente «manipulación de las personas». Con esa finalidad, se analizan el Brexit y la campaña presidencial de Donald Trump de 2016. La confirmación de lo que ocurría tras bambalinas en Cambridge Analytica se valida en la voz de Brittany Kaiser, una ex empleada de la consultora que ahora se muestra arrepentida. El hilo narrativo del film acompaña a Brittany expiando sus pecados en el festival Burning Man o en un lujoso hotel en algún lugar de Tailandia. Después del éxito y el frenesí, la hija pródiga regresa para reconocer sus errores y tratar de enmendarlos.
Sin embargo, el documental da por sentados hechos que vale la pena poner en tela de juicio. Sobre todo, uno central. ¿Por qué se asume que las personas pueden ser manipuladas por una combinación de big data, algoritmos y tácticas de psicología conductual?
El dilema de las redes sociales retoma algunos temas que ya fueron enunciados en The great hack. Entre ellos, se destacan la polarización, las fake news y el extractivismo de datos. Pero se incorpora un nuevo elemento: el del vínculo entre la adicción a la tecnología y la manipulación de la que son víctimas los usuarios. Sin embargo, la liviandad de la denuncia queda en evidencia cuando se pone el foco en cuestiones técnicas como las notificaciones emergentes, el scrolleo infinito y la recomendación de contenido personalizado. Los testimonios de diseñadores y ex ejecutivos –todos arrepentidos– pretenden darle más espesor a la denuncia y son entrelazados con una ficción que pone en la piel de los personajes la adicción y la permeabilidad que se atribuye a las y los usuarios.
La historia ficcional está construida sobre un tendal de estereotipos y posiciones «políticamente correctas» y un centrismo casi ingenuo en el plano político. Así, se puede ver a una familia étnicamente diversa, en la que los padres, ligeramente amables y desconcertados, tratan de lidiar con la tecnología, mientras sus tres hijos presentan un abanico de posibilidades. La conciencia ética recae sobre la hermana mayor (que no usa celular y lee a Shoshana Zuboff), mientras que la más pequeña es presa de su adicción (con la que se pretende mostrar a una «generación perdida»). El plato fuerte, sin embargo, puede verse en la lenta y permanente caída del hijo adolescente que se aleja de los deportes y de sus amigos, para sumergirse rápidamente en una espiral de odio y fanatismo gobernado por el contenido personalizado de las redes sociales.
Todo el set de críticas que plantea El dilema de las redes sociales pueden ser resueltas por el Center for Humane Technology (fundado, entre otros, por Tristan Harris, principal orador del film). Identificar el problema, difundirlo y vender la solución. El punto central es exactamente ese: que los problemas sociales que ocasiona la tecnología solo serán resueltos por –y a través de– la tecnología. Evgeny Morozov llamó a esto la «locura del solucionismo tecnológico».
En este entramado, una decena de arrepentidos de Silicon Valley reconoce haber trabajado para generar que los usuarios pasen más horas frente a la pantalla, pero también aseguran haber padecido ellos mismos esa adicción que los convirtió en víctimas. Tim Kendall, ex ejecutivo de Facebook y ex presidente de Pinterest, reconoció que no podía soltar el celular cuando llegaba a su casa. La solución sugerida, una y otra vez, es desactivar notificaciones y medir el tiempo de uso.
Uno de los riesgos que involucra este documental y su estrategia panfletaria es el incremento del pánico moral (algo similar ocurrió con la campaña #DeleteFacebook, después de que se conociera el escándalo de Cambridge Analytica). Aunque se denuncia que el problema radica en el modelo de negocios que sostiene a las plataformas, la acusación se desdibuja y deja pasar la oportunidad de generar una crítica más sólida para entregarse a los golpes de efecto.
El film se engolosina señalando la forma en la que la Inteligencia Artificial (IA) que administra los datos personales está apuntada contra el cerebro de los usuarios. En definitiva, afirma que los manipula y los vuelve adictos. Una vez más se pierde de vista uno de los aspectos más perjudiciales del uso de estos sistemas de mediación algorítmica. Diversos estudios, como los de Virginia Eubanks, Cathy O’Neil y Safiya Umoja Noble, analizan cómo estas decisiones automáticas involucran datos incompletos y algoritmos sesgados y concluyen que, si son usados para apuntalar políticas públicas, terminan aumentando la desigualdad, reforzando estereotipos e intensificando la discriminación racial y sexual.
A lo largo de El dilema de las redes sociales opera todo un conjunto de simplificaciones que buscan antes el impacto sensacionalista que el estímulo de una mirada reflexiva. En primer lugar, tiene una narrativa centrada en Estados Unidos, pero pretende extenderla a todo el planeta, desconociendo los contextos particulares donde son usadas las redes sociales. Por otra parte, hay una generalización sobre Facebook en primer lugar –seguido de lejos por Twitter– y su funcionamiento que no da cuenta de las particularidades de otras plataformas, tanto en lo que remite a usos como a sus principales características. El tercer punto es que ignora el ecosistema de medios donde se insertan las redes sociales: estas no funcionan en el vacío, sino que establecen vínculos y relaciones con otros agentes en la esfera pública. Los entrevistados afirman en repetidas ocasiones que las redes sociales constituyen una amenaza sin precedentes. De ese modo, no solo parecen desconocer los centenares de estudios realizados no solo sobre la radio y la televisión (y su influencia sobre los usuarios, como apuntaban Robert K. Merton y Paul F. Lazzarfeld en un famoso análisis de la década de 1940: «Comunicación de masas, gusto popular y acción social organizada»), sino que omiten los diversos análisis comparativos entre estas nuevas plataformas y las ya «clásicas».
El documental sostiene, además, supuestos equívocos, como el que considera que la exposición a los discursos de odio, implica comulgar con aquello que propugnan. Según los creadores de este film, el hecho de estar expuestos a una mentira resulta suficiente para creer en ella. Por último, se ocluye la dimensión creativa que flota y atraviesa las redes sociales. En este sentido, la periodista Evan Green desarrolló un hilo de tuits en el que enuncia toda una serie de omisiones que bien podrían haber enriquecido el documental, pero que, en miras del pánico social y moral que se buscó generar, lo habrían debilitado.
Las redes sociales no son el único nicho para el florecimiento de los discursos de odio, aun cuando resulta indudable que estos discursos y teorías se han valido de los algoritmos de personalización y recomendación (de YouTube y Facebook particularmente) para circular a una mayor velocidad. Sitios como 8chan, 4chan o Stormfront, entre otros, fueron la cuna de dichos movimientos y el lugar donde se cocinaron muchas teorías conspirativas. Asimismo, resulta extraño que una plataforma como Netflix, cuyo sistema de recomendación estuvo en la mira varias veces por el uso de los datos de sus usuarios, hoy contribuya a denunciar estas problemáticas.
Los algoritmos filtran la información, la jerarquizan, la ordenan y exhiben una determinada concepción del mundo, mientras las plataformas compiten unas con otras por la atención de los usuarios y, con ese propósito, agregan funcionalidades, se modifican en base a los usos desviados (no planificados), cambian y se homogeinizan (Twitter pasó de la estrellita al corazoncito). Pero afirmar que estas empresas compiten por la «hora-pantalla» de los usuarios es muy distinto a sostener, como lo hacen los «arrepentidos» de Silicon Valley en The Social Dilemma que, al monopolizar la atención, generan adicción y «manipulan las conciencias».
Este pánico para dummies, que desconoce la historia de los medios masivos de comunicación, que confunde la adicción a los cigarrillos con el uso desmedido de las redes sociales, que compara la invención de la bicicleta con las plataformas de redes y que sindica a todos los males contemporáneos como parte de una conspiración de algunos «villanos» de Silicon Valley, también pretende ofrecer una «solución». Apela a una receta de varios pasos y a una Iglesia en la que tramitar la adicción: el Center for Humane Technology. Para El dilema de las redes sociales todo es sencillo: el caos creado por las redes sociales puede deshacerse simplemente reescribiendo el algorítmo. El problema es que al errar en el análisis no puede creerse ningún tipo de solución
Leave a Reply