LAS REDES MALDITAS (I)
La mano invisible de Facebook establece los límites de lo aceptable en política y en los discursos para 2.000 millones de usuarios de todo el mundo.
A lo largo de algunos meses de los años 2017 y 2018, se dieron cuenta de que las publicaciones estaban cada vez más cargadas de odio, de conspiraciones y de extremismo. Y notaban que, cuanto más incendiaria era la publicación, más la difundían las plataformas. Les parecía que había un patrón, algo que se repetía en las decenas de sociedades e idiomas que tenían el encargo de supervisar.
Además, creían que su capacidad de frenar el odio y la incitación crecientes se veía limitada por lo mismo que supuestamente tenía que ayudarlos: los montones de reglamentos secretos que dictaban qué podían permitir en las plataformas y que tenían que eliminar. Para los más de 2.000 millones de usuarios de Facebook, estas normas son en su mayor parte invisibles. Están pensadas para que las plataformas sean seguras y civilizadas, y lo regulan todo, desde la frontera en la libertad de expresión y los discursos de odio hasta los límites de los movimientos políticos permisibles. Pero a medida que los reglamentos se mostraron insuficientes para contener los prejuicios que con frecuencia creaba la propia plataforma, y a medida que la supervisión empresarial de esta parte-muy poco glamourosa- del negocio iba a la deriva, las guías internacionales habían ido amplificándose hasta convertirse en cientos de páginas confusas y a menudo contradictorias. Algunas de las más importantes-sobre como identificar el reclutamiento de terroristas ola supervisión de elecciones polémicas- estaban llenas de erratas, errores fácticos y vacíos legales obvios. La chapucería y las lagunas indicaban una peligrosa indiferencia por una labor de vida o muerte, y eso en un momento en que las plataformas estaban repletas de un extremismo que cada vez hacía derramar sangre en el mundo real. Tan solo unos meses antes, en Birmania, las Naciones Unidas habían acusado formalmente a Facebook de permitir que su tecnología contribuyera a provocar uno de los genocidios más atroces desde la Segunda Guerra Mundial.
Los algoritmos y el diseño de la plataforma configuran de forma deliberada las experiencias y los incentivos de los usuarios y, por tanto, a los propios usuarios. Estos elementos son el núcleo del producto.
Los algoritmos sacan provecho de la atracción del cerebro humano por la división. Los sistemas de Facebook estaban diseñados de tal forma que ofrecían un contenido cada vez más divisivo para captar la atención de los usuarios e incrementar el tiempo que estos pasaban en la plataforma. ¿Cuáles son las consecuencias de hacer pasar una porción cada vez mayor de la política, la información y las relaciones sociales humanas a través de unas plataformas de internet diseñadas expresamente para manipular la atención?
Las políticas de Facebook permitían una desinformación descontrolada que podía alterar elecciones. Sus algoritmos y sistemas de recomendación estaban conduciendo a los usuarios hacia cámaras de resonancia en las que se potenciaba el extremismo, lo cual les enseñaba a odiar. La empresa no entendía como sus productos afectaban a sus miles de millones de usuarios.
Se demostró que la creencia popular inicial de que las redes sociales fomentan el sensacionalismo y la ira, aunque era cierta, se quedaba muy corta. Sus efectos son mucho más profundos. Esta tecnología ejerce tal influencia en nuestra psicología y nuestra identidad, y es tan omnipresente en nuestras vidas, que cambia nuestra manera de pensar, comportarnos y relacionarnos unos con otros. El efecto, multiplicado por miles de millones de usuarios, ha sido la transformación de toda la sociedad.
No se puede culpar a Silicon Valley de las flaquezas psicológicas que nos llevan a hacer daño a los demás o a actuar contra nuestros propios intereses. Ni de la profunda polarización cultural, en EEUU y en otras partes, que allanó el camino para convertir esos nuevos espacios en campos para el conflicto partidista, donde se destruye todo sentido compartido de bienestar o realidad. Ni siquiera puede culparse a las compañías más grandes de Silicon Valley del modelo de financiación del sector de la alta tecnología que permitió su aparición, que consiste en ofrecer inversiones multimillonarias a veinteañeros con dificultades sociales y luego exigirles una rentabilidad inmediata y exponencial, sin que importen mucho los obscenos incentivos que eso genera. Aún así, esas compañías acumularon algunas de las mayores fortunas empresariales de la historia sacando provecho de esas tendencias y debilidades, en un proceso que ha dado lugar a una época totalmente nueva de la experiencia humana. Las consecuencias quedaban escondidas detrás de una ideología según la cual las personas serían más felices y libres si pasaban más tiempo en internet. Y quedaban ocultas también detrás de una cepa del capitalismo de Silicon Valley que promueve una subcultura de ingenieros contestataria, descarada y casi mesiánica para dirigir las empresas que gobiernan nuestras mentes.
Cuando se presionó a esas compañías para que se comportasen, al menos en parte, como las instituciones de Gobierno de facto en las que se habían convertido, terminaron en el centro de crisis políticas y culturales de las que eran parciales. El arbitraje de una democracia empeñada en su propia destrucción es una labor ingrata: si las compañías no hubieran alcanzado posiciones de tanto poder, no se habrían negado a asumir responsabilidades hasta que se les forzó a hacerlo a punta de pistola regulatoria y, en casi cada etapa del proceso, no habrían puesto en riesgo el bienestar de sus usuarios para seguir generando miles de millones de ingresos mensuales. Puesto que los gigantes de las redes sociales tenían pocos incentivos para afrontar el coste humano de sus imperios-un coste asumido por el resto de las personas, tendrían que hacerlo en su lugar decenas de personas alarmadas externas al sector y desertores de Silicon Valley.
El motivo por el que el sistema promocionaba tanto a los conspiratorios marginales era la participación. Las plataformas de redes sociales daban mayor protagonismo al contenido que sus sistemas automatizados habían concluido que maximizaría la actividad online de los usuarios, lo cual permitiría a la empresa vender más anuncios. Una madre que acepta que las vacunas son seguras tiene menos motivos para pasar mucho tiempo debatiendo sobre la cuestión en foros virtuales. Los grupos de padres de su mismo parecer a los que se une, aunque tengan muchos miembros, pueden ser relativamente tranquilos. Pero una madre que sospecha que hay una enorme conspiración médica que pone en peligro a sus hijos, podía pasarse
