Burofax

Las filtraciones de Facebook

La ex empleada de la empresa Frances Haugen filtró documentos y otro tipo de evidencia que prueba que la compañía de Mark Zuckerberg apuesta a crecer a cualquier costo.

Hola, ¿cómo estás? 

Hoy tenemos un material muy jugoso. Una ex empleada de Facebook, fuertemente desilusionada con el funcionamiento de la empresa, filtró materiales comprometedores y brindó testimonio a un periodista del Wall Street Journal (WSJ). Cuando escuché las primeras cosas al respecto, pensé “no hay nada nuevo”, pero después indagué más y ahora creo que hay cosas interesantes ahí.

En lo que sigue te cuento quién es Frances Haugen, y cuáles son las principales revelaciones. Si bien hay mucho y diverso material, las filtraciones muestran dos cosas en común: por un lado, Facebook sabe todo lo que su empresa hace y genera, y, por el otro, de ver esa evidencia se desprende que Facebook tiene un discurso público que es engañoso, sino directamente mentiroso. De este nuevo escándalo, quiero sacar tres puntos: 1. Facebook va por todo y ese todo es mucho más de lo que vos o yo podemos imaginarnos; 2. la estructura se come a las personas (o el camino al infierno está lleno de buenas intenciones); 3. Facebook ya perdió.   

Frances tenía un sueño

Frances Haugen tiene una historia para contar. Hace algunos años, ella perdió a un amigue a manos de la desinformación. Esto es, esta persona que era cercana a ella, comenzó a creer en fake news y fue hundiéndose cada vez más en ese internet conspiranoico. La relación básicamente se terminó, e incluso este amigue se mudó. A partir de esto, Frances comenzó a tener un compromiso particular con la causa de la seguridad y el cuidado de los usuarios, de modo que cuando entró a Facebook (después de pasar por otras tech como Hinge, una app de citas, y Google, que no necesita presentación) tenía una fuerte motivación por trabajar en eso. 

Sin embargo, no tardó mucho en darse cuenta de que Facebook no se tomaba esa enorme responsabilidad en serio. Poco personal, pocos recursos y poco tiempo para trabajar en uno de los temas más relevantes y urgentes que enfrentan las plataformas: la desinformación y polarización. Al ver que sus esfuerzos eran más bien individuales, y que la empresa no solo no acompañaba, sino que pateaba en contra, tuvo un agotamiento progresivo hasta llegar a lo que ella llama una “crisis de fe”. Lo conversó con su madre, académica y religiosa, y decidió irse de Facebook haciendo público lo que había visto y vivido. Contactó a un periodista del WSJ y fue pasándole documentos en secreto, hasta que finalmente divulgó su nombre y brindó testimonio no solo al diario, sino también al Congreso de Estados Unidos. 

El relato es profundamente estadounidense. La fe y el compromiso, por un lado, y la desilusión, por el otro. Es fácil burlarse y espetarle a Frances un superado “qué esperabas”, pero no me parece tan simple. Por un lado, creo que es difícil prever ese nivel de desdén por la protección de los seres humanos y esas ganas de jugar con fuego. Por el otro, lo que hizo Frances requiere valentía -al menos yo temería que no me volviesen a contratar en ningún lado, además de que tener de enemigo a Zuckerberg no me parece el mejor plan-. 

Entonces, presentada y defendida Frances, pasemos a lo que contó. 

¡¿Que Facebook hizo que?!

El WSJ dividió las revelaciones en cinco partes -y yo no voy a ser menos-. Las revelaciones muestran problemas diferentes pero dos cosas en común a todos esos problemas. Facebook, cuál régimen sovietico, sabe todo lo que hace, lo tiene documentado y perfectamente analizado. Además, la empresa sabe una cosa, pero públicamente dice otra -en muchos casos, exactamente la opuesta-. 

En primer lugar, Facebook no trata a todos los usuarios por igual. Usuarios con muchos seguidores, o con alguna importancia específica, están “whitelisted”, lo cual significa que van por otro carril. La empresa implementó un sistema de “cross-check” para verificar el contenido que publican estos usuarios (que pueden ser famosos, periodistas o políticos), pero ese sistema funciona para lo bueno y para lo malo. Digo bueno porque tiene sentido que algunos usuarios sean tratados distinto. Digo malo porque esos usuarios hacen cosas que van contra lo permitido por la plataforma, y la plataforma los deja hacer. El caso que cuenta el WSJ es el de Neymar. Ante la acusación de una mujer por violacion (tiene varias acusaciones de violacion/acoso y Nike de hecho canceló un contrato millonario con él) el futbolista brasileño publicó fotos de esa mujer desnuda -es decir, Neymar hizo “revenge porn”-. Facebook tardó mucho en bajarle el posteo -lo cual significa que las fotos fueron vistas por mucha gente- y además aprovechó para estudiar qué pasa con contenidos de ese tipo. ¿Se entiende? Como Facebook en general no permite este tipo de contenido, no sabe qué pasa con ese contenido. Al permitírselo a Neymar, aparece la oportunidad de entender qué pasa ahí. Donde hay humanes, hay oportunidades para experimentar con elles. 

En segundo lugar, Facebook sabe que Instagram es dañino para la salud mental de algunas mujeres. Esto es conocimiento común, scrollear Instagram provoca insatisfacción, dudas, ganas de ser otre. Lo relevante ahora es que la empresa lo tiene bien documentado en base a estudios realizados en los últimos tres años: "El 32% de las adolescentes dijo que cuando se sentían mal con sus cuerpos, Instagram las hizo sentir peor"; “las adolescentes culpan a Instagram por aumentos en las tasas de ansiedad y depresión”; “empeoramos los temas de imagen del cuerpo para una de cada tres chicas”. Algunas mujeres (menos del 10%) incluso señalaron a Instagram como el origen de sus ideas suicidas. Mientras tanto, en otro canal (el de una audiencia pública ante el Congreso en marzo de 2021), Zuckerberg dijo y cito: “La investigación que hemos visto es que el uso de aplicaciones sociales para conectarse con otras personas puede tener beneficios positivos para la salud mental". Un pícaro. 

En tercer lugar, lo que ya sabemos: no sos vos, es el algoritmo. En algún momento Facebook modificó el algoritmo del News Feed con el objetivo de incentivar las interacciones sociales con “contenido”, entre familia y amigues, buscando además disminuir el enojo y la división que genera la plataforma. Sin embargo, el algoritmo tuvo el efecto contrario, cosa que (otra vez) fue documentada por Facebook. El cambio resultó en que el contenido más polémico y más enojoso era compartido más veces y tenía, por tanto, más chances de volverse viral. “Desinformación, toxicidad y contenido violento son excesivamente frecuentes en los contenidos compartidos”, dice un documento de los filtrados. ¿Qué se puede hacer al respecto? Un equipo de Facebook propuso una idea radical: eliminar el botón de compartir. La empresa por supuesto dijo que no. 

En cuarto lugar, en Facebook hay carteles de droga y tráfico de personas. Los empleados lo saben, lo detectan, avisan a sus superiores y la respuesta es débil o nula. 

En quinto lugar, Facebook quiere tenernos en su pantalla desde el año cero de nuestras vidas. Esta me dio miedo de verdad. Básicamente, los documentos filtrados muestran que Facebook sabe que hay una clientela disponible en pre-adolescentes e incluso más jóvenes. Se sabía que la empresa estaba trabajando en Instagram Kids, pero ahora se filtró un gráfico donde dividen a la población por edad, y el primer grupo es de 0 a 4 años. Los responsables salieron a decir que era simplemente un gráfico, pero la sospecha ya está instalada. Lo cierto es que Facebook sabe que les niñes aprenden a usar un teléfono a los 4 años y que los más jóvenes somos más duchos con la tecnología e introducimos a los mayores en ella. Por lo tanto, hay mucho por hacer ahí. Además, otras empresas -TikTok y SnapChat- se mueven mucho entre adolescentes y Facebook no quiere quedarse atrás. 

Hasta acá las revelaciones. Pasemos ahora a los tres puntos que creo nos llevamos de este nuevo escándalo. 

1. Facebook va por todo y ese todo es mucho más de lo que vos o yo podemos imaginarnos

No me considero una persona muy ingenua, no tengo mucha fe en las empresas tecnológicas y, así y todo, leer los documentos y la información me sorprendió bastante. Lo de Instagram Kids es nivel piel de gallina. Digamos que cuando nosotros fuimos, Zuckerberg fue y vino 10 veces. La imagen de niñes en redes sociales me pareció estremecedora. Y recordé algo que mencioné en el episodio sobre Facebook del podcast: la posibilidad de crecer en privado, que cada vez existe menos. La posibilidad de hacer cosas sin que lo sepan nuestros padres e incluso nuestros amigues. La posibilidad de divertirnos, pero también de pasar vergüenza sin que eso sea televisado. Y también la posibilidad de crecer construyendo un mundo propio, menos expuesto a los otros en todos los sentidos posibles. No me refiero solamente a mostrarnos menos, sino además a ver menos cómo viven los otros. Como siempre, no quiero ser nostálgica de un pasado que nunca existió, pero al mundo propio hay que protegerlo y cultivarlo. 

2. La estructura se come a las personas (o el camino al infierno está lleno de buenas intenciones)

Frances habló de sus ilusiones y de sus ganas de hacer cosas al sumarse a Facebook. También dijo que había un montón de gente no solo muy capaz sino además muy buena trabajando allí. Y, sin embargo, al leer la evidencia y escuchar el testimonio de Haugen da la impresión de que toda esa gente no logra hacer la diferencia en una empresa que tiene un liderazgo sumamente vertical y absolutamente claro en sus objetivos. En ese sentido, creo que la discusión sobre si la gente es buena o mala, e incluso si Zuckerberg es bueno o malo, aporta poco al debate. Recién googleé si es cierto que Zuck cerraba reuniones diciendo: “La compañía por delante del país”. Parece que lo es, lo cual lo pinta de villano. Y, sin embargo, mejor hablar de una empresa muy poderosa que quiere crecer a cualquier precio y no de personas. 

3. Facebook ya perdió  

Hace algunos días escuché el podcast diario del Washington Post en el que cubrían el tema y la conductora le preguntaba a la periodista especializada en tecnología cómo protegerse de Facebook. Y luego decían eso que también dijo Haugen y que ya suena por varios lados: Facebook es el nuevo cigarrillo. En pocas palabras: es adictivo y es nocivo. Lo decían así nomás. Y ahí pensé, Facebook perdió la batalla cultural. No es la única empresa que difunde fake news, no es la única empresa que genera ciudadanos más enojados y divididos, no es la única red que se usa para hacer cosas ilegales y, sin embargo, es la empresa más identificada con eso. De algún modo, las otras grandes -Google, Apple y las mucho más humildes Twitter o Reddit- lograron no caer en la volteada. En el podcast la periodista también decía que Facebook debía cambiar su liderazgo, pues el actual -Zuckerberg y la COO Sheryl Sandberg- ya no era confiable. Predecir es un deporte de riesgo, pero creo que Zuckerberg se arriesgó demasiado.

El del estribo

  • Acá podés buscar los 6 episodios dedicados a las filtraciones de Facebook.
  • Acá podés escuchar la cobertura del Washington Post sobre el tema, que mencioné más arriba. 

Gracias por llegar hasta acá.

Un abrazo,

Jimena

PD: Desde hace meses recibo en mi casilla varios de los newsletters de Cenital, y ahora estoy (también) del otro lado. Si tenés ganas, podés colaborar con nuestro periodismo acá. Y, si todavía no lo hiciste, te recomiendo que te sumes al canal de Telegram que lanzó Cenital.

Este es el newsletter Burofax de Cenital.
Podés suscribirte para recibirlo completo en tu correo. Es gratis.
Soy economista (UBA) y Doctora en Ciencia Política (Cornell University). Me interesan las diferentes formas de organización de las economías, la articulación entre lo público y lo privado y la relación entre el capital y el trabajo, entre otros temas. Nací en Perú, crecí en Buenos Aires, estudié en Estados Unidos, y vivo en Londres. La pandemia me llevó a descubrir el amor por las plantas y ahora estoy rodeada de ellas.
@jvaldeztappata
MÁS DE Burofax

Apoya nuestro periodismo

Si te gusta lo que hacemos, ayudanos a seguir haciéndolo.