Burofax

Facebook se cambió el nombre, pero sus problemas siguen ahí

En medio de un escándalo de proporciones importantes, la empresa de Mark Zuckerberg se cambió el nombre a Meta, una referencia a lo que algunos creen que es el futuro de la internet.

Hola, ¿cómo estás? 

Quizás no tuviste una buena semana, quizás incluso venís de un mes más o menos. La buena noticia es que seguro ahora estás mejor porque Facebook pasó a llamarse Meta. 

En el news pasado te conté de las revelaciones de Frances Haugen, una ex empleada de la empresa que, muy desilusionada con lo que vio ahí, filtró documentos y otros materiales y brindó testimonio a un periodista del Wall Street Journal (WSJ).

En las dos semanas que pasaron desde entonces hubo más mala prensa para Facebook. En lo que sigue te cuento más revelaciones y la historia alrededor del cambio de nombre. 

¿Qué creo que importa? De las revelaciones, otra vez, el contraste entre lo que Facebook dice públicamente y lo que hace y sabe en privado. Del cambio de nombre, no tengo mucho nuevo para decir: Facebook va por todo, incluidas cosas que vos y yo no podemos imaginarnos. 

Adónde vamos no necesitamos humanos

Frances filtró documentos demostrando que la estrategia de la empresa de reemplazar humanos por inteligencia artificial para detectar discursos de odio en la plataforma no funciona. Y, como te conté hace dos semanas, otra vez se ve la diferencia entre el discurso público de la empresa y la realidad. 

Zuckerberg en el Congreso dijo que la empresa baja el 89% del contenido de odio o peligroso antes de que lo vean otros usuarios. Sin embargo, entre los documentos filtrados hay un estudio que indica que solo logran reaccionar ante un 2% del contenido de odio.

Lo que sucede es que Facebook quiere pasarse de humanos moderando a inteligencia artificial (IA). Esto significa pasar a sistemas automatizados que detecten el discurso que la empresa considera no deseado y lo bajen de la plataforma. ¿Por qué quiere pasarse? Bueno, porque es mucho más eficiente (imaginate que entreno al sistema para detectar x cosa y después lo pongo a mirar 50.000 posts para detectar esa cosa) y mucho más barato (los humanos lamentablemente todavía tenemos que recibir un salario y los humanos contratados por Facebook se llevaban el 75% del presupuesto destinado al tema “discurso de odio”). Además, pasarse el día mirando posts racistas, misóginos y odiantes al mundo en general no es un trabajo agradable; de modo que robotizarlo no parece un mal plan. 

¿Cuál es el problema? Que por ahora los robots no lo hacen tan bien como los humanos (pues matices) y menos lo van a hacer bien si les dedicás poco presupuesto. Exacto: Facebook corta el presupuesto en humanos, no aumenta el presupuesto en IA y (esto es muy pillo) hace más difícil denunciar posts con contenido “negativo” -de modo que haya menos trabajo, y por tanto problemas, para los robots-. Para ser una empresa privada pujante, Facebook se parece bastante al estereotipo creado precisamente por los privados de una dependencia estatal que no funciona. Ojo, la gente denuncia de más (no me gusta, lo denuncio), pero has creado un monstruo, hazte cargo. 

El punto es que, mientras la empresa le pone todo a la IA y públicamente dice que está funcionando bárbaro para bloquear el contenido no deseado, de manera privada hay muchas dudas de cuán bien funciona el sistema.

Una pastilla acá: todo esto asume que el contenido negativo viene de afuera. Pero esto no es así, lo que está demostrado y es también público es que ese contenido negativo es empujado por Facebook para que la gente pase más tiempo en la plataforma. Acá van unos stickers que me mandó hace unas semanas mi hermana Paula y se convirtieron en uno de mis combos favoritos: 

Stop the steal

Frances pasó también otros documentos. Quizás recuerdes que cuando Donald Trump perdió la elección no gustó del resultado y dijo que había habido fraude. Sus seguidores entonces armaron unos grupos llamados Stop the Steal (Paren el robo) en Facebook. La empresa no quería difundir ese contenido porque era falso y entonces implementó un mecanismo que ralentiza toda la plataforma. Esto consiste en cosas como limitar el número de compartidos de un post o restringir las invitaciones a grupos. El mecanismo se llama “romper el vidrio” y está pensado para situaciones extraordinarias que requieren esa medida extraordinaria. Esto es clave, la velocidad tiene mucho que ver con lo que la internet es, lo bueno y lo malo. O sea, sin tiempo para pensar todos tomamos peores decisiones, podemos reaccionar de modo inesperado y sin mucha vuelta. Acá los que somos del tipo “se me sueltan todos los cables” entendemos de qué estamos hablando.

El punto es que Facebook utiliza este mecanismo específico que tiene para controlar situaciones urgentes, pero después de unas semanas lo deshabilita. ¿Por qué? Porque enlentecer la plataforma es un atentado a su negocio. ¿Qué pasa cuando lo deshabilita? Todos esos grupos vuelven al ruedo reloaded. Pero Facebook no quiere volver a romper el vidrio y entonces decide usar una estrategia distinta: ir detrás de cada grupo, estudiarlo y decidir si está bien o mal. 

¿Cuál es el problema? Que Facebook está tomando muchas decisiones. O sea, está regulando fuerte el discurso. Algo que, otra vez, no coincide con lo que dice públicamente. 

Llamame Meta

Y finalmente llegamos al tema del día: Facebook se cambió el nombre. Mientras escribo esto leo las reacciones de los principales medios especializados y todos lo toman con sorna. ¿Por qué? Bueno, porque todo parece una estrategia de distracción en un mal momento. Pero dejemos eso de lado y hablemos del cambio.

Así como en 2015 Google anunció que la empresa madre se llamaría Alphabet (de modo que Google es solo una parte del gran conglomerado), hoy Mark Zuckerberg anunció que pasan a llamarse Meta, abreviatura para Metaverse. Las aplicaciones siguen siendo las mismas, pero este cambio significa varias cosas. 

Primero, que Facebook deja de ser el eje de todo, lo cual ha sido ambivalente. Por un lado, hay aplicaciones distintas y podemos tener una sin tener todas. Por el otro, la información está concentrada y los últimos cambios en WhatsApp iban en esa dirección. Ahora Zuckerberg parece dar un golpe de timón y separar sus marcas un poco más. 

Segundo, que Zuckerberg quiere meterse de lleno en la internet del futuro (la sucesora de la internet del teléfono móvil) llamada Metaverso. ¿En qué consiste? En la conexión que tanto obsesiona a Mark. Se supone que en ese futuro podremos estar juntos, a pesar de estar separados. ¿Qué significa? Que yo acá y vos allá, pero nos ponemos unas cosas en la cabeza y nos juntamos en tu living, un concierto o una oficina. ¿Nos juntamos nosotros? No exactamente, serían más bien nuestros avatares, o sea, representaciones digitales de nosotros mismos. Sin embargo, se supone que esa representación digital, muy customizada por cada usuario, generaría un “sentido de presencia” a pesar de la distancia física. Zuck dijo que, cuando les mande un video de sus hijes a sus padres, ellos van a sentir que están ahí mismo y no simplemente viendo un video. ¿Acaso será posible? Meta sabe que no ahora, pero cree que sí en el futuro y que van a llegar a mil millones de personas en la próxima década. 

En pocas palabras, Meta quiere seguir haciendo lo que hace Facebook: conectar a la gente sin importar cómo ni qué trae esa conexión.  

El del estribo

  • Acá podés buscar los dos nuevos episodios del Wall Street Journal dedicados a las filtraciones de Facebook.
  • Me gustó este hilo de Jorge Carrión, crítico cultural, sobre Meta y lo que Zuckerberg dice que viene. 

Gracias por llegar hasta acá.

Un abrazo,

Jimena

PD: Desde hace meses recibo en mi casilla varios de los newsletters de Cenital, y ahora estoy (también) del otro lado. Si tenés ganas, podés colaborar con nuestro periodismo acá. Y, si todavía no lo hiciste, te recomiendo que te sumes al canal de Telegram que lanzó Cenital.

Este es el newsletter Burofax de Cenital.
Podés suscribirte para recibirlo completo en tu correo. Es gratis.
Soy economista (UBA) y Doctora en Ciencia Política (Cornell University). Me interesan las diferentes formas de organización de las economías, la articulación entre lo público y lo privado y la relación entre el capital y el trabajo, entre otros temas. Nací en Perú, crecí en Buenos Aires, estudié en Estados Unidos, y vivo en Londres. La pandemia me llevó a descubrir el amor por las plantas y ahora estoy rodeada de ellas.
@jvaldeztappata
MÁS DE Burofax

Apoya nuestro periodismo

Si te gusta lo que hacemos, ayudanos a seguir haciéndolo.