Recientemente, BBC Mundo sacó una durísima nota que titulaba: “Cómo los algoritmos de las redes sociales promueven el contenido violento y misógino entre los jóvenes varones”. Y quedé un tanto sorprendido por los alcances del tema.

Todos los días nos enfrentamos al consumo masivo de contenidos. Pero no sabemos bien cómo es que llegamos a ese video del perrito o nos cambia de frente a un trino extremadamente violento con imágenes sensibles. Detrás de esos contenidos que, en principio, parecen aleatorios existe una suerte de monje negro.

Los algoritmos son todo en internet. Y al tiempo no son nada. Podemos decir que esas figuras son sistemas inteligentes que se acomodan a los gustos y preferencias de los usuarios. Por supuesto, tienen unos modelos sencillos de medir: si le das Like a un contenido, el sistema entiende que te gusta el tema y te seguirá enviando este tipo de publicaciones.

Hasta ahí, entendible. Pero todo se va complicando cuando entra en juego lo político, lo violento y sobre todo lo comercial. Hablemos del componente político de los algoritmos. Los usuarios estamos al vaivén de los gustos de los programadores de las grandes aplicaciones de redes sociales.

Un ejemplo claro de esto es X (para mí, siempre Twitter). Hasta 2022, Twitter era una aplicación dominada por el progresismo, dado que sus directivos y principales programadores tenían esta tendencia política. Sin embargo, con la irrupción de Elon Musk, la aplicación, mejor: lo que vemos en la aplicación: tuvo un giro a la derecha que es imposible de negar.

Pasa lo mismo con Facebook. Tanto es así que, el dueño de Meta tuvo que salir a pedir disculpas por las intromisiones que tuvo su plataforma en las últimas dos elecciones de presidente en los Estados Unidos. Los algoritmos controlan y muestran, en lo político, lo que les gusta a los dueños y a los programadores y esta es una seria amenaza contra la democracia.

En cuanto al tema violento, que destacaban en BBC Mundo, el tema de los algoritmos se puede dividir en dos temas: esa cantidad de videos con extrema violencia que se muestran sin ningún tipo de miramiento. Y la cantidad de mensajes misóginos que también campean a sus anchas. El tema es que no existe casi ningún filtro. Basta con pasar de un Reel de un perrito a un asesinato en cuestión de milisegundos.

Por último, la relación entre los algoritmos y las marcas ya se convirtió en un concubinato. Así, sin más. Basta con una buena programación para que una marca salte casi que a cada segundo en los celulares de millones de personas. Entonces, la marca se dedica a pautar en las plataformas para que comience la invasión. Y nunca se detiene.

Lo grave de todo el asunto es que nadie puede detener a los algoritmos. Porque esos sistemas, muchas veces manipulados y poco seguros, son la matriz de las redes sociales y la única forma de que no controlen casi que la vida digital de los usuarios es desinstalándolas del celular. ¿Y los Estados? ¿Y las regulaciones? Dormidas. Ellas apenas van en las plataformas de transporte.