Maldito algoritmo: ¿estamos consumiendo lo que queremos o lo que nos vende el contenido?

Un análisis crítico sobre cómo funcionan los sistemas de recomendación online actuales, cuál ha sido su evolución y cómo inciden en nuestros gustos y hábitos cotidianos indica que estamos entrando en una era de “ansiedad algorítmica”.

Según el periodista Kyle Chayka, autor del libro Filterworld, que explora el impacto de la tecnología algorítmica en la cultura, constantemente estamos negociando con estos sistemas, preguntándonos si realmente hubiéramos elegido eso, algo que nos deja agotados y ansiosos.

Chayka da numerosos ejemplos en distintas industrias, desde cómo hemos perdido el gusto por descubrir música por cuenta propia de manera orgánica hasta cómo se crea la moda actualmente: diseñadores humanos que son reemplazados por consultoras de tendencias y motores de búsqueda online promoviendo el fast fashion y a los influencers.

“¿Estamos comiendo lo que queremos o lo que nos vende el contenido? ¿Qué recetas estamos replicando? Observo rápidamente las tendencias de TikTok y eso me deja un sabor bastante amargo. La fórmula se repite: más se viraliza el posteo, más lo muestra el algoritmo, más personas lo ven y piensan que tienen que replicar exactamente eso para tener éxito. Por eso, lo primero que podemos hacer para salir de este loop infernal es tomar conciencia”, escribe la cocinera y blogger @lujan.mv, haciendo referencia a la homogeneización de los contenidos también en lo culinario.

 

Breve historia de los sistemas de recomendación

Un algoritmo es, matemáticamente hablando, un conjunto de pasos para realizar un cálculo, sea una fórmula compleja para determinar si una foto coincide con un rostro real o algo más simple, como una suma. Hoy en día es importante entender que cuando hablamos de algoritmos con relación a los gustos, nos referimos a los tan mentados sistemas de recomendación, que se vienen empleando desde el arribo de las computadoras personales.

Y aunque podríamos pensar en la televisión o en las revistas gráficas como las “viejas influenciadoras” manipulando nuestros deseos, lo cierto es que en la actualidad prácticamente cualquier plataforma web usa algún tipo de recomendación algorítmica, lo que se ha convertido en un modelo tecnológico que, aparte de más ubicuo, es mucho más potente y, por ende, digno de ser observado de cerca.

Fue recién a mitad de la última década que estos sistemas ganaron popularidad y se volvieron una parte intrínseca de nuestras vidas, gracias a que las redes sociales (Facebook, Instagram y Twitter) y otros sitios, como Spotify y ahora TikTok, comenzaron a emplearlos para organizar su contenido, determinar la disposición de las publicaciones en el feed y sugerir contenidos similares a los usuarios.

Recordemos que en la prehistoria de las redes sociales, los feeds eran cronológicos y los contenidos se veían por orden de aparición y no por lo que determina con base en criterios opacos (y que cambian todos los meses) un algoritmo.

 

Asimismo, modelos de negocio como el de Netflix volvieron el “arte de la cyber-recomendación” un agregado de valor para servicios de streaming en cualquiera de sus formas, introduciendo interfaces curadas y “personalizadas” que buscan recomendarte algo que podría gustarte, anticipándose a lo que podrías querer ver o escuchar.

Todo esto, en conjunto con el crecimiento de disciplinas como el neuromarketing, que busca explotar técnicas de las neurociencias para el marketing y la venta de productos (aprovechando tanto la extracción de datos del usuario como el análisis de los niveles de emoción y atención evocados por las publicidades), hizo que las tecnologías se volvieran menos transparentes y previsibles.

Y, como todo, estos cambios con los que muchos crecieron siendo nativos digitales y otros aprendimos a asimilar terminaron por naturalizarse y, por tanto, volverse casi invisibles. El caso paradigmático presentado hace una década en los medios, “How Companies Learn Your Secrets”, fue acerca de cómo Target, una cadena minorista, podría haber estado haciendo data mining para crear un modelo de predicción de embarazo, de manera de enterarse antes que un padre que su hija de 17 años estaba embarazada.

Otro caso icónico de los últimos años en términos de extracción de datos del usuario –y uso para publicidad totalmente gratuita– es el famoso Wrapped de Spotify (los resúmenes anuales), en el que la compañía hace claro uso de nuestra información personal para seguir construyendo su imagen y afianzarse en el mercado, como han señalado numerosos activistas en favor de los derechos civiles y la privacidad.

“Spotify ha hecho un gran trabajo convirtiendo la vigilancia del marketing en algo divertido; la gente no solo participa de su propia vigilancia, sino que además la celebra y comparte, alardeando al mundo”, explicaba la periodista Amanda Hoover en una nota reciente de Wired. Lo más irónico de todo es que sabemos que nos están espiando y usando nuestros datos a su favor, pero aun así la aplicación se sigue utilizando y, de hecho, cada año es más popular.

 

Cultivar un buen grado de escepticismo

Lo cual nos trae al problema actual, que quizás no lo sea tanto, como desarrollaba una extensa editorial de The New Yorker (“La era de la ansiedad algorítmica”): el poder desconfiar de aquello que se nos ofrece o sugiere como lo más acertado o mejor para nosotros y, fundamentalmente, aprender a cuestionar las tecnologías que nos rodean y el uso que les estamos dando.

“Más que de ansiedad algorítmica, podríamos hablar de conciencia algorítmica. Sabemos que existen los algoritmos, a veces los criticamos, a veces los domesticamos. Les decimos: ‘No me muestres más esto’, por ejemplo. Una estudiante me dijo una vez: ‘Instagram siempre sabe quién me gusta y me lo muestra primero’. Ahora muchas personas están compartiendo en redes su año en Spotify, moldeado, en parte, por algoritmos, así que además los algoritmos pueden ayudarnos a descubrir rasgos o gustos personales”, sugiere Eugenia Mitchelstein, profesora de la Universidad de San Andrés y coautora del flamante libro El entorno digital.

¿Si somos lo que consumimos, entonces acaso los algoritmos se estén revelando como nuevas formas de autoconocimiento o pequeños oráculos modernos? Tal vez no sea para tanto, lo que es seguro es que detrás de las tecnologías siempre hay humanos, por eso es importante cultivar una dosis saludable de escepticismo, buscando estrategias para moldearlas o hackearlas.

Algunos están volviendo a maneras más analógicas de experimentar la cultura (ya se habla de una vuelta pospandemia a lo analógico, ver The Future is Analog, de David Sax); otros, volcándose a plataformas y aplicaciones menos masivas y más respetuosas, y otros, a tiempos más simples de la web (la vuelta de Flickr, el crecimiento de servicios como Glass o Discord, el slow internet).

Al final del día, con cada recomendación de un colchón, un disco o un par de zapatillas nuevas, vale recordar que el “culpable” no es solo el algoritmo, sino también un modelo de negocios y tecnocultural basado en la extracción y utilización de nuestros datos y tiempo, del que participamos, a veces, gustosamente.