El algoritmo de Netflix podría sacarte del closet

En el mundo de los servicios digitales, el algoritmo es todo. Una mezcla de inteligencia artificial, datamining y magia negra que decide la forma en que cada usuario recibe su información.

En Instagram, el algoritmo es el que elige qué imagen mostrar primero en tu feed, y qué historia es la que lidera la lista. En Twitter controla las aparentemente arbitrarias apariciones de tweets a los que tus amigos pusieron “me gusta”. El de Google está diseñado para buscar la publicidad que más se adecúe a tus necesidades.

Distintas imágenes promocionales de “Stranger Things” que se ajustan a los supuestos intereses del usuario

En Netflix el algoritmo controla cada aspecto de tu experiencia. Decide cuáles son las películas que el servicio te recomienda cómo notificaciones en tu celular y mails en tu cuenta de correo. Elige el orden en el que los estrenos aparecen en la interfaz principal de la aplicación. ¿Alguna vez te preguntaste por qué tu ícono de “Sex Education” tiene a Jean en vez de a Maeve? El algoritmo selecciona imágenes promocionales que se adecúan a lo que cree que son tus gustos.

Para Netflix el algoritmo es el alfa y el omega - y el neoyorquino Lukas Thoms descubrió, para su sorpresa, que medía mucho más de lo que nosotros creíamos.

“Love, Death + Robots” es la nueva serie animada de ciencia ficción de Netflix, una antología de historias autoconclusivas, que no duran más de 15 minutos y se pueden ver en cualquier orden. Un “Black Mirror” que se puede terminar en una tarde.

La serie tiene 18 episodios numerados, pero Netflix aprovechó la variedad estética y temática de los cortos para mostrarlos en un orden distinto a cada usuario, teniendo en cuenta su gustos y preferencias.

O, cómo descubrió Thoms, su sexualidad.

Just discovered the most INSANE thing. The ORDER OF THE EPISODES for Netflix’s new series Love Death & Robots changes based on whether Netflix thinks you’re gay or straight. — Lukas Thoms (@LukasThoms) 19 de marzo de 2019https://twitter.com/LukasThoms/status/1107839333824937984?ref_src=twsrc%5Etfw

Thoms asegura que el orden de los capítulos cambia de acuerdo a la sexualidad del espectador. Su cuenta empieza con “La Ventaja de Sonnie”, el primer capítulo oficial de la serie, que tiene una escena de sexo lésbico en sus primeros minutos. En cambio, en la cuenta de su amigo Andrew, la serie empieza con “Más Allá de la Grieta”, el séptimo capítulo de la serie que tiene una escena explícita heterosexual.

Por supuesto, el CM de Netflix contestó de inmediato a Thoms, aclarando que el orden de los episodios está elegido completamente al azar. “Love, Death + Robots” es un experimento y cada usuario podría recibir una combinación distinta de entre cuatro opciones**. Fue una casualidad y nada más.**

Netflix no solo ajusta las imágenes de acuerdo a las preferencias del usuario, sino a su región

Thoms quedó satisfecho con la respuesta. Sin embargo, sus menciones se llenaron de gente convencida de que Netflix conocía (o adivinaba) su sexualidad. Imágenes de parejas del mismo sexo en banners promocionales de series. Comedias de temática LGBT primeras en la lista de recomendaciones. Notificaciones de nuevas temporadas de series como “Sense8” y “Orange is the New Black” ¿puede el algoritmo sacarte del closet, o no?

En 2016 April Joyner hizo una investigación para la revista Marie Claire titulada “Blackflix”, en la que descubrió que luego de ver películas protagonizadas por afroamericanos, una barra dedicada a cine con esta temática apareció mágicamente en su interfaz principal.

Esto es porque cada película tiene una serie de “tags”, etiquetas que describen de una forma u otra su contenido. Si uno ve una cantidad de películas que tienen el tag “afroamericano”, el algoritmo asume interés en esta categoría.

La investigación de Joyner toma caminos fascinantes, pero también revela que el algoritmo está mejor preparado para reducir las opciones que para expandirlas. Que expone al usuario y a la vez lo encasilla. Netflix no tiene forma de saber si Joyner es afroamericana, pero al abrir su perfil quedaría claro que así lo es. Aún si no estuviéramos viendo la selección de películas de esta temática.

A fines del año pasado Stacia Brown, creadora del podcast “Charm City”, posteó en Twitter la imagen promocional de la película “De tal Padre”, que en su cuenta de Netflix mostraba dos personajes afroamericanos que no tienen ni 10 minutos de presencia en el film.

Other Black @netflix users: does your queue do this? Generate posters with the Black cast members on them to try to compel you to watch? This film stars Kristen Bell/Kelsey Grammer and these actors had maaaaybe a 10 cumulative minutes of screen time. 20 lines between them, tops. pic.twitter.com/Sj7rD8wfOS — stacia l. brown (@slb79) 18 de octubre de 2018https://twitter.com/slb79/status/1052776984231718912?ref_src=twsrc%5Etfw

Netflix confirma que las imágenes están personalizadas para cada usuario a través del sagrado algoritmo, pero niega rotundamente las implicaciones racistas de la acusación.

“Los informes que indican que usamos datos demográficos para personalizar las imágenes no son ciertos. No preguntamos a nuestros miembros su género, raza, o etnicidad, y por lo tanto no podemos usar esta información para ajustar la experiencia. La única información que usamos es el historial de lo que el usuario ha visto.”

En la revista Wired, el profesor Arvind Narayanan dice que este es un efecto natural del uso del algoritmo. Al personalizar la experiencia buscando los patrones de lo que cada usuario ve, la identificación racial es un efecto naturalmente emergente. Sin embargo Narayanan aclara que negativas como la de Netflix le permiten evitar los problemas que podrían surgir de eliminar ese algoritmo.

Esto no es algo nuevo para Netflix. El algoritmo de recomendaciones tiene casi dos décadas, y en 2009 (cuando aún era un servicio de alquiler de DVDs por correo) la empresa fue demandada por una mujer que consideraba que en un concurso se había revelado su historial de alquileres - en base al cual cualquiera podría adivinar su sexualidad.

Las cuentas de Netflix no suelen estar protegidas con la misma seguridad que una red social o un correo. Y sin embargo, es muy probable que cualquier desconocido que abra tu cuenta pueda conocer con una mirada datos básicos sobre vos: tu género, tu sexualidad, tu etnia, tus gustos.

Desde que vemos el primer capítulo de “Breaking Bad” o “Stranger Things” estamos compartiendo información a un servicio (pago) sobre nuestros hábitos de consumo, creando un retrato de nuestros gustos que están autorizados a compartir con quién decidan.

Y no, no podemos elegir no ser parte del omnipotente, omnipresente, algoritmo.