Youtube y su algoritmo homofóbico

Por Ricardo Quintana Vallejo

¿Puede ser homofóbico un algoritmo de computadora? Parece una locura sugerirlo porque las computadoras no tienen criterio. Si le pedimos a un algoritmo que restringa los videos de YouTube que tienen contenido “dañino”, la computadora no se preguntará qué implicaciones tiene que cierto video no sea considerado apto para el público en general. La computadora lo va a restringir. Fin de la historia.   

Eso fue lo que pasó la semana pasada, cuando YouTube restringió el acceso a muchos videos —no dañinos— cuyo contenido promovía o mencionaba asuntos de la comunidad LGBTQ+. Y no es que bloqueara contenido para adultos, o contenido realmente nocivo (como lo puede ser la violencia gráfica), sino que los usuarios que optaron por usar el “modo restringido” perdieron acceso a videos tan inofensivos como chavos platicando su experiencia de salir del clóset o videos musicales en los que el artista pertenece a la comunidad.

Desde luego hay mucha gente que no quiere ver esos videos, porque no le interesa o porque realmente le parece ofensivo. Pero el hecho es que YouTube fue quien decidió qué es dañino y qué sí es apto para el público en general. YouTube, sus programadores, decidieron que el contenido LGBTQ+ puede ser peligroso. No es que alguien que trabaja para YouTube se pusiera a ver todos los videos, sino que se tomó la decisión de que todo lo que huele a LGBTQ+ es ofensivo y se tiene que restringir. El algoritmo no es homofóbico en sí porque las computadoras no tienen criterio, pero la decisión de escribirlo como es, sí se tomó desde un punto de vista heteronormativo. Es decir, sí se decidió que lo heterosexual es normal, bueno y visible y lo demás es perverso, desviado y nocivo.

Esto es peligroso para una comunidad de por sí marginalizada. Es una forma de borrar la existencia de las personas, de sus narrativas, expresiones artísticas e historia. Youtube tomó una postura a todas luces discriminatoria: clasificar lo LGBTQ+ en la categoría de ofensivo. E, independientemente de si estamos de acuerdo o no, el hecho es que ésa es la postura de la corporación.

YouTube es una corporación que no produce contenido (o produce muy poco). A diferencia de Televisa o TV Azteca, YouTube pone el espacio; sin embargo, los responsables por el contenido son todos los que hacen videos. Si YouTube es una comunidad, ¿no serían los creadores y usuarios los que tienen el derecho de determinar qué es dañino? Resulta peligroso que la corporación tome este tipo de decisiones, imponiendo su criterio homofóbico, sin consultar a los creadores. ¿Dónde está la lista de temas que no se podrán ver en la descripción del modo restringido? ¿Por qué son secretos estos criterios, si YouTube no es responsable de crear el contenido?

La respuesta de YouTube ha sido controvertida por su escasa contundencia.  Johanna Wright, vicepesidente de Product Management, escribió en un comunicado: “We’re sorry and going to fix it” [Lo sentimos y vamos a arreglarlo], que sólo el 1.5% de usuarios usan el modo restringido y que sus sistemas a veces cometen errores porque no entienden el contexto y la complejidad de lo que restringen.

Decir que no es problemático porque sólo el 1.5% de usuarios perdieron acceso es ilógico y muestra una falta de perspectiva. Youtube tiene —nada más— 1,300,000,000 usuarios y sus videos se ven 5,000,000,000 de veces cada día. El 1.5% es un número gigantesco de usuarios, mucho mayor a los ratings de la mayoría de los canales de televisión. Cualquier decisión que toma YouTube afecta a millones de personas en el mundo.

Y aunque reconocieron las restricciones como un error, nadie ha explicado cómo se va a arreglar, qué criterios se usarán de ahora en adelante o cómo vigilarán su contenido.

YouTube es un medio democrático. Cualquiera con una cámara y acceso a internet puede subir videos. Muchas voces oprimidas encuentran un nicho para expresarse. Pero, para proteger la libertad de expresión en este tipo de espacio, hay que preguntar cómo y para qué se restringe el acceso a cierta información.

Youtube actuó desde una postura política. Decidieron que lo heterosexual no puede causar daño, pero lo queer sí. En su disculpa hablaron de la inclusión de nuevos criterios para garantizar la diversidad y libertad de contenido. Ojalá estén abiertos a nuestro escrutinio porque sólo así YouTube podrá permanecer como un espacio democrático.