Enrique Dans

El pasado domingo, en Cleveland, un individuo utilizó su smartphone para filmar el asesinato de una persona escogida completamente al azar, que caminaba por un parque. Simplemente, detuvo su coche, escogió a una persona de 74 años, y le pegó un tiro, supuestamente para llamar la atención de una mujer. Después, subió el vídeo a Facebook y filmó otro, esta vez en vivo, explicando el anterior y confesando su autoría. En estos momentos hay un enorme operativo policial de cara a la busca y captura del sujeto, aunque en el momento de escribir esta entrada aún continuaba en libertad.

Tras los hechos, se ha desencadenado una discusión sobre la responsabilidad de Facebook en la publicación y diseminación del horroroso vídeo. Se plantea hasta qué punto es la compañía responsable por no eliminar el vídeo más rápidamente, o incluso si se debería cerrar íntegramente Facebook Live hasta que exista una tecnología suficientemente madura como para evitar que vídeos como ese sean publicados.

En la ilustración que acompaña la entrada podemos ver la secuencia temporal de los hechos desde la publicación del primer vídeo, previo al asesinato, hasta su retirada y el cierre de la cuenta del autor de los hechos. En total, un poco más de dos horas. El sistema utilizado por Facebook está basado en las denuncias del contenido hechas por los usuarios, y de la secuencia temporal se deduce que la compañía fue razonablemente rápida y competente a la hora de reaccionar. El vídeo es claramente un contenido que no debería ser hecho público y que obviamente origina un enorme dolor a cualquier persona relacionada con la víctima, pero… ¿cuál es la base de las reclamaciones exactamente? Facebook no puede, por mucho que lo intente, evitar que alguien mate a alguien, y tampoco puede evitar que suba el vídeo a su plataforma: lo máximo que se le puede pedir es que lo retire lo antes posible y que evite su posible redifusión.

De alguna manera, algunos parecen estar reclamando a Facebook, una empresa tecnológica, una responsabilidad que la tecnología, simplemente, no es capaz de abarcar ni lo será durante mucho tiempo. De acuerdo, Facebook, junto con algunas otras compañías como YouTube o Twitter, ha conseguido que todo aquel que tenga un smartphone se convierta potencialmente en una emisora de televisión con capacidad de emitir en directo lo que quiera. Antes, cuando para emitir en directo era necesario tener un costoso equipo, unos enlaces y unas licencias determinadas, ya había discusión sobre qué se podía hacer si, por ejemplo, una cámara recogía escenas inapropiadas o si una periodista se suicidaba en directo. Ahora, esas discusiones deberían ser idénticas: ¿qué debe hacer Facebook? Nada. Intentar que sean retiradas lo antes posible, y que no vuelvan a ser redifundidas. Hacer responsables a las empresas tecnológicas de todos los males del mundo es absurdo y no va a ningún sitio: esos males ya estaban allí mucho antes de que las empresas tecnológicas apareciesen en la escena, y desgraciadamente, seguirán estando después de tal aparición.

Ningún sistema de machine learning puede evitar que alguien emita en directo o suba a una plataforma un vídeo de un asesinato. Se podría intentar llegar a reconocer ciertos patrones, pero la tarea es enormemente compleja y, aún así, habría infinidad de circunstancias en las que un asesinato podría no parecerlo, resultar confuso o dar lugar a un falso positivo. Pedir a la tecnología que haga algo imposible es típico de quienes no entienden nada de tecnología, y un recurso fácil cuando se pretende que un nuevo escenario es culpable de algo que no nos gusta. No, a nadie le gusta que se mate a personas inocentes ni que eso pueda ser publicado en un vídeo, pero Facebook, siempre que actúe con prontitud para retirar esos contenidos y evitar su redifusión, no es culpable de nada. Las herramientas solo definen escenarios, lo que los actores decidan hacer en ellos es responsabilidad de ellos mismos.

Podríamos llegar a pensar, incluso, que la posibilidad de emitir en directo algo como un asesinato podría llegar a funcionar como un perverso incentivo a la comisión del mismo. Una mentalidad de ese tipo es la que a otro nivel lleva, por ejemplo, a los responsables de retransmisiones deportivas, a escoger cámaras que miran hacia otro lado cuando alguien salta al campo buscando «su minuto de gloria»: si privamos a esa persona del supuesto «privilegio» de aparecer en directo ante millones de telespectadores, podremos llegar a desincentivar su comportamiento (aunque muy posiblemente sea suficiente con el incentivo que suponen los miles de espectadores presentes en el propio evento). Sin embargo, incluso en esa comparación, la conclusión se sostiene: ni las televisiones son consideradas responsables de nada, ni se les pide nada más que el que intenten, en la medida de lo humanamente posible, no mostrar los hechos.

Facebook, dentro de sus posibilidades y entendiendo, lógicamente, que no tiene un realizador ni un director al pie del cañón para cada vídeo que es subido a su plataforma o emitido en directo, pone todos los medios lógicos a su alcance para intentar minimizar el tiempo que un vídeo inapropiado se mantiene a la vista de los usuarios. Eso supone tener personas preparadas 24 horas al día, 7 días a la semana para recibir denuncias de usuarios y tomar una rápida decisión sobre su posible retirada, evitando falsos positivos y tratando de hacerlo lo mejor posible. Si dentro de unos medios razonables, se puede minimizar ese tiempo desde las dos horas del pasado domingo por la noche a tan solo media hora, genial. Pero mucho me temo que, por el momento, eso vendrá de incrementar el número de supervisores humanos disponibles, no tanto del desarrollo de algoritmos de machine learning (aunque algo, posiblemente, puedan hacer). El momento en que una plataforma sea capaz de detectar que en un vídeo se está cometiendo un asesinato o un hecho violento y decida, de manera autónoma, interrumpir su emisión está aún muy lejano. Hablamos de tecnología, no de magia.

Como tantas otras posibilidades convertidas en realidad por la tecnología, el lifestreaming no es ni bueno ni malo: lo es el uso que se haga de el. Por cada uso siniestro o execrable que se hace de una tecnología así, pueden buscarse mil ejemplos de posibles usos positivos. ¿Se ganaría algo eliminando Facebook Live porque cualquiera podría hacer algo así, o limitando su uso únicamente a determinados usuarios? Seguramente, perderíamos más de lo que pretendíamos ganar. Demonizar a Facebook porque su plataforma fue utilizada por un asesino para mostrar su crimen al poco tiempo de cometerlo es absurdo, y equivalente a culpar al fabricante de cuchillos por los robos o asesinatos que se cometen con ellos. Los hechos son terribles y dolorosos, sí. No es bueno que se muestren en público, de acuerdo. Pero no se puede exigir a Facebook más responsabilidad que la que tiene: eliminar el contenido lo antes posible con los medios humanamente a su alcance, y evitar su redifusión.

This post is also available in English in my Medium page, “Just what does anybody expect Facebook to do when somebody commits a murder and posts it online?«