Enrique Dans

Un interesante artículo en MIT Tech Review, «How to save our social media by treating it like a city«, escrito por un ex-trabajador del equipo de ingeniería de integridad en Facebook, Sahar Massachi, hace algunos muy buenos apuntes sobre los problemas de las redes sociales que conocemos, y sobre cómo esos problemas derivan, fundamentalmente, de un diseño que permite – o incluso fomenta – el abuso.

Siguiendo una base de comparación con el diseño y funcionamiento de una ciudad, el artículo plantea qué ocurriría si en una ciudad no existiesen límites de ningún tipo a la hora de adoptar nuevas identidades, de crear ejércitos de personas inexistentes a modo de zombies, o de asumir la identidad de otros. En una ciudad, obviamente, uno puede tener el derecho de cambiar de identidad, pero ese proceso conlleva un largo y tedioso proceso administrativo que hace que quien se lo plantee se lo piense muy bien, además, de no poder pensar en llevarlo a cabo muchas veces. En una red social, sin embargo, lleva tan solo un rato generarse mil cuentas falsas que adoptan una serie de identidades y pueden ser utilizadas para todo tipo de actividades que, además, siempre serán fraudulentas, sin que se nos pueda ocurrir ninguna aplicación genuinamente positiva o buena para ello.

El abuso de las reglas que las redes sociales establecieron en sus inicios no solo ha sido flagrante y evidente, sino que, en muchos sentidos, estaba provocado por el interés de las propias compañías que crearon esas redes sociales, o incluso por el propio mercado. Facebook, a pesar de su teórica política de nombres reales, nunca puso en realidad demasiados impedimentos a las enormes factorías de bots radicadas generalmente en países con bajos costes laborales unitarios, y la razón para ello es tan sencilla como que su actividad hacía que Facebook pareciese todavía más grande. Twitter, que nunca hizo especialmente nada para impedir que cada usuario generase y utilizase varias cuentas porque mantenía la creencia de que el anonimato es un derecho, tampoco llevó a cabo más que puntualmente algunas acciones para reducir la incidencia de las cuentas falsas y las factorías de bots – y cuando lo hizo y se pasó más de dos meses suspendiendo más de un millón de cuentas falsas al día, se encontró con que los mercados la castigaban por el descenso de su número de usuarios.

Si el castigo por llevar a cabo comportamientos que vulneran claramente todo tipo de ética es inexistente, y el beneficio potencial, en cambio, es que puedes crear con ello un lucrativo modelo de negocio, esperar que ese comportamiento no tenga lugar es completamente absurdo. La moderación de contenidos ejercida posteriormente no arregla el problema, sino que simplemente consigue, eventualmente, aislar algunos casos, porque el problema, en realidad, estaba en el diseño, en las reglas que permiten incurrir en ese comportamiento.

La solución, según el artículo, es introducir fricción en el sistema, del mismo modo que ocurre en la vida en las ciudades. Puedes crear una segunda identidad bajo determinados supuestos, pero no debería serte sencillo hacerlo, ni menos aún gestionarlo posteriormente. Obligar a los spammers, a las bot factories y a toda esa basura a superar muchas más barreras para hacer lo que hacen es algo que, muy posiblemente, funcione como disuasorio, o al menos, incremente sus costes operacionales para salir del absurdo actual en el que no hay nada más barato y sencillo que llevar a cabo ese tipo de actividades. El spam, por ejemplo, es barato y sencillo porque no tiene fricción, porque no tenemos que enviar esas cartas físicamente, sino que podemos hacerlo aprovechando un sistema en el que no existen barreras físicas como tales.

El artículo me ha parecido interesante, aunque estimo que falta algo: establecer responsabilidades para las compañías que no diseñen sus herramientas con esa filosofía. Del mismo modo que los que abusan lo hacen gracias a que no hemos establecido penalizaciones ni medidas para los que lo hacen, las compañías tienen un incentivo a diseñar sin ética o sin integridad: no hacerlo les permite simular un crecimiento más rápido, aunque ese crecimiento esté basado en premisas falsas. En ese sentido, deberíamos plantearnos cómo sancionar a las compañías en función de ese tipo de comportamientos, porque si no lo hacemos, estaremos incentivando el comportamiento como tal. La ética está muy bien, pero cuando lo que depende de ello es el funcionamiento de los ecosistemas en los que se relaciones millones de personas, no se puede dejar simplemente al voluntarismo.

Como mínimo, un enfoque interesante. De aquí a que se pueda plantear ponerlo en práctica o controlar a las compañías que no lo hagan, va un largo trecho. Pero al menos, nos permite entender el mecanismo que ha llevado a las redes sociales a convertirse en lo que se han convertido.

This article is also available in English on my Medium page, «Is there a way to create ethical social media?«