Un artículo académico en el último número del mejor journal de Sistemas de Información, Management Information Systems Quarterly (MISQ), titulado «Disinformation spillover: uncovering the ripple effect of bot-assisted fake social engagement on public attention« (Lee, S.; Shin, D.; Kwon, K. H.; Han, S. P.; and Lee, S. K., 2024, MISQ 48:3), aprovecha un caso bien documentado de manipulación mediante cuentas no genuinas (bots) en una red social para evaluar la magnitud del efecto de esa actividad falsa sobre el consumo de noticias relacionadas, las búsquedas y el sentimiento político generado al respecto.
La conclusión no resulta sorprendente salvo para los que creían que este tipo de cosas eran anecdóticas y no tenían importancia: las operaciones de interacción social falsa asistidas por bots aumentan desproporcionadamente la atención del público digital no solo hacia el dominio temático de interés del manipulador (generalmente, noticias sobre política), sino también hacia atributos específicos del tema, es decir, palabras clave y sentimientos, que se alinean con la intención del manipulador.
Un tipo de estrategia, la creación de ejércitos de cuentas falsas que simulan actividad en redes sociales, que no es especialmente novedosa: campañas con cartas supuestamente enviadas por el público para convencer a Bruto para el magnicidio aparecen ya en el «Julio César» de William Shakespeare. El término astroturfing, generado a partir de la marca de césped artificial AstroTurf como forma de evocar la simulación de las campañas genuinas, o grassroots, es bien conocido en política, e incluso existen compañías como Crowds on Demand dedicadas a simular multitudes que persiguen a una persona o la aclaman para que parezca que es famosa.
Pero sin duda, dos tecnologías han contribuido a dar a este tipo de estrategias la relevancia que han adquirido ahora: por un lado, la popularización de internet y las redes sociales, con su capacidad para crear perfiles falsos que no solo presionan botones, llevan a cabo visualizaciones falsas o luchan por alcanzar los trending topics, sino que incluso entran en conversaciones y estimulan la participación de personas reales en torno a un tema determinado, buscando situar ese tema en la agenda o en el diálogo político. Por otro, la llegada de la inteligencia artificial generativa, que permite llevar a cabo esa tarea de creación de bots de forma mucho más convincente y convierte en mucho más difícil su identificación y aislamiento.
Ya en 2018, otro artículo académico publicado en Nature, «The spread of low-credibility content by social bots« (Shao, C., Ciampaglia, G.L., Varol, O. et al., Nat Commun 9, 4787) analizaba catorce millones de mensajes en Twitter (que entonces, además de llamarse Twitter y no X, permitía el uso de su llamada firehose por parte de académicos) encontraba evidencia de que los bots en redes sociales desempeñaban un papel desproporcionado en la difusión de artículos de fuentes de baja credibilidad, amplificando ese contenido en los primeros momentos de difusión antes de que se hicieran virales, y dirigiéndose a usuarios con muchos seguidores a través de respuestas y menciones.
Frenar este tipo de actividad no es sencilla. En todo el mundo, y particularmente en países con bajos costes laborales unitarios, existen auténticas granjas dedicadas a generar constantemente actividad no genuina que se pone al servicio del mejor postor, y que además mejora sus técnicas rápidamente para evitar ser detectada: de las toscas campañas de inflado de cuentas de principios de este siglo, en las que, de la noche a la mañana, un usuario era seguido por millones de cuentas obviamente falsas radicadas en países con los que ese usuario no tenía la más mínima conexión, hemos pasado a cuentas con imágenes generadas por inteligencia artificial que no corresponden a ningún otro usuario, capaces de entrar en conversación hasta el punto de prácticamente pasar el test de Turing, y la cuestión solo puede, dada la situación actual, ir a peor.
Llegado este contexto, exigir a las redes sociales que controlen la actividad no genuina resulta cada vez más importante. Pero contrariamente a lo que piensan algunos, eso no exige necesariamente el fin del anonimato o la eliminación de la privacidad, sino que puede llevarse a cabo de maneras mucho más respetuosas. La actividad no genuina genera patrones identificables, a menudo muy sencillos, y puede ser atajada por los gestores de las redes si tuvieran una mínima voluntad para ello y no fueran sistemáticamente juzgados por métricas como el número de cuentas creadas, que desincentivan cualquier actividad que le ponga freno.
Lo que sí está claro es, en primer lugar, que este tipo de actividades cumple su función, que son cada vez más utilizadas en política y en otros ámbitos, y que si no les ponemos freno, vamos a terminar teniendo problemas serios con unas sociedades humanas cada vez más manipulables. Nos estamos jugando mucho con este tema, y convendría no frivolizar y no pensar que hablamos de cuestiones meramente anecdóticas o que solo afectan a los más ignorantes. La desinformación es real y creciente, y ponerle control es cada vez más necesario.
This article is also available in English in my Medium page, «Can the bots be stopped?»
» métricas como el número de cuentas creadas, que desincentivan …»
Otro ejemplo de que lo que gobierna el mundo son los stock holders y los bonus de los CEOs, fuera de toda racionalidad. Cosa que entronca con tu artículo anterior sobre China
Cazdano debe ser responsable de saber a quien sigue, Yo puedo asegurar que los que sigo en WhatsApp, sobn se res humanos , pues solo sigo amigos que conozco y parientes. Tanto los que sigo en X, (antes Twitter), como Facebook, aunque algunos no los conozco personalmente, puedo asegurar que son personas reales, porque conozco su actividad fuera de estas RRSS y es la de personas reales con nombre apellido y profesión.
No puedo decir lo mismo de quienes suben contenidos a Youtube, pero me parece que de momento en esta RRSS hay menos peligro.de dar con bots.
Si a ti te llegan por las RRSS mensajes de odio, racistas o simplemente extremistas, debes preguntarte que te llevó a seguir a semejante imbécil,
Es gracioso que lo diga alguien que sin venir a cuento vino aquí hace nada a contarnos que la yihad islamica había matado a un niño en Toledo.
Tendras que aplicarte el ultimo parrafo de tu comentario.
No creo que tengas razón, en tu último párrafo, Gorki o al menos en la intención que creo que contiene.
Si no, si algunos de los asiduos por aquí, vieran lo que Twitter me ofrece en el espacio “para ti” fliparían con las cuentas que me salen y no avanzarían mucho más del “pero, pero, pero………”.
A mi me sale gente que sinceramente me parece nauseabunda, pero no soy de los que cree que si lo bloquea, sencillamente deje de existir. Me parece absurda esa opción y siempre me lo pareció.
El asunto de la desinformación atenta contra la democracia misma por que es aprovechada por los aspirantes a tiranos para meter demagogia en el cerebro de gente desinformada que tiene el mismo derecho de voto que los mas informados.
Y todos sabemos que clase de partidos son partidarios de no poner freno a la desinformación cuando surgen propuestas en ese sentido.
Obviamente son aquellos mas favorecidos por dicha desinformación.
A río revuelto… ganancia de pescadores.
No hay más favorecidos que otros. Básicamente se trata de una escala propia de crecimiento. Si hoy, deliberadamente puedo crecer en espacio y voz, mejor que mejor, independientemente de “los contrincantes.
Todos hacen trampas al solitario y me da que todos lo hacen por un fin mucho mayor, ya que hay que proteger a la gente del demonio que tiende a ser el contrincante.
Da igual quien lleve a cabo las prácticas, si bien lo que apena es que se lleven a cabo.
¿De verdad tambien nos vas a contar que la ultraderecha, que antes era practicamente irrelevante, no ha salido favorecida de la era de las fake news y los bulos en internet y las redes sociales? JAJAJAJAJAJAJAJAJAJAJAJAJAJA
En serio, Marcos, tu intento de parecer equidistante es cada vez más ridículo.
Macho, eres muy cansino con llamarme equidistante.
Que yo no te he respondido a ti, pero ya te voy a responder. Sí, ha salido fortalecida la derecha de discursos falsos. Y así lo creo.
Pero de igual manera, me sigue sorprendiendo que se haya celebrado el primer congreso de terraplanistas hace unos años en México o que sin ir más lejos ayer, me saltara no sé qué hilo en Twitter acerca de la simbología demoniaca en los monumentos y sociedades, porque no sé qué 3 súper edificios tenían 666 baldosas.
Y no te he puesto ejemplos “izquierdistas” para no parecer equidistante, vaya.
En una época en la que el feminismo ataca y condena la prostitución (la cual nunca usé ni usaré, pero entiendo ciertos argumentos…), se hacen malabarismos verbales para decir que eres creadora de contenido, cuando eres otra putuca random del Onlyfans.
Que es lo que considero el origen en sí mismo del artículo de Enrique.
Cuando yo hace más de 20 años jugaba a videojuegos, era un friki apestado. Hasta que se vio que se podía monetizar.
Yo en su día tenía canal de YouTube, con unas temáticas muy concretas. Antes de que explotara la burbuja en la cual la imagen de previsualización es todo un poema, por no hablar del “sálvame Deluxe” virtual que hay en redes, ya te llames Illojuan, Sasel, Dallas…
Por ejemplo… ¿lo que hace Toma Gallardo es lícito? Por supuesto. Pero me parece basura provocadora. Pero está en su derecho de hacerlo y otros de consumirlo.
Como decía… “antes todo esto era campo”. Hasta que el monte empezó a sangrar dinero.
Y que las redes sociales en un principio se pudieran de moda y se utilizaran para echar unas risas con las señoras que llevan bolsa de plástico en la cabeza cuando do llueve, era la alarma perfecta para “avisar” a los poderes sean cuales sean de que… oye, que aquí no hay posibilidad ya de dinero, sino de hacer con nuestro discurso lo que queramos.
Básicamente.
Ya lo he dicho, aquí hasta el más tonto tiene un coche deportivo al parecer. Si gente como Llados, está comprándose bugattis vendiendo cursos donde te pone a hacer flexiones a las 5 de la mañana… es evidente que los despachos de los diferentes partidos políticos se iban a mover en búsqueda de atención mediática.
Que sí, que hablamos de bots, auténticos ejércitos de Bots, no se me olvida, como tampoco se me olvida que en este mismo blog creo, ya se hablaba de la compra de seguidores en redes, a peso y por poco dinero. Como dije… en aquel momento era para mostrar que tienes millones de seguidores y parecer más relevante y que así tu discurso (como si este es… por qué Channel es mejor que Valenciaga, que tendrá su mercado en redes…) sea más revalorizado, que el que tiene 49 seguidores.
La cuestión era generar capitalismo 2.0, tanto tienes, tanto eres… antes era qué trabajo tenías, cuánto ganabas… ahora el número de seguidores e interacciones.
¿Para qué? Algunos para ganar dinero que es lo que pretenden. Otros tienen otras pretensiones que ya se explican en el artículo.
Pretender decir, únicamente que aquí, todos en el Titanic quieren su bote salvavidas, parece que también te parece malo. Pues nada…
Que tengas buen día.
Bastante más cansino eres tú sistematicamente saliendo a defender a la ultraderecha y a decir que todos hacen lo mismo cada vez que alguien la critica mientras intentas ridículamente convencernos que tú no eres «ni de unos ni otros». Hasta cuando alguien comenta, como en este caso, algo tan evidente como que es la ultraderecha la que vive y la que ha saltado de las catacumbas a directamente gobernar en muchos países, gracias a esos bulos y fake news.
Con el resto de la biblia de acuerdo aunque no tiene nada que ver con el tema que comentabamos (que alguien tenga onlyfans o el salvame trasladado a youtubers aunque no me guste no me parece ni minimamente equiparable con la creación sistematica de bulos y del discurso del odio para criminalizar a colectivos de personas).
Chico… de verdad. Que lo he explicado por activa y por pasiva y que considero que esto no va de política sino de que cada uno meta la mano en la bolsa para sacar rédito.
A una chavala de Vallecas, cuantos más seguidores comprados, mejor, porque va a dar sensación de que tiene mayor influencia de la que realmente tenga.
Pero extrapola eso a cualquier otra cosa… .
Que tú creas que no tiene nada que ver que se utilicen ejércitos de bots, para influir en pensamiento de usuarios que no sean bots, ya sea para comprar en Mercadona entre las 7 y las 8 o influir en unas elecciones…, no es mi problema.
Yo no he dicho que sea equiparable…, por lo que ya me da una idea de la comprensión lectora que tienes. Más bien intentaba trazar una línea de evolución desde “soy influencer comprando seguidores fake” para poder acceder a marcas y contratos y que mis seguidores reales crean que soy una mujer de existo (u hombre…), hasta… utilicemos seguidores fake, cuentas fake y métodos fake para trazar líneas de pensamiento político con el sesgo que deseemos.
Si no lo quieres entender no es mi problema, pero por favor suéltame el brazo de una vez…
He preguntado a ChatGPT cómo saber si quien interactúa conmigo es una persona de carne y hueso o un bot y esta es su respuesta
Distinguir si estás interactuando con una persona real o un bot puede ser complicado, especialmente porque los bots actuales son cada vez más sofisticados. Sin embargo, hay varios indicadores y estrategias que puedes usar para identificar si estás hablando con un bot:
Consistencia en el estilo de respuesta: Los bots suelen mantener un estilo de respuesta constante y a veces demasiado «perfecto» o formal. Si notas un patrón demasiado predecible o repetitivo, podría ser un bot.
Velocidad de respuesta: Los bots responden muy rápido, generalmente sin ninguna demora, mientras que las personas suelen tomarse al menos unos segundos para procesar la pregunta y escribir la respuesta.
Errores ortográficos y gramaticales: Aunque los bots modernos cometen menos errores, las personas tienden a cometer errores de escritura ocasionalmente, lo cual es menos común en los bots.
Respuestas a preguntas complicadas o contextuales: Puedes intentar hacer preguntas que requieran comprensión contextual, humor o referencias culturales complejas. Los bots pueden tener dificultades para captar matices sutiles o responder adecuadamente a preguntas que no siguen una lógica directa.
Pruebas de conocimiento humano: Pregunta algo que sólo una persona podría saber, como detalles sobre eventos recientes que aún no estarían en bases de datos entrenadas por bots o algo subjetivo, como una opinión personal.
Capacidad para cambiar de tema: Intenta cambiar de tema abruptamente o hacer preguntas fuera del contexto de la conversación actual. Los bots pueden tener dificultades para seguir el cambio de contexto de manera fluida.
Solicita una interacción humana: En plataformas de servicio al cliente, puedes pedir hablar con un humano. Los bots a menudo tienen comandos específicos para transferir la conversación a una persona real.
Preguntas engañosas o con trampas lógicas: Haz preguntas que no tengan sentido o que sean paradójicas. Los bots suelen tratar de responderlas de manera lógica, lo cual puede delatar su naturaleza.
Lenguaje emocional y empatía: Los bots generalmente no manejan bien las emociones complejas o la empatía genuina. Puedes intentar introducir emociones en la conversación y ver cómo responde.
Solicita una prueba de identidad: En algunos casos, pedir que la otra parte realice una acción específica o responda de una manera que un bot no podría es útil, aunque esto puede no ser siempre factible o apropiado.
Estas técnicas no son infalibles, pero combinándolas puedes tener una idea más clara de si estás hablando con una persona real o un bot.
Ya he probado lo que cita Gorki en recomendación, en particular:
Respuestas a preguntas complicadas o contextuales: Puedes intentar hacer preguntas que requieran comprensión contextual, humor o referencias culturales complejas. Los bots pueden tener dificultades para captar matices sutiles o responder adecuadamente a preguntas que no siguen una lógica directa.
Pruebas de conocimiento humano: Pregunta algo que sólo una persona podría saber, como detalles sobre eventos recientes que aún no estarían en bases de datos entrenadas por bots o algo subjetivo, como una opinión personal.
Y, ¡horror! he descubierto que el bar de la esquina está plagado de bots, y hasta algunos vecinos lo son.
Lo que empezó como una moda (creo, según tengo entendido) ha acabado siendo real, habiendo una persona que así lo creía y me lo dijo en una conversación.
No sé si tus vecinos de barrio son Bots, pero que hay gente que cree, que las palomas son drones preparados para vigilar a la sociedad es verídico.
Idealización, es el problema, idealizamos el sistema democrático y pasamos por alto que ya el sr. Edward Bernays (padre de las relaciones públicas y sobrino del fiera del S. Freud) tenía más que claro y aplicó con rigor: que en las sociedades democráticas «La manipulación consciente e inteligente de los hábitos y opiniones organizados de las masas es un elemento de importancia en la sociedad democrática (…) quienes manipulan este mecanismo oculto de la sociedad constituyen el gobierno invisible que detenta el verdadero poder que rige el destino de nuestro país. (…) Quienes nos gobiernan, moldean nuestras mentes, definen nuestros gustos o nos sugieren nuestras ideas son en gran medida personas de las que nunca hemos oído hablar.» Para remachar, «Ello es el resultado lógico de cómo se organiza nuestra sociedad democrática».
Al final, siempre se ha tratado de que el poder extienda su manto hasta llegar a todas las esferas de la vida de los ciudadanos con el fin de lograr el ansiado sueño húmedo de lo que se llama «sometimiento libremente consentido». (Ya he hablado aquí mil veces de «las servidumbres voluntarias», otra referencia crucial todavía más antigua…).
Y todo esto ya data de principios del siglo XX. Pero claro, como leemos lo que leemos, y no miramos para donde debemos mirar, (como ya he dicho otras veces, no la Luna, sino el dedo, el dedo es lo que SIEMPRE hay que mirar e interrogar que por qué señala lo que señala y no señala otra cosa. Y no hacer el necio y quedarse embobado con la Luna…), así nos va. Y luego nos rasgamos las vestiduras y nos tiramos de los pelos creyendo que las cosas tendrían que ser de otra manera mucho más bonita y agradable, justo en espejo de nuestros ideales de andar por casa.
Pues no.
Hay un blog de su discípulo español, José Daniel Barquero, llamado: Mi historia con Bernays. Su última publicación parece ser de 2010, pero en todo caso, ahí sigue.
No lo conocía, gracias.
¿ Pero hay alguien con verdadera capacidad para hacer algo que estará realmente interesado en poner remedio a esto?.
A mi me da la sensación de que pocos quieren poner solución a las actividades no genuinas porque, o generan ingresos (en el caso de las redes sociales), o suponen un poder para lograr objetivos que no están dispuestos a renunciar (como aquellos con intereses políticos).
Si además, cada vez que intento cuestionar la credibilidad de algún contenido la gente se me echa encima…
Entras en Wallapop y la mitad son perfiles falsos o creados automáticamente. Entras en Twitter y la mitad son videos preparados. Entras en Mail y tienes 20 mensajes basura. Te llaman por teléfono y es spam. Un amigo te comparte algo y es mentira…
Ya me fui por las ramas, pero es que todo esto me puede. Da la sensación de que más de la mitad del contenido en la red es falso, y encima se está usando para entrenar a las IA’s. Verás tu el niño artificial que va a salir de todo esto…
Da la sensación de que más de la mitad del contenido en la red es falso, y encima se está usando para entrenar a las IA’s. Verás tu el niño artificial que va a salir de todo esto…</
Efectivamente, Carlos.
Garbage in, garbage out.
En Twitter, de un tiempo a esta parte, de lo que me he dado cuenta es que la mayor parte del contenido, se ha convertido en hilos. Ya sean reacciones que tuvieron en la corte del rey Salomón al descubrir que la ama de llaves salía con el conserje, o descubrir la lista de ciudades donde más llovió en 2005.
Sospecho que tiene especial relación con el hecho de que ahora pudieras cobrar por las interacciones con tu contenido en la red. Vamos, un poco en la línea en lo que comentas. Sea falso o no, que puede serlo, no parece que se trate de con te ido genuino; da bastante lastima.
Aparte de los buenos comentarios del GORKI, añadiría la Técnica para Desenmascarar al Tertuliano Fantasma…
Y ya no hablo de las tertulias televisivas, donde las bragas y los calzoncillos se notan fácilmente… incluso a los Picos de Oro (sean de izquierda o de derecha).
Hablo de las tertulias intelectuales analógicas, donde se suele decir amén a lo que dice el tertuliano principal y mirar con mal ojo quien osa disentir de sus letanías.
Y si se puede desenmascarar a seres humanos, que suelen tener cierta chispa mental, por qué no vamos a ser capaces de discernir cuando un baboso, analógico o virtual, nos quiere tomar el poco pelo que nos queda (a algunos)???
Como suele decirse es un asunto de filtros. Si no los hiciste en la adolescencia, ya puedes ir construyéndolos una vez que seas adulto.
Y tiene poco que ver con los avisos más o menos apocalípticos de los siliconados gurús de la Alta Tecnología de Vanguardia. Es mucho más de «andar por casa». También se puede repetir el manoseado «es un problema de educación global».
Y digo global, porque muchas veces la fuente está en el Síndrome Personal de que Me Hagan Casito, aunque sea un farsante digital. Y eso hay que tratarlo seriamente.
En las redes hay actividad muy genuina…
y curiosamente siempre tienen razon… XDDD
Ya explicarás estos links que no llevan a parte alguna…
Leete el articulo
¿Cuál artículo? ¿Has clicado en tus links? Yo clico y me llevan a nada… Así que no me entero de nada…
Pues mala suerte
La mejor: pregunta a una IA lo de las películas… que inocente… no pongo link que luego querran verlo los que no saben llegar…
Lo de las RRSS generalistas se está convirtiendo en una pesadilla. Cada vez voy menos a Twitter harto de Shadow Bans y cosas inexplicables en la pestaña «For you». A FB comencé a ir menos desde 2012-13 y ya desde 2020 ni lo piso. En Instagram no he entrado nunca.
Ya solo me interesan agunos canales de Discord o Telegram y alguna red especializada. En el resto: Censura, mal rollo y fakes. Un horror
No se lo que pasa en las RRSS pero dan pena.
¿Cómo que no se sabe qué pasa? Que son eso, RRSS, ¿qué esperabas cuando solo hay palabras e imágenes y nunca cuerpos? Es un espacio maravilloso para dar rienda suelta al Mr. Hyde que casi todos llevamos dentro. Pues eso es lo que pasa, ¿cuál es el problema?
El gran problema, últimamente no es la actividad automatizada, sino los usuarios zombis , que convierten cualquier espacio social en una jaula de grillos, la Orkutización, como sucedió en esa red social, o recientemente en menéame, .
Por ejemplo, cuando en un blog alguien mete de 15 a 25 comentarios, intentando colonizar ese espacio y que un incauto muerda el anzuelo, para enredarlo en una conversación delirante sobre cualquier tema peregrino, como los beodos en la barra de un bar.
En otros casos, ciberactivistas difundiendo discursos ideológicos, o personas con problemas serios de socialización, o medicados.
Igual que hubo que cerrar Orkut, está sucediendo en Menéame, que se ha puesto en venta prácticamente por desesperación, ante el fracaso social de un sitio que era un pionero en su tiempo.
Abstract 2.0: If We Are All Shouting, Is there Anyone Left to Listen?
Fenómenos como el de Alvise, o la difusión de discursos de odio en comunidades sociales, son una muestra del ‘Human Downgrading‘, la degradación de las conversaciones sociales.
–
Interesante video el Human Downgrading.
Creo que me refería en mi anterior comentario a eso exactamente, además de lo mal que se combate, ya que hay censura totalmente abusiva. Especialemente en X
Para empezar, deberíamos presionar para que las redes sociales implementen sistemas de verificación humana anónima, como WorldID, BrightID o similares. Y de un plumazo adiós a los bots. O al menos, ya sabes quién puede serlo y quien no. Y ajustas los algoritmos de recomendación del contenido en función de la humanidad verificable o no. Pero claro, esto podria ir en contra de los intereses económicos de esas propias RRSS…
En segundo lugar, empiezas a incluir sistemas de verificación de contenido genuino, como el ejemplo el estándar que el otro día mencionaba Edans impulsado por Leica, Sony y otros.
Y por último, lo más importante pero más a largo plazo, educación y más educación…