Meta vuelve a ponerse en el ojo del huracán con su última propuesta, revelada en una entrevista al Financial TImes: su intención de introducir usuarios generados por inteligencia artificial en sus plataformas sociales con el fin de mejorar el engagement, un movimiento profundamente preocupante desde un punto de vista ético y social. Si las redes sociales de Meta ya te resultaban cansinas y apartadas de su idea inicial de facilitar la relación entre sus usuarios, ahora, además, serán completamente falsas, fake, mentira, y te tratarán como su fueras completamente idiota proponiéndote que interactúes con usuarios sintéticos.
La preocupación de Meta por la caída significativa del engagement de sus usuarios no es en absoluto nueva: muchos de sus escándalos, desde Cambridge Analytica hasta muchos otros, están en realidad generados por su interés en mantener ese engagement lo más alto posible. Para la compañía, si algo eleva el engagement, aunque sea a costa de generar polarización, es válido, y está perfectamente dispuesta a situar cualquier consideración ética al final del todo en la cola de sus preocupaciones.
Meta ha demostrado una y otra vez que su modelo de negocio se basa en la explotación masiva de los datos personales de sus usuarios, y ahora, con la introducción de usuarios sintéticos generados por inteligencia artificial que tendrán, como dicen ellos, «biografías y fotos de perfil, y podrán generar y compartir contenido impulsado por inteligencia artificial en la plataforma», parece que la compañía está dispuesta a dar un paso más en su estrategia de control y manipulación. Como dice Connor Hayes, vice-presidente de producto para la inteligencia artificial generativa, «ahí es a donde vemos que va todo esto». Simplemente, la compañía se ha marcado como prioridad estratégica para los próximos dos años hacer que sus aplicaciones sean «más entretenidas y atractivas», y lo van a intentar utilizando todo tipo de medios.
La idea de crear usuarios sintéticos mediante inteligencia artificial como forma de tratar de hacer las redes sociales más interactivas y dinámicas me parece, sencillamente, aberrante y enfermiza. La integración de estos avatares digitales falsos en nuestras interacciones diarias no solo plantea serias preocupaciones sobre la autenticidad de nuestras relaciones en la red, sino que también abre la puerta a toda una serie de potenciales abusos. ¿Quién garantiza que estos usuarios creados mediante inteligencia artificial por cualquier marca no serán utilizados para tratar de influir en nuestras decisiones, desde lo que compramos hasta a quién votamos? Meta ya ha mostrado que carece completamente de ningún tipo de escrúpulos cuando se trata de vender influencia y manipular opiniones.
Además, la iniciativa parece ser una continuación de la obsesión de Meta por capturar cada vez más datos personales. ¿Qué tipo de información recolectarán estos usuarios sintéticos? ¿Cómo se utilizará esa información? La historia nos enseña que Meta ha usado datos de manera irresponsable en el pasado, vendiéndolos al mejor postor sin importar las consecuencias para la sociedad o la privacidad individual. La posibilidad de que estos usuarios creados mediante inteligencia artificial y al servicio de cualquiera puedan registrar nuestras interacciones, conversaciones y reacciones en tiempo real me parece aterradora, especialmente cuando se considera que la compañía no ha mejorado en absoluto ni su transparencia ni su respeto por la privacidad.
Desde un punto de vista de la experiencia de usuario, la introducción de estos personajes digitales podría distorsionar la realidad social. ¿Podremos distinguir lo real de lo artificial? ¿Hablamos, como en septiembre de 2023, de «inteligencias artificiales que tienen más personalidad, opiniones e intereses, y que es un poco más divertido interactuar con ellas»?
La línea entre una relación humana auténtica y una interacción con una entidad sintética programada se diluirá aún más, convirtiendo nuestras experiencias en algo cada vez más superficial y manipulable. Meta, conocida por su capacidad de generar adicciones con sus productos, juega ahora con las emociones y percepciones de sus usuarios de una manera aún más insidiosa. ¿Qué ocurrirá cuando algunos usuarios se encuentren rodeados de avatares falsos pero razonablemente creíbles que elogian, por ejemplo, todo lo que van diciendo? ¿Hasta qué punto se puede llegar a manipular a alguien mediante ese tipo de técnicas?
La reacción de la comunidad tecnológica y de los defensores de la privacidad ha sido, por supuesto, de alarma. Esta no es la primera vez que se cuestiona el modelo de negocio de Meta, basado en un capitalismo de vigilancia que, en lugar de ser reformado tras los escándalos, se profundiza con cada uno de sus nuevos «avances». La compañía necesita ser regulada mucho más estrictamente, y posiblemente, debería enfrentarse a sanciones que vayan más allá de las multas económicas: ¿hasta cuándo va a permitirse que una compañía con tan poca ética siga experimentando con las vidas digitales de sus usuarios sin un control más riguroso? ¿Cuántas veces va a pedir perdón por los problemas psicológicos y de todo tipo que genera?
Debemos preguntarnos si realmente queremos que nuestro espacio digital se infiltre aún más de lo que ya está con usuarios que no son reales, controlados por una compañía que ha demostrado repetidamente que no merece la confianza de nadie. La innovación es necesaria, pero no a costa de nuestra autonomía, privacidad y la autenticidad de nuestras interacciones sociales, de poner en manos de compañías de todo tipo y con estándares éticos dudosos herramientas para la manipulación y el espionaje. Y la respuesta nunca debería ser «no me preocupa, a mí no me van a manipular»… hablamos de una compañía que utiliza todo tipo de gente, desde menores a personas que, desgraciadamente y por las razones que sean, pueden ser muy fáciles de manipular.
El anuncio de Meta sobre la introducción de usuarios generados por inteligencia artificial es una señal más de que esta empresa necesita ser vigilada con lupa y que, en ausencia de una regulación efectiva y ética, seguirá empujando los límites de lo aceptable en nombre del crecimiento. Veremos si los reguladores tienen algo que decir frente a estas prácticas: una compañía que durante mucho tiempo insistió en una «política de nombres reales», ahora se va a dedicar a «inventarse» a usuarios sintéticos, a demostrar la conspiranoica «Dead Internet Theory«. La privacidad y la autenticidad de las relaciones sociales no deberían ser negociables, y menos aún en manos de quienes han demostrado no ser en absoluto dignos de custodiarlas.
This article is also available in English on my Medium page, «Just when you thought it couldn’t get any worse…«
A mi lo que me da miedo es que , al perfeccionarse la IA generativa que se incorpora a esos personajes virtuales, sea mucho mas interesante interaccionar con ellos que con una persona promedio, vista la estupidez general reinante.
Estupidez o no, espérate a que pongan a gente sintética como esta,
https://graffica.info/quien-es-lia/
y verás la que se lía (nunca mejor dicho) en la puerta… Ah, y en cero coma, que es de lo que se trata.
Hay RRSS que pretenden que los usuarios paguen por su uso, cuando en realidad debería ser al revés (ejemplos YouTube, Twitter) ya que son plataformas normalmente llenas de anuncios, consignas políticas, etc… en definitva propaganda por todos lados.
Y llegamos a la RRSS Facebook, esa red que da ayudas pro Trump, anti chinas, etc es decir que es una más de propaganda masiva. Pues resulta que ahora van a introducir la publicidad interna de forma que van a aparecer unos NPC que no se van a comportar como NPC, hechos con IA, para interactuar contigo, y eso a Enrique le parece digamos un engaño (por resumirlo en una palabra).
Pero en esencia es lo mismo que existe en twitter que son los famosos BOTs. La pregunta que podemos hacernos legítimamente es
¿Cuántos BOTs hay aquí? ¿Son detectables?
Y con BOTS me da igual que sean IA o lamentable IH… que actúan sobre todo en días laborables…
En el fondo ¿que diferencia hay entre un personaje de IA en Facebook, o una cuenta ultra que lanza mensajes de odio? Si ambas consiguen respuestas y que la gente interactúe más es lo que busca FB, que haya vidilla, y por ende más ingresos…
Por otro lado los personajes con IA, tendrán la personalidad que les manden, así cuando hay más bots ultras, no es porque haya más ultras, sino gente que paga por ellos… Me temo que estos personajes siempre tendrán una estrategía dependiendo de lo que sus «mecenas» les ordenen… todo por la pasta, y solo con un objetivo: mantener al «Theodore entradito en años», enganchado a lo que ese vetusto usuario de FB puede aspirar, y no es a su «Samantha», sino a su propia «cámara de eco»
Quizás sea una percepción errónea de mi parte (no estoy del todo seguro) pero creo que el hecho de que Enrique le añada al atributo Image los prompts con los que crea las imágenes, estaría diciendo algo sobre sus convicciones acerca de esta empresa:
alt=»IMAGE: An illustration with the Meta logo surrounded by AI avatars with stupid faces»
PS: gracias Enrique por las risas tan temprano.
¿de que se rien esos estúpidos…? Ya quisiera FB ese rango de edad en sus productos… XDDD
PS: Muy bueno !
Ya se habla de que algunas rrss, están plagadas de bots. Ahora con la IA estará todavía más automatizada y dirigida. Al final habrá bots contestando a IA y al revés. Había una película con muchos años que para ganar al ordenador se le enfrentaba a él mismo a jugar a las tres en raya…
Y al final colapsaba…..
Para empezar, la imagen puede representar a cualquier grupo de fanáticos militantes de un partido político actual, con el logo de su partido tatuado en la frente.
Para seguir, por enésima vez, recordar como y porqué nació la red social llamada facebook.
Para rematar con una cita (como no) de Edans… » (x, no solo la de Mr. Muskhyde) ya ha mostrado que carece completamente de ningún tipo de escrúpulos cuando se trata de vender influencia y manipular opiniones»… y yo me pregunto, ¿qué partido político español, incluido el PsoE de Felipe el Despanao, no responde a tamaña característica definitoria… sobre todo en sus niveles de decisión?
Así que, parafraseando a BUZZWORD, me da casi igual que sean IA (con pocas luces) o mediocres IH (con las neuronas desgastadas o en off). Una frase bien construida vale tanto del «porquero» como de una IA medianamente trabajada… y, sobre todo, dispuesta a aprender CON el humano que le toque delante.
Parece que cuando se trata de Zuckerberg no aplica el consabido «la tecnología no puede desinventarse, hay que asumirlo y acostumbrarse».
Es una aberración. De llevarse a cabo, podría tener consecuencias terribles. Las IA manejan cada vez mejor el lenguaje y son capaces de hacerse pasar por una persona real con suma facilidad. Si a esto le añadimos que redes como Instagram, Facebook y, no olvidemos, WhatsApp, poseen suficientes datos sobre nosotros y nuestras vidas como para conocernos a la perfección, la posibilidad de manipularnos a su antojo —tanto para bien como para mal— es real. Esto afecta especialmente a los más jóvenes, aunque nadie está exento, ya sea de manera directa o indirecta. Espero que se regule de alguna forma o, al menos, que se advierta a los usuarios, como ocurre con el tabaco, y que después cada cual tome sus propias decisiones.
Decía ayer Enrique:
Y cuando ya creías que no podía ser peor…
Y hoy leemos
Donald Trump pide al Tribunal Supremo de EE UU que suspenda temporalmente la prohibición de TikTok.
https://m.imdb.com/es-es/title/tt26493628/?ref_=ext_shr_lnk
(mierda. De escribir con móvil) XD
Zuckerberg rey del meta verso, así se llama el documental… Unas opiniones nada «limpias»
Pues, si no somos capaces de pararle los pies a las RR.SS, «ellas» nos los pararan a nosotros, y no estamos muy lejos de que esto ocurra, para vergüenza nuestra, de no haber sabido poner limites a nuestra estupidez humana.
Preferimos vivir en lo virtual, antes que en lo real. Alimentamos empresas «alimañas», a sabiendas de que lo son. Sabemos que nos están manipulando, y lo admitimos como normal. …….. De verdad nos creemos que, sólo con quejarnos, vamos a conseguir algo.
No será que con nuestra inacción, estamos dando más alas (Boots, IA,…) a estas empresas, carentes de toda ética, que no sea la de ganar $$$ por encima de todo, y de tod@s?.
Si hacemos un poco de autocrítica sincera, qué nos aportan estas RR.SS, a cada uno de nosotros?.
Dato: Analizados los post, stories…..que me han ido apareciendo en los últimos meses, el 85%!! Son de publicidad de empresas, gente que no conozco, «listillos» que te hacen ric@ en tres pasos, grupos, fakes, intentos de estafa…….y sinceramente, eso no es bueno para mí salud, ni creo que la de nadie.
Vuelvo al contacto directo con mis grupos de gente, los llamo por teléfono, nos vemos en persona,……y abandonando este otro mundo en el que unos pocos, viven muchísimo mejor, a costa de meternos a nosotros, en un verdadero lío.
Ah, predicar con el ejemplo, y no interactuar bajo seudónimos, sería un buen primer paso.
En nuestras manos está la solución.
Feliz 2025!!