Mi columna en Invertia de esta semana se titula «Deepfakes: segunda fase» (pdf), y trata de describir lo que está pasando en el entorno tecnológico alrededor del desarrollo de tecnologías capaces de replicar de manera prácticamente perfecta una voz o una imagen.
El progreso de los llamados deepfakes me resulta muy llamativo, porque es una tecnología que utilizo a menudo como elemento tractor en mis clases y conferencias. Los elementos tractores en una presentación son contenidos que deben ser intrínsecamente atractivos, que se alternan con otros contenidos más complejos o que requiere una explicación más cuidadosa con el fin de procurar un desarrollo adecuado de la sesión. En el caso de los deepfakes, dado que tienden a intrigar y a resultar sorprendentes, el recurso es relativamente sencillo, y llevo bastantes años utilizándolos: es perfectamente normal que en mis presentaciones aparezcan suplantaciones en llamadas telefónicas, políticos o celebridades diciendo cosas que no dirían nunca, o yo mismo marcándome el «Libiamo ne’ lieti calici» de La Traviata, como forma de demostrar que la tecnología que posibilita este tipo de cosas que juegan con nuestras percepciones está perfectamente madura e incluso al alcance de un simple profesor como yo.
En la primera fase de los deepfakes, vimos primero pornografía y usos de cosificación de la mujer, hasta el punto de que Scarlett Johansson, la actriz más veces sometida a ese tratamiento, llegó a decir que era completamente inútil luchar contra ello. Vimos también un uso, absolutamente minoritario en relación con el primero, para la política o el entretenimiento de otro tipo: los presidentes de Rusia y Ucrania anunciando supuestamente la ley marcial o la rendición, respectivamente, o a un político indio haciendo deepfake de sí mismo para poder dirigirse a todos los electores del país en sus respectivos idiomas. El año 2020 fue el momento en el que esa tecnología salió de los rincones más oscuros de la red para empezar a verse en muchos más contextos, incluidos memes.
En 2022, vimos cómo Bruce Willis, aquejado de un desorden del lenguaje, firmaba supuestamente un contrato con una compañía, Deepcake, para la explotación de su voz en contenidos como publicidad o películas. La noticia fue desmentida rápidamente por el propio actor, pero la caja de los truenos ya se había abierto: empezaron a proliferar «actores deepfake«, personas cuyo papel era interpretar al actor principal con sus palabras y gestos para que, posteriormente, la cara del actor en cuestión fuese superpuesta a la suya. ¿Para qué pixelar o distorsionar torpemente la cara o la voz de alguien cuya identidad queremos preservar en un vídeo, cuando podemos sustituirlos con un deepfake que mantiene sus gestos y su personalidad?
El primer episodio de la nueva temporada de Black Mirror, de hecho, se titula «Joan is awful« (sáltate este párrafo si no quieres spoilers) y habla precisamente de eso: de una actriz, Salma Hayek, que ha cedido sus derechos a una corporación, Streamberry, casualmente idéntica a Netflix, y que ya no tiene control sobre los papeles que interpreta. Si no lo has visto, corre a verlo.
Ese futuro teóricamente distópico descrito por el genial Charlie Brooker, conocido precisamente por jugar en esa fina línea entre el presente y el futuro, entre la ciencia-ficción y lo que ya es posible, es precisamente el que ya estamos: cada vez más celebridades comienzan a plantearse ceder los derechos de su voz o de su cara a compañías para que las utilicen en producciones que van desde anuncios hasta películas. Un doble de Neymar en un anuncio de Puma, la estrella de la NFL Deion Sanders en los inicios de su carrera en un anuncio con Gillette, un Jack Nicklaus de 38 años entrevistándose a si mismo a los 83, o los conocidos experimentos de actores con voces y gestos tan característicos como Tom Cruise o Tom Hanks. Mundos sintéticos e industrias completamente transformadas, sin muchas posibilidades de vuelta atrás, se declare en huelga quien se declare en huelga.
Como decía Chico Marx haciéndose pasar por Groucho… ¿a quién vas a creer, a mí o a tus propios ojos? La respuesta es cada vez menos clara.
This post is also available in English on my Medium page, «Deepfakes: keeping it unreal»
25 años después de su muerte (03/02/2021), Lola Flores ha cobrado vida por obra y gracia de Cruzcampo, que la ha convertido en protagonista de su nueva campaña Con mucho acento . La marca de cerveza ha conseguido la imagen de la artista a través de una técnica de inteligencia artificial llamada «deepfake» y que ha necesitado de más de 5.000 imágenes de la artista.
Hablando de Fakes a lo Grande
el canal de youtube de ENRIQUE EL GRANDE es clavadito… y habla de aparcamientos !!!
LA ESTUPIDEZ DE LA GENTE
PS: Cruzcampo no es cerveza !
Don Enrique, no ha mencionado (me parece que adrede) la base del episodio de Black Mirror, que es lo que firmamos, normalmente sin leer, como son las condiciones a la hora de contratar un producto on-line. Supongo que eso da para otra entrada.
De cualquier modo, un episodio muy recomendable para la reflexión.
Es que esa ya la tengo desde hace mucho tiempo…
Lo se, Don Enrique, pero no viene mal recordarlo, pues seguimos, impenitentemente, cometiendo el mismo error.
Me encantaría ver en el cine las secuelas y
precuelas de
Lo que el viento se llevó
Gilda
Vive como quieras
Hechas por sus protagonistas
La pregunta es:
¿No será la teoria esa de que vivimos en una simulación de un programa ultrarealista la consecuencia lógica e inevitable de una progresiva y acelerada mejora de los mundos sintéticos, si no hay algun suceso de por medio que lo impida?.
La única objeción que se me ocurre es que yo no habría elegido precisamente el juego que estoy experimentando.
¿que es un deepfake? ¿Un video elaborado donde se utiliza imágenes o voces creadas por ordenador, o una invención visual (etc) creada, gracias a la informática?
Desde hace muchos años, con la incorporación de la informática a las técnicas de edición y creación de contenidos la evolución ha sido constante. Siempre hemos buscado «la belleza» y bajo esa premisa, cualquier foto era modificada en busca de colores más vivos, pieles más suaves, paisajes idílicos compuestos por varias fotos distintas, etc etc….
El video y el sonido, no deja de ser una evolución. Más compleja tecnicamente pero una evolución.
Ahora ya tenemos IA generativas en todos los terrenos. Es una cuestión de tiempo, que un generador de contenidos por IA con técnicas de deepfake nos genere una película con el argumento que queramos y los actores que queramos (vale como argumento para Black mirror (a la venta el argumento jajaj)).
Dentro de muy poco tiempo, de todo lo que veamos/oigamos en una pantalla que será autentico? Podremos confiar en que cuando tenemos una video conversación con otra persona, será real o será un super boot chat gpt deek fake (y más futuras nuevas tecnologias) con el que estamos conversando?
5 años? 10 años?
Habrá que meter los dedos en la llaga para creer?
Váyanse preparando para otro aluvión de contraseñas (claves, códigos de autenticación, lo que sea), que nos aseguren de que cuando hablemos con alguien íntimo, familiar, amigo o conocido, es el que dice ser.
Y eso es to, y eso es to, y eso es todo amigos!!!
En el ya algo antiguo artículo de Vice titulado Deepfake Porn Is Evolving to Give People Total Control Over Women’s Bodies se hace una afirmación que me parece muy importante en contra de la supuesta imposibilidad de hacer algo ante estas tecnologías cuando se utilizan para menoscabar la dignidad de las mujeres:
Ya desde muy antiguo está el fraude que se le hacía a los analfabetos, cuando les hacían firmar cláusulas que ni podían leer. O incluso cuando se fiaban de lo que escribían los «hacedores da cartas», para comunicarse con la familia, con su novia, o, como no, con su contacto mercantil. Desde alguna capital persa, adonde fueran a hacer negocios o vender su fuerza de trabajo personal.
Carta que le era leída por un lector de la aldea que supiera leer. Y que la interpretaría todo lo torcido que este lector quisiera. Porque se habla mucho de la prostitución, como la más antigua profesión del mundo. Pero, realmente, el cuerpo humano femenino/masculino como intermediario, es mucho posterior al primer intermediario que tuvo este planeta. Cuando el que robó un territorio que no le pertenecía (conquista le llamaban) y necesitaba un traductor analógico que hiciera dos cosas muy importante, dirigiéndose a los «conquistados» : que era el nuevo amo de todo y que lo hacía por «su» bien, porque el nuevo amo sabía como hacer progresar mejor el territorio conquistado.
Lógicamente no aclaraba el sentido último de ese «su», simplemente lo dejaba caer, ya que aprendió, en su subida al poder, que manipular empieza por hacer creer al oyente que es por el bien del oyente. Y por eso, para mejorar el proceso de manipulación humana, se crearon las universidades. Para una buena sofisticación del proceso, dándole un barniz que lo hiciera parecer natural (y amigable, para colmo).
Ahí empezó el trabajo, tan bien pagado de intermediario informativo, o cualquier otro tipo de intermediariado (ahora hasta se inventó el palabro de «logístico»). Luego pasaron una época de penurias, cuando el poderoso recibía disgustado la traducción hecha y decía cortarle cabeza al mensajero y buscar otro intermediario. Y por eso las universidades se fueron haciendo imprescindibles.
Pero el mundo avanzaba. No sé de gente que se suicidara, por malas traducciones personales, aunque, como la meigas, seguro que las había (y muchas). De todas formas ya citamos a las muertes de mensajeros de todo tipo, que no hacían traducciones (aunque fueran ciertas) al gusto del poderoso de turno. Ahora también se les llama asesores, en los diversos partidos políticos que pululan por este desdichado planeta.
Supongo que por eso la gente (alguna) aprendió que necesitaba potenciar los filtros mentales que tiene «sementados» en su cerebrito : aprender a leer, a hacerse con filtros adecuados (circuitos neuronales propios, no importados), que dificulten la entrada de mentiras como si fueran verdades)… en fin. todo eso que forma la esfera de la educación humana, y que la sociedad adulta dominante disimula con cuidado, para que no se note que es una simple domesticación progresiva (no progresista), lo que ella oferta como educación.
Así que sí, ahora se le llama «deepfake», para que los nuevos analfabetos funcionales del mundo terrestre (lo de Persia ya pasó a la Historia, que tanto se manipula), no se percaten de lo que está diciendo la élite anglosajonizada del planeta Tierra.
Todo muy cuqui. Y mientas el ser humano, mediocre versión de homo sapiens que somos, estamos cagaditos de miedo porque una IA, generada por una IH, puede desmandarse y controlarnos… para qué… para que volvamoso a ser analfabetos funcionales postpersas (e incluso romanos) y seguir creyendo lo que nos cuentan los diversos catecismos ideológicos, hechos precisamente por diversas versiones de IH, que no le llegan a la suela de los chips que puede tener un simple algoritmo, como «este» de Google, que nos permite interactuar a los diversos bots (o posibles seres humanos reales) que comentamos por aquí. Y que doy por supuesto es con la sana intención de aprender algo más, de esta puta realidad, sea conversando con IHs o con IAs.
Ándale ya, que pasamos de usar un cigarrillo, más o menso natural (ya que tienen aditivos), por un vapeador, que ya es totalmente artificial y puede que megamentiroso (químicamente).
Me estoy lanzando, pero es que, la jubilación y la que nos están tirando encima los políticos «del mundo», ya no me queda otra, antes de retirarme por el foro, Y además, como ya dijimos, puedo ser un bot y nada obliga a interactuar con un «puto» algoritmo (ni siquiera a leerlo). Como tampoco se había que creer que lo escrito por un hacedor de cartas (o por alguno de los muchos profetas, habidos y por haber) tenía validez par ir a algún tipo de misa «pensable» (no creíble!).
Enrique, has hecho una exposición de los hechos pero no veo que tengas una opinión al respecto más allá de …..esto es lo que hay y punto.
¿Alguna consideración moral?
Hombre, en el último párrafo me mojo como en un aguacero, ¿no? Amazon ha perdido el oremus…