La pregunta puede parecer obvia, pero no lo es tanto. Desde los inicios de la popularización del uso de machine learning para la generación de deepfakes en torno a 2018, la evolución del uso de esa tecnología ha sido inequívoca: el 96% de los vídeos creados son pornografía, y el 99% de ellos utiliza imágenes de actrices o cantantes conocidas.
Desde los primeros casos conocidos hasta la expansión del fenómeno, una enorme cantidad de páginas pornográficas, desde las más conocidas hasta muchas otras creadas exclusivamente en torno al fenómeno deepfake, permiten ya localizar de manera inmediata prácticamente la cara de cualquier mujer mínimamente conocida superpuesta sobre escenas pornográficas, con resultados que van desde lo patético a lo prácticamente indiscernible.
Algunas de las más afectadas, como Scarlett Johansson, lo consideran una persecución imposible: a pesar del avance de las herramientas para identificar ese tipo de manipulaciones, la realidad es que la gran mayoría de sus usuarios buscan simplemente un cierto nivel de realismo, no «creerse» un vídeo cuyo origen saben perfectamente que es manipulado. El problema no es de pérdida de confianza en el contenido o en la fuente, sino de que al usuario no le importe en absoluto saber que el vídeo es sintético. Esto ha permitido el desarrollo de toda una industria en torno al fenómeno de los deepfakes: alrededor de mil vídeos pornográficos de este tipo se suben a páginas pornográficas cada mes y acumulan, en algunos casos, decenas de millones de visualizaciones, generando importantes beneficios económicos.
Mientras los políticos se preocupaban por las posibles implicaciones de los vídeos de este tipo en campañas electorales o para las compañías e intentaban legislar sobre ello, la realidad de la web se ha adelantado y ha generado un escenario en el que cualquiera puede tomar total control sobre la imagen de una persona, crear un vídeo en el que aparece haciendo absolutamente cualquier cosa que al creador se le antoje, distribuirlo, y ganar además dinero con ello, sin prácticamente ningún control por parte del afectado. Dado que esos afectados son de manera abrumadoramente mayoritaria mujeres, hablamos de un problema de cosificación y de explotación de la imagen de terceros con dimensiones que van desde lo moral hasta lo económico, ayudado por una tecnología que está ya prácticamente al alcance de cualquiera, y entremezclado además con la compleja trazabilidad de la red y la enorme dificultad de eliminar un contenido en ella.
Para complicar más las cosas, una legislación sumamente confusa que, en muchos países, otorga los derechos sobre una imagen de una persona no a esa persona, sino al creador de la imagen, como ocurre en muchos casos con las fotografías. ¿Nos pertenece nuestra cara? Si alguien es mínimamente conocido y un fotógrafo capta una imagen suya sin su consentimiento, es posible no solo que pueda utilizar y explotar esa imagen libremente, sino incluso que el protagonista de la foto no pueda hacerlo sin llegar a un acuerdo con quien tomó esa imagen.
Visto así, ¿cómo evitar escenarios tan demenciales como que alguien se plantee que los réditos económicos generados por un vídeo deepfake puedan corresponder al creador del vídeo, en lugar de a la persona cuya cara ha sido utilizada sin su consentimiento para generarlo? ¿Serían posibles situaciones en las que una persona que no ha dado ningún tipo de permiso para que su cara sea utilizada en deepfakes no pudiese, ya no técnicamente, sino legalmente, evitarlo, porque se alegue que la ley protege de algún modo al creador del contenido? ¿O al contrario, que como mal menor, tuviese que llegar a un acuerdo para recibir una parte de los beneficios generados por la exhibición de un contenido que utiliza su imagen de manera expresamente no autorizada?
¿Cómo de absurdos o de plausibles son esos escenarios? ¿Qué hacer con los deepfakes? ¿Debemos resignarnos no solo a que la imagen de una persona pueda ser utilizada para cualquier cosa sin permiso, sino a que además sea explotada económicamente por terceros sin control alguno?
The original article was also published on Forbes, «What can you do if somebody steals your face to make a pornographic video?«
La respuesta que proporciona el sentido común, es que si el/la protagonista se sienten perjudicados por ese uso, deberían tener el soporte legal adecuado para impedirlo.
Por otra parte, el contenido creado sólo tiene valor e interés en tanto esa persona lo protagoniza, ergo el beneficio debería ser imputable a quien aporta el valor no al que crea o produce o manipula el contenido, de nuevo la Ley debería permitirles resarcir el daño mediante una compensación y no mediante un acuerdo vergonzante consecuencia de la impunidad. Eso es tanto como admitir, que si no quiero que mi tienda salga ardiendo debo pagar a unos amables señores por la protección.
O sea quienes generan esos contenidos actúan como organizaciones criminales y deberían ser perseguidos por ello.
Y me dirás: Que pasaría con una foto de un famoso tomada en un lugar público ?
Quizá ese aspecto debería quedar tal como estaba.
Hola, Enrique. Creo que en este caso es aplicable el razonamiento que hacíamos en su día con las páginas web y contenidos piratas, un razonamiento que además siempre te ha dado la razón. Aunque no nos guste el uso de las deepfakes, es completamente incontrolable. Por cada vídeo que tiren aparecerán otros diez. Y además, si prácticamente cualquier persona puede hacer un vídeo de estos con una app en su móvil, el hecho de hacer un seguimiento y tracearlo es físicamente imposible.
Cuando esto empezaba, descubrí dos vídeos en Youtube que me impactaron
En uno no solo ponían la cara de un actor/actriz en un rostro sino que incluso podían modificar las facciones y ponerla seria o sonriente y aun mas, o exageradamente masculina o extremadamente femenina, o sea podíamos trasformar a John Wayne en su hermana Juana,
En la otra unos personajes con unos puntos fluorescentes daban vida a unos muñecos que repetían a la perfección sus movimientos en tiempo real.
Con una fusión de esas técnicas podríamos hacer hoy una serie de Televisióon protagonizada por Rita Hayworth y Alan Land y claro sin pagar las fortunas que esos actores de estar vivos exigirían
¿Te refieres a Alan Ladd?
Habría un caso muy interesante que es hacer deepfakes de actores que han desaparecido o envejecido.
Se podría hacer una película con Marlon Brandon, Marilyn y James Dean. ¿Quién tendría los derechos de esa película? La herencia de esas personas se oficializó, y ahora un programa se inspira en esos rostros y los hace actuar. Con cambiar algo mínimo en su estructura facial que el algoritmo certificara que no es el sujeto afectado podría pensarse que es una recreación 3D de una persona que no existe en la realidad pero que al ojo humano fuera imperceptible. Sería algo parecido a una colonia de marca blanca que imita pero no es igual a una marca reconocida.
Desde un punto de vista cinéfilo, salvo raras ocasiones, una película es un trabajo orquestado, en el que sobre todo un director y/o un guionista nos cuentan una historia que nos interesa. Y por ahora no hay algoritmos que puedan copiar a los directores de la Nouvelle Vague, a Polanski o a Kieslowski.
Y la prueba del nueve la tenemos en las películas de superheroes de Marvel, que aunque sus guiones son «comics», la realidad es que la identidad del actor es lo de menos, basta poner a un sujeto con una máscara y FX a cascoporro. ¿Quién está detras de los cuatro fantásticos, Spideman, o Hulk? Qué más da. ¿Quién es Lobezno ? ese que se parece a Pablo Motos pero no tan esmirriado…
Hace años le comenté a mi hermana que la tecnología iba camino de poder hacer películas sin actores (hoy día ya es posible). Para ser más exactos, con un actor de doblaje que ponga la voz, y ese actor u otro que ponga las expresiones faciales y los movimientos del cuerpo mediante captura de movimientos, pero que la imagen (cara incluida) que aparece en pantalla no sería la de ningún actor real, sino enteramente generada por ordenador.
Señalé que los estudios se iban a ahorrar una pasta gansa en salarios de estrellas. Sin embargo, el argumento de ella me convenció. Dijo que seguiría habiendo estrellas porque eso es lo que quiere el público. Pues bien, ya es posible hacerlo sin actores… y sigue habiendo estrellas con sueldos millonarios, también en las pelis de Marvel.
Por si alguien no se lo cree (en el segundo vídeo saltad al minuto 7):
https://youtu.be/9owTAISsvwk
https://youtu.be/xH247F-r0rA
Esto es de hace 2 años y en tiempo real. Con prerenderizados (en una granja de servidores), que es como se hacen las pelis, se podía hacer desde años antes.
Krigan
Que bueno, lo que nos cuentas debe ser la misma sensación de los que vieron los primeros dibujos animados. O como cuando los hermanos Lumiere rodaron la famosa escena de la salida de la fábrica
Lo dicho, la herramienta está(o estará) ahí. Se puede hacer una película en el que parece que hay personas y solo hay «ilusión». Ahora falta lo importante: un guión, una dirección y tropecientos informáticos para hacer una obra maestra. Sucede lo mismo en animación, que todos los días no se estrena una película tan buena como El Viaje de Chihiro
Independientemente de cada gusto, lo que primará para el uso de estas tecnologías es que sea eficiente en costes y eficiente en taquilla.
El pero a la tecnología:
Lo bueno de la creatividad humana es que puedes encontrarte películas independientes hechas casi a nivel artesanal, y que son verdaderas obras de arte. Para muestra un botón. Tienes la famosa Lista de Schindler con todo su presupuesto y tiene peros. Y también tienes la poca conocida Korczak del gran Andrzej Wajda con un presupuesto mínimo, que es una verdadera maravilla.
Como mucho con dinero y monigotes 3D harás muchos «Clones de la Lista» pero pocas sorpresas tan agradables como este streaming en YT: Korczak. Es una versión en VO con subtítulos en portugués.
Es que nos vamos de tema (una vez mas)
Una cosa, es una tecnologia que nos permita que un tio enfundado en un traje verde y su correspondiente malla de puntos, pueda acabar siendo un dragon de Juego de Tronos…
Y otra muy diferente, es aprovechar esas mismas tecnologias para menoscabar la imagen de personas publicas o no…
Que una cosa es hacer un gag televisivo, y otra diferente, lo comentado por eDans en menosprecio (menoscabo) de la persona, por ejemplo, embebiendola en una pelicula porno…
Como siempre, la etica en el uso de la tecnologia marca la diferencia…
Sin duda: Mi cara es mia (y la vuestra, vuestra)
Esto no tiene otra interpretacion.
Te pueden fotografiar en un lugar publico?
La casualidad puede hacer que si. No se hasta que punto, puedes ofrecer tu negativa. Si estoy en un lugar publico, y alguien hace una «general», y voy a salir ahi, pues bueno. Pero se ha dado el caso contrario, estar en una terraza y ser fotografiado ex-proceso sin pedir permiso… no lo he tolerado.
Pero yo soy un mindungui que no importa a nadie.
La cara de un «famoso» es cosa publica?
A priori, diria que si (siempre que no haya intrusion a la intimidad), tanto mas, cuando por lo general, «cobran» por ello. e incluso asi, no sabria si es cuando menos razonable.
Pero que tu «cara», se emplee con otros fines, mas si tu no has dado tu consentimiento, lo considero directamente delictivo, y mas si van a sacar provecho economico.
Que una cosa es que se te muere un actor en medio de un rodaje y terminar la pelicula como puedas (y con consentimiento de la familia) y otra muy diferente, que le pongan tu cara a un cuerpo que va a recibir pollazos por cuanto agujero tenga…
Entiende que no es tu cara lo que se usa, es la imagen de tu cara, o la imagen de algo que muchos confunden con la imagen de tu cara,
¿Es tuya la imagen que se refleja en un espejo de tu persona.?
Si ahora se quiere hacer una película sobre la URRS, ¿Podría alguien impedir legalmente que saliera la cara de Stalin hecha por este medio?
Pues entonces lo mismo con la de Marilyn Monroe, ¿Va a tener un actor mas derechos que un político?
Mi cara es mi cara…. sea fisica, en imagen o en molde de barro… sigue meando fuera tiesto…
La imagen de tu cara no te pertenece, ¿Quien ha dicho que no se te pueda fotografiar una fotografía tuya?
Gorki
Imagina que tu eres fan de un actor como «Alan Ladd» y alguien considera hoy en día que es un icono gay y hace una versión porno de Gilda en donde el doble de Glenn Ford se encama con el doble de Ladd, mientras el «otro Franco» se deleita de la escena en el Fake de la película «Espérame en el cielo»
A mi me parecería monstruoso. Y una falta de respeto a la memoria de grandes actores. Mejor dejemos a las personas descansar en paz. Incluido Paco el rana.
https://www.wikiwand.com/en/Talk:Alan_Ladd
Usa ese mismo argumento contra el articulo de eDans en lugar de contra mi comentario… XDD
Establece el artículo 1 de la misma la protección civil de los derechos fundamentales al honor, a la intimidad personal y familiar y a la propia imagen frente a todo género de injerencia o intromisiones ilegítimas.
Nuestra Constitución concede a todos los ciudadanos, a través de su artículo 18.1, el derecho a la propia imagen. Estamos, por tanto, ante un derecho fundamental, que está desarrollado por la LPDH, cuyo artículo 7.5 indica que se consideraintromisión ilegítima la captación, reproducción o publicación por fotografía(..)de la imagen de una persona en lugares o momentos de su vida privada o fuera de ellos, salvo los caso previstos en el artículo 8.2 de la LPDH.
http://noticias.juridicas.com/base_datos/Admin/lo1-1982.html
A ti te puede parecer monstruoso, pero al director de eso no,
A mi me parece poco ético hacer películas porno, pero evidentemente a quien las hace le parece un medio lícito de ganarse la vida.
Tampoco tiene que hacerlo en España con un derecho a la imagen protegido por la Constitucion, pero pueden hacerlo «oficialmente» en la Isla de Santo Tomé.
Mira que es mucho problema radicar legalmente un producto digital donde te parezca.oportuno.
Art 23 Sao Tome Constitution
Personal identity and the confidentiality of the intimacy of private and family life are inviolable.
Mecachis, mira que habia paises… XDDD
Tu puedes «radicar comercialmente» el producto que quieras alli donde quieras… no es de esto de lo que hablabamos…
TU (si TU) has dicho que yo no soy dueño de mi imagen…
Te reto a que te encuentres conmigo en la calle y me intentes hacer una foto «directa»… (y si te lo estoy diciendo es por algo…) XDDD
LUAS65 , ni se quien eres ni me importa, por tanto dificilmente puedo hacerte una fotografía si vas por la calle, salvo un caso de puñetera suerte.
Pero si quiero trabajar con y una fotografia de Alan Ladd solo tengo que tomarla de Internet por ejemplo esta
https://upload.wikimedia.org/wikipedia/commons/2/20/Alan_Ladd_-_publicity.JPG
Lleguemos al final del asunto.
Cuando la tecnologia consiga hacer fakes totalmente indiscernibles, ya nadie se creerá nada, se acabó el problema.
Supongo que aparecerán aplicaciones o empresas dedicadas a verificar la autenticidad de fotos y videos, y en general la verificación de contenido auténtico crecerá en proporcion al contenido fake.
Si progresivamente se puede perfeccionar la imitacion de lo real hasta terminar haciendolo indistinguible ¿Como sabemos que no estamos ya al otro lado de la singularidad?
Y si todavía no es así ¿como podemos evitar que lo sea, cuando la progresión no solo es continua si no tambien acelerada?
Y la pregunta mas importante de todas.
¿que entendemos por real?
Eso que los ignorante llamamos real, los sabios que han despertado lo llaman falso, ilusión, sueño, vanidad, maya, imaginación, fantasia…nada, cero.
Juan T.
Joer que poético… mira dosis de realidad
La singularidad te viene a final de mes cuando tienes que pagar las facturas y en junio con los impuestos. Eso si que es real y te da una bofetada para que despiertes de la ensoñación. :-)
Si , las facturas son tan reales como el dinero con el que las pagas.
Ahora vamos todos a la vez a sacar el dinero depositado en el banco, ya verás cuan real es.
Pues si toda la razón, otro ejemplo
O a vender acciones a cascoporro a la baja de TESLA a ver cual es su valoración real
Hasta que no se entienda que existe una crisis de principio y valores y que debe abordarse, no de manera
– «tecno» lógica
– «tecno» legal
– «tecno» lo que sea…
no estaremos más que chapoteando en el barro de la ignorancia y lo patético.
Líderes en su área (medioambiental), como Greta Thunberg, nos muestran una forma y un camino. Los cínicos dirán que es pequeña para dar lecciones a los demás de como deben vivir los otros. Precisamente el tipo de comportamiento despectivo que siempre se tuvo hacia la mujer desde tiempos inmemoriales. Los locos y violentos no serán tan medidos…
El problema es doble:
– Educar lleva años, y la «solución» «tecno» lo que sea, es más seductora.
– Ahora mismo no hay una/s Greta/s Thumberg de los principios y valores.
Hubo un tiempo en que los filósofos debatían si existimos. Hasta que llegó Descartes «y mando parar». Claro que puso en la ecuación la variable-carga del pensar, lo que resulta algo rollo para los rácanos mentales.
Y ahora se discute si existe la imagen de uno que existe (pero con mucho debate). Realmente nos estamos metiendo en la trama de un videojuego y se nos va a liar algo de más la mente.
Y tenemos problemas con el mal uso de las imágenes de los muertos (y de los vivos). Y de su propiedad. Sobre todo de su «propiedad».
Claro que discutir el uso de los cuerpos reales de menores y mayores en servicios inhumanos ya nos tiene muy gastaditos. Ese sería el tema, y no el de sus imágenes.
El cuerpo de una prostituta es cartesianamente real y total propiedad del ser humano obligado a prostituirse, no de su proxeneta. Y se puede perseguir la prostitución o no., que lo anterior no cambia.
La propiedad de una imagen que se tomó voluntariamente de un/a artista de cine, debería ser pública, ya que es uno de los derechos más imbéciles que pueden existir (su propiedad privada). Suponiendo que fue resultado de un paseo público por la calle. Lo del fotógrafo profesional, en tiempos digitales con su reproducción en bits, lo dejamos para mejor ocasión. Junto con la imagen de una portada de periódico , que alguien dejó tirada en un asiento de la estación de autobuses (y a la que le saco una foto), resulta paradigmática en este tipo de discusión.
Queremos encerrar a los bits y nos la vamos a pegar con total impunidad. La prostitución se mantiene con una cantidad «mínima» de seres humanoso proxenetas (y cía) y unha ingente cantidad de seres humanos consumidores. La pornografía (sea eso lo que sea) lo mismo.
Y el problema es la propiedad de las imágenes en un mundo superdigitalizado. Tu cara es tuya, pero su imagen es de quien la tomó, mientras no la ponga en un medio «de todos», como internet. Entonces ya no «es» de nadie. Te guste o no te guste.
Y a quien roba imágenes, como cualquier otra cosa, que les trate una justicia, que intente ser realmente justa, y a seguir disfrutando de las imágenes que queremos ver.
Sabiendo que son de una persona real o de su clon en modo bit. Que para algo existe le teoría del filtro, que indica la necesidad de saber filtrar el trigo de la paja y no pasarse de tontos embaucados. Que para mucha gente parece que no existen más filtros que los usados en Instagram y similares.
Yo soy megafan de la Scarlett y no me trago ninguna image pornográfica, porque la respeto lo suficiente, para no pensar que esa imagen tiene algo que ver con el ser humano llamado Scarlett. Aparte de que la pornografía explotadora o el Marqués de Sade me la traigan totalmente al pairo.
Y sí, se llama educación.
vuestra cara es vuestra siempre y cuando no afecte al interés general en la socialdemocracia. Incluso donde reina la propiedad privada os la pueden expropiar. Recordais el caso de Gaspar Llamazares?
No tengáis dudas, en los estados actuales limitadores de la libertad, vuestra cara ya no es vuestras y es analizada, copiada y tratada SIN vuestro consentimiento.
Ya sabéis que el interés general se decide en el BOE, asi que se acabar utilizando, quizas no en el porno, pero seguro que en innovación, socialmente, etc..
Buenos días,
A esta estrategia la llamaré “Estrategia Gorkiana” en honor al filosofo del siglo XXI cuyos textos se conservan como comentarios en un blog que se recuperaron en una excavación arqueológica popularmente conocidos como “Diálogos Enricráticos.”
Si yo fuese famoso llenaría internet de vídeos falsos sexualmente explícitos, como dice Enrique desde los más penosos hasta los indistinguibles. Cuando alguien sacase un vídeo engañando a mi mujer o con una escena subida de tono en un barco en Ibiza, sencillamente no tendría ningún valor, se perdería entre las 1.000 falsas de la red.
Un cordial saludo.
ROTFLMAO!!!
En los portales SexoMercado vivimos con cotidianidad otro ejemplo de privacidad peculiar. Chicas que se anuncian con fotos con la cara tapada o difuminada y sin tatuajes, que solicitan el borrado de contenidos (fotos) sacados de anuncios de prostitución.
No se sabe su nombre real ya que aparece uno fictício en los anuncios y el demandante del borrado por tanto no se puede identificar con facilidad como protagonista de esas fotos. Las numeraciones telefónicas también son desechables y no se suelen conservar. En extremo, haría falta una videoconferencia mostrando rasgos corporales desnudos para reclamar con univocidad la identidad de las fotos. Muy fácilemnte el proceso involucra más datos personales de identidad que los gestionados antes del proceso, paradógicamente.
Más aún, a veces hay relatos sobre esa identidad que describen encuentros sexuales de pago. Y ha llegado a haber denuncias en protección de datos por ello. Para las protagonistas en ocasiones, sólo el relato de un encuentro real relatando actos íntimos, aunque nada garantice que no sea inventado o falso, supone una violación de la privacidad. Repito, sin nombre, sin fotos, sólo el relato.