Un interesante y bien documentado artículo en The New York Times, «A.I.’s use in elections sets off a scramble for guardrails«, plantea la interesante cuestión del uso de imágenes creadas sintéticamente para ilustrar mensajes políticos en campañas electorales.
La imagen que acompaña a este artículo fue creada por el partido conservador New Zealand National Party, y es un claro ejemplo de ello: una imagen sintética de una serie de ladrones enmascarados robando en una joyería. La imagen no pretende engañar a nadie, su naturaleza sintética es relativamente fácil de detectar, pero obtiene su propósito: evocar temores y generar una imagen mental determinada que, en la mente de muchos votantes, apela a sus peores temores y es imposible de borrar.
Del mismo modo, hemos visto imágenes sintéticas en la campaña a la alcaldía de Toronto de Anthony Furey, un candidato conservador que utiliza ilustraciones generadas algorítmicamente en las que muestra una perspectiva distópica de su ciudad asolada por la pobreza o por homeless que acampan en los parques públicos. O en la de los republicanos norteamericanos, que crean vídeos en los que ilustran mediante algoritmos lo que anuncian que sería un futuro de guerra con China invadiendo Taiwan, inmigrantes entrando libremente por la frontera de México, cientos de bancos quebrando y oleadas de crímenes en las calles.
El uso de algoritmia en las campañas políticas va mucho más allá de pedir a un algoritmo generativo que escriba mensajes personalizados a los votantes, y entra en la posibilidad de generar fácilmente y sin ningún tipo de control o bloqueo sociocultural cientos o miles de imágenes falsas que evoquen problemas que muchos consideran peligros tan inenarrables como las plagas de Egipto, con el fin de construir evocaciones que puedan afectar el sentido de su voto. Algo que podía hacerse mediante ilustraciones, dibujos o con una buena narrativa catastrofista, pero que al trascender al espacio de la imagen real se convierte en un arma para el engaño potencialmente mucho más peligrosa.
Los peligros de los algoritmos no es que tomen conciencia de sí mismos y decidan acabar con la humanidad, sino que la propia humanidad los use para hacer el imbécil y acabar consigo misma. ¿Cómo «vacunar» al electorado para que entiendan que esas imágenes con las que van a ser bombardeados son completamente sintéticas, falsas, y no deberían afectar, por tanto, su juicio a la hora de emitir el voto? Será porque la totalidad de mi carrera profesional de treinta y tres años se ha desarrollado en educación y ahora, teniendo semejante martillo, todos los problemas me parecen un clavo, pero realmente creo que introducir la tecnología en la educación y conseguir que la sociedad la internalice, la comprenda y la desmitifique es la única manera de arreglar esto.
This post is also available in English on my Medium page, «Synthetic images and electoral manipulation»
Pasan los años, pasan las personas, cambian las técnicas, pero lo que nunca cambia es el núcleo del problema…
La teoría de la estupidez de Bonhoeffer
Como diria la parodia de Hitler de Lubitsch
«HEIL YO MISMO»
OFFTOPIC
Por Lubitsch: HIP HIP HURRA
2 beers or not 2 beers !!
«So let me ask you, the reader, have you ever had two beers? Two beers could get you through anything – forget about a holy book. Get a pair of holy brews instead.
when i drink one beer and then drink one more beer (exactly two beers) that is the best moment of my life»
Satire: Why two beers is the perfect amount
Muchas gracias Javier.
Interesante teoría de Bonhoeffer. Llevo años pensando en las fuerzas que mueven el voto, sobre todo desde el asunto Trump.
La historia de Bonhoeffer arroja algo de luz.
Hace poco leí sobre Bonhoeffer y me resultó muy interesante.
Para quien no quiera ver el vídeo, que es un tostón, los 6 minutos de pueden resumir en:
«La estupidez es un enemigo más peligroso del bien que la maldad. Se puede protestar contra el mal, se lo puede desenmascarar, si es necesario se le puede oponer la fuerza; el mal siempre lleva consigo el germen de la autodisolución, dejando al menos una sensación de malestar en el hombre.
Pero contra la estupidez estamos desarmados. Aquí no hay nada que hacer, ni con protestas ni con la fuerza; las razones no cuentan para nada; el estúpido inflige cualquier herida a su prójimo, no siente remordimiento y está en paz consigo mismo.»
Dietrich Bonhoeffer, ejecutado por los nazis en 1945.
Por cierto, no entiendo cómo la gente ve videos de por ejemplo media hora cuando a lo mejor un texto que se lee en 5 minutos contiene la misma información. ¿Es pereza mental?
REMEDIO: Velocidad 2x
EXPLICACION
Los que me siguen, sabrán lo que opino… pero de vez en cuando recurro a YT para ver «videos» sobre cosas que no me ha dado la vida para aprender en su momento i-e LISP
Pues resulta que lo meor sobre LISP está en los PDF de los 90´s y cuando se ve un YT actual lo mejor es verlo a x2 y pararlo cuando dice algo bueno.. todavia no lo he hecho
PS: el pararlo
PS2: Salvo gente como LUA no quiero que me digais que soy bueno o malo, que ODPC…bueno vale matt, mauricio,… si , y Gorki aunque no sea del PCE sea un facha de PM…. y es muy salao!
HAHHAHA… el x1.5 es mi vicio…
Todo hay que decirlo, depende de la vocalizacion del dicente.
La causa, imagino que esta en la necesidad de alargar los videos de alguna forma para poder monetizarlos… a Fabian Barrio ultimamente tambien le da por «pausar» su discurso y elevo hasta x2
Otra cosa, es si en el video ademas, las imagenes, esquemas etc resultan interesantes (o necesarios), ahi hay que bajar la velocidad y atender a la pantalla… (muchos los tengo de fondo mientras trabajo)
Me ha dado esta semana por volver a los clásicos….
Y resulta que para correr una mierda de intérprete LISPconsola) hay un imbécil en YT que recomienda
* Bajar docker
* bajar imagen de LISP
* bajar un complemento alive de VSC
* hacer un REPL y no se que hostias más…
Al final ceca de 2GB para algo que con Linux/Windowa se puede hacer con
* bajar interprete. (CLISP/SBCL)
* Usar tu editor sencillo emacs/vi/notepad
* poner en tu termoinal la invocación a tu interprete + tu script
Váyanse los YT de medio pelo a TPC
https://www.xataka.com/aplicaciones/por-que-un-editor-de-texto-de-hace-40-anos-le-da-sopas-con-ondas-al-todopoderoso-atom
PS: Cuanto gilipollitas se ha creado con MAC y WINDOWS.
PS2: Desde que Windows admite WSL o GIT BASH lo que ha mejorado,… y los applefan sin hablar de ZSH que es lo mejor que han hecho en 15 años en APPLE y ni tienen NPI de que va el rollo…
No he entrado en los comentarios, pero me temo que alguno sera de mi cuerda… :P
VI es lo mejor de lo mejor, rapido y eficiente. No tiene dependencias. Puedes crearte tus macros… y arreando. Eso si, primero hay que conocerlo a fondo (y no es tan dificil). He maquetado documentacion como si estuviera en WordStar (si… WS) a golpe de secuencias de escape a la printer… XDD
Con el tiempo lo sustitui por UltraEdit (para editar bases de datos inmensas sin recurrir a sql). Ahora he encontrado mi aliado en Notepad++ (y me conformo con GEdit en Linux)
Sobre tutoriales en YT hay que andarse con ojo y explorar un poco… a veces (muchas) los primeros que encuentras son simple bazofia.
Con LISP solo hice (muy poco) a finales de los 80. Los Altos con los que trabajaba tenian un interprete en su System V y yo experimentaba con todo. No sabria ahora… (no me despiertes la curiosidad again, kbron
Como era aquello? LostInStupidParentheses??? XDD
Yo empecé con emacs, luego me pasé al glorios vi (no vim)… el bueno… pero nunca hice nada con LISP y es sorprendente, como lo bueno no caduca: c, unix, y ahora con kali he descubierto zsh… y resulta que por unas perras los arastrados de apple lo meten en su CLI… manda huevos… aciertan a lo tonto !!
Igual incomprensión… totalmente de acuerdo, JM
no tengo ta claro que el mal deje una sensación de malestar en el hombre. Un grupo importante de personas no sienten ningún malestar e incluso hay un grupo que siente placer sometiendo a otros a través del mal.
No dice mucho a nuestro favor, pero somos asi.
No es casualidad que los ejemplos que se mencionan sean en los tres casos de partidos de derecha: son mucho más frecuentes.
Lo único que me queda claro son sus simpatías políticas……
Y tu no tienes… pringao!!
Las tuyas tampoco estan muy disimuladas.
Esta claro, la gente es estúpida, salvo que sea comentarista de este blog, que somos todos muy lúcidos
Y tu, Gorki? cuando programabas que editor usabas?
Igual eran estos bichos
https://eltamiz.com/elcedazo/2009/02/24/historia-de-un-viejo-informatico-los-mainframes-de-ibm/
Madremia que empanada… XDD
Me parece muy interesante la mención que hace Javier sobre Bonhoeffer y la estupidez y quisiera destacar que una parte central de lo que opina este teólogo alemán sobre dicho tema es la que se manifiesta a partir del minuto 2:47 del video, donde se habla sobre el impacto negativo que un poder político abrumador tiene sobre el intelecto de la persona:
Vamos a ver, que haya estupidez no es novedad…
Dale a la máquina del tiempo y ponte en el 8 de abril de 1945… ¿de que sirve saber que el que te va a ejecutar (por cierto los alemanes ejecutaban con guillotina, igual era muy fuerte para el video) es estupido o no?
Lo que vale es ponerle una bala[1] en la sesera A TIEMPO… no por estúpido… sino por nazi HDP…
[1]: metafórica
Santas Pascuas, lo que quería remarcar es el impacto negativo que un poder político abrumador tiene sobre el intelecto de la persona. Los gobernantes que aspiran al totalitarismo buscan personas que los sigan ciegamente y prefieren, por lo tanto, a quienes repiten estúpidamente un conjunto de consignas por encima de aquellos que se guían por el pensamiento crítico.
Personalmente, considero que lo dicho por Bonhoffer (que murió en la horca y no en la guillotina como tú piensas) habría que complementarlo con la visión de Hannah Arendt sobre la banalidad del mal, pues muchas veces no hay necesariamente una estupidez manifiesta sino un actitud irreflexiva similar a la del burócrata que sencillamente hace lo que el jefe le pide sin cuestionarlo de ninguna manera.
No hay que olvidar también que la tentación totalitaria puede potencialmente afectar a cualquier partido que llegue a la cumbre. El poder obnubila y la idea de imponer la agenda del propio partido al 100% de la sociedad es algo que se da con más frecuencia de la que debería. En realidad, es raro encontrar un partido que realmente respete el hecho de que haya diferentes tendencias políticas en la sociedad.
Gracias Mauricio, de acuerdo con todo
Es curioso pq a Sophie Scholl (la rosa blanca) la ejecutaron en la guillotina, y a este hombre en la horca. ( Y además la wiki cuenta más detalles). Por eso había supuesto que era lo habitual…
Solo se ejecutaba «con honor» a los militares mediante fusilamiento, y las otras penas eran en cierto modo una forma de tener una ejecución de segunda,…
La última ejecución en la RFA fue con guillotina… no sé si será una cuestión de costumbre de cada Land.
https://www.dw.com/es/la-%C3%BAltima-ejecuci%C3%B3n/a-4040069
Mauricio, Javier
Este docu sobre cristianismo y nazismo es curioso de ver…
https://www.zdf.de/funk/mrwissen2go-geschichte-12024/funk-kirche-unterm-hakenkreuz-102.html
Hitler sabía que el voto de los creyentes es necesario para las elecciones… en 1938 ya enseñana la patita… los progromos de judios,
los asesinatos de discapacitados… y las iglesias callan y sus líderes más… los cristianos criminales de la NSADP no son expulsados, se realizan trabajos forzados en las iglesias,…. en una palabra cómplices por activa y por pasiva.
Casos como los de Bonhoeffer fueron la excepción mínima, voces en el desierto. Los que tenemos algo de memoria, sabemos que muy pocos Bonhoeffer tuvimos por estas tierras. Aunque alguno hubo. Llamar estúpidos a los criminales es rebajar su culpa. No podemos decir que no eran malos que eran estúpidos. Es mucho más sencillo eran criminales.
Santas Pascuas, el video que recomiendas resulta ilustrativo y la verdad es que no sabía nada sobre la Stuttgarter Schulderklärung de octubre de 1945, por medio de la cual la iglesia evangélica alemana manifestaba su culpa por no haberse opuesto suficientemente a los nazis.
La maldad es claro que existe y es evidente que hay criminales que saben lo que hacen y que actúan con premeditación y alevosía. Pero en los análisis de Bonhoeffer o de Arendt lo que se busca es comprender la razón por la cual un gran número de personas con una inteligencia normal son capaces de seguir a líderes inconvenientes y de apoyar y justificar sus acciones aunque sean reprobables.
En esta misma línea, deberías darle un vistazo al experimento de el cardumen, que ya comenté en otra ocasión por aquí y que muestra un ángulo complementario de esta problemática.
Respeto a la ultima pregunta, es imposible. Si actualmente la gente ya se cree cualquier gilipollez que lea en Twitter o le cuenten en Youtube, imaginate cuando los deepfakes les den imagenes o videos de ello. Si la involución intelectual sufrida por la humanidad en estos ultimos años de redes sociales, conspiranoias y fake news ya ha sido grotesca, preparemonos para lo que se viene.
Pues claro que ese es el gran peligro de la IA. No que nos vaya a destruir como en Terminator, sino lo que los humanos van a hacer con ella. Y es igual de peligroso.
Salvo los comentarista de este blog que no nos creemos ninguna fakenews porque somos diferentes
Otro peligro es que la gente al final no se crea nada, ni lo bueno ni lo malo.
Que casualidad que todos los ejemplos del mal uso de las imagenes sintéticas son políticos conservadores o ultraconservadores y además, como siempre, utilizan el miedo o el odio.
Pero hay que reconocer que las mentes que son cortas de entendimiento y vulnerables a la emoción y las pasiones son mayoritarias, así que la ultraderecha y el populismo lo tienen facil.
«Cómo «vacunar» al electorado?»
Se podría argumentar que «no se debe» hacer eso, ya que perturbas la libre naturaleza del proceso de decisión democrático: cada uno ha de decidir de acuerdo a sus poderes cognitivos. Esa frase es el equivalente a: «Cómo vacunar al electorado de las mentiras del ABC?» ¿Cerramos el periódico?
Y otra cosa, la democracia lleva implícita de manera cíclica el fascismo dictatorial, precisamente porque el capitalismo lleva implícito el colapso económico. Cada vez que llega dicho colapso (pon que empieza deslocalizando fábricas y culmina en un rescate a la banca) sugen partidos con soluciones simples que apelan a esa mayoría de personas sin cultura política/económica/etc, que, al aúnar una mayoría (espérate a que se agudice la falta de crédito, la austeridad y la escasez de agua/cosechas) se convierten en dictadores. Está cantado, y la democracia es su explicación.
“Si hay un idiota en el poder, es porque quienes lo eligieron están bien representados”
Y no, la frase no es de Gandhi.
Aparicio Fernando de Brinkerhoff, “el Barón de Itararé”.
Los tecnólogos obsesionados con la manipulación virtual. A favor o en contra. Pues los exprofesionales de la llamada educación humana, realmente un simple sistema de enseñanza, seguiremos con lo nuestro.
Porque una cría humana, desde que entra en un centro escolar, sufre un proceso de manipulación. Entre brutal y sofisticado, que ya lo quisieran para sí las posible versiones de IAs, muy mejoradas, que una IH (por lo de ahora) haya creado.
Se le hace ver al alumnado que la realidad es de determinada manera. Por mucho que sus ojitos le hayan enseñado, camino de la escuela ,que puede haber otro tipo de realidades. Empezando por el maltrato que sufre, en el seno de su núcleo familiar.
Pero el profesorado es sabio y no necesita ni mirarle a los ojos. Y menos escucharle. Tiene sus preceptos, algo medievales aún, para seguir con las cuatro reglas de la Uni de Paris… o, como mucho, determinadas variantes, generadas en ambientes uni ad hoc, donde se premia la valentía en decir obviedades, que, por cierto, ya están siendo puestas en práctica por muchos profesionales de la educación, que no pudieron pasar por la Uni. Y andan perdidos en cualquier montaña del universitario país.
Y sí, se manipula la mente de la cría humana, tal como se pela una naranja. Mientras se dice descaradamente, que quitar la pela original, para poner otra diferente, no es manipulación, ni siquiera domesticación, que es simplemente enseñar (instruir, hacer piezas perfectas para la maquinaria social… y hasta se hacen «másteres» aduciendo que son para preparar a los nuevos educadores del futuro.
Como con la LOGSE, que luego no se le dio puta peseta. Y se dejó que al desidia «profesional del clero funcionario educador» la fuera dejando consumirse.
Y sí, cuando vienen las elecciones políticas, el 90% del trabajo ya está hecho. Como con todo tipo de elección previa : amigos/enemigos, trabajo, familia…
Vagabundos ocupando calles enteras de una ciudad, inseguridad, guerras por intereses económicos…
Si, suena todo falso.. ¿Quién se creería algo así?
Lo siento, decir que se trata de la estupidez, sí que es una verdadera estupidez. (Amén de que blanquea algo que no se debe blanquear…).
Dedo-en-la-llaga, de ninguna manera Dietrich Bonhoeffer o Hannah Arendt intentan blanquear algo que no se debe blanquear. Lo que intentan comprender es la razón por la cual un gran número de personas puede llegar a defender incluso actos criminales luego de ser influida por las ideas de poderosos líderes con tendencias totalitarias.