Cada vez son más las compañías que alertan acerca de la llegada, en forma de auténtico tsunami, de contenidos generados por inteligencia artificial a sus plataformas.
La primera que vi fue mi querida Medium, en la que llevo distribuyendo desde su fundación mis contenidos en inglés: la compañía fue pasando desde una primera actitud tolerante en enero de 2023, en la que únicamente pedía transparencia y que los contenidos creados mediante inteligencia artificial fuesen etiquetados como tales, hasta una ya más dura, en julio del mismo año, en la que, tras una invasión cada vez más fuerte, ya pasaban a definirse como «un sitio para la escritura humana, y punto«, y en lugar de «dar la bienvenida» al uso de tecnologías de inteligencia artificial para asistir en el proceso de escritura, simplemente «las permitían».
En el caso de Spotify, el problema va más allá. Que la inteligencia artificial permita crear todo tipo de canciones de manera instantánea, en cualquier estilo y con herramientas al alcance de cualquiera es una cosa, pero que la plataforma se vea inundada con muchísimas de esas canciones que, además, son «escuchadas» de manera automatizada por cientos de miles de cuentas robóticas para simular reproducciones de esas canciones y generar flujos de dinero hacia sus creadores es algo completamente distinto, y se llama directamente fraude o estafa. Es un negocio de «muchos poquitos», sí, pero indudablemente es no solo absurdo, sino que además, detrae fondos que deberían ser asignados a creadores reales por escuchas reales. Así, la compañía se dedica a retirar decenas de miles de canciones creadas mediante inteligencia artificial, para evitar su uso fraudulento.
Ahora, es Mark Zuckerberg el que viene a decir que podemos esperar encontrarnos cada vez más contenido creado mediante inteligencia artificial en nuestros timelines en redes como Facebook, Instagram o Threads, y que además, no tiene ningún problema con ello porque le parece una nueva categoría de contenido completamente nueva, que será generada, resumida o recopilada por IA, y que eso será muy interesante para la compañía. Es decir, que cuanto más contenido mejor, independientemente de cómo se genere, siempre que eso pueda incrementar el tiempo de permanencia de los usuarios en la red y, por tanto, les permita ponerles más publicidad hipersegmentada. Básicamente, que todo vale.
El crecimiento del contenido generado por inteligencia artificial en internet plantea varios problemas potenciales que podrían afectar tanto la calidad de la información como a la confianza de los usuarios en el contenido digital. Algunas de las preocupaciones principales que me plantea son:
- La posibilidad de que se utilice para la generación de desinformación y noticias falsas: la inteligencia artificial puede generar grandes cantidades de contenido rápidamente, incluidos artículos de noticias, publicaciones en blogs y actualizaciones en redes sociales. Esto podría ser utilizado para difundir desinformación, noticias falsas o propaganda en modo astroturfing y simulando una popularidad que, en realidad, es inexistente, tratando de influir en la opinión pública o sesgando el acceso a la información.
- La inmediata sobrecarga de contenido y dilución de calidad: con el aumento del contenido generado por inteligencia artificial, la cantidad de información en la red se incrementa, lo que puede dificultar que los usuarios encuentren fuentes fiables y de calidad. Es probable que el contenido generado por inteligencia artificial priorice cantidad sobre calidad, lo que lleva a una inundación de información de bajo valor o repetitiva.
- La posible manipulación de motores de búsqueda: el contenido de inteligencia artificial creado con fines de SEO puede manipular los algoritmos de los motores de búsqueda, colocando contenido de baja calidad o con sesgo comercial en los primeros resultados. Esto puede eclipsar contenido más informativo, bien investigado o generado por expertos, lo que reduce la utilidad de los motores de búsqueda para encontrar información precisa.
- El potencial desplazamiento laboral en la creación de contenidos: a medida que la inteligencia artificial se vuelve capaz de producir contenido escrito, visual o de video, la demanda de creadores humanos disminuye, afectando a campos como el periodismo, el marketing, el diseño gráfico o el entretenimiento. Esto puede reducir las oportunidades para profesiones creativas y, sobre todo, llevar a contenidos más homogéneos por estar obtenidos a partir de bases de entrenamiento similares.
- Obviamente, la pérdida de autenticidad y del toque humano: la inteligencia artificial simula un estilo, pero carece de experiencias humanas, emociones y perspectivas personales, que son esenciales para crear contenido auténtico y significativo. Si el contenido generado por inteligencia artificial empieza a dominar internet, la red podría perder la diversidad de narrativas personales, experiencias vividas y profundidad emocional que ofrece el contenido creado por humanos.
- La creación de cámaras de eco y de sesgo algorítmico: las herramientas de inteligencia artificial podrían reforzar involuntariamente sesgos existentes al replicar patrones en los datos con los que se entrenaron. Esto puede intensificar las cámaras de eco y limitar la perspectiva en el contenido generado.
- Finalmente, la preocupación por la privacidad y uso de datos, dado que muchos sistemas de inteligencia artificial se entrenan con datos disponibles públicamente, algunos de los cuales pueden incluir información personal. Esto plantea interrogantes sobre la privacidad de los datos utilizados y cómo la información personal es reutilizada en contenido generado por inteligencia artificial sin el adecuado consentimiento de los afectados.
¿Debemos tratar de la misma manera todo el contenido generado mediante inteligencia artificial? Tengo mis dudas. Yo mismo genero contenidos mediante inteligencia artificial cuando publico mis podcasts creados con NotebookLM en plataformas como Spotify, Amazon Music y Apple Music, y en todos los casos los etiqueto como «generados por inteligencia artificial», a pesar de que lo que realmente genera el contenido no es la herramienta que utilizo para ello, sino el texto que he escrito yo, con estos deditos y esta cabecita.
Es decir, que en este caso, el papel de la inteligencia artificial no es el de generar el contenido, sino el de poner un contenido generado por un humano en un formato determinado, en este caso, adecuado para quienes prefieren escuchar a leer. En mi caso, se trata fundamentalmente de un experimento divertido sin más, pero me parece difícil compararlo con un caso potencialmente nocivo: mis oyentes son personas reales, el contenido está creado por mí, y simplemente cambia el canal: es más elaborado que si simplemente pidiese a una voz sintética (que podría incluso entrenar con la mía para hacerlo más «genuino») que leyese mis textos. Lo que hace en este caso NotebookLM es adaptar el contenido a un formato podcast, pero partiendo de un contenido original y de creación completamente humana, lo que me parece que es algo más que un matiz. Lo que escucha un oyente de mi podcast es, indudablemente, lo que yo escribí y quise comunicar, aunque pase por el filtro de una inteligencia artificial y lo locuten dos locutores sintéticos.
El futuro de una red llena de contenidos generados mediante inteligencia artificial me parece poco deseable – y menos aún si llegamos al absurdo conceptual en el que pasan a ser consumidos por lectores u oyentes artificiales. Pero creo que puede ser interesante introducir en ese «generado por inteligencia artificial» algunas gamas de grises, en función del papel que esa inteligencia artificial haya desempeñado en su generación.
This article is also available in English on my Medium page, «Where do you draw the line when it comes to AI-created content?»
No creo que un podcast sobre un contenido creado por una persona, que revisa una persona antes de publicar, sea contenido generado por Inteligencia Artificial.
Es simplemente un contenido que ha utilizado una herramienta de IA en el proceso. Del mismo modo que no se pone esa etiqueta si se usa un editor de texto cuenta con un autocorrector.
Entiendo que el contenido generado por Inteligencia Artificial es aquel que no pasa por una validación humana antes de publicarse.
En «La crisis de la narración», Byung-Chul Han argumenta que la era digital ha reemplazado la narrativa profunda por una comunicación superficial e instantánea.
Esto elimina el sentido de comunidad y memoria compartida, que antes otorgaban cohesión y significado.
La narrativa auténtica, que requiere tiempo y profundidad, se diluye en una sociedad que prioriza la información rápida sobre el vínculo humano.
Pues bien, la generación de contenido robótica solo es otra vuelta de tuerca mas en la insustancialidad y mediocridad de la experiencia humana actual.
Hemos pasado de la verdadera narrativa al storytelling : te cuento una milonga envuelta en humanismo para venderte algo .
Esas historias que se contaban alrededor del fuego y que mostraban en profundidad lo que es ser humano desaparecieron, y solo ha quedado un sucedáneo sin alma y con un propósito muy capitalista.
Y Trump como ejemplo de a donde nos conduce esto.
Marche una cuarta publicación en este blog que como parte de su contenido incluya: «tragedia de los comunes»:
etiqueta: tragedy of the commons
Wikipedia: Tragedia de los bienes comunales
Como generador humano de contenido, creo que el autentico problema no es generar contenido, sino encontrar lectores, por supuesto humanos, Bots que entren en tu página es muy fácil de crear. Ya nada digo obtener feedback con el lector, eso ya es para nota.
No digo que envidie porque, (creo), no es ese mi sentimiento, sino mas bien que me asombra y no llego a entender, que este blog tenga una gigantesca audiencia y que sea razonable que cada día tengas unos 25 comentarios, y, ya de «aurora boreal», que los comentaristas dialoguen entre si.
Yo, que he tenido un blog, que no conseguí que me leyera ni mi santa esposa, no deja de admirarme este blog, aunque reconozca que la capacidad de trabajo de Enrique Dans, es equiparable a la de una LLM entrenada en la lectura de los periódicos americanos.
Supongo que es fácil conseguir que GEMINI por ejemplo te haga un compendio de la noticia tecnológica del día, pero el problema es que le texto destilado atraiga lectores.
En efecto el grave problema de el contenido «mecanico» es que entierra aun mas todo aquello inteligente y original que genera el ser humano, Puede que la solución esté en generar un buscador con AI, que valore el contenido de una pagina web, no por la «popularidad» que tiene, o los enlaces que obtiene, que se puede falsear fácilmente, sino por la calidad de las ideas que presenta, sea de humano o de humanoide. (¿Por qué una máquina no va a poder ser original y sensato?)
¿Como se diferencia la calidad?- No tengo ni idea, pero es como la belleza no la se describir , pero cundo me la encuentro lo percibo.
Lo que dices tiene toda la lógica y es lo mismo que alguna vez mencioné en este blog:
Tim Harford en su libro: El economista camuflado desarrolló el concepto de que toda nueva abundancia genera una nueva escasez. Y él lo explicaba con el ejemplo del precio de las palomitas en el cine. ¿si las palomitas son un recurso abundante, porqué se vuelven tan costosas en el cine? Simple:
En un cine no se permite cualquier entrada de alimentos y comida, al existir está prohibición, los dueños del cine pueden darse el lujo de pedir cualquier precio.
La paradoja que se presenta ahora es que, aunque el contenido es abundante y más barato que nunca de producir, encontrar contenido valioso se vuelve cada vez más difícil y, en cierto sentido, costoso en términos de tiempo y atención.
«inteligencia artificial priorice cantidad sobre calidad» (EDans).
Quiero suponer que no has puesto, sin querer, artificial en vez de humana.
Porque supongo que firmas el hecho de que la incomunicación y desinformación, no ha nacido con la era digital. Ni siquiera se ha hecho una gran burbuja ahora, teniendo en cuenta el despelote mental que ya se estuvo dando a lo largo del siglo XX.
Y teniendo en cuenta que la política (y sus consecuencias religiosas) ya practica todo ESO masivamente, mucho antes de su digitalización del XXI e, incluso, que naciera el Pato Trump. Solo hay que mirar al sol naciente y, desde Fukushima ( qué tiempos de la central de Three Mile Island!!!) a cualquier población valenciana de hoy mismo, se llena el aire de los bostezos de «eso», que exige ayuda del estado (que hizo poco) para paliar los desastres que él mismo ha desatado, en su forma más brutal.
Y, para más inri, despreciando a la ciencia y votando a gente que se ríe de ella.
Disculpen mi atrevimiento.
No me considero adecuado para comentar en este blog, ya que creo que su nivel es demasiado alto para mi participación.
Eso no quita que me encanta leerlo y disfruto incluso con los comentarios.
Cómo también he sido bloguero, unos cuantos años llevando el blog de atletismo de mi club, certifico que una de las razones para dejarlo fue el escaso número de lectores. (Según facebook, 2.000 personas de media veían mi anuncio de nueva entrada. Ahí es nada, pues nadie entraba a leerlo).
Suponiendo que todos los que entraran en él, leyeran algo, mi número medio de visitas eran 50. Comentarios en todos esos años: 2.
Creo que con la llegada de la IA valoraremos más lo escrito por humanos, lo mismo que sucede ahora con la artesanía.
Un número de irreductibles tendrá su grupo fiel de lectores y tendrán también que luchar a capa y espada contra un incontable número de bots.
Espero que ED sea uno de ellos.
Un saludo y gracias por los buenos ratos de lectura.
Sí, este problema ya lo hemos vivido en este mismo blog, con comentarios que incluían contenido generado por IA y sin aviso alguno.
Sin tener nada en contra del contenido generado por IA, muy bueno en muchas ocasiones, lo que sí me parece importante es que se indique como tal porque pensar que estás comunicándote con una persona pero estar haciéndolo con una IA me parece un engaño (podría extenderme en el por qué pero no quiero alargarme ahora).
En 2023 ya tuve la sensación de haber entrado en una nueva era donde sobre toda nueva creación planea la duda del uso de asistentes de IA. Tal vez dentro de poco inventemos un término para las creaciones artísticas previas a 2023, algo parecido a los ‘incunables’.
Me doy por aludido
Comentarios generados por IA son una cosa
Comentarios incluidos en un workflow en el que participa una IA y supervisada por una persona ( en este caso yo) para mi tienen la misma validez, ya que su contenido está Ok para mi,
En este segundo caso, si te parece que el comentario, no tiene la calidad que tu esperas, es tu problema, si para mi es correcto, ya es una cuestión opinitava.
Y ojo no estoy diciendo que tengas que estar de acuerdo, con lo que dice el comentario, sino simplemente, que al menos en mi caso, comentario con workflow de IA, está revisado. !!
Precisamente leyendo unos artículos desde feedly, se me pasó por la cabeza si estarían creados por IA. Eran de diferentes webs, pero todos usan clickbait «amable» del tema que me interesa, todos dedican más de la mitad del artículo a la introducción (para tenerte más tiempo) y al final casi ni tratan el tema que te hizo entrar a leerlo. Hasta daba la sensación, al tener el mismo estilo de escritura, de que estaban escritos por la misma persona.
No es así, están firmados, y de fuentes distintas… el problema será que todos utilizan IA para el relleno y después el poco contenido llamativo lo escribe una persona?
Estoy eliminando como fuente de información a cualquiera que utilice clickbait, pero me estoy quedando sin fuentes!
Todo lo que en el título no indica claramente de que va, por ejemplo cosas como «El pueblo mas bonito de Cantabria», no lo leo, porque se que me van a meter un rollo macabeo insoportable para colocarme seis anuncios antes de decir cual es el nombre del pueblo.
Dices: «… y en todos los casos los etiqueto como «generados por inteligencia artificial»».
Me pareció más adecuado sustituir ese «por» por un «con», ya que eres tú el que suministras la comida a la AI (no es el caso de un simple prompt).
Se lo he consultado a la propia AI (Perplexity) y esta es su respesta:
DIVERGENCIAS
# Preposición utilizada:
La primera frase usa "por": "generados por inteligencia artificial"
La segunda frase usa "con": "generados con inteligencia artificial"
# Implicación del rol de la IA:
"Por" sugiere que la IA es el agente principal o la fuerza creadora directa.
"Con" implica que la IA es una herramienta o un medio utilizado en el proceso de generación.
# Grado de autonomía percibida:
"Por" puede interpretarse como que la IA tiene un papel más autónomo en la creación.
"Con" puede sugerir una colaboración entre la IA y posiblemente un agente humano.
#Connotación sutil:
"Por" puede dar la impresión de que el resultado es completamente atribuible a la IA.
"Con" puede implicar que la IA es un instrumento en un proceso más amplio.
En resumen, aunque las frases son muy similares y se refieren al mismo concepto general, la elección de la preposición ("por" vs. "con") introduce sutiles diferencias en la interpretación del rol y la autonomía de la inteligencia artificial en el proceso de generación.
El «sapiens»: esa especie animal que decidió destruirse a sí misma.
@EnriqueDans Las 7 preocupaciones principales que enumeras ¿te las ha generado una IA y posteriormente has añadido el enlace al astroturfing y alguna corrección menor?
No, ¿por?
Búsquese: «Cómo un músico usó IA para crear canciones falsas, transmitirlas miles de veces y robar USD 10 millones». Hay un buen puñado de web que se hacen eco de este personaje que «murió» de avaricioso, el idiota. Si es que… (Si es que siempre es lo mismo. Lo que demuestra que la Inteligencia Artificial es mucho más «inteligente» que la «natural».)
OFFTOPIC: aunque no tanto…
Os pongo en antecedentes, tengo una cuenta de FB que uso casi nada, para tomar fotos que me interesan que pone la gente, y poco más
Pues resulta que me saltan anuncios hechos con deepfake, que son videos de Feijoo, Albares que a la gente mayor le pueden dar el pego.
En ellos te dicen que si invierte 250€ ganas 995€ en un día. Claramente un timo similar a los que caen los bros con los cripto cromos, pero esta vez dirijido a personas mayores
Así que denuncio a FB ese anuncio: y recibo esta respuesta de su moderación basada en IA:
No hemos eliminado el anuncio
Gracias de nuevo por tu denuncia. Esta información nos ayuda a mejorar la integridad y pertinencia de la publicidad en Facebook.
Utilizamos una combinación de tecnologías y revisores humanos para procesar denuncias e identificar si su contenido infringe nuestras Normas de publicidad. En este caso no hemos suprimido el anuncio que denunciaste.
Si crees que se trata de un error, puedes solicitar una revisión de esta decisión en un plazo de 180 días.
Somos conscientes de que esto puede resultar frustrante, por lo que te recomendamos que ocultes los anuncios que no quieras ver y cambies tus preferencias para filtrarlos. Obtén más información sobre cómo actuamos ante denuncias como la tuya.
Resumiendo, FB es una MIERDA colosal.
No tienen intención ninguna de limpiar la RRSS…
A mi me da igual solo la uso para completa mi coleccion de fotos de mi ciudad, … pero entre twitter que es otra MIERDA controlada por el fascista ELON con anuncios pro racismo, y bulos por todos lado, FF que es un descontrol, y YOUTUBE, TIKTOK, etc que sus algoritmos solo priman contenidos que radicalicen y tengan más ADEPTOS a la imbecilidad
¿que sociedad nos espera?
Estoy viendo rtve-24H las noticias de Valencia en YT, y al lado sale un chat que está plagado de trolls y cuando han muerto muchas personas, y la mayoría haciéndose los graciosos, poniendo mensajes políticos, etc etc UNA VERDADERA PENA la sociedad que nos ha tocado vivir llena de idiotas, intelectuales y morales.
«la sociedad que nos ha tocado vivir llena de idiotas»
En la naturaleza hay una serie de constantes: la velocidad de la luz, la de Planck, la de gravitación….y el número de personas imbéciles respecto a la población total. Es un invariante histórico, y es independiente del nivel educativo de la época, la riqueza material, etc. Hoy en día solo se nota más por las redes..
Si alguien espera autorregulación en cuanto al uso “ético” de la IA, que espere sentado.
¿Quién define qué es ético?
¿Hay dinero de por medio?
Si hay bots escribiendo comentarios en contenidos generados por bots, ¿por qué les extraña?
Pues eso
Interesantísima publicación, con la que no podría estar más de acuerdo.
Personalmente creo que el futuro de la IA pasa por ser una herramienta que extienda nuestras capacidades y posibilidades. Si el objetivo de una empresa cualquiera va a ser el de sustituir al humano para hacer todo más rápido y ganar más dinero, sin importarle mucho la búsqueda o exploración de nuevas maneras creativas de generar contenido de valor, están por venir años muy turbios.
Medium es bastante malo como medio para human storytelling, solo permite contenidos en ingles, no en español, portugués, esperanto o francés lo cual excluye a la mayoría de la población mundial. Además la ultima vez que ví algo en Medium (antes que implantaran login obligatorio para ver cualquier cosa), la totalidad de las publicaciones eran sobre programación. Es una paradoja que un medio que insista sobre «sobre historias humanas» todo el contenido es sobre programación.
En la serie Mad Men solo había dos o tres creativos en la agencia de publicidad, extrapolando todo el contenido creativo que haz visto alguna vez es obra de una reducido conjunto de personas, de hecho probablemente hay mas albañiles trabajando en la construcción de un único rascacielos que todos los creativos del mundo.
Mientras la IA asuma el cargo de los creativos cualquier actividad que requiera trabajo físico se revalorizará se nos dice que los robots e IA estan en todas partes pero hasta donde sabemos nunca hemos los visto reemplazar a los albañiles, quienes asfaltan calles, soldadores, embalsamadores.