A medida que las aplicaciones del machine learning van ganando en adopción y popularidad, gracias sobre todo a su más reciente (que no más significativo) avance, los algoritmos generativos, resulta cada vez más importante diseñar algún tipo de guía para su incorporación responsable a las ofertas de productos y servicios de las compañías.
Snapchat ha anunciado hoy su propio chatbot basado en ChatGPT, en principio disponible únicamente para los suscriptores de Snapchat Plus, la opción de pago ($3.99 mensuales) de la compañía pero con la idea de extenderlo a todos sus usuarios, y con la idea de que esos usuarios puedan, además de hablar con sus amigos, hacerlo también con My AI, su bot.
En la misma dirección se mueve Meta, que tiene su propio large language model y su equipo dedicado íntegramente al desarrollo de personas virtuales para Messenger, Facebook y WhatsApp, con el fin de crear «experiencias futuristas» para sus usuarios. Y antes de que nos pongamos a hablar todos con algoritmos como si no hubiese un mañana y que protagonicemos la próxima versión de «her«, seria recomendable recordar a qué se dedica esa compañía, y qué planes reales tiene para esas «personas virtuales», que no son otros que suplir la carencia de información que experimentó cuando Apple cambió las condiciones de su plataforma para evitar que siguiese robando información de manera flagrante a todos sus usuarios y a través de prácticamente cada cosa que hacíamos en nuestros smartphones.
Resultaría recomendable recordar que cuando Apple nos ofreció una opción para interrumpir ese espionaje, el 97% de los usuarios dijo que, efectivamente, querían hacerlo (y que muy probablemente el restante 3% no entendió la pregunta o se equivocó de botón). Y que para la compañía, que va ya por la segunda de sus grandes reducciones de personal, el machine learning puede suponer la forma de «hacer más con menos», es decir, de seguir construyendo detalladísimos perfiles de sus usuarios en función de todo lo que hacen o dicen en sus plataformas para poder seguir vendiendo esos perfiles al mejor postor, sea una gran marca o una de esas que se dedican a intentar vendernos todo tipo de productos basura.
Según la compañía, estamos hablando precisamente de eso: de desarrollar herramientas de machine learning para «contrarrestar el efecto de los cambios en la política de privacidad introducidos por Apple» y que resultaron en miles de millones en pérdidas. Es decir, que como ya no podemos espiar a nuestros usuarios como solíamos hacerlo, ahora lo haremos mediante machine learning, un conjunto de algoritmos, asistentes y personas virtuales que estarán pendientes para captar cualquier rasgo de nuestra personalidad que les permita intuir qué cosas nos pueden vender.
El uso de una herramienta de machine learning para ponerla al servicio de la publicidad hipersegmentada debería estar completamente prohibido, como de hecho debería estarlo la propia publicidad hipersegmentada en su conjunto. La publicidad hipersegmentada es claramente dañina, peligrosa, y va en contra del más elemental respeto a la privacidad: que la segmentación publicitaria pueda llevarse a cabo en función de todo tipo de variables, incluyendo ya no las sociodemográficas o geográficas, sino incluso todas las conductuales, las que revelan nuestros miedos, nuestras afinidades, nuestras simpatías o absolutamente cualquier cosa, incluso las que ni nosotros sabemos de nosotros mismos, es algo que debería forzosamente tener que preguntarse a los usuarios de todo servicio, dejándoles claro que cualquier cosa que hagan, digan, escriban o pulsen será utilizada para tratar de maximizar su valor para cualquier compañía que aspire a venderles cosas.
Tenlo en cuenta. Los bots conversacionales y otras herramientas de Messenger, Facebook o Instagram te podrán parecer más o menos divertidos y te podrán generar más o menos ganas de probarlos, pero no olvides para qué son, a qué se dedica esta compañía, y los efectos que tendrá el hecho de que les reveles cualquier cosa, de manera explícita o implícita. Algo que habría que prohibir, no que «mejorar» mediante el uso de machine learning. La publicidad hipersegmentada está a punto de volverse infinitamente más distópica.
This article is also available in English on my Medium page, «Here’s why those nice people at Meta are rolling out chatbots for Facebook and WhatsApp»
Recordemos una vez mas. «Si el servicio gratuito es gratuito, el producto eres tu».
Otra cosa es que no te importe ser el producto, o también, no se nos olvide, que hay servicios «pro» donde además de pagar tu sigues siendo el producto. Pogo un ejemplo, hoy el banco me cobra comisión por todo, pero a parte de llenar mi email, me llaman por teléfono a mi casa, para que el dinero que tengo en «Cuenta Corriente» lo ponga en «Depósitos Fijos», y esto con los mismo empleados, que en su momento me quisieron colocar las «Preferentes».
Reconozcámoslo, es imposible defenderse seriamente de la vigilancia digital, por supuesto el control de digital es en internet, pero también cámaras en la calle y en los edificios, que leen las matriculas de los coches, relacionado la matricula con listas de la compra y pagos bancarios o que ejercitan el reconocimiento facial, y no solo eso la parte estatal también me vigila, siguen mi teléfono móvil y posiblemente mis conversaciones, donde aparco, por qué calles paso, donde cojo el autobús, si utilizo Renfe o Iberia, si entro en un hotel,…
La digitalización ha puesto tan fácil vigilarnos que ha imposibilitado la intimidad, como se demuestra que tanto el comisario Villarejo como el actual asunto de Canarias, tengan grabaciones de todo lo habido y por haber, unido a twitters, whatsApp,… que en principio eran privados. Si los mangantes no pueden defender su privacidad, incluso contratando reservados en los restaurantes, menos podremos hacerlo los ciudadanos de a pie.
Por tanto, hay que asumirlo y al menos veamos la parte buena. En teoría eso nos libra de que nos bombardeen con publicidad de temas que no nos interesa y sólo nos llega la información que puede ser de nuestro interés,…. ¡¡¡PUES TAMPOCO !!! .- Nos sigue llegando toneladas de anuncios, que no hacen mas que incordiar para llamar muestra atención , sin que lo que nos ofrecen se acerque ni remotamente a lo que necesitamos.
¡¡¡ CÖMO ES QUE 20 AÑOS DESPUES DE INVETAR INTERNET; SABEN TANTO DE NOSOTROS Y A LA VEZ, NOS CONOCEN TAN MAL !!!
Como comunista que soy, entiendo y comparto la postura de este artículo, pero se me escapa entender porqué desde un óptica capitalista como la que estamos, bombardeados de publicidad constantemente (generalista y segmentada) donde a nosotros y a nuestros hijos tratan de colarnos minuto sí y minuto sí productos que no necesitamos (casi todos) y que muchas veces son nocivos (bebidas azucaradas, bollería, etc…), resulta que de toda esa publicidad la generalista la podemos considerar buena y hay que respetarla y la segmentada (que quizás cumpliría mejor con el «sí necesitamos») es la publicidad mala hasta el punto que hay que prohibirla.
¿No habría que poner el foco en la calidad del producto (y si es nocivo o no), más que en la forma utilizada para intentar colárnoslo?
El que intenten venderme cosas que me puedan interesar no me preocupa, ya somos adultos y «se supone» que podemos pasar al lado de una pastelería y no comernos todo lo que se enseña. Otra cosa es que no tengamos control de nuestros impulsos y entonces hablamos de una enfermedad y necesitamos ayuda profesional.
Mientras el producto sea legal, el que me lo enseñen no me ofende mientras no me «invadan» con el anuncio. Yo Lo que me preocupa es la recogida y el manejo de los datos que dan origen a esa hipersegmentación, ahí tenemos muy poco control y es donde deberíamos mejorar
Buen aporte para una reflexión
resulta que de toda esa publicidad la generalista la podemos considerar buena y hay que respetarla y la segmentada (que quizás cumpliría mejor con el «sí necesitamos») es la publicidad mala hasta el punto que hay que prohibirla.
En efecto yo la publicidad mas bien la divido en soportable y molesta. La soportable es la que esta en el ambiente, los escaparates, anuncios en el periódico, los envases atractivos,… La molesta es la que interrumpe con violencia mi atención hacia ella, como el corte en medio de los videos de Youtube, el pantalla que sube interfiriendo lo que quieres leer, el sonido insoportable de muchos anuncios, la llamada telefónica a la hora de comer,…
No se como se puede reglamentar, pero habrá que poner límites a las interrupciones a tu atención, porque si no hay coto, terminarán agarrándonos por las solapas del abrigo para que les prestemos un minuto nuestra atención.
Pero hay otra cosa que apunta XOCOALT y es que nos puedan ofrecer productos nocivos, publicidad de tabaco, loterías, bebidas edulcoradas, de bollicaos,… Y estoy con él, que hay que poner limitaciones que de hecho,ya se ponen, (tabaco, juego, publicidad infantil,…), que quizá haya que afinar en algún punto mas, pero sin pasarse, porque hay una excesiva mentalidad WOKE, de prohibir todo los que UNOS consideran malo y por poner un ejemplo, lleva que hoy ridículamente te racionen el azúcar en el café, de dos terrones de antes, hemos pasado a cantidades tan homeopáticas, que el otro día tuve que preguntar si el contenido de una bolsita de papel, era azúcar o edulcorantes,
Creo que la mayoría adulta de la población, es lo suficientemente sensata para decidir si que remos mucho o poco azúcar en el café, si que remos o no wapear, si deseamos o no jugar a juegos de azar, o si deseamos o no beber bebidas con alto contenido alcohólico. Así pues controles a lo que se publicita, si, pero solo los imprescindibles.
El problema es que pueden utilizar lo que saben de ti, no para ofrecerte aquello que más te interesa, sino para manipularte y hacerte más atractiva una determinada opción. Como efecto secundario puede provocar (y de hecho provoca) la polarización de ideas y/o tendencias pues estás más expuesto a impactos visuales y de otro tipo que refuerzan tus sesgos.
Otra pregunta que hay que hacerse es : Si el producto ya no puedes ser tú ¿estas dispuesto a pagar por el uso de todo lo que antes era «gratuito»?.
Y ya te digo yo que la gente seguirá prefiriendo ser el producto.
Pienso igual que tú!
Un saludo.
Es que aun pagando, no estoy seguro que cese su deseo de saber de mi. He puesto el caso de mi banco, Hoy me cobra comisión por todo, y aun sigue vigilando el saldo que tiene en mi cuenta, para hacerme propuestas de inversión.
En ese caso, refiero que me espíen, pero que me lo ahorre en comisiones. Es el caso de Elton Musk, te controla tus twitts pero encima quiere que pagues por ponerlos tu.
Hoy Enrique nos ha hecho un totum revolutum en el que nos ha mezclado
a) La ética en ML i.e. Responsabilidad Social
b) La no ética de Apple, disfrazada de ética i.e. o como hacerse con el negocio de la publicidad de Meta y demás perdedore
c) Lo malo que son los malos (si otra vez FB), y los peores que pueden llegar a ser si usan LLM.
Sobre Regulación
Pues sr. Enrique corresponde a los poderes públicos, por delegación de la voluntad de sus ciudadanos, el dictar estrategias y leyes que nos defiendan de los malos, y no confiar en la comercial voluntad de los competidores. Por ejemplo para ello, en 2020 se publicó la «Estratedia Nacional de IA» y una de sus bases era «el establecimiento de un marco ético y normativo que garantice la protección de los derechos individuales y colectivos, con el bienestar social y la sostenibilidad como ejes vertebradores», ahora le toca a Vd. hacer seguimiento de los jalones que esta administración está haciendo, si lo tiene en consideración, y si es menester comentar
a) la Ley 7/2021, de 20 de mayo, de cambio climático y transición energética. Con frases como ésta (Emplear el potencial de nuevas tecnologías, como la Inteligencia Artificial, para transitar hacia una economía verde, incluyéndose, entre otros aspectos, el diseño de algoritmos energéticamente eficientes por diseño)
b) Ley 12/2021, de 28 de septiembre, por la que se modifica el texto refundido de la Ley del Estatuto de los Trabajadores. Esta ley estableció el derecho de información de la representación de personas trabajadoras, y el uso generalizado de la IA. Esta ley introdujo en el artículo 64.4, reconociendo el derecho del comité de empresa a: Ser informado por la empresa de los parámetros, reglas e instrucciones en los que se basan los algoritmos o sistemas de inteligencia artificial que afectan a la toma de decisiones que pueden incidir en las condiciones de trabajo, el acceso y mantenimiento del empleo, incluida la elaboración de perfiles.
c) la Ley 22/2021, de 28 de diciembre, de PGE año 2022. Se autoriza al Gobierno a impulsar una Ley para la creación de la Agencia Española de Supervisión de Inteligencia Artificial en España.
Pues nada Sr. Enrique, si le interesa hacer seguimientode regulaciones en serie, hay tiene calle para correr
NADA ES GRATIS: Sobre Apple y el botonsito anti FB
* Más de seis meses después, está claro que la mayoría de los usuarios de iPhone optaron por no participar, y la función, llamada Transparencia de seguimiento de aplicaciones. El 62% de los propietarios de iPhone optan por no participar
* Si bien los cambios se han comercializado como una victoria para los usuarios, también benefician a la publicidad de Apple.
Vaya que algún imbécil discute los datos, mejor dicho su fiabilidad del 95% que dicen si, al 38%
Yo no sé quien tiene razón, así que se lo dejo Sr. Enrique para su información y contraste de fuentes y/o percepciones
APPLE: Que buenos son los hermanos del colegio que nos llevan de excusrión
Por qué viste más anuncios en tu iPhone en 2022
El negocio publicitario amigable con la privacidad de Apple también es una estrategia para evitar las leyes antimonopolio.
«Apple se está volviendo más agresiva con su negocio publicitario, y el control cada vez más controvertido de la compañía sobre sus productos está ayudando a ese negocio. El año pasado, Apple usó su poder sobre la App Store para obligar a las aplicaciones a obtener el permiso de los usuarios para recopilar datos sobre ellas en otras aplicaciones, una función que la compañía llamó App Tracking Transparency . Esto cortó un flujo de datos que ayudó a impulsar el negocio publicitario de empresas como Meta. Apple lo enmarcó como una medida de privacidad a favor del consumidor. Y luego, este año, Apple reforzó su propio brazo publicitario, que había terminado en una posición especialmente buena porque no depende de los datos que cortó App Tracking Transparency. Tal vez eso fue una coincidencia. Tal vez no lo fue.»
Nuevamente, ni quito ni pongo, añado el enlace Sr. Don Enrique, para que pueda presentar las 2 caras de la moneda. Más calle para correr
Bola extra: Sobre la publicidad segmentada
Sobre la publicidad segmentada, y lo poco que nos conocen. Puede pasar que nos conozcan bien o mal. Da igual. Los que nos conocemos bien, somos nosotros mismos, hasta ahí, no debe haber duda. Aplicamos nuestro sentido común. Otras veces hemos visto que este sentido común hace agua…
Si no nos conocieran, habría una consecuencia clara, los que serían unos idiotas son los responsables de pagar la fiesta . esto es, los anunciantes, que nos inundan de una publicidad que no nos sentimos identificados con ella.
En realidad podríamos decir que buenos son los que «nos roban los datos», que han creado un mito, el mito que nos conocen, y los anunciantes pasan por caja,…. pero nos cabe dudar de nuestro sentido común, y aplicarlo en otro sentido:
¿ si la publicidad segmentada no funcionara el modelo de negocio que la sustenta no hubiera hecho agua hace años? ¿Estaremos equivocados y en realidad si producen ingresos extra?
No opino
Una vez más no lo sé, solo expongo dudas, y temas no resueltos. Me he limitado a hacer de «chatbot», reunir información disponible, que parece fiable (fuentes contrastables) para poner a disposición del Sr Enrique y los comentaristas que lo deseen: calle para correr
No he expresado mi opinión.
Enlaces
https://observatorio-ametic.ai/regulacion-de-la-inteligencia-artificial/situacion-de-espana-regulacion-ia
https://www.cnbc.com/2021/11/13/apples-privacy-changes-show-the-power-it-holds-over-other-industries.html
https://www.vox.com/recode/2022/12/22/23513061/apple-iphone-app-store-ads-privacy-antitrust
PS: No coñas, no pain
Te falta uno:
El CEO de Apple, Tim Cook, asegura que la inteligencia artificial va a acabar «afectando» a todos los productos y servicios de la compañía
Se oye a lo lejos, hacedme caso no uséis Python… En 2020 ya tenían en Apple lo más de lo más en AI…. gracias a Enrique y su buen hacer recopilador:
https://www.enriquedans.com/2020/11/m1-y-big-sur-no-una-simple-actualizacion-mas.html
Ahora tres años más tarde estamos viendo por donde van los tiros de desarrollo en IA, se puede opinar, que todo eso era un hype de Apple? Si verdad
¿Iba el roadmap de IA en poner un frigo dedo usando el micro M1?¿O no iba de eso? Pues si no lo era, son unos genios haciéndose los tontos.
Ahora opino: que triste es no tener ni puta idea de IA.
«La Pantoja»… por Dioss lo que me rei… XDDD
Cuando los bots eran menos inteligenets, hasta un simple filtro, comprado en una cadena de «todo a 100», podía ser algo eficiente.
Con esta invasión de chats X, la cosa se ha puesto menos fácil.
En su momento era bien difícil deslindar los mensajes que se mandaban por Messenger, hechos por cerebros humanos… o a saber que especie de animales, en fase inicial de maduración racional. En esa época los bots aún estaban por concebirse.
Ahora, hasta puede haber comentarios en las redes sociales, que parecen sacados de un cerebro menos mediocre. Lo que hace necesario mejorar el sistema de filtrado. Y eso que, por problemas claros de educación, el nivel de interacción internauta sigue dejando mucho que desear. Pero con Musk o sin Musk, pienso que la cosa algo mejorará (actualizar filtros habemus!).
Nada raro (tener algo de esperanza), dado el eficiente sistema de trabajar, que tiene la naturaleza (sea lo que eso sea), desde que un buen día decidió inventar al primer ser vivo de la historia terrestre. Poco más que un conjunto de moléculas muy bien armadas, con una rara cualidad : duplicarse.
Así que lo ya dicho varias veces, las tecnológicas por un lado y yo por otro. Ya sé que es un privilegio de la jubilación, pero, como bien dice la genial Maruja Torres, la vejez (o segunda adolescencia, como yo le llamo) es (puede ser) ver las cosas desde una especial atalaya, no estar en el fondo de un pozo.
Y si en la serie TLOU acabarán por vencer la infección del hongo, también debemos confiar en que es posible vencer la tendencia a no pensar demasiado, que tiene esta versión actual de homo sapiens.
OFFTOPIC:
En otro orden…
La nueva alternativa descentralizada a Twitter del fundador de Twitter ya está en la App Store
veremos…
Con lo fácil que es el espionaje digital ¿Alguien cree que puede defender su intimidad? Si ya incluso te pueden controlar a través de la paredes
https://www.xataka.com/privacidad/ver-a-traves-paredes-sencillo-como-tener-router-wifi-podemos-salir-ganando-privacidad
¿Qué importancia tiene que muchas empresas no quieran hacerlo, bien porque es su política de hoy, (mañana Dios dirá), como es el caso de Apple, bien porque no sientan, (aun), interés en hacerlo, si hay un puñado de empresas, (y organismos públicos), que por un motivo o por otro, consideran conveniente seguir tus pasos, para «conocerte» mejor. (claro está que «por tu bien»).
Cuando llevas 2 años de tesis doctoral sobre la ética y la digitalización, te das cuenta de dos cosas fundamentales: Primero, que la ética le corresponde a las personas, no a las máquinas. Segundo, que mezclar ética con responsabilidad social, es simplista.