Boston Dynamics añade la nueva funcionalidad de generación de voz de ChatGPT a su robot Spot, y el resultado son robots que pueden recibir a personas en una visita corporativa, con capacidad de generar acentos y de dar lugar a una empatía hasta el momento casi desconocida en el mundo de la robótica, posiblemente con la salvedad de aquellos vídeos de «robots maltratados» que hacían que todos nos pusiéramos de su lado y viéramos como odioso al «malvado humano» que empujaba al robot, le pegaba con un palo o le impedía levantar la caja que tenía órdenes de trasladar.
Ver a Spot hablando con un impecable acento británico y ataviado con un bombín y un bigote puede, sin duda, tener su gracia. Pero ver que cada vez más personas se dedican a utilizar la prestación de síntesis de voz de ChatGPT para mantener largas conversaciones en su smartphone con el asistente generativo en todo tipo de situaciones, desde para pasar el tiempo en los atascos hasta paseando por la calle con los Airpods puestos, a modo de lo que ocurría en la película «Her« , resulta profundamente distópico, y plantea potenciales problemas éticos de todo tipo.
La antropomorfización de la tecnología es algo relativamente habitual a lo largo de la historia. Pero cuando el avance de esa tecnología permite no solo generar voz, sino también mantener conversaciones y convertirse prácticamente en una especie de «relación personal», y cuando esto es además llevado al mercado como una forma de normalización de la tecnología por empresas completamente carentes de ética y con un historial de «moverse rápido y romper cosas», creo que estamos coqueteando con el desastre, y generando potencialmente inestabilidad mental en muchas posibles víctimas.
Cualquiera que conozca el valor que un adolescente otorga, por ejemplo, a sus ídolos, o que se plantee qué puede haber de bueno en que un adulto con problemas personales utilice a modo de terapia a un algoritmo escasamente condicionado por algunas restricciones y con la posibilidad de «alucinar» ocasionalmente, entiende que estamos entrando en cuestiones potencialmente peligrosas. La posibilidad ya no de que esas «relaciones» simplemente «funcionen mal», sino más aún, que puedan ser instrumentalizadas para influir en la conducta de las personas que las mantienen es muy elevada, y puede llevarnos a planteamientos éticos de muchísimos tipos.
Las experiencias con otras personas pueden obviamente condicionarnos en muchísimos aspectos, pero al menos son experiencias y conversaciones entre personas con un supuesto criterio. Pasar de ahí a condicionar a las personas mediante asistentes generativos y hacerlo, además, sin ninguna precaución aparente más que unas cuantas restricciones pintadas a brocha gorda por no sabemos exactamente quién es simplemente una barbaridad. Si además le añadimos un nivel de accesibilidad elevado y un elemento de normalización, pronto tendremos a personajes populares que mantienen conversaciones cotidianas con millones de personas e introducen en sus conversaciones los elementos personales mencionados en conversaciones anteriores, que extraen datos personales de todo tipo y los venden a anunciantes, o que inducen estados de ánimo en sus interlocutores humanos para mediatizar, por ejemplo, una compra de un producto o, ¿por qué no?, un voto en un sentido determinado.
Las sociedades humanas no están maduras para asimilar una tecnología como la IA generativa en el contexto de las relaciones personales, simplemente porque no hemos pasado por una etapa de educación que permita a las personas entender de verdad con qué están conversando. Por lo general, el ser humano tiende a otorgar una cierta «autoridad» al algoritmo, le adscribe una supuesta capacidad de consulta y síntesis de información prácticamente ilimitada, y tiende a prácticamente subcontratar su pensamiento crítico a las respuestas a las que accede a través de medios tecnológicos. El desconocimiento de la tecnología, como bien decía Arthur C. Clarke, hace que se convierta en indistinguible de la magia. Y algo así, sin duda, puede tener efectos enormemente nocivos en las sociedades humanas: desde trastornos de percepción de la realidad hasta auténticas alienaciones y problemas psicológicos.
Siempre me resultó muy curioso conocer a alguien a quien veo en los medios muy a menudo, cierta sensación de «he estado con esa persona en el salón de mi casa» que me llevaba en muchas ocasiones a asumir una familiaridad más allá de la que debería tener con alguien a quien veo por primera vez. Asimilar relaciones completamente asimétricas como la que (no) tienes con alguien que, por ejemplo, te da las noticias todos los días y a quien muchos incluso contestan, es de por sí una tarea que requiere cierta madurez, educación y criterio. ¿Qué va a ocurrir cuando personas que lleven tiempo hablando todos los días con un algoritmo generativo que simula de manera muy convincente ser su ídolo tengan finalmente la oportunidad de conocer realmente a esa persona, o internalicen como reales esas conversaciones? ¿Y cuando alguien atribuya una personalidad determinada a algo que no es más que un algoritmo generativo que recombina información de la red? ¿Y todo ello en un contexto de regulación incierto, en total ignorancia de cómo funcionan o cómo se deben gestionar ese tipo de herramientas, y por no hablar de la falta de experiencia sobre los trastornos psicológicos que pueden llegar a inducir?
Estamos en lo de siempre: el problema no es el desarrollo de la tecnología, sino las cosas que algunos irresponsables ponen en el mercado sin tomar las precauciones adecuadas. Pretender regular la tecnología en vez de poner bajo control al imbécil que busca por encima de todo y a cualquier precio extraer un beneficio económico del lanzamiento de productos y servicios basados en ella. El «muévete rápido y rompe cosas» que ya generó tantos problemas, llevado ahora al siguiente nivel.
No, no soy el típico que se asusta de la tecnología ni que le atribuye connotaciones negativas. De hecho, si llevas tiempo leyéndome sabrás que suelo estar en el otro lado, en el del tecno-optimismo. Y sin embargo, este tema me preocupa genuinamente, y creo que va a terminar haciendo que nos arrepintamos de muchas cosas.
This article is also available in English on my Medium page, «Robots can talk like us, but it doesn’t make them human»
Los «señoritos andaluces» se hacían acompañar de un «gorrón» cuya misión era dar resaltar lo bella que era la vida del «señorito»,
«Mira por ahí va Maruja, Los andares que tiene»,… «Lo fresquito que está el fino que nos estamos tomando»,… «Hoy el cielo esta de un azul sin nubes. Te has fijado como se ve el vuelo de las golondrinas»,… » El entrenador del Betis va a sacar a González, hoy ganamos,…»
Yo que la pensión no me da para mantener un «gorrón», agradecería un robot que me recordara lo bella que es la vida a mi alrededor.
Hace millones de años atrás, cuando la tierra todavía estaba caliente, existían los Tamagochi.
Todavía recuerdo con cierta gracia, como veía en las noticias a la presentadora comentando los «problemas» que atravesaban algunos niños que lo tenían: se les acababa la batería, el bicho «se moría», y el niño sufría… (facepalm)
Parte de esa generación que lloró con la «muerte» de su «mascota» es la que hoy son padres y madres de jóvenes que tendrán que lidiar con esta nueva tecnología, pero no con nuevos problemas.
Lo que me recuerda que hace algún tiempo le comenté a Gorki sobre el fenómeno llamado Vemödalen: cuando todo parece una copia de una copia de una…
No se cuanto de la sub-normalidad de los padres pasamos genéticamente a nuestros hijos o no.
Habrá algún joven al que sus padres no educaron adecuadamente en aspectos sociales y tecnológicos, amen de que la evolución habrá hecho su parte con algunos y les negó todas o algunas de las capacidades psicológicas de poder procesar las vicisitudes que la vida le ponga adelante, y que por lo tanto, necesite ayuda profesional.
Pero mientras sigamos poniendo la responsabilidad de la manipulación en personajes externos, en vez de crear personas pensantes y agentes de su propia vida, no habrá nada que nos proteja de nosotros mismos ni de los demás.
La NRA podrá publicitar las ventajas de comprarme un fusil semi-automático, con capacidad para 32 disparos, antes de recargar, pero yo elijo si eso me conviene o no.
El camello me podrá hablar de las bondades de su «producto», pero yo elijo si quiero drogarme o no.
El partido político de turno, podrá intentar influir en mi voto gracias al microtargeting que algún iluminado «experto» en marketing cree que puede influir por mostrarme un banner o un video, pero yo elijo, tanto a quien votar, como si quiero ver su maldita publicidad en alguno de mis dispositivos.
¿De verdad ese es el problema? Cada uno de los irresponsables anteriores, solo actuó, porque un sistema económico, político y social les dijo que podían hacerlo ¿Que van a hacer entonces, decir no? Los incentivos para hacerlo estaban ahí.
Y usando tus propias palabras: el hecho tecnológico es inevitable.
Por supuesto que éticamente son responsables, pero creo que hasta que no pongamos el foco en una educación que permita generar personas autónomas de las influencias externas, no habrá nada que podamos hacer para mejorar.
Y quizás esa es en definitiva la razón por la que no ponemos fin a muchos de los problemas que actualmente atravesamos como especie, y que tan ampliamente se comentan en este blog.
El problema son los trastornos psicológicos subyacentes. Porque son los que inducen ese tipo de conducta parasocial, no al revés.
Culpar a la tecnología de una falta de regulación de nuestra conducta o dificultades en el entorno es solo otro síntoma.
Cuando alguien ve algo humano en una mascota, como por ejemplo los perros de compañía, que son unos auténticos «robots biológicos» para la captación de afecto, sucede exactamente lo mismo.
La exhibición de spot es realmente chusca y su conversación estereotipada y atona, sacada de una película de Disney, solo le ha faltado el «Danger, Will Robinson!», que hace que el HAL 9000 de Douglas Rain parezca una interpretación del método Stanislavski.
Carece de prosodia, entonación, color tonal, e inflexiones emocionales, y toda la información paralinguística que implica la comunicación verbal.
No hay tono afectuoso, amenazante, inquisitivo, cordial., nada, es una caricatura de la expresión verbal humana.
Gasp!
Es algo, a lo que prestamos especial atención los expertos en ciencias cognitivas, no tanto los aficionados a los cachivaches. el lenguaje no es solo composicional, como chatGPT (o algún escritor o charlatan de twitter).
https://hume.ai/
Las personas que tienen un bajo nivel de filtro social, p.ej. que se tragan el discurso de Ray Kurtzweil o la Singularity University, o que piensan que las criptomonedas son una revolución que va a crear una renta básica universal o, que Cristiano Ronaldo es un líder de opinión, son candidatos a establecer ese tipo de vínculos afectivos. Como Blake Lemoine,.
«La sociedad humana no está preparada», es un cliché.
Hay personas que se dejan engañar por un tono afectado y cordial en el ámbito social, o una colita meneándose, y otros, que te pueden decir el nombre de tu muñeco favorito cuando tenías 5 años con solo oírte hablar.
https://humanlibrary.org/
(Dicen que da miedo. Ni idea de porqué)
Otros, construyen un «personaje público» en las redes sociales que actúa como un proxy de la persona real, y desean que interactúes de esa forma. Son «alguien», no personas. Es un mecanismo de defensa, muy costoso de mantener. Lo que algunos denominan la «marca personal. (@FdezMallo)
Esa familiaridad, es puramente psicológica, igual que el carácter. En el mundo real las cosas son más sencillas.
(las modelos de Helmut newton también le miran el culo a los chicos)
–
Me da que veremos cosas divertidas y tambien bastante bizarras.
¿Que tal una discusion sobre mecánica cuántica con el Fary?.
¿Que hay de un satisfyer que las dice guarradas con la voz de Nacho Vidal?.
Lo que les faltaba a los Zoomers, un amigo invisible.
Y si te distraen esos temas ¿Que tienen de malo? ¿Es peor que lo que ofrece Netflix?.
Al menos aquí, eres tu el que decides si quieres hablar con el Fary o tener a Nacho Vidal de asesor, en cambio en Netflix, o Youtube igual me da, terminas viendo lo que un «algoritmo» diseñado Dios sabe por quien y con que fines, te quiera enseñar.
En total desacuerdo con la tesis del artículo.
¿Por qué temer más al condicionamiento inculcado por máquinas o sistemas, que al inculcado por personas?
El artículo coloca el foco en el potencial agente condicionador, cuando a mi juicio lo molar del asunto está precisamente en la potencial persona condicionada (llamémosla condicionando).
Un condicionando carente de capital cultural y sentido crítico, será mucho más fácilmente manipulable por cualquier agente condicionador, sea éste persona o máquina. Pero un condicionando con amplio capital cultural y afinado sentido crítico, es altamente improbable (diría incluso que prácticamente imposible) que sea manipulada por nadie ni por nada.
Y adivinen cual es la clave para alcanzar una sociedad con altos niveles de sentido crítico y dotada de un sólido capital cultural. Bingo, la EDUCACIÓN.
Para ilustrar el asunto, se me ocurre citar la realidad de las iglesias evangélicas aquí en Brasil donde vivo. Esas iglesias consiguen reclutar literalmente legiones y legiones de fieles y convencidos seguidores de la causa, aprovechando precisamente la flagrante carencia de capital cultural del groso de esa masa acrítica. Una historia bonitamente contada y un encorbatado de brillante oratoria bastan para crear tremendas estructuras piramidales y gigantescas cámaras de eco.
Y eso no lo hacen sistemas de IA, sino personas de carne y hueso.
A diferencia de Enrique, en este caso mi genuina preocupación no está en la tecnología y sus posibles efectos perniciosos, sino en la eternamente pendiente cuestión de la generalización de la EDUCACIÓN con mayúsculas.
Eso de la EDUCACION chiriia un poco, desde chico te dicen no fumes, no bebas y en España hay pasillos enteros en cualquier supermercado, dedicados a bebidas alcoholicas, desde chico siempre dicen «no robes» pero no hay puerta sin pestillo, ni coche ni moto sin cadenas, tus padres, tus escuelas, los maestros, curas siempre te diran NO TE DROGUES España esta pendiente que en no mucho moriran hasta millones por el fentanilo, que esta llegando y arrasando ya
Asi que dejemonos, la EDUCACION tiene un poder MUY MUY limitado, como todo
No bastan con que «»Te eduquen»… tambien tienes que querer «ser educado…»
«Cansado de faltas de respeto» y desinterés, llegó a la conclusión de que «la adolescencia al completo» le producía rechazo. «Veo estupidez allá donde mire. Ya no comprendo ni soporto nada de lo que hacen. No soporto tanta ignorancia. Casi cada uno de ellos simboliza la imbecilidad»
El profesor que ha dejado el aula por el desinterés y la falta de respeto de los alumnos: «Uno miraba el mapa de Europa al revés»
¿Siempre habrá un porcentaje de la población que se drogue o robe, independientemente de las políticas y la calidad de la educación? Evidentemente. Totalmente de acuerdo con usted.
La cuestión es qué hacemos para reducir al mínimo posible ese porcentaje, a sabiendas de que reducirlo a cero es imposible. Nadie habla en términos de blanco o negro, sino en términos de campana de Gauss.
Usted habla y se centra en el porcentaje de la desviación de la conducta deseada, y yo hablo y me centro en los medios para reducir al mínimo posible el tamaño de esa desviación. Mi propuesta: información, formación, concienciación… Puede aportar la suya si lo desea.
El caso concreto del fentanilo es lo suficientemente grave como para merecer un comentario aparte. ¿Nos quedamos de brazos cruzados augurando el desastre, o nos ponemos manos a la obra montando programas y campañas que hagan ver a los potenciales usuarios de esa droga los devastadores efectos que su uso acarrea?
Para educar a un niño hace falta una tribu entera.
Soy absoluto desconocedor de lo que voy a preguntar. Lo voy a hacer sin apenas haber empezado a leer el artículo, lo reconozco, en pos de que mi comentario no acabe en un número demasiado alto y acabe por pasar desapercibido; quizás se mencione en dicho artículo, pero ya llevamos unos cuantos años con Boston Dynamics trasteando con sus juguetes y sigo preguntándome acerca de la financiación de dicha empresa.
Si hablamos de de robots que no se venden al gran público, que poco no costarán y que su funcionalidad real aún y solo aún, es relativa… ¿de dónde saca Boston Dynamics el dinero para seguir adelante? ¿Cuáles son sus principales clientes?
Sinceramente lo primero que uno piensa, en serio, es el ejército de los u e sei… pero ni idea.
Me gustaría saber esto para reflejar mejor la aplicación real que tendrás sus robots en el futuro, la verdad.
Hyundai
Viendo el spot en su web:
https://youtu.be/F843AqfNsaA?si=UDaMljydpLDMYqXe
Me parece un poco, discúlpenme… absurdo.
Quiero decir, tenían toda mi atención cuando en la parte final del vídeo salta una alarma y me cuestiono cómo van a solucionar eso y al final…, no ocurre nada en absoluto.
Ósea que habría que hacer dos veces el trabajo, porque una de las primeras veces es mirar que todo esté correctamente a través del perrobot. Pero la segunda llega cuando algo esté dañado o haya que girar una válvula. Una vez visto, tendrás que dirigirte hasta allí y girar la válvula.
Sinceramente en este vídeo no veo nada revolucionario, nada en absoluto de interés, que quizás con unas gafas si pudiera hacerse (en el caso de ver que a nivel térmico todo está correcto, por ejemplo).
Que está muy bien porque nos permite tele trabajar. Pero lo dicho, cuando hay que apretar una tuerca… ¿cómo lo hacemos?
No te quedes con lo superficial…
Los «chuchos» de Boston pueden armarse con muchas herramientas…
Spot at Ontario Power Generation: Automating Circuit Breaker Tripping and Racking
He visto apenas unos segundos del vídeo que has compartido.
Vale, esto ya es otra cosa, muy, muy diferente y resuelve la carencia que antes mencionaba.
Seré yo, pero entonces el vídeo de la web de Hunday es bastante basura, ya que da una imagen bastante pobre del producto en relación a lo que realmente puede hacer.
Sin estar en desacuerdo con el fondo de la entrada, me compro el comentario de KOLDO.
Y anoto más, con el hecho de que realmente me preocupa mucho más la «robotización» del ser humano (supongo que el Koldo iba por ahí.) que la antropomorfización del futuro robot. Los evangélicos en grado sumo son lo más parecido a un zombie de Walking Dead, que me puedo imaginar.
Pero claro, no son los evangélicos de USA/Brasil mi preocupación actual. Siendo muy muy grave. Son los «evangélicos» que se quedaron con la parte de la Biblia que remata en Abraham, tanto la deriva islámica como la hebraica.
Esos son mis enemigos principales (aparte el evangélico Putin, como muestra ortodoxa del falso cristianismo). Fanatizados bíblicos al máximo, incapaces de respirar aires seculares, y menos del XXI.
Ellos son el terror de la naturaleza, los que van a provocar que se desentienda de nosotros, como especie.viva… y nos deje también a la deriva.