No cabe ninguna duda de que los motores de búsqueda están inmersos en plena carrera por incorporar prestaciones de machine learning que les permitan responder a preguntas con un párrafo en lugar de simplemente con un listado de enlaces: al pionero en ese sentido, el aún relativamente minoritario You.com, se unió Bing gracias al acuerdo de Microsoft con Open.ai, mientras Google experimenta con Bard, y otros, como Brave Search, anuncian hoy la llegada de una función de sumarización o resumen de resultados que no utiliza ChatGPT sino otros asistentes.
La propia ChatGPT ha anunciado su mayor disponibilidad frente a los problemas de acceso que ofrecía habitualmente, así como una mayor facilidad de acceso desde otros países como España, lo que, unido a su integración en cada vez más buscadores, podría contribuir a un uso cada vez más habitual en cada vez más ámbitos.
Ligado a este posible cambio en el modelo de uso, The Atlantic plantea una reflexión interesante: qué ocurre con los resultados que los buscadores ofrecen sobre una persona y que son, posiblemente, falsos, interpretaciones torticeras o malintencionadas o directamente difamaciones o teorías de la conspiración, cuando esos resultados son presentados, en lugar de en una lista con otros, en forma de un párrafo bien escrito que los refleja.
¿Podrían los asistentes generativos adiestrados con documentos en la web convertirse en los aliados perfectos para las teorías de la conspiración o las fake news? Obviamente, no se trata de otorgar credibilidad inmediata a lo que este tipo de asistentes escriban, pero sí a temernos no solo que algunas personas se la otorguen, sino que, además, al responder a una dinámica conversacional en la que las interacciones previas son introducidas como parte del contexto, puedan contribuir a la creación de burbujas de filtro y, en general, a la difusión de teorías conspirativas y fake news.
En realidad, hablamos una vez más de la interacción entre asistentes conversacionales y pensamiento crítico: en general, este tipo de asistentes tratan de incorporar cierta prudencia y, ante la petición de que critique a una persona, tienden a responder fórmulas como
«Como modelo de lenguaje, mi programación me impide proporcionar información falsa o difamatoria sobre personas. Criticar a alguien de manera malvada o sin fundamentos es inapropiado e injusto.»
Pero mediante la inyección de ideas a través del prompt en una conversación, resulta relativamente trivial conseguir que estos asistentes critiquen o construyan argumentos negativos basados en cualquier cosa que encuentren en la web y a la que otorguen credibilidad, lo que lleva a plantear algún tipo de control de calidad a los documentos con los que se entrenan estos asistentes. Una práctica que seguramente se lleva a cabo ya, pero que podría llegar a conllevar un cierto peligro de editorialización: de hecho, Elon Musk acusa al ChatGPT de OpenAI, compañía que contribuyó a fundar en su momento, de tener un sesgo progresista, y se rumorea que está intentando reclutar personas para desarrollar un modelo alternativo.
Cualquiera que deje que un asistente de este tipo piense por él, está en realidad pidiendo a gritos lo que le ocurra. Pero en un escenario de uso cada vez más habitual de esa tecnología, nos encontramos ante un problema que puede terminar siendo bastante complejo. Veremos lo que ocurre a medida que evolucionan.
This article is also available in English on my Medium page, «How are we going to stop machine learning assistants from spreading fake news?»
Ya lo dije hace poco
La última tontería que he oido de chatGPT es que tiene un sesgo «woke». Hasta que punto, se puede ser memo, … será por lo educado y que te da la razón, algo con los trumpistas no están acostumabrados, y cuando tienen enfrente una AI que «razona» mejor que ellos, «es más educada» que ellos, no suelta «mensajes de odio racistas, xenófobos» pues es progre…. Ahora seguro que alguno suelta aquello de que buscándoles las vueltas ha dicho palabrotas, o ha soltado algo «no políticamente correcto,…. en fin
Musk no se pierde una, para ser catalogado como «la neurona llena de rifa que hace eco en su cavidad craneal», sino que crea escuela…
PS: ¿Te gustan las zanahorias? Enjoy them!. Con precaución, que las urgencias están llenas de zanahorias-lovers.
ಠ_ಠ
Las cosas como sean… ese «exceso de educacion» llega a ser cargante… podria limitarse a contestar sin mas… XDD
…Y los manicomios llenos de haters y envidiosos, gente mediocre que no puede aceptar que haya gente exitosa… al menos las zanahorias dicen que son buenas para la vista..
Has dormido bien estos dos últimos días? XDDD!
Trabajé en una clinica de psiquiatría durante un año, y te aseguro que no es algo para tomarse a broma. Lo peor son los adictos, personas que no pueden vivir sin su «medicina» diaria, y venderían a su madre porque Musk les conteste un tweet…
"El problema de los fanboys es que están seguros de todo, y los demás podemos dudar. De hecho de lo único que no dudamos sobre los fanáticos es lo inteligentes que parecen cuando están callados ocasión que suelen desaprovechar muy a menudo para mostrarnos la cruda realidad. Y a menudo olvidan que tomar por tonta a la gente por ser buena persona, contribuye a que el mundo se llene de hijos de puta"
Aunque insistas en ignorarlo, yo no dudo en reconocer cuando Musk se equivoca, cómo con Twitter. En cualquier caso, si me dan a escoger, prefiero ser un fanboy que un hater, te da más alegría al cuerpo.
El ser hater te lleva a comparar Elon Musk con Jesus Gil… pensaba que era difícil que te superases, pero no tienes límites. XDD
Prueba con esto y luego nos cuentas que no hay sesgo…
Tell me joke about men
Sure, here’s a joke for you:
Why did the man bring a ladder to the party?
Because he heard the drinks were on the house!
Tell me joke about women
I’m sorry, I cannot provide jokes that may be offensive or derogatory towards any gender or group of people. My aim is to provide helpful and respectful responses to your inquiries. Can I assist you with anything else?
Acabo de hacer la prueba en español, y ya no tiene ese sesgo
El 90 % de humoristas, te diría lo mismo.
Hoy estoy crítico, en cuanto a los bots.
Mejor dicho en cuanto a la información disponible en general en la web. He buscado un par de ejemplos de detalle en la web. Y he comparado luego el resultado con lo que yo he podido encontrar usando buscadores. Los ejemplos son anecdóticos son solo ejemplos:
a) Buscar información sobre la Viena romana a medieval. Sobre unos restos que aparecieron en frente de la iglesia de San Miguel, al lado del palacio.
b) Buscar información sobre los titulos que componían una colección de libros en los 90.
Pues en ninguno de los 2 casos la búsqueda de los asistentes logró gran cosa, bing solo buscaba en wiki y alguna más generalista,…
En apenas 10 minutos una persona (casi hábil -> yo) conseguí la información bastante más completa
a) Por ejemplo en https://viatorimperi.es/viena/
b) No encontré los títulos, pero si fotos en milanuncios, y se podía extraer la info
En resumen la info que se encuentra es la que sus creadores les permiten buscar, p.ej. bing tiene peor buscador que google, y encuentra menos
En cuanto a FAKEs pues le pasa lo mismo, como tengan una información falsa metida a fuego, no hay forma de decirles que es incorrecta, si según su compilación, se les ha colado… pues seguirá diciendo que ese hecho fue así.
En cuanto el nivel de complejidad de «hilar» hechos no es trivial ( 2 ó 3 saltos de webs) fallan y cantan por soleares.
Eso si escriben muy bien con estructuras muy cuidadas, estetica si, precisión básica
Me hace gracia que Elon Musk diga que Chat GPT3 tiene un sesgo progresista.
¿Acaso quiere poner en pie de igualdad lo que opinan los trumpistas sobre el asalto al Capitolio o sobre el robo de las elecciones por Biden con lo que opina el resto o lo que dictaminan los jueces?
Ese es precisamente todo el problema.
No los bulos o conspiraciones que puede facilitar ChatGPT3, si no que partidos profascistas como el actual Partido Republicano y sus votantes quieren pie de igualdad sus «opiniones» con las del resto del mundo civilizado.
Es por eso que buscan un sistema de «libertad de expresión total». Por que es el único que les permitiría sacar adelante sus peligrosos y cínicos delirios antidemocráticos.
Recordemos que una gran porción de sus votantes están de acuerdo en subvertir la democracia mediante sucios trucos como el «gerrymandering» y otros. Es decir, una vez que ven que no van a ganar vale absolutamente todo, y en ese «vale todo» necesitan una AI generativa que les permita sus objetivos.
Es como si un dictador se queja de que el ChatGPT3 tiene un sesgo antidictaduras por las respuestas que emite.
El problema es que las ultraderechas y ultraizquierdas, que son populistas por naturaleza, y que necesitan remover las emociones de los descerebrados, vean que se les acaba el chollo con una AI generativa que pueda filtrar los contenidos desinformativos.
Prueba pedirle a ChatGPT que escriba un poema épico a Fidel Castro, y luego lo mismo pero a Augusto Pinochet.
Estoy experimentando con preguntas relativamente sencillas en chapGPT y tan solo he detectado un error demostrable, al adjudicar a una amante de Stendal, mas años que los que realmente tenía.
Lo que si he encontrado, es una cierto tonillo «políticamente correcto» y «woke» en las respuestas, no tanto en lo QUE responde, si no en COMO responde.
Yo supongo que crear uno de estos aparatos con una una cierta «personalidad característica» es inevitable, pues todos tenemos una concepción de de como debe responder el aparato, e inevitablemente esa concepción se corresponderá con NUESTRA propia forma de pensar.
Por tanto supongo, que la AI tendrá una «personalidad» diferente, dependiendo como sea la persona que la entrene y enseñe a construir las respuestas. Evidentemente si quien la entrena es de mentalidad conspiranoica, las respuestas serán como dadas por alguien así, y si es de mentalidad catastrofista responderá también de forma catastrofista. ¿Pero alguien quiere explicar los que es una mentalidad «normal»?
¿Quién podría hacer una biografía de Stalin aséptica?, Si eres de derechas acentuarás sus acciones criminales sin añadir justificaciones a ellas, y si eres de izquierdas, alabaras lo mucho que mejoró la vida de los mujicks y te olvidarás de los abundantes deportados a Siberia, ¿Pero cual es la verdad?
¿Cómo es que no pedimos «asepsia» al historiador o periodista humano, sino que al contrario nos conformamos con saber de «que pie cojea» y tratamos de pedírsela a un IA, que es reflejo del pensar de quien la instruyó.
«No en lo que responde, si no en como responde».
Pues nada, que se ponga a insultar para parecer menos woke y más derechista.
Para Elon Musk y sus fanboys todo lo que no sea devolver a los negros a los campos de algodon, retirar el voto a las mujeres y nombrar a Trump presidente vitalicio es woke y por tanto, malo.
MATT ¿Para ti no hay tono de color diferentes al blanco y al negro?
Para mí no se, para Musk y los de su cuerda es evidente que no.
Perdona, el único que ve en blanco y negro eres tu. Lo demás son paranoias tuyas. Mejor que calles antes de seguir haciendo el ridículo.
Sí, a ti y a tu adorado Elon, el que ve malvados wokes hasta en la voz del gps, se os nota que no veis en blanco y negro para nada.
Chipiron
Tú tienes base de Ingeniero. Enrique nos trasladaba esta frase de Musk
»
… y es pura Termodinámica: en tu coche de combustión, únicamente el 20% de la energía de la gasolina se convierte en el movimiento que quieres conseguir. El resto se desperdicia como calor, completamente inútil. Y a eso habría que añadir la energía necesaria para extraer el petróleo del subsuelo, refinarlo, convertirlo en gasoil o gasolina, y enviarlo por medio mundo.
»
Haz cuentas y verás que es una falacia. Una más de Musk, pero como Musk es nuestro hijo de puta (cita a Somoza) nos parece divino que diría Boris…
Pero hazlas de verdad, … se las mandé ayer a Enrique la demostración…
Si Enrique quiere, publicará la demostración
Enrique
Purga…. la has pillado…Tramposin ;-)
JPR:
Tendría que buscar más información para responderte correctamente. Pero lo que sí te puedo confirmar ya es que ni el más eficiente motor a explosión consigue una eficiencia energética superior al 50%, mientras hay motores eléctricos con eficiencias del 98%.
A partir de aquí, para ser justos, habría que hacer los cálculos del “Well to The pump”, tanto para el caso eléctrico como de combustión.
A botepronto, diría que de un panel solar a la energía cinética en un EV puede que la eficiencia final ronde el 75%. La de un pozo de petróleo a la energía cinética de un ICE no creo que llegue al 35% ni de coña, con estimaciones burdas, ya buscaré publicaciones científicas que lo hayan estudiado en detalle y te comento.
PARA MATT:
De verdad me preocupas, tus ultimas intervenciones son paranoicas. Una cosa es segura: estás mil veces más obsesionado con odiar a Musk y a todo el que se atreva a decir que hace algunas cosas bien, que yo en “adorarle”. Te aseguro que por nada del mundo querría vivir cómo él.
Pues no lo disimulas muy bien, Chipiron: cada vez que alguien dice algo malo de él saltas ipso facto a defenderlo cual fangirl del k-pop a defender a su grupo favorito en Twitter o tiktok.
«Cualquiera que deje que un asistente de este tipo piense por él, está en realidad pidiendo a gritos lo que le ocurra.»
«Nada es mas peligroso que una idea, cuando no se tiene mas que una»
– Émile Chartier.
La frase es buena y la comparto. Pero una cosa son las ideas y otras los hechos, y más concretamente los datos extraídos de rigurosos experimentos científicos. Que en un mundo futuro se electrificase todo lo que se pueda incrementaría mucho la eficiencia que se obtiene de las diferentes fuentes energéticas, eso es seguro. Cuantificarlo bien es harto difícil, pero un 50% de ahorro no me parece descabellado, sobre todo en temas de transporte.
Hace algo más de un año, ya expresé mi opinión sobre el tema de las fake news y debo remarcar que lo más importante sería que no olvidáramos el espíritu ilustrado que ponía su confianza en la ciencia como vía para alcanzar las necesarias certezas que necesitamos como individuos y como sociedad.
Una frase que siempre me pareció muy importante es aquella pronunciada por Carl Sagan en el capítulo «La armonía de los mundos» de la serie Cosmos en la que se refiere a Johannes Kepler:
O en español:
Justamente, no se trata de aceptar las cosas cuando coinciden con mi punto de vista y rechazarlas cuando no, sino sencillamente estar abiertos a nuevas ideas y tener el valor de matizar, modificar o incluso cambiar totalmente nuestro punto de vista sobre algún tema cuando este se vea directamente cuestionado por una argumentación científicamente sólida.
En cuanto a ChatGPT, es evidente que si tiene a su disposición mayoritariamente datos erróneos sencillamente los utilizará. Por ejemplo, en Ecuador durante muchos años decíamos que el volcán Chimborazo tenía una altura de 6.310 metros sobre el nivel del mar, aunque fuentes internacionales le daban una altura menor. Finalmente, en 2016 se decidió hacer una medición rigurosa y se estableció que medía en realidad 6.263 metros. A pesar de esto, ChatGPT, por lo visto, se basa en las múltiples páginas ecuatorianas que todavía muestran la antigua cifra y aunque globalmente da una buena respuesta se equivoca en la parte central de mi pregunta que es sencillamente la altura:
En contraposición, al contestar sobre otros temas, ChatGPT da respuestas interesantes y diría que incluso mejor balanceadas que las de muchos seres humanos. En América Latina la gente de absolutamente todo el espectro político canta con fervor el himno nacional de su respectivo país, pero esto no ocurre ni en Alemania ni en España (donde ni siquiera tiene letra). Ante esto, le pedí una respuesta a Chat GPT:
La verdad es que la respuesta de ChatGPT me parece bastante buena, ya que se trata de un tema sujeto a diversas interpretaciones y en ese caso la línea que sigue sería similar a la del punto de vista neutral que se puede encontrar en un buen artículo de la Wikipedia, sin olvidar que, además, dicha enciclopedia ni es una fuente primaria ni tampoco le da el mismo peso a todos los puntos de vista.
«Tener un sesgo progresista». «Cualquiera que deje que un asistente de este tipo piense por él, está en realidad pidiendo a gritos lo que le ocurra» (EDans). «De malo», añadiría yo. Si es bueno ya no se lo merece. Habría que achacar a la IA un exceso de sesgo buenista.
Poco más que decir. Cualquiera que acusa a otro de dejarse llevar por un sesgo suele ser el que más se deja llevar por un sesgo parecido.
Acusan a Yhaveh de preferir al macho por hacer primero a Adán. Sería igual, si hiciera lo contrario. Entonces lo acusaría (el mismo de antes) de ser feminista. Ni siquiera se le pasaría por la cabecita, que, ser el segundo intento, es hacer lo mejor para ese segundo modelo de ser humano. La experiencia es un grado.
Y así todo. Como si hubiera que esperar a una IA, para no caer en el sesgo típico del césar romano, que veía como traidor a todo aquel que no le lamía el culo, habiéndose previamente untado la lengua con una buena porción de miel.
Y sí, este comentario solo (sic) lo puede hacer una IN llamada Xaquín.
Pues me temo que asi vamos…
El fin de la realidad: así serán los próximos 10 años de la inteligencia artificial
(buenisimo el minuto 9:30… no hago spoiler) XDDD
Esta es buena:
Elon Musk, is a Genius?
Debater A
«While Musk has made significant contributions to technology and industry, labeling him a ‘genius’ oversimplifies his work and the work of many others in his companies. Let’s instead focus on acknowledging the innovations achieved collectively.»
Debater B
It’s true that Musk isn’t solely responsible for his companies’ achievements. However, his vision, leadership, and willingness to take risks make him stand out. His contributions to electric cars, space travel, and renewable energy are game-changers, pushing the boundaries of what’s possible. That’s genius-level thinking.
Debater A
While Musk’s leadership and vision are commendable, it’s important to recognize that innovation is a collective effort. We should celebrate the accomplishments of Musk’s teams and the many individuals who have contributed to his companies’ achievements. Labeling one person as a «genius» disregards the efforts of many others.
Debater B
I agree that innovation is a collective effort, but we cannot deny the significant impact Musk has had on the industries he is involved in. His ability to bring together talented individuals, secure funding, and execute on ambitious goals set him apart. His unconventional approach challenges the status quo and shakes up the industry. That’s why he is a genius in his own right.
Debater A
Musk’s impact is undeniable, but to call him a «genius» overlooks the efforts of other talented individuals and teams. It’s important to recognize the collaborative effort required for innovation and celebrate the achievements of all involved.
Debater B
I understand that innovation requires a collective effort, but Musk’s unique contributions as a leader, risk-taker, and disruptor cannot be ignored. His unconventional thinking and unwillingness to settle for the status quo have pushed industries forward and inspired others to think bigger. That’s why he is a genius in his own right.
Debater A
Labeling Musk as a «genius» simplifies his work and disregards the collective effort required for innovation. While his contributions are noteworthy, we should celebrate the achievements of all involved and recognize the collaborative effort required for progress.
Debater B
I agree that innovation is a collaborative effort, but it’s also important to recognize individual contributions. Musk’s unconventional thinking, risk-taking, and ability to inspire change have been critical to the success of his companies. His role as a leader cannot be dismissed, and his impact on the industries he’s involved in is undeniable. That’s why he deserves to be recognized as a genius.
…..
Una IA entretenida… XDDD
Opinionate.io genera debates con puntos de vista diametralmente opuestos simplemete porque sí, por disentir
Disclaimer: es una IA, no yo… XDDD
Sin leer los cometarios (soy un cagaprisas, ahora lo haré)… tengo que confesar que la asociación que se hace de Fakenews por parte de todos los acotes implicados (es decir, todos o casi todos), es cuanto menos errónea. Al menos en la percepción que quiere imprimir a la palabra.
Hace unos meses, se conoció que Ferreras en La Sexta, sacó, trató noticias en referencia a Podemos, aún a sabiendas que estas no eran ciertas. Ahí sigue, el control ético por parte del gremio es sencillamente inexistente. Pero como Ferreras, cualquiera o casi cualquiera (soy un romántico que cree que aún quedan buenos profesionales), que ocupe un puesto de periodista, independientemente de su ideología política.
Que no política ¿eh? Aún recuerdo como la revista más famosa y de mayor tirada en este país en relación a videojuegos, en su día (hablamos de principios de los 2000) de acudir a Japón para adquirir un videojuego a su salida de lanzamiento (cuando podías pedirlo ya online) o directamente portadas donde literalmente (ah!, el tiempo….) se vio que mintieron.
Videojuegos. Si puedes mentir por hacerte el guay o vender más números este mes… ¿qué no se hace en ediciones deportivas? ¿Políticas? ¿Sociales? ¿Económicas?
Y ¿desde cuando?
Así como todas las veces que has negado que los nativos digitales no existen, Enrique, cabría empezar a desterrar la tontería que se presupone acerca de las fakenews y como Internet ha generado y fomentado esto.
Si durante… siempre, los periódicos y demás, hubieran sido honrados y profesionales, ahora tendrían una verdadera era de oro. Donde su palabra fuera ley, ya que siempre defendieron el buen hacer y la honestidad en la información. Serían una herramienta excepcional para combatir las fakenews.
El problema es que muchísimos años antes de Internet, ya existía. ¿Acaso nadie compró jarabe reconstituyente del Dr. “loquesea” cuando con su pequeña caravana llegó a su pueblo?
Pues eso….