¿La máquina de la verdad… algorítmica?

IMAGE: Peggy und Marco Lachmann-Anke - Pixabay

Mi columna en Invertia de esta semana se titula «Usando la IA para saber qué dicen realmente los directivos» (pdf), y es un intento de explicar cómo funciona el machine learning y la algoritmia generativa utilizando un ejemplo que me pareció como mínimo interesante: la posibilidad de entrenar un algoritmo que ya maneja perfectamente el lenguaje con grabaciones de presentaciones de resultados trimestrales hechas por directivos de compañías, y etiquetarlas con los resultados que esas compañías mostraron algunos períodos después.

La idea, obviamente, es construir una especie de «máquina de la verdad», como en algunos programas de telebasura, pero con una base estadística que, aunque pueda variar en función de las habilidades de quien está presentando, sí puede llegar a obtener predicciones derivadas de cuestiones como el uso de las llamadas filler words o muletillas («esto», «eeeeh», «bueno», «pues»…) que evidencian que alguien no está seguro de lo que dice o que está, aparentemente, ocultando información.

La idea no es basarse en esa variable, que por otro lado resulta fácilmente observable – hacerlo así sería el equivalente a la programación clásica – sino dejar que el machine learning, con un número de datos suficiente, descubra sus propias correlaciones y termine siendo mucho más certero a la hora de predecir resultados que lo que ningún observador entrenado podría llegar a ser.

El ejemplo, que resulta potencialmente cuestionable desde un punto de vista ético y que podría producir resultados directamente alucinógenos si lo aplicásemos, por ejemplo, a los discursos de los políticos, no es la cuestión. La cuestión es mostrar cómo cualquier evento generador potencial de datos que dé lugar a un número razonablemente representativo de casos y que pueda correlacionarse con variables dependientes, como es el caso con los discursos de presentación de resultados – que ocurren constantemente – y con los resultados posteriores de las compañías – que son públicos y pueden recopilarse fácilmente – es susceptible de ser utilizado para entrenar un algoritmo, y por tanto, de generar una máquina capaz de predecir resultados en función de un nuevo dato introducido en ella.

Simplemente, un caso más. Pero con su punto interesante.


The original Invertia column is also available in English on my Medium page, «Choose your words, and how you say them, carefully: AI is listening«

27 comentarios

  • #001
    Juan T. - 15 noviembre 2023 - 15:58

    La pregunta que tendremos que hacernos dentro de poco es esta:

    Si la IA llega a gestionar mejor tanto las empresas como lo público ¿no serán ella la que lo hará?.

    Pasará lo mismo que con los coches autónomos cuando demuestren ser mas fiables que los conducidos por humanos.

    Quizá las empresas y gobiernos serán liderados nominalmente por humanos pero está claro que estarán asistidos por la IA por completo, y esto es extensible a abogados, médicos, psicólogos y todos los que trabajen con información y conocimiento.

    Según algún experto lo que mas se valorará finalmente en una persona es que sea una compañia agradable para otras personas.

    Buscaremos ese pequeño oasis relacional en un mundo en el que todo lo demás lo hará mejor la IA.

    • Gorki - 16 noviembre 2023 - 16:33

      Tal como yo lo veo, El coche autónomo con seguridad, (no se cuando), llegará a conducir mejor que el ser humano. Desde hace quinquenios que los aviones y los barcos están gobernados por un piloto automático , ¿Por que no van a hacerlo igual los coches? Pues bien tanto los aviones y los barcos siguen llevando tripulación, entre otras cosas porque hay que decir al Piloyto automático que rumbo quieres tomar. Igual pasará en los coches, Al guien tendrá que decir a donde quieres ir.

      Igual pasará an la dicrección de empresas , el futuro, (o actual), CEO, en vez de dejarse llevar por su «·intuición», consultara a la IA por donde puede hacer negocio, y con esa información, mas su ·intuición · elegirá el rumbo de la empresa.

      En el fondo no veo mayor diferencia que cuando hoy el CEO convoca a los asesores de digamos de KPMG, para que el «iluminen» el camino que tiene que tomar su empresa.

  • #003
    Mauricio - 15 noviembre 2023 - 17:15

    Pues todo esto, Enrique, de alguna manera ya existe, pues no sería más que una nueva versión del célebre polígrafo que siempre tendemos a asociarlo con la justicia norteamericana. Cualquier versión algorítmica no estaría exenta de la misma polémica que siempre ha habido en torno a la fiabilidad y pertinencia de dichos aparatos, aunque en un entorno donde a la gente parece no importarle que avancemos hacia una sociedad cada vez más parecida a un panóptico es probable que este polígrafo algorítmico pase a convertirse en una aplicación instalada en muchos teléfonos, especialmente por parte de gente que valora más la sospecha que la confianza.

    En cuanto a los políticos y lo que la gente piensa sobre ellos cada vez que se alejan de la verdad, diría que estamos ante un tema que roza más el tribalismo y la psicología de masas que una buena valoración ética de las acciones. Ahora mismo se encamina el actual presidente en funciones español hacia la investidura sin que parezca importar un análisis verdaderamente objetivo de todos los pasos previos dados. A mí la amnistía propuesta me parece defendible, pero el momento para otorgarla solo huele a oportunismo político. Y eso que prefiero que gobierne Sánchez y no Feijóo.

    • Enrique Dans - 15 noviembre 2023 - 19:24

      Mauricio, eso es precisamente lo que quiero que se entienda con el artículo: que el polígrafo ese es una basura que utiliza, como mucho, unas cinco o seis variables (pulso, transpiración, respiración, temperatura y alguna chorrada mas), mientras que un modelo de machine learning entrenado con miles de grabaciones y asentado sobre un modelo masivo de lenguaje utiliza millones, y termina haciéndolo infinitamente mejor. Simplemente no es comparable. Si crees que «la polémica sería la misma» o que «es lo mismo» que un polígrafo de esos, es que te falta entender el concepto de machine learning y lo que supone pasar de computación clásica a machine learning: en vez de unir reglas y datos para, mediante computación clásica, llegar a unas respuestas; lo que hacemos es suministrar datos y las respuestas que generaron anteriormente, y pedir a la máquina que identifique las reglas. Y esas reglas que la máquina encuentra con infinitamente más potentes que las que usábamos en computación clásica, porque se asientan en variables que ni siquiera podemos identificar.

      • Mauricio - 16 noviembre 2023 - 09:33

        Enrique, pues aunque las diferencias entre el polígrafo de siempre y su nueva versión algorítmica sean muy superiores a las que hay entre un Tesla Model S y un Ford Model T ambos pueden compartir el mismo nombre pues los dos buscan detectar mentiras. En este sentido, no veo la razón por la cual la polémica en torno a su uso no debería ser similar.

        En todo caso, es curioso que aunque un perfecto «polígrafo algorítmico» le hubiera dicho a los inversores que Elon Musk iba a hundir Twitter es probable que igualmente hubieran mantenido su fe en él. A lo largo del tiempo, he visto que mucha gente prefiere vivir en su fantasía que asumir la realidad y menos aún si esta no coincide con sus propias preconcepciones. Por otro lado, no quiero ni imaginarme la cantidad de profecías autocumplidas que podría ser capaz de generar el mencionado algoritmo, lo que haría que los empresarios de siempre, por ejemplo, se sigan quedando con buena parte del pastel.

    • Dedo-en-la-llaga - 16 noviembre 2023 - 11:46

      Para Mauricio: Para su información, ya vivimos hace años en un panóptico.

      Para Enrique, no, no es diferente al polígrafo, es solo que es una versión más refinada de lo mismo. Pero conceptualmente igual de burda. Burda porque se ve fácil a donde apunta y la lógica de la sospecha que la alimenta.

      Para todos: Se trata de eliminar al sujeto, en el sentido «filosófico» y también psicoanalítico de la palabra. Una vez eliminado, porque el sujeto es siempre el fallo de todo sistema, es el error en las cuentas, es la errata en el texto, es la perturbación en la satisfacción, es en definitiva el deseo que vive de la falta, entonces, y solo entonces, (ya lo vamos viendo «de a poquito»), sobrevendrá la Ley de hierro y la catástrofe generativa.

      Hay muchos profetas de esto de hace años, Philip K. Dick es uno de ellos, pero Fahrenheit 451, de Bradbury, y otras muuuuuchas, son en esencia la misma idea.

      ¿Y cuál sería la alternativa? Dentro de este sistema, ninguna.

      Saludos.

  • #007
    Enrique Dans - 15 noviembre 2023 - 19:26

    Menestro, perdona, creo que me acabo de cargar un comentario tuyo sin querer, simplemente un dedo gordo dándole en la pantalla del móvil a la opción equivocada. Si lo puedes volver a poner, lo apruebo…

    • Mauricio - 16 noviembre 2023 - 09:37

      Creo, Enrique, que ya desde hace rato los comentarios de Menestro deberían ser publicados sin pasar por ninguna aprobación previa.

    • Cybo - 16 noviembre 2023 - 13:03

      Chapeau, señor.

  • #010
    menestro - 15 noviembre 2023 - 19:57

    No hay problema, repetimos y ampliamos el comentario.

    No tengo ni idea de qué tienen qué ver los algoritmos generativos con el análisis del lenguaje natural (NLP), o el análisis de sentimiento, porque son dos campos totalmente diferenciados.

    No sé como se pueden confundir, tampoco.

    Da la sensación de que diciendo «Machine learning, b.», es el equivalente de Hocus pocus o un «Wingardium Leviosa», entra todo en un totum revolutum, y plaf, ya hemos arreglado el mundo con un conjuro teleológico, que no entiende nadie, salvo por los que no nos queda otro remedio que entenderlo.

    Todo muy alucinante.

    Hogwarts Generative Algorithm

    Integration of Word Meaning and World Knowledge

    Adenda,

    Los LLM no sirven para interpretar el lenguaje hablado, son modelos composicionales, entienden el lenguaje de una forma puramente estadística y sintáctica, no pueden manejar la información paralingüística, como señalé en un comentario anterior.

    Para un LLM el lenguaje no tiene más contenido que el que aparece en el diccionario:, para nosotros el lenguaje tiene un contexto no verbal, donde un «Sí, sí» es un «de ninguna manera»

    Los detectores de mentiras solo detectan información relacionada con lo que experimentamos cuando usamos el lenguaje, no su contenido, así que fallan por el mismo motivo.

    Un parpadeo, o una mirada, puede cambiar cualquier información verbal que estemos enunciando.

    Esa es la parte divertida de comunicarse.

    Petrificus Totalus

    Estos días azules y este sol de la infancia

  • #011
    Gorki - 15 noviembre 2023 - 20:50

    Repito parte de lo que escribí hace poco en el tema «Prediciendo el tiempo mediante machine learning» porque confirma mi augurio, (no atrevo a llamarlo ni mis temores, ni mis deseos),

    Yo creo que utilizar estos aparatos a las predicciones de sistemas caóticos, no solo del tiempo, sino mas interesante aun , dedicado a los cambios sociales, será algo común en el futuro por las implicaciones económicas que tiene.

    Te imaginas una máquina capaz de predecir en función del tiempo que hará el año que viene, el tamaño de las cosechas de todos los productos alimenticios que se produzca, Granos, aceites, ganado,… ¿No permitirán a los ricos hacer acopios, esperando que suba el precio de lo adquirido, mientras que se apresuran a vender con descuento, aquello en lo que una superproducción bajará los precios.

    Te imaginas poseer una máquina que prevé cuales van a ser las enfermedades contagiosas futuras, ¿No permitirán hacer las vacunas antes y no después de que aparezcan.

    Saber cual va a ser la moda dentro de un año, ¡Las posibilidades de hacer negocio que tiene!,

    Y una máquina de saber la opinión de la gente con anticipación, ¿No permitirá al demagogo de turno ponerse al frente de estos movimientos! .

    Como siempre cualquier invento, puede utilizarse para el bien o para el mal

    Yo siempre he tenido el sueño/ficción húmedo que me permitía conocer el periódico del día siguiente, para poder comprar en la Lotería los números premiados. Quizá este tipo de máquinas permita a sus poseedores, (los poderosos), hacer muchas de las cosas que yo pudiera haber hecho, si hubiera encontrado el gusano que me llevara al futuro, aunque fuera con solo 24 horas de adelanto».

    https://www.enriquedans.com/2023/11/prediciendo-el-tiempo-mediante-machine-learning.html

  • #012
    Lua - 16 noviembre 2023 - 10:38

    «sí puede llegar a obtener predicciones derivadas de cuestiones como el uso de las llamadas filler words o muletillas («esto», «eeeeh», «bueno», «pues»…) que evidencian que alguien no está seguro de lo que dice o que está, aparentemente, ocultando información.»

    Olvidas que hay gente, que desgraciadamente (o no) para ellas, la expresion oral, no es su fuerte. Te pueden dar una masterclass por escito, pero en el cara a cara mostrarse como un niño de 7 años.

    • Gorki - 16 noviembre 2023 - 16:37

      El que no llega a dominar el hablar en público, tiene muchas dificultades de llegar a CEO. Al menos yo no conozco a ninguno que no sepa hablar en publico..

  • #017
    Javier Lux - 16 noviembre 2023 - 10:40

    Se me ocurre otra variante sorprendente de esta tecnología. Sería grabar los primeros encuentros entre parejas y el sistema de inteligencia artificial podría adivinar si se hacen tilín y acaba habiendo tomate en la relación.

    Yo ya no estoy en edad para mariposear pero ya veo a los jóvenes llevando una GoPro y grabar sus aprroaches a las chicas que tienen en el radar. Ir con el clásico tienes fuego o estudias o trabajas o qué hace una chica como tú en un sitio como este serían aproaches de bajísimo scoring.

    Mis tiempos de joven ese invento lo hubiese ahorrado mucho tiempo

    • Gorki - 16 noviembre 2023 - 16:38

      «follas o conversas»

  • #019
    f3r - 16 noviembre 2023 - 10:47

    Una cosa es que un algoritmo te diga que alguien está mintiendo, y otra cosa es que te explique lo que realmente le pasa por la cabeza a la otra persona.

    El problema real de los inversores es que no tienen absolutamente ni puta idea de lo que llevan entre manos. Culpa suya, me sabe mal. Para invertir en algo hay que estudiárselo antes, y si no es como lanzarse al vacío; puede haber agua o cuchillos. Y además, esto es insustituible, ninguna máquina te va a decir si la inversión va bien o mal, olvídate de eso…ya…para siempre.

    En cuanto a los políticos…¡no van a mentir! Si tuvieran que explicarle a la mayoría de analfabestias (esta vez me refiero a la población, no a los inversores) la magnitud y complejidad de los problemas reales de su país/región, no sabrían ni de qué les hablan. La democracia, tomada demasiado en serio, es un sistema de mierda. Ejemplo muy tonto: «es que la comida está muy cara, deberían prohibirle a XX que suba los precios en el supermercado». El político hace una ley que putea al dueño de ese supermercado. Éste se pira a Holanda pero sigue operando en España, y por tanto aumenta costes (y sin duda no va a bajar los salarios de los directivos, etc). Resultado: la comida más cara que antes y encima no paga impuestos (ya sabéis, el típico flujo de pérdidas y ganancias entre filiales para que te salga a 0 la declaración en cada país)

    • Gorki - 16 noviembre 2023 - 16:44

      La democracia, tomada demasiado en serio, es un sistema de mierda.

      El problema es que muchos son los que opinan como tu. Por eso buscan hasta debajo de las piedras el líder carismático que se ponga delante del rebaño.

      Olvidándose de la realidad ¿Donde están nuestros líderes? – Siguiendo a las masas.

      Cuando haya una AI que informe lo que quiere «oír el pueblo», el dictador será indestructible.

      • JM - 16 noviembre 2023 - 19:53

        ¡Qué bueno!

        :-D

      • Lua - 16 noviembre 2023 - 20:13

        «Que hijo de fruta»… XDDD

      • Gorki - 16 noviembre 2023 - 22:58

        La verdad duele, por que nos descubre como solemnes gilipollas.

        Estudia la trayectoria de Pablo Iglesias, Su problema es que hizo una sola cosa en contra de lo que quería oír el pueblo, comparase una casa con piscina en Galapagar.

        Si se la compra de 70 M2 en Vallecas, y él se va a vivir al Ritz, (para estar cerca del Congreso), … Tenemos Pablo Iglesias en la Moncloa.

        • f3r - 17 noviembre 2023 - 08:46

          «La verdad duele, por que nos descubre como solemnes gilipollas.»
          Por lo que me cuenta gente como tú, debe de ser que sí.

          En el resto del post, como a menudo, te equivocas, y es por el hecho de que la mayoría de votantes son como tú (gente que no entiende cóm funcionan las cosas realmente) que los políticos tienen que decir A y luego hacer B.

      • f3r - 17 noviembre 2023 - 08:42

        Eres más tonto que pichote, y además no has entendido mi post

        • Gorki - 28 noviembre 2023 - 01:06

          «La verdad duele, por que nos descubre como solemnes gilipollas.»
          Afirmo

  • #027
    C3PO - 16 noviembre 2023 - 11:01

    Estamos ante una hiperinflación de noticias relacionadas con ML. Cualquiera puede tener una idea, sea esta una estupidez o no, pero al albor de «OJO he usado una IA» ya por eso ¿sube la calificación de la idea?

    Lo que se nos presenta es «dame un audio de un CEO y sabre si dice la verdad?

    Antes del hype de la IA, cualquiera se podría preguntar, más allá de filosofías sobre el tema ¿deberíamos preguntarnos que es la verdad en el entorno de un CEO? ¿Cómo se ha entrenado la IA? ¿Qué tasa de fallos tiene? NPI

    Y lo que nos vende FT EN REALIDAD es: que hay inversores que tienen una coartada para justificar su incompetencia, y que es más sencillo aquello de lo ha dicho la rubia. la inteligencia artificial rubia… que asumir que acierta más el mono con dardos que ellos…

Dejar un Comentario

Los comentarios están cerrados