Existe una gran preocupación en el mundo académico en general, particularmente vinculada con la disponibilidad prácticamente ubicua de la inteligencia artificial de cada vez mejor nivel en interfaces cada vez más sencillas, en torno al concepto del llamado «cheating«, habitualmente mal traducido al español como «copiar», pero que en realidad está reflejado mejor por la idea de «hacer trampas».
El término «academic dishonesty«, o «fraude académico», puede seguramente venir a reflejar mejor la naturaleza de esa conducta, por lo que tiene de multifactorial y de recoger categorías de comportamientos muy variadas, pero la tendencia de las instituciones académicas a convertirlo todo en reglamentaciones o sistemas de reglas rígidas hace que, en muchos casos, se convierta en un «cajon de sastre» en el que englobar cuestiones que no tiene ningún sentido sancionar.
El presidente de la institución académica en la que llevo treinta y cinco años trabajando, Santiago Íñiguez, ha escrito hace poco sobre el tema en LinkedIn con un enfoque interesante, aunque echo en falta algunos elementos acerca de la raíz del problema. Desde mi experiencia, creo que es fundamental definir el fraude académico como un problema mucho más de las instituciones que de los alumnos: en muchos sentidos, el comportamiento de los alumnos es, básicamente, el lógico y esperable ante unas instituciones que adoptan métricas completamente erróneas.
El problema de las métricas en la educación no es nada nuevo: tratar de medir el desempeño de un estudiante mediante una calificación, por muy promedio que sea, es de un reduccionismo demencial y completamente absurdo. Vivimos en un mundo en el que utilizamos gráficas multidimensionales de once ejes para evaluar de manera exhaustiva el rendimiento de un jugador de fútbol, pero resumimos el de un estudiante en un simple número al que llamamos GPA al que damos una importancia desmesurada cuando, en realidad, no proporciona ninguna información relevante, o que incluso falsea la realidad. Laszlo Bock, en los diez años que pasó como Senior VP of People Operations en Google, lo demostró claramente: la correlación entre la nota media de una persona y su desempeño profesional es completamente inexistente. Siglos de desarrollo de metodologías educativas nos han servido para terminar centrándolo todo de manera completamente obsesiva en generar una variable que es UNA BASURA, y que no indica nada.
La raíz del problema está en la conocida como Ley de Goodhart: «cuando una métrica se convierte en un objetivo, deja de ser una buena métrica». Si las instituciones y la sociedad se dedican a obsesionar a los alumnos con su nota media, los alumnos pasan automáticamente a que su objetivo no sea maximizar su aprendizaje, sino maximizar su nota media. Y el fraude académico es, para eso, el camino más corto.
El problema, por tanto, no debe ser enfocado en «cómo reducir el fraude académico», sino en «cómo hacer que deje de tener sentido». Y es razonablemente sencillo: construyendo un sistema que evalúe mejor a los alumnos, de manera menos simplista, y que permita de verdad su uso para predecir el rendimiento de una persona en un puesto de trabajo determinado. Como decía Einstein, que dejemos de evaluar a un pez por su habilidad para subirse a un árbol.
Sancionar a un alumno por utilizar inteligencia artificial para un ejercicio, y potencialmente destrozar sus posibilidades de ser aceptado en una institución competitiva es una soberana barbaridad. Sí, de acuerdo, había unas reglas, pero… ¿tienen sentido esas reglas? ¿De verdad se justifica tomar el rábano por las hojas y prohibir toda aproximación a una herramienta como la inteligencia artificial? ¿Es lo mismo utilizarla por genuina curiosidad – y tratar de comprobar su rendimiento convirtiendo el experimento en un entregable – que hacerlo por razones como la indolencia? ¿Hablamos de un estudiante no brillante que utiliza el fraude para tratar de engañar al sistema, o de uno muy brillante que simplemente cuestiona las reglas? ¿Vale la pena agarrarse al «las reglas son las reglas» en un caso así? Los sistemas de reglas tradicionales ya no sirven: para lidiar con el escenario actual, necesitamos una drástica revisión de los sistemas éticos que rigen la educación y el aprendizaje.
Las instituciones que prohiben el uso de inteligencia artificial están haciendo una soberana estupidez, porque privan a sus alumnos de la ventaja competitiva que supone saber utilizar bien esa herramienta. Lo que hay que hacer no es prohibir el uso de algoritmos generativos, sino desvincularse de si los han utilizado o no y evaluar en función de cómo lo han hecho: si los utilizan mal, preguntando de manera poco eficiente, copiando y pegando sin mayor elaboración o sin llevar a cabo un trabajo de verificación, merecen una nota baja. Pero si saben plantearse estrategias para maximizar el rendimiento de esa herramienta, construir utilizando su respuesta y verificar los resultados adecuadamente, estamos haciendo lo mismo que si los sancionamos por utilizar Google, o por acudir a una biblioteca. ¿Qué preferimos? ¿Que le pidan a un estudiante brillante en un país en vías de desarrollo que les escriba su trabajo?
Por supuesto que los alumnos van a utilizar algoritmos generativos, y si de ello depende una nota única en la que se juegan su futuro, más aún. Y como ocurre con toda nueva tecnología, los van a utilizar mal, haciendo preguntas simplistas, copiando y pegando sin más, a menos que les entrenemos en cómo hacerlo bien. Por tanto, el reto está no en que no los usen, sino en que sepan utilizarlos bien y en que su uso maximice las posibilidades de aprendizaje, que es un objetivo perfectamente compatible si se plantea bien. ¿De verdad alguien en su sano juicio cree que tiene sentido volver al papel y al lápiz para evitar que los alumnos recurran a la inteligencia artificial?
De hecho, estoy completamente seguro de que para la gran mayoría de las llamadas hard skills, los alumnos recurrirán cada vez más a asistentes de inteligencia artificial a los que pueden preguntar lo que quieran, las veces que quieran, 24×7 y sin interacción humana a una máquina que no les juzga y que se adapta a su estilo ideal de aprendizaje. La inteligencia artificial no ha venido a destruir la educación, sino a cambiarla… una educación que, además, necesitaba desesperadamente un cambio, porque seguía utilizando las mismas metodologías que hace más de 150 años. La inteligencia artificial es el futuro del aprendizaje, y no , no es necesariamente copiar ni un fraude.
Es el momento de replantear muchas cosas en educación. Y no hacerlo puede significar la pérdida de una gran oportunidad para reformar un sistema espantosamente caduco que, además, hace mucho tiempo que dejó de dar buenos resultados.
This article is also available in English on my Medium page, «On the question of cheating and dishonesty in education in the age of AI«
This article has also been republished on UX Magazine.
(….)
La raíz del problema está en la conocida como Ley de Goodhart: «cuando una métrica se convierte en un objetivo, deja de ser una buena métrica»
Oh my god….. Todo el sistema de evaluación de objetivos de mi empresa al garete??
Es imposible no estar más de acuerdo con tu análisis Enrique.
Suscribo cada reflexión que haces .
Gracias por tanto claridad mental.
La cosa es que para uno que viene del mundo analógico, la IA es un apoyo, un complemento.
Para un generación Z, lamentablemente se está viendo en muchos entornos de trabajo que no son capaces de funcionar sin Google, ChatGPT, etc.
Hace falta que la gente joven tenga un punto de iniciativa en el trabajo para sacarlo adelante. Y eso, en mi humilde opinión, se lo está robando la IA.
(Le di a enter demasiado rápido)
Dicho lo cual, toda la educación está de cabeza. Si no fuera ilegal me encantaría abrir un colegio ultra-moderno.
O sea, uno donde el profesor tenga la autoridad final, donde callado o expulsado, donde estás sin móvil cuando habla el profe o el compañero (por mera educación).
O sea, lo antiguo de toda la vida. Pero con un cambio: Sin exámenes. Si un alumno sabe resolver los problemas en clase con los medios que sean (IA, Google) para mí está pasable, puesto que es lo mismo que hacen los adultos en el trabajo.
La diferencia es que es importante que se puedan resolver problemas incluso sin la IA. Al menos deben saber responder un email sin faltas de ortografía
Para mi la clave radica en la comprensión del problema y saber formular la pregunta. La respuesta ya la conseguiras con tu equipo o chatgpt o lo que sea.
«Si un alumno sabe resolver los problemas en clase con los medios que sean (IA, Google) para mí está pasable»
Creo que no es así. Los humanos necesitamos hacernos una representación mental del «mundo», donde «mundo» puede significar la historia a grandes rasgos, la física en 20 ecuaciones y una bolsa de métodos genéricos, para ser independientes y poder tener un juicio propio. Es justo lo que hace que te creas o no una respuesta de chatGPT, o que detectes un timo (como que cierto conflicto bélico esté originado hace solo un par de años).
Esta representación requiere cierta memorización, razonamiento de lo memorizado, y una consolidación con los otros «mundos» que pueblan nuestra cabeza.
Cuando empecé a leer pense que ibas a hablar sobre el grave tema actual de la ciencia española, las trampas del Rector de la Universidad de Salamanca.´
El Comité de Ética en la Investigación ha pedido a la Universidad que investigue los logros académicos de su rector, Juan Manuel Corchado, cuyo prestigio fue aupado por las miles de citas de sus trabajos académicos que ahora se cuestionan.
No puede haber un ejemplo mas claro de la Ley de Goodhart
El problema es como medir, no solo la inteligencia de un alumno, sino además su nivel de conocimiento. y estoy con Dans, si un alumno sabe solucionar sus problemas con ayuda de la AI, demuestra que al menos sabe utilizar un herramienta que está ahí, lo cual es mejor que no saberla usar.
Hay una solución, que es la que aplicaba el Dr. Marañón en sus clases en Medicina. aprobar a todos y que sea la vida la que suspenda a los menos dotados. Quizá no sea la mejor solución. pero la que se pone a base de examenes finales, no me parece mas útil. Hay quien no luce en los exámenes finales pero es mejor que los que aprueban.
La falta de correlación entre desempeño profesional y rendimiento académico es muy, muy real.Es más, me atrevería a decir que la correlación, de haberla, es negativa.
De ahí el éxito, ya hace aproximadamente dos décadas, del concepto de «inteligencia emocional».
En la universidad lo estamos haciendo muy mal. Enseñamos teoría, fórmulas y listas interminables de conceptos que ya antes de acabar la carrera se les ha olvidado a los estudiantes. Si necesitan un determinado conocimiento más tarde en el trabajo, ya acudiran a internet, chatgpt, etc.
Lo que pasa es que no es lo mismo ser «inteligente», «culto» o «aplicado» a ser «espabilado de la vida», que son los que triunfan.
Cuando hacemos un examen, yo siempre digo a mis alumnos: «si cazo a alguien copiando, lo expulso. Pero si alguien copia y no me entero, me parece genial, es un alumno que llegará lejos!»
Debemos incorporar la inteligencia emocional en el ADN de nuestros alumnos, deben ser «espabilados de la vida» si quieren triunfar en un mundo tan supercompetitivo.
Dichod e una manera más gráfica: el estudiante de 10, te resuelve problemas cuyo enunciado formula el profesor. El profesional de 10 es capaz de determinar cual es la pregunta y buscar los recursos necesarios para resolverla. Y saber priorizar preguntas y problemas, saber trabajar en equipo, etc,etc, etc.
Todo esto, desgraciadamente, no lo enseñamos en la universidad. Yo, desde luego, entono el «mea culpa». Sirva de disculpa decir que el sistema es muy rigido y debo cumplir el «syllabus» de las asignaturas que imparto, pero siempre que puedo les explico anécdotas de como deben trabajar en un entorno profesional.
El profesional de 10 es capaz de determinar cual es la pregunta y buscar los recursos necesarios para resolver. Muy cierto
El problema en un proceso de selección de empleados es encontrar el modo de cuantificar el grado de «espabilado de la vida» que tiene un candidato.
Ruego a todos los dioses, que de tus alumnos triunfadores no vaya a llegar ninguno a funcionario público con gestión de presupuesto.
Ya suficientes espabilados tenemos en la función pública.
Malicia indígena se le dice en Latam, no miento, con argumentos parecidos escuché alguna vez hablar de Pablo Escobar, de hecho lo planteaban como un excelente CEO, sin formación profesional acreditada
Puntos de vista.
Hola, Enrique. Siempre es un gusto leerte.
Bueno, me pasa que estoy en lo de capacitar soldadores, supervisores e inspectores, en control de calidad de la soldadura. Y (ahora me avergüenza un poco decirlo) empleo las notas para la evaluación. Eso sí, cambié la forma en que les enseño, porque a mí no me funcionó muy bien el cole (soy disléxico y con TDAH, y como muchos de mi época, diagnosticado y sin tratar. El cole se me hizo un le cul. Perdona el francés). Digamos que en mi época no eran muy inclusivos (estoy por cumplir 60).
Fuera de preocuparme de que las láminas del ppt no sean soporíferas o sobresaturadas de información, les hago hacer preguntas sobre ellas, y que luego ideen las alternativas de selección múltiple.
Al principio como que se muestran algo reacios y resongones, pero vieras cómo les cambia la cara y la actitud en clases, cuando les digo que de esas preguntas voy a sacar las del examen.
Al final, prácticamente se saben toda la materia a punta de repetición y repasos, y así ha dado resultado (en general, los soldadores no llegan a la soldadura por ser unas lumbreras en el cole, y suelen carecer de hábitos de estudio y buena comprensión lectora, así es que, tuve que ingeniármelas para meterles la materia en la cabeza. Como primer paso, enseñándoles a estudiar). Los resultados han mejorado muchísimo respecto a cuando no hacía esto, y como hacemos seguimiento en terreno, nuestros clientes notan el antes y el después.
La cuestión es, ¿cómo podría mejorar la forma de evaluarlos? ¿Existe alguna app o IA que me permita evaluarlos fuera del método de las notas?
Para nosotros es fácil medir el resultado en terreno, respecto al desempeño anterior (menos fallas, mayor rendimiento, disminución de las mermas y retrasos por reparación, y por ende, menos multas), pero siempre, al terminar los cursos, mis clientes esperan una nota. ¿Cómo podría cambiar eso? ¿Qué me recomiendas?
Estoy pronto a implementar capacitación online, donde la soldadura lo permite (conceptos básicos, metalurgia de la soldadura, simbología, métodos de inspección, cosas de pizarrón), y me temo que seguimos en el mismo problema de las viejas y poco confiables, notas para evaluar aprendizajes.
Agradezco cualquier recomendación, y por favor, disculpa el tocho.
Saludos cordiales, Enrique.
Desconozco si mi idea se puede llevar a la practica con los soldadores , pero he trabajado en una empresa de vidrio que tenia empleados de oficios que en Francia forman los «compagnons», larga formación de oficios tradicionales que se remonta a los gremios de la Edad Media.
Para llegar a maestro «compagnon», aparte de tener que aprender en talleres de «compagnons» se les exige hacer un obra maestra que demuestre su destreza en el oficio, Para hacerte una idea a uno que conocí que era cristalero, hizo un órgano, donde todos los tubos eran de vidrio soplado que sonaba muy bien.
Quizá si como prueba de su habilidad les encargaras crear un objeto que demostraran su destreza de soldadores, tendrían algo mas que la nota para presentar en sus candidaturas de un puesto de trabajo.
Te dejo algunos enlaces por si te interesa el tema
Compagnons du Devoir
Desde Francia, los maestros ‘compagnons’ mostrarán el arte de los oficios tradicionales
les Compagnons du Tour de France – una institución francesa para aprendices de profesionales
Muy agradecido, Gorki.
Quizás habría que dejar usar a los alumnos cualquier asistente IA pero que tuvieran que explicar cómo y porqué lo han utilizado para el trabajo.
Y si no lo utilizan que expliquen también porqué.
Teniendo en cuenta que un cañón para matar moscas no tiene sentido, no sabría bien que decir del texto : si es TNT, una bomba atómica simple o la que nos va a caer en este planeta, como sigamos por donde vamos.
En fin, que poco se puede añadir a lo mucho y bueno que dices, pero algo habrá que hacer para justificar el título de comentarista. Que no solo por California saben usar la silicona.
Ya se nota con lo difícil que aún resulta dejar de lado el jodido CI. Aún habrá gente que intente comparar el CI de una IH con el CI de una IA.
El año de mi jubilación (en secundaria) tenia un compañero de claustro que nos montaba un cirio, siempre con algún alumno que no podía aprobar, porque no le daba la nota para un cinco (por centésimas, repito, por centésimas!!!).
Está claro, y debería ser obvio, que se puede valorar el arte de copiar, de mentir y todo tipo de destreza, en principio negativa, que el alumnado puede sacar a relucir, en vez de la consabida y memorística respuesta que se le pide.
De hecho hay un Síndrome de Estocolmo terrible en la enseñanza, que se manifiesta cuando se aprueba a un tipo por el resultado, cuando no ha hecho nada para demostrarlo (profesorado que solo mira el resultado)… mientras que hay gente que suspende a un alumno que hace un desarrollo estupendo, porque el profe no lo quiere interpretar… o, peor, no es el que «él explicó»… en fin, que hay tanta mierda en la enseñanza, que siempre me pareció que , llamarle servicios a donde se hacen las necesidades fisiológicas, mientras que se le llama claustro al lugar donde se hacen cagadas continuas, resulta como mínimo abracadabrante…
Y un ejemplo perfecto de esto lo tenemos ahora mismo en España:
El Sindicato de Estudiantes ha amenazado con convocar una nueva huelga en Educación Secundaria Obligatoria, Bachillerato y Formación Profesional el próximo viernes 18 de octubre si este lunes no se han publicado los modelos de examen de la nueva Prueba de Acceso a la Universidad (PAU)</i:
¿Recién comenzado el curso y ya están supeditando el curso, y el aprendizaje, a cómo será el examen?
Claro, no te jode, como que es lo ÚNICO que al final cuenta. ¿O es que nos caemos ahora de un guindo?
Como el grado de idiotez y servilismo humano es masivo y legendario, nadie se plantea la evaluación como un acto de un ejercicio de poder y se prefiere pensar, (hay que ser mamarracho), en que es un juicio sobre las competencias personales, y no como la expresión de una dominación social… (Madre mía, y este es el nivel…)
A ver, DEDO, y te lo digo con todo el respeto del mundo, como me argumentas que el examen es «la expresión de una dominación social»?
Hasta donde yo veo, quizás (o seguramente) un examen no sea la mejor manera de valorar las competencias profesionales que tendrá un estudiante en un futuro desempeño profesional.
Pero si que es pura democracia. La Selectividad (o las PAU) son la forma más justa y objetiva de asignar plazas en la enseñanza pública. No importa tu apellido ni «tu linaje» (de hecho es anónimo, eres un código). En ese sentido es un ejercicio claro de eliminar el eterno enchufismo para que todos los estudiantes tengan la misma posibilidad de cursar un determinado grado. Sólo dependerá de los conocimientos que se hayan adquirido y se demuestren en el examen.
Lo que creo que debatimos es si esos contenidos son los adecuados para una formación profesional que sabrá «predecir» si dicho estudiante será un buen profesional. Y la experiencia dice lo contrario: los mejores estudiantes, «los matriculines», no suelen ser los que tienen más éxito profesional, luego nos estamos equivocando con las competencias que les enseñamos y exigimos.
El que los alumnos quieran saber como será el examen es lo más natural del mundo, pues hemos impuesto que la nota de selectividad determine su futuro profesional (bueno, al menos su futuro universitario).
En fin, de nuevo con todo el respeto del mundo, me gustaria que me explicases porque «es la expresión de una dominación social».
Un saludo y un cálido abrazo!
En mi entorno lo que veo es otra variante del tema.
Cada vez en más trabajos, después de cumplir el requisito de titulación sólo necesitas que alguien te enchufe y luego calentar la silla.
No hay que trabajar en serio ni demostrar que sabes lo que haces, así que lo único que hay que hacer es titular. Da igual como.
¿Es la IA generativa el nuevo libro de texto?
Decía el autor en febrero del 19:
«La función de la educación es preparar a los estudiantes para que sepan desenvolverse en el entorno que les rodea. Actualmente, ese entorno es no solo hiperabundante en información que precisa de criterios de selección y de sentido crítico, sino que, además, está rodeado de tecnología por todas partes, y proporciona muchísimas más posibilidades educativas que lo que el obsoleto libro de texto es capaz de ofrecer. Cuanto antes seamos capaces de poner fin al uso de esa herramienta del pasado, cuanto antes empecemos a exigir a los centros educativos que no recurran a metodologías completamente obsoletas para educar a nuestros hijos, mejor podremos plantearnos educar a las generaciones del futuro.»
Pero reflexiona también ahora que:
«Por tanto, el reto está no en que no los usen, sino en que sepan utilizarlos bien y en que su uso maximice las posibilidades de aprendizaje, que es un objetivo perfectamente compatible si se plantea bien. ¿De verdad alguien en su sano juicio cree que tiene sentido volver al papel y al lápiz para evitar que los alumnos recurran a la inteligencia artificial?»
Simplemente, si quieres conocer nuevas ideas recurre a libros viejos, o incluso a viñetas clásicas como las de Mafalda (hechas con lapiz y papel):
PROHIBIDO PROHIBIR
Tampoco hay que ser una IA que sabe resumir para llegar a lo que Quino llegó hace ya unas cuantas décadas…
Solución: Si mis alumnos presentan magníficos trabajos hechos con IA, perfecto, buena nota. Pero solo es una parte de la nota. El resto viene de la presentación y defensa de su trabajo ante el resto de compañeros. Si son capaces de hacerlo, objetivo cumplido.
EDANS escribe: «cuando una métrica se convierte en un objetivo, deja de ser una buena métrica». “Si las instituciones y la sociedad se dedican a obsesionar a los alumnos con su nota media, los alumnos pasan automáticamente a que su objetivo no sea maximizar su aprendizaje, sino maximizar su nota media”.
Esto es también uno de los mayores errores – y por tanto problemas – en el management de personas. Las métricas se llaman aquí “indicadores”. Con unos pocos números, pretenden reflejar toda la complejidad de una persona o de su trabajo y sirven para evaluar, y recompensar o castigar, al trabajador.
Como lo escribo en mi libro “Las Falacias del Tecnomanagement” en el capítulo de “Indicadores perniciosos”: « si los premios y los castigos del trabajador dependen de los indicadores, entonces la prioridad del trabajador se centra en optimizar los indicadores, y no en cumplir lo mejor posible con su misión. »
Bravo, genial el artículo, de los más acertados y útiles de las ultimas semanas. Gracias, sr. Dans.