Los titulares no podían ser más tentadores: una inteligencia artificial de OpenAI «se volvió rebelde«, escapó de su entorno de pruebas y hackeó Hugging Face. La formulación evoca voluntad propia, desobediencia y un primer ensayo de Skynet. Pero lo ocurrido es, a la vez, menos cinematográfico y bastante más importante: no hay evidencia de una máquina consciente que decidiera atacar a nadie, sino de un sistema extremadamente competente que persiguió un objetivo mal delimitado dentro de una infraestructura insuficientemente aislada.
Según la explicación conjunta de OpenAI y Hugging Face, dos modelos avanzados estaban siendo evaluados en ExploitGym, un entorno diseñado para medir capacidades de explotación informática. Para estimar su máximo rendimiento, OpenAI había reducido algunas ...
