Este tema me ha resultado muy interesante: llevamos ya tiempo acostumbrándonos a que los modelos de inteligencia artificial sean enormes y tengan necesariamente que vivir en la nube. La narrativa es clara: tuvimos que vivir inviernos de la inteligencia artificial porque los ordenadores no daban de sí lo suficiente, pero ahora tenemos la nube, el ordenador ilimitado.
Pero… ¿y si esa dependencia no viniese propiamente de la inteligencia artificial, sino que fuese una consecuencia de la forma en que hemos planteado los modelos hasta el momento? Si tenemos en cuenta los avances en cuantización, es viable plantear que podemos encontrar recursos para volver de manera razonablemente cómoda a la ejecución local, algo que podría ofrecernos enormes ventajas en términos de coste y, ...
