Google ha desarrollado una técnica que podría convertir a Gemini en una verdadera bestia de la IA. El gigante tecnológico publicó los detalles de una investigación con la que busca mejorar la eficiencia y coste computacional de los modelos de lenguaje de gran escala. Conocida como Speculative Cascades (cascadas especulativas), este enfoque acelera la inferencia sin sacrificar la calidad.

De acuerdo con el documento técnico, las cascadas especulativas es una técnica híbrida que combina dos enfoques que hasta hace poco eran rivales: cascadas tradicionales y decodificación especulativa. Las primeras se basan en modelos pequeños y escalan cuando es necesario, mientras que la segunda permite que un modelo pequeño genere un borrador para que un modelo grande lo valide.

En términos práct

See Full Page