Inteligencia Artificial·27 may 2026
EAGLE 3.1: Algoritmo que estabiliza la decodificación especulativa en LLMs
EAGLE 3.1 resuelve problemas de inestabilidad en la decodificación especulativa de modelos de lenguaje grandes. El algoritmo, desarrollado en colaboración entre el equipo EAGLE, vLLM y TorchSpec, corrige la desviación de atención durante la inferencia en entornos de producción.
Fuente: MarkTechPost