Stanford libera Memorilla: módulo de memoria comprimida para LLMs
Investigadores de Stanford publican Memorilla, un sistema que comprime colecciones de documentos en solo 16 tokens de memoria para modelos congelados. Logra 84.33% de precisión en recuperación de hechos usando 108 veces menos tokens que pasar el contexto completo.
Fuente: MarkTechPost