Inteligencia Artificial·7 nov 2026
Kinference: plano de control para despliegue de LLMs en Kubernetes
Buoyant lanzó Kinference, una capa de orquestación de código abierto para modelos de lenguaje en Kubernetes que optimiza el enrutamiento de inferencias y reduce la latencia inicial de respuesta en un 95% según sus pruebas internas.
Fuente: MarkTechPost