Texto editorial original de OrbTrail, escrito con lenguaje propio a partir de la publicación de referencia.
Usar el modelo más potente para cada solicitud puede parecer seguro, pero genera costo y latencia innecesarios. Muchas interacciones empresariales son repetitivas y están bien definidas, y modelos más pequeños pueden resolverlas sin pérdida visible de calidad.
El right-sizing clasifica la intención y dirige cada tarea al nivel de capacidad adecuado. Las preguntas simples siguen una ruta ligera; los casos ambiguos o de alto riesgo llegan a modelos más fuertes. Esta separación permite controlar el gasto sin reducir el servicio.
El router es una parte crítica de la arquitectura. Debe reconocer dificultad, dominio e impacto de un posible error. También necesita una ruta de escalamiento cuando la confianza es baja. Sin observabilidad, un ahorro aparente puede ocultar problemas de calidad.
La mejor opción no es el modelo más barato ni el más sofisticado, sino la combinación que cumple el objetivo de negocio. Mide costo por resolución, tiempo de respuesta, escalamiento y precisión. El portafolio debe evolucionar con el uso real.
