AgentOptimizationJobLatency interface

Latencia media para una etapa y modelo de optimización.

Propiedades

avg_latency_ms	Latencia media por llamada, redondeada a milisegundos.
call_count	Número total de llamadas que contribuyeron a esta entrada.
model	Nombre del modelo o nombre de despliegue medido por esta entrada.
stage	Etapa de optimización medida por esta entrada.

Latencia media por llamada, redondeada a milisegundos.

avg_latency_ms: number

number

Número total de llamadas que contribuyeron a esta entrada.

call_count: number

number

Nombre del modelo o nombre de despliegue medido por esta entrada.

model?: string

string

Etapa de optimización medida por esta entrada.

stage: AgentOptimizationStage