AgentOptimizationJobLatency interface

Średnie opóźnienie dla jednego etapu optymalizacji i modelu.

Właściwości

avg_latency_ms	Średnie opóźnienie na połączenie, zaokrąglone do milisekund.
call_count	Łączna liczba połączeń przyczyniła się do tego wpisu.
model	Nazwa modelu lub wdrożenia, mierzona tym wpisem.
stage	Etap optymalizacji mierzony tym wpisem.

Średnie opóźnienie na połączenie, zaokrąglone do milisekund.

avg_latency_ms: number

number

Łączna liczba połączeń przyczyniła się do tego wpisu.

call_count: number

number

Nazwa modelu lub wdrożenia, mierzona tym wpisem.

model?: string

string

Etap optymalizacji mierzony tym wpisem.

stage: AgentOptimizationStage