InferenceDetails interface
Détails d’un appel d’inférence
Propriétés
| cache |
Nombre de jetons d’entrée lus à partir d’un cache |
| cache |
Nombre de jetons d’entrée écrits dans un cache |
| endpoint | Point de terminaison de l’appel d’inférence |
| finish |
Tableau des raisons de fin |
| input |
Nombre de jetons d’entrée utilisés |
| model | Nom/identificateur du modèle demandé. Au moins un modèle ou responseModel est requis. |
| operation |
Nom/type de l’opération pour l’inférence |
| output |
Nombre de jetons de sortie générés |
| provider |
Nom du fournisseur (par exemple, openai, azure, anthropic) |
| response |
Nom/identificateur du modèle retourné par le fournisseur |
| thought |
Processus de pensée utilisé par l’agent |
Détails de la propriété
cacheReadInputTokens
Nombre de jetons d’entrée lus à partir d’un cache
cacheReadInputTokens?: numberValeur de propriété
number
cacheWriteInputTokens
Nombre de jetons d’entrée écrits dans un cache
cacheWriteInputTokens?: numberValeur de propriété
number
endpoint
Point de terminaison de l’appel d’inférence
endpoint?: ServiceEndpointValeur de propriété
finishReasons
Tableau des raisons de fin
finishReasons?: string[]Valeur de propriété
string[]
inputTokens
Nombre de jetons d’entrée utilisés
inputTokens?: numberValeur de propriété
number
model
Nom/identificateur du modèle demandé. Au moins un modèle ou responseModel est requis.
model?: stringValeur de propriété
string
operationName
Nom/type de l’opération pour l’inférence
operationName: InferenceOperationTypeValeur de propriété
outputTokens
Nombre de jetons de sortie générés
outputTokens?: numberValeur de propriété
number
providerName
Nom du fournisseur (par exemple, openai, azure, anthropic)
providerName: stringValeur de propriété
string
responseModel
Nom/identificateur du modèle retourné par le fournisseur
responseModel?: stringValeur de propriété
string
thoughtProcess
Processus de pensée utilisé par l’agent
thoughtProcess?: stringValeur de propriété
string