TypeSafe AI

De alfa TypeSafe AI-integratie past System One-modellen, waaronder Jev, aan voor Agent Framework Python. Deze modellen evalueren de toepassingsstatus op basis van getypte vragen en retourneren waarschijnlijkheden en scores. Ze genereren geen gewone gratis chatreacties.

Installeer het pakket

pip install agent-framework-typesafe --pre

Configuration

Stel de API-sleutel in voordat u de client maakt:

TYPESAFE_API_KEY="<api-key>"
# Optional:
TYPESAFE_DEFAULT_MODEL="jev-latest"
TYPESAFE_BASE_URL="<api-root>"

Constructorwaarden hebben voorrang op omgevingsvariabelen. U kunt ook een geconfigureerde TypeSafe AsyncTypeSafeClientinjecteren. Geïnjecteerde clients blijven eigendom van de aanroeper; sluit de clients die door TypeSafeChatClient met close() zijn gemaakt of met een asynchrone contextmanager.

Een getypte beslissingsagent maken

Geef een TypeSafe-toewijzing Questions door via de optie van Agent Framework response_format:

import asyncio

from agent_framework import Agent
from agent_framework_typesafe import TypeSafeChatClient
from typesafe_sdk import Choice, Noul


async def main() -> None:
    client = TypeSafeChatClient()
    try:
        agent = Agent(
            client=client,
            name="TicketEvaluator",
            instructions="Evaluate the support request.",
        )
        response = await agent.run(
            "Our checkout has failed for three days and we are losing sales.",
            options={
                "response_format": {
                    "department": Choice(
                        instructions="Which team should handle this request?",
                        criteria={
                            "billing": None,
                            "technical": None,
                            "sales": None,
                        },
                    ),
                    "urgent": Noul(
                        instructions="Does this request need urgent attention?"
                    ),
                },
            },
        )
        print(response.value)
    finally:
        await client.close()


asyncio.run(main())

Voor deze connector, response_format is een niet-lege TypeSafe-Questionstoewijzing met vragen van het type Noul, Choice of Score. U hebt toegang tot het volledig getypte SystemOneResponse via response.value.

Gebruik default_questions op de client wanneer een integratie één vast contract heeft. Een TypeSafe-client met standaardvragen kan bijvoorbeeld fungeren als quarantaineclient voor SecureAgentConfig.

Functie- en MCP-hulpmiddelen

TypeSafeChatClient biedt ondersteuning voor de standaardfunctie-aanroeplus van Agent Framework voor gesloten schema's. Ondersteunde argumentvormen zijn onder andere:

• Vaste constanten.
• Opsommingen of Python Literal waarden.
• Booleaanse waarden.
• Matrices van enum of Literal waarden zonder extra matrixbeperkingen.
• Optionele versies van die vormen.

De client biedt geen ondersteuning voor vereiste vrije tekenreeksen of getallen, geneste objecten, algemene matrices, vereiste null-argumenten of schemabeperkingen die de connector niet kan behouden. Als u een niet-ondersteund argument opgeeft, sluit de client het hele hulpprogramma uit in de automatische modus of weigert het hulpprogramma wanneer u dit nodig hebt.

MCP-hulpprogramma's werken door Agent, waarmee MCP-functies worden gedetecteerd en uitgebreid naar functiehulpprogramma's voordat TypeSafe-routering wordt uitgevoerd. Alleen functies waarvan de schema's passen bij de ondersteunde subset zijn routeerbaar. Een aanvraag ondersteunt maximaal 32 routeerbare hulpprogramma's, 64 eigenschappen per hulpprogramma, 64 enumleden per argument en 128 gegenereerde interne vragen.

De client wordt standaard ingesteld op één aanroep per hulpprogramma per uitvoering. Configureer function_invocation_configuration={"max_function_calls": N} om opeenvolgende toolrondgangen toe te staan.

Mogelijkheden en limieten

Gebruiken TypeSafeChatClient voor de standaardframeworklagen. Gebruik RawTypeSafeChatClient alleen wanneer u bewust een aangepaste stapel lagen wilt samenstellen of wilt afzien van functie-uitvoering, middleware en telemetrie.

Volgende stappen