Local da Fundição

O Foundry Local permite que você execute modelos de Microsoft Foundry com suporte em seu computador local enquanto ainda usa a experiência padrão do Agent Framework Python Agent.

Note

No momento, não há suporte para o Foundry Local no .NET.

Prerequisites

Instale o Foundry Local e seus componentes de runtime locais antes de executar o Agent Framework em um modelo local. A primeira execução pode demorar um pouco porque o modelo selecionado pode precisar ser baixado e carregado.

Installation

pip install agent-framework-foundry-local --pre

Configuration

Defina o modelo local padrão com:

FOUNDRY_LOCAL_MODEL="phi-4-mini"

Você também pode passar o modelo explicitamente com FoundryLocalClient(model="phi-4-mini").

Note

FoundryLocalClient reside no agent_framework.foundry namespace. Ele é um cliente de chat local, portanto, normalmente você o emparelha com um padrão Agent.

Criar um agente local

import asyncio

from agent_framework import Agent
from agent_framework.foundry import FoundryLocalClient

async def main():
    agent = Agent(
        client=FoundryLocalClient(model="phi-4-mini"),
        name="LocalAgent",
        instructions="You are a helpful local assistant.",
    )
    result = await agent.run("What's the weather like in Seattle?")
    print(result)

asyncio.run(main())

Tools

FoundryLocalClient é um cliente de chat local emparelhado com um padrão Agent, portanto, as ferramentas com suporte são as que o modelo local escolhido pode realmente chamar , eles não são fornecidos por um runtime hospedado. Os tipos de ferramentas de Pesquisa Hospedada (get_code_interpreter_tooletc get_web_search_tool.) não estão disponíveis em FoundryLocalClient.

Tool Status Notes
Ferramentas de Funções ⚠️ Com suporte somente se o modelo local selecionado der suporte à chamada de função. Use FoundryLocalClient.manager para inspecionar as funcionalidades do modelo.
Aprovação da ferramenta ✅ Fornecido pelo cliente de chat com invocação de funções do framework; funciona com qualquer chamada de ferramenta de função.
Interpretador de Código ❌ Nenhum runtime hospedado.
Pesquisa de Arquivo ❌ Nenhum runtime hospedado.
Pesquisa na Web ❌ Nenhum runtime hospedado.
Ferramentas MCP hospedadas ❌ Não exposto pelo runtime local.
Ferramentas MCP locais ✅ É executado em seu processo e funciona com qualquer cliente de chat.

Funcionalidades do modelo

Nem todos os modelos locais dão suporte aos mesmos recursos. A chamada de função e as saídas estruturadas dependem do modelo selecionado. O FoundryLocalClient.manager auxiliar pode ser usado para inspecionar o catálogo local e os recursos com suporte antes de executar um agente.

Para controles de runtime adicionais, FoundryLocalClient também dá suporte a opções como device, bootstrape prepare_model.

Note

O suporte para Go a este recurso estará disponível em breve. Consulte o repositório Agent Framework Go para obter o status mais recente.

Próximas Etapas 

Antrópico

  • Última atualização em