Migrera från GitHub-modeller till Microsoft Foundry-modeller

I den här artikeln får du lära dig hur du flyttar ett generativt AI-program från tjänsten retired GitHub Models till Microsoft Foundry Models genom att distribuera en Foundry Tools-resurs i en Azure-prenumeration. Båda tjänsterna använder samma slutsatsdragnings-API, så du behöver vanligtvis bara ändra slutpunkten och autentiseringsuppgifterna i koden.

Förutsättningar

Du behöver:

• En Azure prenumeration med en giltig betalningsmetod. Om du inte har en Azure-prenumeration skapar du ett betalt Azure konto för att börja.
• Foundry-modeller från partner och community kräver åtkomst till Azure Marketplace. Se till att du har de behörigheter som krävs för att prenumerera på modellerbjudanden. Foundry-modeller som säljs av Azure har inte det här kravet.

Migrera till Foundry Models

Till skillnad från GitHub Modeller, som var kostnadsfria med hastighetsbegränsningar, debiteras användningen av Foundry Models till din Azure prenumeration baserat på vilken distributionstyp du väljer.

Så här ersätter du slutpunkten och token för GitHub-modeller med en slutpunkt och nyckel för Foundry Models:

1. Logga in på Foundry-portalen med ditt Azure-konto.

   Tips

   Om du hamnar i den klassiska Foundry-miljön kan du växla om i växeln New Foundry i det övre högra hörnet för att växla till den nya Foundry-miljön.

2. Följ stegen i Distribuera en modell för att distribuera valfri modell, testa den i Playground och dra slutsatser om den distribuerade modellen med kod.

3. På Foundrys startsida kopierar du API-nyckeln och projektslutpunkten, och använder dem i stället för GitHub Models-slutpunkten och en personlig åtkomsttoken i ditt program.

4. Kontrollera att migreringen fungerar genom att skicka en testfråga från Playground eller från koden. Om du får ett svar är din modell redo att användas.

Använda dina Foundry-modeller i IDE

Lekplatsen GitHub Models är inte längre tillgänglig. Om du vill experimentera med modeller från redigeringsprogrammet lägger du till din Foundry-distribution i Visual Studio Code som byok-språkmodell (Bring Your Own Key):

1. I Visual Studio Code öppnar du modellväljaren i chattvyn och väljer Hantera språkmodeller (kugghjulsikon) eller kör kommandot Chatt: Hantera språkmodeller från kommandopaletten.

2. Välj Lägg till modeller och välj sedan Azure i providerlistan.

3. Ange ett gruppnamn för modellerna och ange sedan slutpunkts-URL:en och API-nyckeln som du kopierade från Foundry-portalen.

4. Välj modellen från modellväljaren i chatten.

Du kan också välja Installera modellprovidrar i redigeraren Språkmodeller och installera Foundry Toolkit for VS Code-tillägget , som lägger till Foundrys molnbaserade och lokala modeller i modellväljaren.

Mer information finns i Språkmodeller i Visual Studio Code.

Utforska ytterligare funktioner

Foundry Models har stöd för funktioner som GitHub modeller inte erbjuder:

• Model catalog – Bläddra, jämföra och utvärdera modeller från Azure, partner och communityn med öppen källkod.
• Keyless authentication – Använd Microsoft Entra ID för tokenbaserad autentisering utan att hantera API-nycklar.
• Innehållsfiltrering – Konfigurera innehållssäkerhetsfilter för dina distributioner.
• Hastighetsbegränsning – Ange anpassade hastighetsgränser för specifika modeller i resursen.
• Implementeringstyper – Välj mellan flera implementerings-SKU:er, till exempel betala per token, tilldelad och batch.

Felsöka vanliga problem

Relaterat innehåll

• Distribuera Microsoft Foundry-modeller i Foundry-portalen
• Skapa modelldistributioner
• Distributionstyper för Foundry-modeller