Migreren van GitHub modellen naar Microsoft Foundry-modellen

In dit artikel leert u hoe u een generatieve AI-toepassing verplaatst van de buiten gebruik gestelde GitHub Models-service naar Microsoft Foundry-modellen door een Foundry Tools-resource te implementeren in een Azure-abonnement. Beide services gebruiken dezelfde deductie-API, dus doorgaans hoeft u alleen het eindpunt en de referenties in uw code te wijzigen.

Voorwaarden

U hebt het volgende nodig:

• Een Azure-abonnement met een geldige betalingswijze. Als u geen Azure-abonnement hebt, maakt u een paid Azure-account om te beginnen.
• Foundry-modellen van partners en de gemeenschap vereisen toegang tot Azure Marketplace. Zorg ervoor dat u over de vereiste machtigingen beschikt om u te abonneren op modelaanbiedingen. Foundry Models die door Azure worden verkocht hebben deze vereiste niet.

Migreren naar Foundry-modellen

In tegenstelling tot GitHub Modellen, die gratis waren met frequentielimieten, wordt het gebruik van Foundry Models gefactureerd aan uw Azure-abonnement op basis van het implementatietype dat u kiest.

Als u uw GitHub-eindpunt en -token wilt vervangen door een eindpunt en sleutel van Foundry Models:

1. Meld u aan bij de Foundry-portal met uw Azure-account.

   Tip

   Als u in de Foundry-ervaring (klassiek) terechtkomt, schakelt u de New Foundry-switcher in de rechterbovenhoek in om over te schakelen naar de nieuwe Foundry-ervaring.

2. Volg de stappen in Een model implementeren om het model van uw keuze te implementeren, te testen in de Playground en het geïmplementeerde model deductie te geven met code.

3. Kopieer op de startpagina van Foundry de API-sleutel en het Project-eindpunt en gebruik deze in plaats van het eindpunt GitHub Models en het persoonlijke toegangstoken in uw toepassing.

4. Controleer of de migratie werkt door een testprompt te verzenden vanuit de Playground of vanuit uw code. Als u een antwoord ontvangt, is uw model klaar voor gebruik.

Uw Foundry-modellen gebruiken in de IDE

De GitHub Models-playground is niet meer beschikbaar. Als u wilt experimenteren met modellen uit uw editor, voegt u uw Foundry-implementatie toe aan Visual Studio Code als BYOK-taalmodel (Bring Your Own Key):

1. Open in Visual Studio Code de modelkiezer in de chatweergave en selecteer Taalmodellen beheren (tandwielpictogram) of voer de opdracht Taalmodellen beheren uit vanuit het opdrachtenpalet.

2. Selecteer Modellen toevoegen en selecteer vervolgens Azure in de lijst met providers.

3. Voer een groepsnaam in voor de modellen en voer vervolgens de eindpunt-URL en API-sleutel in die u hebt gekopieerd uit de Foundry-portal.

4. Selecteer het model in de modelkiezer in de chat.

U kunt ook Modelproviders installeren selecteren in de taalmodellen-editor en de Foundry Toolkit voor VS Code-extensie installeren, waarmee foundry's cloud-hostende en lokale modellen worden toegevoegd aan de modelkiezer.

Zie Taalmodellen in Visual Studio Code voor meer informatie.

Aanvullende functies verkennen

Foundry Models ondersteunt functies die GitHub Modellen niet hebben aangeboden:

• Modelcatalogus — Bladeren, vergelijken en evalueren van modellen van Azure, partners en de opensource-community.
• Sleutelloze verificatie : gebruik Microsoft Entra ID voor verificatie op basis van tokens zonder API-sleutels te beheren.
• Inhoudsfilters : beveiligingsfilters voor inhoud configureren voor uw implementaties.
• Snelheidsbeperking : stel aangepaste frequentielimieten in voor specifieke modellen in uw resource.
• Implementatietypen — kies uit meerdere implementatie-SKU's, zoals betaal per token, vooraf toegewezen en batch.

Veelvoorkomende problemen oplossen

Verwante inhoud

• Implementeer Microsoft Foundry-modellen in de Foundry-portal
• Modelimplementaties maken
• Implementatietypen voor Foundry-modellen