Gestire e aumentare le quote per le risorse con Microsoft Foundry (progetti Foundry)

La quota offre la flessibilità necessaria per gestire attivamente l'allocazione dei limiti di capacità tra le distribuzioni all'interno della sottoscrizione. Azure assegna la quota per sottoscrizione, per area e per modello in unità di token al minuto (TPM). Diversi tipi di distribuzione, ad esempio Standard e Provisioning, hanno meccanismi di quota diversi. Per informazioni dettagliate sui limiti e i livelli di quota predefiniti, vedere limiti e quote di Azure OpenAI.

Questo articolo illustra il processo di gestione della quota per i modelli foundry Microsoft distribuiti in un progetto Foundry, tra cui come visualizzare le allocazioni correnti e gli aumenti delle richieste.

Prerequisiti

  • Sottoscrizione Azure. Crearne uno gratuitamente.
  • Progetto Foundry.
  • Ruolo Lettore utilizzi dei servizi cognitivi a livello di sottoscrizione, per visualizzare le allocazioni delle quote.
  • Ruolo di Proprietario o di Collaboratore sulla sottoscrizione per richiedere aumenti della quota.
  • Ruolo Collaboratore servizi cognitivi combinato con Lettore utilizzi servizi cognitivi, per modificare le allocazioni delle quote nel portale di Foundry.

Quota condivisa Foundry

Foundry fornisce un pool di quote condivise che possono essere usate simultaneamente da utenti diversi in diverse aree. A seconda della disponibilità, gli utenti possono accedere temporaneamente alla quota dal pool condiviso e usare la quota per eseguire test per un periodo di tempo limitato. La durata specifica dipende dal caso d'uso. Usando temporaneamente la quota dal pool di quote, non è più necessario inviare un ticket di supporto per un aumento della quota a breve termine o attendere l'approvazione della richiesta di quota prima di poter procedere con il carico di lavoro.

È possibile utilizzare il pool di quote condivise per testare le inferenze dei modelli Foundry presenti nel catalogo dei modelli. Usare la quota condivisa solo per creare endpoint di test temporanei, non endpoint di produzione. Per gli endpoint nell'ambiente di produzione, è necessario richiedere una quota dedicata. La fatturazione per la quota condivisa è basata sull'utilizzo.

Quota per l'accesso immediato (anteprima)

I modelli di accesso istantaneo provengono da un pool di quote globali per modello separato dalla quota a livello di area gestita per le distribuzioni. Quando si crea una distribuzione Global Standard, viene riservata una parte della quota globale. I modelli ad accesso immediato utilizzano la quota globale rimanente non riservata.

Non è necessario allocare o partizionare la quota globale, che viene condivisa automaticamente in tutti gli utilizzi istantanei del modello nella sottoscrizione. Se le richieste di modelli istantanei vengono limitate, è possibile richiedere un aumento della quota globale o creare una distribuzione con capacità riservata.

Per informazioni dettagliate sull'interazione tra quota globale e regionale, vedere Accesso istantaneo - Quota globale.

Visualizzare e richiedere quote nel portale foundry

Usare le quote per gestire l'allocazione della quota del modello tra più progetti Foundry nella stessa sottoscrizione.

  1. Accedere a Microsoft Foundry. Assicurarsi che l'interruttore New Foundry sia attivato. Questi passaggi fanno riferimento a Foundry (nuovo).These steps refer to Foundry (new).

  2. I progetti consentono di organizzare il lavoro. Il progetto su cui si sta lavorando viene visualizzato nell'angolo superiore sinistro. Se si vuole creare un nuovo progetto, selezionare il nome del progetto e quindi Crea nuovo progetto.

  3. Selezionare Gestisci nel riquadro di spostamento in alto a destra.

  4. Selezionare Quota nel riquadro sinistro per passare al riquadro Quota . La visualizzazione quota ha due schede:

    • Token al minuto : consente di visualizzare e gestire le allocazioni delle quote di token al minuto (TPM) per le distribuzioni standard.
    • Unità elaborate assegnate : visualizzare e gestire le allocazioni di unità elaborate assegnate (PTU) per le distribuzioni di cui è stato effettuato il provisioning, inclusi gli strumenti di stima della capacità.
  5. Selezionare una delle distribuzioni nell'elenco per aprire il relativo riquadro dei dettagli sul lato destro. Il riquadro dei dettagli mostra l'assegnazione della quota, l'utilizzo attuale del dispiegamento e le distribuzioni affiliate.

  6. Nel pannello dei dettagli della distribuzione, vai alla sezione Distribuzioni affiliate usando la quota condivisa. Selezionare l'icona a forma di matita nella colonna Azioni della tabella per modificare l'allocazione delle quote per la distribuzione e liberare la quota inutilizzata o aumentare l'allocazione in base alle esigenze.

  7. Selezionare il pulsante Richiedi quota nell'angolo superiore destro per richiedere l'aumento della quota per il tipo di distribuzione standard.

Nota

Dopo aver modificato un'allocazione di quota o inviato una richiesta, attendere fino a 15 minuti per la propagazione delle modifiche. Aggiornare la pagina Quota per verificare l'allocazione aggiornata.

Risoluzione dei problemi

Se si verificano problemi durante la visualizzazione o la richiesta di quote, provare queste soluzioni:

Problema Soluzione
La pagina Quota è vuota o non mostra allocazioni Verificare di avere il ruolo di Lettore utilizzi servizi cognitivi a livello di sottoscrizione. Verificare di visualizzare l'abbonamento corretto nel portale.
Il pulsante Richiedi quota è disabilitato Verificare di avere il ruolo Proprietario o Collaboratore nella sottoscrizione. Alcune combinazioni di modelli e aree potrebbero non supportare l'aumento della quota.
Modifica della quota non riflessa dopo l'approvazione La propagazione delle modifiche alla quota può richiedere fino a 15 minuti. Aggiornare la pagina Quota . Se il problema persiste dopo 24 ore, contattare supporto tecnico di Azure.
Impossibile trovare la quota per un modello specifico Controllare la disponibilità a livello di area. Non tutti i modelli sono disponibili in tutte le aree. Vedere Supporto per l'area.