Zarządzanie budżetami i mechanizmami kontroli kosztów dla usługi Genie

Produkty Genie są rozliczane w modelu pay-as-you-go, z bezpłatnym miesięcznym limitem na użytkownika. Korzystanie z Genie jest śledzone przez Unity Gateway. Administratorzy kont mogą ustawiać budżety, które umożliwiają śledzenie i kontrolowanie wydatków usługi Genie dla całego konta, dla określonych obszarów roboczych, grup użytkowników lub poszczególnych użytkowników oraz powiadamianie Cię przed osiągnięciem limitów.

Aby dowiedzieć się więcej o budżetach, zobacz Tworzenie i monitorowanie budżetów oraz Zarządzanie budżetami dla Unity Gateway.

Informacje o etapowym podejściu do planowania wydatków przedsiębiorstwa na Genie, w tym o tym, jak przeprowadzić okres analizy użycia i ustalać budżety dla poszczególnych poziomów person, znajdziesz w dokumencie przewodnik po wykorzystaniu Genie.

Jak działa rozliczanie usługi Genie

Genie Code korzysta z modelu cenowego opartego na płatności za rzeczywiste użycie:

• Bezpłatne miesięczne użycie: każdy użytkownik otrzymuje bezpłatną ilość użycia usługi LLM co miesiąc. Bezpłatne użycie dotyczy zidentyfikowanych użytkowników, a nie jednostek usługi.
• Użycie w modelu płatności za użycie: użycie wykraczające poza bezpłatny limit jest rozliczane w jednostkach DBU na podstawie użycia bazowego modelu LLM.

Budżety mają zastosowanie do użycia z płatnością zgodnie z rzeczywistym użyciem. Nie można wykorzystać budżetu, aby usunąć bezpłatny miesięczny limit użytkowania użytkownika.

Aby uzyskać bieżące ceny i bezpłatną kwotę użycia, zobacz stronę cennika Azure Databricks.

Requirements

• Aby tworzyć budżety i zarządzać nimi, musisz być administratorem konta.

Tworzenie budżetu dla usługi Genie

Budżety są tworzone i zarządzane w konsoli konta. Aby uzyskać więcej informacji, zobacz Tworzenie i monitorowanie budżetów .

Aby utworzyć budżet dla korzystania z Genie, użyj typu zasobu Unity Gateway oraz tagu zasobu databricks-product: genie. Nie dodawaj innych tagów zasobów do budżetu Genie. Dodatkowe tagi nie są obsługiwane i uniemożliwiają budżetowi śledzenie korzystania z usługi Genie.

Wykonaj następujące kroki, aby utworzyć budżet Genie ze wspólnym progiem dla obszaru roboczego oraz progami i nadpisaniami dla poszczególnych użytkowników:

1. Na pasku bocznym konsoli konta kliknij pozycję Użycie.

2. Kliknij kartę Budżety . Na tej karcie są wyświetlane istniejące budżety dla konta.

3. Kliknij pozycję Utwórz budżet.

4. W sekcji Zakres ustaw zakres dla budżetu:

   1. Wprowadź nazwę budżetu.
   2. Na liście rozwijanej Obszary robocze wybierz obszary robocze, które chcesz uwzględnić w budżecie. Budżet jest współużytkowany we wszystkich wybranych obszarach roboczych, śledząc ich łączne użycie względem tych samych progów, zamiast stosować oddzielny budżet do każdego obszaru roboczego. Wybierz pozycję Wszystkie , aby zastosować budżet do całego konta.
   3. W rozwijanym menu Typy zasobów wybierz Unity Gateway.
   4. W sekcji Tagi zasobów :
      1. Kliknij pozycję Wybierz tagi.
      2. Na liście rozwijanej Key wprowadź databricks-product.
      3. Na liście rozwijanej Wartości wpisz genie.

5. Skonfiguruj progi współdzielone, aby ustawić pulę użycia, która obowiązuje dla wszystkich użytkowników i obszarów roboczych w ramach zakresu budżetu.

   1. Kliknij Dodaj próg.
   2. Ustaw kwotę dla progu miesięcznego. Jest to próg miesięczny udostępniony wszystkim użytkownikom i obszarom roboczym zdefiniowanym w zakresie budżetu.
   3. W obszarze Po wyczerpaniu progu zaznacz pole Wyślij alert i/lub Blokuj użycie. Zaznaczenie opcji Blokuj użycie blokuje korzystanie z Genie dla wszystkich użytkowników po osiągnięciu progu budżetowego. Databricks zaleca zaznaczenie tylko opcji Wyślij alert, a następnie użycie progów dla poszczególnych użytkowników i nadpisań do blokowania użycia.
   4. Jeśli zaznaczono pozycję Wyślij alert, wprowadź adresy e-mail , aby otrzymywać alerty budżetowe, gdy użycie osiągnie próg.
   5. Kliknij przycisk Dodaj.

6. Skonfiguruj progi dla poszczególnych użytkowników , aby ustawić próg miesięczny, który ma zastosowanie do każdego użytkownika w zakresie budżetu.

   1. Kliknij Dodaj próg.
   2. Wprowadź kwotę w dolarach w polu Próg miesięczny . Ten próg ma zastosowanie do każdego użytkownika objętego budżetem, niezależnie od przysługującego mu bezpłatnego miesięcznego limitu użycia. Na przykład wprowadź $100, aby dać każdemu użytkownikowi limit miesięczny w wysokości 100 USD.
   3. W obszarze Po wyczerpaniu progu zaznacz pole Wyślij alert i/lub Blokuj użycie. Zaznaczenie opcji Blokowanie użycia blokuje użytkownikowi korzystanie z usługi Genie po osiągnięciu progu budżetowego. Możesz ustawić przesłonięcia dla poszczególnych użytkowników, aby przyznać określonym użytkownikom lub grupom wyższy próg.
   4. Wprowadź rozdzielaną przecinkami listę adresów e-mail w polu Adresy e-mail . Te adresy otrzymują alerty, gdy wydatki użytkownika przekraczają próg. Powiadomienie identyfikuje użytkownika, jego miesięczne wydatki i budżet.

   Important

   Powiadomienia e-mail dotyczące budżetu obejmują nazwę budżetu, identyfikator użytkownika w przypadku progów dla poszczególnych użytkowników oraz zdefiniowane tagi niestandardowe. Adresaci poczty e-mail nie muszą być użytkownikami usługi Azure Databricks. Upewnij się, że chronisz poufne dane podczas nazywania budżetu, wybierania tagów i dodawania adresatów wiadomości e-mail.

7. Dodaj przesłonięcia dla poszczególnych użytkowników, aby dać niektórym użytkownikom lub grupom wyższy próg:

   1. Kliknij Dodaj zastąpienie.
   2. Na liście rozwijanej Użytkownicy wybierz określonego użytkownika lub grupę użytkowników.
   3. Wprowadź kwotę w dolarach w polu Próg miesięczny . Ten próg zastępuje domyślny próg dla poszczególnych użytkowników, ale nie zastępuje udostępnionego progu. Na przykład nadaj genie-code grupie próg 200 USD, aby ci użytkownicy uzyskali wyższy limit. Jeśli użytkownik należy do więcej niż jednej grupy użytkowników, dziedziczy najbardziej liberalny próg w ramach budżetu.
   4. Kliknij przycisk Dodaj.

8. Kliknij pozycję Utwórz.

Na powyższej ilustracji przedstawiono przykładową konfigurację budżetu użycia usługi Genie w obszarze roboczym programowania dais z udostępnionym progiem 5000 USD i progiem dla użytkownika w wysokości 100 USD. Nadpisania dla poszczególnych użytkowników przyznają użytkownikom z grupy genie-code wyższy próg wynoszący 200 USD, a użytkownikom z grupy power-users — 300 USD miesięcznie. Jeśli użytkownik należy zarówno do grupy „genie-code”, jak i „power-users”, dziedziczy wyższy próg 300 USD.

Jak działają razem współdzielone progi i progi dla poszczególnych użytkowników

Pojedynczy budżet może łączyć wspólny limit i limit na użytkownika (z nadpisaniami dla poszczególnych użytkowników). Te dwa progi są oceniane niezależnie. Gdy próg ma włączoną opcję Blokuj użycie , użytkownik zostanie zablokowany natychmiast po osiągnięciu pierwszego takiego progu:

• Wspólny próg: pojedyncza pula wydatków rozliczanych zgodnie z użyciem, współdzielona przez wszystkich objętych zakresem budżetu. Po wyczerpaniu puli każdy użytkownik objęty zakresem jest blokowany, nawet jeśli dany użytkownik nie osiągnął jeszcze swojego indywidualnego limitu.
• Próg poszczególnych użytkowników: domyślny limit indywidualny dla każdego użytkownika w zakresie budżetu. Gdy użytkownik osiągnie ten limit, zostanie zablokowany, nawet jeśli we współdzielonej puli nadal pozostał jeszcze budżet.
• Wyjątki dla użytkowników: wyższy limit dla określonych użytkowników lub grup. Nadpisanie zastępuje domyślny próg ustawiony indywidualnie dla każdego z tych użytkowników. Nie zastępuje ona udostępnionego progu.

Nadpisanie dla użytkownika zwiększa indywidualny limit użytkownika, a nie współdzieloną pulę. Użytkownik nie może przekroczyć wyczerpanego wspólnego progu, a niewykorzystany wspólny budżet nie pozwala mu przekroczyć jego własnego limitu na użytkownika. Najbardziej liberalna reguła ma zastosowanie wyłącznie do progów przypisanych użytkownikowi i nadpisań: gdy użytkownik należy do wielu grup z różnymi nadpisaniami, obowiązuje go najwyższy próg. Nie ma zastosowania między progiem udostępnionym a progami dla poszczególnych użytkowników.

Korzystając z poprzedniej przykładowej konfiguracji (wspólny próg 5000 USD, próg 100 USD na użytkownika, wartość zastępcza 200 USD dla genie-code oraz wartość zastępcza 300 USD dla power-users, przy włączonej opcji Blokuj użycie):

• Użytkownik w programie power-users może wykorzystać do 300 USD w ramach użycia w modelu płatności zgodnie z rzeczywistym użyciem, o ile współdzielona pula 5 000 USD nie zostanie wyczerpana.
• Jeśli udostępniona pula 5000 USD zostanie wyczerpana, ten użytkownik zostanie zablokowany, nawet jeśli nie osiągnął własnego limitu 300 USD.
• Użytkownik należący do obu: genie-code i power-users, ma wyższy limit 300 USD, a nie 200 USD.

Monitorowanie i wykonywanie zapytań dotyczących użycia i kosztów usługi Genie

Monitoruj szacowane użycie i koszt usługi Genie na stronie szczegółów budżetu, która jest często odświeżona. Zobacz Wyświetlanie szczegółów budżetu.

Aby wykonywać zapytania dotyczące użycia i kosztów usługi Genie na koncie z tabel systemu rozliczeniowego, w tym sposobu mapowania użycia usługi Genie na jednostki SKU oraz sposobu wyświetlania cen promocyjnych w danych użycia, zobacz Monitorowanie i zrozumienie kosztów usługi Genie.

Ograniczenia

• Budżety nie mogą odebrać użytkownikowi bezpłatnego miesięcznego limitu.

• Każdy budżet może mieć maksymalnie cztery wspólne progi i 20 wyjątków na użytkownika.

• Twoje konto może mieć maksymalnie 1000 budżetów.

• Jednostki usługi nie otrzymują bezpłatnego miesięcznego użycia i są naliczane opłaty za wszystkie ich użycie.

• Budżety śledzą użycie usługi LLM. Zasoby obliczeniowe wykorzystywane do uruchamiania zapytań, takie jak magazyn SQL, są rozliczane oddzielnie i nie są uwzględniane w budżetach Genie.

• Może wystąpić krótkie opóźnienie między użyciem a wysłanym alertem.

• Progi użycia bloków są stosowane w przybliżeniu. Mechanizm egzekwowania opiera się na niemal bieżącym oszacowaniu kosztów, więc rzeczywiste koszty mogą być wyższe lub niższe od skonfigurowanego progu. Oznacza to, że:

  • Użytkownik może zostać zablokowany, zanim jego rzeczywiste wydatki osiągną próg.
  • Przed rozpoczęciem egzekwowania może wystąpić kwota wydatków przekraczająca próg. Żądania Genie, które są już przetwarzane w momencie osiągnięcia progu, nie są przerywane.

  system.billing.usage pozostaje miarodajnym źródłem informacji o rzeczywistym użyciu podlegającym rozliczeniu. W przypadku rozbieżności między śledzeniem zużycia względem budżetu a rzeczywistymi kosztami, Azure Databricks może retroaktywnie korygować szacunki budżetowe, aby je pogodzić.

• Kwoty wydatków w wiadomościach e-mail z alertami budżetowymi, na stronie szczegółów budżetu i system.billing.usage mogą się różnić, gdy są porównywane w tym samym momencie. Jest to oczekiwane, ponieważ każda aktualizacja źródła ma inną częstotliwość:

  • Wiadomości e-mail z alertami budżetowymi: odzwierciedlają koszty w momencie uruchomienia alertu.
  • Strona szczegółów budżetu: Jest często aktualizowana, ale wkrótce potem może wyświetlać niższą kwotę niż w niedawnej wiadomości e-mail z alertem.
  • system.billing.usage: aktualizacje co kilka godzin. Wykonywanie zapytań dotyczących tabel systemowych wkrótce po otrzymaniu alertu może zwrócić niższą liczbę wydatków niż strona szczegółów budżetu lub wiadomości e-mail z alertami.

  Egzekwowanie budżetu, w tym blokowanie wykorzystania i progi alertów, opiera się na śledzeniu wydatków niemal w czasie rzeczywistym i nie zależy od czasu odświeżania tabel systemowych.

Dodatkowe zasoby

• Przewodnik dotyczący zużycia Genie
• Tworzenie i monitorowanie budżetów
• Zarządzaj budżetami dla Unity Gateway
• Analiza kosztów Unity Gateway
• Dzienniki inspekcji dla sztucznej inteligencji/analizy biznesowej
• FAQ dotyczące kosztów i budżetów Genie