Zarządzaj interfejsami API modelu (usługami modelu)

API modelu daje uporządkowany dostęp do dużego modelu językowego. Wyślij zapytanie, dostaniesz odpowiedź, bez żadnej infrastruktury do uruchomienia. Domyślnie każdy użytkownik konta może wysyłać zapytania do udostępnianych przez system interfejsów API modeli w schemacie system.ai bez żadnej konfiguracji. Są to modele bazowe obsługiwane natywnie przez Azure Databricks, rozliczane za token.

Na Azure Databricks model API to obiekt zabezpieczony w Unity Catalog (usługa modelowa), który reprezentuje zarządzany endpoint LLM. Ponieważ Unity Catalog go przechowuje, definiujesz, udostępniasz i zarządzasz dostępem do niego centralnie, obok swoich danych i ponad granicami przestrzeni roboczych. Aby zarządzać dodatkowymi modelami lub udostępnić niestandardowy endpoint, tworzysz własne API modeli.

Modelowe API obsługują następujące funkcje:

• Modele bazowe obsługiwane przez Azure Databricks jako usługi udostępniane przez system w system.ai oraz jako usługi, które tworzysz. Obsługiwane są zarówno miejsca docelowe rozliczane za token, jak i z aprowizowaną przepustowością.
• Tworzenie i zarządzanie API modeli za pomocą interfejsu Unity Gateway, Eksploratora Katalogu oraz API REST Unity Catalog.
• Wykonywanie zapytań do interfejsów API modeli w wielu przestrzeniach roboczych, zarówno z poziomu usługi Azure Databricks, jak i spoza niej.

Co to jest usługa modeli?

Usługa modelu znajduje się w schemacie Katalogu Unity i odwołuje się do jednego lub większej liczby miejsc docelowych, z trasowaniem i mechanizmem awaryjnego przełączania między nimi. Dzwoniący wywołują usługę modelową pod jej w pełni kwalifikowaną nazwą, a Unity Gateway kieruje każde żądanie do celu. Docelowym może być model obsługiwany przez Azure Databricks lub usługa dostawcy modelu, która kieruje się do zewnętrznego dostawcy, a pojedyncza usługa modelu może łączyć oba te elementy.

Ponieważ usługa modelu jest obiektem zabezpieczanym w Unity Catalog, to:

• Znajduje się w katalogu i schemacie, gdzie dziedziczy ustawienia schematu, takie jak powiązania z obszarem roboczym.
• Zawiera standardowe metadane Unity Catalog, takie jak nazwa, właściciel, opis i tagi.
• Podlega uprawnieniom Unity Catalog, więc przyznajesz dostęp za pomocą tych samych instrukcji GRANT i REVOKE, których używasz w przypadku tabel, funkcji i modeli.
• Można go znaleźć w Catalog Explorer wraz z pozostałymi zasobami Unity Catalog.

Ta sama usługa modelu pojawia się również jako punkt końcowy w interfejsie Unity Gateway, gdzie zespoły AI mogą konfigurować funkcje takie jak limity szybkości, tabele wnioskowania i bariery zabezpieczające. Więcej o tych funkcjach można znaleźć w artykule o zarządzaniu AI w Unity Gateway.

Dlaczego warto nadzorować modele LLM w Unity Catalog?

Endpointy Unity Gateway tworzone w przestrzeni roboczej są przypisane do tego obszaru roboczego. Aby udostępnić punkt końcowy między obszarami roboczymi, należy go zduplikować w każdym obszarze roboczym i zarządzać poszczególnymi kopiami oddzielnie.

Usługi modeli przenoszą zarządzanie do Unity Catalog, dzięki czemu możesz:

• Zdefiniuj punkt końcowy LLM raz i użyj go z dowolnego obszaru roboczego dołączonego do tego samego magazynu metadanych.
• Centralnie zarządzaj dostępem przy użyciu uprawnień Unity Catalog zamiast uprawnień w poszczególnych obszarach roboczych.
• Odkryj modele , które są dostępne dla Ciebie w różnych obszarach roboczych z jednej lokalizacji.
• Śledź użycie i koszty usług modeli w tabelach systemowych Unity Catalog.
• Śledź pochodzenie, aby zobaczyć modele udostępniane przez usługę oraz zasoby podrzędne, które wykorzystują przesyłane przez nią dane. Zobacz Śledzenie modelu API i pochodzenia dostawców.

Usługi modelu udostępniane przez system

Azure Databricks zapewnia gotową do użycia usługę modelu w system.ai schema dla każdego modelu bazowego obsługiwanego przez Azure Databricks, na przykład system.ai.claude-opus-5. Azure Databricks dodaje nowe usługi modeli systemowych, ponieważ nowe modele podstawowe stają się dostępne.

Usługi modelu zapewniane przez system mają następujące cechy:

• Domyślnie wszyscy użytkownicy konta mają uprawnienie EXECUTE, dzięki czemu można ich odpytywać bez dodatkowej konfiguracji.
• Użytkownik systemowy jest właścicielem i nie można ich usunąć.
• Domyślnie tylko administratorzy magazynu metadanych mogą je modyfikować. Administrator magazynu metadanych może delegować zarządzanie, przyznając uprawnienie MANAGE.

Aby ograniczyć dostęp do usług modelu udostępnianych przez system, zobacz Zarządzanie usługami modelu.

Uprawnienia

Usługi modeli używają standardowego modelu uprawnień Unity Catalog. Obowiązują następujące uprawnienia:

Usługi modelowe korzystają z uprawnień definiera. Azure Databricks ocenia zapytanie względem uprawnień właściciela, a nie wywołującego. Gdy użytkownik wysyła zapytanie do usługi modelowej, Azure Databricks sprawdza, czy właściciel ma EXECUTE do wskazanych miejsc docelowych, takich jak modele źródłowe i wszelkie usługi dostawców modeli. Dzwoniący nie potrzebuje bezpośredniego dostępu do tych miejsc.

Ograniczenia

Następujące możliwości nie są obsługiwane:

• Tworzenie i zarządzanie usługami modelowymi za pomocą SQL.
• Odnajdywanie usług modelu przy użyciu tylko uprawnienia BROWSE.
• Globalne wyszukiwanie usług modelowych.

Następne kroki

• Tworzenie usług modelu i zarządzanie nimi
• Usługi modelu zapytań
• Odkrywanie i zarządzanie dostępem do usług modelowych
• Integracja z agentami kodowania
• Śledź model API i pochodzenie dostawcy