Azure Databricks możliwości sztucznej inteligencji

Azure Databricks udostępnia platformę do tworzenia, oceniania, wdrażania i monitorowania aplikacji sztucznej inteligencji (AI). Łączy ona zestaw narzędzi, które zajmują się wyzwaniami opracowywania aplikacji sztucznej inteligencji klasy korporacyjnej. Usługa Azure Databricks integruje się z popularnymi strukturami typu open source, dodając zarządzanie klasy korporacyjnej, obserwowalność i narzędzia operacyjne, nazywane zbiorczo LLMOps.

Na tej stronie wymieniono główne funkcje sztucznej inteligencji uporządkowane według etapów przepływu pracy sztucznej inteligencji.

Zapytaj AI

Azure Databricks sprawia, że najnowocześniejsze modele sztucznej inteligencji od najlepszych dostawców modeli są łatwo dostępne za pośrednictwem modeli fundacji hostowanych w usłudze Databricks. Możesz również wykonywać zapytania dotyczące modeli od dostawców zewnętrznych i modeli niestandardowych. Wszystkie te modele można zapytać za pośrednictwem interfejsu użytkownika, interfejsów API oraz SDK, a także interfejsów SQL. Ta opcjonalność umożliwia korzystanie ze sztucznej inteligencji we wszystkich przypadkach użycia--- ogólne czaty, złożonych agentów, zautomatyzowanych potoków danych, interaktywnej analizy danych i nie tylko.

Metoda Features
interfejs użytkownika
  • Na potrzeby programowania platforma AI Playground udostępnia interfejs użytkownika do wykonywania zapytań dotyczących dostępnych modeli i agentów sztucznej inteligencji.
  • Na potrzeby testowania agenci i aplikacje mogą być odpytywane i oceniane przez ekspertów z dziedziny przy użyciu aplikacji Przegląd.
  • W przypadku środowiska produkcyjnego aplikacje mogą być hostowane za pomocą interfejsu użytkownika przy użyciu usługi Databricks Apps do użytku w organizacji. W przypadku aplikacji zewnętrznych, można uruchamiać aplikacje skierowane do użytkowników przy użyciu interfejsów API usługi Databricks.
Interfejs API i zestaw SDK
  • Obsługa modeli udostępnia punkty końcowe interfejsu API REST do wykonywania zapytań dotyczących modeli i agentów.
  • Zobacz więcej opcji zapytań, w tym klienta OpenAI i Python SDK Databricks.
SQL
  • Funkcje sztucznej inteligencji udostępniają funkcje SQL specyficzne dla zadań i ogólnego przeznaczenia na potrzeby wykonywania zapytań dotyczących modeli i agentów.

Tworzenie sztucznej inteligencji

Azure Databricks udostępnia elastyczny zestaw narzędzi do tworzenia aplikacji, agentów, narzędzi i modeli sztucznej inteligencji. Obejmują one platformy interfejsu użytkownika i oparte na kodzie, z których wszystkie mogą optymalizować systemy sztucznej inteligencji na podstawie Twoich danych. Możesz skorzystać z dowolnej struktury sztucznej inteligencji typu open source i zintegrować niestandardowe narzędzia i serwery MCP.

Kategoria Features
Apps
Agenci
Tools
  • Obsługa narzędzi obejmuje serwery MCP i funkcje katalogu Unity, które zapewniają zarządzanie oparte na katalogu Unity.
Modele i podpowiedzi

Przygotowywanie i obsługa danych

Usługa Azure Databricks upraszcza dane dla sztucznej inteligencji, ujednolicając nadzór nad tradycyjnymi danymi i obciążeniami sztucznej inteligencji. Dzięki zarządzaniu wszystkimi danymi w Unity Catalog z precyzyjnymi kontrolami dostępu, łatwo jest dostosować granice inżynierii danych i sztucznej inteligencji, aby dopasować je do organizacji. Dane można przygotować do zastosowań AI przy użyciu dowolnych narzędzi inżynierii danych, takich jak potoki Lakeflow. Tabela w Unity Catalog może być udostępniana na potrzeby AI przy użyciu indeksu wektorowego dla danych nieustrukturyzowanych lub tabeli cech dla danych ustrukturyzowanych.

Typ danych Features
Bez struktury (tekst, obrazy itp.)
Ustrukturyzowane dane (tabele)
  • Bezserwerowy program SQL umożliwia integrowanie tabel i zapytań SQL z aplikacją sztucznej inteligencji na potrzeby analizy lub przekształceń.
  • Agenci Genie mogą być używane w systemach wieloagentowych do odpowiadania na zapytania w języku naturalnym dotyczące danych strukturalnych.
  • Sklepy funkcji online zapewniają dostęp funkcji w czasie rzeczywistym dla aplikacji sztucznej inteligencji.

Wdrażanie i obsługa sztucznej inteligencji

Azure Databricks udostępnia systemy obsługujące gotowe do produkcji dla aplikacji, agentów i modeli sztucznej inteligencji wspieranych przez usługę Databricks Apps. Te skalowalne wdrożenia mogą służyć zarówno do obsługi w czasie rzeczywistym, jak i wnioskowania wsadowego. Wszystkie wdrożenia integrują się z narzędziami do obserwacjii oceny i monitorowania .

Struktura programowania Wdrażanie i obsługa
Aplikacje usługi Databricks Aplikacje i agenci można wdrażać przy użyciu usługi Databricks Apps, która zapewnia wdrażanie oparte na interfejsie użytkownika i interfejsie API.
Asystent wiedzy Asystent wiedzy automatyzuje wdrażanie Twojego agenta do punktów końcowych serwujących modele.

Śledzenie, ocenianie i monitorowanie sztucznej inteligencji

Azure Databricks zapewnia zarządzaną platformę MLflow na potrzeby obserwacji, oceny i monitorowania sztucznej inteligencji. Interfejsy API typu open source ułatwiają integrację i przenośność, a usługa zarządzana udostępnia punkty końcowe gotowe do produkcji. Rozwiązanie MLflow zarządzane przez usługę Databricks może być używane w przypadku aplikacji i agentów sztucznej inteligencji hostowanych w usłudze Databricks i hostowanych gdzie indziej.

Kategoria Features
Śledzenie i obserwowalność
  • MLflow Tracing pozwala instrumentować agentów AI i aplikacje, aby zbierać dane telemetryczne i dane obserwowalności na potrzeby ewaluacji, monitorowania w środowisku produkcyjnym i audytu.
Evaluation
Monitoring
  • Monitorowanie produkcji umożliwia mierzenie jakości danych produkcyjnych, przy użyciu tych samych sędziów i punktów oceny z oceny na etapie rozwoju.
Opinie użytkowników

LLMOps

Azure Databricks zapewnia pełny zestaw narzędzi do operacji AI, czyli „LLMOps”. Ujednolicone zarządzanie danymi i zasobami AI w ramach Unity Catalog upraszcza i zwiększa bezpieczeństwo wdrażania AI w całej organizacji. Brama sztucznej inteligencji upraszcza zarządzanie modelami od wielu dostawców modeli sztucznej inteligencji. Pakiety MLflow i deklaratywne pakiety automatyzacji zapewniają zarządzanie wersjami i infrastrukturę jako kod na potrzeby implementowania niezawodnych procesów LLMOps.

Kategoria Features
Nadzór nad danymi i zasobami sztucznej inteligencji Unity Catalog zapewnia ujednolicone zarządzanie dla danych i zasobów sztucznej inteligencji. Zasoby danych obejmują pliki, tabele, indeksy wektorowe i magazyny funkcji. Zasoby sztucznej inteligencji obejmują modele, narzędzia i połączenia dla serwerów MCP i innych interfejsów API.
Zarządzanie punktami końcowymi modelu Brama sztucznej inteligencji zapewnia centralny nadzór i monitorowanie punktów końcowych modelu sztucznej inteligencji.
Wersjonowanie promptów Platforma MLflow udostępnia rejestr monitów, a także śledzenie eksperymentów.
Infrastruktura jako kod Stosy MLOps, zbudowane na podstawie pakietów zasobów Databricks, zapewniają zarządzanie i wdrażanie infrastruktury oraz przepływów pracy oparte na kodzie.

Obsługa typu open source

Azure Databricks zapewnia pełną obsługę szybko rozwijającego się ekosystemu open source dla sztucznej inteligencji.

Do programowania można używać dowolnej platformy typu open source i wdrażać ją przy użyciu usługi Databricks Apps. Usługi Databricks mogą być używane przez narzędzia i aplikacje sztucznej inteligencji innych firm przy użyciu serwerów MCP lub interfejsu API REST lub zestawów SDK.

Do obserwowalności, oceny i monitorowania MLflow Tracing zapewnia natywne automatyczne śledzenie dla ponad 20 frameworków AI open source, a także umożliwia dodanie niestandardowego śledzenia do dowolnych innych frameworków lub kodu. Ślady mogą być następnie używane z MLflow Evaluation i monitorowaniem produkcji. Ślady są zgodne ze specyfikacjami śledzenia OpenTelemetry i można je eksportować do narzędzi innych firm.

Dodatkowe zasoby

  • Last updated on