Wprowadzenie do projektowania architektury sztucznej inteligencji

Sztuczna inteligencja umożliwia maszynom analizowanie danych, generowanie zawartości, syntezowanie mowy, przewidywanie i wspieranie podejmowania decyzji w różnych branżach. W miarę rozszerzania możliwości sztucznej inteligencji za pomocą modeli generowania, modeli językowych i architektur opartych na agentach organizacje potrzebują wskazówek dotyczących architektury, aby zaprojektować niezawodne, bezpieczne, ekonomiczne i operacyjne stabilne obciążenia sztucznej inteligencji.

Ten artykuł ułatwia rozpoczęcie pracy ze sztuczną inteligencją w Azure. Wprowadza ona usługi sztucznej inteligencji, architektury referencyjne, najlepsze rozwiązania i zasoby szkoleniowe, dzięki czemu można projektować i tworzyć rozwiązania sztucznej inteligencji spełniające wymagania dotyczące obciążeń.

Usługi platformy Azure dla sztucznej inteligencji

Azure oferuje szereg usług do tworzenia, wdrażania i zarządzania obciążeniami sztucznej inteligencji. Te usługi obejmują platformy programistyczne, wstępnie utworzone możliwości sztucznej inteligencji, platformy danych i narzędzia do tworzenia modeli niestandardowych. Skorzystaj z poniższych usług, aby zintegrować sztuczną inteligencję z projektem obciążenia.

Platformy deweloperskie sztucznej inteligencji

• Microsoft Foundry: ujednolicona platforma jako usługa (PaaS) do tworzenia i wdrażania generujących aplikacji i agentów sztucznej inteligencji. Microsoft Foundry zapewnia dostęp do katalogu modeli, hostowania agentów za pośrednictwem usługi Foundry Agent Service, dostrajania modeli, narzędzi do oceny oraz funkcji odpowiedzialnej sztucznej inteligencji. Użyj portalu Foundry , aby eksperymentować, kompilować i wdrażać modele i agenty sztucznej inteligencji.

• Azure Machine Learning: usługa w chmurze służąca do tworzenia, trenowania i wdrażania modeli uczenia maszynowego na dużą skalę. Azure Machine Learning obsługuje struktury typu open source, takie jak PyTorch, TensorFlow i scikit-learn. Zapewnia również możliwości automatycznego uczenia maszynowego, dostrajania hiperparametrów, trenowania rozproszonego, operacji uczenia maszynowego i odpowiedzialnej sztucznej inteligencji.

• Microsoft Copilot Studio: platforma o niskim kodzie umożliwiająca tworzenie, dostosowywanie i wdrażanie agentów opartych na sztucznej inteligencji. Użyj Microsoft Copilot Studio, aby utworzyć agentów konwersacyjnych dla scenariuszy wewnętrznych i zewnętrznych oraz rozszerzyć Microsoft 365 Copilot na dane przedsiębiorstwa i niestandardowe przepływy pracy.

Gotowe usługi AI

• Foundry Tools: zestaw gotowych i konfigurowalnych interfejsów API oraz modeli do dodawania inteligentnych funkcji w aplikacjach. Narzędzia Foundry tools obejmują funkcje mowy, tłumaczenia, interpretacji języka, analizy dokumentów, interpretacji zawartości, przetwarzania obrazów, bezpieczeństwa zawartości i wyszukiwania.

• Azure OpenAI: zapewnia dostęp do modeli OpenAI, w tym GPT i DALL-E, za pośrednictwem Azure zarządzanej infrastruktury z zabezpieczeniami przedsiębiorstwa, sieciami i odpowiedzialnymi mechanizmami kontroli sztucznej inteligencji.

Platformy danych dla sztucznej inteligencji

• Microsoft Fabric: kompleksowa platforma analizy i danych obejmująca pozyskiwanie danych, przekształcanie, routing zdarzeń w czasie rzeczywistym i raportowanie. Microsoft Fabric udostępnia usługę OneLake jako ujednolicone jezioro danych oraz obejmuje wbudowane funkcje SI, funkcje usługi Microsoft Copilot i integrację z narzędziami Foundry.

• Azure Databricks: platforma analizy oparta na platformie Spark na potrzeby inżynierii danych, nauki o danych i uczenia maszynowego. Azure Databricks udostępnia środowisko Databricks Runtime dla usługi Azure Machine Learning, integrację z MLflow, rozwiązanie AutoML, dostrajanie modeli bazowych oraz usługę Mosaic AI Vector Search do wyszukiwania opartego na osadzeniach.

• Azure HDInsight: zarządzana usługa Apache Spark do przetwarzania i analizy danych big data. Azure HDInsight klastry Spark obsługują obciążenia uczenia maszynowego za pośrednictwem biblioteki MLlib, są zgodne z Azure Storage i Azure Data Lake Storage oraz obsługują język SynapseML na potrzeby uczenia głębokiego.

• Azure Data Lake Storage: skalowalne, scentralizowane repozytorium do przechowywania danych ze strukturą i bez struktury. Azure Data Lake Storage zapewnia semantykę systemu plików, zabezpieczenia na poziomie plików oraz warstwowe magazynowanie danych oparte na usłudze Azure Blob Storage.

Warstwy analizy przedsiębiorstwa

Architektura AI firmy Microsoft wprowadza trzy uzupełniające się warstwy inteligencji, czyli IQs, które stanowią kluczowe źródła kontekstu dla systemów AI:

• Funkcja IQ pracy przechwytuje informacje o sposobie pracy wewnątrz organizacji. Używa sygnałów z Microsoft 365, takich jak wiadomości e-mail, czaty, spotkania, dokumenty i wzorce współpracy.

  Ta warstwa jest niezbędna do uziemienia sztucznej inteligencji w działaniach człowieka i zachowania organizacyjnego, a nie traktowania interakcji jako izolowanych monitów.

• Fabric IQ zapewnia analizę pochodzącą ze ustrukturyzowanych danych przedsiębiorstwa zarządzanych w Microsoft Fabric, w tym modele analiz, kluczowe wskaźniki wydajności (KPI) i jednostki biznesowe.

  Fabric IQ umożliwia sztucznej inteligencji odpowiadanie na złożone pytania analityczne i interpretowanie wyników w kontekście operacji biznesowych.

• Usługa Foundry IQ udostępnia ujednoliconą, wieloźródłową warstwę wiedzy, która umożliwia agentom sztucznej inteligencji pobieranie i uziemienie odpowiedzi w danych przedsiębiorstwa.

  Ta warstwa ma kluczowe znaczenie dla wdrażania podejść takich jak generowanie wspomagane wyszukiwaniem (RAG), co pomaga zapewnić, że wyniki generowane przez AI są dokładne, aktualne i zgodne z wymogami.

Architecture

Poniższy diagram przedstawia referencyjną architekturę czatu typu end-to-end, która wykorzystuje platformę Microsoft Foundry. Ta architektura referencyjna pokazuje, jak usługi sztucznej inteligencji składają się z gotowego do produkcji rozwiązania na Azure. Obejmuje warstwy zarządzania tożsamością, sieciowe, monitorowania i nadzoru.

Pobierz plik programu Visio tej architektury.

Na poprzednim diagramie przedstawiono typową implementację podstawowej sztucznej inteligencji. Aby zapoznać się z rzeczywistymi rozwiązaniami, które można tworzyć w Azure, zobacz Architektury sztucznej inteligencji.

Eksplorowanie architektur i przewodników dotyczących sztucznej inteligencji

Artykuły w tej sekcji zawierają przewodniki i w pełni opracowane architektury, które można wdrożyć w Azure i rozszerzyć na rozwiązania klasy produkcyjnej. Propozycje rozwiązań przedstawiają wzorce implementacji i opcje, które warto rozważyć podczas planowania rozwoju rozwiązania AI typu proof of concept (POC). Te artykuły mogą pomóc w podjęciu decyzji o sposobie używania technologii sztucznej inteligencji w Azure.

Przewodniki dotyczące sztucznej inteligencji

Poniższe artykuły ułatwiają ocenę i wybór najlepszych technologii sztucznej inteligencji dla wymagań dotyczących obciążenia:

• Opcje uczenia maszynowego: porównuje Azure Machine Learning produkty i technologie, aby ułatwić wybór odpowiedniej platformy do trenowania i wdrażania modeli.

Projekt agenta sztucznej inteligencji

• Wzorce orkiestracji agenta sztucznej inteligencji: opisuje wzorce projektowe do organizowania agentów sztucznej inteligencji w złożonych scenariuszach.

Opracowywanie i ewaluacja rozwiązania RAG

• Projektowanie rozwiązania RAG: zawiera omówienie sposobu projektowania i oceniania rozwiązań RAG.

• Faza przygotowania: obejmuje przygotowanie danych do implementacji RAG.

• Faza fragmentowania: opisuje strategie fragmentowania zawartości w potokach RAG.

• Faza wzbogacania fragmentów: obejmuje techniki wzbogacania stosowane do fragmentów zawartości.

• Etap tworzenia osadzeń: Opisuje sposób generowania osadzeń na potrzeby wyszukiwania w systemie RAG.

• Faza pobierania informacji: obejmuje strategie pobierania informacji w architekturach RAG.

• Faza kompleksowej oceny modelu: Opisuje, jak całościowo oceniać modele RAG.

Wielodostępne rozwiązanie RAG

• Projektowanie bezpiecznego wielodostępnego rozwiązania do wnioskowania RAG: zawiera wskazówki dotyczące zabezpieczania rozwiązań RAG w środowiskach wielodostępnych.

Operacje uczenia maszynowego

• Operacje uczenia maszynowego w wersji 2: Opisuje podejście do operacji uczenia maszynowego w wersji 2 na potrzeby operacjonalizacji przepływów pracy uczenia maszynowego.

• Generowanie operacji sztucznej inteligencji przy użyciu operacji uczenia maszynowego: rozszerza praktyki operacji uczenia maszynowego na generowanie obciążeń sztucznej inteligencji.

• Model dojrzałości operacji uczenia maszynowego: definiuje poziomy dojrzałości na potrzeby wdrażania operacji uczenia maszynowego.

Modele generatywne sztucznej inteligencji związane z serwerami proxy

• Użyj bramy przed modelami generowania: opisuje korzyści i architekturę umieszczenia bramy przed generowaniem punktów końcowych modelu sztucznej inteligencji.

• Użyj bramy przed wieloma modelami: rozszerza wzorzec bramy w celu kierowania żądań między wieloma zapleczami modelu.

• Udostępnianie niestandardowego uwierzytelniania modelom za pośrednictwem bramy: implementuje niestandardowe przepływy uwierzytelniania na potrzeby dostępu do modelu za pośrednictwem bramy.

• Wdrażanie zaawansowanego monitorowania modeli za pośrednictwem bramy: dodaje monitorowanie i obserwowalność do ruchu modeli generatywnej sztucznej inteligencji za pośrednictwem bramy.

Cykl życia modelu podstawowego

• Projektowanie pod kątem obsługi cykli życia modelu podstawowego: zawiera wskazówki dotyczące zarządzania aktualizacjami, wycofaniem i przejściami modelu podstawowego.

Architektury sztucznej inteligencji

Poniższe architektury gotowe do produkcji przedstawiają kompleksowe rozwiązania sztucznej inteligencji, które można wdrażać i dostosowywać.

Rozmowa z danymi

• Podstawowa architektura referencyjna czatu Microsoft Foundry: podstawowa architektura czatu RAG, która używa Microsoft Foundry i Azure OpenAI.

• Referencyjna architektura czatu rozwiązania Microsoft Foundry: kompletna architektura czatu gotowa do wdrożenia w środowisku produkcyjnym, która wykorzystuje Microsoft Foundry oraz zabezpieczenia, sieć i monitorowanie klasy korporacyjnej.

• Bazowa architektura czatu Microsoft Foundry w strefie docelowej platformy Azure: wdraża bazową architekturę czatu Microsoft Foundry w strefie docelowej platformy Azure, aby zapewnić ład korporacyjny na skalę przedsiębiorstwa.

Wnioskowanie uczenia maszynowego

• Bazowa architektura referencyjna inferencji Azure Machine Learning: opisuje prywatną architekturę inferencji Azure Machine Learning ukierunkowaną na środowisko produkcyjne, z hostowaniem w AKS, izolacją środowisk i kontrolowanym promowaniem modeli.

Przetwarzanie dokumentów

• Automatyzowanie klasyfikacji dokumentów: używa Durable Functions do automatyzowania przepływów pracy klasyfikacji dokumentów.

• Automatyzowanie przetwarzania formularzy PDF: automatyzuje wyodrębnianie i przetwarzanie danych z formularzy PDF.

• Tworzenie niestandardowych modeli przetwarzania dokumentów: kompiluje i wdraża niestandardowe modele na potrzeby scenariuszy przetwarzania dokumentów.

• Wiele indeksatorów z Wyszukiwanie AI platformy Azure: używa wielu indeksatorów do przetwarzania i indeksowania metadanych obiektu blob przy użyciu Wyszukiwanie AI platformy Azure.

Klasyfikacja wideo i obrazów

• Automatyzowanie analizy wideo: analizuje zawartość wideo przy użyciu przetwarzania obrazów i uczenia maszynowego.

Przetwarzanie audio

• Wyodrębnianie i analizowanie danych centrum połączeń: wyodrębnia i analizuje konwersacje w centrum obsługi telefonicznej przy użyciu Azure OpenAI.

Wymagania prawne

• Bezpieczne badania dotyczące regulowanych danych: zapewnia bezpieczne środowisko obliczeniowe dla obciążeń badawczych obsługujących regulowane dane.

Pomysły dotyczące rozwiązań sztucznej inteligencji

Poniższe pomysły dotyczące rozwiązań sztucznej inteligencji przedstawiają wzorce implementacji i możliwości do zbadania.

Przetwarzanie audio

• Uzyskaj wnioski z danych konwersacyjnych: wyodrębnia praktyczne wnioski z danych audio z rozmów.

Przetwarzanie obrazów

• Klasyfikacja obrazów: klasyfikuje obrazy przy użyciu inteligentnych wzorców aplikacji.

Analiza predykcyjna

• Prognozowanie zamówień klientów: przewiduje przyszłe zamówienia klientów przy użyciu uczenia maszynowego.

Operacje uczenia maszynowego

• Użyj Azure Databricks do organizowania operacji uczenia maszynowego: orkiestruje operacje uczenia maszynowego przy użyciu Azure Databricks.

• Wiele modeli z Machine Learning: Trenuje i zarządza wieloma modelami na dużą skalę przy użyciu Azure Machine Learning.

Przetwarzanie i wzbogacanie dokumentów

• Wyodrębnianie i mapowywanie informacji z zawartości nieustrukturyzowanej: wyodrębnia i mapuje informacje z zawartości wielomodalnej bez struktury.

• Generowanie dokumentów na podstawie danych: generuje dokumenty ustrukturyzowane ze źródeł danych.

• Korzystanie ze wzbogacania za pomocą AI w Wyszukiwanie AI platformy Azure: Wzbogaca zawartość przy użyciu zestawów umiejętności AI w potokach indeksowania usługi Wyszukiwanie AI platformy Azure.

• Wyodrębnianie tekstu przy użyciu Power Automate: wyodrębnia tekst z obiektów przy użyciu funkcji Power Automate i sztucznej inteligencji.

Automatyzacja przepływu pracy

• Utwórz rozwiązanie automatyzacji przepływu pracy wielu agentów przy użyciu Semantic Kernel: automatyzuje przepływy pracy przy użyciu wielu agentów sztucznej inteligencji zorganizowanych za pośrednictwem Semantic Kernel.

• Omówienie technologii sztucznej inteligencji: zawiera omówienie pojęć związanych ze sztuczną inteligencją, platform programistycznych i wzorców architektury, które ułatwiają projektowanie obciążeń sztucznej inteligencji na Azure.

Wybieranie usługi sztucznej inteligencji

Poniższe artykuły ułatwiają ocenę i wybór najlepszych technologii sztucznej inteligencji dla wymagań dotyczących obciążenia:

• Wybierz technologię usług sztucznej inteligencji: porównuje usługi sztucznej inteligencji i rozwiązania uczenia maszynowego, aby ułatwić wybór odpowiedniej usługi lub modelu dla danego przypadku użycia.

• Wybierz docelową technologię przetwarzania języka sztucznej inteligencji Azure: porównuje usługi Azure dla docelowych zadań przetwarzania języka, takich jak tłumaczenie, rozpoznawanie jednostek i analiza tekstu.

• Wybieranie technologii rozpoznawania i generowania mowy Azure: porównuje usługi Azure dla scenariuszy zamiany mowy na tekst, zamiany tekstu na mowę i tłumaczenia mowy.

• Wybierz technologię Azure AI do przetwarzania i generowania obrazów oraz wideo: porównuje usługi Azure do analizy obrazów i wideo, generowania i przetwarzania.

• Wybierz technologię przetwarzania języka naturalnego: porównuje Azure technologii przetwarzania języka naturalnego, aby ułatwić wybór odpowiedniej platformy do interpretacji tekstu i zadań generowania tekstu.

• Microsoft produktów sztucznej inteligencji i uczenia maszynowego: porównuje produkty Microsoft uczenia maszynowego, aby ułatwić wybór platformy do tworzenia, wdrażania i zarządzania aplikacjami sztucznej inteligencji, agentami i modelami uczenia maszynowego.

• Wybieranie odpowiedniego modelu sztucznej inteligencji dla obciążenia: opisuje strategie wybierania odpowiedniego modelu sztucznej inteligencji z wielu dostępnych opcji wdrażania.

Pomysły dotyczące rozwiązań sztucznej inteligencji

Poniższe pomysły dotyczące rozwiązań sztucznej inteligencji przedstawiają wzorce implementacji i możliwości do zbadania.

Pomysły na rozwiązanie do przetwarzania audio

• Zbuduj rozwiązanie do eksploracji wiedzy z rozmów przy użyciu narzędzi Foundry Tools: Umożliwia wyodrębnianie praktycznych wniosków z danych audio z rozmów.

Przetwarzanie obrazów

• Klasyfikacja obrazów w Azure: klasyfikuje obrazy przy użyciu inteligentnych wzorców aplikacji.

Analiza predykcyjna

• Prognozowanie zamówień klientów przy użyciu sztucznej inteligencji: przewiduje przyszłe zamówienia klientów przy użyciu uczenia maszynowego.

Pomysły dotyczące rozwiązań MLOps

• Użyj usługi Azure Databricks do orkiestracji procesów MLOps: Umożliwia orkiestrację operacji uczenia maszynowego za pomocą usługi Azure Databricks.

• Użyj podejścia architektury wiele modeli do skalowania modeli uczenia maszynowego: trenuje wiele modeli na dużą skalę i zarządza nimi przy użyciu Azure Machine Learning.

Przetwarzanie i wzbogacanie dokumentów

• Wyodrębnianie i mapowywanie informacji z zawartości nieustrukturyzowanej: wyodrębnia i mapuje informacje z zawartości wielomodalnej bez struktury.

• Generowanie dokumentów na podstawie danych: generuje dokumenty ustrukturyzowane ze źródeł danych.

• Wzbogacanie sztucznej inteligencji za pomocą przetwarzania obrazów i tekstu: wzbogaca zawartość przy użyciu zestawów umiejętności sztucznej inteligencji w potokach indeksowania Wyszukiwanie AI platformy Azure.

Automatyzacja przepływu pracy

• Utwórz rozwiązanie automatyzacji przepływu pracy wielu agentów przy użyciu platformy Microsoft Agent Framework: automatyzuje przepływy pracy przy użyciu wielu agentów sztucznej inteligencji zorganizowanych za pośrednictwem platformy Microsoft Agent Framework.

Architektury sztucznej inteligencji

Poniższe architektury gotowe do produkcji przedstawiają kompleksowe rozwiązania sztucznej inteligencji, które można wdrażać i dostosowywać.

• Wnioskowanie AI za pomocą wirtualnej sieci SAN Silk: używa kopii Silk Echo produkcyjnej bazy danych, aby odseparować wnioskowanie AI w czasie rzeczywistym od obciążeń transakcyjnych w Azure IaaS.

Rozmowa z danymi

• Podstawowa architektura referencyjna czatu Microsoft Foundry: podstawowa architektura czatu RAG, która używa Microsoft Foundry i Azure OpenAI.

• Referencyjna architektura czatu rozwiązania Microsoft Foundry: kompletna architektura czatu gotowa do wdrożenia w środowisku produkcyjnym, która wykorzystuje Microsoft Foundry oraz zabezpieczenia, sieć i monitorowanie klasy korporacyjnej.

• Architektura referencyjna czatu Microsoft Foundry w strefie docelowej Azure: wdraża architekturę czatu Microsoft Foundry w strefie docelowej Azure w celu zapewnienia ładu w skali przedsiębiorstwa.

Przetwarzanie dokumentów

• Automatyzowanie klasyfikacji dokumentów w Azure: używa Durable Functions do automatyzowania przepływów pracy klasyfikacji dokumentów.

• Automatyzowanie przetwarzania formularzy PDF: automatyzuje wyodrębnianie i przetwarzanie danych z formularzy PDF.

• Tworzenie i wdrażanie niestandardowych modeli przetwarzania dokumentów w Azure: kompiluje i wdraża niestandardowe modele na potrzeby scenariuszy przetwarzania dokumentów.

• Wyodrębnianie tekstu z obiektów przy użyciu Power Automate i AI Builder: wyodrębnia tekst z obiektów przy użyciu funkcji Power Automate i sztucznej inteligencji.

• Utwórz indeks Wyszukiwanie AI platformy Azure na podstawie zawartości i metadanych pliku: używa wielu indeksatorów do przetwarzania i indeksowania metadanych obiektów blob przy użyciu Wyszukiwanie AI platformy Azure.

Klasyfikacja wideo i obrazów

• Automatyzowanie analizy wideo przy użyciu Azure Machine Learning i Azure Vision w narzędziach Foundry Tools: analizuje zawartość wideo przy użyciu przetwarzania obrazów i uczenia maszynowego.

Architektury przetwarzania audio

• Wyodrębnianie i analizowanie danych centrum połączeń: wyodrębnia i analizuje konwersacje w centrum obsługi telefonicznej przy użyciu Azure OpenAI.

Regulatory

• Projektowanie bezpiecznego środowiska badawczego dla danych regulowanych: zapewnia bezpieczne środowisko obliczeniowe dla obciążeń badawczych obsługujących regulowane dane.

Przewodniki dotyczące sztucznej inteligencji

• Wzorzec dynamicznych agentów AI na dużą skalę: opisuje sposób dynamicznego wybierania i orkiestracji agentów AI z puli dostępnych agentów przy użyciu Microsoft Foundry, Wyszukiwanie AI platformy Azure i Azure OpenAI do tworzenia systemów wieloagentowych.

• Microsoft produktów sztucznej inteligencji i uczenia maszynowego: porównuje produkty Microsoft uczenia maszynowego, aby ułatwić wybór platformy do tworzenia, wdrażania i zarządzania aplikacjami sztucznej inteligencji, agentami i modelami uczenia maszynowego.

• Wzorce orkiestracji agenta sztucznej inteligencji: opisuje wzorce projektowe do organizowania agentów sztucznej inteligencji w złożonych scenariuszach.

• Projektowanie bezpiecznego wielodostępnego rozwiązania do wnioskowania RAG: zawiera wskazówki dotyczące zabezpieczania rozwiązań RAG w środowiskach wielodostępnych.

• Projektowanie pod kątem obsługi cykli życia modelu podstawowego: zawiera wskazówki dotyczące zarządzania aktualizacjami, wycofaniem i przejściami modelu podstawowego.

Opracowywanie i ocenianie rozwiązań RAG

• Projektowanie i opracowywanie rozwiązania RAG: zawiera omówienie sposobu projektowania i oceniania rozwiązań RAG.

• Faza przygotowania RAG: obejmuje przygotowanie danych na potrzeby wdrożeń RAG.

• Faza fragmentowania RAG: opisuje strategie fragmentowania zawartości w potokach RAG.

• Faza wzbogacania fragmentów w RAG: obejmuje techniki wzbogacania stosowane do fragmentów treści.

• Faza generowania osadzeń RAG: Opisuje sposób generowania osadzeń na potrzeby wyszukiwania w RAG.

• Pobieranie informacji: obejmuje strategie pobierania informacji w architekturach RAG.

• Inżynieria monitu RAG: opisuje sposób projektowania skutecznych monitów dla rozwiązań RAG, w tym struktury monitów, technik uziemienia i zarządzania kontekstem.

• Kompleksowa ocena dużego modelu językowego: Opisuje sposób kompleksowej oceny modeli RAG.

• Opracuj agentowe rozwiązanie RAG: Opisuje, jak przejść ze standardowego potoku RAG do agentowej architektury RAG umożliwiającej dynamiczne planowanie zapytań i wieloetapowe rozumowanie.

Przewodniki metodyki MLOps

• Operacje uczenia maszynowego: opisuje podejście do operacji uczenia maszynowego w wersji 2 na potrzeby operacjonalizacji przepływów pracy uczenia maszynowego.

• Operacje związane z generatywną sztuczną inteligencją dla organizacji z inwestycjami w MLOps: rozszerza praktyki MLOps na obciążenia związane z generatywną sztuczną inteligencją.

• Model dojrzałości MLOps: definiuje poziomy dojrzałości na potrzeby wdrażania operacji uczenia maszynowego.

Modele generatywne sztucznej inteligencji związane z serwerami proxy

• Uzyskiwanie dostępu do modeli Foundry i innych modeli językowych za pośrednictwem bramy: Opis korzyści i architektury umieszczenia bramy przed punktami końcowymi generatywnych modeli SI.

• Użyj bramy przed wieloma wdrożeniami lub wystąpieniami modelu: rozszerza wzorzec bramy w celu kierowania żądań między wieloma zapleczami modelu.

• Zapewnianie niestandardowego uwierzytelniania modelom Foundry za pośrednictwem bramy: Implementuje niestandardowe przepływy uwierzytelniania dla dostępu do modeli za pośrednictwem bramy.

• Wdróż zaawansowane monitorowanie modeli Foundry za pośrednictwem bramy: Dodaje monitorowanie i obserwowalność ruchu modeli generatywnej SI za pośrednictwem bramy.

Gotowość organizacji

Organizacje na początku procesu wdrażania chmury mogą używać Cloud Adoption Framework dla Azure aby uzyskać dostęp do sprawdzonych wskazówek, które przyspieszają wdrażanie chmury.

Aby uzyskać wskazówki dotyczące wdrażania specyficzne dla sztucznej inteligencji, zobacz następujące zasoby Cloud Adoption Framework:

• Wdrażanie sztucznej inteligencji: zapewnia ustrukturyzowany proces wdrażania rozwiązań sztucznej inteligencji w Azure, w tym strategii, planowania, gotowości, ładu, zabezpieczeń i zarządzania.

• Gotowość do pracy ze sztuczną inteligencją: przedstawia proces organizacyjny tworzenia obciążeń AI na platformie Azure, w tym organizację zasobów, sieci, niezawodność i nadzór.

Aby zapewnić jakość rozwiązania sztucznej inteligencji w Azure, postępuj zgodnie ze wskazówkami w przewodniku Azure Well-Architected Framework. Struktura Well-Architected zawiera normatywne wskazówki dla organizacji, które szukają doskonałości architektury i opisują sposób projektowania, aprowizacji i monitorowania rozwiązań platformy Azure zoptymalizowanych pod kątem kosztów.

Aby uzyskać wskazówki specyficzne dla sztucznej inteligencji, zobacz następujący zasób platformy Well-Architected:

• Obciążenia sztucznej inteligencji na Azure: rozwiązuje problemy związane z architekturą projektowania obciążeń sztucznej inteligencji, w tym nieokreślone funkcje, projektowanie danych i aplikacji oraz operacje w pięciu filarach platformy Well-Architected Framework.

Przewodniki po usługach Well-Architected Framework związanych ze sztuczną inteligencją można znaleźć tutaj:

• Azure Machine Learning
• Azure Databricks

Najlepsze rozwiązania

Postępuj zgodnie z tymi najlepszymi rozwiązaniami, aby zwiększyć niezawodność, bezpieczeństwo, efektywność kosztową, jakość operacyjną i wydajność obciążeń sztucznej inteligencji na Azure:

• Zaprojektuj i opracuj rozwiązanie RAG: Stosuj uporządkowane, etapowe podejście do projektowania rozwiązań RAG, obejmujące dzielenie tekstu na fragmenty, wektoryzację, pobieranie informacji i ocenę całościową.

• Wybierz usługę Azure do wyszukiwania wektorów: Oceń usługi Azure obsługujące wyszukiwanie wektorów, aby znaleźć najlepsze dopasowanie do wymagań dotyczących pobierania i wyszukiwania podobieństwa.

• Wzorce orkiestracji agentów sztucznej inteligencji: poznaj sprawdzone wzorce orkiestracji dla architektur wykorzystujących wielu agentów, w tym wzorce sekwencyjne, współbieżne, czatu grupowego, przekazywania oraz Magentic. Zapoznaj się z kwestiami związanymi z wdrożeniem dotyczącymi niezawodności, bezpieczeństwa, kosztów i obserwowalności.

• Użyj bramy przed modelami generatywnej sztucznej inteligencji: zaimplementuj wzorce bramy dostępowej do obsługi proxy, równoważenia obciążenia i monitorowania punktów końcowych modeli generatywnych.

• Operacje uczenia maszynowego w wersji 2: Stosowanie kompleksowego cyklu życia uczenia maszynowego na potrzeby trenowania, wdrażania i zarządzania modelami uczenia maszynowego na dużą skalę.

• Operacje związane z generatywną sztuczną inteligencją z wykorzystaniem operacji uczenia maszynowego: Rozszerz praktyki operacyjne uczenia maszynowego na obciążenia związane z generatywną sztuczną inteligencją, w tym zarządzanie promptami, ocenę i wdrażanie.

• Zaprojektuj bezpieczne wielodzierżawne rozwiązanie RAG do wnioskowania: stosuj wzorce wielodzierżawności dla rozwiązań RAG, które zapewniają izolację danych i bezpieczne wnioskowanie w środowisku wielu dzierżaw.

• Projektowanie z myślą o obsłudze cyklu życia modelu bazowego: Zarządzaj wersjonowaniem modeli, ich wycofywaniem i rotacją, aby utrzymać obciążenia robocze AI w aktualnym stanie i zapewnić ich odporność.

• Opcje uczenia maszynowego: porównaj opcje trenowania i wdrażania uczenia maszynowego w Azure, aby wybrać odpowiednie usługi dla obciążenia.

• Wskazówki dotyczące platformy Apache Spark: Zapoznaj się z wytycznymi dotyczącymi uruchamiania, monitorowania, debugowania i optymalizowania zadań platformy Apache Spark w Azure HDInsight.

Bądź na bieżąco ze sztuczną inteligencją

Usługi Azure AI rozwijają się, aby sprostać współczesnym wyzwaniom związanym z danymi. Bądź na bieżąco z najnowszymi aktualizacjami i funkcjami.

Aby być na bieżąco z kluczowymi usługami sztucznej inteligencji, zobacz następujące artykuły:

• Co nowego w programie Azure OpenAI w modelach usługi Foundry: zawiera podsumowanie najnowszych wersji i aktualizacji dokumentacji dotyczących platformy Azure OpenAI, w tym nowej dostępności modelu, wersji interfejsu API i anonsów funkcji.

• Co nowego w Microsoft Foundry: Przedstawia najważniejsze artykuły i aktualizacje produktów w Microsoft Foundry, w tym nadzór nad agentami, funkcje monitorowania i nowe możliwości.

• Nowości w usłudze Wyszukiwanie AI platformy Azure: Omówienie obejmuje najnowsze aktualizacje funkcjonalności usługi Wyszukiwanie AI platformy Azure, w tym nowe wersje interfejsu API, funkcje wyszukiwania agentowego oraz możliwości indeksowania.

• Co nowego w narzędziu Azure Language in Foundry Tools: obejmuje aktualizacje funkcji języka Azure w narzędziach Foundry, w tym nowe wersje zestawu SDK, przepływy pracy orkiestracji i integrację Microsoft Foundry.

• Co nowego w Microsoft Fabric: obejmuje aktualizacje funkcji Microsoft Fabric, w tym nauki o danych, integracji MLflow, agentów danych i funkcji analitycznych.

• Informacje o wersji interfejsu wiersza polecenia i zestawu SDK usługi Azure Machine Learning: zawiera informacje o wersji interfejsu wiersza polecenia usługi Azure Machine Learning (v2) i zestawu Python SDK, w tym o nowych funkcjach, poprawkach błędów i istotnych zmianach powodujących niezgodność.

• informacje o wersji platformy Azure Databricks: obejmuje aktualizacje platformy Azure Databricks, w tym wersje środowiska uruchomieniowego, funkcje obszaru roboczego i możliwości integracji.

• Co nowego w Microsoft Copilot Studio: wyróżnia nowe funkcje i aktualizacje dla Microsoft Copilot Studio, w tym możliwości tworzenia agenta i aktualizacji łącznika.

• Co nowego w usłudze Azure Document Intelligence w narzędziach Foundry Tools: Opisuje aktualizacje usługi Azure Document Intelligence w narzędziach Foundry Tools, w tym nowe gotowe modele, wersje interfejsu API i możliwości ekstrakcji.

• Co nowego w narzędziu Azure Content Understanding w narzędziach Foundry: obejmuje aktualizacje usługi Azure Content Understanding w narzędziach Foundry, w tym nowe funkcje analizy zawartości i integracja Microsoft Foundry.

Specjaliści ds. usług Amazon Web Services (AWS) lub Google Cloud

Aby ułatwić szybkie wdrożenie, poniższe artykuły porównują opcje usługi Azure AI z innymi usługami chmurowymi:

• Dane i sztuczna inteligencja: porównuje usługi AWS związane z danymi i sztuczną inteligencją, w tym uczenie maszynowe, generatywną sztuczną inteligencję i usługi platform AI, z ich odpowiednikami na platformie Azure.

• Sztuczna inteligencja i uczenie maszynowe: porównuje usługi sztucznej inteligencji i uczenia maszynowego Google Cloud, w tym Vertex AI, Dialogflow i Gemini, z ich odpowiednikami w usłudze Azure.