Narzędzia i zestawy SDK ekosystemu platformy .NET i sztucznej inteligencji

Ekosystem platformy .NET udostępnia wiele zaawansowanych narzędzi, bibliotek i usług do tworzenia aplikacji sztucznej inteligencji. Platforma .NET obsługuje zarówno połączenia modelu chmury, jak i lokalnego modelu sztucznej inteligencji, wiele różnych zestawów SDK dla różnych usług sztucznej inteligencji i baz danych wektorów oraz inne narzędzia ułatwiające tworzenie inteligentnych aplikacji o różnym zakresie i złożoności.

Decydowanie o tym, które narzędzie ma być używane

W poniższej tabeli przedstawiono zalecenia dotyczące technologii do użycia na podstawie różnych celów.

Większość produkcyjnych aplikacji sztucznej inteligencji łączy kilka składników:

• Aplikacja do czatu lub podsumowania: MEAI i oceny
• Aplikacja RAG: MEDI + MEVD + MEAI
• System z wieloma agentami: MEAI + MAF + Aspire
• Współdziałanie narzędzi: MEAI + MCP Server + MCP Client
• Aplikacja w chmurze dla przedsiębiorstw: MEAI + Microsoft Foundry +Aspire
• Aplikacja działająca lokalnie w pierwszej kolejności: MEAI + Foundry Local + Foundry Toolkit (tworzenie)

Użyj tych praktycznych reguł, aby szybko wybrać:

• Zacznij od Microsoft.Extensions.AI dla większości funkcji sztucznej inteligencji na poziomie aplikacji.
• Dodaj Microsoft.Extensions.DataIngestion i Microsoft.Extensions.VectorData, gdy uzasadniasz odpowiedzi własnymi danymi.
• Użyj MCP, gdy funkcje muszą być współdzielone między procesami lub produktami.
• Przejdź na Agent Framework, gdy prompty jednoetapowe stają się wieloetapowymi przepływami pracy.
• Dodaj oceny, gdy zachowanie jest wystarczająco przydatne, aby zmierzyć i chronić przed regresjami.

biblioteki Microsoft.Extensions.AI

Microsoft.Extensions.AI to zestaw podstawowych bibliotek platformy .NET, które zapewniają ujednoliconą warstwę abstrakcji języka C# na potrzeby interakcji z usługami sztucznej inteligencji, takimi jak małe i duże modele językowe (SLM i LLM), osadzanie i oprogramowanie pośredniczące. Te interfejsy API zostały utworzone we współpracy z deweloperami w ekosystemie platformy .NET. Interfejsy API niskiego poziomu, takie jak IChatClient i IEmbeddingGenerator<TInput,TEmbedding>, zostały wyodrębnione z jądra semantycznego i przeniesione do Microsoft.Extensions.AI przestrzeni nazw.

Microsoft.Extensions.AI zapewnia abstrakcje, które mogą być implementowane przez różne usługi, wszystkie przestrzegając tych samych podstawowych pojęć. Ta biblioteka nie jest przeznaczona do dostarczania interfejsów API dostosowanych do usług określonego dostawcy. Microsoft.Extensions.AI Celem jest działanie jako ujednolicająca warstwa w ekosystemie platformy .NET, umożliwiając deweloperom wybór preferowanych struktur i bibliotek przy jednoczesnym zapewnieniu bezproblemowej integracji i współpracy w ekosystemie.

Interfejs MEAI zapewnia deweloperom .NET czystą abstrakcję interakcji z modelem. Jest ona naturalnie zgodna z iniekcją zależności, konfiguracją i istniejącymi architekturami aplikacji i jest zwykle pierwszą warstwą aplikacji z obsługą sztucznej inteligencji .NET.

Samo MEAI nie jest frameworkiem agentowym. Pojedyncze wywołanie, funkcję czatu lub pętlę wywołań narzędzi można zbudować w MEAI bez nadawania im charakteru agentowego. Gdy system wymaga ukierunkowanej na cel, wieloetapowej orkiestracji, należy zamiast tego użyć MAF.

Aby uzyskać więcej informacji, zobacz Microsoft.Extensions.AI overview.

Biblioteki ewaluacyjne

Biblioteka Microsoft.Extensions.AI.Evaluation stanowi warstwę zapewniania jakości i testów regresji dla funkcji AI tworzonych przy użyciu stosu AI platformy .NET. Zachowanie sztucznej inteligencji zmienia się łatwo w miarę rozwoju monitów, modeli i narzędzi. Biblioteka ocen zapewnia zespołom powtarzalny sposób porównywania danych wyjściowych i przechwytywania regresji.

Aby uzyskać więcej informacji, zobacz Microsoft. Extensions.AI.Evaluation libraries.

Microsoft.Extensions.DataIngestion (MEDI)

Microsoft. Extensions.DataIngestion to warstwa pozyskiwania i przygotowywania danych gotowych do użycia sztucznej inteligencji w .NET.

Wiele aplikacji AI zawodzi już na etapie wyszukiwania danych, ponieważ dane są chaotyczne, zbyt obszerne lub źle ustrukturyzowane. Jakość pozyskiwania danych w dużym stopniu wpływa na jakość końcowych odpowiedzi. MEDI przygotowuje i modeluje dane, które MEVD lub inny magazyn danych będzie później odpytywać.

Aby uzyskać więcej informacji, zobacz Pozyskiwanie danych dla aplikacji sztucznej inteligencji.

Microsoft. Extensions.VectorData (MEVD)

Microsoft. Extensions.VectorData to warstwa magazynu danych wektorowych i pobierania na potrzeby wyszukiwania semantycznego, wyszukiwania podobieństwa i uziemienia w aplikacjach sztucznej inteligencji .NET.

Usługa MEVD zapewnia aplikacjom .NET spójny sposób pracy z magazynami wektorów i pomaga oddzielić magazyn wektorów i obawy dotyczące pobierania od problemów związanych z wywołaniem modelu.

Aby uzyskać więcej informacji, zobacz Omówienie magazynów wektorowych.

Serwer MCP

Serwer MCP udostępnia możliwości, takie jak narzędzia, zasoby lub prompty, za pośrednictwem Model Context Protocol, dzięki czemu inni asystenci, środowiska IDE i agenci mogą je wykrywać i używać za pomocą standardowego protokołu.

Serwer MCP przekształca możliwości aplikacji w punkty końcowe dostępne z użyciem sztucznej inteligencji. Zmniejsza ona zduplikowane prace związane z integracją narzędzi między asystentami i tworzy bardziej czytelną granicę między dostawcami możliwości i użytkownikami możliwości.

Serwer MCP służy do udostępniania funkcji. Jeśli funkcja jest używana tylko w jednej aplikacji, zwykłe wywołania funkcji w procesie są prostsze.

Klient MCP

Klient MCP stanowi stronę kliencką protokołu: łączy się z serwerami MCP i udostępnia w aplikacji, asystencie lub środowisku uruchomieniowym agenta oferowane przez nie funkcje.

Klient MCP polega na używaniu możliwości, a nie publikowaniu ich. Jeśli wszystko, czego potrzebuje aplikacja, znajduje się lokalnie i działa w tym samym procesie, zwykłe wywoływanie funkcji lub narzędzi jest nadal prostsze.

Aby uzyskać więcej informacji, zobacz Wprowadzenie do MCP.

Microsoft Agent Framework (MAF)

Microsoft Agent Framework to warstwa orkiestracji dla systemów prawdziwie agentowych: dążą one do osiągnięcia celu w wielu krokach, podejmują po drodze decyzje, korzystają z narzędzi i mogą koordynować pracę wielu agentów.

Nie każda funkcja sztucznej inteligencji wymaga narzędzia MAF. Jeśli bezpośrednie wywołanie MEAI lub prosta pętla wywoływania narzędzi rozwiąże ten problem, użyj prostszego podejścia. MAF ma znaczenie wtedy, gdy prawdziwym wyzwaniem jest złożoność orkiestracji, a nie tylko sam dostęp do modelu.

Aby uzyskać więcej informacji, zobacz Omówienie platformy Microsoft Agent Framework.

Zestaw narzędzi Foundry

Foundry Toolkit to pakiet rozszerzeń programu VS Code do tworzenia sztucznej inteligencji, który przyspiesza eksperymentowanie z modelami, monitami, agentami i ocenami.

Foundry Toolkit nie jest podstawową architekturą środowiska uruchomieniowego dla aplikacji produkcyjnej. Uzupełnia MEAI, Evaluations i Foundry Local.

Aby uzyskać więcej informacji, zobacz Foundry Toolkit for Visual Studio Code.

Copilot SDK

SDK Copilot to gotowy szkielet agenta i środowisko uruchomieniowe, które od razu zapewnia narzędzia, kontekst i automatyczne wywoływanie narzędzi.

Copilot SDK narzuca więcej założeń i jest bardziej wstępnie skonfigurowany niż MEAI. Jeśli Twoim celem jest w pełni niestandardowa architektura aplikacji, bezpośrednia kompozycja MEAI lub MAF może być lepszym rozwiązaniem.

Aby uzyskać więcej informacji, zobacz repozytorium zestawu SDK Copilot.

Microsoft Foundry

Microsoft Foundry to zarządzana warstwa platformy w chmurze dla rozwiązań sztucznej inteligencji dla przedsiębiorstw, z dwiema podstawowymi funkcjami: zarządzanie modelem i hostowanymi agentami.

Microsoft Foundry nie jest abstrakcją programowania dla aplikacji; MEAI nadal odgrywa rolę w kodzie .NET. Microsoft Foundry staje się właściwym liderem, gdy prawdziwym pytaniem jest to, gdzie działa model i w ramach jakich kontrolek.

Aby uzyskać więcej informacji, zobacz dokumentację Microsoft Foundry.

Lokalna Odlewnia

Foundry Local to lokalna opcja programowania i wdrażania lokalnego dla zespołów, które muszą utrzymywać obciążenia sztucznej inteligencji blisko maszyny lub środowiska.

Usługa Foundry Local dotyczy ścieżki programowania i wdrażania, a nie samej architektury aplikacji wyższego poziomu. Przenoszenie ze środowiska lokalnego do chmury nie jest prostym przeniesieniem „jeden do jednego”, dlatego należy oczekiwać różnic w funkcjach, modelu hostowania i operacjach.

Aby uzyskać więcej informacji, zobacz dokumentację lokalną usługi Foundry.

Aspire

Aspire to warstwa orkiestracji, łączenia usług i obserwowalności dla rozproszonych aplikacji .NET, w tym systemów AI obejmujących wiele usług.

Systemy AI często przestają być „tylko jedną aplikacją”, gdy w grę wchodzą mechanizmy wyszukiwania, narzędzia, bramki i usługi robocze. Aspire pomaga zespołom zachować zrozumiałość i obserwowalność tych elementów, a jego wizualizacje ułatwiają śledzenie przepływów AI między usługami.

Aspire nie jest bezpośrednio środowiskiem uruchomieniowym AI; to wielousługowa warstwa aplikacyjna wokół niego. Nie zastępuje MEAI, MAF ani Microsoft Foundry.

Aby uzyskać więcej informacji, zobacz dokumentacjęAspire.