Erhöhen Sie Ihren Reifegrad für Generative Artificial Intelligence Operations (GenAIOps)

Generative Artificial Intelligence Operations, oder GenAIOps (manchmal als LLMOps bezeichnet), beschreibt die operativen Praktiken und Strategien für die Verwaltung großer Sprachmodelle (LLMs) in der Produktion. Dieser Artikel enthält Anleitungen dazu, wie Sie Ihre Funktionen in GenAIOps basierend auf dem aktuellen Reifegrad Ihrer Organisation voranbringen.

Verwenden Sie die nachstehenden Beschreibungen, um Ihre GenAIOps Maturity Model Ranking Level zu finden. Diese Ebenen bieten ein allgemeines Verständnis und eine praktische Anwendungsebene Ihrer Organisation. Die Richtlinien bieten Ihnen hilfreiche Links, um Ihre GenAIOps-Wissensbasis zu erweitern.

Ebene 1 – anfänglich

Beschreibung: Ihre Organisation befindet sich in der anfanglichen Phase der GenAIOps-Reife. Sie untersuchen die Funktionen von LLMs, haben aber noch keine strukturierten Praktiken oder systematischen Ansätze entwickelt.

Machen Sie sich zunächst mit verschiedenen LLM-APIs und ihren Funktionen vertraut. Beginnen Sie als Nächstes mit dem Experimentieren mit strukturiertem Prompt-Design und grundlegender Prompt-Programmierung. Lesen Sie die Artikel in Microsoft Learn als Ausgangspunkt. Aufbauend auf dem, was Sie gelernt haben, erfahren Sie, wie Sie grundlegende Metriken für die Leistungsbewertung von LLM-Anwendungen einführen.

Vorgeschlagene Referenzen für die Weiterentwicklung der Ebene 1

• Gießerei-Modellkatalog
• Erkunden Sie den Microsoft Foundry Portal Modellkatalog
• Einführung in prompt Engineering
• Techniken des Prompt-Engineering
• Systemnachrichtenframework
• Aufforderungsfluss im Findry-Portal
• Bewerten von GenAI-Anwendungen mit Foundry
• GenAI Bewertungs- und Überwachungsmetriken mit Foundry

Um GenAIOps besser zu verstehen, sollten Sie Microsoft Lernkurse und Workshops in Betracht ziehen:

• Erste Schritte mit KI-Anwendungen und Agents auf Azure
• GenAI für Anfängerkurs

Ebene 2 – definiert

Beschreibung: Ihre Organisation hat mit der Systematisierung von LLM-Vorgängen begonnen und konzentriert sich auf strukturierte Entwicklung und Experimente. Es gibt jedoch Platz für anspruchsvollere Integration und Optimierung.

Um Ihre Fähigkeiten und Fähigkeiten zu verbessern, erfahren Sie, wie Sie komplexere Eingabeaufforderungen entwickeln und effektiv in Anwendungen integrieren. Implementieren Sie einen systematischen Ansatz für die LLM-Anwendungsbereitstellung, um möglicherweise die CI/CD-Integration zu untersuchen. Beginnen Sie mit der Verwendung komplexerer Auswertungsmetriken wie Grundheit, Relevanz und Ähnlichkeit. Konzentrieren Sie sich auf die Sicherheit von Inhalten und ethische Überlegungen in der LLM-Nutzung.

Vorgeschlagene Referenzen für die Weiterentwicklung der Ebene 2

• Machen Sie unseren Schritt-für-Schritt-Workshop, um Ihre GenAIOps-Praktiken zu erhöhen.
• Aufforderungsfluss im Findry-Portal
• So bauen Sie mit Prompt Flow
• Bereitstellen eines Flusses als verwalteter Onlineendpunkt für Real-Time Inference
• Integrieren des Eingabeaufforderungsflusses in GenAIOps
• GenAI-Auswertung mit Foundry
• GenAI Evaluierungs- und Überwachungsmetriken
• Azure Content-Sicherheit
• Verantwortungsvolle KI-Tools und Praktiken

Ebene 3 – verwaltet

Beschreibung: Ihre Organisation verwaltet erweiterte LLM-Workflows mit proaktiver Überwachung und strukturierten Bereitstellungsstrategien. Sie sind in der Nähe, operative Exzellenz zu erreichen.

Um Ihre Wissensbasis zu erweitern, konzentrieren Sie sich auf kontinuierliche Verbesserung und Innovation in Ihren LLM-Anwendungen. Verbessern Sie Ihre Überwachungsstrategien mit Predictive Analytics und umfassenden Sicherheitsmaßnahmen für Inhalte. Erfahren Sie, wie Sie Ihre LLM-Anwendungen für bestimmte Anforderungen optimieren und feinabstimmen können. Stärken Sie Ihre Asset Management-Strategien durch erweiterte Versionssteuerungs- und Rollbackfunktionen.

Vorgeschlagene Referenzen für die Weiterentwicklung der Stufe 3

• Entwickeln von generativen KI-Apps auf Microsoft Foundry
• Modellanpassung mit Feinabstimmung
• GenAI-Modellüberwachung
• LLM-Apps mit GenAIOps in die Produktion bringen

Ebene 4 – optimiert

Beschreibung: Ihre Organisation demonstriert die operative Exzellenz in GenAIOps. Sie haben einen anspruchsvollen Ansatz für die LLM-Anwendungsentwicklung, -bereitstellung und -überwachung.

Während sich LLMs weiterentwickeln, behalten Sie Ihre Spitzenposition bei, indem Sie mit den neuesten LLM-Fortschritten auf dem neuesten Stand bleiben. Bewerten Sie kontinuierlich die Ausrichtung Ihrer LLM-Strategien mit sich entwickelnden Geschäftszielen. Fördern Sie eine Innovationskultur und ein kontinuierliches Lernen in Ihrem Team. Teilen Sie Ihr Wissen und bewährte Methoden mit der breiteren Community, um die Denken-Führung auf dem Gebiet zu etablieren.

Vorgeschlagene Verweise für erweiterte Techniken

• Modellkatalog
• Bewertung von GenAI-Anwendungen