Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
Was ist eine Transparenznotiz?
Ein KI-System umfasst nicht nur die Technologie, sondern auch die Personen, die es nutzen werden, die Menschen, die davon betroffen sind, und die Umgebung, in der sie bereitgestellt wird. Die Schaffung eines Systems, das für seinen vorgesehenen Zweck geeignet ist, erfordert ein Verständnis dafür, wie die Technologie funktioniert, ihre Möglichkeiten und Einschränkungen und wie die beste Leistung erreicht wird.
Microsoft stellt Transparenzhinweise bereit, die Ihnen helfen, zu verstehen, wie unsere KI-Technologie funktioniert. Dies betrifft auch die Entscheidungen, die Systembesitzer*innen treffen können, die die Systemleistung und das Systemverhalten beeinflussen, und die Wichtigkeit, das gesamte System zu betrachten, einschließlich der Technologie, der Menschen und der Umgebung. Sie können Transparenzhinweise verwenden, wenn Sie Ihr eigenes System entwickeln oder bereitstellen, oder sie mit den Personen teilen, die ihr System verwenden oder davon betroffen sind.
Transparenzhinweise sind Teil eines umfassenderen Aufwands bei Microsoft, unsere AI-Prinzipien in die Praxis umzusetzen.
Einführung in Phi-Silika
Phi Silika ist ein kleines Sprachmodell (SLM), das für die On-Device-Inference auf Windows abgestimmt ist. Es ermöglicht lokale generative KI-Funktionen , einschließlich Textgenerierung, Zusammenfassung, Umschreibung und Text-zu-Tabelle-Transformation , ohne dass eine Cloudverbindung erforderlich ist. Durch die vollständige Ausführung auf dem Gerät unterstützt Phi Silica die Privatsphäre der Benutzer, indem Sie Eingabeaufforderungen und Antworten lokal halten.
Phi Silika wurde ursprünglich ausschließlich für Windows Copilot+ PCs entwickelt und optimiert, darunter eine Neural Processing Unit (NPU), die 40+ TOPS dedizierter KI-Compute bereitstellt. Mit dieser Erweiterung ist Phi Silika jetzt auf non-Copilot+ PCs – Standard-Windows-Geräten, die keine dedizierte NPU besitzen – verfügbar, wo Rückschlüsse mithilfe der GPU des Geräts durchgeführt werden.
Schlüsselbegriffe
| Begriff | Definition |
|---|---|
| Copilot+ PC | Ein Windows-PC mit einer dedizierten Neural Processing Unit (NPU), die die Schwelle von 40+ TOPS erreicht und speziell für beschleunigte KI-Workloads auf dem Gerät entwickelt wurde. |
| PC ohne Copilot+ | Ein Standard-Windows-PC ohne dedizierte NPU (oder mit einer NPU unter dem Copilot+-Schwellenwert). Die Phi-Silika-Ableitung auf diesen Geräten erfolgt über die GPU. |
| NPU (Neural Processing Unit) | Spezielle Hardware, die entwickelt wurde, um Machine Learning-Workloads mit hoher Effizienz und geringem Stromverbrauch zu beschleunigen. |
| SLM (Kleines Sprachmodell) | Ein für die lokale Ausführung direkt auf dem Gerät optimiertes Sprachmodell mit weniger Parametern als cloudbasierte große Sprachmodelle (LLMs). |
| Spekulative Decodierung | Eine Technik, die ein kleineres Entwurfsmodell verwendet, um mehrere Tokensequenzen vorzuschlagen, die dann parallel vom Hauptmodell überprüft werden, um die Textgenerierung zu beschleunigen. |
| Inhaltsmoderation | Filtermechanismen, die schädliche, anstößige oder unsichere Inhalte in Modelleingaben und -ausgaben erkennen und blockieren. |
Fähigkeiten
Systemverhalten
Phi Silika verarbeitet Natürliche Sprachaufforderungen auf dem Gerät und generiert Textantworten. Das Modell unterstützt Folgendes:
- Freiform-Textgenerierung: Beantworten von Fragen, Bereitstellen von Erklärungen und Generieren von kreativen Inhalten aus Benutzeraufforderungen.
- Fähigkeiten zur Textintelligenz: Integrierte Transformationsfunktionen, einschließlich Zusammenfassung, Umschreiben (mit Tonanpassung) und Text-zu-Tabellen-Formatierung.
- Streaming-Antworten: Teilergebnisse werden schrittweise zurückgegeben, um ein reaktionsschnelles Benutzererlebnis zu ermöglichen.
- Integration der Inhaltsmoderation: Konfigurierbare Inhaltsfilterung in vier Kategorien (Gewalt, Hass, sexueller Inhalt, Selbstverletzung) auf mehreren Schweregraden.
Auf Copilot+ PCs nutzt Phi Silica die NPU-Hardware für eine optimierte Ableitung mit geringerer Latenz und reduziertem Stromverbrauch. Bei nicht Copilot+ PCs wird die Ableitung auf der GPU ausgeführt. Das zugrunde liegende Modell und seine Fähigkeiten bleiben gleich; Die betrieblichen Merkmale unterscheiden sich jedoch (siehe Einschränkungen).
Anwendungsfälle
Beabsichtigte Verwendungen
- Unterstützung beim Schreiben in der App: Zusammenfassen von Dokumenten, Umschreiben von Text für Klarheit oder Ton und Generieren von Entwürfen in Produktivitätsanwendungen.
- Lokaler F&A- und Informationsabruf: Antworten auf faktenbezogene Fragen mithilfe der Schulungsdaten des Modells, ohne Benutzerabfragen an einen Clouddienst zu übertragen.
- Bedienungshilfen: Vereinfachung komplexer Texte, Erstellen von Beschreibungen und Unterstützung von Benutzern, die von KI-gestütztem Lesen und Schreiben profitieren.
- Entwickler-Prototyperstellung: Anwendungsentwickler können lokale KI-Textgenerierung für Test- und Machbarkeitsszenarien integrieren.
- Datenschutzbezogene Workflows: Szenarien, in denen Datenhoheit, Offlinebetrieb oder Datenschutzanforderungen der Benutzer die Verwendung cloudbasierter KI-Dienste ausschließen.
Überlegungen bei der Auswahl von Anwendungsfällen
- Verwenden Sie nicht für entscheidungen mit hohem Einsatz ohne menschliche Aufsicht. Phi Silika wie alle Sprachmodelle können ungenaue, unvollständige oder hergestellte Informationen (Halluzinationen) erzeugen. Anträge, die medizinische, rechtliche, finanzielle oder sicherheitskritische Entscheidungen informieren, müssen eine sinnvolle menschliche Überprüfung umfassen.
- Verwenden Sie dies nicht als alleinige Quelle sachlicher Wahrheit. Die Schulungsdaten des Modells weisen einen Wissensschnitt auf und können Verzerrungen oder Ungenauigkeiten enthalten. Ermutigen Sie die Benutzer, wichtige Informationen aus autoritativen Quellen zu überprüfen.
- Seien Sie vorsichtig mit vertraulichen personenbezogenen Daten. Während die Verarbeitung auf dem Gerät den Datenschutz verbessert, sollten Entwickler das Entwerfen von Workflows vermeiden, die das Modell mit vertraulichen persönlichen Informationen (z. B. Integritätsdatensätzen, Finanzdetails) auffordern, es sei denn, geeignete Garantien sind vorhanden.
- Berücksichtigen Sie die erweiterte Benutzerbasis. Die Erweiterung auf Nicht-Copilot+ PCs erweitert die Benutzerpopulation erheblich, einschließlich Geräten mit unterschiedlichen Hardwarefunktionen und Benutzern mit vielfältiger technischer Kompetenz. Entwerfen Sie Ihre Anwendung so, dass leistungsabweichungen ordnungsgemäß behandelt werden, und stellen Sie den Benutzern klare Erwartungen bereit.
Einschränkungen
Technische Einschränkungen, die für nicht Copilot+ PCs spezifisch sind
| Faktor | Copilot+ PCs (NPU) | PCs ohne Copilot+ (GPU) |
|---|---|---|
| Ableitungslatenz | Optimiert; geringe Latenz durch NPU-Beschleunigung und spekulative Decodierung | Höhere Latenz; Die Ableitungsgeschwindigkeit hängt von der GPU-Generierung, verfügbaren VRAM und der aktuellen GPU-Auslastung ab. |
| Stromverbrauch | NPU ist energieeffizient, geeignet für batteriebetriebene Nutzung | GPU-Ableitung verbraucht mehr Leistung; kann die Akkulaufzeit auf Laptops erheblich beeinträchtigen |
| Gleichzeitige Workloads | NPU arbeitet unabhängig und minimiert die Auswirkungen auf andere Vorgänge. | DIE GPU-Ableitung konkurriert mit anderen GPU-beschleunigten Anwendungen (Rendering, Videowiedergabe, Spiele) für Computeressourcen; kann zu Systemabschwächungen führen |
| Thermische Wirkung | NPU entwickelt für anhaltende KI-Workloads bei geregeltem Wärmemanagement | Erweiterte GPU-Ableitung kann zu einer thermischen Drosselung auf Geräten führen, die nicht für dauerhafte GPU-Computelasten ausgelegt sind. |
| Speicherdruck | Verwaltung von Modellladen und Inferenz gemeinsam mit dem NPU-Speicher | Das Modell muss in den GPU-VRAM (oder den gemeinsam genutzten GPU-Speicher) geladen werden; Geräte mit begrenztem VRAM können unter Speicherdruck geraten oder auf den langsameren gemeinsam genutzten Speicher zurückfallen. |
| Prompt-Komprimierung | ✅ Verfügbar; ermöglicht längere effektive Kontextfenster | ❌ Nicht verfügbar auf GPU |
| Spekulative Decodierung | ✅ Verfügbar; beschleunigt die Textgenerierung mithilfe eines Entwurfsmodells | ❌ Nicht verfügbar auf GPU |
| Modelloptionalität | Das Modell wird vom System verwaltet. | Das Modell wird bei Bedarf heruntergeladen und kann vom Benutzer über Einstellungen>System>AI Components entfernt werden. |
Allgemeine technische Einschränkungen
- Genauigkeit und Halluzinationen: Phi Silica kann plausibel klingende, aber faktisch falsche Antworten erzeugen. Die Ausgabequalität des Modells ändert sich nicht zwischen NPU- und GPU-Ausführung, aber die verringerte Reaktionsfähigkeit bei Nicht-Copilot+ PCs kann dazu führen, dass Benutzer anfängliche Ausgaben ohne kritische Überprüfung akzeptieren.
- Sprachunterstützung: Die Sprachfunktionen von Phi Silika werden durch ihre Schulungsdaten bestimmt. Die Leistung kann in verschiedenen Sprachen variieren, und einige Sprachen werden möglicherweise nicht unterstützt. Phi-Silika-Features sind in China nicht verfügbar.
- Einschränkungen des Kontextfensters: Das Modell verfügt über ein festes Kontextfenster. Lange Prompts oder mehrstufige Gespräche können dieses Fenster überschreiten, was zum Verlust von früherem Kontext führen kann.
- Voreingenommenheit und Fairness: Das Modell kann Verzerrungen in seinen Schulungsdaten widerspiegeln, einschließlich Stereotypen im Zusammenhang mit Geschlecht, Rasse, EthnischerItät, Religion oder anderen Merkmalen. Entwickler sollten die Ausgaben hinsichtlich Fairness über alle Bevölkerungsgruppen hinweg bewerten, die ihre Anwendung bedient.
- Adversarielle Eingaben: Das Modell kann anfällig für Prompt-Injection- oder Jailbreak-Versuche sein. Filter zur Inhaltsmoderation mindern dieses Risiko, beseitigen es aber nicht.
Betriebliche Faktoren für Nicht-Copilot+-PCs
- Hardware-Vielfalt: Nicht Copilot+ PCs umfassen eine vielzahl von GPU-Konfigurationen (integrierte vs. diskrete GPUs, unterschiedliche VRAM-Kapazitäten, unterschiedliche GPU-Architekturen). Die Leistung variiert in diesem Gerätespektrum erheblich.
- Mindesthardwareanforderungen: Geräte müssen mindeste GPU- und Speicheranforderungen erfüllen, um Phi Silika auszuführen. Geräte mit nur integrierten Grafiken oder älteren diskreten GPUs können eine beeinträchtigte Leistung aufweisen oder die Mindestschwellenwerte nicht erfüllen.
- Ressourcenkonflikte im Hintergrund: Anders als die NPU-basierte Ausführung wird die GPU-Inferenz durch andere GPU-beschleunigte Arbeitslasten beeinträchtigt. Benutzer, die grafikintensive Anwendungen (Spiele, Videobearbeitung, 3D-Rendering) gleichzeitig ausführen, können eine schlechte Modellleistung haben.
- Softwareabhängigkeiten: Bei nicht Copilot+ PC Ausführung ist der neueste IHV GPU-Treiber erforderlich, der direkt vom GPU-Hersteller (NVIDIA oder AMD) installiert ist. Standardtreiber von Windows Update- oder OEM-Installationen sind möglicherweise nicht ausreichend und können zu Fehlern oder beeinträchtigter Leistung führen.
Systemleistung
Leistung auf PCs ohne Copilot+ verstehen
Die Ausgabequalität von Phi Silica (Genauigkeit, Kohärenz, Relevanz) ist auf Copilot+- und Nicht-Copilot+-PCs gleichbleibend, da dieselben Modellgewichte und dieselbe Architektur verwendet werden. Die wichtigsten Unterschiede sind die Ableitungsgeschwindigkeit, der Ressourcenverbrauch und die Reaktionsfähigkeit der Benutzerfreundlichkeit.
Entwickler sollten:
- Benchmark auf repräsentativer Hardware: Testen Sie mit einer Reihe von Nicht-Copilot+-Geräten, die Ihre Zielnutzerbasis widerspiegeln, einschließlich weniger leistungsfähiger Konfigurationen.
- Festlegen der Benutzererwartungen: Kommunizieren Sie deutlich, dass die Reaktionszeiten je nach Gerätehardware variieren können. Erwägen Sie, Statusindikatoren oder Partielle Ergebnisse beim Streamen anzuzeigen.
- Implementieren Sie Timeouts und Fallbacks: Für Szenarien, in denen die Reaktionszeit kritisch ist, implementieren Sie geeignete Timeouts und erwägen Sie, cloudbasierte Fallbackoptionen (mit Zustimmung des Benutzers) anzubieten.
- Ressourcennutzung überwachen: Verfolgen Sie während der Inferenz die GPU-Auslastung, den VRAM-Verbrauch und die Arbeitsspeichernutzung, um Leistungsengpässe zu identifizieren und zu beheben.
Inhaltsmoderation
Inhaltsmoderation ist verfügbar und wird sowohl für Copilot+ als auch für nicht Copilot+ PCs dringend empfohlen. Mit der ContentFilterOptions API können Entwickler Schweregradschwellen für Gewalt, Hass, sexuelle Inhalte und Kategorien von Selbstschäden konfigurieren. Das Verhalten der Inhaltsmoderation ist unabhängig von der Ableitungshardware identisch.
Bewährte Methoden:
- Aktivieren Sie immer die Inhaltsmoderation für benutzerorientierte Anwendungen.
- Konfigurieren Sie schweregrade, die für Ihre Benutzerpopulation geeignet sind (z. B. strengere Einstellungen für Anwendungen, die von Minderjährigen verwendet werden).
- Verlassen Sie sich nicht ausschließlich auf automatisierte Inhaltsmoderation; umfassen Mechanismen für die Benutzerberichterstattung und die menschliche Überprüfung gekennzeichneter Inhalte.
Evaluierungs- und Integrationsleitfaden
Vor der Bereitstellung
Führen Sie End-to-End-Tests durch auf Nicht-Copilot+-Hardware, die für Ihre Zielbenutzer repräsentativ ist, einschließlich:
- Funktionale Tests von Modellausgaben in den Anwendungsfällen Ihrer Anwendung.
- Leistungstests unter realistischen Ressourcenkonfliktszenarien.
- Red Teaming zum Erkennen potenzieller Missbrauchsmuster, insbesondere solcher, die eine langsamere Inferenz ausnutzen könnten (z. B. zeitbasierte Seitenkanalrisiken).
Bewerten Sie Fairness und Voreingenommenheit in der Benutzerpopulation, die Ihre Anwendung dient. Testen Sie mit Eingabeaufforderungen in allen unterstützten Sprachen und stellen Sie verschiedene demografische Daten dar.
Bewerten sie die Benutzererfahrung auf Geräten mit niedrigeren Enden. Stellen Sie sicher, dass ein Leistungsabfall nicht zu Frustration, Abwendung oder übermäßigem Vertrauen in unvollständige Ergebnisse führt.
Nach der Bereitstellung
Telemetriedaten überwachen (unter Einhaltung der geltenden Datenschutzgesetze und -richtlinien) für:
- Inferenzlatenzverteilungen nach Gerätetypen.
- Auslöseraten für die Inhaltsmoderation.
- Benutzerfeedbacksignale, die auf Qualitäts- oder Leistungsprobleme hinweisen.
Verwalten Sie einen Plan zur Reaktion auf Vorfälle , der die Möglichkeit umfasst, das Modell zu deaktivieren oder zu aktualisieren, wenn ein Sicherheitsproblem erkannt wird.
Durchlaufen Sie einstellungen für die Inhaltsmoderation basierend auf realen Nutzungsmustern, Benutzerfeedback und neuen Sicherheitsbedrohungen für Inhalte.
Stellen Sie Benutzerfeedbackmechanismen direkt in der Anwendungsumgebung bereit, sodass Benutzer ungenaue, schädliche oder unerwartete Ausgaben melden können.
Verantwortungsvolle KI-Überlegungen für die Nicht-Copilot+ Erweiterung
Breitere Reichweite, breitere Verantwortung
Durch die Erweiterung von Phi-Silika auf Nicht-Copilot+ PCs können lokale KI-Funktionen für eine viel größere und vielfältigere Benutzerpopulation zugänglich sein. Diese größere Reichweite verstärkt sowohl die Vorteile als auch die Risiken:
- Demokratisierung des Zugriffs: Mehr Benutzer können von on-device AI profitieren, ohne spezielle Hardware zu kaufen. Dies unterstützt Inklusion und Gleichheit.
- Erhöhtes Missbrauchspotenzial: Eine größere Nutzerbasis erhöht die statistische Wahrscheinlichkeit gegnerischer oder schädlicher Nutzung. Robuste Inhaltsmoderation und Missbrauchsüberwachung sind unerlässlich.
- Diverse Gerätekontexte: Benutzer auf nicht Copilot+ PCs können sich in Umgebungen mit eingeschränkter Konnektivität, älterer Hardware oder gemeinsam genutzten Geräten befinden , die sich auf die Erfahrung der KI auswirken und potenziell missbraucht werden.
Datenschutz
Phi Silika verarbeitet alle Eingabeaufforderungen und generiert alle Antworten lokal auf dem Gerät des Benutzers. Während der Ableitung werden keine Benutzeraufforderungen oder Modellausgabeen an Microsoft oder Dritte übertragen. Diese Datenschutzarchitektur wird auf nicht Copilot+ PCs beibehalten.
Entwickler, die Phi Silika integrieren, sollten:
- Geben Sie Benutzern klar offen, dass die KI-Verarbeitung auf dem Gerät erfolgt.
- Vermeiden Sie das Sammeln oder Protokollieren von Eingabeaufforderungen und Antworten, es sei denn, der Benutzer hat eine informierte Zustimmung erteilt.
- Folgen Sie den geltenden Datenschutzgesetzen, Bestimmungen und Microsoft Datenschutzrichtlinien für alle gesammelten Telemetrie- oder Diagnosedaten.
Transparenz
- Offenlegen sie den Benutzern, wenn Inhalte von KI generiert werden. Stellen Sie keinen KI-generierten Text als von Menschen verfasst dar.
- Kommunizieren Sie, dass die KI Fehler erzeugen kann, und ermutigen Sie die Benutzer, wichtige Informationen zu überprüfen.
- Informieren Sie Benutzer darüber, dass sich die Leistung auf PCs ohne Copilot+ von der auf Copilot+-Hardware unterscheiden kann.
Fairness
- Bewerten Sie die Modellausgaben auf potenzielle Verzerrungen über Sprachen, Kulturen und demografische Gruppen hinweg.
- Überwachen Sie unterschiedliche Leistung oder Qualität über verschiedene Hardwarekonfigurationen hinweg, um eine gleichwertige Benutzererfahrung sicherzustellen.
Zuverlässigkeit und Sicherheit
- Implementieren Sie die Inhaltsmoderation mit Schweregraden, die für Ihre Benutzerpopulation geeignet sind.
- Gestalten Sie Ihre Anwendung so, dass sie Ausfälle des Modells robust abfangen kann (z. B. die Nichtverfügbarkeit des Modells oder Speichermangel auf ressourcenbeschränkten Geräten).
- Stellen Sie einen Kill Switch oder eine Featurekennzeichnung bereit, um die Phi-Silikatfunktion schnell zu deaktivieren, wenn ein Sicherheitsproblem identifiziert wird.
Verantwortlichkeit
- Bewahren Sie die Dokumentation Ihrer KI-Integrationsentscheidungen, Inhaltsmoderationskonfigurationen und Auswertungsergebnisse auf.
- Legen Sie eine verantwortliche Person oder ein Team fest, die für die Überwachung und Reaktion auf KI-bezogene Vorfälle verantwortlich ist.
Tools und Ressourcen
- Übersicht über Phi-Silikate — Hauptdokumentation für Phi-Silika-APIs.
- Verantwortungsvolle Entwicklung generativer KI unter Windows — Leitlinien für Governance-, Zuordnungs-, Mess- und Managementpraktiken.
- Microsoft Responsible AI Standard – Kernprinzipien und -ansatz.
- Content Moderation mit Windows AI-APIs – Konfigurieren von Inhaltsfiltern für Phi Silica.
- AI Dev Gallery – Beispiele und Demonstrationen.
Dieser Transparenzhinweis ergänzt die vorhandene Phi-Silika-Dokumentation und die Responsible Generative AI Development on Windows Guidance. Sie wird aktualisiert, während sich die Technologie, die Nutzungsmuster und die Abhilfemaßnahmen weiterentwickeln.