Informacja dotycząca przejrzystości: Phi Silica na komputerach PC bez funkcji Copilot+

Co to jest notatka dotycząca przezroczystości?

System sztucznej inteligencji obejmuje nie tylko technologię, ale także osoby, które będą jej używać, osoby, których to dotyczy, oraz środowisko, w którym jest wdrażana. Utworzenie systemu dopasowanego do zamierzonego celu wymaga zrozumienia, jak działa technologia, jej możliwości i ograniczenia oraz jak osiągnąć najlepszą wydajność.

Microsoft udostępnia notatki o transparentności, aby ułatwić zrozumienie, jak działa nasza technologia sztucznej inteligencji. Obejmuje to wybory, które właściciele systemu mogą wpływać na wydajność i zachowanie systemu oraz znaczenie myślenia o całym systemie, w tym technologii, ludzi i środowiska. Możesz użyć notatek przejrzystości podczas opracowywania lub wdrażania własnego systemu lub udostępniać je osobom, które będą korzystać z systemu lub mieć na nie wpływ.

Uwagi dotyczące przejrzystości są częścią szerszego wysiłku Microsoft, aby w praktyce wprowadzić nasze zasady AI.

Wprowadzenie do krzemionki Phi

Silica Phi to mały model językowy (SLM) dostosowany do wnioskowania na urządzeniu na Windows. Umożliwia ona lokalne możliwości generowania sztucznej inteligencji — w tym generowanie tekstu, podsumowywanie, ponowne zapisywanie i przekształcanie tekstu do tabeli — bez konieczności połączenia z chmurą. Dzięki działaniu w całości na urządzeniu Phi Silica wspiera prywatność użytkowników, ponieważ polecenia i odpowiedzi pozostają lokalnie.

Phi Silica została pierwotnie zaprojektowana i zoptymalizowana wyłącznie pod kątem komputerów Copilot+ PC z systemem Windows, które są wyposażone w jednostkę przetwarzania neuronowego (NPU) zapewniającą ponad 40 TOPS dedykowanej mocy obliczeniowej SI. Dzięki temu rozszerzeniu Phi Silica jest teraz dostępna na komputerach PC bez funkcji Copilot+ — standardowych urządzeniach z systemem Windows, które nie mają dedykowanej jednostki NPU — na których wnioskowanie odbywa się z użyciem procesora graficznego (GPU) urządzenia.

Kluczowe terminy

Capabilities

Zachowanie systemu

Phi Silica przetwarza polecenia w języku naturalnym bezpośrednio na urządzeniu i generuje odpowiedzi tekstowe. Model obsługuje:

• Generowanie tekstu w dowolnej formie: odpowiadanie na pytania, dostarczanie wyjaśnień i generowanie treści kreatywnych na podstawie monitów użytkownika.
• Umiejętności analizy tekstu: wbudowane funkcje przekształcania, w tym podsumowania, ponowne zapisywanie (z korektą tonu) i formatowanie tekstu do tabeli.
• Odpowiedzi strumieniowane: Częściowe wyniki są zwracane stopniowo, aby zapewnić responsywną obsługę użytkownika.
• Integracja moderowania zawartości: konfigurowalne filtrowanie zawartości w czterech kategoriach (przemoc, nienawiść, zawartość seksualna, samookaleczenia) na wielu poziomach ważności.

W Copilot+ PCs, Phi Silica wykorzystuje sprzęt NPU do zoptymalizowanego wnioskowania z mniejszym opóźnieniem i zmniejszonym zużyciem energii. Na komputerach PC bez funkcji Copilot+ inferencja działa na procesorze graficznym (GPU). Podstawowy model i jego możliwości pozostają takie same; jednak charakterystykę operacyjną różnią się (patrz Ograniczenia).

Przypadki użycia

Zamierzone zastosowania

• Pomoc dotycząca pisania w aplikacji: Podsumowywanie dokumentów, ponowne zapisywanie tekstu pod kątem jasności lub tonu oraz generowanie wersji roboczych w aplikacjach zwiększających produktywność.
• Lokalne pytania i pobieranie informacji: odpowiadanie na faktyczne pytania przy użyciu danych treningowych modelu bez przesyłania zapytań użytkowników do usługi w chmurze.
• Funkcje ułatwień dostępu: upraszczanie złożonego tekstu, generowanie opisów i obsługę użytkowników, którzy korzystają ze sztucznej inteligencji w odczytywaniu i pisaniu.
• Tworzenie prototypów dla deweloperów: umożliwia deweloperom aplikacji zintegrowanie lokalnego generowania tekstu sztucznej inteligencji na potrzeby testowania i scenariuszy weryfikacji koncepcji.
• Przepływy pracy wrażliwe na prywatność: scenariusze, w których niezależność danych, operacja w trybie offline lub wymagania dotyczące prywatności użytkowników uniemożliwiają korzystanie z usług sztucznej inteligencji opartych na chmurze.

Zagadnienia dotyczące wybierania przypadków użycia

• Nie należy używać do podejmowania decyzji o istotnych konsekwencjach bez nadzoru człowieka. Krzemionka Phi, podobnie jak wszystkie modele językowe, może produkować niedokładne, niekompletne lub sprodukowane informacje (halucynacje). Aplikacje, które służą do podejmowania decyzji medycznych, prawnych, finansowych lub dotyczących bezpieczeństwa, muszą wymagać rzetelnej kontroli ze strony człowieka.
• Nie używaj jako jedynego źródła prawdy faktycznej. Dane treningowe modelu obejmują wiedzę tylko do określonego momentu i mogą zawierać stronniczość lub nieścisłości. Zachęcaj użytkowników do weryfikowania ważnych informacji z autorytatywnych źródeł.
• Zachowaj ostrożność w przypadku poufnych danych osobowych. Chociaż przetwarzanie na urządzeniu końcowym zwiększa prywatność, deweloperzy powinni unikać projektowania przepływów pracy, w których model otrzymuje poufne dane osobowe (np. dokumentację medyczną, dane finansowe), chyba że wdrożono odpowiednie zabezpieczenia.
• Rozważ rozszerzoną bazę użytkowników. Rozszerzenie na komputery inne niż Copilot+ PC znacząco poszerza grupę użytkowników, obejmując urządzenia o zróżnicowanych możliwościach sprzętowych oraz użytkowników o różnym poziomie wiedzy technicznej. Zaprojektuj aplikację, aby bezpiecznie obsługiwać wariancję wydajności i zapewnić użytkownikom jasne oczekiwania.

Ograniczenia

Ograniczenia techniczne specyficzne dla komputerów PC bez funkcji Copilot+

Ogólne ograniczenia techniczne

• Dokładność i halucynacje: Silica Phi może generować wiarygodne, ale rzeczywiście nieprawidłowe odpowiedzi. Jakość wyników modelu nie zmienia się między wykonywaniem na NPU i na GPU, ale niższa responsywność na komputerach innych niż Copilot+ może skłaniać użytkowników do akceptowania wstępnych wyników bez ich krytycznej oceny.
• Obsługa języka: możliwości języka Phi Silica są określane przez dane szkoleniowe. Wydajność może się różnić w różnych językach, a niektóre języki mogą nie być obsługiwane. Funkcje krzemionki Phi nie są dostępne w Chinach.
• Ograniczenia okna kontekstowego: model ma stałe okno kontekstowe. Długie polecenia lub wieloturowe rozmowy mogą przekroczyć to okno kontekstowe, co może prowadzić do utraty wcześniejszego kontekstu.
• Stronniczość i sprawiedliwość: Model może odzwierciedlać uprzedzenia obecne w danych treningowych, w tym stereotypy związane z płcią, rasą, pochodzeniem etnicznym, religią lub innymi cechami. Deweloperzy powinni oceniać dane wyjściowe pod kątem sprawiedliwości w całej populacji, do której służy ich aplikacja.
• Wrogie dane wejściowe: Model może być podatny na ataki typu prompt injection lub próby obejścia zabezpieczeń. Filtry moderowania zawartości ograniczają ograniczenia, ale nie eliminują tego ryzyka.

Czynniki operacyjne dotyczące komputerów PC bez funkcji Copilot+

• Zróżnicowanie sprzętowe: Komputery PC bez funkcji Copilot+ oferują szeroki zakres konfiguracji GPU (zintegrowane i dedykowane układy GPU, różne pojemności pamięci VRAM, różne architektury GPU). Wydajność będzie znacznie różnić się w tym spektrum urządzeń.
• Minimalne wymagania sprzętowe: Urządzenia muszą spełniać minimalne wymagania dotyczące GPU i pamięci, aby uruchomić Phi Silica. Urządzenia z tylko zintegrowaną grafiką lub starszymi dyskretnymi procesorami GPU mogą mieć obniżoną wydajność lub nie spełniają minimalnych progów.
• Konkurencja o zasoby w tle: W przeciwieństwie do wykonywania opartego na NPU, na inferencję GPU wpływają inne obciążenia wykorzystujące akcelerację GPU. Użytkownicy korzystający z aplikacji intensywnie korzystających z grafiki (gier, edycji wideo, renderowania 3D) jednocześnie mogą doświadczyć niskiej wydajności modelu.
• Zależności oprogramowania: Uruchamianie na komputerach PC innych niż Copilot+ wymaga zainstalowania najnowszego sterownika GPU od producenta sprzętu (IHV), pobranego bezpośrednio od producenta GPU (NVIDIA lub AMD). Domyślne sterowniki z instalacji Windows Update lub OEM mogą nie być wystarczające i mogą powodować awarie lub obniżoną wydajność.

Wydajność systemu

Zrozumienie wydajności na komputerach PC bez funkcji Copilot+

Jakość wyników Phi Silica (dokładność, spójność, trafność) jest taka sama na komputerach Copilot+ i innych niż Copilot+, ponieważ używają one tych samych wag i tej samej architektury modelu. Podstawowe różnice to szybkość wnioskowania, zużycie zasobów i czas reakcji środowiska użytkownika.

Deweloperzy powinni:

• Benchmark na reprezentatywnym sprzęcie: Testowanie na różnych urządzeniach innych niż Copilot+, które odzwierciedlają docelową bazę użytkowników, w tym konfiguracje niższej klasy.
• Ustaw oczekiwania użytkowników: jasno poinformuj, że czasy odpowiedzi mogą się różnić w zależności od sprzętu urządzenia. Rozważ wyświetlanie wskaźników postępu lub strumieniowe prezentowanie częściowych wyników.
• Zaimplementuj limity czasu i rezerwowe: w scenariuszach, w których czas odpowiedzi ma krytyczne znaczenie, zaimplementuj odpowiednie limity czasu i rozważ oferowanie opcji rezerwowych opartych na chmurze (z zgodą użytkownika).
• Monitorowanie użycia zasobów: śledzenie użycia procesora GPU, użycie pamięci VRAM i użycie pamięci systemowej podczas wnioskowania w celu identyfikowania i rozwiązywania wąskich gardeł wydajności.

Moderowanie zawartości

Moderowanie zawartości jest dostępne i zdecydowanie zalecane zarówno w przypadku Copilot+ jak i innych niż Copilot+ PCs. Interfejs API ContentFilterOptions umożliwia deweloperom konfigurowanie progów poziomu nasilenia dla kategorii przemocy, nienawiści, treści seksualnych i samookaleczenia. Zachowanie moderowania zawartości jest identyczne niezależnie od sprzętu wnioskowania.

Najlepsze rozwiązania:

• Zawsze włączaj moderowanie zawartości dla aplikacji przeznaczonych dla użytkowników.
• Skonfiguruj poziomy rygoru odpowiednie dla grupy użytkowników (np. bardziej rygorystyczne ustawienia w przypadku aplikacji używanych przez osoby niepełnoletnie).
• Nie należy polegać wyłącznie na automatycznej moderacji treści; należy również uwzględnić mechanizmy zgłaszania przez użytkowników oraz weryfikacji przez człowieka treści oznaczonych jako problematyczne.

Wskazówki dotyczące oceny i integracji

Przed wdrożeniem

1. Przeprowadzaj testy end-to-end na sprzęcie bez funkcji Copilot+, reprezentatywnym dla Twoich użytkowników docelowych, w tym:

   • Funkcjonalne testowanie wyników modelu w różnych przypadkach użycia aplikacji.
   • Testowanie wydajnościowe w realistycznych scenariuszach rywalizacji o zasoby.
   • Testy red teamingowe służące identyfikacji potencjalnych wzorców nadużyć, zwłaszcza tych, które mogą wykorzystywać wolniejsze wnioskowanie (np. ryzyko czasowych ataków bocznym kanałem).

2. Oceń sprawiedliwość i stronniczość w populacjach użytkowników, które obsługuje aplikacja. Testuj, używając promptów we wszystkich obsługiwanych językach, reprezentujących różnorodne grupy demograficzne.

3. Ocena środowiska użytkownika na urządzeniach niższego poziomu. Upewnij się, że obniżona wydajność nie prowadzi do frustracji użytkownika, porzucenia lub nadmiernego polegania na niekompletnych danych wyjściowych.

Po wdrożeniu

1. Monitoruj dane telemetryczne (zgodnie z obowiązującymi przepisami dotyczącymi ochrony prywatności i zasadami) w następujących przypadkach:

   • Rozkłady opóźnień inferencji w zależności od typu urządzenia.
   • Współczynniki wyzwalaczy moderowania zawartości.
   • Sygnały opinii użytkowników wskazujące problemy z jakością lub wydajnością.

2. Zachowaj plan reagowania na zdarzenia , który obejmuje możliwość wyłączenia lub zaktualizowania modelu w przypadku wykrycia problemu z bezpieczeństwem.

3. Iterowanie ustawień moderowania zawartości na podstawie rzeczywistych wzorców użycia, opinii użytkowników i pojawiających się zagrożeń bezpieczeństwa zawartości.

4. Udostępnianie mechanizmów opinii użytkowników bezpośrednio w środowisku aplikacji, dzięki czemu użytkownicy mogą zgłaszać niedokładne, szkodliwe lub nieoczekiwane dane wyjściowe.

Kwestie związane z odpowiedzialną sztuczną inteligencją w kontekście rozszerzenia poza Copilot+

Szerszy zasięg, szersza odpowiedzialność

Rozszerzenie dostępności Phi Silica na komputery PC inne niż Copilot+ sprawia, że lokalne funkcje AI stają się dostępne dla znacznie większego i bardziej zróżnicowanego grona użytkowników. Ten zwiększony zasięg zwiększa zarówno korzyści, jak i ryzyko:

• Zdemokratyzowany dostęp: Więcej użytkowników może korzystać ze sztucznej inteligencji na urządzeniu bez zakupu wyspecjalizowanego sprzętu. To wspiera inkluzję i równość.
• Zwiększona powierzchnia nadużywania: większa baza użytkowników zwiększa statystyczne prawdopodobieństwo niepożądanego lub szkodliwego użycia. Istotne są niezawodne moderowanie zawartości i monitorowanie nadużyć.
• Różnorodne konteksty korzystania z urządzeń: Użytkownicy komputerów PC innych niż Copilot+ mogą korzystać z nich w warunkach ograniczonej łączności, na starszym sprzęcie lub na urządzeniach współdzielonych — wszystko to wpływa na sposób, w jaki AI jest odbierana, oraz na to, jak może być potencjalnie niewłaściwie wykorzystywana.

Prywatność

Phi Silica przetwarza wszystkie polecenia i generuje wszystkie odpowiedzi lokalnie na urządzeniu użytkownika. Podczas inferencji żadne prompty użytkownika ani wyniki modelu nie są przesyłane do firmy Microsoft ani żadnej strony trzeciej. Ta architektura prywatności jest zachowana na komputerach PC innych niż Copilot+.

Deweloperzy integrujący silikę Phi powinni:

• Jasno ujawniaj użytkownikom, że przetwarzanie sztucznej inteligencji odbywa się na urządzeniu.
• Unikaj zbierania lub rejestrowania monitów i odpowiedzi, chyba że użytkownik udzielił świadomej zgody.
• Przestrzegaj odpowiednich przepisów dotyczących prywatności, przepisów i Microsoft zasad ochrony prywatności dotyczących wszelkich zebranych danych telemetrycznych lub diagnostycznych.

Przejrzystość

• Ujawniaj użytkownikom, gdy zawartość jest generowana przez sztuczną inteligencję. Nie przedstawiaj tekstu wygenerowanego przez sztuczną inteligencję jako utworzonego przez człowieka.
• Poinformuj, że sztuczna inteligencja może powodować błędy i zachęcać użytkowników do weryfikowania ważnych informacji.
• Na komputerach PC bez funkcji Copilot+ poinformuj użytkowników, że wydajność może się różnić od tej na urządzeniach Copilot+.

Sprawiedliwość

• Oceń dane wyjściowe modelu pod kątem potencjalnych uprzedzeń między językami, kulturami i grupami demograficznymi.
• Monitorowanie różnych wydajności lub jakości w różnych konfiguracjach sprzętowych w celu zapewnienia sprawiedliwego środowiska użytkownika.

Niezawodność i bezpieczeństwo

• Zaimplementuj moderowanie zawartości przy użyciu poziomów ważności odpowiednich dla populacji użytkowników.
• Zaprojektuj aplikację tak, aby obsługiwała bezproblemowo błędy modelu (np. niedostępność modelu, warunki braku pamięci na ograniczonych urządzeniach).
• Zapewnij mechanizm awaryjnego wyłączania lub flagę funkcjonalności umożliwiające szybkie wyłączenie funkcji Phi Silica, jeśli zostanie zidentyfikowany problem związany z bezpieczeństwem.

Odpowiedzialność

• Zachowaj dokumentację decyzji dotyczących integracji sztucznej inteligencji, konfiguracji moderowania zawartości i wyników oceny.
• Wyznaczanie osoby odpowiedzialnej lub zespołu odpowiedzialnej za monitorowanie i reagowanie na zdarzenia związane ze sztuczną inteligencją.

Narzędzia i zasoby

• Omówienie krzemionki Phi — główna dokumentacja interfejsów API krzemionki Phi.
• Responsible Generative AI Development on Windows — wytyczne dotyczące zarządzania, mapowania, mierzenia i zarządzania praktykami.
• Microsoft Standard odpowiedzialnej sztucznej inteligencji — podstawowe zasady i podejście.
• Moderowanie treści przy użyciu interfejsów API Windows AI — konfigurowanie filtrów treści dla Phi Silica.
• Galeria deweloperów sztucznej inteligencji — przykłady i pokazy.

Ta notatka dotycząca przejrzystości uzupełnia istniejącą dokumentację Phi Silica oraz wskazówki dotyczące odpowiedzialnego rozwoju generatywnej AI na platformie Windows. Zostanie ona zaktualizowana w miarę rozwoju technologii, wzorców użycia i środków zaradczych.