Podsumowanie
Wskazówka
Aby uzyskać więcej szczegółów, zobacz kartę Tekst i obrazy .
W tym module pokazano, jak zoptymalizować generowanie wydajności modelu sztucznej inteligencji przy użyciu strategii uzupełniających w rozwiązaniu Microsoft Foundry.
Nauczyłeś się, jak:
- Zastosuj techniki inżynieryjne monitów, w tym komunikaty systemowe, uczenie kilku strzałów i parametry modelu, aby zoptymalizować dane wyjściowe modelu.
- Dowiedz się, kiedy i jak osadzić model językowy przy użyciu Generowania wspomaganego pobieraniem (RAG).
- Określenie, kiedy dostrajanie modelu poprawia spójność behawioralną.
- Porównaj strategie optymalizacji i określ, kiedy je połączyć.
Kluczowym wnioskiem jest to, że inżynieria promptów, RAG i dostrajanie nie są konkurencyjnymi podejściami — to strategie uzupełniające, które dotyczą różnych wymiarów wydajności modelu. Rozpocznij od inżynierii monitów, aby kierować zachowaniem modelu, dodaj RAG, gdy dokładność faktów wymaga danych specyficznych dla domeny, i rozważ dostrajanie modeli, gdy potrzebujesz spójnego stylu i formatu, którego sama inżynieria monitów nie może niezawodnie osiągnąć.
W scenariuszu biura podróży najbardziej skuteczne rozwiązanie może łączyć wszystkie trzy elementy: precyzyjnie dostrojony model, który zachowuje głos marki, RAG, które uziemia odpowiedzi na faktycznym katalogu hoteli, oraz inżynierię monitu, dodającą instrukcje specyficzne dla konwersacji i zabezpieczenia.
Dalsze informacje
Aby uzyskać więcej informacji na temat tematów omówionych w tym module, zobacz następujące zasoby:
- Rozpoczynanie pracy z dostosowywaniem dużego modelu językowego (LLM)
- Techniki inżynierii promptów
- Projekt komunikatów systemu
- Generowanie wspomagane odszukiwaniem w Microsoft Foundry
- Dostosowywanie modelu za pomocą dostrajania
- Zagadnienia dotyczące dostrajania firmy Microsoft Foundry
- Augmentowanie dużych modeli językowych za pomocą narzędzi RAG lub dostrajania