Azure OpenAI

Identyfikator wdrożenia wdrożonego modelu

wersja API

Tekst wejściowy do pobrania osadzania dla elementu zakodowany jako ciąg. Ciąg wejściowy nie może przekraczać 2048 tokenów długości

Unikatowy identyfikator reprezentujący użytkownika końcowego, który może pomóc Azure openAI w celu monitorowania i wykrywania nadużyć.

Typ danych wejściowych wyszukiwania osadzania do użycia.

Identyfikator wdrożenia wdrożonego modelu

wersja API

Tablica tekstów wejściowych, dla których mają być osadzane, zakodowane jako ciąg. Każdy ciąg wejściowy nie może przekraczać 2048 tokenów długości

Unikatowy identyfikator reprezentujący użytkownika końcowego, który może pomóc Azure openAI w celu monitorowania i wykrywania nadużyć.

Typ danych wejściowych wyszukiwania osadzania do użycia.

Identyfikator wdrożenia wdrożonego modelu

Potwierdzanie identyfikatora wdrożenia wdrożonego modelu

wersja API

Indeks wiadomości w konwersacji.

Rola autora tej wiadomości.

Adresat wiadomości w formacie <przestrzeni nazw>.<operacja>. Prezentuj, jeśli i tylko wtedy, gdy adresat jest narzędziem.

Zawartość wiadomości

Czy komunikat kończy się kolei.

Typ źródła danych.

Parametry, które mają być używane dla źródła danych w środowisku uruchomieniowym.

Jaka temperatura próbkowania ma być używana z zakresu od 0 do 2. Wyższe wartości, takie jak 0,8, sprawią, że dane wyjściowe będą bardziej losowe, a niższe wartości, takie jak 0,2, sprawią, że będą bardziej skoncentrowane i deterministyczne. Ogólnie zalecamy zmienić to lub top_p, ale nie obu jednocześnie.

Alternatywa dla próbkowania z temperaturą, zwana próbkowaniem jądra, gdzie model uwzględnia wyniki tokenów z masą prawdopodobieństwa top_p. Dlatego 0,1 oznacza, że uwzględniane są tylko tokeny znajdujące się w górnych 10% masy prawdopodobieństwa. Ogólnie zalecamy zmienić to lub temperature, ale nie obu jednocześnie.

W przypadku ustawienia zostaną wysłane częściowe różnice komunikatów, na przykład w module ChatGPT. Tokeny będą wysyłane jako zdarzenia jednokierunkowe przesyłane do serwera w miarę ich dostępności, a strumień zostanie zakończony komunikatem data: [DONE].

Minimalny rozmiar tablicy 1 i maksymalnie 4

Maksymalna liczba tokenów dozwolonych dla wygenerowanej odpowiedzi. Domyślnie liczba tokenów, które model może zwrócić, wynosi (4096 - tokeny podpowiedzi).

Liczba z zakresu od -2.0 do 2.0. Dodatnie wartości nakładają karę na nowe tokeny na podstawie tego, czy pojawiają się one w tekście do tej pory, zwiększając prawdopodobieństwo, że model zacznie poruszać nowe tematy.

Liczba z zakresu od -2.0 do 2.0. Wartości dodatnie karzeją nowe tokeny na podstawie ich istniejącej częstotliwości w tekście do tej pory, zmniejszając prawdopodobieństwo powtórzeń tego samego wiersza.

Zmodyfikuj prawdopodobieństwo wyświetlania określonych tokenów w zakończeniu. Akceptuje obiekt JSON mapujący tokeny (określone przez ich identyfikator tokenu w tokenizatorze) na skojarzzoną wartość stronniczą z -100 do 100. Matematycznie, przesunięcie jest dodawane do logitów wygenerowanych przez model przed próbkowaniem. Dokładny efekt będzie się różnić w zależności od modelu, ale wartości z zakresu od -1 do 1 powinny zmniejszyć lub zwiększyć prawdopodobieństwo wyboru; wartości takie jak -100 lub 100 powinny spowodować zakaz lub wyłączny wybór odpowiedniego tokenu.

Unikatowy identyfikator reprezentujący użytkownika końcowego, który może pomóc Azure openAI w celu monitorowania i wykrywania nadużyć.

Identyfikator wdrożenia wdrożonego modelu

wersja API

Jaka temperatura próbkowania ma być używana z zakresu od 0 do 2. Wyższe wartości, takie jak 0,8, sprawią, że dane wyjściowe będą bardziej losowe, a niższe wartości, takie jak 0,2, sprawią, że będą bardziej skoncentrowane i deterministyczne. Ogólnie zalecamy zmienić to lub top_p, ale nie obu jednocześnie.

Alternatywa dla próbkowania z temperaturą, zwana próbkowaniem jądra, gdzie model uwzględnia wyniki tokenów z masą prawdopodobieństwa top_p. Dlatego 0,1 oznacza, że uwzględniane są tylko tokeny znajdujące się w górnych 10% masy prawdopodobieństwa. Ogólnie zalecamy zmienić to lub temperature, ale nie obu jednocześnie.

W przypadku ustawienia zostaną wysłane częściowe różnice komunikatów, na przykład w module ChatGPT. Tokeny będą wysyłane jako zdarzenia jednokierunkowe przesyłane do serwera w miarę ich dostępności, a strumień zostanie zakończony komunikatem data: [DONE].

Maksymalnie 4 sekwencje, w których interfejs API przestanie generować kolejne tokeny. Zwrócony tekst nie będzie zawierać sekwencji zatrzymania.

Maksymalna liczba tokenów dozwolonych dla wygenerowanej odpowiedzi. Domyślnie liczba tokenów, które model może zwrócić, wynosi (4096 - tokeny podpowiedzi).

Liczba z zakresu od -2.0 do 2.0. Dodatnie wartości nakładają karę na nowe tokeny na podstawie tego, czy pojawiają się one w tekście do tej pory, zwiększając prawdopodobieństwo, że model zacznie poruszać nowe tematy.

Liczba z zakresu od -2.0 do 2.0. Wartości dodatnie karzeją nowe tokeny na podstawie ich istniejącej częstotliwości w tekście do tej pory, zmniejszając prawdopodobieństwo powtórzeń tego samego wiersza.

Zmodyfikuj prawdopodobieństwo wyświetlania określonych tokenów w zakończeniu. Akceptuje obiekt JSON mapujący tokeny (określone przez ich identyfikator tokenu w tokenizatorze) na skojarzzoną wartość stronniczą z -100 do 100. Matematycznie, przesunięcie jest dodawane do logitów wygenerowanych przez model przed próbkowaniem. Dokładny efekt będzie się różnić w zależności od modelu, ale wartości z zakresu od -1 do 1 powinny zmniejszyć lub zwiększyć prawdopodobieństwo wyboru; wartości takie jak -100 lub 100 powinny spowodować zakaz lub wyłączny wybór odpowiedniego tokenu.

Unikatowy identyfikator reprezentujący użytkownika końcowego, który może pomóc Azure openAI w celu monitorowania i wykrywania nadużyć.

Rola autora wiadomości.

Tablica części zawartości o zdefiniowanym typie może być typu text.

Reprezentacja danych konfiguracji dla pojedynczego rozszerzenia czatu openAI Azure. Będzie to używane przez żądanie ukończenia czatu, które powinno używać Azure rozszerzenia czatu OpenAI w celu rozszerzenia zachowania odpowiedzi. Użycie tej konfiguracji jest zgodne tylko z Azure OpenAI.

Skonfigurowana maksymalna liczba dokumentów do wyświetlenia dla skonfigurowanego zapytania.

Czy zapytania powinny być ograniczone do używania indeksowanych danych.

Skonfigurowana dokładność filtrowania istotności wyszukiwania. Im większa jest surowość, tym większa precyzja, ale niższa kompletność odpowiedzi.

Przekaż instrukcje dotyczące sposobu działania modelu i dowolnego kontekstu, do którego powinien się odwoływać podczas generowania odpowiedzi. Możesz opisać osobowość asystenta i poinformować go, jak formatować odpowiedzi. Istnieje limit 100 tokenów, a są one liczone w stosunku do ogólnego limitu tokenów.

Nazwa indeksu, który ma być używany jako dostępny w przywoływowanym zasobie Azure Search.

Nazwa pola indeksu, które ma być używane jako tytuł.

Nazwa pola indeksu, które ma być używane jako adres URL.

Nazwa pola indeksu do użycia jako ścieżka pliku.

Nazwy pól indeksu, które powinny być traktowane jako zawartość.

Wzorzec separatora, którego powinny używać pola zawartości.

Nazwy pól reprezentujących dane wektorowe.

Typ zapytania pobierania wyszukiwania Azure, które należy wykonać podczas korzystania z niego jako rozszerzenie czatu openAI Azure.

Dodatkowa konfiguracja semantyczna zapytania.

Filtr wyszukiwania.

Reprezentuje dostępne źródła Azure OpenAI On Your Data może służyć do konfigurowania wektoryzacji danych do użycia z wyszukiwaniem wektorowym.

Określa nazwę wdrożenia modelu do użycia na potrzeby wektoryzacji. To wdrożenie modelu musi znajdować się w tym samym Azure zasobie OpenAI, ale w danych będzie używać tego wdrożenia modelu za pośrednictwem wywołania wewnętrznego, a nie publicznego, co umożliwia wyszukiwanie wektorów nawet w sieciach prywatnych.

Ile opcji ukończenia czatu ma być generowanych dla każdej wiadomości wejściowej.

Jeśli zostanie określony, nasz system podejmie najlepsze wysiłki, aby próbkować deterministycznie, tak aby powtarzające się żądania z tymi samymi seed parametrami zwracały ten sam wynik. Determinizm nie jest gwarantowany i należy odwołać się do parametru system_fingerprint odpowiedzi w celu monitorowania zmian w zapleczu.

Czy zwracać logarytmiczne prawdopodobieństwa dla tokenów wyjściowych, czy nie. Jeśli true, zwraca logarytmiczne prawdopodobieństwa każdego tokenu wyjściowego zwróconego w content elementu message. Ta opcja jest obecnie niedostępna gpt-4-vision-preview w modelu.

Liczba całkowita z zakresu od 0 do 5 określająca liczbę najbardziej prawdopodobnych tokenów do zwrócenia na każdej pozycji tokenu, z których każde ma skojarzone prawdopodobieństwo dziennika. logprobs musi być ustawione na true, jeśli ten parametr jest używany.

Ustawienie w celu json_object włączenia trybu JSON. Gwarantuje to, że komunikat generowany przez model jest prawidłowym kodem JSON.