Implementaties van Copilot Studio-agents plannen voor doorvoer- en frequentielimieten

Productieklare Copilot Studio-agents hebben meer nodig dan licenties en een totale planning van berichtvolumes. Er is ook doorvoerplanning nodig. Doorvoerplanning omvat hoe snel het verkeer binnenkomt, welke platformservices door de oplossing worden aangeroepen en welke limieten er gelden voor de volledige oplossing.

Dit artikel helpt oplossingsarchitecten, makers en Power Platform-beheerders bij het voorbereiden van grootschalige Copilot Studio-implementaties voor productieverkeer, gebruikersacceptatietesten (UAT), load testing, B2C-scenario's en autonome werkstromen.

Inrichting van frequenties staat los van inrichting van licenties

De planning van Copilot Studio in productie omvat twee gerelateerde maar gescheiden werkstromen:

  • Inrichting van licenties omvat commerciële rechten en consumptie, zoals licenties, credits, prepaidcapaciteit, berichtpakketten en facturering op basis van betalen per gebruik.
  • Inrichting van frequenties betreft hoe snel verkeer kan worden verwerkt voordat beperkings- of servicebeschermingsmaatregelen van toepassing zijn.

Notitie

Microsoft gebruikt de term quota′s voor Copilot Studio-limieten. In bredere brancheterminologie wordt deze planningsactiviteit vaak inrichting van frequenties genoemd. Bekijk de gepubliceerde limieten, schat piekaanvragen in en plan voordat het productieverkeer begint.

Betalen naar gebruik kan de beschikbare limieten verhogen in vergelijking met configuraties met een lagere capaciteit, maar de doorvoercapaciteit is niet onbeperkt. Controleer de huidige Copilot Studio-limieten, Power Platform Request-toewijzingen, Power Automate-limieten, Dataverse-servicebeschermingslimieten, connectorbeperkingsregels en downstream API-limieten.

Wat gebeurt er als er sprake is van een aanvraagbeperking?

Aanvraagbeperking is een gedrag voor servicebescherming. Het beschermt gedeelde services tegen verkeerspatronen die de gepubliceerde limieten, piekcontrole of servicecapaciteit overschrijden. Het exacte symptoom hangt af van welke service wordt beperkt.

Wanneer een limiet wordt bereikt, zijn de gevolgen groter dan een planningsprobleem alleen. Verzoeken kunnen beperkt, vertraagd, geblokkeerd of afgewezen worden. In chats met gebruikers kan dit gedrag zichtbaar zijn als een tijdelijke onderbreking van de service. Het kan voorkomen dat de gebruiker het volgende niet kan doen: het volgende bericht versturen, een melding krijgen dat de agent niet beschikbaar is of dat de gebruikslimiet is bereikt, of een mislukte stap ervaren doordat een stroom, connector, Dataverse-aanroep, AI-service of downstream-API aan zijn limiet zit.

Meer informatie over Copilot Studio-specifieke symptomen en foutmeldingen in Fouten met gebruikslimieten in agents oplossen.

Hoe frequentielimieten worden gemeten

Frequentielimieten geven aan hoeveel verkeer een service kan verwerken binnen een specifieke tijdsperiode. Denk op een granulaire manier over deze tijdvensters: per minuut, per vijf minuten, per tien minuten, per uur, per dag, per week en per maand. Het maandelijkse of wekelijkse verkeersvolume helpt bij het inschatten van de totale vraag, maar kortere perioden zijn van belang voor het inrichten van frequenties, omdat aanvraagbeperking vaak het gevolg is van geconcentreerd verkeer.

Een B2C-bedrijf kan bijvoorbeeld het grootste deel van het agentverkeer ontvangen tijdens een intensief uur tijdens een campagne. Het wekelijkse gemiddelde lijkt misschien laag, maar dat ene uur kan nog steeds genoeg doorvoercapaciteit belasten om beperking of serviceonderbrekingen te veroorzaken. Een ontwerp dat er op week- of maandniveau veilig uitziet, kan tijdens een piek van één uur nog steeds de limieten overschrijden.

Begrijp het bereik van limieten

Limieten gelden niet alleen op het niveau van individuele agents. Afhankelijk van de service kunnen ze van toepassing zijn op het niveau van de omgeving, de tool, de API, de connector, het kanaal of de downstream service.

De limieten voor berichten naar agents in Copilot Studio zijn bijvoorbeeld van toepassing op elke Dataverse-omgeving. Wanneer u verkeer inschat, neem dan alle bronnen mee die berichten naar agents in die omgeving sturen, waaronder gebruikersgerichte kanalen, integraties, autonome workloads en Azure Bot Framework-vaardigheden. Controleer de huidige waarden en het bereik in Copilot Studio-quota's en -limieten.

Bepaal of inrichting van frequenties van toepassing is op uw agent

Niet elke agent heeft gedetailleerde inrichting van frequenties nodig. Een eenvoudige interne FAQ-agent met een klein publiek, voorspelbaar gebruik en weinig of geen downstream-aanroepen zal de frequentielimieten waarschijnlijk niet overschrijden. Het inrichten van frequenties wordt belangrijk wanneer een agent de limieten voor aanvragen per minuut of per uur dreigt te overschrijden, zelfs als het maandvolume bescheiden lijkt.

Denk aan het verwachte verkeer in een vroeg stadium van het project, samen met het oplossingsontwerp. Voordat de gebruikersacceptatietests (UAT) en belastingtests beginnen, moet het team er zeker van zijn dat het ontwerp van de agent, de omgeving, de verbonden services en de downstreamsystemen het verwachte doorvoerprofiel aankunnen.

Deze richtlijn is met name van belang voor grotere, intensievere enterprise-grade agents, waarbij verkeer in pieken binnenkomt, veel gebruikers of gebeurtenissen de agent gelijktijdig kunnen aanroepen, of elke interactie afhankelijk is van meerdere platformservices. Dit geldt ook voor kleinere agents met een geconcentreerd gebruikspatroon, zoals een kort lanceervenster, afdelingsbrede gebeurtenissen, een gepland proces of een werkstroom die in korte tijd veel verzoeken verwerkt.

B2C- en autonome agents vereisen vroege inrichting van de snelheid

Klantgerichte B2C-agents kunnen verkeer ontvangen van campagnes, openbare websites, klantenportals, incidentcommunicatie, productlanceringen of seizoensgebonden vraag. Autonome agents kunnen hoogfrequent verkeer genereren door schema's, gebeurtenissen, achtergrondprocessen of het aanroepen van verschillende tools en werkstromen.

Fooi

Behandel B2C- en autonome scenario's als eersteklas scenario's voor de inrichting van frequenties. Ze kunnen piekverkeer, meerdere gelijktijdige verzoeken en hoogfrequente achtergrondactiviteit sneller genereren dan veel medewerkergerichte chatervaringen.

Piekperiodes gebruiken, niet alleen maandelijkse totalen

Vraag of de agent geconcentreerde verzoeken binnen een minuut of uur kan aanmaken. Een kleiner scenario kan nog steeds inrichting van frequenties vereisen als een belastingtest, campagne, reactie op een storing of een geautomatiseerde trigger te veel berichten, generatieve AI-oproepen, werkstroomacties, connectoraanroepen of Dataverse-verzoeken in een kort tijdsbestek door de omgeving stuurt.

Maandelijkse volume is nuttig om de totale vraag te schatten, maar het is niet genoeg voor de inrichting van frequenties. Zet verwacht gebruik om in kleinere periodes zodat u het ontwerp kunt vergelijken met huidige verzoeken per minuut (RPM), verzoeken per uur (RPH), piek en dagelijkse limieten van de gekoppelde pagina's.

Stel zowel een gemiddeld verbruiksprofiel als een piekverbruiksprofiel op. Als het grootste deel van het verkeer elke dag tussen 17.00 en 18.00 uur plaatsvindt, moet de uurpiek die concentratie weerspiegelen. De dagelijkse schatting hoeft niet 24 keer de piekuurwaarde te zijn als het verkeer geconcentreerd is in één tijdvak.

Wanneer kan aanvraagbeperking nog meer voorkomen?

Ook in de volgende gevallen kan er sprake zijn van aanvraagbeperking:

  • Een grote groep medewerkers gebruikt de agent tijdens een voorspelbare piekperiode, zoals een afdelingsbrede gebeurtenis of training.
  • Een marketingcampagne, uitval, lancering of geplande bedrijfsgebeurtenis zorgt voor een korte verkeerspiek.
  • Power Automate-werkstromen bevatten lussen, nieuwe pogingen, paginering of onderliggende stromen die het aantal aanvragen verhogen.
  • Rapportages, controles, telemetrie-exports of transcripttieopnamen worden synchroon uitgevoerd in het pad van de gebruiker.
  • Meerdere agents of workloads delen dezelfde omgeving, identiteit, connector of downstream API-capaciteit.
  • Belastingtests namen sneller toe dan de productiearchitectuur of het ondersteuningsproces aankon.

Waar kunt u relevante frequentielimieten opzoeken?

Copilot Studio kent zijn eigen limieten en het runtimepad van de agent kan ook andere services met hun eigen limieten bevatten. Bekijk alle relevante limieten voor de services die uw agent gebruikt.

Copilot Studio-limieten

Gebied voor inrichting van frequenties Wat u moet opzoeken Waar u de huidige waarden kunt controleren Gebruik
Berichten aan een agent Huidige RPM/RPH-limiet en bereik voor berichten die naar de agent worden gestuurd. Targets en limieten voor Copilot Studio Vergelijk verwachte berichten per minuut en per uur voor de Dataverse-doelomgeving.
Generatieve AI-berichten Huidige limiet voor generatieve indeling, agentacties, AI-tools, werkstroomacties van agents en generatieve antwoorden. Generatieve AI-berichten naar een agent Modelleer AI-intensieve en autonome scenario's met inachtneming van de momenteel gepubliceerde limieten.
Autonome triggerknoppunten Huidige limieten die gelden wanneer een autonome agent wordt geactiveerd door gebeurtenissen, schema's of achtergrondprocessen. Targets en limieten voor Copilot Studio Modelleer gebeurtenisgestuurde en geplande workloads afzonderlijk van het interactieve chatverkeer.
Aanvraagbeperkingen van Copilot Studio-abonnementen Huidige Power Platform Request-limieten die van toepassing zijn op het gebruik van Copilot Studio. Copilot Studio-abonnementslimieten Gebruik deze waarden samen met planning voor frequentielimieten voor stromen, Dataverse en verbonden services.

Andere platformlimieten ter overweging

De laagste limiet in het runtimepad bepaalt de gebruikerservaring. Een Copilot Studio-agent kan binnen de eigen limieten blijven, terwijl een stroom, connector, Dataverse-aanroep, taalservice of externe API wordt beperkt.

Notitie

Andere platformlimieten kunnen van invloed zijn op de agent als deze andere componenten in het aanvraagpad van de agent gebruikt. Houd ook rekening met deze beperkingen, waaronder Power Platform, Power Automate, Dataverse, connectors, taalservices en downstreamsystemen.

Runtimegebied Wat u moet bekijken Vragen over inrichten van frequenties Waar u de huidige beperkingen kunt controleren
Power Platform Request-vlak Verzoeken binnen Power Automate, werkstroomaanroepen in Copilot Studio, Dataverse-gebruik, Power Apps en Dynamics 365. Welke gebruiker, verbinding, applicatiegebruiker of service-principal genereert de verzoeken? Zijn de toewijzingen voor verzoeken voldoende voor de verwachte dagelijkse en piekbelasting? Vraagt limieten en toewijzingen aan
Power Automate-stromen Triggers, acties, lussen, onderliggende stromen, HTTP-acties, connectoracties, nieuwe pogingen, paginering en gelijktijdigheid. Hoeveel acties worden er per agentbeurt gemaakt? Zijn piek-, gelijktijdigheids-, trigger- en connectorlimieten van toepassing? Platformlimieten begrijpen en aanvraagbeperking voorkomen

Limieten aan geautomatiseerde, geplande en directe -stromen
Dataverse CRUD-operaties, invoegtoepassingen, werkstromen, bewerkingen voor toewijzen/delen, connectoraanroepen en systeemoperaties die nodig zijn om transacties te voltooien. Welke gebruikers, applicatiegebruikers of service-principals genereren Dataverse-aanroepen? Zijn servicebeschermingslimieten of herhaalgedrag waarschijnlijk van toepassing? API-limieten voor servicebeveiliging

Overzicht van Dataverse API-limieten
Connectors Standaardconnectors, premium-connectors, aangepaste connectors, connectorspecifieke aanvraagbeperking en downstream-API's. Welke connector vormt het knelpunt? Hanteert de downstreamservice een eigen frequentielimiet? API-doorvoerlimieten op connectors

Naslaginformatie voor Power Automate-connectors
Conversatietaalbegrip (CLU) en AI-services CLU-aanroepen, AI-prompts, zoek- en samenvattingsactiviteiten, door tools ondersteunde modellen, payloadgrootte en service-specifieke limieten. Roept elke gebruikersbeurt een taal- of AI-service aan? Worden die aanroepen herhaald tijdens herhaalde pogingen of indeling? Beperkingen voor conversatietaalbegrip

Targets en limieten voor Copilot Studio
Externe API's en Line-Of-Business-systemen Leverancier-API's, interne API's, databases, middleware, gateways en aangepaste services. Welke limiet handhaaft de downstreameigenaar? Is er een contract voor herhalingspogingen, een wachtrij of een backpressure-strategie? Gebruik de huidige limieten, de dienstverleningsovereenkomst (SLA) en het support-proces van de downstream service-eigenaar.

Ontwerp om de doorvoerdruk te verminderen

Maak het verhogen van frequenties niet uw eerste ontwerprespons. Evalueer eerst het agentontwerp en optimaliseer de efficiëntie. Als de agent iets moet opzoeken, doe externe aanroepen doelbewust, optimaliseer API-aanroepen en vermijd onnodig verzoekvolume binnen Copilot Studio, Power Automate, Dataverse, connectors en downstreamsystemen.

Zodra het ontwerp efficiënt is, beheert u de doorvoer zodat het verkeer het platform op een voorspelbare manier bereikt:

  • Overweeg bij omgevingslimieten om agents over meerdere omgevingen te verdelen als die aanpak aansluit bij uw operationele ontwerp. Deze aanpak kan helpen voorkomen dat agents, bedrijfseenheden, regio's of autonome workloads met hoge volumes moeten concurreren met niet-verwante workloads om dezelfde omgevingsgebonden limieten.
  • Gebruik voor autonome agents wachtrijen, batchverwerking, triggerfilters, geplande verwerking, besturingselementen voor opnieuw proberen en bewaking, zodat achtergrondwerk niet aankomt als een onbeheerde burst.
  • Plaats geplande taken, rapportages, audit-export en telemetrie waar mogelijk buiten het interactieve chattraject.
  • Analyseer de resultaten van belastingtests en productie-telemetrie om vast te stellen waar verzoeken samenkomen en optimaliseer vervolgens de agent, stromen, connectors en downstream-API's voordat u hogere limieten aanvraagt.

Autonome agents zijn bij uitstek geschikt om hun toegewezen capaciteit maximaal te benutten met robuuste voorspelbaarheid en waarneembaarheid door verzoeken in wachtrijen te plaatsen en hun triggersnelheid te beheersen.

Wat u moet doen als standaardfrequentielimieten niet voldoende zijn

Als uit de schatting van het piekverkeer blijkt dat de agent of een verbonden service de momenteel gepubliceerde limieten mogelijk overschrijdt, start u het ondersteuningsproces voor het inrichten van frequenties vóór UAT, belastingtests of de start van de productie. Wacht niet op de eerste productiestoring.

Notitie

Copilot Studio is een SaaS-service met frequentielimieten om de service voor alle klanten te beschermen. Met de juiste onderbouwing kan het engineeringteam aangepaste limieten instellen voor goedgekeurde scenario's.

Open een aanvraag voor ondersteuning

Beheerders kunnen support aanvragen in het Power Platform-beheercentrum.

Open het ticket vroeg en voeg de best beschikbare schattingen toe. Hoe meer details u geeft, hoe makkelijker het beoordelingsproces zal zijn. Werk de aanvraag bij naarmate het ontwerp wordt verfijnd of belastingtesten waargenomen gegevens opleveren.

Kerninformatie om op te nemen

Informatie Omschrijving
Omgevings-id De Dataverse-omgeving waar de agent wordt uitgevoerd.
Agentnaam of id De agent waarop de aanvraag betrekking heeft.
Impact op bedrijf Kritieke impact als de standaardlimieten niet voldoende zijn.
Bekende informatie Wat er bekend is over het scenario, kanaal, de lanceringscontext, het kritieke bedrijfsbelang en of het B2C, autonoom, medewerkergericht of uitsluitend intern is.
Momentopname agent Een momentopname of export dat beoordelaars inzicht geeft in de agentconfiguratie, het ontwerp, de gekoppelde services en relevante instellingen.
Agentontwerp Globale beschrijving van onderwerpen, gebruik van generatieve AI, kennisbronnen, acties, stromen, connectors, Dataverse-aanroepen en externe API's die door de agent worden gebruikt.
Schatting van het gemiddelde verkeer Verwacht gemiddeld verkeer per uur, dag, week of maand.
Schatting van piekverkeer Verwachte piek aan berichten, sessies, generatieve AI-aanroepen, stroomacties, connectoraanroepen, Dataverse-verzoeken en externe API-aanroepen, indien bekend.

Meer details die kunnen helpen

Informatie Omschrijving
Datumbereik Begin- en einddatum voor de gevraagde verhoging. Scheid de datumbereiken voor de belastingtest, gebruikersacceptatietest en productie als deze verschillen.
Piekpatroon Piekperioden, tijdzones, verwachte oorzaken van pieken en of het verkeer zich concentreert in een kort dagelijks tijdsbestek.
Sessieprofiel Gelijktijdige sessies, duur van gemiddelde sessies en op piekmomenten, berichten per sessie en vragen per sessie.
Typische sessievoorbeelden Representatieve gebruikerspaden, typische uitgevoerde stappen, gebruikte tools en voorbeeldsessie-id's indien beschikbaar.
Runtimepad Stromen, acties, AI-prompts, kennisaanroepen, Dataverse-verzoeken, connectors en API's per interactie.
Pieken op functieniveau Piekvolume per agent, functie, gebruiker, omgeving, connector, minuut, uur en dag indien bekend.
Te beoordelen producten Of de aanvraag betrekking heeft op Copilot Studio, Power Platform Request-toewijzingen, Power Automate, connectors, Dataverse, CLU/AI-services of externe API's.
Bewijs Voorbeeldsessie-id's, fouten, correlatie-id's, logboeken, belastingtestresultaten of productieobservaties.
Oplossingen Vat samen wat u al hebt geprobeerd om de doorvoerdruk te verlagen. Raadpleeg de richtlijnen voor Ontwerp om de doorvoerdruk te verminderen, waaronder ontwerpbeoordeling, geoptimaliseerde externe oproepen, segmentatie van omgevingen, batchverwerking, wachtrijbeheer, triggerfiltering, planning van taken, verdeling van werkbelasting en andere optimalisaties die al zijn toegepast.

Belangrijk

Een toename van de doorvoer is niet gegarandeerd. Microsoft Ondersteuning beoordeelt aanvragen op basis van het scenario, de omgeving, het gevraagde datumbereik, het verwachte verkeer, de geschiktheid, de huidige limieten en de servicecapaciteit.

  • Last updated on