วางแผนการปรับใช้เอเจนต์ Copilot Studio สำหรับปริมาณงานที่รองรับและขีดจำกัดอัตรา

เอเจนต์ Copilot Studio ที่พร้อมใช้งานจริงต้องการมากกว่าการจัดการสิทธิ์การใช้งานและการวางแผนปริมาณข้อความโดยรวม พวกเขายังต้องมีการวางแผนปริมาณงานด้วย การวางแผนปริมาณงานครอบคลุมความรวดเร็วในการรับส่งข้อมูลที่มาถึง ซึ่งบริการแพลตฟอร์มที่เรียกใช้โซลูชัน และขีดจํากัดที่ใช้ทั่วทั้งโซลูชันทั้งหมด

บทความนี้ช่วยให้สถาปนิกด้านโซลูชัน ผู้สร้าง และผู้ดูแลระบบ Power Platform เตรียมการปรับใช้ Copilot Studio ปริมาณสูงสําหรับปริมาณการใช้งานการผลิต การทดสอบการยอมรับของผู้ใช้ (UAT) การทดสอบโหลด สถานการณ์แบบลูกค้าธุรกิจต่อลูกค้า (B2C) และปริมาณงานอัตโนมัติ

การจัดอัตราแยกต่างหากจากการเตรียมสิทธิ์การใช้งาน

การวางแผน Copilot Studio สำหรับระบบใช้งานจริงมีสายงานอยู่สองส่วนที่เกี่ยวข้องกันแต่แยกจากกัน:

• การจัดสิทธิ์การใช้งาน จะครอบคลุมสิทธิและการใช้งานเชิงพาณิชย์ เช่น สิทธิ์การใช้งาน เครดิต ความจุแบบชําระเงินล่วงหน้า ชุดข้อความ และการเรียกเก็บเงินตามการใช้งานจริง
• การจัดสรรอัตรา หมายถึงความรวดเร็วในการประมวลผลทราฟฟิกก่อนที่จะมีการจำกัดอัตราหรือมีการใช้มาตรการป้องกันบริการ

Pay-as-you-go สามารถเพิ่มขีดจํากัดที่พร้อมใช้งานเมื่อเปรียบเทียบกับการกําหนดค่าความจุที่ต่ํากว่า แต่ปริมาณงานไม่ได้เป็นจํานวนจํากัด ตรวจสอบขีดจํากัด Copilot Studio ปัจจุบัน การจัดสรรคําขอของ Power Platform ขีดจํากัด Power Automate ขีดจํากัดการป้องกันบริการข้อมูล กฎการควบคุมตัวเชื่อมต่อ และขีดจํากัด API ปลายทาง

จะเกิดอะไรขึ้นเมื่อมีการควบคุมปริมาณการใช้

การจำกัดอัตราเป็นกลไกเพื่อปกป้องบริการ ปกป้องบริการที่ใช้ร่วมกันจากรูปแบบทราฟฟิกที่เกินกว่าขีดจำกัดที่เผยแพร่ไว้ ขีดจำกัดการรับส่งแบบพุ่งสูงชั่วขณะ หรือความจุของบริการ อาการที่เกิดขึ้นจะแตกต่างกันไป ขึ้นอยู่กับว่าบริการใดถูกจำกัดอัตราการใช้งาน

เมื่อถึงขีดจํากัด ผลที่ตามมาจะมากกว่าปัญหาการวางแผน คำขออาจถูกจำกัดอัตรา หน่วงเวลา บล็อก หรือปฏิเสธได้ ในการสนทนาที่ผู้ใช้เชื่อมต่อไว้ ลักษณะการทํางานนี้อาจปรากฏขึ้นเป็นการหยุดชะงักของบริการชั่วคราว ตัวอย่างเช่น ผู้ใช้อาจไม่สามารถส่งข้อความถัดไป รับข้อความโต้ตอบแบบไม่สามารถใช้งานได้หรือมีข้อจํากัดด้านการใช้งาน หรือพบขั้นตอนที่ล้มเหลวเนื่องจากโฟลว์ ตัวเชื่อมต่อ การเรียกข้อมูล บริการ AI หรือ API ปลายทางถึงขีดจํากัด

เรียนรู้เกี่ยวกับอาการเฉพาะ Copilot Studio และข้อความแสดงข้อผิดพลาดใน แก้ไขข้อผิดพลาดของขีดจํากัดการใช้งานในตัวแทน

วิธีการวัดขีดจํากัดอัตรา

ขีดจํากัดอัตราวัดปริมาณการใช้งานที่บริการสามารถยอมรับได้ในช่วงเวลาที่กําหนด ลองนึกถึง Windows เหล่านี้อย่างละเอียด: ต่อนาที, ต่อห้านาที, ต่อ 10 นาที, ต่อชั่วโมง, ต่อวัน, ต่อสัปดาห์ และต่อเดือน ปริมาณรายเดือนหรือรายสัปดาห์ช่วยประเมินความต้องการโดยรวมได้ แต่ช่วงเวลาที่สั้นกว่านั้นมีความสำคัญต่อการจัดสรรอัตราการรองรับ เพราะการจำกัดอัตรามักเกิดจากทราฟฟิกที่กระจุกตัวในช่วงเวลาหนึ่ง

ตัวอย่างเช่น บริษัท B2C อาจได้รับปริมาณการใช้งานของตัวแทนมากที่สุดในช่วงเวลาแคมเปญเดียว ค่าเฉลี่ยรายสัปดาห์อาจดูต่ํา แต่ชั่วโมงเดียวยังคงสามารถสร้างแรงกดทับที่เพียงพอที่จะทําให้เกิดการจํากัดหรือการหยุดชะงักของบริการ การออกแบบที่ดูปลอดภัยในระดับรายสัปดาห์หรือรายเดือนยังคงเกินขีดจํากัดในระหว่างยอดสูงสุดหนึ่งชั่วโมง

ทําความเข้าใจขอบเขตของขีดจํากัด

ขีดจํากัดไม่ได้ใช้เฉพาะกับระดับเจ้าหน้าที่เฉพาะเท่านั้น ทั้งนี้ขึ้นอยู่กับบริการ พวกเขาสามารถนําไปใช้ในระดับสภาพแวดล้อม ระดับเครื่องมือ ระดับ API ระดับตัวเชื่อมต่อ ระดับแชนเนล หรือระดับบริการปลายทางได้

ตัวอย่างเช่น Copilot Studio ขีดจํากัดของข้อความถึงตัวแทนจะถูกกําหนดขอบเขตต่อสภาพแวดล้อม Dataverse เมื่อคุณประมาณปริมาณการรับส่งข้อมูล ให้รวมแหล่งที่มาทั้งหมดที่ส่งข้อความไปยังเอเจนต์ในสภาพแวดล้อมนั้น รวมถึงช่องทางที่ติดต่อกับผู้ใช้ การผสานรวม เวิร์กโหลดอัตโนมัติ และสกิลของ Azure Bot Service ตรวจสอบค่าและขอบเขตปัจจุบันใน Copilot Studio โควตาและขีดจํากัด

ตัดสินใจว่าการตั้งค่าอัตรามีผลกับตัวแทนของคุณหรือไม่

ไม่ใช่ตัวแทนทุกคนที่ต้องการงานการกําหนดอัตราโดยละเอียด เอเจนต์ FAQ ภายในแบบง่าย ๆ ที่มีผู้ใช้งานจำนวนน้อย รูปแบบการใช้งานคาดการณ์ได้ และมีการเรียกไปยังระบบปลายทางเพียงเล็กน้อยหรือไม่มีเลย ไม่น่าจะติดข้อจำกัดด้านอัตราการใช้งาน การจัดอัตรากลายเป็นสิ่งสําคัญเมื่อตัวแทนอาจเกินคําขอต่อนาทีหรือขอขีดจํากัดต่อชั่วโมงแม้ว่าปริมาณรายเดือนจะมีลักษณะพอเหมาะก็ตาม

คิดถึงปริมาณการใช้งานที่คาดไว้ในช่วงต้นของโครงการควบคู่ไปกับการออกแบบโซลูชัน ก่อนที่ผู้ใช้จะยอมรับการทดสอบ (UAT) และเริ่มทดสอบการโหลด ทีมควรมั่นใจได้ว่าการออกแบบตัวแทน สภาพแวดล้อม บริการที่เชื่อมต่อ และระบบปลายทางสามารถรองรับโปรไฟล์อัตราความเร็วที่คาดไว้ได้

คําแนะนํานี้มีความสําคัญมากที่สุดสําหรับตัวแทนระดับองค์กรที่มีขนาดใหญ่ขึ้นและเข้มข้นมากขึ้นซึ่งปริมาณการใช้งานสามารถเกิดขึ้นต่อเนื่องผู้ใช้หรือเหตุการณ์จํานวนมากสามารถเรียกใช้ตัวแทนได้ในเวลาเดียวกันหรือการโต้ตอบแต่ละครั้งขึ้นอยู่กับบริการแพลตฟอร์มหลายรายการ นอกจากนี้ยังสามารถใช้กับตัวแทนที่มีขนาดเล็กที่มีรูปแบบการใช้งานแบบเข้มข้น เช่น หน้าต่างการเปิดใช้งานสั้น ๆ เหตุการณ์ทั่วทั้งแผนก กระบวนการตามกําหนดเวลา หรือเวิร์กโฟลว์ที่สร้างคําขอจํานวนมากในไม่กี่นาที

B2C และตัวแทนอิสระต้องมีการจัดอัตราก่อน

ตัวแทน B2C ที่เชื่อมต่อกับลูกค้าสามารถรับปริมาณการใช้งานจากแคมเปญ เว็บไซต์สาธารณะ พอร์ทัลลูกค้า การสื่อสารเหตุการณ์ การเปิดตัวผลิตภัณฑ์ หรือความต้องการตามฤดูกาล ตัวแทนอัตโนมัติสามารถสร้างปริมาณการใช้งานความถี่สูงจากกําหนดการ เหตุการณ์ กระบวนการพื้นหลัง หรือเมื่อเรียกใช้หลายเครื่องมือและเวิร์กโฟลว์

ใช้ช่วงเวลาสูงสุด ไม่ใช่แค่ยอดรวมรายเดือน

ถามว่าตัวแทนสามารถสร้างคำขอจำนวนมากภายในหนึ่งนาทีหรือหนึ่งชั่วโมงได้หรือไม่ แม้จะเป็นสถานการณ์ที่เล็กกว่า ก็ยังอาจต้องจัดสรรความจุของอัตรา หากการทดสอบโหลด แคมเปญ การตอบสนองต่อเหตุขัดข้อง หรือทริกเกอร์อัตโนมัติ ทำให้มีการส่งข้อความ การเรียกใช้ AI เชิงสร้างสรรค์ การดำเนินการเวิร์กโฟลว์ การเรียกใช้ตัวเชื่อมต่อ หรือคำขอ Dataverse มากเกินไปภายในสภาพแวดล้อมในช่วงเวลาสั้น ๆ

ปริมาณรายเดือนมีประโยชน์สําหรับการประเมินความต้องการทั้งหมด แต่ไม่เพียงพอสําหรับการเตรียมใช้งานอัตรา แปลงการใช้งานที่คาดไว้ลงในหน้าต่างเวลาที่เล็กลง เพื่อให้คุณสามารถเปรียบเทียบการออกแบบกับคําขอปัจจุบันต่อนาที (RPM) คําขอต่อชั่วโมง (RPH) การส่งผ่านและขีดจํากัดรายวันจากหน้าที่เชื่อมโยง

สร้างทั้งโปรไฟล์ปริมาณการใช้งานโดยเฉลี่ยและโปรไฟล์ปริมาณการใช้งานสูงสุด ตัวอย่างเช่น หากปริมาณการใช้งานส่วนใหญ่เกิดขึ้นทุกวันระหว่าง 17.00 น. และ 18.00 น. ยอดสูงสุดต่อชั่วโมงควรสะท้อนถึงความเข้มข้นนั้น การประมาณรายวันไม่จําเป็นต้องเป็น 24 เท่าของชั่วโมงสูงสุดหากปริมาณการใช้งานอยู่ในหน้าต่างเดียว

ใช้ประมาณการเหล่านี้เพื่อกําหนดขนาดและตรวจสอบความถูกต้องของการออกแบบ การประมาณการไม่ใช่เหตุผลเพียงพอสําหรับการขอเพิ่มปริมาณงาน คําขอจะถูกตรวจสอบกับทราฟฟิกที่สังเกตได้จากระยะนําร่อง ตามที่อธิบายไว้ใน Run a pilot phase ก่อนขอเพิ่มปริมาณข้อมูล

การควบคุมปริมาณการใช้จะเกิดขึ้นเมื่อใด

การจํากัดอาจเกิดขึ้นได้เมื่อ:

• ประชากรพนักงานจํานวนมากใช้ตัวแทนในระหว่างหน้าต่างสูงสุดที่สามารถคาดการณ์ได้ เช่น เหตุการณ์หรือการฝึกอบรมทั่วทั้งแผนก
• แคมเปญการตลาด ระบบขัดข้อง การเปิดตัว หรือกิจกรรมทางธุรกิจที่กำหนดไว้ล่วงหน้า อาจทำให้ปริมาณการใช้งานพุ่งสูงขึ้นชั่วคราว
• โฟลว์ Power Automate อาจมีลูป การลองใหม่ การแบ่งหน้า หรือโฟลว์รองที่เพิ่มปริมาณคำขอ
• การรายงาน การตรวจสอบ การส่งออกการวัดและส่งข้อมูลทางไกล หรือการจับภาพสําเนาบทสนทนาจะทํางานแบบซิงโครนัสในเส้นทางเปลี่ยนของผู้ใช้
• ตัวแทนหรือปริมาณงานหลายตัวแชร์สภาพแวดล้อม ข้อมูลประจําตัว ตัวเชื่อมต่อ หรือความจุ API ปลายทางเดียวกัน
• การทดสอบโหลดเพิ่มระดับขึ้นเร็วกว่าที่สถาปัตยกรรมระบบที่ใช้งานจริงหรือกระบวนการสนับสนุนจะรองรับได้ทัน

ดูขีดจำกัดอัตราที่เกี่ยวข้องได้ที่ไหน

Copilot Studio มีขีดจํากัดของตนเอง และเส้นทางรันไทม์ของตัวแทนอาจรวมถึงบริการอื่น ๆ ที่มีขีดจํากัดของตนเอง ตรวจสอบขีดจํากัดที่เกี่ยวข้องทั้งหมดสําหรับบริการที่เจ้าหน้าที่ของคุณใช้

ขีดจํากัด Copilot Studio

ข้อจํากัดของแพลตฟอร์มอื่นๆ ที่ควรพิจารณา

ขีดจํากัดต่ําสุดในเส้นทางรันไทม์จะกําหนดประสบการณ์ของผู้ใช้ เอเจนต์ Copilot Studio สามารถอยู่ภายในขีดจำกัดของตนเองในขณะที่โฟลว์ ตัวเชื่อมต่อ การเรียกใช้ Dataverse, บริการภาษา หรือ API ภายนอกถูกควบคุมปริมาณการใช้

ออกแบบเพื่อลดแรงกดดันจากปริมาณงาน

อย่าใช้การเพิ่มอัตราเป็นทางออกแรกในการออกแบบ ก่อนอื่น ให้ตรวจสอบการออกแบบตัวแทนและปรับประสิทธิภาพให้เหมาะสม ถ้าเจ้าหน้าที่จําเป็นต้องค้นหาบางอย่าง รักษาความตั้งใจในการเรียกใช้ภายนอก ปรับการเรียกใช้ API ให้เหมาะสม และหลีกเลี่ยงปริมาณคําขอที่ไม่จําเป็นทั่วทั้ง Copilot Studio Power Automate Dataverse ตัวเชื่อมต่อ และระบบปลายทาง

หลังจากการออกแบบมีประสิทธิภาพการควบคุมปริมาณงานเพื่อให้การรับส่งข้อมูลถึงแพลตฟอร์มในลักษณะที่คาดการณ์ได้:

• สําหรับขีดจํากัดระดับสภาพแวดล้อม พิจารณาการแยกตัวแทนในหลายสภาพแวดล้อมหากวิธีการนั้นตรงกับการออกแบบการดําเนินงานของคุณ วิธีการนี้สามารถช่วยรักษาปริมาณตัวแทน หน่วยธุรกิจ ภูมิภาค หรือปริมาณงานที่เป็นอิสระจากการแข่งขันกับปริมาณงานที่ไม่เกี่ยวข้องสําหรับขีดจํากัดขอบเขตสภาพแวดล้อมเดียวกัน
• สําหรับตัวแทนอัตโนมัติ ให้ใช้คิว การประมวลผลแบบกลุ่ม ตัวกรองทริกเกอร์ การประมวลผลตามกําหนดเวลา การควบคุมการลองใหม่ และการตรวจสอบ เพื่อไม่ให้งานเบื้องหลังเข้ามาเป็นชุดใหญ่แบบควบคุมไม่ได้
• ย้ายตารางเวลา การรายงาน การส่งออกการตรวจสอบ และการวัดและส่งข้อมูลทางไกลจะทํางานนอกเส้นทางการแชทแบบโต้ตอบเมื่อเป็นไปได้
• ตรวจสอบผลลัพธ์การทดสอบโหลดและการวัดและส่งข้อมูลทางไกลของการผลิตเพื่อระบุตําแหน่งที่คําขอมุ่งความสนใจ จากนั้นปรับแต่งตัวแทน โฟลว์ ตัวเชื่อมต่อ และ API ปลายทางก่อนที่จะร้องขอขีดจํากัดที่สูงขึ้น

ตัวแทนอัตโนมัติอยู่ในตำแหน่งที่เหมาะเป็นพิเศษในการใช้ขีดความสามารถที่จัดสรรไว้ให้เกิดประโยชน์สูงสุด พร้อมความสามารถในการคาดการณ์และการสังเกตการณ์ที่เชื่อถือได้ โดยจัดคิวคำขอและควบคุมอัตราการเรียกใช้งาน

รันระยะนําร่องก่อนขอเพิ่มปริมาณงาน

ขีดจํากัดเริ่มต้นรองรับเอเจนต์ผลิตส่วนใหญ่ รวมถึงเอเจนต์ที่ให้บริการผู้ใช้ที่ใช้งานรายเดือนหลายพันคน ก่อนที่คุณจะวางแผนเพิ่มปริมาณงาน ให้ตรวจสอบว่าตัวแทนต้องการจริงหรือไม่

การเปิดตัวเต็มรูปแบบทันทีไม่ใช่รูปแบบการเปิดตัวที่สนับสนุน ปล่อยเอเจนต์ไปยังกลุ่มเป้าหมายก่อน สังเกตการใช้งานจริง และใช้มาตรการเหล่านั้นวางแผนการเปิดตัวเต็มรูปแบบ ระยะนําร่องช่วยลดความเสี่ยงในการปล่อยและสร้างหลักฐานที่คําขอเพิ่มปริมาณการผลิตต้องการ

การใช้งานจริงมักแตกต่างจากการประเมินก่อนปล่อยจรรยาน ความยาวเซสชัน ข้อความต่อเซสชัน ความถี่ที่ผู้ใช้เข้าถึงคําตอบหรือการกระทําแบบสร้างสรรค์ พฤติกรรมการลองซ้ํา และจํานวนการเรียก flow, connector, Dataverse และ API ภายนอกต่อเทิร์น ล้วนเป็นเรื่องยากที่จะทํานายก่อนที่เอเจนต์จะอยู่ในมือของผู้ใช้จริง นักบินจะเปิดเผยขีดจํากัดที่สําคัญและรูปแบบการจราจรที่ยากจะประเมินล่วงหน้า

ออกแบบโครงการนําร่องที่มีประสิทธิภาพ

วัดระหว่างการนําร่อง

บันทึกค่าที่ตรงกับขีดจำกัดอัตราที่เผยแพร่ไว้โดยตรง:

• ข้อความต่อนาทีและต่อชั่วโมง เฉลี่ยและสูงสุด
• จํานวนเซสชัน, เซสชันพร้อมกัน, ระยะเวลาเซสชัน และข้อความต่อเซสชัน
• การเรียก Generative AI ต่อเทิร์นและต่อเซสชัน รวมถึงคําตอบเชิงสร้างสรรค์ การกระทําของเอเจนต์ และเครื่องมือต่าง ๆ
• การดำเนินการใน Power Automate การเรียกใช้คอนเน็กเตอร์ และคำขอ Dataverse ที่สร้างขึ้นต่อเทิร์นของเอเจนต์
• เหตุการณ์จํากัดความเร็ว, ข้อผิดพลาดของขีดจํากัดการใช้งาน, การลองใหม่ และความหน่วงในช่วงเวลาที่นักบินมีการใช้งานสูงสุด
• ขนาดผู้ชมนําร่อง ซึ่งแสดงเป็นสัดส่วนของกลุ่มเป้าหมายทั้งหมด

คาดการณ์ให้เต็มความจุ

ปรับขนาดการวัดยอดสูงสุดที่สังเกตได้ให้ครอบคลุมกลุ่มเป้าหมายทั้งหมด และบันทึกวิธีการที่คุณใช้ การปรับสเกลโดยอิงจากปริมาณการจราจรสูงสุดในช่วงนําร่อง ไม่ใช่ค่าเฉลี่ยรายวันหรือรายสัปดาห์ เพราะการจํากัดความเร็วเกิดจากการจราจรที่เข้มข้น คํานึงถึงสิ่งที่โครงการนําร่องไม่ได้รวมไว้ เช่น ภูมิภาคเพิ่มเติม ช่องสัญญาณ งานอัตโนมัติ หรือแคมเปญเปิดตัวที่เน้นปริมาณการใช้งานมากกว่าช่วงนําร่อง

ผลลัพธ์คือคำขอที่มีหลักฐานรองรับ: ปริมาณทราฟฟิกของโครงการนำร่องที่วัดได้ สัดส่วนผู้ชมของโครงการนำร่อง วิธีการคาดขยาย และความต้องการสูงสุดที่ได้เมื่อขยายเป็นขนาดเต็ม

จะทําอย่างไรถ้าขีดจํากัดอัตราเริ่มต้นไม่เพียงพอ

หากพบทราฟฟิกนําร่องแสดงว่าเอเจนต์หรือบริการที่เชื่อมต่อใด ๆ เกินขีดจํากัดที่เผยแพร่ในปัจจุบันในระดับเต็ม ให้เริ่มกระบวนการสนับสนุนการจัดสรรอัตราก่อนที่จะขยายการเปิดใช้งาน ไม่ต้องรอให้การผลิตล้มเหลวครั้งแรก

เปิดคําขอการสนับสนุน

ผู้ดูแลระบบสามารถ ขอรับการสนับสนุนจากศูนย์ดูแล Power Platform ได้

เปิดตั๋วหลังจากช่วงนําร่อง และแนบผลลัพธ์ที่วัดได้พร้อมกับการประมาณค่าให้เต็มกําลัง คําขอที่มีเพียงการประมาณเวลาออกแบบหรือผลลัพธ์ UAT ขนาดเล็กจะไม่สามารถตรวจสอบและชะลอการเพิ่มขึ้นได้ ยิ่งคุณให้รายละเอียดอย่างรอบคอบมากเท่าไร การตรวจสอบก็จะยิ่งเร็วขึ้นเท่านั้น อัปเดตคําขอเมื่อการขยายตัวขยายตัวและมีข้อมูลเทเลเมทรีเพิ่มเติมพร้อมใช้งาน

ข้อมูลหลักที่จะรวม

รายละเอียดเพิ่มเติมที่สามารถช่วยได้

ข้อมูลที่เกี่ยวข้อง

• โควตาและขีดจํากัดของ Copilot Studio
• แนวทางปฏิบัติที่ดีที่สุดสําหรับการปรับปรุงประสิทธิภาพการทํางานของตัวแทนการสนทนา
• แก้ไขข้อผิดพลาดของขีดจํากัดการใช้งานในตัวแทน
• ค่าจำกัดและการจัดสรรคำขอ
• ทําความเข้าใจเกี่ยวกับขีดจํากัดของแพลตฟอร์มและหลีกเลี่ยงการจํากัดการควบคุม
• ขีดจํากัดของโฟลว์อัตโนมัติ จัดกําหนดการ และโต้ตอบแบบทันที
• ขีดจํากัด API การป้องกันบริการ
• ภาพรวมขีดจำกัดของ API Dataverse
• ขีดจํากัดการทําความเข้าใจภาษาการสนทนา
• รับการสนับสนุนในศูนย์การจัดการ Power Platform