วางแผนการปรับใช้เอเจนต์ Copilot Studio สำหรับปริมาณงานและข้อจำกัดอัตรา

เอเจนต์ Copilot Studio ที่พร้อมสำหรับการใช้งานจริงต้องการมากกว่าการให้สิทธิการใช้งานและการวางแผนปริมาณข้อความทั้งหมด พวกเขายังต้องการการวางแผนปริมาณงานด้วย การวางแผนปริมาณงานครอบคลุมถึงความเร็วที่ปริมาณการใช้งานเข้ามา แพลตฟอร์มที่โซลูชันเรียกใช้บริการ และขีดจำกัดที่ใช้กับโซลูชันทั้งหมด

บทความนี้ช่วยให้สถาปนิกโซลูชัน ผู้สร้าง และผู้ดูแลระบบ Power Platform เตรียมความพร้อมสำหรับการปรับใช้งาน Copilot Studio ในปริมาณมาก เพื่อรองรับปริมาณการใช้งานจริง การทดสอบการยอมรับของผู้ใช้ (UAT) การทดสอบโหลด สถานการณ์ธุรกิจกับลูกค้า (B2C) และเวิร์กโหลดอัตโนมัติ

การเตรียมใช้งานอัตราแยกต่างหากจากการจัดเตรียมสิทธิการใช้งาน

การวางแผน Copilot Studio สำหรับการทำงานจริงมีสตรีมงานที่เกี่ยวข้องกันแต่แยกออกจากกันสองแบบ:

• การจัดเตรียมสิทธิการใช้งานครอบคลุมการให้สิทธิ์เชิงพาณิชย์และการบริโภค เช่น สิทธิการใช้งาน เครดิต ความจุแบบจ่ายเงินล่วงหน้า ชุดข้อความ และการเรียกเก็บเงินแบบจ่ายตามการใช้งานจริง
• การจัดเตรียมอัตรา ครอบคลุมความเร็วที่ปริมาณการใช้งานถูกประมวลผลก่อนที่จะมีการควบคุมสำหรับการควบคุมปริมาณการใช้หรือการป้องกันบริการ

การจ่ายเงินตามการใช้งานจริงสามารถเพิ่มขีดจํากัดที่มีอยู่เมื่อเทียบกับการกําหนดค่าความจุที่ต่ำลง แต่ปริมาณงานไม่ได้ไม่มีที่สิ้นสุด ตรวจสอบขีดจำกัดปัจจุบันของ Copilot Studio, การจัดสรรคำขอของ Power Platform, ขีดจำกัดของ Power Automate, ขีดจำกัดการปกป้องบริการของ Dataverse, กฎการควบคุมปริมาณการใช้ตัวเชื่อมต่อ และขีดจำกัดของ API ขั้นปลาย

จะเกิดอะไรขึ้นเมื่อมีการควบคุมปริมาณการใช้

การควบคุมปริมาณการใช้เป็นลักษณะการทำงานในการป้องกันบริการ ปกป้องบริการที่ใช้ร่วมกันจากรูปแบบปริมาณการใช้งานที่เกินขีดจํากัดที่เผยแพร่ การควบคุมการเพิ่มขึ้น หรือความจุของบริการ อาการที่แน่นอนขึ้นอยู่กับบริการที่ถูกควบคุมปริมาณ

เมื่อถึงขีดจำกัด ผลที่ตามมานั้นมีความสำคัญมากกว่าประเด็นด้านการวางแผนเพียงอย่างเดียว คำขออาจถูกควบคุมปริมาณ, ล่าช้า, ถูกบล็อก หรือถูกปฏิเสธ ในการแชทที่ผู้ใช้ใช้งาน ลักษณะการทำงานนี้อาจปรากฏเป็นการหยุดชะงักของบริการชั่วคราว ตัวอย่างเช่น ผู้ใช้อาจไม่สามารถส่งข้อความถัดไป อาจได้รับข้อความแจ้งว่าเอเจนต์ไม่พร้อมใช้งานหรือถึงขีดจำกัดการใช้งาน หรืออาจพบขั้นตอนที่ล้มเหลวเนื่องจากโฟลว์ ตัวเชื่อมต่อ การเรียกใช้ Dataverse, บริการ AI หรือ API ขั้นปลายถึงขีดจำกัด

เรียนรู้เกี่ยวกับอาการและข้อความแสดงข้อผิดพลาดเฉพาะของ Copilot Studio ใน แก้ไขข้อผิดพลาดขีดจํากัดการใช้งานในเอเจนต์

การวัดขีดจำกัดอัตราการใช้งาน

ขีดจำกัดอัตราการใช้งานจะวัดปริมาณการใช้งานที่บริการสามารถยอมรับได้ในช่วงเวลาที่กำหนด พิจารณากรอบเวลาเหล่านี้อย่างละเอียด: ต่อหนึ่งนาที, ต่อห้านาที, ต่อ 10 นาที, ต่อหนึ่งชั่วโมง, ต่อหนึ่งวัน, ต่อหนึ่งสัปดาห์ และต่อหนึ่งเดือน ปริมาณรายเดือนหรือรายสัปดาห์ช่วยประมาณความต้องการทั้งหมด แต่ช่วงเวลาที่สั้นลงมีความสำคัญต่อการกำหนดอัตรา เพราะการควบคุมปริมาณการใช้มักเกิดจากปริมาณการใช้งานที่กระจุกตัว

ตัวอย่างเช่น บริษัท B2C อาจได้รับปริมาณการใช้งานของเอเจนต์มากที่สุดในช่วงหนึ่งชั่วโมงของแคมเปญที่กำหนดเป้าหมาย ค่าเฉลี่ยรายสัปดาห์อาจดูต่ำ แต่ในชั่วโมงเดียวนั้นยังสามารถสร้างแรงกดดันของปริมาณการใช้งานได้มากพอที่จะทำให้เกิดการควบคุมปริมาณการใช้หรือการหยุดชะงักของบริการ การออกแบบที่ดูปลอดภัยในระดับรายสัปดาห์หรือรายเดือนยังคงสามารถเกินขีดจำกัดในช่วงเวลาสูงสุดในหนึ่งชั่วโมง

ทําความเข้าใจขอบเขตของขีดจํากัด

ขีดจํากัดไม่ได้มีผลเฉพาะในระดับเอเจนต์แต่ละรายเท่านั้น ทั้งนี้ขึ้นอยู่กับแต่ละบริการ ขีดจำกัดอาจถูกนำไปใช้ในระดับสภาพแวดล้อม ระดับเครื่องมือ ระดับ API ระดับตัวเชื่อมต่อ ระดับช่องทาง หรือระดับบริการขั้นปลาย

ตัวอย่างเช่น ขีดจำกัดข้อความถึงเอเจนต์ของ Copilot Studio มีขอบเขตตามสภาพแวดล้อม Dataverse เมื่อคุณประเมินปริมาณการใช้งาน ให้รวมแหล่งที่มาทั้งหมดที่ส่งข้อความไปยังเอเจนต์ในสภาพแวดล้อมนั้น รวมถึงช่องทางสำหรับผู้ใช้ การรวมระบบ ปริมาณงานอัตโนมัติ และทักษะ Azure Bot Framework ด้วย ตรวจสอบค่าปัจจุบันและขอบเขตใน โควต้าและขีดจำกัดของ Copilot Studio

ตัดสินใจว่าการจัดสรรอัตราใช้กับเอเจนต์ของคุณหรือไม่

ไม่ใช่ทุกเอเจนต์ที่จำเป็นต้องมีการจัดสรรอัตราอย่างละเอียด เอเจนต์คำถามที่ถามบ่อยภายในที่เรียบง่ายมีผู้ใช้งานจำนวนน้อย การใช้งานที่คาดการณ์ได้ และมีการเรียกใช้ขั้นปลายเพียงเล็กน้อยหรือไม่มีเลย มักจะไม่ถึงขีดจำกัดอัตรา การจัดสรรอัตราจะมีความสำคัญเมื่อเอเจนต์อาจเกินขีดจำกัดคำขอต่อนาทีหรือคำขอต่อชั่วโมง แม้ว่าปริมาณการใช้งานรายเดือนจะไม่สูงก็ตาม

ควรพิจารณาปริมาณการใช้งานที่คาดหวังตั้งแต่ช่วงต้นของโครงการ ควบคู่กับการออกแบบโซลูชัน ก่อนที่การทดสอบการยอมรับของผู้ใช้ (UAT) และการทดสอบโหลดจะเริ่มขึ้น ทีมควรมั่นใจว่าการออกแบบเอเจนต์ สภาพแวดล้อม บริการที่เชื่อมต่อ และระบบขั้นปลายสามารถรองรับโปรไฟล์ปริมาณงานที่คาดหวังได้

คําแนะนํานี้มีความสําคัญมากที่สุดสําหรับเอเจนต์ระดับองค์กรที่มีขนาดใหญ่และใช้งานอย่างเข้มข้น ซึ่งปริมาณการใช้งานสามารถมาถึงเป็นกลุ่ม ผู้ใช้หรือเหตุการณ์จำนวนมากสามารถเรียกใช้เอเจนต์ได้ในเวลาเดียวกัน หรือแต่ละการโต้ตอบอาศัยบริการจากหลายแพลตฟอร์ม นอกจากนี้ยังสามารถนำไปใช้กับเอเจนต์ขนาดเล็กที่มีรูปแบบการใช้งานที่เข้มข้น เช่น หน้าต่างการเปิดสั้น ๆ เหตุการณ์ในแผนก กระบวนการที่จัดกำหนดการ หรือเวิร์กโฟลว์ที่สร้างคำขอจำนวนมากในไม่กี่นาที

เอเจนต์ B2C และเอเจนต์อิสระต้องการการจัดสรรอัตราล่วงหน้า

เอเจนต์ B2C ที่ให้บริการลูกค้าสามารถรับปริมาณการใช้งานจากแคมเปญ เว็บไซต์สาธารณะ พอร์ทัลลูกค้า การสื่อสารเหตุการณ์ การเปิดตัวสินค้า หรือความต้องการตามฤดูกาล เอเจนต์อิสระสามารถสร้างการรับส่งข้อมูลความถี่สูงจากกำหนดการ เหตุการณ์ กระบวนการเบื้องหลัง หรือเมื่อเรียกใช้เครื่องมือและเวิร์กโฟลว์หลายรายการ

ใช้ช่วงเวลาที่มีปริมาณการใช้งานสูงสุด ไม่ใช่แค่ยอดรวมรายเดือน

ถามว่าเอเจนต์สามารถสร้างคำขอจำนวนมากในช่วงเวลาสั้น ๆ เช่นในหนึ่งนาทีหรือหนึ่งชั่วโมงได้หรือไม่ แม้แต่สถานการณ์ขนาดเล็กก็อาจต้องมีการจัดสรรอัตรา หากการทดสอบโหลด แคมเปญ การตอบสนองต่อเหตุขัดข้อง หรือทริกเกอร์อัตโนมัติ ส่งข้อความจำนวนมาก การเรียกใช้ AI สร้างสรรค์ การดำเนินการเวิร์กโฟลว์ การเรียกใช้ตัวเชื่อมต่อ หรือคำขอ Dataverse ผ่านสภาพแวดล้อมในช่วงเวลาสั้น ๆ

ปริมาณรายเดือนมีประโยชน์สำหรับการประมาณความต้องการทั้งหมด แต่ไม่เพียงพอสำหรับการจัดสรรอัตรา แปลงการใช้งานที่คาดการณ์ไว้ให้เป็นช่วงเวลาที่สั้นลง เพื่อให้คุณสามารถเปรียบเทียบการออกแบบกับจำนวนคำขอปัจจุบันต่อหนึ่งนาที (RPM), ต่อหนึ่งชั่วโมง (RPH), การใช้งานที่พุ่งสูง และขีดจำกัดรายวันจากหน้าเว็บที่ลิงก์ไว้

สร้างโปรไฟล์ปริมาณการใช้งานทั้งแบบเฉลี่ยและแบบสูงสุด ตัวอย่างเช่น หากปริมาณการใช้งานส่วนใหญ่เกิดขึ้นทุกวันระหว่างเวลา 17.00 น. ถึง 18.00 น. ค่าการใช้งานสูงสุดต่อชั่วโมงควรสะท้อนถึงความหนาแน่นของการใช้งานในช่วงเวลานั้น การประเมินรายวันไม่จำเป็นต้องคูณ 24 กับชั่วโมงที่มีการใช้งานสูงสุด หากปริมาณการใช้งานกระจุกตัวอยู่ในช่วงเวลาเดียว

การควบคุมปริมาณการใช้จะเกิดขึ้นเมื่อใด

การควบคุมปริมาณการใช้จะเกิดขึ้นเมื่อ:

• กลุ่มพนักงานจำนวนมากใช้เอเจนต์ในช่วงเวลาสูงสุดที่คาดการณ์ได้ เช่น งานกิจกรรมระดับแผนกหรือการฝึกอบรม
• แคมเปญการตลาด การหยุดทำงาน การเปิดตัว หรือกิจกรรมทางธุรกิจจัดกำหนดการอาจสร้างการเข้าชมที่พุ่งสูงขึ้นในระยะสั้น
• โฟลว์ Power Automate ประกอบด้วยลูป การลองใหม่ การแบ่งหน้า หรือโฟลว์รองที่ขยายปริมาณคําขอ
• การรายงาน การตรวจสอบ การส่งออกข้อมูลการวัดและส่งข้อมูลทางไกล หรือการถอดความจะทำงานแบบซิงโครนัสในเส้นทางรอบของผู้ใช้
• เอเจนต์หรือปริมาณงานหลายรายการใช้สภาพแวดล้อม ข้อมูลประจำตัว ตัวเชื่อมต่อ หรือความจุ API ขั้นปลายร่วมกัน
• การทดสอบโหลดเพิ่มขึ้นเร็วกว่าสถาปัตยกรรมการทำงานจริงหรือกระบวนการสนับสนุนที่เตรียมไว้เพื่อจัดการ

ตำแหน่งในการค้นหาขีดจำกัดอัตราที่เกี่ยวข้อง

Copilot Studio มีขีดจำกัดของตัวเอง และเส้นทางรันไทม์ของเอเจนต์อาจรวมถึงบริการอื่น ๆ ที่มีขีดจำกัดของตัวเองด้วย ตรวจสอบขีดจำกัดที่เกี่ยวข้องทั้งหมดสำหรับบริการที่เอเจนต์ของคุณใช้

ขีดจำกัด Copilot Studio

ข้อจำกัดของแพลตฟอร์มอื่นๆ ที่ต้องพิจารณา

ขีดจำกัดต่ำสุดในเส้นทางรันไทม์จะกำหนดประสบการณ์ของผู้ใช้ เอเจนต์ Copilot Studio สามารถอยู่ภายในขีดจํากัดของตนเองในขณะที่โฟลว์ ตัวเชื่อมต่อ การเรียกใช้ Dataverse, บริการภาษา หรือ API ภายนอกถูกควบคุมปริมาณการใช้

ออกแบบเพื่อลดภาระปริมาณงาน

อย่าใช้การเพิ่มอัตราเป็นแนวทางแรกในการออกแบบของคุณ ขั้นแรก ให้ตรวจสอบการออกแบบเอเจนต์และเพิ่มประสิทธิภาพ หากเอเจนต์ต้องค้นหาข้อมูล ให้เรียกใช้ภายนอกเฉพาะเมื่อจำเป็น ปรับปรุงการเรียกใช้ API ให้มีประสิทธิภาพ และหลีกเลี่ยงปริมาณคำขอที่ไม่จำเป็นใน Copilot Studio, Power Automate, Dataverse, ตัวเชื่อมต่อ และระบบขั้นปลาย

หลังจากการออกแบบมีประสิทธิภาพแล้ว ให้ควบคุมปริมาณงานเพื่อให้ปริมาณการใช้งานมาถึงแพลตฟอร์มในลักษณะที่คาดการณ์ได้:

• สำหรับขีดจำกัดระดับสภาพแวดล้อม ให้พิจารณาแยกเอเจนต์ออกเป็นหลายสภาพแวดล้อม หากแนวทางนี้สอดคล้องกับการออกแบบการดำเนินงานของคุณ วิธีนี้สามารถช่วยป้องกันไม่ให้เอเจนต์ที่มีปริมาณมาก หน่วยธุรกิจ ภูมิภาค หรือปริมาณงานอิสระต้องแข่งขันกับปริมาณงานที่ไม่เกี่ยวข้องเพื่อขีดจำกัดที่ครอบคลุมสภาพแวดล้อมเดียวกัน
• สำหรับเอเจนต์อิสระ ให้ใช้คิว การประมวลผลแบบชุดงาน ตัวกรองทริกเกอร์ การประมวลผลแบบจัดกำหนดการ การควบคุมการลองใหม่ และการตรวจสอบ เพื่อหลีกเลี่ยงการเกิดงานเบื้องหลังอย่างรวดเร็วและไม่สามารถควบคุมได้
• ย้ายงานตามกําหนดการ การรายงาน การส่งออกการตรวจสอบ และการวัดและส่งข้อมูลทางไกลออกนอกเส้นทางการแชทแบบโต้ตอบเมื่อเป็นไปได้
• ตรวจสอบผลการทดสอบโหลดและการวัดและส่งข้อมูลทางไกลในระบบการทำงานจริงเพื่อระบุจุดที่มีคำขอสูง จากนั้นปรับแต่งเอเจนต์ โฟลว์ ตัวเชื่อมต่อ และ API ขั้นปลายก่อนร้องขอขีดจำกัดที่สูงขึ้น

เอเจนต์อิสระอยู่ในตําแหน่งที่ไม่เหมือนใคร เพื่อเพิ่มการใช้ความจุที่จัดสรรให้เกิดประโยชน์สูงสุดด้วยความสามารถในการคาดการณ์และการเฝ้าสังเกตที่แข็งแกร่ง โดยการจัดคิวคําขอและควบคุมอัตราทริกเกอร์

จะทำอย่างไรหากขีดจำกัดอัตราเริ่มต้นไม่เพียงพอ

หากการประมาณการปริมาณการใช้งานสูงสุดแสดงว่าเอเจนต์หรือบริการที่เชื่อมต่ออาจเกินขีดจำกัดที่ประกาศไว้ในปัจจุบัน ให้เริ่มขั้นตอนขอจัดสรรอัตราก่อนการทดสอบ UAT การทดสอบโหลด หรือการเปิดตัวใช้งานจริง อย่ารอให้การทำงานจริงครั้งแรกล้มเหลว

เปิดคำขอรับการสนับสนุน

ผู้ดูแลระบบสามารถขอการสนับสนุนจากศูนย์จัดการ Power Platform

เปิดตั๋วแต่เนิ่นๆ และแนบค่าประมาณที่ดีที่สุดที่มีอยู่ ยิ่งคุณให้รายละเอียดมากเท่าใด กระบวนการตรวจสอบก็จะยิ่งง่ายขึ้นเท่านั้น อัปเดตคำขอเมื่อการออกแบบได้รับการปรับปรุงหรือเมื่อมีข้อมูลที่สังเกตได้จากการทดสอบโหลด

ข้อมูลหลักที่จะรวม

รายละเอียดเพิ่มเติมที่สามารถช่วยได้

ข้อมูลที่เกี่ยวข้อง

• โควตาแและขีดจำกัดสำหรับ Copilot Studio
• แนวทางปฏิบัติสำหรับการปรับปรุงประสิทธิภาพของเอเจนต์สนทนา
• แก้ไขข้อผิดพลาดเกี่ยวกับขีดจำกัดการใช้งานในเอเจนต์
• ค่าจำกัดและการจัดสรรคำขอ
• ทำความเข้าใจขีดจำกัดของแพลตฟอร์มและหลีกเลี่ยงการควบคุมปริมาณการใช้
• ขีดจำกัดของโฟลว์อัตโนมัติ โฟลว์ที่จัดกำหนดการ และโฟลว์แบบทันที
• ขีดจํากัด API การป้องกันบริการ
• ภาพรวมขีดจำกัดของ API Dataverse
• ขีดจำกัดความเข้าใจภาษาสนทนา
• ขอรับการสนับสนุนในศูนย์การจัดการ Power Platform