ปรับปรุงการตอบของ AI โดยใช้ Retrieval Augmented Generation

Retrieval Augmented Generation (RAG) ใน Microsoft Copilot Studio รวมความสามารถในการให้เหตุผลของโมเดลภาษาเข้ากับความรู้เฉพาะองค์กรที่เชื่อถือได้ ช่วยให้เอเจนต์สามารถสร้างการตอบที่ถูกต้อง สอดคล้องกับบริบท และมีพื้นฐานจากเนื้อหาขององค์กร แทนที่จะพึ่งพาหน่วยความจำของโมเดลเพียงอย่างเดียว

ในบทความนี้ คุณจะได้เรียนรู้วิธีการ:

• ทำความเข้าใจว่า RAG ช่วยเพิ่มความน่าเชื่อถือและความมีหลักฐานอ้างอิงของ AI ได้อย่างไร
• อธิบายวิธีที่ Copilot Studio ดึงข้อมูลและสังเคราะห์ความรู้
• ระบุแหล่งความรู้ที่รองรับและข้อจำกัด
• ตระหนักถึงข้อควรพิจารณาด้านการกำกับดูแล การปฏิบัติตามข้อกำหนด และความปลอดภัยของ AI
• ประยุกต์ใช้แนวคิด RAG ในการออกแบบเอเจนต์ในสภาพแวดล้อมขององค์กร

บทนำเกี่ยวกับ RAG

RAG เป็นรูปแบบการออกแบบที่ช่วยเพิ่มความแม่นยำของ AI ด้วยการรวมสองความสามารถเข้าด้วยกัน:

• การดึงข้อมูล: การค้นหาแหล่งข้อมูลขององค์กร
• การสร้างข้อความ: การสังเคราะห์ข้อมูลที่ดึงมาโดยใช้โมเดลภาษา

แนวทางนี้ช่วยลดข้อมูลที่ผิดพลาด เพิ่มความน่าเชื่อถือ และสร้างการตอบที่อ้างอิงจากเนื้อหาจริงขององค์กร

สถาปัตยกรรม RAG ใน Copilot Studio

ไปป์ไลน์ RAG ของ Copilot Studio สร้างขึ้นบนบริการ Azure AI และผสานรวมอย่างแน่นหนากับมาตรฐานความน่าเชื่อถือ มาตรฐานการปฏิบัติตามข้อกำหนด และมาตรฐานความปลอดภัยของ Microsoft

ส่วนประกอบหลัก:

• รันไทม์ Copilot Studio: จัดการไปป์ไลน์การสนทนา
• กลไกการเพิ่มประสิทธิภาพการสืบค้น: เขียนใหม่และตีความการสืบค้น
• ผู้ให้บริการค้นหา: Bing, SharePoint, Graph, Dataverse, Azure AI Search
• กลไกการสรุป: สร้างคำตอบที่มีเหตุผลและอ้างถึง
• เลเยอร์การกลั่นกรอง: ตรวจสอบข้อความและบทสรุป
• ที่เก็บสถานะ: หน่วยความจำระยะสั้น (น้อยกว่า 30 วัน; ไม่ใช้สำหรับการฝึกอบรม)
• คลังการวัดและส่งข้อมูลทางไกลและคำติชม: ให้ข้อมูลเชิงลึกและการกำกับดูแล

การทำงานของ RAG ใน Copilot Studio

RAG ใน Copilot Studio ทำตามกระบวนการสี่ขั้นตอน:

1. การปรับแต่งการสอบถาม
2. การดึงเนื้อหา
3. การสรุปเนื้อหาและการสร้างคำตอบ
4. การตรวจสอบความปลอดภัยและการกำกับดูแล

1. การปรับแต่งคำถามใหม่

Copilot Studio ปรับคำถามของผู้ใช้ให้เหมาะสมก่อนค้นหา:

• ทำให้ความหมายชัดเจน
• เพิ่มสัญญาณบริบทจากบทสนทนา 10 ครั้งล่าสุด
• ปรับปรุงการจับคู่คีย์เวิร์ด
• สร้างคำค้นหาที่เหมาะสมกับการค้นหา

กระบวนการนี้ช่วยเพิ่มคุณภาพการดึงข้อมูลและลดผลลัพธ์ที่ไม่เกี่ยวข้อง

2. การดึงเนื้อหา

หลังจากปรับแต่งคิวรี ระบบจะสืบค้นข้อมูลจากแหล่งความรู้ทั้งหมดที่คุณกำหนดไว้ Copilot Studio ได้รับผลลัพธ์สามอันดับแรกจากแต่ละแหล่ง โดยสร้างสมดุลระหว่างความเกี่ยวข้องกับประสิทธิภาพ ลักษณะการทำงานของแต่ละแหล่งความรู้แตกต่างกันไปตามปัจจัยต่างๆ เช่น การรับรองความถูกต้อง การจัดทำดัชนี รูปแบบไฟล์ และข้อจำกัดของที่เก็บข้อมูล

ตารางต่อไปนี้สรุปแหล่งความรู้ที่ได้รับการสนับสนุนทั้งหมด รวมถึงความสามารถ ข้อจำกัด และข้อกำหนดการรับรองความถูกต้อง:

3. การสรุปและการสร้างคำตอบ

• AI สังเคราะห์เนื้อหาที่ดึงมา
• ใช้คำสั่งแบบกำหนดเองสำหรับโทนเสียง การจัดรูปแบบ ความปลอดภัย หรือความกระชับ
• สร้างการอ้างอิงไปยังข้อมูลต้นทาง
• ปรับแต่งการตอบโดยใช้บริบทของผู้ใช้ (เช่น ภาษา แผนก หรือภูมิภาค)

4. การตรวจสอบความปลอดภัยและการกำกับดูแล

การตอบแต่ละครั้งจะผ่านเลเยอร์การตรวจสอบความถูกต้องอัตโนมัติ:

• การกลั่นกรองคำตอบที่มีความอันตราย มีเจตนาไม่ดี ไม่สอดคล้องกับข้อกำหนด หรือมีลิขสิทธิ์
• การตรวจสอบการต่อสายดินและการลบข้อมูลที่ไม่ถูกต้อง

ไม่ได้ใช้ข้อมูลของลูกค้าในการฝึกโมเดลภาษา

ข้อควรพิจารณาที่สำคัญเมื่อใช้ RAG

RAG มีประสิทธิภาพสูงสุดสำหรับคำถามและคำตอบที่เป็นข้อเท็จจริง ไม่ใช่การวิเคราะห์เอกสารเชิงลึก

RAG เหมาะสำหรับ:

• ตอบคำถามจากฐานความรู้
• สรุปนโยบาย คำถามที่พบบ่อย และเนื้อหาขั้นตอน
• การดึงข้อมูลข้อเท็จจริงเฉพาะจากไฟล์หรือระบบภายใน

RAG ไม่ได้มีวัตถุประสงค์สำหรับ:

• การเปรียบเทียบเอกสารทั้งหมด
• การประเมินการปฏิบัติตามนโยบาย
• การให้เหตุผลที่ซับซ้อนเกี่ยวกับเอกสารที่ไม่มีโครงสร้างที่ยาวเหยียด

ข้อพิจารณาด้านความปลอดภัยและข้อบังคับของ AI สร้างสรรค์

คุณลักษณะ AI สร้างสรรค์ ใน Microsoft Copilot Studio ได้รับการออกแบบมาเพื่อมอบความสามารถในการสนทนาและการให้เหตุผลที่มีประสิทธิภาพ ในขณะที่ยังคงรักษาการควบคุมด้านความปลอดภัย ความเป็นส่วนตัว และการปฏิบัติตามข้อบังคับที่เข้มงวด

โมเดลพื้นฐานและโฮสติ้ง

• Copilot Studio อาศัยโมเดลพื้นฐานที่ OpenAI ฝึก
• Copilot Studio ใช้หนึ่งในโมเดล OpenAI รุ่นล่าสุดสำหรับคำตอบที่สร้างโดยอัตโนมัติ
• โมเดลทั้งหมดทำงานบนบริการ Azure AI Foundry ภายใน ซึ่งสอดคล้องกับขอบเขตความน่าเชื่อถือของบริการของ Microsoft
• การใช้งานโมเดลทั้งหมดสอดคล้องกับ หลักการและนโยบาย AI ที่รับผิดชอบของ Microsoft

คำสั่งแบบกำหนดเอง

ผู้สร้างสามารถให้คำสั่งแบบกำหนดเอง เพื่อปรับแต่งลักษณะการทำงานของโมเดล ส่งผลต่อโทนเสียง หรือเพิ่มกฎการจัดรูปแบบ คำสั่งเหล่านี้ช่วยปรับแต่งการตอบสนองเชิงสร้างสรรค์ให้ตรงกับความต้องการขององค์กร ในขณะที่ยังคงสอดคล้องกับตัวกรองความปลอดภัยและการควบคุมการปฏิบัติตามข้อกำหนด

การจัดเก็บข้อมูลและการประมวลผล

• การจัดเก็บและประมวลผลข้อมูลใน Copilot Studio อาจมีการเคลื่อนย้ายข้อมูลข้ามขอบเขตภูมิภาคเมื่อไม่มีการโฮสต์โมเดลในพื้นที่
• เมื่อไม่อนุญาตให้มีการเคลื่อนย้ายข้อมูลนี้ ผู้ดูแลระบบสามารถใช้การตั้งค่าสภาพแวดล้อมเพื่อปิดใช้งานคุณลักษณะเฉพาะ เช่น โมเดลภาษา Azure หรือ Bing Search
• Copilot Studio ไม่รวบรวมหรือใช้ข้อมูลของลูกค้าใด ๆ ในการฝึกอบรมโมเดลภาษา

การจัดการข้อมูลการดำเนินงาน

• ระหว่างการดำเนินงาน ระบบจะจัดเก็บการสนทนาชั่วคราวไว้ในคลังข้อมูลที่ปลอดภัยและดำเนินการโดย Microsoft
• การเข้าถึงของบุคลากร Microsoft ที่ได้รับอนุญาตจะถูกจำกัดผ่าน Secure Access Workstations (SAWs) พร้อมการควบคุม Just-In-Time (JIT)
• องค์กรสามารถกำหนดการเข้าถึงเพิ่มเติมโดยใช้ Customer Lockbox ซึ่งต้องได้รับการอนุมัติอย่างชัดเจนก่อนที่วิศวกรฝ่ายสนับสนุนของ Microsoft จะสามารถดูข้อมูลได้

การแก้ไขปัญหาการวัดและส่งข้อมูลทางไกล

• คุณลักษณะ AI สร้างสรรค์ จะสร้างข้อมูลการแก้ไขปัญหาเพิ่มเติม แต่เฉพาะสำหรับการดำเนินการที่เริ่มต้นโดยผู้สร้างในบานหน้าต่างทดสอบ โดยเฉพาะเมื่อผู้สร้างให้คะแนนการตอบด้วยการกดนิ้วโป้งขึ้นหรือกดนิ้วโป้งลง
• ไม่มีการบันทึกข้อมูลลูกค้าเพิ่มเติมนอกวงจรการส่งเอกสารกลับเพื่อการปรับปรุงที่ชัดเจนนี้

การตรวจสอบการละเมิดและความปลอดภัย

เนื่องจากเลเยอร์ความปลอดภัยหลายชั้นปกป้องคุณลักษณะ Generative AI อยู่แล้ว AI สร้างสรรค์ของ Copilot Studio จึงปิดใช้งานการตรวจสอบการละเมิด Azure AI เพื่อหลีกเลี่ยงการบันทึกข้อมูลลูกค้าเพิ่มเติม