การกําหนดราคา Dataflow Gen2 สําหรับ Data Factory ใน Microsoft Fabric

กระแสข้อมูล Gen2 ช่วยให้คุณจัดรูปร่างและแปลงข้อมูลได้อย่างง่ายดาย มีอินเทอร์เฟซแบบ low-code และข้อมูลในตัวและการแปลง AI มากกว่า 300 รายการ ทั้งหมดนี้ขับเคลื่อนโดยประสบการณ์ Power Query ที่คุ้นเคยซึ่งคุณจะพบใน Excel, Power BI, Power Platform และ Dynamics 365 Dataflow Gen2 ยังรองรับการดําเนินการแปลงที่ได้รับการสนับสนุนจาก Spark ผ่านการแปลงโฟลว์ข้อมูล (MDF) การแมปสําหรับปริมาณงานดั้งเดิมและที่ย้ายข้อมูล

ราคานี้ใช้กับ SKU ความจุ Fabric ทั้งหมด (F2 ขึ้นไป) การกําหนดราคาใช้ไม่ได้กับความจุทดลองใช้ Fabric สําหรับดัชนีอ้างอิงการใช้ CU ในโลกจริงในสถานการณ์ทั่วไป โปรดดูที่ดัชนีเปรียบเทียบต้นทุนและประสิทธิภาพ Dataflow Gen2

เมื่อคุณเผยแพร่กระแสข้อมูล กระแสข้อมูลจะสร้างข้อกําหนดที่ทํางานระหว่างการรีเฟรช กลไกจัดการกระแสข้อมูล Gen2 ใช้ข้อกําหนดดังกล่าวเพื่อวางแผนและจัดการวิธีการเรียกใช้คิวรีในแหล่งข้อมูล เกตเวย์ และกลไกการคํานวณ มันสร้างตารางในการจัดเก็บการแสดงละครหรือส่งไปยังปลายทางที่คุณเลือก คุณจึงได้ผลลัพธ์ที่เชื่อถือได้โดยไม่ต้องยกของหนัก

แผนภาพสถาปัตยกรรมกระแสข้อมูล Gen2

ไดอะแกรมแสดงส่วนประกอบของสถาปัตยกรรม Data Factory Dataflow Gen2 รวมถึง Lakehouse ที่ใช้ในการจัดเตรียมข้อมูลที่นําเข้า และรายการคลังสินค้าที่ใช้เป็นกลไกการคํานวณเพื่อเขียนผลลัพธ์ไปยังการจัดเตรียมหรือส่งออกได้เร็วขึ้น เมื่อคุณไม่สามารถใช้การประมวลผลคลังสินค้า หรือเมื่อคุณปิดใช้งานการจัดเตรียมสําหรับคิวรี กลไกจัดการ Mashup จะแยก แปลง หรือโหลดข้อมูลไปยังปลายทางการจัดเตรียมหรือข้อมูล หากต้องการเรียนรู้เพิ่มเติมเกี่ยวกับวิธีการทํางานของกระแสข้อมูล Gen2 โปรดดู Data Factory Spotlight: กระแสข้อมูล Gen2

กระแสข้อมูล Gen2 สามารถดําเนินการปริมาณงานโดยใช้ Mashup Engine หรือ Spark Engine เมื่อใช้การแปลง MDF ภายใน Dataflow Gen2 การประมวลผลที่ได้รับการสนับสนุนจาก Spark จะถูกใช้สําหรับการดําเนินการแปลงและการประมวลผลข้อมูล

เมื่อคุณรีเฟรชหรือเผยแพร่รายการ Dataflow Gen2 หน่วยความจุ Fabric จะถูกใช้สําหรับกลไกต่อไปนี้:

  • การประมวลผลมาตรฐาน: คุณจะถูกเรียกเก็บเงินตามเวลาการประเมินคิวรีในคิวรีกระแสข้อมูลทั้งหมดของคุณที่ทํางานผ่านกลไกจัดการ Mashup
  • การประมวลผลกระแสข้อมูลระดับสูง: คุณจะถูกเรียกเก็บเงินเมื่อเปิดใช้งานการจัดเตรียม ตามระยะเวลาการใช้กลไกจัดการ SQL ของ Lakehouse (พื้นที่จัดเก็บข้อมูล) และคลังสินค้า (การประมวลผลพื้นที่จัดเก็บข้อมูล)
  • การคัดลอกด่วน: คุณจะถูกเรียกเก็บเงินเมื่อเปิดใช้งานตัวเชื่อมต่อการคัดลอกอย่างรวดเร็ว และสามารถใช้ในกระแสข้อมูล โดยยึดตามระยะเวลาของงานคัดลอก Fast Copy ทํางานแบบขนานกับหลายคอร์ ดังนั้นระยะเวลานี้คือเวลารวมที่ใช้กับทุกคอร์ที่งานคัดลอกใช้ ไม่ใช่เวลาที่รีเฟรช
  • การประมวลผล Spark: คุณจะถูกเรียกเก็บเงินตามระยะเวลาการดําเนินการ Spark และการใช้งานหลักของ Spark เมื่อมีการดําเนินการแปลง MDF ระหว่างการเรียกใช้ไปป์ไลน์ ปริมาณงานการแปลง MDF ใน Dataflow Gen2 กําลังดําเนินการผ่านกิจกรรมกระแสข้อมูล Fabric Pipeline

รูปแบบการกําหนดราคา Dataflow Gen2

วิธีการกําหนดอัตราราคา

การกําหนดราคากระแสข้อมูล Gen2 ขึ้นอยู่กับวิธีที่แต่ละคิวรีใช้การประมวลผล สําหรับการประมวลผลมาตรฐาน คิวรีจะทํางานบนกลไกจัดการ Mashup ขึ้นอยู่กับว่ากระแสข้อมูลของคุณเป็นกระแสข้อมูล Gen2 (CI/CD) หรือไม่

ในกระแสข้อมูล Gen2 (CI/CD) มีอัตราสองระดับที่ใช้กับระยะเวลาคิวรี:

  • หากการสืบค้นทํางานน้อยกว่า 10 นาที ระบบจะให้คะแนนที่ 12 CU
  • หากวิ่งนานขึ้น แต่ละวินาทีที่เพิ่มขึ้นจะได้รับการจัดอันดับที่ 1.5 CU

ถ้ากระแสข้อมูล Gen2 ของคุณไม่ใช่ CI/CD อัตราคือ 16 CU ที่ใช้กับระยะเวลาคิวรีทั้งหมด

Note

เมื่อคุณใช้ การคํานวณแบบแบ่งพาร์ติชัน Dataflow Gen2 จะประเมินแต่ละพาร์ติชันเป็นหน่วยงานของตัวเอง ค่าบริการคํานวณมาตรฐานจะคํานวณจากผลรวมของระยะเวลาการประมวลผลของแต่ละพาร์ทิชัน การรันพาร์ติชันแบบขนานจะช่วยลดเวลารวม (wall-clock) ในการรันให้เสร็จ ขณะที่การใช้ CU รวมสะท้อนถึงการคํานวณรวมของพาร์ติชันทั้งหมด

สําหรับสถานการณ์สเกลขนาดใหญ่ - เมื่อเปิดการจัดเตรียม - คิวรีจะเรียกใช้บนกลไกจัดการ Lakehouse หรือ Warehouse SQL เวลาในการประมวลผลแต่ละวินาทีใช้ 6 วินาที CU ดังนั้นการสืบค้นที่ยาวขึ้นจึงใช้พลังงานมากขึ้น

หากคุณเปิดการคัดลอกด่วน จะมีอัตราแยกต่างหากสําหรับการย้ายข้อมูล: 1.5 CU โดยขึ้นอยู่กับระยะเวลาที่กิจกรรมทํางาน Fast Copy จะปรับสมดุลแต่ละสถานการณ์โดยอัตโนมัติเพื่อกําหนดจํานวนคอร์ที่จะใช้ และระยะเวลาที่คิดค่าบริการคือเวลารวมที่ใช้ในคอร์เหล่านั้นทั้งหมด ไม่ใช่เวลาที่เห็นในประวัติการรีเมช การกระจายงานไปยังคอร์มากขึ้นจะช่วยลดเวลาที่ผ่านไป ในขณะที่ระยะเวลาที่คิดค่าบริการจะครอบคลุมทุกคอร์ที่งานคัดลอกใช้

เมื่อสิ้นสุดการเรียกใช้แต่ละครั้ง Dataflow Gen2 จะเพิ่มการใช้งาน CU จากแต่ละกลไกจัดการและเรียกเก็บเงินตามราคาความจุ Fabric ในภูมิภาคของคุณ

ตารางอัตรา CU

ประเภทกลไกจัดการกระแสข้อมูล Gen2 เครื่องวัดปริมาณการใช้ อัตราการใช้ผ้า CU กรานูลาริตี้ของการรายงานปริมาณการใช้
การประมวลผลมาตรฐาน (กระแสข้อมูล Gen2 (CI/CD)) ขึ้นอยู่กับระยะเวลาการดําเนินการคิวรีของกลไกจัดการ Mashup แต่ละตัวเป็นวินาที การประมวลผลแบบมาตรฐานมีราคาสองระดับโดยขึ้นอยู่กับระยะเวลาการสืบค้น - ทุกวินาทีไม่เกิน 10 นาที 12 CU
- ทุก ๆ วินาทีที่เกิน 10 นาที 1.5 CU
รายการ Per Dataflow Gen2
การประมวลผลมาตรฐาน (ไม่ใช่ CI/CD) ขึ้นอยู่กับระยะเวลาการดําเนินการคิวรีของกลไกจัดการ Mashup แต่ละตัวเป็นวินาที 16 คิว รายการ Per Dataflow Gen2
การคํานวณกระแสข้อมูลระดับสูง ขึ้นอยู่กับการดําเนินการของกลไกจัดการ Lakehouse/Warehouse SQL (ที่มีการจัดเตรียมเปิดใช้งาน) ระยะเวลาในไม่กี่วินาที 6 คิว ต่อพื้นที่ทํางาน
การเคลื่อนไหวของข้อมูล อิงจากระยะเวลาการรันของ Fast Copy ซึ่งวัดเป็นเวลารวมของแกนหลักเป็นวินาทีที่รวมกันจากทุกแกนที่งานคัดลอกใช้ Dataflow จะปรับสมดุลจํานวนคอร์ที่แต่ละสถานการณ์ fast copy ใช้โดยอัตโนมัติ 1.5 คิว รายการ Per Dataflow Gen2
การแมป Data Flow แปลงการคํานวณ (พรีวิว) อิงตามระยะเวลาการดําเนินการแปลง MDF เป็นวินาทีโดยใช้การประมวลผลที่ได้รับการสนับสนุนจาก Spark ภายใน Dataflow Gen2 1.5 CU ต่อชั่วโมงแกน Spark

ตัวอย่าง: คลัสเตอร์ Spark แบบ 8 คอร์จะใช้ 12 CU ต่อชั่วโมงของการดําเนินการ (8 × 1.5 CU)
รายการ Per Dataflow Gen2

ราคาเกตเวย์ข้อมูลเครือข่ายเสมือนด้วย Dataflow Gen2

เกตเวย์ข้อมูลเครือข่ายเสมือน (VNET) จะถูกเรียกเก็บเงินเป็นค่าใช้จ่ายโครงสร้างพื้นฐานเพิ่มเติมที่เชื่อมโยงกับความจุ Fabric ซึ่งหมายความว่ามีตัววัดและมีการเรียกเก็บเงินที่สอดคล้องและเพิ่มเติมไปยังการทํางานของหน่วยข้อมูล Fabric ทั้งหมด

การเรียกเก็บเงินทั้งหมดสําหรับการเรียกใช้ Dataflow Gen2 ผ่าน เครือข่ายเสมือน Data Gateway คํานวณเป็น: Dataflow Gen2 Charge + เครือข่ายเสมือน Data Gateway Charge

ค่าบริการ เครือข่ายเสมือน Data Gateway เป็นสัดส่วนกับการใช้งาน เครือข่ายเสมือน Data Gateway ของคุณ ซึ่งการใช้งานถูกกําหนดเป็นเวลาทํางาน หรือเมื่อใดก็ตามที่ เครือข่ายเสมือน Data Gateway เปิดอยู่

อัตราการใช้ CU ของ เครือข่ายเสมือน Data Gateway: 4 CU

เรียนรู้เพิ่มเติมได้ที่ การกําหนดราคาเกตเวย์ข้อมูลเครือข่ายเสมือนและการเรียกเก็บเงิน

การเปลี่ยนแปลงของอัตราการใช้ปริมาณงาน Microsoft Fabric

อัตราปริมาณการใช้อาจเปลี่ยนแปลงได้ตลอดเวลา Microsoft ใช้ความพยายามอย่างสมเหตุสมผลในการให้การแจ้งเตือนทางอีเมลและการแจ้งเตือนในผลิตภัณฑ์ การเปลี่ยนแปลงจะมีผลตามวันที่ระบุไว้ใน บันทึกย่อ ประจํารุ่นและ บล็อก Microsoft Fabric หากการเปลี่ยนแปลงใด ๆ กับอัตราการใช้ปริมาณงานของ Microsoft Fabric เพิ่มหน่วยความจุ (CU) ที่จําเป็นในการใช้ปริมาณงานเฉพาะ ลูกค้าสามารถใช้ตัวเลือกการยกเลิกที่พร้อมใช้งานสําหรับวิธีการชําระเงินที่เลือก

คํานวณต้นทุนโดยประมาณโดยใช้แอป Fabric Metrics และประวัติการรีเฟรชกระแสข้อมูล

แอปเมตริกความจุของ Microsoft Fabric ให้ความสามารถในการใช้งานความจุสําหรับพื้นที่ทํางาน Fabric ทั้งหมดที่ผูกกับความจุ ผู้ดูแลระบบความจุใช้เพื่อตรวจสอบประสิทธิภาพของปริมาณงานและการใช้งานเมื่อเปรียบเทียบกับความจุที่ซื้อ การใช้แอปเมตริกเป็นวิธีที่แม่นยําที่สุดในการประเมินค่าใช้จ่ายของการเรียกใช้การรีเฟรชกระแสข้อมูล Gen2 หากต้องการทําความเข้าใจว่าการกําหนดราคาแบบแบ่งชั้นส่งผลต่อต้นทุนการประมวลผลมาตรฐานของคุณอย่างไร คุณจําเป็นต้องใช้ประวัติการรีเฟรชกระแสข้อมูลด้วย

แบบฝึกหัดเหล่านี้แสดงวิธีตรวจสอบความถูกต้องของต้นทุนสําหรับกระแสข้อมูลทั้ง CI/CD และที่ไม่ใช่ CI/CD สําหรับกระแสข้อมูล CI/CD ที่มีการประมวลผลมาตรฐาน จะมีตัวอย่างการทํางาน ตามด้วยคําแนะนําสําหรับสถานการณ์อื่นๆ ทั้งหมด

แบบฝึกหัด 1: การคํานวณมาตรฐานสําหรับกระแสข้อมูล CI/CD

กระแสข้อมูลต่อไปนี้มีคิวรีสองแบบที่เกี่ยวข้องกับการแปลง และการจัดเตรียมถูกปิดใช้งาน

สกรีนช็อตแสดง Dataflow Gen2 ที่มีคิวรีสองคิวรี

สกรีนช็อตแสดง Dataflow Gen2 ที่ปิดใช้งานการจัดเตรียม

กระแสข้อมูล Gen2 ใช้เฉพาะการคํานวณมาตรฐานเท่านั้น

สําหรับแต่ละคิวรี ให้เข้าถึงระยะเวลาคิวรีจาก ประวัติการรีเฟรช และใช้สูตรต่อไปนี้เพื่อคํานวณปริมาณการใช้ CU ต่อคิวรี

สําหรับคิวรีแรก ระยะเวลาคือ 2,131 วินาที

สกรีนช็อตแสดงประวัติการรีเฟรชคิวรี 1

ในทํานองเดียวกัน สําหรับคิวรีที่สอง ระยะเวลาคือ 913 วินาที

สกรีนช็อตแสดงประวัติการรีเฟรชคิวรี 2

StandardComputeCapacityConsumptionInCUSeconds = if(QueryDurationInSeconds < 600, QueryDurationInSeconds x 12, (QueryDurationInSeconds - 600) x 1.5 + 600 x 12)

สําหรับคิวรี 1 ปริมาณการใช้ที่คํานวณคือ 9497 CU วินาที และสําหรับคิวรี 2 ปริมาณการใช้ที่คํานวณคือ 7670 CU วินาที

รวมการใช้ความจุเป็นวินาที CU และตรวจสอบปริมาณการใช้ในแอปเมตริกความจุ Fabric ในสถานการณ์นี้ แอปเมตริกจะแสดง 17,180 วินาที CU เป็นการใช้งานการประมวลผลมาตรฐาน ซึ่งเปรียบเทียบได้ดีกับปริมาณการใช้ที่คํานวณได้ที่ 17,167 วินาที CU ความคลาดเคลื่อนใดๆ อาจเกิดจากการปัดเศษในการรายงานการใช้งานเป็นระยะ

สกรีนช็อตที่แสดงแอปเมตริกความจุ Fabric ที่แสดงปริมาณการใช้กระแสข้อมูล

แบบฝึกหัด 2: การคํานวณมาตรฐานสําหรับกระแสข้อมูลที่ไม่ใช่ CI/CD

เมื่อกระแสข้อมูลของคุณเกี่ยวข้องกับการแปลงและการจัดเตรียมถูกปิดใช้งาน Dataflow Gen2 จะใช้เฉพาะการประมวลผลมาตรฐานเท่านั้น

สําหรับแต่ละคิวรี ให้เข้าถึงระยะเวลาคิวรีจาก ประวัติการรีเฟรช และใช้สูตรต่อไปนี้เพื่อคํานวณปริมาณการใช้ CU ต่อคิวรี

StandardComputeCapacityConsumptionInCUSeconds = QueryDurationInSeconds x 16

รวมการใช้ความจุเป็นวินาที CU และตรวจสอบปริมาณการใช้ในแอปเมตริกความจุ Fabric

แบบฝึกหัด 3: ทําความเข้าใจการใช้การประมวลผลระดับสูง (ทั้งกระแสข้อมูล CI/CD และที่ไม่ใช่ CI/CD)

หากกระแสข้อมูลของคุณใช้การจัดเตรียม เพื่อค้นหาจํานวนการประมวลผลระดับสูงที่คุณใช้ ให้เปิดแอปเมตริกความจุ Fabric และกรองตามชื่อกระแสข้อมูลของคุณ คลิกขวาที่ชื่อ มองหาการประมวลผลระดับสูงในรายการการดําเนินการ และตรวจสอบระยะเวลา

HighScaleComputeCapacityConsumptionInCUSeconds = QueryDurationInSeconds x 6

แบบฝึกหัด 4: ทําความเข้าใจการใช้การประมวลผลการคัดลอกอย่างรวดเร็ว (ทั้งกระแสข้อมูล CI/CD และที่ไม่ใช่ CI/CD)

หากกระแสข้อมูลของคุณใช้การคัดลอกอย่างรวดเร็ว เพื่อค้นหาว่าคุณใช้การประมวลผลการเคลื่อนย้ายข้อมูลมากน้อยเพียงใด ให้เปิดแอปเมตริกความจุ Fabric และกรองตามชื่อกระแสข้อมูลของคุณ คลิกขวาที่ชื่อ มองหา การเคลื่อนย้ายข้อมูล ในรายการการดําเนินการ และตรวจสอบระยะเวลา

FastCopyComputeCapacityConsumptionInCUSeconds = QueryDurationInSeconds x 1.5