รวมข้อมูลด้วยทางลัดและการสะท้อนของ OneLake

OneLake ให้มุมมองเดียวของข้อมูลในระบบคลาวด์ โดเมน และบัญชี การรวมข้อมูลใน OneLake ไม่จําเป็นต้องจัดเก็บข้อมูลทั้งหมดนั้นไว้ในที่เดียว ข้อมูลสามารถอยู่ที่แหล่งที่มาหรือถูกจําลองแบบไปยัง OneLake ซึ่งปริมาณงาน Fabric เข้าถึงข้อมูลผ่านเนมสเปซที่ใช้ร่วมกัน

ทางลัดและการมิเรอร์เป็นความสามารถเสริมของ OneLake สําหรับการสร้างมุมมองแบบรวมนี้โดยไม่ต้องสร้างและดําเนินการไปป์ไลน์การเคลื่อนย้ายข้อมูล ทางลัดจะเพิ่มข้อมูลที่เลือกลงในเนมสเปซ OneLake การมิเรอร์จะเพิ่มฐานข้อมูลหรือแค็ตตาล็อกภายนอก และกําหนดว่าข้อมูลสามารถเข้าถึงได้ในสถานที่หรือต้องทําซ้ํา บทความนี้จะอธิบายวิธีการทํางานของความสามารถแต่ละอย่างและเมื่อใดที่ควรใช้ สําหรับชุดวิธีที่กว้างขึ้นในการนําเข้า แปลง หรือย้ายข้อมูลใน Fabric โปรดดู รับข้อมูลลงใน Microsoft Fabric หรือ เลือกกลยุทธ์การเคลื่อนย้ายข้อมูล

ทางลัดและการสะท้อนภาพได้อย่างรวดเร็ว

ทางลัดและการมิเรอร์ทํางานในระดับความละเอียดที่แตกต่างกันและรองรับรูปแบบแหล่งที่มาที่แตกต่างกัน

ความสามารถ การทำงานของมัน รูปแบบแหล่งที่มา สถานการณ์ทั่วไป
ทาง ลัด เพิ่มการอ้างอิงไปยังตาราง โฟลเดอร์ หรือไฟล์ที่เลือกใน OneLake หรือที่เก็บข้อมูลภายนอก ข้อมูลจะอยู่ที่แหล่งที่มา รูปแบบเปิดเท่านั้น นําตาราง โฟลเดอร์ หรือสคีมาเดียวมาไว้ในเลคเฮาส์ หรือเปิดใช้งานรูปแบบตาข่ายข้อมูลในพื้นที่ทํางานหรือผู้เช่า
เรอร์ เพิ่มฐานข้อมูลภายนอกหรือแค็ตตาล็อกไปยัง Fabric การมิเรอร์จะเข้าถึงข้อมูลในสถานที่หรือทําซ้ําไปยัง OneLake อย่างต่อเนื่อง ทั้งนี้ขึ้นอยู่กับแหล่งที่มา รูปแบบเปิดและเป็นกรรมสิทธิ์ นําฐานข้อมูลหรือแค็ตตาล็อกภายนอกทั้งหมดเข้ามา เช่น Snowflake, Azure Databricks หรือ Azure SQL Database

หากแหล่งที่มาของคุณจัดเก็บข้อมูลในรูปแบบที่เป็นกรรมสิทธิ์ การมิเรอร์เป็นทางเลือกเดียวของคุณ

เมื่อใดที่ควรใช้คําสั่งลัด

ใช้ทางลัดเมื่อคุณต้องการรวมข้อมูลเฉพาะในมุมมอง OneLake แบบรวมของคุณโดยไม่ต้องคัดลอก เลือกทางลัดเมื่อคุณทําสิ่งต่อไปนี้

  • แชร์ตาราง โฟลเดอร์ หรือไฟล์เดียวในพื้นที่ทํางานหรือผู้เช่า
  • รวมข้อมูลจากทะเลสาบหรือบัญชีคลาวด์หลายบัญชีไว้ในมุมมองเดียวที่รวมเข้าด้วยกัน
  • สร้างรูปแบบตาข่ายข้อมูลที่แต่ละโดเมนเป็นเจ้าของข้อมูลของตน และโดเมนอื่นๆ ค้นพบข้อมูลผ่าน OneLake
  • ทําให้ข้อมูลในรูปแบบเปิด เช่น Delta หรือ Iceberg พร้อมใช้งานจาก Azure Data Lake Storage, Amazon S3, Google Cloud Storage หรือ Dataverse

ทางลัดจะทํางานในระดับตาราง โฟลเดอร์ หรือไฟล์ คุณเป็นผู้ตัดสินใจว่าจะให้ข้อมูลใดพร้อมใช้งานและตําแหน่งที่ปรากฏใน OneLake สําหรับข้อมูลเพิ่มเติม โปรดดู ทางลัด OneLake

แปลงข้อมูลเมื่อคุณรวมเข้าด้วยกัน

การแปลงคําสั่งลัดจะแปลงข้อมูลที่อยู่เบื้องหลังคําสั่งลัดให้เป็นตารางเดลต้าที่สืบค้นได้ซึ่งจะซิงค์กับแหล่งที่มาโดยไม่ต้องสร้างไปป์ไลน์ ETL ใช้เพื่อทําให้การวิเคราะห์ข้อมูลของคุณพร้อม:

  • การแปลงไฟล์จะแปลงไฟล์ที่มีโครงสร้าง เช่น CSV, Parquet, JSON หรือ Excel เป็นตารางเดลต้า สําหรับข้อมูลเพิ่มเติม โปรดดู การแปลงทางลัด (ไฟล์)
  • การแปลงที่ขับเคลื่อนด้วย AI ใช้การประมวลผลภาษากับ .txt ไฟล์เพื่อสรุปเนื้อหา ตรวจจับความรู้สึก แปลภาษา ปกปิดข้อมูลส่วนบุคคลที่สามารถระบุตัวตนได้ (PII) หรือแยกเอนทิตีที่มีชื่อ สําหรับข้อมูลเพิ่มเติม โปรดดู การแปลงทางลัด (ขับเคลื่อนด้วย AI)

เมื่อใดที่ควรใช้การสะท้อนภาพ

ใช้การสะท้อนเมื่อคุณต้องการรวมฐานข้อมูลหรือแค็ตตาล็อกภายนอก และข้อมูลที่อยู่เบื้องหลังใน Fabric เป็นหน่วย การสะท้อนเป็นตัวเลือกที่เหมาะสมเมื่อคุณ:

  • ทําให้ฐานข้อมูลหรือแค็ตตาล็อกภายนอกทั้งหมดพร้อมใช้งานใน Fabric โดยไม่ต้องออกแบบกระบวนการนําเข้าแยกต่างหาก
  • เก็บสําเนาฐานข้อมูลการดําเนินงานที่พร้อมสําหรับการวิเคราะห์ (เช่น Azure SQL Database, PostgreSQL หรือ Cosmos DB) ใน OneLake ที่ซิงค์กับแหล่งที่มา
  • Surface เลคเฮาส์หรือคลังสินค้าภายนอก (เช่น Databricks, Unity Catalog หรือ Snowflake) ใน Fabric เพื่อให้คุณสามารถสืบค้นควบคู่ไปกับข้อมูล Fabric ของคุณได้

การมิเรอร์จะเพิ่มข้อมูลเมตาของแค็ตตาล็อก เช่น ฐานข้อมูล สคีมา และตารางไปยัง Fabric เสมอ วิธีที่ Fabric เข้าถึงข้อมูลจะขึ้นอยู่กับแหล่งที่มา ตามที่ส่วนถัดไปจะอธิบาย

การมิเรอร์ทําให้ข้อมูลพร้อมใช้งานใน OneLake ได้อย่างไร

การมิเรอร์ใช้กลไกพื้นฐานสองกลไกเพื่อรวมข้อมูลภายนอกในมุมมอง OneLake แบบรวม ชุดค่าผสมที่เหมาะสมขึ้นอยู่กับวิธีที่แหล่งข้อมูลจัดเก็บข้อมูล

  • การจําลองแบบ การมิเรอร์จะคัดลอกข้อมูลจากแหล่งที่มาไปยัง OneLake ในรูปแบบเดลต้าที่พร้อมสําหรับการวิเคราะห์ การมิเรอร์จะใช้การจําลองแบบเมื่อแหล่งที่มาจัดเก็บข้อมูลในรูปแบบที่เป็นกรรมสิทธิ์
  • ทางลัด การสะท้อนข้อมูลอ้างอิงในสถานที่ผ่านทางลัด OneLake การมิเรอร์จะใช้ทางลัดเมื่อแหล่งข้อมูลจัดเก็บข้อมูลในรูปแบบเปิดที่ OneLake สามารถอ่านได้โดยตรง

แหล่งที่มาที่แตกต่างกันใช้กลไกเหล่านี้แตกต่างกัน ดังที่แสดงในตารางต่อไปนี้

รูปแบบแหล่งที่มา ตัวอย่าง การสะท้อนทําอะไร
การมิเรอร์ฐานข้อมูล (การจําลองแบบ) Azure Cosmos DB, Azure Database for PostgreSQL, Azure Database for MySQL (พรีวิว), Azure SQL Database, SQL Server, Oracle, SAP การมิเรอร์จะคัดลอกข้อมูลเมตาของแค็ตตาล็อกและจําลองข้อมูลไปยัง OneLake เป็นตารางเดลต้าอย่างต่อเนื่อง
การสะท้อนข้อมูลเมตา (ทางลัด) Azure Databricks, Snowflake, Dremio (พรีวิว) การมิเรอร์จะเพิ่มข้อมูลเมตาของแค็ตตาล็อกไปยัง Fabric และใช้ทางลัดเพื่อเข้าถึงข้อมูลพื้นฐานที่มีอยู่

ในทุกกรณี การมิเรอร์จะเพิ่มข้อมูลเมตาของแค็ตตาล็อกไปยัง Fabric การคัดลอกข้อมูลด้วยหรือไม่นั้นขึ้นอยู่กับแหล่งที่มา

ใช้ทางลัดและการสะท้อนร่วมกัน

ทางลัดและการสะท้อนไม่ได้แยกกัน คุณสามารถใช้ร่วมกันได้ในหลายสถานการณ์ ตัวอย่างเช่น ใช้การมิเรอร์เพื่อเพิ่มระบบต้นทางไปยัง Fabric หนึ่งครั้ง แล้วสร้างทางลัดเพื่อทําให้ข้อมูลที่เลือกจากระบบนั้นพร้อมใช้งานในพื้นที่ทํางาน โดเมน หรือผู้เช่า ถ้าการมิเรอร์จําลองข้อมูลต้นฉบับลงใน OneLake ทางลัดไปยังข้อมูลนั้นจะไม่สร้างสําเนาอื่นหรือเพิ่มต้นทุนการจัดเก็บ

รูปแบบทั่วไปที่รวมความสามารถทั้งสองเข้าด้วยกัน ได้แก่ :

  • กระจกครั้งเดียว กินได้ทุกที่ พื้นที่ทํางานส่วนกลางจะสะท้อนฐานข้อมูลหรือแค็ตตาล็อกภายนอก เช่น Azure SQL Database หรือบัญชี Snowflake พื้นที่ทํางานอื่นๆ ในผู้เช่าเดียวกันมีทางลัดไปยังตารางมิเรอร์แทนที่จะสะท้อนแหล่งที่มาเดิมอีกครั้ง รายการมิเรอร์หนึ่งรายการแสดงถึงแหล่งที่มา และผู้บริโภคทุกคนอ่านข้อมูลวันที่ up-toเดียวกัน
  • การมิเรอร์โดเมนด้วยการใช้ตาข่าย ทีมโดเมนจะสะท้อนระบบต้นทางของตนเองไปยังพื้นที่ทํางานของโดเมน เลคเฮาส์และคลังสินค้าปลายน้ําในพื้นที่ทํางานของผู้บริโภคใช้ทางลัดเพื่อเข้าถึงเฉพาะตารางที่ต้องการจากฐานข้อมูลมิเรอร์ แต่ละโดเมนเป็นเจ้าของการเชื่อมต่อกับแหล่งที่มา และผู้บริโภคจะแยกออกจากระบบต้นทาง
  • เลคเฮาส์หนึ่งแห่ง ตําแหน่งข้อมูลหลายแห่ง เลคเฮาส์เดียวสามารถมีทางลัดไปยังตารางมิเรอร์ควบคู่ไปกับทางลัดไปยังข้อมูลรูปแบบเปิดใน Azure Data Lake Storage, Amazon S3 หรือตําแหน่งที่ตั้ง OneLake อื่น รายงานและสมุดบันทึกจะสืบค้นเลคเฮาส์เป็นที่เก็บแบบรวมหนึ่ง ไม่ว่าข้อมูลพื้นฐานจะยังคงอยู่ที่แหล่งที่มาหรือถูกจําลองแบบไปยัง OneLake
  • การเข้าถึงข้ามผู้เช่าหรือข้ามคลาวด์ ผู้เช่ารายหนึ่งสะท้อนแหล่งที่มาลงใน OneLake ของตัวเอง ผู้เช่าคู่ค้าสร้างทางลัดไปยังข้อมูลมิเรอร์แทนที่จะได้รับสิทธิ์เข้าถึงระบบต้นทางโดยตรง ข้อมูลประจําตัวของระบบต้นทางจะไม่ออกจากผู้เช่าที่ผลิต

บางสิ่งที่ควรทราบเมื่อคุณรวมเข้าด้วยกัน:

  • ทางลัดไปยังตารางมิเรอร์จะสืบทอดโมเดลความปลอดภัยของรายการมิเรอร์ สิทธิ์ในฐานข้อมูล Schema หรือตารางที่มิเรอร์จะไหลผ่านไปยังทุกคนที่อ่านทางลัด สําหรับข้อมูลเพิ่มเติม ให้ดู การรักษาความปลอดภัยทางลัด OneLake
  • ทางลัดไปยังตารางมิเรอร์เป็นแบบอ่านอย่างเดียว หากต้องการเปลี่ยนข้อมูล ให้เปลี่ยนระบบต้นทางและปล่อยให้การมิเรอร์เผยแพร่การอัปเดต
  • ถ้าแหล่งมิเรอร์ถูกหยุดชั่วคราว ถูกลบ หรือพบข้อผิดพลาดในการจําลองแบบ ทุกทางลัดที่ชี้ไปยังแหล่งนั้นจะแสดงสถานะเดียวกัน วางแผนความเป็นเจ้าของและการตรวจสอบรายการมิเรอร์ตามนั้น

เมื่อใดควรใช้การย้ายข้อมูลแทน

ทางลัดและการสะท้อนข้อมูลรวมเข้าด้วยกันโดยทําให้พร้อมใช้งานผ่าน OneLake และการแปลงทางลัดสามารถแปลงข้อมูลนั้นเป็นตารางเดลต้าที่พร้อมสําหรับการวิเคราะห์ เครื่องมือเหล่านี้ไม่ได้มาแทนที่เครื่องมือการนําเข้าและการย้ายข้อมูลครบชุดของ Fabric เลือกไปป์ไลน์ กระแสข้อมูล งานคัดลอก หรือสตรีมเหตุการณ์เมื่อคุณต้องการ:

  • ใช้ตรรกะการแปลงที่ซับซ้อนหรือหลายแหล่งที่มา (ตัวอย่างเช่น การรวมแหล่งข้อมูล การใช้กฎทางธุรกิจ หรือการปรับรูปร่างสคีมา) ที่นอกเหนือไปจากสิ่งที่การแปลงทางลัดทํา
  • กําหนดเวลา ประสานงาน หรือทริกเกอร์การเคลื่อนไหวตามจังหวะของคุณเอง
  • ย้ายข้อมูลไปยังปลายทางภายนอก OneLake
  • สตรีมเหตุการณ์ไปยัง Fabric เพื่อการประมวลผลแบบเรียลไทม์

สถานการณ์เหล่านี้ต้องการเครื่องมือการเคลื่อนย้ายข้อมูลและการรวมของ Fabric แทนที่จะเป็นการรวม OneLake เพียงอย่างเดียว