OneLake はクラウド、ドメイン、アカウントをまたいで一つのデータを一つのビューで確認できます。 OneLakeでデータを統合するには、すべてのデータを一箇所に保存する必要はありません。 データはソースに留まることも、OneLakeに複製してFabricワークロードが共有名前空間を通じてアクセスできるようにします。
ショートカットとミラーリングは、データ移動パイプラインの構築や運用をせずにこの統一ビューを作成するためのOneLakeの補完的な機能です。 ショートカットは選択したデータをOneLake名前空間に追加します。 ミラーリングは外部データベースやカタログを追加し、そのデータにその場でアクセス可能か複製が必要かを判断します。 この記事では、各機能がどのように機能し、いつ使うべきかを説明します。 Fabricでデータを取り込み、変換、または移動するより広範な方法については、「Microsoft Fabricへのデータ取得」または「データ移動戦略を選択する」をご覧ください。
ショートカットとミラーリングは一目でわかります
ショートカットやミラーリングは異なる粒度レベルで動作し、異なるソースフォーマットをサポートしています。
| 能力 | それが何をするか | ソースフォーマット | 一般的なシナリオ |
|---|---|---|---|
| ショートカット | OneLakeや外部ストレージで選択したテーブル、フォルダ、ファイルへの参照を追加してください。 データはそのソースに留まります。 | オープンフォーマットのみ | 単一のテーブル、フォルダ、スキーマをレイクハウスに取り込むか、ワークスペースやテナント間でデータメッシュパターンを有効にしましょう。 |
| ミラーリング | Fabricに外部データベースやカタログを追加してください。 ソースによっては、ミラーリングはその場でデータにアクセスするか、OneLakeに継続的に複製します。 | オープンおよび独自フォーマット | Snowflake、Azure Databricks、Azure SQL Databaseなどの外部データベースやカタログ全体を取り入れましょう。 |
もしソースがデータを独自の形式で保存しているなら、ミラーリングが唯一の選択肢です。
ショートカットを使うタイミング
特定のデータをコピーせずに統一されたOneLakeビューに含めたいときはショートカットを使いましょう。 次の場合はショートカットを選択します:
- 単一のテーブル、フォルダ、またはファイルをワークスペースやテナント間で共有します。
- 複数の湖やクラウドアカウントのデータを一つの統一ビューにまとめます。
- 各ドメインが自分のデータを所有し、他のドメインがOneLakeを通じて発見するようなデータメッシュパターンを構築しましょう。
- DeltaやIcebergのようなオープンフォーマットでデータをAzure Data Lake Storage、Amazon S3、Google Cloud Storage、Dataverseから利用可能にしましょう。
ショートカットはテーブル、フォルダ、ファイルレベルで機能します。 どのデータを公開し、OneLakeのどこに表示するかはあなたが決めます。 詳しくは、「OneLake のショートカット」をご覧ください。
統合しながらデータを変換する
ショートカット変換は、ショートカットの背後にあるデータを、ETLパイプラインを構築することなくソースと同期した状態を維持するクエリ可能なDeltaテーブルに変換します。 それらを活用して、データ分析に対応できる状態にしましょう:
- ファイル変換は、CSV、Parquet、JSON、Excelなどの構造化ファイルをデルタテーブルに変換します。 詳細は「 ショートカット変換(ファイル)」を参照してください。
-
AI搭載の変換 は、言語処理を
.txtファイルに適用し、内容の要約、感情の検出、言語翻訳、個人識別情報(PII)の編集、または名前のある存在の抽出を行います。 詳細は「 ショートカット変換(AI駆動)」をご覧ください。
ミラーリングを使うタイミング
外部データベースやカタログ、その背後にあるデータをFabricのユニットとして含めたいときはミラーリングを使いましょう。 ミラーリングは、以下のような状況で最適な選択です:
- 別途取り込みプロセスを設計せずに、外部データベースやカタログ全体をFabricで利用可能にしましょう。
- 運用可能な運用データベース(Azure SQL Database、PostgreSQL、Cosmos DBなど)の分析対応コピーをOneLakeに保存し、ソースと同期を保つようにしましょう。
- Surfaceで外部のレイクハウスやウェアハウス(Databricks、Unity Catalog、Snowflakeなど)をFabricで作成し、Fabricデータと一緒にクエリを行えます。
ミラーリングは常にデータベース、スキーマ、テーブルなどのカタログメタデータをFabricに追加します。 Fabricがデータにアクセスする方法は、次のセクションで説明するように、情報源によって異なります。
ミラーリングがOneLakeでデータを提供する方法
ミラーリングは、統一されたOneLakeビューに外部データを含めるために、2つの基盤的な仕組みを用いています。 適切な組み合わせは、ソースがどのようにデータを保存するかによります。
- レプリケーション。 ミラーリングは、データをソースからOneLakeに分析対応可能なDelta形式でコピーします。 ミラーリングは、ソースがデータを独自フォーマットで保存する場合にレプリケーションを使用します。
- ショートカット。 ミラーリングでは、OneLake のショートカット経由で元の場所にあるデータをそのまま参照します。 ミラーリングは、ソースがOneLakeが直接読み取れるオープンフォーマットでデータを保存しているときにショートカットを使用します。
異なる資料はこれらの機構を異なる方法で利用しており、以下の表に示されています。
| ソース パターン | 例示 | ミラーリングの効果 |
|---|---|---|
| データベースミラーリング(レプリケーション) | Azure Cosmos DB、Azure Database for PostgreSQL、Azure Database for MySQL(プレビュー)、Azure SQL Database、SQL Server、Oracle、SAP | ミラーリングはカタログメタデータをコピーし、データをDeltaテーブルとしてOneLakeに継続的に複製します。 |
| メタデータミラーリング(ショートカット) | Azure Databricks, Snowflake, Dremio (preview) | ミラーリングはカタログのメタデータをFabricに追加し、ショートカットを使って既存のデータにアクセスします。 |
いずれの場合も、ミラーリングはカタログのメタデータをFabricに追加します。 データもコピーするかどうかは、情報源によって異なります。
ショートカットとミラーリングを組み合わせて使う
ショートカットとミラーリングは相反するものではありません。 多くの場面で組み合わせて使えます。 例えば、ミラーリングを使ってFabricにソースシステムを追加し、その後、そのシステムから選ばれたデータをワークスペース、ドメイン、テナント間で利用可能にするショートカットを作成することができます。 ミラーリングで元のデータをOneLakeに複製する場合、そのデータへのショートカットは新たなコピーを作成したり、ストレージコストを増やしたりしません。
この二つの機能を組み合わせた一般的なパターンには以下のようなものがあります:
- 一度鏡を見て、どこでも消費する。 中央ワークスペースは、Azure SQL DatabaseやSnowflakeアカウントなどの外部データベースやカタログをミラーリングします。 同じテナント内の他のワークスペースは、同じソースを再度ミラーする代わりにミラーされたテーブルへのショートカットがあります。 1つのミラーアイテムがソースを表し、すべてのコンシューマーが同じ最新のデータを読み取ります。
- メッシュ消費を伴うドメインミラーリング。 ドメインチームは自社のソースシステムをドメインワークスペースにミラーリングします。 消費者のワークスペース内の下流の湖のハウスや倉庫は、ミラーされたデータベースから必要なテーブルのみにアクセスするショートカットを使用しています。 各ドメインはソースへの接続を所有しており、消費者はソースシステムから切り離されたままです。
- 1つのレイクハウス、複数のデータロケーション。 単一のレイクハウスには、ミラーされたテーブルへのショートカットや、Azure Data Lake Storage、Amazon S3、または他のOneLake拠点内のオープンフォーマットデータへのショートカットが含まれることがあります。 レポートやノートブックは、基になるデータが元のソースにそのまま残っていても、OneLake に複製されていても、レイクハウスを単一の統合ストアとしてクエリできます。
- テナント間またはクラウド間アクセス。 あるテナントはソースを自分のOneLakeにミラーリングします。 パートナーテナントは、ソースシステムへの直接アクセスを許可される代わりに、ミラーされたデータへのショートカットを作成します。 ソースシステムの認証情報は、プロデューシングテナントから離れることはありません。
これらを組み合わせる際に知っておくべきいくつかのポイント:
- ミラーテーブルへのショートカットはミラーアイテムのセキュリティモデルを引き継ぎます。 ミラーリングされたデータベース、スキーマ、またはテーブルの権限は、ショートカット経由でアクセスするすべてのユーザーに適用されます。 詳細については、「 OneLake ショートカット セキュリティ」を参照してください。
- ミラーテーブルへのショートカットは読み取り専用です。 データを変更するには、ソースシステムを変更し、ミラーリングで更新を伝播させます。
- ミラー送信元が一時停止、削除、またはレプリケーションエラーが発生した場合、それに向けられるショートカットはすべて同じ状態を示します。 ミラーアイテムの所有権と監視を計画しましょう。
データ移動を代わりに使うべき場合
ショートカットやミラーリングはOneLakeを通じてデータを利用可能にし、ショートカット変換はデータを分析対応可能なDeltaテーブルに変換できます。 これらはFabricのインジェストやデータ移動ツールの全セットの代替ではありません。 必要に応じてパイプライン、データフロー、コピージョブ、イベントストリームを選択します:
- ショートカット変換を超えた複雑な変換ロジック(例えば、ソースの結合、ビジネスルールの適用、スキーマの再形成など)を適用しましょう。
- 自分のリズムに合わせて動きをスケジュール、調整、またはトリガーしてください。
- OneLake以外の目的地にデータを移動させてください。
- イベントをリアルタイム処理のためにFabricにストリーム化します。
これらのシナリオでは、OneLakeの統合だけでなく、Fabricのデータ移動や統合ツールが必要です。
- データをFabricに取り込むあらゆる方法のエンドツーエンドビューについては、「Microsoft Fabricにデータを取り込む」をご覧ください。
- パイプライン、コピージョブ、ミラーリング、イベントストリームの直接比較については、「 データ移動戦略の選択 」意思決定ガイドをご覧ください。