導入事例:「この ETL を説明できるのは、あと2人」― Emulus Consulting の PowerCenter → Databricks 移行
― PowerCenter を知る技術者が減っていく前に ― 移行ウェーブと変換パターン集で、ゴールデンウィークに本番切り替え
概要
- 提供:Innovational Office Solution(Pulse Convert)+ Databricks Lakebridge
- お客様:Emulus Consulting
- 移行対象:マッピング 1,140 本(低 612・中 371・高 157)、ワークフロー 286 本、マップレット 48 本、パラメーターファイル 95 本
- 自動変換精度:70%~90%(本プロジェクトでは 81%。難所は変換パターン集と専門家レビューで完成)
- お問い合わせ:Admin@innovationalofficesolution.com
- 無料PoC:AnyBI to Power BI & AnyETL to Fabric ページ
背景:期限より先に来ていた「人」の問題
Informatica は PowerCenter 10.5 の標準サポートを2026年3月31日に終了し、延長サポートも2027年3月31日で終わるとしています。Emulus Consulting が支援するお客様も、移行先として Databricks を選んでいました。
ただ、プロジェクトを始めてすぐに明らかになったのは、期限よりも切実な問題でした。15年以上かけて積み上がった PowerCenter のマッピングのうち、複雑なものを説明できる技術者は社内外を合わせて2人しかいなかったのです。1人は外部ベンダーの担当者で、もう1人は数年後に定年を迎える社員でした。
経済産業省の「IT人材需給に関する調査」は、2030年に IT 人材が最大で約79万人不足する可能性を示しています。特定製品の経験者はなおさら確保が難しく、「その2人がいるうちに、知識をコードとテストに移す」ことがプロジェクトの裏の目的になりました。
Lakebridge と本アクセラレーターの役割分担
Databricks は評価・変換・検証を一つにまとめた無料ツール Lakebridge を提供しており、Informatica の変換には BladeBridge 由来のコンバーターが使われています。Emulus は標準的なマッピングには Lakebridge を積極的に使い、本アクセラレーターは次の領域を担当しました。
| 資産の評価 | ○ | ○(実行頻度・業務重要度・依存関係から移行ウェーブを設計) |
|---|
| 複雑なマッピング | 手作業での補完が多い | AI 変換+変換パターン集+専門家レビュー |
|---|
| ワークフロー制御 | 一部 | Lakeflow Jobs のタスク依存として再構築 |
|---|
| 業務 KPI レベルの突合 | 対象外 | PulseQA で業務部門が承認できるレポートを作成 |
|---|
移行ウェーブの設計
リポジトリ XML と実行ログを解析し、全マッピングに複雑度スコアを付けました。18 か月以上実行されていないマッピング 27% は、この時点で移行対象から外しています。
| 第1波 | 依存が少なく、主要レポートに直結するマッピング | 早期に成果を見せ、業務部門の信頼を得る |
|---|
| 第2波 | 複数ソース結合・マップレット利用の中程度マッピング | 共通モジュールを整備し、以降の変換を効率化 |
|---|
| 第3波 | 動的ルックアップ・多分岐 Update Strategy など難所 | 2人の有識者と一緒にレビューし、知識を形式知化 |
|---|
変換パターン集:一度解いた難所を二度解かない
第3波では、同じ種類の難所が何十回も出てきます。そこで、解き方を「変換パターン集」として蓄積し、AI 変換に組み込みました。最終的に 34 パターンになり、主なものは次のとおりです。
パターンが一つ増えるたびに、同種のマッピングの変換精度が上がりました。有識者2人のレビューコメントもパターン集に記録され、属人的だった知識がチームの資産になりました。
本番切り替え:ゴールデンウィークを使う
ETL の本番切り替えで最も避けたいのは、月末・四半期末・年度末の締め期間です。Emulus は年度末の3月を避け、業務量が落ちるゴールデンウィークを最終切り替えの窓にしました。
- 4月中旬まで:全ウェーブを並行稼働し、PulseQA で突合(件数、主要列の合計、主キー単位の差分、リジェクト件数、SCD Type 2 の有効期間)
- 連休前の最終営業日:差異ゼロ、または差異の原因が説明済みで業務部門が承認済みであることを確認
- 連休中:PowerCenter のワークフローを停止し、Lakeflow Jobs を本番化
- 連休明け初日:業務部門と朝一番で主要 KPI を確認
PowerCenter と Databricks の対応表
| マッピング | PySpark / Spark SQL ノートブック |
|---|
| Source Qualifier | spark.read / SQL |
|---|
| Expression / Filter / Aggregator | withColumn / filter / groupBy().agg() |
|---|
| Update Strategy | Delta Lake MERGE INTO |
|---|
| ワークフロー・ワークレット | Lakeflow Jobs(タスク依存) |
|---|
| パラメーターファイル | ジョブパラメーター / ウィジェット |
|---|
| リポジトリ | Unity Catalog(権限・リネージ) |
|---|
成果
- 実行中のマッピング 832 本を 81% の初期自動変換精度で移行(プロジェクト期間 26 週間)
- 高複雑度マッピング1本あたりの変換工数:6.5 日 → 2.5 日(パターン集の効果)
- 延長サポート終了の 11 か月前に本番切り替え完了
- 夜間バッチ:7 時間 → 2 時間 10 分
- 有識者の知識をパターン集・テスト・ドキュメントとして形式知化
- TCO を 37% 削減
最も難しいマッピングをお持ちください
高複雑度のマッピングを含む5本で、Databricks 上で動くコードと突合レポートを無料でお見せします。
無料PoC(概念実証)
Microsoft Solution Partner
1,000本規模の PowerCenter マッピングを複雑度別に仕分け。Lakebridge と Innovational Office Solution の変換パターン集により、安全かつ短期間で Databricks レイクハウスへ移行します。
初期自動変換精度 70%~90%高複雑度マッピングを含む 5 本で無料 PoC豊富な変換パターン集(動的 Lookup、Router 等)連休を活用した安全な一斉本番切り替え 発行:Office Solution AI Labs(Microsoft Solution Partner for Data & AI)
#日本語#Informatica#PowerCenter#Databricks#PySpark#Delta Lake#事例