ITを図で理解する ・ データレイク編
データレイク入門
バラバラのデータを集めて、貯めて、整えて、活かす。分析用データ基盤の全体像を1枚の絵で。
全11章・約20分。各章の「さわって確かめる」はデモです。ボタンやチェックを操作してみてください。
点線の付いた言葉は、タップすると意味と英語の語源が出ます。
← 図は横にスクロールできます →
社内外のデータ
データ基盤(クラウド)
活用
まとめ:データ基盤の流れ
左から右へ、データが「使える形」に変わっていきます。
- 分けて考える業務を回すDB(OLTP)と、分析する置き場(OLAP)は別にする。
- 集める(取り込み)夜にまとめて(バッチ)か、起きたらすぐ(ストリーミング)。
- 貯める(データレイク)表もログも画像も、形を問わずそのまま安く保存。
- 形式を選ぶ分析用には列ごとに持つParquetにすると、速くて安い。
- 整える(ETL / ELT)重複・表記ゆれ・空欄を直して、使える形にする。
- 3段階で磨くブロンズ(生)→ シルバー(整理済み)→ ゴールド(集計済み)。
- DWH・レイクハウス整ったデータをSQLで高速に集計する。履歴もさかのぼれる。
- 活かす(BI・AI)ダッシュボードで共有し、機械学習で予測する。ルール(ガバナンス)で守る。
よくある悩みと、効く仕組み
現場でよく聞く悩みから、どの章を読めばよいかを引けます。
集計を始めると、業務システムが重くなる
第1章
業務用のDBで重い分析をしているのが原因です。分析用の置き場にデータをコピーしてから集計しましょう。
毎月、各部署のExcelを手作業で集めて集計している
第2章 取り込み / 第5章 ETL
データの取り込みと加工をパイプラインとして自動化すれば、手作業そのものをなくせます。
会議資料ごとに「売上」の数字が違う
第7章 DWH / 第8章 BI
数字の定義と出どころを1か所(DWH・ゴールド層・セマンティックレイヤー)にそろえると、「どれが正しい数字か」問題がなくなります。
クラウドの分析費用が、思ったより高い
第4章 ファイル形式
CSVのまま分析していると、毎回すべての列を読むので費用がかさみます。Parquet化と、日付ごとのフォルダ分けが効きます。
データはたくさん貯めたのに、誰も使っていない
第10章 ガバナンス
何がどこにあるかわからない「データの沼」になっている可能性があります。データカタログで目録を作り、担当者と使い方を決めましょう。
用語じてん
この教材に出てくる言葉を、意味と語源つきでまとめました。英語でも検索できます。
データレイク編:章ごとに読む
- 分析用データ基盤とは業務用と分析用を分ける
- データの取り込み集め方は2種類
- データレイク何でもそのまま貯める湖
- ファイル形式と列指向保存の形で、速さと費用が変わる
- ETL / ELT(整える)データをきれいに整える
- メダリオンアーキテクチャデータを3段階で磨く
- DWHとレイクハウス整理された倉庫と、湖のいいとこ取り
- BIと見える化数字をグラフで共有する
- AI・機械学習への活用貯めたデータが「予測」に変わる
- ガバナンスとセキュリティ沼にしないためのルール
- クラウドで作るデータ基盤役割ごとのサービス対応表
図やデモのデータは説明用の例です。クラウドのサービスは2026年10月時点の主なもので、名称や提供内容は変わることがあります。