Doris Compute-Storage分離デプロイメント準備
1. 概要
このドキュメントでは、Apache Dorisのコンピュート・ストレージ分離モードのデプロイメント準備作業について説明します。分離アーキテクチャは、システムのスケーラビリティとパフォーマンスの向上を目的とし、大規模なデータ処理シナリオに適しています。
2. アーキテクチャコンポーネント
Dorisのコンピュート・ストレージ分離アーキテクチャは、3つの主要モジュールで構成されています：
- Frontend (FE)：ユーザーリクエストを処理し、メタデータを管理します。
- Backend (BE)：クエリタスクを実行するステートレスなコンピュートノードです。
- Meta Service (MS)：メタデータ操作とデータ復旧を管理します。
3. システム要件
3.1 ハードウェア要件
- 最小構成：3台のサーバー
- 推奨構成：5台以上のサーバー
3.2 ソフトウェア依存関係
- FoundationDB (FDB) バージョン7.1.38以上
- OpenJDK 17
4. デプロイメント計画
4.1 テスト環境デプロイメント
すべてのモジュールを単一マシンにデプロイし、本番環境には適していません。
4.2 本番デプロイメント
- FDBを3台以上のマシンにデプロイ
- FEとMeta Serviceを3台以上のマシンにデプロイ
- BEを3台以上のマシンにデプロイ
マシン構成が高い場合、FDB、FE、Meta Serviceの混在を考慮しますが、ディスクは混在させないでください。
5. インストール手順
5.1 FoundationDBのインストール
このセクションでは、提供されたスクリプトfdb_vars.shとfdb_ctl.shを使用してFoundationDB (FDB)サービスを設定、デプロイ、起動する手順を説明します。Dorisリリースパッケージをダウンロード後、これらのスクリプトはtools/fdbディレクトリにあります。
Dorisは現在デフォルトでFDBバージョン7.1.xに依存しています。FDBを別途インストール済みの場合、バージョン7.1.xであることを確認してください。そうでないと、Meta Serviceの起動に失敗します。
5.1.1 マシン要件
通常、SSDを搭載した最低3台のマシンが、2重データレプリカを持つFoundationDBクラスターを形成し、単一マシン障害に対応するために必要です。 SSDが利用できない場合、データ保存には標準的なクラウドディスクまたは標準的なPOSIX準拠ファイルシステムを持つローカルディスクを最低限使用する必要があります。そうでないと、FoundationDBが正常に動作しない可能性があります - 例えば、JuiceFSのようなストレージソリューションはFoundationDBの基盤ストレージとして使用すべきではありません。
開発/テスト目的のみであれば、単一マシンで十分です。
5.1.2 fdb_vars.sh設定
必須カスタム設定
| パラメータ | 説明 | タイプ | 例 | 注記 |
|---|---|---|---|---|
DATA_DIRS | FoundationDBストレージのデータディレクトリを指定 | 絶対パスのカンマ区切りリスト | /mnt/foundationdb/data1,/mnt/foundationdb/data2,/mnt/foundationdb/data3 | - スクリプト実行前にディレクトリを作成しておくこと - 本番環境ではSSDと個別ディレクトリを推奨 |
FDB_CLUSTER_IPS | クラスターIPを定義 | 文字列（カンマ区切りのIPアドレス） | 172.200.0.2,172.200.0.3,172.200.0.4 | - 本番クラスターには最低3つのIPアドレス - 最初のIPがコーディネーターとして使用される - 高可用性のため、マシンは異なるラックに配置 |
FDB_HOME | FoundationDBのメインディレクトリを定義 | 絶対パス | /fdbhome | - デフォルトパスは/fdbhome - このパスは絶対パスであることを確認 |
FDB_CLUSTER_ID | クラスターIDを定義 | 文字列 | SAQESzbh | - 各クラスターIDは一意でなければならない - mktemp -u XXXXXXXXを使用して生成可能 |
FDB_CLUSTER_DESC | FDBクラスターの説明を定義 | 文字列 | dorisfdb | - デプロイメントにとって意味のあるものに変更することを推奨 |
オプションカスタム設定
| パラメータ | 説明 | タイプ | 例 | 注記 |
|---|---|---|---|---|
MEMORY_LIMIT_GB | FDBプロセスのメモリ制限をGBで定義 | 整数 | MEMORY_LIMIT_GB=16 | 利用可能なメモリリソースとFDBプロセス要件に基づいてこの値を調整 |
CPU_CORES_LIMIT | FDBプロセスのCPUコア制限を定義 | 整数 | CPU_CORES_LIMIT=8 | 利用可能なCPUコア数とFDBプロセス要件に基づいてこの値を設定 |
5.1.3 FDBクラスターのデプロイ
fdb_vars.shで環境を設定した後、fdb_ctl.shスクリプトを使用して各ノードにFDBクラスターをデプロイできます。
./fdb_ctl.sh deploy
このコマンドはFDBクラスターのデプロイメントプロセスを開始します。
5.1.4 FDBサービスの開始
FDBクラスターがデプロイされたら、fdb_ctl.shスクリプトを使用して各ノードでFDBサービスを開始できます。
./fdb_ctl.sh start
このコマンドはFDBサービスを開始し、クラスタを運用可能にして、MetaServiceの設定に使用できるFDBクラスタ接続文字列を取得します。
5.2 OpenJDK 17のインストール
- OpenJDK 17をダウンロードします
- 展開し、環境変数JAVA_HOMEを設定します。
6. 次のステップ
上記の準備が完了したら、以下のドキュメントを参照してデプロイメントを続行してください：
7. 注意事項
- 全ノード間で時刻同期を確実にしてください
- FoundationDBのデータを定期的にバックアップしてください
- 実際の負荷に基づいてFoundationDBとDorisの設定パラメータを調整してください
- データストレージにはPOSIX準拠のファイルシステムを持つ標準クラウドディスクまたはローカルディスクを使用してください。そうでなければ、FoundationDBが正常に機能しない可能性があります。
- 例えば、JuiceFSのようなストレージソリューションはFoundationDBのストレージバックエンドとして使用すべきではありません。
