メインコンテンツまでスキップ

ベストプラクティス

データモデル

Dorisはデータを3つのモデルで整理します:DUPLICATE KEYモデル、UNIQUE KEYモデル、AGGREGATE KEYモデル。

ヒント

推奨事項

データモデルはテーブル作成時に決定され、不変であるため、最適なデータモデルを選択することが重要です。

  1. Duplicate Keyモデルは、任意の次元でのアドホッククエリに適しています。事前集計の利点を活用できませんが、集計モデルの制限にも制約されないため、列指向ストレージの利点を活用できます(すべてのキー列を読む必要なく、関連する列のみを読む)。
  2. Aggregate Keyモデルは、事前集計により、集計クエリでスキャンするデータ量と計算負荷を大幅に削減できます。固定パターンのレポートクエリに特に適しています。ただし、このモデルはcount(*)クエリには適していません。また、Value列の集計方法が固定されているため、他のタイプの集計クエリを実行する際は、セマンティック的な正確性に特に注意を払う必要があります。
  3. Unique Keyモデルは、一意のプライマリキー制約が必要なシナリオ向けに設計されています。プライマリキーの一意性を保証できます。欠点は、マテリアライゼーションと事前集計による利点を享受できないことです。集計クエリの高性能要件があるユーザーには、Doris 1.2以降のUnique KeyモデルのMerge-on-Write機能を使用することを推奨します。
  4. 部分列更新要件があるユーザーは、以下のデータモデルから選択できます:
    1. Unique Keyモデル(Merge-on-Writeモード)
    2. Aggregate Keyモデル(REPLACE_IF_NOT_NULLによる集計)

DUPLICATE KEYモデル

duplicate-key-model-example

ソート列のみが指定された場合、同じキーを持つ行はマージされません。

これは、データの事前集計が不要な分析ビジネスシナリオに適用されます:

  • 生データの分析
  • 新しいデータのみが追加されるログまたは時系列データの分析

ベストプラクティス

-- For example, log analysis that allows only appending new data with replicated KEYs.
CREATE TABLE session_data
(
visitorid SMALLINT,
sessionid BIGINT,
visittime DATETIME,
city CHAR(20),
province CHAR(20),
ip varchar(32),
brower CHAR(20),
url VARCHAR(1024)
)
DUPLICATE KEY(visitorid, sessionid) -- Used solely for specifying sorting columns, rows with the same KEY will not be merged.
DISTRIBUTED BY HASH(sessionid, visitorid) BUCKETS 10;

AGGREGATE KEY model

aggregate-key-model-example

同じAGGREGATE KEYを持つ古いレコードと新しいレコードは集約されます。現在サポートされている集約方法は以下の通りです:

  1. SUM: 複数行の値を累積して合計を計算します;
  2. REPLACE: 以前にインポートされた行の値を次のバッチのデータの値で置き換えます;
  3. MAX: 最大値を保持します;
  4. MIN: 最小値を保持します;
  5. REPLACE_IF_NOT_NULL: null以外の値を置き換えます。REPLACEとは異なり、null値は置き換えません;
  6. HLL_UNION: HyperLogLogアルゴリズムを使用してHLL型の列を集約します;
  7. BITMAP_UNION: bitmapユニオン集約を使用してBITMAP型の列を集約します;

これは以下のようなレポート作成や多次元分析のシナリオに適しています:

  • Webサイトのトラフィック分析
  • データレポートの多次元分析

ベストプラクティス

-- Example of website traffic analysis
CREATE TABLE site_visit
(
siteid INT,
city SMALLINT,
username VARCHAR(32),
pv BIGINT SUM DEFAULT '0' -- PV caculation
)
AGGREGATE KEY(siteid, city, username) -- Rows with the same KEY will be merged, and non-key columns will be aggregated based on the specified aggregation function.
DISTRIBUTED BY HASH(siteid) BUCKETS 10;

UNIQUE KEY モデル

新しいレコードは、同じUNIQUE KEYを持つ古いレコードを置き換えます。Doris 1.2以前では、UNIQUE KEYモデルはAGGREGATE KEYモデルのREPLACE集約と同じ方法で実装されていました。しかし、Doris 1.2以降、UNIQUE KEYモデルにMerge-on-Write実装を導入し、集約クエリのパフォーマンスが向上しました。

これは以下のような更新が必要な分析業務シナリオに適しています:

  • 重複除去された注文分析
  • 挿入、更新、削除のリアルタイム同期

ベストプラクティス

-- Example of deduplicated order analysis
CREATE TABLE sales_order
(
orderid BIGINT,
status TINYINT,
username VARCHAR(32),
amount BIGINT DEFAULT '0'
)
UNIQUE KEY(orderid) -- Rows of the same KEY will be merged
DISTRIBUTED BY HASH(orderid) BUCKETS 10;

Index

インデックスはデータの高速フィルタリングと検索を促進することができます。現在、Dorisは2種類のインデックスをサポートしています:

  1. 組み込みスマートインデックス(prefix indexとZoneMap indexを含む)
  2. ユーザー作成セカンダリインデックス(inverted index、BloomFilter index、Ngram BloomFilter index、Bitmap indexを含む)

Prefix index

Prefix indexは、Aggregate、Unique、Duplicateデータモデルの組み込みインデックスです。基盤となるデータストレージは、それぞれのテーブル作成文でAGGREGATE KEY、UNIQUE KEY、またはDUPLICATE KEYとして指定された列に基づいてソートされて格納されます。ソート済みデータ上に構築されるPrefix indexにより、指定されたprefix列に基づく高速データクエリが可能になります。

Prefix indexはスパースインデックスであり、キーが存在する正確な行を特定することはできません。代わりに、キーが存在する可能性のある範囲を大まかに特定し、その後二分探索アルゴリズムを使用してキーの位置を正確に特定します。

ヒント

推奨事項

  1. テーブル作成時、正しい列の順序はクエリ効率を大幅に向上させることができます
    1. 列の順序はテーブル作成時に指定されるため、テーブルは1種類のprefix indexのみを持つことができます。ただし、これはprefix indexのない列に基づくクエリには十分効率的でない場合があります。そのような場合、ユーザーはマテリアライズドビューを作成して列の順序を調整できます。
  2. Prefix indexの最初のフィールドは、常にクエリ条件が最も長いフィールドであり、高カーディナリティフィールドである必要があります。
    1. バケットフィールド:比較的均等なデータ分散を持ち、頻繁に使用される、できれば高カーディナリティフィールドである必要があります。
    2. Int(4) + Int(4) + varchar(50):prefix indexの長さは28のみです。
    3. Int(4) + varchar(50) + Int(4):prefix indexの長さは24のみです。
    4. varchar(10) + varchar(50):prefix indexの長さは30のみです。
    5. Prefix index(36文字):最初のフィールドが最高のクエリパフォーマンスを提供します。varcharフィールドが検出された場合、prefix indexは自動的に最初の20文字まで切り捨てられます。
    6. 可能であれば、最も頻繁に使用されるクエリフィールドをprefix indexに含めてください。そうでない場合は、それらをバケットフィールドとして指定してください。
  3. Dorisはprefix indexの最初の36バイトのみを利用できるため、prefix index内のフィールド長は可能な限り明示的である必要があります。
  4. データ範囲に対してパーティショニング、バケット、prefix indexの戦略を設計することが困難な場合は、高速化のためにinverted indexの導入を検討してください。

ZoneMap index

ZoneMap indexは、列指向ストレージ形式で列ごとに自動的に維持されるインデックス情報です。Min/Max値やNull値の数などの情報が含まれます。データクエリ中、ZoneMap indexは範囲条件を使用してフィルタリングされたフィールドに基づき、スキャンするデータ範囲を選択するために利用されます。

例えば、以下のクエリ文で「age」フィールドをフィルタリングする場合:

SELECT * FROM table WHERE age > 0 and age < 51;

Short Key Indexがヒットしない場合、ZoneMapインデックスが使用されて、「age」フィールドのクエリ条件に基づいてスキャンが必要なデータ範囲(「通常の」範囲として知られる)が決定されます。これにより、スキャンが必要なページ数が削減されます。

転置インデックス

Dorisはバージョン2.0.0から転置インデックスをサポートしています。転置インデックスは、テキストデータでの全文検索や、通常の数値型および日付型での範囲クエリに使用できます。大量のデータから条件を満たす行を高速でフィルタリングできます。

ベストプラクティス

-- Inverted index can be specified during table creation or added later. This is an example of specifying it during table creation:
CREATE TABLE table_name
(
columns_difinition,
INDEX idx_name1(column_name1) USING INVERTED [PROPERTIES("parser" = "english|unicode|chinese")] [COMMENT 'your comment']
INDEX idx_name2(column_name2) USING INVERTED [PROPERTIES("parser" = "english|unicode|chinese")] [COMMENT 'your comment']
INDEX idx_name3(column_name3) USING INVERTED [PROPERTIES("parser" = "chinese", "parser_mode" = "fine_grained|coarse_grained")] [COMMENT 'your comment']
INDEX idx_name4(column_name4) USING INVERTED [PROPERTIES("parser" = "english|unicode|chinese", "support_phrase" = "true|false")] [COMMENT 'your comment']
INDEX idx_name5(column_name4) USING INVERTED [PROPERTIES("char_filter_type" = "char_replace", "char_filter_pattern" = "._"), "char_filter_replacement" = " "] [COMMENT 'your comment']
INDEX idx_name5(column_name4) USING INVERTED [PROPERTIES("char_filter_type" = "char_replace", "char_filter_pattern" = "._")] [COMMENT 'your comment']
)
table_properties;

-- Example: keyword matching in full-text searches, implemented by MATCH_ANY MATCH_ALL
SELECT * FROM table_name WHERE column_name MATCH_ANY | MATCH_ALL 'keyword1 ...';
ヒント

推奨事項

  1. データ範囲に対してパーティショニング、bucketing、およびprefix indexの戦略を設計するのが困難な場合は、高速化のためにinverted indexの導入を検討してください。
注意

制限事項

  1. 異なるデータモデルにはinverted indexに対する異なる制限があります。
    1. Aggregate KEYモデル: Keyカラムに対してのみinverted indexを許可
    2. Unique KEYモデル: Merge-on-Writeを有効にした後、任意のカラムに対してinverted indexを許可
    3. Duplicate KEYモデル: 任意のカラムに対してinverted indexを許可

BloomFilter index

Dorisは値の識別性が高いフィールドにBloomFilter indexを追加することをサポートしており、高いカーディナリティを持つカラムでの等価クエリを含むシナリオに適しています。

ベストプラクティス

-- Example: add "bloom_filter_columns"="k1,k2,k3" in the PROPERTIES of the table creation statement.
-- To create BloomFilter index for saler_id and category_id in the table.
CREATE TABLE IF NOT EXISTS sale_detail_bloom (
sale_date date NOT NULL COMMENT "Sale data",
customer_id int NOT NULL COMMENT "Customer ID",
saler_id int NOT NULL COMMENT "Saler ID",
sku_id int NOT NULL COMMENT "SKU ID",
category_id int NOT NULL COMMENT "Category ID",
sale_count int NOT NULL COMMENT "Sale count",
sale_price DECIMAL(12,2) NOT NULL COMMENT "Sale price",
sale_amt DECIMAL(20,2) COMMENT "Sale amount"
)
Duplicate KEY(sale_date, customer_id,saler_id,sku_id,category_id)
DISTRIBUTED BY HASH(saler_id) BUCKETS 10
PROPERTIES (
"bloom_filter_columns"="saler_id,category_id"
);
注意

制約

  1. BloomFilterインデックスは、Tinyint、Float、Double型の列ではサポートされていません。
  2. BloomFilterインデックスは、"in"および"="演算子を使用したフィルタリングのみを高速化できます。
  3. BloomFilterインデックスは、"in"または"="演算子を含むクエリ条件において、高カーディナリティの列(5000以上)に構築する必要があります。
    1. BloomFilterインデックスは、非プレフィックスフィルタリングに適しています。
    2. クエリは列内の高頻度値に基づいてフィルタリングし、フィルタリング条件は主に"in"および"="です。
    3. Bitmapインデックスとは異なり、BloomFilterインデックスはUserIDのような高カーディナリティの列に適しています。"gender"のような低カーディナリティの列に作成した場合、各ブロックにほぼすべての値が含まれ、BloomFilterインデックスが無意味になります。
    4. データカーディナリティが全体範囲の約半分程度のケースに適しています。
    5. ID番号などの等価(=)クエリを持つ高カーディナリティの列に対して、BloomFilterインデックスを使用することで、パフォーマンスを大幅に向上させることができます。

Ngram BloomFilterインデックス

2.0.0以降、Dorisは"LIKE"クエリのパフォーマンスを向上させるためにNGram BloomFilterインデックスを導入しました。

ベストプラクティス

-- Example of creating NGram BloomFilter index in table creation statement
CREATE TABLE `nb_table` (
`siteid` int(11) NULL DEFAULT "10" COMMENT "",
`citycode` smallint(6) NULL COMMENT "",
`username` varchar(32) NULL DEFAULT "" COMMENT "",
INDEX idx_ngrambf (`username`) USING NGRAM_BF PROPERTIES("gram_size"="3", "bf_size"="256") COMMENT 'username ngram_bf index'
) ENGINE=OLAP
AGGREGATE KEY(`siteid`, `citycode`, `username`) COMMENT "OLAP"
DISTRIBUTED BY HASH(`siteid`) BUCKETS 10;

-- PROPERTIES("gram_size"="3", "bf_size"="256"), representing the number of grams and the byte size of the BloomFilter
-- The number of grams is determined according to the query cases and is typically set to the length of the majority of query strings. The number of bytes in the BloomFilter can be determined after testing. Generally, a larger number of bytes leads to better filtering results, and it is recommended to start with a value of 256 for testing and evaluating the effectiveness. However, it's important to note that a larger number of bytes also increases the storage cost of the index.
-- With high data cardinality, there is no need to set a large BloomFilter size. Conversely, with low data cardinality, increase the BloomFilter size to enhance filtering efficiency.
注意

制限事項

  1. NGram BloomFilter indexは文字列カラムのみをサポートします。
  2. NGram BloomFilter indexとBloomFilter indexは相互に排他的であり、同一カラムに対してはそのうちの一つのみを設定できます。
  3. NgramとBloomFilterのサイズは、どちらも実際の状況に基づいて最適化できます。Ngramサイズが比較的小さい場合は、BloomFilterサイズを大きくしてもよいでしょう。
  4. 数十億規模以上のデータに対して、あいまい検索が必要な場合は、inverted indexまたはNGram BloomFilterの使用を推奨します。

Bitmap index

データクエリを高速化するため、Dorisは特定のフィールドにBitmap indexを追加することをサポートしています。これは、カーディナリティが低いカラムに対する等価検索や範囲検索のシナリオに適しています。

ベストプラクティス

-- Example: create Bitmap index for siteid on bitmap_table
CREATE INDEX [IF NOT EXISTS] bitmap_index_name ON
bitmap_table (siteid)
USING BITMAP COMMENT 'bitmap_siteid';
注意

制限事項

  1. Bitmapインデックスは単一カラムにのみ作成できます。
  2. BitmapインデックスはDuplicateおよびUnique Keyモデルの全てのカラム、ならびにAggregate Keyモデルのkeyカラムに適用できます。
  3. Bitmapインデックスは以下のデータ型をサポートします:
    1. TINYINT
    2. SMALLINT
    3. INT
    4. BIGINT
    5. CHAR
    6. VARCHAR
    7. DATE
    8. DATETIME
    9. LARGEINT
    10. DECIMAL
    11. BOOL
  4. BitmapインデックスはSegment V2でのみ有効になります。Bitmapインデックスを持つテーブルのストレージフォーマットは、デフォルトでV2フォーマットに自動変換されます。
  5. Bitmapインデックスは一定のカーディナリティ範囲内で構築する必要があります。極端に高いまたは低いカーディナリティのケースには適していません。
    1. カーディナリティが100から100,000の間のカラム(職業フィールドや都市フィールドなど)に推奨されます。重複率が高すぎる場合、他の種類のインデックスと比較してBitmapインデックスを構築する大きな利点はありません。重複率が低すぎる場合、Bitmapインデックスは空間効率とパフォーマンスを大幅に低下させる可能性があります。count、OR、AND演算などの特定タイプのクエリでは、ビット演算のみが必要です。
    2. Bitmapインデックスは直交クエリにより適しています。

フィールドタイプ

DorisはBITMAPによる精密重複排除、HLLによるファジー重複排除、ARRAY/MAP/JSONなどの半構造化データ型、ならびに一般的な数値、文字列、時間型など、様々なフィールドタイプをサポートしています。

ヒント

推奨事項

  1. VARCHAR
    1. 長さ範囲が1-65533バイトの可変長文字列です。UTF-8エンコーディングで格納され、英語文字は通常1バイトを占有します。
    2. varchar(255)とvarchar(65533)のパフォーマンス差について誤解がよくあります。両方のケースで格納されるデータが同じであれば、パフォーマンスも同じになります。テーブル作成時にフィールドの最大長が不明な場合は、文字列が長すぎることによるインポートエラーを防ぐため、varchar(65533)を使用することを推奨します。
  2. STRING
    1. デフォルトサイズが1048576バイト(1MB)の可変長文字列で、2147483643バイト(2GB)まで増加できます。UTF-8エンコーディングで格納され、英語文字は通常1バイトを占有します。
    2. valueカラムでのみ使用でき、keyカラムやパーティションカラムでは使用できません。
    3. 大きなテキストコンテンツの格納に適しています。ただし、そのような要件が存在しない場合は、VARCHARを使用することを推奨します。STRINGカラムはkeyカラムやパーティションカラムで使用できないという制限があります。
  3. 数値フィールド:必要な精度に基づいて適切なデータ型を選択してください。これに関して特別な制限はありません。
  4. 時間フィールド:高精度要件(ミリ秒まで正確なタイムスタンプ)がある場合は、datetime(6)の使用を指定する必要があることに注意してください。そうでなければ、そのようなタイムスタンプはデフォルトではサポートされません。
  5. JSONデータの格納にはstring型ではなくJSONデータ型を使用することを推奨します。

テーブル作成

create-table-example

テーブル作成における考慮事項には、データモデル、インデックス、フィールドタイプに加えて、データパーティションとバケットの設定が含まれます。

ベストプラクティス

-- Take Merge-on-Write tables in the Unique Key model as an example:
-- Merge-on-Write in the Unique Key model is implemented in a different way from the Aggregate Key model. The performance of it is similar to that on the Duplicate Key model.
-- In use cases requiring primary key constraints, the Aggregate Key model can deliver much better query performance compared to the Duplicate Key model, especially in aggregate queries and queries that involve filtering a large amount of data using indexes.

-- For non-partitioned tables
CREATE TABLE IF NOT EXISTS tbl_unique_merge_on_write
(
`user_id` LARGEINT NOT NULL COMMENT "Use ID",
`username` VARCHAR(50) NOT NULL COMMENT "Username",
`register_time` DATE COMMENT "User registration time",
`city` VARCHAR(20) COMMENT "User city",
`age` SMALLINT COMMENT "User age",
`sex` TINYINT COMMENT "User gender",
`phone` LARGEINT COMMENT "User phone number",
`address` VARCHAR(500) COMMENT "User address"
)
UNIQUE KEY(`user_id`, `username`)
-- Data volume of 3~5G
DISTRIBUTED BY HASH(`user_id`) BUCKETS 10
PROPERTIES (
-- In Doris 1.2.0, as a new feature, Merge-on-Write is disabled by default. Users can enable it by adding the following property.
"enable_unique_key_merge_on_write" = "true"
);

-- For partitioned tables
CREATE TABLE IF NOT EXISTS tbl_unique_merge_on_write_p
(
`user_id` LARGEINT NOT NULL COMMENT "Use ID",
`username` VARCHAR(50) NOT NULL COMMENT "Username",
`register_time` DATE COMMENT "User registration time",
`city` VARCHAR(20) COMMENT "User city",
`age` SMALLINT COMMENT "User age",
`sex` TINYINT COMMENT "User gender",
`phone` LARGEINT COMMENT "User phone number",
`address` VARCHAR(500) COMMENT "User address"
)
UNIQUE KEY(`user_id`, `username`, `register_time`)
PARTITION BY RANGE(`register_time`) (
PARTITION p00010101_1899 VALUES [('0001-01-01'), ('1900-01-01')),
PARTITION p19000101 VALUES [('1900-01-01'), ('1900-01-02')),
PARTITION p19000102 VALUES [('1900-01-02'), ('1900-01-03')),
PARTITION p19000103 VALUES [('1900-01-03'), ('1900-01-04')),
PARTITION p19000104_1999 VALUES [('1900-01-04'), ('2000-01-01')),
FROM ("2000-01-01") TO ("2022-01-01") INTERVAL 1 YEAR,
PARTITION p30001231 VALUES [('3000-12-31'), ('3001-01-01')),
PARTITION p99991231 VALUES [('9999-12-31'), (MAXVALUE))
)
-- Data volume of 3~5G
DISTRIBUTED BY HASH(`user_id`) BUCKETS 10
PROPERTIES (
-- In Doris 1.2.0, as a new feature, Merge-on-Write is disabled by default. Users can enable it by adding the following property.
"enable_unique_key_merge_on_write" = "true",
-- The unit for dynamic partition scheduling can be specified as HOUR, DAY, WEEK, MONTH, or YEAR.
"dynamic_partition.time_unit" = "MONTH",
-- The starting offset for dynamic partitioning is specified as a negative number. Depending on the value of the time_unit, it uses the current day (week/month) as the reference point, partitions prior to this offset will be deleted (TTL). If not specified, the default value is -2147483648, indicating that historical partitions will not be deleted.
"dynamic_partition.start" = "-3000",
-- The ending offset for dynamic partitioning is specified as a positive number. Depending on the value of the time_unit, it uses the current day (week/month) as the reference point. Create the corresponding partitions of the specified range in advance.
"dynamic_partition.end" = "10",
-- The prefix for names of the dynamically created partitions (required).
"dynamic_partition.prefix" = "p",
-- The number of buckets corresponding to the dynamically created partitions.
"dynamic_partition.buckets" = "10",
"dynamic_partition.enable" = "true",
-- The following is the number of replicas corresponding to dynamically created partitions. If not specified, the default value will be the replication factor specified when creating the table, which is typically 3.
"dynamic_partition.replication_num" = "3",
"replication_num" = "3"
);

-- View existing partitions
-- The actual number of created partitions is determined by a combination of dynamic_partition.start, dynamic_partition.end, and the settings of PARTITION BY RANGE.
show partitions from tbl_unique_merge_on_write_p;
注意

制限事項

  1. UTF-8のみがサポートされているため、データベースの文字セットはUTF-8として指定する必要があります。

  2. テーブルのレプリケーション係数は3である必要があります(指定されていない場合、デフォルトは3です)。

  3. 個々のtabletのデータ量(Tablet Count = パーティション Count * バケット Count * Replication Factor)は理論的には上限・下限はありませんが、小規模テーブル(数百メガバイトから1ギガバイトの範囲)を除き、1GBから10GBの範囲内に収めることを確実にする必要があります:

    1. 個々のtabletのデータ量が小さすぎると、データ集約性能の低下とメタデータ管理オーバーヘッドの増加を引き起こす可能性があります。
    2. データ量が大きすぎると、レプリカの移行、同期を阻害し、スキーマ変更やマテリアライゼーション操作のコストを増加させます(これらの操作はtabletの粒度で再試行されます)。
  4. 5億レコードを超えるデータに対しては、partitioningとbucketing戦略を実装する必要があります:

    1. bucketingの推奨事項:
      1. 大規模テーブルの場合、各tabletは1GBから10GBの範囲内にして、過度に多くの小さなファイルの生成を防ぐ必要があります。
      2. 約100メガバイトのディメンションテーブルの場合、tabletの数は3から5の範囲内に制御する必要があります。これにより、過度な小ファイルを生成することなく、一定レベルの並行性を確保できます。
    2. partitioningが実行不可能で、データが急速に成長し、動的な時間ベースのpartitioningの可能性がない場合、データ保持期間(180日)に基づいてデータ量に対応するためにbucket数を増やすことが推奨されます。各bucketのサイズは依然として1GBから10GBの間に保つことが推奨されます。
    3. bucketingフィールドにsaltingを適用し、bucket pruning機能を活用するためにクエリで同じsalting戦略を使用してください。
    4. ランダムbucketing:
      1. OLAPテーブルに更新が必要なフィールドがない場合、データbucketingモードをRANDOMに設定することで、深刻なデータ偏りを回避できます。データ取り込み中、各データバッチは書き込み用にtabletにランダムに割り当てられます。
      2. テーブルのbucketingモードがRANDOMに設定されている場合、bucketingカラムがないため、テーブルのクエリではbucketingカラムの値に基づいて特定のbucketをクエリする代わりに、ヒットしたpartition内のすべてのbucketをスキャンします。この設定は、高並行性のポイントクエリではなく、全体的な集約と分析クエリに適しています。
      3. OLAPテーブルのデータがランダム分布している場合、データ取り込み時にload_to_single_tabletパラメータをtrueに設定することで、各タスクが単一のtabletに書き込むことができます。これにより、大規模データ取り込み時の並行性とスループットが向上します。また、データ取り込みとcompactionによって引き起こされる書き込み増幅を削減し、クラスタの安定性を確保できます。
    5. 成長が遅いディメンションテーブルは、単一partitionを使用し、一般的に使用されるクエリ条件に基づいてbucketingを適用できます(bucketingフィールドのデータ分布が比較的均等な場合)。
    6. ファクトテーブル。
  5. 大量の履歴partitionデータがあるが、履歴データが比較的小さい、不均衡である、またはクエリ頻度が低いシナリオでは、以下のアプローチを使用してデータを特別なpartitionに配置できます。小さなサイズの履歴データに対して履歴partition(例:年次partition、月次partition)を作成できます。例えば、データFROM ("2000-01-01") TO ("2022-01-01") INTERVAL 1 YEARに対して履歴partitionを作成できます:


    PARTITION p00010101_1899 VALUES [('0001-01-01'), ('1900-01-01')),

    PARTITION p19000101 VALUES [('1900-01-01'), ('1900-01-02')),

    ...

    PARTITION p19000104_1999 VALUES [('1900-01-04'), ('2000-01-01')),

    FROM ("2000-01-01") TO ("2022-01-01") INTERVAL 1 YEAR,

    PARTITION p30001231 VALUES [('3000-12-31'), ('3001-01-01')),

    PARTITION p99991231 VALUES [('9999-12-31'), (MAXVALUE))