Time Zone
Dorisはカスタムタイムゾーン設定をサポートしています
基本概念
Doris内には、以下の2つのタイムゾーン関連パラメータが存在します:
system_time_zone: サーバー起動時に、マシンに設定されたタイムゾーンに応じて自動的に設定され、設定後は変更できません。time_zone: クラスターの現在のタイムゾーン。この変数はクラスター開始時にsystem_time_zoneと同じに設定され、ユーザーが手動で変更しない限り再度変更されることはありません。
具体的な操作
-
SHOW VARIABLES LIKE '% time_zone%'現在のタイムゾーン関連設定を表示
-
SET [global] time_zone = 'Asia/Shanghai'このコマンドはセッションレベルでタイムゾーンを設定します。
globalキーワードが使用された場合、Doris FEはパラメータを永続化し、その後のすべての新しいセッションに対して有効になります。
データソース
タイムゾーンデータには、タイムゾーンの名前、対応する時刻オフセット、およびサマータイムの変更が含まれます。BEが配置されているマシンでは、データのソースはコマンドTZDIRによって返されるディレクトリです。サポートされていない場合は、ディレクトリ/usr/share/zoneinfoを使用します。
タイムゾーンの影響
1. 関数
NOW()やCURTIME()などの時間関数によって表示される値、およびshow load、show backendsの時刻値が含まれます。
ただし、create tableの時間型パーティション列のless than値や、date/datetime型として保存された値の表示には影響しません。
タイムゾーンによって影響を受ける関数:
-
FROM_UNIXTIME: UTCタイムスタンプが与えられると、Dorisセッションtime_zoneで指定されたタイムゾーンでその日付と時刻を返します。例えば、time_zoneがCSTの場合、FROM_UNIXTIME(0)は1970-01-01 08: 00:00を返します。 -
UNIX_TIMESTAMP: 日付と時刻が与えられると、Dorisセッションtime_zoneで指定されたタイムゾーンでそのUTCタイムスタンプを返します。例えば、time_zoneがCSTの場合、UNIX_TIMESTAMP('1970-01-01 08:00:00 ')は0を返します。 -
CURTIME: 現在のDorisセッションtime_zoneで指定されたタイムゾーンの時刻を返します。 -
NOW: 現在のDorisセッションtime_zoneで指定されたタイムゾーンの日付と時刻を返します。 -
CONVERT_TZ: 指定された一つのタイムゾーンから別のタイムゾーンにdatetimeを変換します。
2. 時間型の値
DATEとDATETIME型については、データインポート時のタイムゾーン変換をサポートしています。
-
データにタイムゾーンが含まれている場合、例えば現在のDoris
time_zone = +00:00で「2020-12-12 12:12:12+08:00」のようなデータの場合、データがDorisにインポートされ、実際の値は「2020-12-12 04:12:12」になります。 -
データにタイムゾーンが含まれていない場合、例えば「2020-12-12 12:12:12」のような場合、時刻は絶対時刻と見なされ、変換は行われません。
3. サマータイム
サマータイムは本質的に、特定の日付に変更される名前付きタイムゾーンの実際の時刻オフセットです。
例えば、America/Los_Angelesタイムゾーンには、毎年おおよそ3月と11月に開始および終了するサマータイム調整が含まれています。つまり、America/Los_Angelesの実際のタイムゾーンオフセットは、3月のサマータイム開始時に-08:00から-07:00に変更され、11月のサマータイム終了時に-07:00から-08:00に変更されます。
サマータイムを有効にしたくない場合は、America/Los_Angelesの代わりにtime_zoneを-08:00に設定してください。
使用方法
タイムゾーン値は様々な形式で指定できます。以下の標準形式がDorisで十分にサポートされています:
-
標準の名前付きタイムゾーン形式、例えば「Asia/Shanghai」、「America/Los_Angeles」。この形式はこのマシンのタイムゾーンデータから派生しています。「Etc/GMT+3」なども、このカテゴリに属します。
-
標準のオフセット形式、例えば「+02:30」、「-10:00」(「+12:03」などの特殊なオフセットはサポートされていません)
-
省略タイムゾーン形式、現在は以下のみサポート:
-
「GMT」、「UTC」、「+00:00」タイムゾーンと同等
-
「CST」、「Asia/Shanghai」タイムゾーンと同等
-
-
単一文字Z、Zuluタイムゾーン用、「+00:00」タイムゾーンと同等
さらに、すべてのアルファベットの解析は大文字小文字を区別しません。
注意:実装の違いにより、現在Dorisの一部のインポートでは他の形式もサポートされています。プロダクション環境では、ここに記載されていないこれらの形式に依存すべきではありません。その動作はいつでも変更される可能性があります。そのため、バージョン更新の関連する変更履歴に注意してください。
ベストプラクティス
タイムゾーンに敏感なデータ
タイムゾーンの問題には、3つの主な影響があります:
-
セッション変数
time_zone-- クラスタータイムゾーン -
インポート中に指定されるヘッダー
timezone(Stream Load、Broker Loadなど) -- インポートタイムゾーン -
「2023-12-12 08:00:00+08:00」のタイムゾーン型リテラル「+08:00」 -- データタイムゾーン
以下のように理解できます:
Dorisは現在、様々なタイムゾーンのデータをDorisにインポートすることと互換性があります。Doris自体のDATETIMEなどの時間型にはタイムゾーン情報が含まれておらず、インポート後のデータはタイムゾーンの変更とともに変更されないため、時刻データがDorisにインポートされる際、以下の2つのカテゴリに分けることができます:
-
絶対時刻
絶対時刻とは、関連するデータシーンがタイムゾーンと関係がないことを意味します。このタイプのデータは、タイムゾーンサフィックスなしでインポートし、そのまま保存する必要があります。
-
特定のタイムゾーンの時刻
特定のタイムゾーンの時刻とは、関連するデータシナリオがタイムゾーンに関連することを意味します。このタイプのデータについては、特定のタイムゾーンサフィックスを付けてインポートする必要があります。インポート時に、DorisクラスターとStream Load/Broker Loadで指定されたヘッダー
timezoneのタイムゾーンに変換されます。このタイプのデータは、インポート後にインポート時に指定されたタイムゾーンで絶対時刻ストレージに変換されるため、その後のインポートとクエリはデータの意味の混乱を避けるためにこのタイムゾーンを維持する必要があります。
-
Insert文については、以下の例を通じて説明できます:
Doris > select @@time_zone;
+---------------+
| @@time_zone |
+---------------+
| Asia/Shanghai |
+---------------+
Doris > insert into dt values('2020-12-12 12:12:12+02:00'); --- The imported data specifies a time zone of +02:00
Doris > select * from dt;
+---------------------+
| dt |
+---------------------+
| 2020-12-12 18:12:12 | --- Is converted to the Doris cluster time zone Asia/Shanghai, subsequent imports and queries should maintain this time zone.
+---------------------+
Doris > set time_zone = 'America/Los_Angeles';
Doris > select * from dt;
+---------------------+
| dt |
+---------------------+
| 2020-12-12 18:12:12 | --- If time_zone is modified, the time value will not change accordingly, and its meaning during query will be confused.
+---------------------+ -
Stream LoadやBroker Loadなどのインポート方法では、ヘッダー
timezoneを指定することでこれを実現できます。例えば、Stream Loadの場合、以下の例で説明できます:cat dt.csv
2020-12-12 12:12:12+02:00
curl --location-trusted -u root: \
-H "Expect:100-continue" \
-H "strict_mode: true" \
-H "timezone: Asia/Shanghai" \
-T dt.csv -XPUT \
http://127.0.0.1:8030/api/test/dt/_stream_loadDoris > select @@time_zone;
+---------------+
| @@time_zone |
+---------------+
| Asia/Shanghai |
+---------------+
Doris > select * from dt;
+---------------------+
| dt |
+---------------------+
| 2020-12-12 18:12:12 | --- Is converted to the Doris cluster time zone Asia/Shanghai, subsequent imports and queries should maintain this time zone.
+---------------------+
* Stream LoadやBroker Loadなどのインポート方法では、ヘッダー`timezone`がDorisクラスタの`time_zone`を上書きするため、インポート時に一貫性を保つ必要があります。
* Stream LoadやBroker Loadなどのインポート方法では、ヘッダー`timezone`がインポート変換で使用される関数に影響します。
* インポート時にヘッダー`timezone`が指定されていない場合、デフォルトで東8区が使用されます。
タイムゾーンの問題に対処するためのベストプラクティスをまとめると:
-
クラスタが表すタイムゾーンを確認し、使用前に
time_zoneを設定して、その後は変更しないでください。 -
インポート時にヘッダー
timezoneをクラスタのtime_zoneと一致するように設定してください。 -
絶対時刻の場合は、タイムゾーンサフィックスなしでインポートし、タイムゾーン付きの時刻の場合は、特定のタイムゾーンサフィックス付きでインポートすると、インポート後にDorisの
time_zoneタイムゾーンに変換されます。
サマータイム
サマータイムの開始時刻と終了時刻は現在のタイムゾーンデータソースから取得され、必ずしも現在年のタイムゾーン地域の実際の公式認定時刻と正確に対応するとは限りません。このデータはICANNによって維持されています。現在年のサマータイムが指定された通りに動作することを確実にする必要がある場合は、Dorisが選択したデータソースが最新のICANN公開タイムゾーンデータであることを確認してください。ダウンロードアクセスについては以下を参照してください。
情報更新
現実世界のタイムゾーンとサマータイムデータは様々な理由により時々変更される可能性があり、IANAはこれらの変更を定期的に記録し、対応するタイムゾーンファイルを更新しています。Dorisのタイムゾーン情報を最新のIANAデータに合わせて最新に保ちたい場合は、以下のいずれかを実行してください:
- Package Managerを使用して更新
現在のオペレーティングシステムで使用されているパッケージマネージャに応じて、対応するコマンドを使用してタイムゾーンデータを直接更新できます:
# yum
> sudo yum update tzdata
# apt
> sudo apt update tzdata
この方法で更新されたデータは、システムの $TZDIR(通常は usr/share/zoneinfo)の下に配置されます。
- IANA time zone databaseを手動でpullする(推奨)
ほとんどのLinuxディストリビューションでは、tzdataが適時に同期されないパッケージマネージャーを使用しています。time zoneデータの精度が重要な場合は、定期的にIANAが公開しているデータをpullできます:
wget https://www.iana.org/time-zones/repository/tzdb-latest.tar.lz
次に、展開されたフォルダ内のREADMEファイルに従って、特定のzoneinfoデータを生成します。生成されたデータは$TZDIRフォルダを上書きするようにコピーする必要があります。
BEマシンで上記のすべての操作が完了した後、対応するBEで必ず再起動して変更を有効にしてください。