Feature
Highlight
-
完全なVectorized-Engineサポート、大幅な性能向上
標準的なssb-100-flatベンチマークにおいて、1.2の性能は1.1の2倍高速です。複雑なTPCH 100ベンチマークにおいて、1.2の性能は1.1の3倍高速です。
-
Merge-on-Write Unique Key
Unique Key ModelでのMerge-On-Writeをサポートします。このモードは、データの書き込み時に削除または更新が必要なデータをマークすることで、クエリ時のMerge-On-Readのオーバーヘッドを回避し、更新可能なデータモデルでの読み取り効率を大幅に向上させます。
-
Multi カタログ
multi-catalog機能により、Dorisに外部データソースへの迅速なアクセス機能を提供します。ユーザーは
CREATE CATALOGコマンドを通じて外部データソースに接続できます。Dorisは外部データソースのライブラリとテーブル情報を自動的にマッピングします。その後、ユーザーは通常のテーブルにアクセスするように、これらの外部データソースのデータにアクセスできます。ユーザーが各テーブルに対して手動で外部マッピングを確立する必要がある複雑な操作を避けることができます。現在、この機能は以下のデータソースをサポートしています:
- Hive Metastore:Hive、Iceberg、Hudiを含むデータテーブルにアクセスできます。Alibaba CloudのDataLake Formationなど、Hive Metastoreと互換性のあるデータソースに接続することも可能です。HDFSとオブジェクトストレージの両方でデータアクセスをサポートします。
- Elasticsearch:ESデータソースにアクセスします。
- JDBC:JDBCプロトコルを通じてMySQLにアクセスします。
ドキュメント:https://doris.apache.org//docs/dev/lakehouse/multi-catalog)
注記:対応する権限レベルも自動的に変更されます。詳細は「アップグレード注意事項」セクションを参照してください。
-
軽量テーブル構造変更
新バージョンでは、データテーブルに対するカラムの追加・削除操作において、データファイルを同期的に変更する必要がなくなり、FE内のメタデータを更新するだけで済むため、ミリ秒レベルのSchema Change操作を実現します。この機能により、上流CDCデータのDDL同期機能を実現できます。例えば、ユーザーはFlink CDCを使用して、上流データベースからDorisへのDMLとDDL同期を実現できます。
テーブル作成時に、propertiesで"light_schema_change"="true"を設定します。
-
JDBC facade
ユーザーはJDBCを通じて外部データソースに接続できます。現在サポート対象:
- MySQL
- PostgreSQL
- Oracle
- SQL サーバー
- Clickhouse
ドキュメント:https://doris.apache.org/en/docs/dev/lakehouse/multi-catalog/jdbc
注記:ODBC機能は後のバージョンで削除される予定です。JDBCへの切り替えをお試しください。
-
JAVA UDF
JavaでUDF/UDAFを記述することをサポートし、Javaエコシステムでカスタム関数を使用することを容易にします。同時に、off-heapメモリやZero Copyなどの技術により、言語間データアクセスの効率を大幅に向上させました。
ドキュメント:https://doris.apache.org//docs/dev/ecosystem/udf/java-user-defined-function
例:https://github.com/apache/doris/tree/master/samples/doris-demo
-
Remote UDF
RPCを通じてリモートユーザー定義関数サービスにアクセスすることをサポートし、ユーザーがUDFを記述する際の言語制限を完全に排除します。ユーザーは任意のプログラミング言語を使用してカスタム関数を実装し、複雑なデータ分析作業を完了できます。
ドキュメント:https://doris.apache.org//docs/ecosystem/udf/remote-user-defined-function
例:https://github.com/apache/doris/tree/master/samples/doris-demo
-
より多くのデータタイプサポート
-
Array型
Array型をサポートします。ネストされたarray型もサポートします。ユーザープロファイルやタグなどの一部のシナリオでは、Array型を使用してビジネスシナリオにより適応できます。同時に、新バージョンでは、データ型の実際のシナリオでの応用をより適切にサポートするために、データ関連の多数の機能も実装しました。
ドキュメント:https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Types/ARRAY
関連機能:https://doris.apache.org//docs/dev/sql-manual/sql-functions/array-functions/array_max
-
Jsonb型
バイナリJsonデータ型:Jsonbをサポートします。この型はより コンパクトなjsonエンコーディングフォーマットを提供し、同時にエンコーディングフォーマットでのデータアクセスを提供します。文字列に格納されたjsonデータと比較して、数倍新しく、改善できます。
ドキュメント:https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Types/JSONB
関連機能:https://doris.apache.org//docs/dev/sql-manual/sql-functions/json-functions/jsonb_parse
-
Date V2
影響範囲:
- ユーザーはテーブル作成時にdatev2とdatetimev2を指定する必要があり、元のテーブルのdateとdatetimeは影響を受けません。
- datev2とdatetimev2が元のdateとdatetime(例:等価結合)と計算される場合、元の型は新しい型にキャストされて計算されます。
- 例はドキュメントに記載されています。
ドキュメント:https://doris.apache.org/docs/1.2/sql-manual/sql-reference/Data-Types/DATEV2
-
More
-
新しいメモリ管理フレームワーク
ドキュメント:https://doris.apache.org//docs/dev/admin-manual/maint-monitor/memory-management/memory-tracker
-
table Valued Function
Dorisはtable Valued Function(TVF)のセットを実装します。TVFは通常のテーブルとして扱うことができ、SQLで「テーブル」が使用できるすべての場所に出現できます。
例えば、S3 TVFを使用してオブジェクトストレージ上でのデータインポートを実装できます:
insert into tbl select * from s3("s3://bucket/file.*", "ak" = "xx", "sk" = "xxx") where c1 > 2;
または、HDFS上のデータファイルを直接クエリします:
```
insert into tbl select * from hdfs("hdfs://bucket/file.*") where c1 > 2;
```
TVFは、ユーザーがSQLの豊富な表現力を最大限に活用し、様々なデータを柔軟に処理することを支援できます。
Documentation:
https://doris.apache.org//docs/dev/sql-manual/sql-functions/table-functions/s3
https://doris.apache.org//docs/dev/sql-manual/sql-functions/table-functions/hdfs
3. より便利なパーティション作成方法
`FROM TO`コマンドによる時間範囲内での複数パーティション作成をサポートします。
4. カラムの名前変更
Light Schema Changeが有効なテーブルに対して、カラムの名前変更をサポートします。
Documentation: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Definition-Statements/Alter/ALTER-TABLE-RENAME
5. より豊富な権限管理
- 行レベル権限をサポート
行レベル権限は`CREATE ROW POLICY`コマンドで作成できます。
Documentation: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Definition-Statements/Create/CREATE-POLICY
- パスワード強度、有効期限などの指定をサポート
- 複数回のログイン失敗後のアカウントロックをサポート
Documentation: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Account-Management-Statements/ALTER-USER
6. インポート
- CSVインポートがヘッダー付きcsvファイルをサポート
ドキュメント内で`csv_with_names`を検索してください: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Manipulation-Statements/Load/STREAM-LOAD/
- Stream Loadに`hidden_columns`を追加し、削除フラグカラムとシーケンスカラムを明示的に指定可能
ドキュメント内で`hidden_columns`を検索してください: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Manipulation-Statements/Load/STREAM-LOAD
- Spark LoadがParquetおよびORCファイルインポートをサポート
- 完了したインポートLabelsのクリーニングをサポート
Documentation: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Manipulation-Statements/Load/CLEAN-LABEL
- ステータス別インポートジョブの一括キャンセルをサポート
Documentation: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Manipulation-Statements/Load/CANCEL-LOAD
- broker loadにAlibabaCloud oss、Tencent Cloud cos/chdfs、Huawei Cloud obsのサポートを追加
Documentation: https://doris.apache.org//docs/dev/advanced/broker
- hive-site.xmlファイル設定によるhdfsアクセスをサポート
Documentation: https://doris.apache.org//docs/dev/admin-manual/config/config-dir
7. SHOW CATALOG RECYCLE BIN機能によるcatalogごみ箱の内容表示をサポートします。
Documentation: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Show-Statements/SHOW-CATALOG-RECYCLE-BIN
8. SELECT * EXCEPT構文をサポートします。
Documentation: https://doris.apache.org//docs/dev/data-table/basic-usage
9. OUTFILEがORC形式エクスポートをサポート。マルチバイト区切り文字もサポートします。
Documentation: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Manipulation-Statements/OUTFILE
10. 設定により保存可能なQuery Profiles数の変更をサポートします。
ドキュメント内でFE設定項目を検索してください: max_query_profile_num
11. DELETE文がIN述語条件をサポート。パーティションプルーニングもサポートします。
Documentation: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Manipulation-Statements/Manipulation/DELETE
12. 時間カラムのデフォルト値がCURRENT_TIMESTAMPの使用をサポート
ドキュメント内で"CURRENT_TIMESTAMP"を検索してください: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Definition-Statements/Create/CREATE-TABLE
13. 2つのシステムテーブルを追加: backends、rowsets
Documentation:
https://doris.apache.org//docs/dev/admin-manual/system-table/backends
https://doris.apache.org//docs/dev/admin-manual/system-table/rowsets
14. バックアップとリストア
- Restoreジョブが`reserve_replica`パラメータをサポートし、復元テーブルのレプリカ数をバックアップと同じにします
- Restoreジョブが`reserve_dynamic_partition_enable`パラメータをサポートし、復元テーブルが動的パーティションを有効な状態に保ちます
Documentation: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Definition-Statements/Backup-and-Restore/RESTORE
- 内蔵libhdfsによるバックアップとリストア操作をサポートし、brokerに依存しません
Documentation: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Definition-Statements/Backup-and-Restore/CREATE-REPOSITORY
15. 同一マシン上の複数ディスク間でのデータバランスをサポート
Documentation:
https://doris.apache.org//docs/dev/sql-manual/sql-reference/Database-Administration-Statements/ADMIN-REBALANCE-DISK
https://doris.apache.org//docs/dev/sql-manual/sql-reference/Database-Administration-Statements/ADMIN-CANCEL-REBALANCE-DISK
16. Routine LoadがKerberos認証Kafkaサービスの購読をサポートします。
ドキュメント内でkerberosを検索してください: https://doris.apache.org//docs/dev/data-operate/import/import-way/routine-load-manual
17. 新しい組み込み関数
以下の組み込み関数を追加しました:
- `cbrt`
- `sequence_match/sequence_count`
- `mask/mask_first_n/mask_last_n`
- `elt`
- `any/any_value`
- `group_bitmap_xor`
- `ntile`
- `nvl`
- `uuid`
- `initcap`
- `regexp_replace_one/regexp_extract_all`
- `multi_search_all_positions/multi_match_any`
- `domain/domain_without_www/protocol`
- `running_difference`
- `bitmap_hash64`
- `murmur_hash3_64`
- `to_monday`
- `not_null_or_empty`
- `window_funnel`
- `group_bit_and/group_bit_or/group_bit_xor`
- `outer combine`
- およびすべてのarray関数
アップグレード通知
既知の問題
- JDK11を使用するとBEがクラッシュします。代わりにJDK8を使用してください。
動作変更
-
権限レベルの変更
catalogレベルが導入されるため、対応するユーザー権限レベルも自動的に変更されます。ルールは以下の通りです:
- GlobalPrivsとResourcePrivsは変更されません
- CatalogPrivsレベルが追加されました
- 元のDatabasePrivsレベルにinternalプレフィックスが追加されます(内部catalogのdbを示す)
- 元のTablePrivsレベルにinternalプレフィックスが追加されます(内部catalogのtblを示す)
-
GroupByおよびHaving句で、エイリアスより優先してカラム名でマッチします。(#14408)
-
mv_で始まるカラムの作成はサポートされなくなりました。mv_はマテリアライズドビューの予約キーワードです (#14361) -
order by文で追加されるデフォルト65535行の制限を削除し、この制限を設定するセッション変数
default_order_by_limitを追加しました。(#12478) -
"Create table As Select"で生成されるテーブルでは、すべての文字列カラムがstring型を統一して使用し、varchar/char/stringを区別しなくなりました (#14382)
-
監査ログで、dbとユーザー名の前の
default_clusterという語を削除しました。(#13499) (#11408) -
監査ログにsql digestフィールドを追加しました (#8919)
-
union句は常にorder byロジックを変更します。新バージョンでは、括弧で明示的に関連付けない限り、order by句はunionの実行後に実行されます。(#9745)
-
decommission操作中、ごみ箱内のtabletは無視され、decommissionの完了が保証されます。(#14028)
-
Decimalの返される結果は、元のカラムで宣言された精度、またはcast関数で指定された精度に従って表示されます。(#13437)
-
カラム名長制限を64から256に変更しました (#14671)
-
FE設定項目の変更
-
enable_vectorized_loadパラメータがデフォルトで有効になりました。(#11833) -
create_table_timeout値を増加しました。テーブル作成操作のデフォルトタイムアウトが増加します。(#13520) -
stream_load_default_timeout_secondのデフォルト値を3日に変更しました。 -
alter_table_timeout_secondのデフォルト値を1ヶ月に変更しました。 -
パラメータ
max_replica_count_when_schema_changeを増加し、alterジョブに関与するレプリカ数を制限します。デフォルトは100000です。(#12850) -
disable_iceberg_hudi_tableを追加しました。icebergとhudiの外観はデフォルトで無効になり、multi catalog機能が推奨されます。(#13932)
-
-
BE設定項目の変更
-
disable_stream_load_2pcパラメータを削除しました。2PCのstream loadを直接使用できます。(#13520) -
tablet_rowset_stale_sweep_time_secを1800秒から300秒に変更しました。 -
compactionに関する設定項目名を再設計しました (#13495)
-
メモリ最適化に関するパラメータを見直しました (#13781)
-
-
セッション変数の変更
-
変数
enable_insert_strictをデフォルトでtrueに変更しました。これにより、以前は実行できたが不正な値を挿入していた一部のinsert操作が実行されなくなります。(11866) -
変数
enable_local_exchangeをデフォルトでtrueに変更しました (#13292) -
変数
fragment_transmission_compression_codecで制御されるlz4圧縮によるデフォルトデータ送信 (#11955) -
uniqueまたはaggモデルデータのデバッグ用に
skip_storage_engine_merge変数を追加しました (#11952)Documentation: https://doris.apache.org//docs/dev/advanced/variables
-
-
BE起動スクリプトは
/proc/sys/vm/max_map_countを通じて値が200万より大きいかチェックします。そうでなければ起動に失敗します。(#11052) -
mini loadインターフェースを削除しました (#10520)
-
FE Metadataバージョン
FE Meta Versionが107から114に変更され、アップグレード後のロールバックはできません。
アップグレード中
-
アップグレード準備
-
交換が必要: lib、binディレクトリ(start/stopスクリプトが変更されました)
-
BEもJAVA_HOMEの設定が必要で、すでにJDBC tableとJava UDFをサポートしています。
-
fe.confのデフォルトJVM Xmxパラメータが8GBに変更されました。
-
-
アップグレード過程での可能なエラー
-
repeat関数が使用できずエラーが発生:
vectorized repeat function cannot be executed、アップグレード前にベクトル化実行エンジンをオフにできます。(#13868) -
schema changeが失敗してエラーが発生:
desc_tbl is not set. Maybe the FE version is not equal to the BE(#13822) -
ベクトル化hash joinが使用できずエラーが発生:
vectorized hash join cannot be executed。アップグレード前にベクトル化実行エンジンをオフにできます。(#13753)
上記のエラーは完全なアップグレード後に正常に戻ります。
-
パフォーマンスへの影響
-
デフォルトで、JeMallocが新バージョンBEのメモリアロケータとして使用され、TcMallocを置き換えます (#13367)
-
tablet sinkのバッチサイズが最低8Kに変更されました。(#13912)
-
デフォルトでchunk allocatorを無効にしました (#13285)
API変更
-
BEのhttp apiエラー返信情報が
{"status": "Fail", "msg": "xxx"}からより具体的な{"status": "Not found", "msg": "Tablet not found. tablet_id=1202"}に変更されました(#9771) -
SHOW CREATE TABLEで、commentの内容が二重引用符から単一引用符に変更されました (#10327) -
一般ユーザーがhttpコマンドでquery profileを取得することをサポートしました。(#14016) Documentation: https://doris.apache.org//docs/dev/admin-manual/http-actions/fe/manager/query-profile-action
-
シーケンスカラムを指定する方法を最適化し、カラム名を直接指定できるようになりました。(#13872) Documentation: https://doris.apache.org//docs/dev/data-operate/update-delete/sequence-column-manual
-
show backendsとshow tabletsが返す結果にリモートストレージの容量使用量を増加しました (#11450) -
Num-Based Compaction関連のコードを削除しました (#13409)
-
BEのエラーコード機構をリファクタリングし、一部の返されるエラーメッセージが変更されます (#8855) その他
-
Docker公式イメージをサポートしました。
-
MacOS(x86/M1)とubuntu-22.04でのDorisコンパイルをサポート Documentation: https://doris.apache.org//docs/dev/install/source-install/compilation-mac/
-
イメージファイル検証をサポートしました。
Documentation: https://doris.apache.org//docs/dev/admin-manual/maint-monitor/metadata-operation/
-
スクリプト関連
-
FEとBEの停止スクリプトが
--graceパラメータによるFEとBEの終了をサポート(kill -9の代わりにkill -15シグナルを使用) -
FE起動スクリプトが--versionによる現在のFEバージョン確認をサポート (#11563)
-
-
ADMIN COPY TABLETコマンドによるtabletのデータと関連テーブル作成文の取得をサポートし、ローカル問題デバッグ用 (#12176)Documentation: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Database-Administration-Statements/ADMIN-COPY-TABLET
-
http apiによるSQL文に関連するテーブル作成文の取得をサポートし、ローカル問題再現用 (#11979)
Documentation: https://doris.apache.org//docs/dev/admin-manual/http-actions/fe/query-schema-action
-
テーブル作成時にこのテーブルのcompaction機能を無効にすることをサポート、テスト用 (#11743)
ドキュメント内で"disble_auto_compaction"を検索してください: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Definition-Statements/Create/CREATE-TABLE
感謝
このリリースに貢献したすべての方々に感謝します!(アルファベット順)
@924060929
@a19920714liou
@adonis0147
@Aiden-Dong
@aiwenmo
@AshinGau
@b19mud
@BePPPower
@BiteTheDDDDt
@bridgeDream
@ByteYue
@caiconghui
@CalvinKirs
@cambyzju
@caoliang-web
@carlvinhust2012
@catpineapple
@ccoffline
@chenlinzhong
@chovy-3012
@coderjiang
@cxzl25
@dataalive
@dataroaring
@dependabot[bot]
@dinggege1024
@DongLiang-0
@Doris-Extras
@eldenmoon
@EmmyMiao87
@englefly
@FreeOnePlus
@Gabriel39
@gaodayue
@geniusjoe
@gj-zhang
@gnehil
@GoGoWen
@HappenLee
@hello-stephen
@Henry2SS
@hf200012
@huyuanfeng2018
@jacktengg
@jackwener
@jeffreys-cat
@Jibing-Li
@JNSimba
@Kikyou1997
@Lchangliang
@LemonLiTree
@lexoning
@liaoxin01
@lide-reed
@link3280
@liutang123
@liuyaolin
@LOVEGISER
@lsy3993
@luozenglin
@luzhijing
@madongz
@morningman
@morningman-cmy
@morrySnow
@mrhhsg
@Myasuka
@myfjdthink
@nextdreamblue
@pan3793
@pangzhili
@pengxiangyu
@platoneko
@qidaye
@qzsee
@SaintBacchus
@SeekingYang
@smallhibiscus
@sohardforaname
@song7788q
@spaces-X
@ssusieee
@stalary
@starocean999
@SWJTU-ZhangLei
@TaoZex
@timelxy
@Wahno
@wangbo
@wangshuo128
@wangyf0555
@weizhengte
@weizuo93
@wsjz
@wunan1210
@xhmz
@xiaokang
@xiaokangguo
@xinyiZzz
@xy720
@yangzhg
@Yankee24
@yeyudefeng
@yiguolei
@yinzhijian
@yixiutt
@yuanyuan8983
@zbtzbtzbt
@zenoyang
@zhangboya1
@zhangstar333
@zhannngchen
@ZHbamboo
@zhengshiJ
@zhenhb
@zhqu1148980644
@zuochunwei
@zy-kkk