メインコンテンツまでスキップ

Feature

Highlight

  1. 完全なVectorized-Engineサポート、大幅な性能向上

    標準的なssb-100-flatベンチマークにおいて、1.2の性能は1.1の2倍高速です。複雑なTPCH 100ベンチマークにおいて、1.2の性能は1.1の3倍高速です。

  2. Merge-on-Write Unique Key

    Unique Key ModelでのMerge-On-Writeをサポートします。このモードは、データの書き込み時に削除または更新が必要なデータをマークすることで、クエリ時のMerge-On-Readのオーバーヘッドを回避し、更新可能なデータモデルでの読み取り効率を大幅に向上させます。

  3. Multi カタログ

    multi-catalog機能により、Dorisに外部データソースへの迅速なアクセス機能を提供します。ユーザーはCREATE CATALOGコマンドを通じて外部データソースに接続できます。Dorisは外部データソースのライブラリとテーブル情報を自動的にマッピングします。その後、ユーザーは通常のテーブルにアクセスするように、これらの外部データソースのデータにアクセスできます。ユーザーが各テーブルに対して手動で外部マッピングを確立する必要がある複雑な操作を避けることができます。

    現在、この機能は以下のデータソースをサポートしています:

    1. Hive Metastore:Hive、Iceberg、Hudiを含むデータテーブルにアクセスできます。Alibaba CloudのDataLake Formationなど、Hive Metastoreと互換性のあるデータソースに接続することも可能です。HDFSとオブジェクトストレージの両方でデータアクセスをサポートします。
    2. Elasticsearch:ESデータソースにアクセスします。
    3. JDBC:JDBCプロトコルを通じてMySQLにアクセスします。

    ドキュメント:https://doris.apache.org//docs/dev/lakehouse/multi-catalog)

    注記:対応する権限レベルも自動的に変更されます。詳細は「アップグレード注意事項」セクションを参照してください。

  4. 軽量テーブル構造変更

新バージョンでは、データテーブルに対するカラムの追加・削除操作において、データファイルを同期的に変更する必要がなくなり、FE内のメタデータを更新するだけで済むため、ミリ秒レベルのSchema Change操作を実現します。この機能により、上流CDCデータのDDL同期機能を実現できます。例えば、ユーザーはFlink CDCを使用して、上流データベースからDorisへのDMLとDDL同期を実現できます。

ドキュメント:https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Definition-Statements/Create/CREATE-TABLE

テーブル作成時に、propertiesで"light_schema_change"="true"を設定します。

  1. JDBC facade

    ユーザーはJDBCを通じて外部データソースに接続できます。現在サポート対象:

    • MySQL
    • PostgreSQL
    • Oracle
    • SQL サーバー
    • Clickhouse

    ドキュメント:https://doris.apache.org/en/docs/dev/lakehouse/multi-catalog/jdbc

    注記:ODBC機能は後のバージョンで削除される予定です。JDBCへの切り替えをお試しください。

  2. JAVA UDF

    JavaでUDF/UDAFを記述することをサポートし、Javaエコシステムでカスタム関数を使用することを容易にします。同時に、off-heapメモリやZero Copyなどの技術により、言語間データアクセスの効率を大幅に向上させました。

    ドキュメント:https://doris.apache.org//docs/dev/ecosystem/udf/java-user-defined-function

    例:https://github.com/apache/doris/tree/master/samples/doris-demo

  3. Remote UDF

    RPCを通じてリモートユーザー定義関数サービスにアクセスすることをサポートし、ユーザーがUDFを記述する際の言語制限を完全に排除します。ユーザーは任意のプログラミング言語を使用してカスタム関数を実装し、複雑なデータ分析作業を完了できます。

    ドキュメント:https://doris.apache.org//docs/ecosystem/udf/remote-user-defined-function

    例:https://github.com/apache/doris/tree/master/samples/doris-demo

  4. より多くのデータタイプサポート

    • Array型

      Array型をサポートします。ネストされたarray型もサポートします。ユーザープロファイルやタグなどの一部のシナリオでは、Array型を使用してビジネスシナリオにより適応できます。同時に、新バージョンでは、データ型の実際のシナリオでの応用をより適切にサポートするために、データ関連の多数の機能も実装しました。

    ドキュメント:https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Types/ARRAY

    関連機能:https://doris.apache.org//docs/dev/sql-manual/sql-functions/array-functions/array_max

    • Jsonb型

      バイナリJsonデータ型:Jsonbをサポートします。この型はより コンパクトなjsonエンコーディングフォーマットを提供し、同時にエンコーディングフォーマットでのデータアクセスを提供します。文字列に格納されたjsonデータと比較して、数倍新しく、改善できます。

    ドキュメント:https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Types/JSONB

    関連機能:https://doris.apache.org//docs/dev/sql-manual/sql-functions/json-functions/jsonb_parse

    • Date V2

      影響範囲:

      1. ユーザーはテーブル作成時にdatev2とdatetimev2を指定する必要があり、元のテーブルのdateとdatetimeは影響を受けません。
      2. datev2とdatetimev2が元のdateとdatetime(例:等価結合)と計算される場合、元の型は新しい型にキャストされて計算されます。
      3. 例はドキュメントに記載されています。

      ドキュメント:https://doris.apache.org/docs/1.2/sql-manual/sql-reference/Data-Types/DATEV2

More

  1. 新しいメモリ管理フレームワーク

    ドキュメント:https://doris.apache.org//docs/dev/admin-manual/maint-monitor/memory-management/memory-tracker

  2. table Valued Function

    Dorisはtable Valued Function(TVF)のセットを実装します。TVFは通常のテーブルとして扱うことができ、SQLで「テーブル」が使用できるすべての場所に出現できます。

    例えば、S3 TVFを使用してオブジェクトストレージ上でのデータインポートを実装できます:

    insert into tbl select * from s3("s3://bucket/file.*", "ak" = "xx", "sk" = "xxx") where c1 > 2;

または、HDFS上のデータファイルを直接クエリします:

```
insert into tbl select * from hdfs("hdfs://bucket/file.*") where c1 > 2;
```

TVFは、ユーザーがSQLの豊富な表現力を最大限に活用し、様々なデータを柔軟に処理することを支援できます。

Documentation:

https://doris.apache.org//docs/dev/sql-manual/sql-functions/table-functions/s3

https://doris.apache.org//docs/dev/sql-manual/sql-functions/table-functions/hdfs

3. より便利なパーティション作成方法

`FROM TO`コマンドによる時間範囲内での複数パーティション作成をサポートします。

4. カラムの名前変更

Light Schema Changeが有効なテーブルに対して、カラムの名前変更をサポートします。

Documentation: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Definition-Statements/Alter/ALTER-TABLE-RENAME

5. より豊富な権限管理

- 行レベル権限をサポート

行レベル権限は`CREATE ROW POLICY`コマンドで作成できます。

Documentation: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Definition-Statements/Create/CREATE-POLICY

- パスワード強度、有効期限などの指定をサポート

- 複数回のログイン失敗後のアカウントロックをサポート

Documentation: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Account-Management-Statements/ALTER-USER

6. インポート

- CSVインポートがヘッダー付きcsvファイルをサポート

ドキュメント内で`csv_with_names`を検索してください: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Manipulation-Statements/Load/STREAM-LOAD/

- Stream Loadに`hidden_columns`を追加し、削除フラグカラムとシーケンスカラムを明示的に指定可能

ドキュメント内で`hidden_columns`を検索してください: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Manipulation-Statements/Load/STREAM-LOAD

- Spark LoadがParquetおよびORCファイルインポートをサポート

- 完了したインポートLabelsのクリーニングをサポート

Documentation: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Manipulation-Statements/Load/CLEAN-LABEL

- ステータス別インポートジョブの一括キャンセルをサポート

Documentation: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Manipulation-Statements/Load/CANCEL-LOAD

- broker loadにAlibabaCloud oss、Tencent Cloud cos/chdfs、Huawei Cloud obsのサポートを追加

Documentation: https://doris.apache.org//docs/dev/advanced/broker

- hive-site.xmlファイル設定によるhdfsアクセスをサポート

Documentation: https://doris.apache.org//docs/dev/admin-manual/config/config-dir

7. SHOW CATALOG RECYCLE BIN機能によるcatalogごみ箱の内容表示をサポートします。

Documentation: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Show-Statements/SHOW-CATALOG-RECYCLE-BIN

8. SELECT * EXCEPT構文をサポートします。

Documentation: https://doris.apache.org//docs/dev/data-table/basic-usage

9. OUTFILEがORC形式エクスポートをサポート。マルチバイト区切り文字もサポートします。

Documentation: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Manipulation-Statements/OUTFILE

10. 設定により保存可能なQuery Profiles数の変更をサポートします。

ドキュメント内でFE設定項目を検索してください: max_query_profile_num

11. DELETE文がIN述語条件をサポート。パーティションプルーニングもサポートします。

Documentation: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Manipulation-Statements/Manipulation/DELETE

12. 時間カラムのデフォルト値がCURRENT_TIMESTAMPの使用をサポート

ドキュメント内で"CURRENT_TIMESTAMP"を検索してください: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Definition-Statements/Create/CREATE-TABLE

13. 2つのシステムテーブルを追加: backends、rowsets

Documentation:

https://doris.apache.org//docs/dev/admin-manual/system-table/backends

https://doris.apache.org//docs/dev/admin-manual/system-table/rowsets

14. バックアップとリストア

- Restoreジョブが`reserve_replica`パラメータをサポートし、復元テーブルのレプリカ数をバックアップと同じにします

- Restoreジョブが`reserve_dynamic_partition_enable`パラメータをサポートし、復元テーブルが動的パーティションを有効な状態に保ちます

Documentation: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Definition-Statements/Backup-and-Restore/RESTORE

- 内蔵libhdfsによるバックアップとリストア操作をサポートし、brokerに依存しません

Documentation: https://doris.apache.org//docs/dev/sql-manual/sql-reference/Data-Definition-Statements/Backup-and-Restore/CREATE-REPOSITORY

15. 同一マシン上の複数ディスク間でのデータバランスをサポート

Documentation:

https://doris.apache.org//docs/dev/sql-manual/sql-reference/Database-Administration-Statements/ADMIN-REBALANCE-DISK

https://doris.apache.org//docs/dev/sql-manual/sql-reference/Database-Administration-Statements/ADMIN-CANCEL-REBALANCE-DISK

16. Routine LoadがKerberos認証Kafkaサービスの購読をサポートします。

ドキュメント内でkerberosを検索してください: https://doris.apache.org//docs/dev/data-operate/import/import-way/routine-load-manual

17. 新しい組み込み関数

以下の組み込み関数を追加しました:

- `cbrt`
- `sequence_match/sequence_count`
- `mask/mask_first_n/mask_last_n`
- `elt`
- `any/any_value`
- `group_bitmap_xor`
- `ntile`
- `nvl`
- `uuid`
- `initcap`
- `regexp_replace_one/regexp_extract_all`
- `multi_search_all_positions/multi_match_any`
- `domain/domain_without_www/protocol`
- `running_difference`
- `bitmap_hash64`
- `murmur_hash3_64`
- `to_monday`
- `not_null_or_empty`
- `window_funnel`
- `group_bit_and/group_bit_or/group_bit_xor`
- `outer combine`
- およびすべてのarray関数

アップグレード通知

既知の問題

  • JDK11を使用するとBEがクラッシュします。代わりにJDK8を使用してください。

動作変更

  • 権限レベルの変更

    catalogレベルが導入されるため、対応するユーザー権限レベルも自動的に変更されます。ルールは以下の通りです:

    • GlobalPrivsとResourcePrivsは変更されません
    • CatalogPrivsレベルが追加されました
    • 元のDatabasePrivsレベルにinternalプレフィックスが追加されます(内部catalogのdbを示す)
    • 元のTablePrivsレベルにinternalプレフィックスが追加されます(内部catalogのtblを示す)
  • GroupByおよびHaving句で、エイリアスより優先してカラム名でマッチします。(#14408)

  • mv_で始まるカラムの作成はサポートされなくなりました。mv_はマテリアライズドビューの予約キーワードです (#14361)

  • order by文で追加されるデフォルト65535行の制限を削除し、この制限を設定するセッション変数default_order_by_limitを追加しました。(#12478)

  • "Create table As Select"で生成されるテーブルでは、すべての文字列カラムがstring型を統一して使用し、varchar/char/stringを区別しなくなりました (#14382)

  • 監査ログで、dbとユーザー名の前のdefault_clusterという語を削除しました。(#13499) (#11408)

  • 監査ログにsql digestフィールドを追加しました (#8919)

  • union句は常にorder byロジックを変更します。新バージョンでは、括弧で明示的に関連付けない限り、order by句はunionの実行後に実行されます。(#9745)

  • decommission操作中、ごみ箱内のtabletは無視され、decommissionの完了が保証されます。(#14028)

  • Decimalの返される結果は、元のカラムで宣言された精度、またはcast関数で指定された精度に従って表示されます。(#13437)

  • カラム名長制限を64から256に変更しました (#14671)

  • FE設定項目の変更

    • enable_vectorized_loadパラメータがデフォルトで有効になりました。(#11833)

    • create_table_timeout値を増加しました。テーブル作成操作のデフォルトタイムアウトが増加します。(#13520)

    • stream_load_default_timeout_secondのデフォルト値を3日に変更しました。

    • alter_table_timeout_secondのデフォルト値を1ヶ月に変更しました。

    • パラメータmax_replica_count_when_schema_changeを増加し、alterジョブに関与するレプリカ数を制限します。デフォルトは100000です。(#12850)

    • disable_iceberg_hudi_tableを追加しました。icebergとhudiの外観はデフォルトで無効になり、multi catalog機能が推奨されます。(#13932)

  • BE設定項目の変更

    • disable_stream_load_2pcパラメータを削除しました。2PCのstream loadを直接使用できます。(#13520)

    • tablet_rowset_stale_sweep_time_secを1800秒から300秒に変更しました。

    • compactionに関する設定項目名を再設計しました (#13495)

    • メモリ最適化に関するパラメータを見直しました (#13781)

  • セッション変数の変更

    • 変数enable_insert_strictをデフォルトでtrueに変更しました。これにより、以前は実行できたが不正な値を挿入していた一部のinsert操作が実行されなくなります。(11866)

    • 変数enable_local_exchangeをデフォルトでtrueに変更しました (#13292)

    • 変数fragment_transmission_compression_codecで制御されるlz4圧縮によるデフォルトデータ送信 (#11955)

    • uniqueまたはaggモデルデータのデバッグ用にskip_storage_engine_merge変数を追加しました (#11952)

      Documentation: https://doris.apache.org//docs/dev/advanced/variables

  • BE起動スクリプトは/proc/sys/vm/max_map_countを通じて値が200万より大きいかチェックします。そうでなければ起動に失敗します。(#11052)

  • mini loadインターフェースを削除しました (#10520)

  • FE Metadataバージョン

    FE Meta Versionが107から114に変更され、アップグレード後のロールバックはできません。

アップグレード中

  1. アップグレード準備

    • 交換が必要: lib、binディレクトリ(start/stopスクリプトが変更されました)

    • BEもJAVA_HOMEの設定が必要で、すでにJDBC tableとJava UDFをサポートしています。

    • fe.confのデフォルトJVM Xmxパラメータが8GBに変更されました。

  2. アップグレード過程での可能なエラー

    • repeat関数が使用できずエラーが発生: vectorized repeat function cannot be executed、アップグレード前にベクトル化実行エンジンをオフにできます。(#13868)

    • schema changeが失敗してエラーが発生: desc_tbl is not set. Maybe the FE version is not equal to the BE (#13822)

    • ベクトル化hash joinが使用できずエラーが発生: vectorized hash join cannot be executed。アップグレード前にベクトル化実行エンジンをオフにできます。(#13753)

    上記のエラーは完全なアップグレード後に正常に戻ります。

パフォーマンスへの影響

  • デフォルトで、JeMallocが新バージョンBEのメモリアロケータとして使用され、TcMallocを置き換えます (#13367)

  • tablet sinkのバッチサイズが最低8Kに変更されました。(#13912)

  • デフォルトでchunk allocatorを無効にしました (#13285)

API変更

感謝

このリリースに貢献したすべての方々に感謝します!(アルファベット順)

@924060929
@a19920714liou
@adonis0147
@Aiden-Dong
@aiwenmo
@AshinGau
@b19mud
@BePPPower
@BiteTheDDDDt
@bridgeDream
@ByteYue
@caiconghui
@CalvinKirs
@cambyzju
@caoliang-web
@carlvinhust2012
@catpineapple
@ccoffline
@chenlinzhong
@chovy-3012
@coderjiang
@cxzl25
@dataalive
@dataroaring
@dependabot[bot]
@dinggege1024
@DongLiang-0
@Doris-Extras
@eldenmoon
@EmmyMiao87
@englefly
@FreeOnePlus
@Gabriel39
@gaodayue
@geniusjoe
@gj-zhang
@gnehil
@GoGoWen
@HappenLee
@hello-stephen
@Henry2SS
@hf200012
@huyuanfeng2018
@jacktengg
@jackwener
@jeffreys-cat
@Jibing-Li
@JNSimba
@Kikyou1997
@Lchangliang
@LemonLiTree
@lexoning
@liaoxin01
@lide-reed
@link3280
@liutang123
@liuyaolin
@LOVEGISER
@lsy3993
@luozenglin
@luzhijing
@madongz
@morningman
@morningman-cmy
@morrySnow
@mrhhsg
@Myasuka
@myfjdthink
@nextdreamblue
@pan3793
@pangzhili
@pengxiangyu
@platoneko
@qidaye
@qzsee
@SaintBacchus
@SeekingYang
@smallhibiscus
@sohardforaname
@song7788q
@spaces-X
@ssusieee
@stalary
@starocean999
@SWJTU-ZhangLei
@TaoZex
@timelxy
@Wahno
@wangbo
@wangshuo128
@wangyf0555
@weizhengte
@weizuo93
@wsjz
@wunan1210
@xhmz
@xiaokang
@xiaokangguo
@xinyiZzz
@xy720
@yangzhg
@Yankee24
@yeyudefeng
@yiguolei
@yinzhijian
@yixiutt
@yuanyuan8983
@zbtzbtzbt
@zenoyang
@zhangboya1
@zhangstar333
@zhannngchen
@ZHbamboo
@zhengshiJ
@zhenhb
@zhqu1148980644
@zuochunwei
@zy-kkk