このリリースでは、Doris Teamは1.1.2以降80件以上の問題修正またはパフォーマンス改善を行いました。このリリースは1.1のバグ修正リリースであり、すべてのユーザーにこのリリースへのアップグレードを推奨します。
Features
-
ODBCテーブルでsqlserverとpostgresqlのエスケープ識別子をサポート。
-
出力ファイル形式としてParquetを使用可能。
Improvements
-
準備時間を短縮するためにruntime filterをリファクタリング。#13127
-
クエリまたはロード処理中のメモリ制御関連の多数の問題。#12682 #12688 #12708 #12776 #12782 #12791 #12794 #12820 #12932 #12954 #12951
BugFix
-
largeintでのcompactionでコアダンプ。#10094
-
Grouping setsがbeのコア障害または誤った結果を引き起こす。#12313
-
orthogonal_bitmap_union_count演算子のPREAGGREGATIONフラグが間違っている。#12581
-
Level1Iteratorはheap内のイテレータを解放すべきで、メモリリークを引き起こす可能性がある。#12592
-
2つのBEと既存のcolocationテーブルでのdecommission失敗を修正。#12644
-
TBrokerOpenReaderResponseが大きすぎる場合のstack-buffer-overflowによるBEのコアダンプの可能性。#12658
-
エラーコード-238が発生した際のロード中のBE OOM。#12666
-
lead関数の間違った子式を修正。#12587
-
row storageコードでのintersectクエリ失敗を修正。#12712
-
curdate()/current_date()関数による間違った結果を修正。#12720
-
tempテーブルでのlateral view explode_splitのバグを修正。#13643
-
同じテーブル2つでのバケット shuffle joinプランが間違っている。#12930
-
alterとloadの実行時にタブレットバージョンが間違う可能性があるバグを修正。#13070
-
md5sum()/sm3sum()でbrokerを使用してデータをロードする際のBEコア障害。#13009
Upgrade 注
PageCacheとChunkAllocatorはメモリ使用量を削減するためデフォルトで無効になっており、設定項目disable_storage_page_cacheとchunk_reserved_bytes_limitを変更することで再度有効にできます。
Storage Page CacheとChunk Allocatorは、それぞれユーザーデータチャンクのキャッシュとメモリの事前割り当てを行います。
これら2つの機能は一定の割合のメモリを占有し、解放されません。このメモリ部分は柔軟に割り当てることができず、一部のシナリオで他のタスクのメモリ不足を引き起こし、システムの安定性と可用性に影響を与える可能性があります。そのため、バージョン1.1.3ではこれら2つの機能をデフォルトで無効にしました。
しかし、一部のレイテンシを重視するレポートシナリオでは、この機能を無効にするとクエリレイテンシの増加につながる可能性があります。アップグレード後にこの機能がビジネスに与える影響を懸念する場合は、be.confに以下のパラメータを追加して以前のバージョンと同じ動作を維持できます。
disable_storage_page_cache=false
chunk_reserved_bytes_limit=10%
disable_storage_page_cache: Storage Page Cacheを無効にするかどうか。バージョン1.1.2(含む)では、デフォルトはfalseで、つまりオンです。バージョン1.1.3ではデフォルトはtrueで、つまりオフです。chunk_reserved_bytes_limit: Chunkアロケータの予約メモリサイズ。1.1.2(およびそれ以前)では、デフォルトは全体メモリの10%です。1.1.3バージョンのデフォルトは209715200(200MB)です。