に最終更新
CORR_WELFORD
説明
二つの確率変数間のピアソン相関係数を、Welford アルゴリズムを使用して計算し、計算誤差を効果的に低減します。
構文
CORR_WELFORD(<expr1>, <expr2>)
パラメータ
| パラメータ | 説明 |
|---|---|
<expr1> | DOUBLE 型の式(列) |
<expr2> | DOUBLE 型の式(列) |
戻り値
DOUBLE 型の値を返します。値は expr1 と expr2 の共分散を、それぞれの標準偏差の積で割ったものです。特殊な場合の動作は次のとおりです。
- expr1 または expr2 の標準偏差が 0 の場合、0 を返します。
- expr1 または expr2 に NULL 値が含まれる場合、その行は最終結果から除外されます。
例
-- setup
create table test_corr(
id int,
k1 double,
k2 double
) distributed by hash (id) buckets 1
properties ("replication_num"="1");
insert into test_corr values
(1, 20, 22),
(1, 10, 20),
(2, 36, 21),
(2, 30, 22),
(2, 25, 20),
(3, 25, NULL),
(4, 25, 21),
(4, 25, 22),
(4, 25, 20);
select * from test_corr;
+------+------+------+
| id | k1 | k2 |
+------+------+------+
| 1 | 20 | 22 |
| 1 | 10 | 20 |
| 2 | 36 | 21 |
| 2 | 30 | 22 |
| 2 | 25 | 20 |
| 3 | 25 | NULL |
| 4 | 25 | 21 |
| 4 | 25 | 22 |
| 4 | 25 | 20 |
+------+------+------+
select id,corr_welford(k1,k2) from test_corr group by id;
+------+---------------------+
| id | corr_welford(k1,k2) |
+------+---------------------+
| 2 | 0.4539206495016017 |
| 4 | 0 |
| 3 | NULL |
| 1 | 1 |
+------+---------------------+