Последнее обновление
CORR_WELFORD
Описание
Вычисляет коэффициент корреляции Пирсона между двумя случайными величинами с помощью алгоритма Welford, который эффективно уменьшает погрешности вычислений.
Синтаксис
CORR_WELFORD(<expr1>, <expr2>)
Параметры
| Параметры | Описание |
|---|---|
<expr1> | Выражение (столбец) типа Double |
<expr2> | Выражение (столбец) типа Double |
Возвращаемое значение
Возвращает значение типа DOUBLE, равное ковариации expr1 и expr2, делённой на произведение их стандартных отклонений. Особые случаи:
- Если стандартное отклонение expr1 или expr2 равно 0, возвращает 0.
- Если expr1 или expr2 содержит значения NULL, соответствующие строки исключаются из итогового результата.
Пример
-- setup
create table test_corr(
id int,
k1 double,
k2 double
) distributed by hash (id) buckets 1
properties ("replication_num"="1");
insert into test_corr values
(1, 20, 22),
(1, 10, 20),
(2, 36, 21),
(2, 30, 22),
(2, 25, 20),
(3, 25, NULL),
(4, 25, 21),
(4, 25, 22),
(4, 25, 20);
select * from test_corr;
+------+------+------+
| id | k1 | k2 |
+------+------+------+
| 1 | 20 | 22 |
| 1 | 10 | 20 |
| 2 | 36 | 21 |
| 2 | 30 | 22 |
| 2 | 25 | 20 |
| 3 | 25 | NULL |
| 4 | 25 | 21 |
| 4 | 25 | 22 |
| 4 | 25 | 20 |
+------+------+------+
select id,corr_welford(k1,k2) from test_corr group by id;
+------+---------------------+
| id | corr_welford(k1,k2) |
+------+---------------------+
| 2 | 0.4539206495016017 |
| 4 | 0 |
| 3 | NULL |
| 1 | 1 |
+------+---------------------+