ARRAY_FILTER
array_filter
Описание
Фильтрует элементы массива по условиям и возвращает новый массив из элементов, удовлетворяющих этим условиям. Функция поддерживает два способа вызова: в форме функции высшего порядка с лямбда-выражениями и в форме фильтрации с непосредственным использованием логических массивов.
Синтаксис
array_filter(lambda, array1, ...)
array_filter(array1, array<boolean> filter_array)
Параметры
lambda: лямбда-выражение для проверки элементов массива, возвращающее true/false или результат выражения, который можно преобразовать в логическое значениеarray1, ...: один или несколько параметров типа ARRAY<T>filter_array: логический массив типа ARRAY<BOOLEAN>, используемый для фильтрации
Поддерживаемые типы T:
- Числовые типы: TINYINT, SMALLINT, INT, BIGINT, LARGEINT, FLOAT, DOUBLE, DECIMAL
- Строковые типы: CHAR, VARCHAR, STRING
- Типы даты и времени: DATE, DATETIME, DATEV2, DATETIMEV2, TIMESTAMP_NS
- Логический тип: BOOLEAN
- Типы IP-адресов: IPV4, IPV6
- UUID: UUID
- Сложные типы данных: ARRAY, MAP, STRUCT
Возвращаемое значение
Тип возвращаемого значения: ARRAY<T>
Значение результата:
- Новый массив из всех элементов, удовлетворяющих условиям фильтрации
- NULL: если входной массив равен NULL
- Пустой массив: если ни один элемент не удовлетворяет условиям
Примечания по использованию:
- Форма с лямбда-выражением: число параметров лямбда-выражения должно совпадать с числом параметров-массивов
- Форма с логическим массивом: длины
array1иfilter_arrayв идеале должны полностью совпадать. Если логический массив длиннее, лишние логические значения игнорируются; если он короче, обрабатываются только элементы на соответствующих позициях логического массива - Поддерживается фильтрация нескольких массивов и массивов сложных типов
- Для пустого массива возвращается пустой массив, для массива NULL возвращается NULL
- В лямбда-выражениях можно использовать любые скалярные выражения, но нельзя использовать агрегатные функции
- Лямбда-выражения могут вызывать другие функции высшего порядка, но должны возвращать значения совместимых типов
- Значения null в элементах массива: элементы null передаются в лямбда-выражение для обработки; лямбда-выражение может проверять значения null
Примеры
CREATE TABLE array_filter_test (
id INT,
int_array ARRAY<INT>,
double_array ARRAY<DOUBLE>,
string_array ARRAY<STRING>
)
DUPLICATE KEY(id)
DISTRIBUTED BY HASH(id) BUCKETS 3
PROPERTIES (
"replication_num" = "1"
);
INSERT INTO array_filter_test VALUES
(1, [1, 2, 3, 4, 5], [1.1, 2.2, 3.3, 4.4, 5.5], ['a', 'bb', 'ccc', 'dddd', 'eeeee']),
(2, [10, 20, 30], [10.5, 20.5, 30.5], ['x', 'yy', 'zzz']),
(3, [], [], []),
(4, NULL, NULL, NULL);
Примеры запросов:
Использование лямбда-выражения для отбора элементов double_array, которые больше или равны 3:
SELECT array_filter(x -> x >= 3, double_array) FROM array_filter_test WHERE id = 1;
+------------------------------------------+
| array_filter(x -> x >= 3, double_array) |
+------------------------------------------+
| [3.3, 4.4, 5.5] |
+------------------------------------------+
Использование лямбда-выражения для отбора элементов string_array, длина которых больше 2:
SELECT array_filter(x -> length(x) > 2, string_array) FROM array_filter_test WHERE id = 1;
+--------------------------------------------------+
| array_filter(x -> length(x) > 2, string_array) |
+--------------------------------------------------+
| ["ccc", "dddd", "eeeee"] |
+--------------------------------------------------+
Использование логического массива для фильтрации элементов:
SELECT array_filter(int_array, [false, true, false, true, true]) FROM array_filter_test WHERE id = 1;
+-----------------------------------------------------------+
| array_filter(int_array, [false, true, false, true, true]) |
+-----------------------------------------------------------+
| [2, 4, 5] |
+-----------------------------------------------------------+
Пример фильтрации с помощью логического массива: логические значения определяют, следует ли сохранять элементы на соответствующих позициях:
SELECT array_filter([1,2,3], [true, false, true]);
+--------------------------------------------+
| array_filter([1,2,3], [true, false, true]) |
+--------------------------------------------+
| [1, 3] |
+--------------------------------------------+
Если логический массив длиннее исходного, лишние логические значения игнорируются:
SELECT array_filter([1,2,3], [true, false, true, false]);
+---------------------------------------------------+
| array_filter([1,2,3], [true, false, true, false]) |
+---------------------------------------------------+
| [1, 3] |
+---------------------------------------------------+
Если логический массив короче исходного, обрабатываются только элементы на соответствующих позициях логического массива:
SELECT array_filter([1,2,3], [true, false]);
+--------------------------------------+
| array_filter([1,2,3], [true, false]) |
+--------------------------------------+
| [1] |
+--------------------------------------+
Для пустого массива возвращается пустой массив:
SELECT array_filter(x -> x > 0, int_array) FROM array_filter_test WHERE id = 3;
+-------------------------------------+
| array_filter(x -> x > 0, int_array) |
+-------------------------------------+
| [] |
+-------------------------------------+
Для массива NULL возвращается NULL: если входной массив равен NULL, функция возвращает NULL без ошибки.
SELECT array_filter(x -> x > 0, int_array) FROM array_filter_test WHERE id = 4;
+-------------------------------------+
| array_filter(x -> x > 0, int_array) |
+-------------------------------------+
| NULL |
+-------------------------------------+
Массив со значениями null: лямбда-выражение может проверять null:
+------------------------------------------------------------+
| array_filter(x -> x is not null, [null, 1, null, 2, null]) |
+------------------------------------------------------------+
| [1, 2] |
+------------------------------------------------------------+
Фильтрация по нескольким массивам: отбор элементов, для которых int_array > double_array:
SELECT array_filter((x, y) -> x > y, int_array, double_array) FROM array_filter_test WHERE id = 1;
+--------------------------------------------------------+
| array_filter((x, y) -> x > y, int_array, double_array) |
+--------------------------------------------------------+
| [] |
+--------------------------------------------------------+
Примеры со сложными типами:
Фильтрация вложенных массивов: отбор подмассивов, длина которых больше 2:
SELECT array_filter(x -> size(x) > 2, [[1,2], [3,4,5], [6], [7,8,9,10]]);
+-------------------------------------------------------------------+
| array_filter(x -> size(x) > 2, [[1,2], [3,4,5], [6], [7,8,9,10]]) |
+-------------------------------------------------------------------+
| [[3, 4, 5], [7, 8, 9, 10]] |
+-------------------------------------------------------------------+
Фильтрация элементов типа Map: отбор элементов, у которых значение по ключу 'a' больше 10:
SELECT array_filter(x -> x['a'] > 10, [{'a':5}, {'a':15}, {'a':20}]);
+---------------------------------------------------------------+
| array_filter(x -> x['a'] > 10, [{'a':5}, {'a':15}, {'a':20}]) |
+---------------------------------------------------------------+
| [{"a":15}, {"a":20}] |
+---------------------------------------------------------------+
Фильтрация элементов типа Struct: отбор элементов, у которых age больше 18:
SELECT array_filter(x -> struct_element(x, 'age') > 18, array(named_struct('name','Alice','age',20),named_struct('name','Bob','age',16),named_struct('name','Eve','age',30)));
+------------------------------------------------------------------------------------------------------------------------------------------------------------------------+
| array_filter(x -> struct_element(x, 'age') > 18, array(named_struct('name','Alice','age',20),named_struct('name','Bob','age',16),named_struct('name','Eve','age',30))) |
+------------------------------------------------------------------------------------------------------------------------------------------------------------------------+
| [{"name":"Alice", "age":20}, {"name":"Eve", "age":30}] |
+------------------------------------------------------------------------------------------------------------------------------------------------------------------------+
Неверное число параметров:
SELECT array_filter(x -> x > 0, [1,2,3], [4,5,6], [7,8,9]);
ERROR 1105 (HY000): errCode = 2, detailMessage = lambda x -> (x > 0) arguments' size is not equal parameters' size
Несовпадение длин массивов приводит к ошибке:
SELECT array_filter((x, y) -> x > y, [1,2,3], [4,5]);
ERROR 1105 (HY000): errCode = 2, detailMessage = (10.16.10.6)[INVALID_ARGUMENT]in array map function, the input column size are not equal completely, nested column data rows 1st size is 3, 2th size is 2.
Передача значения, не являющегося массивом, приводит к ошибке:
SELECT array_filter(x -> x > 0, 'not_an_array');
ERROR 1105 (HY000): errCode = 2, detailMessage = lambda argument must be array but is 'not_an_array'
Примеры вложенных функций высшего порядка:
Корректный пример: вызов функций высшего порядка, возвращающих скалярные значения, в лямбда-выражении
В этом примере вложенный вызов допустим, поскольку внутренняя функция array_count возвращает скалярное значение (INT64), которое array_filter может обработать.
SELECT array_filter(x -> array_count(y -> y > 5, x) > 0, [[1,2,3],[4,5,6],[7,8,9]]);
+------------------------------------------------------------------------------+
| array_filter(x -> array_count(y -> y > 5, x) > 0, [[1,2,3],[4,5,6],[7,8,9]]) |
+------------------------------------------------------------------------------+
| [[4, 5, 6], [7, 8, 9]] |
+------------------------------------------------------------------------------+
Пример с ошибкой: лямбда-выражение возвращает массив
В этом примере вложенный вызов недопустим, поскольку внутренняя функция array_exists возвращает ARRAY
SELECT array_filter(x -> array_exists(y -> y > 5, x), [[1,2,3],[4,5,6]]);
ERROR 1105 (HY000): errCode = 2, detailMessage = Can not find the compatibility function signature: array_filter(ARRAY<ARRAY<TINYINT>>, ARRAY<ARRAY<BOOLEAN>>)
Ключевые слова
ARRAY, FILTER, ARRAY_FILTER