操作概览
从 数据生命周期中选择合适的操作.
导入、更新、删除和导出对正确性及吞吐量的要求各不相同。先明确希望数据发生什么变化。
- 导入将数据写入系统
- 更新修改逻辑行
- 删除移除指定范围的数据
- 导出将结果输出
- 监控核查每个作业
导入、更新、删除和导出对正确性及吞吐量的要求各不相同。先明确希望数据发生什么变化。
Doris 支持同步 HTTP 导入、持续消费 Kafka 数据、基于 SQL 的导入,以及异步批处理流程。
同步导入文件或数据流,并立即获得作业结果。
持续消费 Kafka 数据,并由系统管理消费进度。
从表、Catalog 或文件 TVF 转换并导入数据。
适用于更看重简便性而非批量吞吐量的小规模 SQL 写入。
将高频小批量写入合并为高效的提交操作。
通过标签和状态跟踪较大的异步作业。
标签、质量阈值、错误样本、作业状态和数据源偏移量,使导入从单次请求变成可管理的流程。
Unique Key 表支持 UPSERT 行为和 SQL UPDATE;Aggregate Key 表则通过声明的聚合函数更新数据。
写入完整的新逻辑行。
仅写入宽表行中选定的字段。
条件 DELETE 可按支持的行过滤条件删除数据,基于导入的删除标记可处理批量删除,TRUNCATE 则可快速清空表或分区。
删除符合受支持的限定条件的行。
通过数据导入,按键批量执行删除。
不按行过滤,直接清空整个表或分区。
SELECT INTO OUTFILE 可导出经过转换的查询结果,EXPORT 可运行较大的异步提取作业,mysqldump 可导出表结构或少量逻辑数据。
将可转换的结果同步导出为 CSV、Parquet 或 ORC 格式。
对较大的表或分区范围进行异步数据提取。
通过 MySQL 工具导出表结构并进行小规模逻辑备份。
可靠的操作应有明确的范围、正确性边界、可观测的结果、重试策略和下游验证。