跳到主要内容
最后于 更新

S3 导入概览

Doris 通过 Streaming Job + S3 TVF 将 S3 文件分批导入已有的 Doris 表。根据文件生成方式和是否需要持续运行,选择有序导入、通知导入或一次性导入。

选择导入模式​

导入方式模式适用场景结束条件
有序导入ORDERED_LIST(默认)文件名按字典序递增,如时间戳或补零序号持续运行,无新文件时等待
通知导入NOTIFICATION文件名为 UUID 或文件乱序到达,通过 AWS S3 事件和独占 SQS 队列发现新文件持续运行,队列暂时为空时等待
一次性导入ONE_TIME已准备好的静态历史文件、独立批次回补最后一批事务提交后进入 FINISHED

通知导入不补导历史对象,且可能因重复通知而重复导入。三种模式均要求导入期间源对象可读且内容不变。各模式的准备步骤、SQL 示例、参数和使用限制见上表中的指南。

相关文档​