分布式执行、内存与 Spill¶
实现基线为 v4.2.5。Compile 将逻辑计划转换为 Scope、Pipeline 和向量化算子。是否执行到其他 CN 取决于实际物理计划/放置,不能由 CN 数量或缓存命中推断。
运行图和数据¶
扫描 → 过滤/投影 → 本地算子 → Exchange/Shuffle → 连接/聚合 → 合并结果
│ │
└→ Batch └→ CN 间 Pipeline 消息
Scope 组织运行片段,Pipeline 组织算子链,Batch/Vector 承载列式数据。Broadcast 与 Shuffle 有不同复制/分区成本;偏斜可让少数工作者成为瓶颈。Logical Plan 不等于完整物理运行图。
等待与取消¶
生产者/消费者、MessageBoard、远端 RPC 和结果返回会相互等待。正常结束、错误、客户端取消、节点不可达均需结束等待并释放 Batch、JoinMap、连接和消息。接收到结果终止标记不必然证明所有服务器资源已释放。
关键不变量:同一执行尝试的消息与资源不能进入下一次 prepared 执行或重试;取消必须有终止路径。网络端口/FD 压力、背压和数据倾斜应分别检查。
内存所有权与控制范围¶
HashBuild/连接消费路径已有物理分配记账。分配附带 account、owner、site,释放时解除记账;借用视图不重复收费,复制在目标 owner 分配。执行尝试结束前先清理消息/算子,再封闭并完成账户。
这个控制域不等于全部查询 RSS。无 allocator hook 的 Go/原生库、某些原生索引和 GPU 存储有独立边界,不能以一项账本声称覆盖所有内存。远端同一语句的多个片段还涉及共享消息板和聚合终态。
压力、溢写与失败¶
内存容量、Spill 磁盘字节和打开 FD 是独立资源。可选 Runtime Filter 可退化为 PASS;必要连接状态不能静默绕过准入。容量压力与已封闭账户/所有权错误不同,后者不能伪装成可重试的内存不足。
Spill 转移数据与资源所有权,编码、分区、解码和重建仍需受控内存。重试只有在释放、分区推进、输入缩小或可选状态退化等进展下合理;不能无限重做相同 I/O。
观察¶
同时记录物理计划、实际远端片段、输入分布、算子内存/溢写、临时磁盘、FD、取消及结束后的资源。sort_spill_mem 是排序路径变量,不作为所有 HashBuild 内存的统一开关。