KDD2026|无人机和骑手组队送快递,北航用Seq2Seq做联合优化
KDD2026|无人机和骑手组队送快递,北航用Seq2Seq做联合优化
内容摘要
传统物流配送模式正日益受到交通拥堵的制约,近年来,骑手与无人机协同的接力式配送系统开始在国内城市落地。无人机发挥长距离、高效率的优势完成站点间中转,骑手负责首尾
传统物流配送模式正日益受到交通拥堵的制约,近年来,骑手与无人机协同的接力式配送系统开始在国内城市落地。
无人机发挥长距离、高效率的优势完成站点间中转,骑手负责首尾两端的灵活取派,二者结合有望显著提升配送效率、缓解城市交通压力。
北京航空航天大学计算机学院王静远教授团队联合上海大学管理学院,针对这一新兴场景定义了动态多阶段取送问题(Dynamic Multi-Echelon Pickup-and-Delivery Problem,DM-PDP),并提出全新求解框架 MoE-Pointer。
该工作将该组合优化问题的求解建模为序列到序列生成任务,实现了三级配送链路的端到端强化学习联合优化。
本文第一作者为北京航空航天大学计算机学院硕士生白瑞,通讯作者为北京航空航天大学计算机学院王静远教授,合作作者为上海大学管理学院镇璐教授。
目前该研究已发表于数据挖掘顶级会议 KDD 2026。
论文标题:
MoE-Pointer: Seq2Seq Reinforcement Learning for Dynamic Multi-Echelon Pickup-and-Delivery with Courier–Drone Relay
论文链接:
https://doi.org/10.1145/3770855.3818924
代码链接:
https://github.com/luiluizi/MoE-Pointer
研究背景
在接力式配送系统中,每笔订单都要经历三级履约流程:首段由快递员从发件地取件并送至就近无人机站点;中段由无人机空运至目的地区域附近的无人机站点;末端再由另一位快递员完成上门配送。
系统需要在订单动态到达的环境下,同时完成订单分配与路径规划,最大化配送周期内的净利润。
我们将该任务场景对应的优化问题定义为动态多阶段取送问题(DM-PDP)。对于该问题的求解主要面临以下两个难点:
1. 跨阶段依赖性:上游决策质量直接决定下游的可行性与效率,单独优化任一阶段都无法保证全局最优,阶段解耦会损失联合收益。
2. 阶段差异性显著。这种差异体现在两个维度:
一是实体异质性,该问题涉及异质载具、异质节点类型与动态订单;
二是决策约束差异性,不同阶段对应不同的决策要素,例如车辆速度、运力上限各不相同,还存在拓扑限制(如无人机仅能在起降站间运行)。
现有方法难以解决这两类问题:经典运筹方法求解复杂度随问题规模指数上升,动态场景下依赖滚动时域缓存订单,决策延迟高。
现有强化学习方法多针对单阶段配送场景设计,扩展到多阶段需要人为解耦,既做不到端到端联合优化,也缺少对阶段差异化的显式建模。
因此,面向骑手-无人机协同配送的新场景,需要一套既能全局联合优化、又能适配阶段差异的统一求解框架。
方法框架
针对背景提出的两大核心难题,MoE-Pointer 将动态多级取派件问题形式化为马尔可夫决策过程,并重构为序列到序列生成任务,整体遵循“异质实体编码—序列决策解码—强化学习策略优化”的三层技术路径。
2.1 异质实体编码器:建模多类型实体的空间语义关联
针对阶段差异性问题中的异质实体表征难题,编码器将站点、无人机起降站点、订单、快递员、无人机五类实体统一映射到共享嵌入空间,并通过空间-语义关系注意力(SSRA)显式建模实体间的交互关系。
第一步是实体特征统一投影:通过类型专用的线性投影层,将不同类型实体对应的如节点坐标、实时负载、订单收益、车辆容量与剩余行程时间等原始属性映射为同维度嵌入,形成完整输入序列。
第二步是 SSRA 注意力增强:普通自注意力无法感知物流网络固有的空间拓扑与不同实体间的语义关系,因此设计全局关系矩阵并注入注意力计算:
关系矩阵包含两类先验:空间关系通过 MLP 将实体间欧氏距离映射为注意力偏置,引导同类载具分散覆盖、异质载具汇聚接力的空间策略。
语义关系根据载具-订单-站点间的业务状态(待取、在途、目标站点等)分配可学习嵌入,强化逻辑关联的注意力权重。
2.2 自回归解码器:实现联合优化并兼顾阶段差异
模型采用 Pointer-Transformer 解码器,将联合动作生成分解为“订单分配→快递员路径规划→无人机路径规划”三个连续步骤,按业务逻辑自回归逐一生成。
每一步解码都以当前决策步下全部上游决策结果作为上下文:先完成订单-骑手匹配,选中的骑手嵌入追加到解码序列;再基于分配结果规划骑手路线,选中的下一跳站点嵌入追加到解码序列;最后基于完整的上下游决策结果确定无人机路线。
以骑手决策下一跳站点过程为例,解码器输入序列表示如下:
当前要决策第 个骑手的下一跳站点,其中 表示已经完成的订单分配动作决策序列, 分别表示第 1 个骑手的嵌入与为第 1 个骑手决策出的下一跳站点对应的嵌入。
取解码器输出序列的最后一个 token 的隐向量作为 query,表示为 ,与所有候选下一跳可选站点的嵌入做点乘,得到动作概率分布:
采样得到第 k 个骑手的下一跳站点的决策结果,把对应站点的嵌入加入到动作决策序列,继续这样自回归地完成全部的动作决策任务。
联合动作概率通过概率链式法则分解为多层条件概率的乘积,证明自回归的解码方式一方面避免了同类型车辆的动作冲突,又让下游决策适配上游状态,最终由全局净利润奖励端到端驱动强化学习训练,实现三阶段配送的联合优化。
为了适配不同阶段决策的差异性,我们将解码器前馈网络改造为任务感知混合专家(Task-Aware MoE)结构。
该结构包含一类共享专家与三类任务专属专家:共享专家在所有解码步骤激活,提取跨阶段通用表征,维持全局语义连贯性;订单分配、快递员调度、无人机调度三类专属专家,分别聚焦对应阶段特有的决策约束。
解码过程中,模型根据当前阶段的任务嵌入生成门控系数,动态调节共享与专属专家的输出融合比例,在保留联合优化全局视野的同时为不同阶段提供专属决策策略。
2.3 策略优化机制
针对多级联合动作空间指数级增长、强化学习探索效率低的问题,模型从先验引导、奖励塑形等方面设计了训练策略,保障收敛效率与稳定性。
我们引入了先验引导软掩码(PSM)机制,不同于传统硬掩码仅过滤不可行动作,PSM 基于领域先验为候选动作赋予连续权重。
在订单分配阶段,按快递员剩余运力比例加权,引导负载均衡以提升资源利用率;在车辆路径阶段,对取送动作施加权重修正,平衡取件与送件的探索优先级,缓解动作空间结构性失衡。
强化学习训练方面采用近端策略优化(PPO)算法进行参数更新,此外针对三阶段接力长周期任务的奖励稀疏问题,模型为第一、二阶段的完成设置衰减的中间奖励,引导强化学习探索逐步推进履约流程,同时保证最优策略不变。
实验分析
实验在合成数据集与杭州、上海、重庆真实城市数据集上展开,对比了滚动时域 OR 求解器、元启发式算法、规则启发式、强化学习类型的多种基线方法,开展了全面的对比验证。
主实验结果显示,MoE-Pointer 在所有数据集的净利润与订单完成率两项指标上均优于所有基线。
同时相较于精确算法与元启发式算法,MoE-Pointer 单步推理时间有显著优势,可以满足动态实时调度的要求。
此外,消融实验进一步验证了各模块的必要性,我们还在站点拥堵、无人机续航限制、行程时间波动等多种现实约束下进行了测试,本方法均保持稳健表现,具备良好的落地扩展性。
总结与展望
本文将动态多阶段取送问题重构为马尔可夫决策过程,提出统一的 Seq2Seq 强化学习框架 MoE-Pointer。
具体而言,为实现多阶段联合优化,模型采用自回归解码机制捕捉跨阶段依赖关系;为应对阶段差异性,模型融合了空间-语义关系注意力模块与任务感知混合专家(MoE)架构。
实验结果表明,MoE-Pointer 在解质量上优于各类基线方法,同时相比传统运筹学求解方法具备显著的计算效率优势,能够满足实时调度的实际需求。
后续可进一步拓展框架对更多现实运营约束的适配能力,也可探索融合多源城市数据以提升复杂真实场景下的模型泛化性。
相关信息
如果你觉得本文有用的话,请引用:
@inproceedings{bai2026moe,
title={MoE-Pointer: Seq2Seq Reinforcement Learning for Dynamic Multi-Echelon Pickup-and-Delivery with Courier-Drone Relay},
author={Bai, Rui and Wang, Jingyuan and Zhen, Lu},
booktitle={Proceedings of the 32nd ACM SIGKDD Conference on Knowledge Discovery and Data Mining V. 2},
pages={12255--12266},
year={2026}
}
指导教师:
王静远教授
https://www.bigscity.com/jingyuan-wang/
课题组:
北京航空航天大学计算机学院 BIGSCITY 实验室
https://www.bigscity.com/
智慧城市大数据智能组(BIGSCITY)专注于数据智能驱动的城市智能关键技术,重点涵盖城市计算、时空数据挖掘、可解释机器学习等方向。团队已在智慧城市、数据挖掘、人工智能等领域发表 PNAS、UTD24、CCF A 等高水平论文近百篇。相关技术已落地城市规划、智能交通、医疗服务等场景,在北京、天津、深圳、无锡、成都等地应用。实验室长期招聘青年教师、博士后,招收博士研究生以及实习生。有意者请联系bigscity@126.com.
更多阅读