无人机因其高灵活性和广覆盖能力,被广泛应用于动态场景下的信息采集。然而,现有研究多集中于静态设备场景,忽视了高移动性节点环境下的信息新鲜度(age of information, AoI)优化问题,同时无人机的有限能量限制了其在实际应用的有效性...无人机因其高灵活性和广覆盖能力,被广泛应用于动态场景下的信息采集。然而,现有研究多集中于静态设备场景,忽视了高移动性节点环境下的信息新鲜度(age of information, AoI)优化问题,同时无人机的有限能量限制了其在实际应用的有效性。针对无人机辅助的车辆信息采集场景,提出一种基于柔性演员-评论家(soft actor-critic, SAC)算法的路径规划方法,通过优化无人机的飞行策略,平衡AoI和能效约束,引入最大熵深度强化学习框架,结合双Q网络结构和经验回放机制,在连续动作空间中实现了高效的策略学习。反复实验表明,该方法在收敛速度、奖励值和系统鲁棒性上显著优于传统强化学习算法(如DDPG和PPO),同时在复杂动态环境下有效提升了信息新鲜度和能量利用效率。展开更多
虚拟电厂(virtual power plant,VPP)作为多能流互联的综合能源网络,已成为中国加速实现双碳目标的重要角色。但VPP内部资源协同低碳调度面临多能流的耦合程度紧密、传统碳交易模型参数主观性强、含高维动态参数的优化目标在线求解困难...虚拟电厂(virtual power plant,VPP)作为多能流互联的综合能源网络,已成为中国加速实现双碳目标的重要角色。但VPP内部资源协同低碳调度面临多能流的耦合程度紧密、传统碳交易模型参数主观性强、含高维动态参数的优化目标在线求解困难等问题。针对这些问题,文中提出一种融合注意力机制(attention mechanism,AM)与柔性动作评价(soft actor-critic,SAC)算法的VPP多能流低碳调度方法。首先,根据VPP的随机碳流特性,面向动态参数建立基于贝叶斯优化的改进阶梯型碳交易机制。接着,以经济效益和碳排放量为目标函数构建含氢VPP多能流解耦模型。然后,考虑到该模型具有高维非线性与权重参数实时更新的特征,利用融合AM的改进SAC深度强化学习算法在连续动作空间对模型进行求解。最后,对多能流调度结果进行仿真分析和对比实验,验证了文中方法的可行性及其相较于原SAC算法较高的决策准确性。展开更多
文摘虚拟电厂(virtual power plant,VPP)作为多能流互联的综合能源网络,已成为中国加速实现双碳目标的重要角色。但VPP内部资源协同低碳调度面临多能流的耦合程度紧密、传统碳交易模型参数主观性强、含高维动态参数的优化目标在线求解困难等问题。针对这些问题,文中提出一种融合注意力机制(attention mechanism,AM)与柔性动作评价(soft actor-critic,SAC)算法的VPP多能流低碳调度方法。首先,根据VPP的随机碳流特性,面向动态参数建立基于贝叶斯优化的改进阶梯型碳交易机制。接着,以经济效益和碳排放量为目标函数构建含氢VPP多能流解耦模型。然后,考虑到该模型具有高维非线性与权重参数实时更新的特征,利用融合AM的改进SAC深度强化学习算法在连续动作空间对模型进行求解。最后,对多能流调度结果进行仿真分析和对比实验,验证了文中方法的可行性及其相较于原SAC算法较高的决策准确性。
