期刊文献+
共找到16篇文章
< 1 >
每页显示 20 50 100
Nesterov加速拟牛顿法研究及其化工应用 被引量:2
1
作者 吕佳泽 赵军 +3 位作者 陶少辉 陈玉石 孙晓岩 项曙光 《青岛科技大学学报(自然科学版)》 2025年第1期60-66,共7页
拟牛顿法是化工过程模拟中一种常用的非线性方程组求解算法,提高其收敛性和计算效率对于流程模拟软件开发有着重要意义。本工作基于Nesterov加速拟牛顿法,给出其使用4种更新方法的改进形式。通过求解经典低维非线性方程组问题和典型化... 拟牛顿法是化工过程模拟中一种常用的非线性方程组求解算法,提高其收敛性和计算效率对于流程模拟软件开发有着重要意义。本工作基于Nesterov加速拟牛顿法,给出其使用4种更新方法的改进形式。通过求解经典低维非线性方程组问题和典型化工流程设计规定问题,比较了Nesterov加速4种拟牛顿法的计算效率。计算结果表明:基于CGBM更新方法的加速拟牛顿法在所测试的15组问题中计算成功率为93.3%,计算效率最高;而BFGS更新方法在化工设计规定问题中对于Jacobi矩阵的近似效果较差,计算成功率为60%,计算性能最低。Nesterov加速拟牛顿法已被成功应用于国产化工流程模拟软件,对于工业软件的国产化具有重要意义。 展开更多
关键词 非线性方程组 拟牛顿法 nesterov加速 化工流程模拟
在线阅读 下载PDF
基于噪声初始化、Adam-Nesterov方法和准双曲动量方法的对抗样本生成方法 被引量:14
2
作者 邹军华 段晔鑫 +3 位作者 任传伦 邱俊洋 周星宇 潘志松 《电子学报》 EI CAS CSCD 北大核心 2022年第1期207-216,共10页
深度神经网络在多种模式识别任务上都取得了巨大突破,但相关研究表明深度神经网络存在脆弱性,容易被精心设计的对抗样本攻击.本文以分类任务为着手点,研究对抗样本的迁移性,提出基于噪声初始化、Adam-Nesterov方法和准双曲动量方法的对... 深度神经网络在多种模式识别任务上都取得了巨大突破,但相关研究表明深度神经网络存在脆弱性,容易被精心设计的对抗样本攻击.本文以分类任务为着手点,研究对抗样本的迁移性,提出基于噪声初始化、Adam-Nesterov方法和准双曲动量方法的对抗样本生成方法.本文提出一种对抗噪声的初始化方法,通过像素偏移方法来预先增强干净样本的攻击性能.同时,本文使用Adam-Nesterov方法和准双曲动量方法来改进现有方法中的Nesterov方法和动量方法,实现更高的黑盒攻击成功率.在不需要额外运行时间和运算资源的情况下,本文方法可以和其他的攻击方法组合,并显著提高了对抗样本的黑盒攻击成功率.实验表明,本文的最强攻击组合为ANI-TI-DIQHM*(其中*代表噪声初始化),其对经典防御方法的平均黑盒攻击成功率达到88.68%,对较为先进的防御方法的平均黑盒攻击成功率达到82.77%,均超过现有最高水平. 展开更多
关键词 对抗样本 Adam-nesterov方法 准双曲动量方法 噪声初始化 迁移性能
在线阅读 下载PDF
使用Nesterov步长策略投影次梯度方法的个体收敛性 被引量:17
3
作者 陶蔚 潘志松 +1 位作者 储德军 陶卿 《计算机学报》 EI CSCD 北大核心 2018年第1期164-176,共13页
很多机器学习问题都可以最终转换为优化问题来进行求解,凸优化算法已经被成功用于各种机器学习优化问题中,而在优化算法的研究中是否能获得最优的收敛速率是一个最基本问题.此外,稀疏性是稀疏学习问题中关注的另一个目标.目前,人们已经... 很多机器学习问题都可以最终转换为优化问题来进行求解,凸优化算法已经被成功用于各种机器学习优化问题中,而在优化算法的研究中是否能获得最优的收敛速率是一个最基本问题.此外,稀疏性是稀疏学习问题中关注的另一个目标.目前,人们已经提出了大量的随机优化方法求解大规模机器学习优化问题,但大部分的研究只是针对平均输出方式获得了最优收敛速率.个体输出方式显然比平均方式的输出具有更好的稀疏性,但使个体收敛速率获得最优具有一定的难度,人们已经将强凸情形下的最优个体收敛性作为公开问题进行广泛研究.对于光滑目标函数的优化问题,著名学者Nesterov提出了一种步长策略,使得梯度方法的收敛速率获得了数量级形式的加速,并且获得了最优的个体收敛速率.目前,Nesterov加速算法已经应用于各种具有光滑损失函数机器学习优化问题中,研究者基于该加速策略提出了大量的随机优化算法.能否将这种技巧推广至非光滑情形获得最优的个体收敛速率显然是有意义的问题.文中考虑在非光滑优化算法中引入这种步长策略.特别地,我们聚焦经典的一阶梯度方法,提出了一种嵌入加速算法步长策略的投影次梯度算法,证明了这种算法在求解非光滑损失函数学习问题时具有最优的个体收敛速率.这是比标准投影次梯度方法只有在平均输出方式下才具有最优收敛速率更强的结论,也是一阶梯度方法在个体最优收敛速率方面比较接近于大家期待的研究成果.与平均方式输出以及线性插值的投影次梯度方法相比,该文所提方法的梯度运算在插值策略之后,因此在求解l1范数约束的hinge损失函数学习问题时具有更好的稀疏性.人工数据集上的实验验证了所提方法的正确性,基准数据集上验证了该方法在保持稀疏性方面具有良好的性能. 展开更多
关键词 机器学习 非光滑损失函数问题 投影次梯度方法 nesterov步长策略 个体收敛速率 稀疏学习
在线阅读 下载PDF
Nesterov快速迭代信道估计算法
4
作者 刘春华 曹海燕 《通信技术》 2022年第12期1538-1542,共5页
针对大规模多输入多输出(Multiple-Input Multiple-Output,MIMO)下行链路中,随着天线数的增加,信道估计的精度下降与复杂度大幅增加的问题,提出了一种基于交替迭代算法的快速信道估计算法。该算法利用大规模MIMO系统信道矩阵的稀疏特性... 针对大规模多输入多输出(Multiple-Input Multiple-Output,MIMO)下行链路中,随着天线数的增加,信道估计的精度下降与复杂度大幅增加的问题,提出了一种基于交替迭代算法的快速信道估计算法。该算法利用大规模MIMO系统信道矩阵的稀疏特性,通过Nesterov平滑函数对压缩感知中的L1范数目标函数进行优化,并且每次迭代时通过构建目标函数以及交替迭代使算法收敛加速,在有效求解目标压缩感知问题的同时,方便求解目标函数的梯度,从而得到一种更加快速高效地求解L1范数最小化问题的算法。所提算法在高信噪比的条件下相较于传统的正交匹配追踪算法有很大的性能提升,同时算法收敛速度快于同类型的迭代算法。 展开更多
关键词 大规模多输入多输出 信道估计 压缩感知 nesterov方法
在线阅读 下载PDF
传感器网络中阈值Nesterov加速梯度下降定位方法 被引量:1
5
作者 秦宁宁 陈肯 孙文心 《传感技术学报》 CAS CSCD 北大核心 2018年第7期1091-1096,共6页
在传感器网络定位问题中,利用接收信号强度RSSI(Received Signal Strength Indication)的定位方法存在着接收信号传播不稳定,定位精度较低的问题。为解决该问题,提出了一种基于阈值Nesterov加速梯度下降NAGT(Nesterov Accelerated Gradi... 在传感器网络定位问题中,利用接收信号强度RSSI(Received Signal Strength Indication)的定位方法存在着接收信号传播不稳定,定位精度较低的问题。为解决该问题,提出了一种基于阈值Nesterov加速梯度下降NAGT(Nesterov Accelerated Gradient Descent with Threshold)的RSSI定位算法。算法引入Nesterov思想,不断更新寻优动量,以达到损失函数最小,从而求取对应的未知基站坐标,通过增设阈值,降低了算法陷入局部最优的概率。经仿真比较分析,NAGT方法相对于粒子群算法与随机梯度法,在定位精度与效率上有着较为明显的优势。 展开更多
关键词 无线传感器网络 定位 RSSI nesterov加速梯度下降法
在线阅读 下载PDF
分布式类Nesterov加速非凸复合优化算法
6
作者 李天成 张坤朋 +3 位作者 徐磊 高超 李凡 杨涛 《中国科学:信息科学》 北大核心 2025年第7期1687-1700,共14页
随着工业智能系统的快速发展以及能源互联网的广泛应用,工业软件在支持多节点协同计算和解决复杂优化问题中发挥了关键作用.然而,能源互联网的分布式、多节点自治特点以及复杂网络结构和实时动态调控需求,对工业软件的实时性、收敛速率... 随着工业智能系统的快速发展以及能源互联网的广泛应用,工业软件在支持多节点协同计算和解决复杂优化问题中发挥了关键作用.然而,能源互联网的分布式、多节点自治特点以及复杂网络结构和实时动态调控需求,对工业软件的实时性、收敛速率和适用范围提出了更高要求.这些要求迫切需要设计高效的分布式优化算法作为工业软件的核心支撑.因此,本文研究了时变通信拓扑下的分布式非凸复合优化问题,其中全局目标函数由光滑的非凸部分和非光滑的凸部分组成.所提出的算法利用逐次凸逼近(successive convex approximation, SCA)技术与梯度跟踪机制,并引入类Nesterov动量项以调整每次迭代的更新方向,从而进一步提升算法的收敛速率.理论证明了当动量参数低于设定的上界时,所提算法在固定步长条件下能够渐近收敛至所研究问题的平衡点集.数值仿真实验进一步验证了算法的有效性. 展开更多
关键词 工业软件 分布式非凸优化 复合优化 nesterov加速方法
原文传递
求解一类线性等式约束凸优化问题的加速方法
7
作者 孟辛晴 张文星 《运筹学学报(中英文)》 CSCD 北大核心 2024年第1期1-17,共17页
具有线性约束的凸优化问题是数学规划中的一类经典问题。本文将借助对偶理论,研究求解一类具有线性等式约束的凸优化问题的加速算法。由于此类问题的对偶问题是一个具有两块可分离结构的凸优化问题,我们基于Goldstein等人在加速交替方... 具有线性约束的凸优化问题是数学规划中的一类经典问题。本文将借助对偶理论,研究求解一类具有线性等式约束的凸优化问题的加速算法。由于此类问题的对偶问题是一个具有两块可分离结构的凸优化问题,我们基于Goldstein等人在加速交替方向乘子法方面的重要工作,提出了一种在弱化条件下求解线性等式约束凸优化问题的加速方法。我们的方法与Goldstein等人的加速交替方向乘子法的不同之处为:1)目标函数仅要求具有凸性(而不必强凸);2)罚参数仅要求β>0(而不受目标函数的利普希茨常数、强单调系数的限制)。基于上述弱化的条件,我们证明了所提的加速交替方向乘子法依然具有收敛性和O(1/k^(2))的收敛率。我们将条件弱化后的加速交替方向乘子法用于求解一个图像重建问题。数值实验结果表明,条件弱化后的加速交替方向乘子法依然具有较好的数值效果。 展开更多
关键词 线性等式约束 对偶 可分离结构凸优化 交替方向乘子法 nesterov加速技术
在线阅读 下载PDF
基于SALR优化NM算法的轴承故障信号智能诊断 被引量:3
8
作者 刘萌萌 李红波 李峰 《机械设计与研究》 CSCD 北大核心 2023年第1期92-95,101,共5页
考虑到采用深度学习方法进行机械设备故障诊断时无法准确识别所有故障类型的缺陷,综合运用Nesterov动量法(Nesterov LSDA,NM)和独立自适应学习率算法(Self-individual adaptive learning rate,SALR),设计了一种SALR-NM优化算法,从而实... 考虑到采用深度学习方法进行机械设备故障诊断时无法准确识别所有故障类型的缺陷,综合运用Nesterov动量法(Nesterov LSDA,NM)和独立自适应学习率算法(Self-individual adaptive learning rate,SALR),设计了一种SALR-NM优化算法,从而实现高维度与复杂数据在深度学习过程中获得更快速率并提升学习结果准确性。研究结果表明:以RVM进行处理时,各载荷工况呈现较低精度,随着载荷增大后,信号精度也逐渐降低。各载荷工况下形成的振动信号都可以通过SALR-NM准确识别故障特征,测试10次得到的准确率都是100%。各载荷状态下形成的振动信号,以SALR-NM与PCA处理时达到了100%的最高精度,Adam则达到了最小精度,只有68.82%。本研究通过Nesterov动量法构建得到具备自适应功能的深度信念网络SALR-NM,能够直接获取频域信号的深层数据特征,从而高效诊断滚动轴承故障。 展开更多
关键词 机械装备 故障诊断 nesterov动量法 独立自适应学习率 深度信念网络
原文传递
一种优化的硬阈值追踪算法的研究
9
作者 陈暄 潘春平 龙丹 《计算机应用研究》 CSCD 北大核心 2020年第4期1073-1076,共4页
硬阈值追踪算法的本质是一个最小二乘问题,存在复杂度高、收敛性差、运行时间长等缺点。引入Nesterov方法用于优化稀疏解的凸松弛现象,引入逐次松弛迭代法优化传统硬阈值线性方程组,理论证明优化结果具有良好的收敛性,仿真实验说明优化... 硬阈值追踪算法的本质是一个最小二乘问题,存在复杂度高、收敛性差、运行时间长等缺点。引入Nesterov方法用于优化稀疏解的凸松弛现象,引入逐次松弛迭代法优化传统硬阈值线性方程组,理论证明优化结果具有良好的收敛性,仿真实验说明优化后的算法有效降低了算法复杂度及运行时间。 展开更多
关键词 硬阈值 追踪 nesterov 逐次超松弛迭代法
在线阅读 下载PDF
基于热重启学习率的NAG算法在图像分割中的应用 被引量:3
10
作者 陈甦欣 晏文彬 吕华鑫 《合肥工业大学学报(自然科学版)》 CAS 北大核心 2022年第7期920-924,共5页
文章针对水平集演化模型的梯度下降法收敛速度较慢,且对局部极小值较为敏感的问题,提出一种热重启学习率和Nesterov加速梯度(Nesterov accelerated gradient,NAG)算法相结合的水平集演化方法,以替换Chan-Vese(CV)模型中用于演化水平集... 文章针对水平集演化模型的梯度下降法收敛速度较慢,且对局部极小值较为敏感的问题,提出一种热重启学习率和Nesterov加速梯度(Nesterov accelerated gradient,NAG)算法相结合的水平集演化方法,以替换Chan-Vese(CV)模型中用于演化水平集函数的梯度下降法,对2种算法的图像分割速度以及分割精准度进行了对比。首先根据CV模型和距离保持惩罚项建立初始的水平集演化方程;然后对NAG算法增加学习率动态变化项计算梯度来演化水平集函数;最后不断更新得到水平集函数直到收敛。使用ground truth(GT)图像评估分割精准度,通过与传统梯度下降法得到的实验结果对比,改进算法的CPU运行时间减少了30%以上且分割精确度明显提升,表明其可对图像进行有效且快速地分割。 展开更多
关键词 图像分割 基于区域的水平集方法 活动轮廓模型 nesterov加速梯度(NAG)算法 热重启学习率
在线阅读 下载PDF
矩阵模型修正中一类多约束矩阵逼近问题 被引量:1
11
作者 张丽 周学林 李姣芬 《桂林电子科技大学学报》 2019年第2期164-168,共5页
针对矩阵模型修正中一类多约束矩阵逼近问题,引入变量构造交替方向法(ADM)迭代格式,将问题转化为子问题求解。其中一个子问题利用投影可求得其解析解,另一子问题等价转化为求相容矩阵方程的最小范数解,并构造求其近似解的内迭代算法。... 针对矩阵模型修正中一类多约束矩阵逼近问题,引入变量构造交替方向法(ADM)迭代格式,将问题转化为子问题求解。其中一个子问题利用投影可求得其解析解,另一子问题等价转化为求相容矩阵方程的最小范数解,并构造求其近似解的内迭代算法。同时给出算法的简要收敛性分析以及算法的Nesterov加速策略。 展开更多
关键词 FROBENIUS范数 结构约束矩阵 ADM方法 nesterov加速
在线阅读 下载PDF
修正HS共轭梯度法在大规模信号重构问题中的应用 被引量:1
12
作者 陈凤华 李双安 《数学杂志》 CSCD 北大核心 2016年第6期1291-1298,共8页
本义研究了压缩感知在大规模信号恢复问题中应用的问题.利用修正HS共轭梯度法及光滑化方法,获得了具有较好重构效果的算法.数值实验表明用修正HS共轭梯度法解决大规模信号恢复问题是可行的.
关键词 压缩感知 修正HS共轭梯度法 稀疏信号 nesterov光滑技术
在线阅读 下载PDF
A Modified Full-NT-Step Infeasible Interior-Point Algorithm for SDP Based on a Specific Kernel Function
13
作者 Yadan Wang Hongwei Liu Zexian Liu 《Journal of Harbin Institute of Technology(New Series)》 EI CAS 2019年第2期41-47,共7页
This paper proposes a new full Nesterov-Todd(NT) step infeasible interior-point algorithm for semidefinite programming. Our algorithm uses a specific kernel function, which is adopted by Liu and Sun, to deduce the fea... This paper proposes a new full Nesterov-Todd(NT) step infeasible interior-point algorithm for semidefinite programming. Our algorithm uses a specific kernel function, which is adopted by Liu and Sun, to deduce the feasibility step. By using the step, it is remarkable that in each iteration of the algorithm it needs only one full-NT step, and can obtain an iterate approximate to the central path. Moreover, it is proved that the iterative bound corresponds with the known optimal one for semidefinite optimization problems. 展开更多
关键词 SEMIDEFINITE programming infeasible INTERIOR-POINT methods full nesterov-Todd STEPS KERNEL functions POLYNOMIAL complexity
在线阅读 下载PDF
A New Full-NT-Step Infeasible Interior-Point Algorithm for SDP Based on a Specific Kernel Function
14
作者 Samir Bouali Samir Kabbaj 《Applied Mathematics》 2012年第9期1014-1022,共9页
In this paper, we propose a new infeasible interior-point algorithm with full NesterovTodd (NT) steps for semidefinite programming (SDP). The main iteration consists of a feasibility step and several centrality steps.... In this paper, we propose a new infeasible interior-point algorithm with full NesterovTodd (NT) steps for semidefinite programming (SDP). The main iteration consists of a feasibility step and several centrality steps. We used a specific kernel function to induce the feasibility step. The analysis is more simplified. The iteration bound coincides with the currently best known bound for infeasible interior-point methods. 展开更多
关键词 SEMIDEFINITE Programming Full nesterov-Todd STEPS Infeasible INTERIOR-POINT methods POLYNOMIAL Complexity KERNEL Functions
在线阅读 下载PDF
Accelerated Gradient Descent Methods for the Uniaxially Constrained Landau-de Gennes Model
15
作者 Edison E.Chukwuemeka Shawn W.Walker 《Advances in Applied Mathematics and Mechanics》 SCIE 2022年第1期1-32,共32页
This paper illustrates the efficacy of using accelerated gradient descent schemes for minimizing a uniaxially constrained Landau-de Gennes model for nematic liquid crystals.Three(alternating direction)minimization sch... This paper illustrates the efficacy of using accelerated gradient descent schemes for minimizing a uniaxially constrained Landau-de Gennes model for nematic liquid crystals.Three(alternating direction)minimization schemes are applied to a structure preserving finite element discretization of the uniaxial model:a standard gradient descent method,the“heavy-ball”method,and Nesterov’s method.The performance of the schemes is measured in terms of the number of iterations required to obtain the equilibrium state,as well as the total computational time(wall time).The numerical experiments clearly show that the accelerated gradient descent schemes reduce the number of iterations and computational time significantly,despite the hard uniaxial constraint that is not“smooth”when defects are present.Moreover,our results show that accelerated schemes are not hindered when combined with an alternating direction minimization algorithm and are easy to implement. 展开更多
关键词 Liquid crystals Landau-de Gennes UNIAXIAL heavy-ball method nesterov’s method
在线阅读 下载PDF
基于广义加性模型的图书馆借阅预测研究 被引量:2
16
作者 陈金传 成志强 《图书馆杂志》 CSSCI 北大核心 2023年第6期47-55,共9页
本文意图通过建立读者特征、不同类别图书流通量、读者借阅时间3者的关系模型,探索读者特征与借阅趋势之间的隐含规律,为图书馆的智慧管理提供可靠且快速的预测与分析。本文创新性地提出了基于广义加性模型(GAM)的3阶段快速拟合模型,采... 本文意图通过建立读者特征、不同类别图书流通量、读者借阅时间3者的关系模型,探索读者特征与借阅趋势之间的隐含规律,为图书馆的智慧管理提供可靠且快速的预测与分析。本文创新性地提出了基于广义加性模型(GAM)的3阶段快速拟合模型,采用Onehot编码、线性和非线性3种函数进行数据拟合,建立读者特征与图书流通的回归模型。考虑到图书馆数据的庞大性,本文利用Nesterov方法和Power Iteration方法对回归模型进行加速,在保证回归准确率的前提下,大幅度提高了算法速度。在真实图书馆数据上的实验表明,本文方法相较于纯线性模型准确性可以提高约70%,速度仅下降约30%;相较于纯非线性模型速度可以提高约6倍,而准确率仅下降约15%,较好地满足图书馆大规模数据的分析。 展开更多
关键词 广义加性模型 图书馆 nesterov加速 Power Iteration方法
原文传递
上一页 1 下一页 到第
使用帮助 返回顶部