期刊文献+
共找到5篇文章
< 1 >
每页显示 20 50 100
基于差分修正的SGDM算法 被引量:2
1
作者 袁炜 胡飞 《计算机系统应用》 2021年第7期220-224,共5页
当前,应用广泛的一阶深度学习优化器包括学习率非自适应优化器和学习率自适应优化器,前者以SGDM为代表,后者以Adam为代表,这两类方法都使用指数滑动平均法来估计总体的梯度.然而使用指数滑动平均法来估计总体梯度是有偏差且具有滞后性的... 当前,应用广泛的一阶深度学习优化器包括学习率非自适应优化器和学习率自适应优化器,前者以SGDM为代表,后者以Adam为代表,这两类方法都使用指数滑动平均法来估计总体的梯度.然而使用指数滑动平均法来估计总体梯度是有偏差且具有滞后性的,本文提出基于差分修正的SGDM算法——RSGDM算法.我们的贡献主要有3点:1)分析SGDM算法里指数滑动平均法带来的偏差和滞后性.2)使用差分估计项来修正SGDM算法里的偏差和滞后性,提出RSGDM算法.3)在CIFAR-10和CIFAR-100数据集上实验证明了在收敛精度上我们的RSGDM算法比SGDM算法更优. 展开更多
关键词 深度学习 一阶优化器 sgdm算法 差分
在线阅读 下载PDF
基于SGDM优化IWOA-CNN的配电网工程造价控制研究 被引量:16
2
作者 李康 鲍刚 +1 位作者 徐瑞 刘毅楷 《广西大学学报(自然科学版)》 CAS 北大核心 2023年第3期692-702,共11页
为了控制配电网工程项目的成本,需准确预测配电网工程造价,本文提出一种基于带动量因子的随机梯度下降(stochastic gradient descent with momentum factor, SGDM)优化的改进鲸鱼算法-卷积神经网络工程造价预测模型。首先,考虑回路数、... 为了控制配电网工程项目的成本,需准确预测配电网工程造价,本文提出一种基于带动量因子的随机梯度下降(stochastic gradient descent with momentum factor, SGDM)优化的改进鲸鱼算法-卷积神经网络工程造价预测模型。首先,考虑回路数、杆塔数、导线、地形、地质、风速、覆冰、导线截面、混凝土杆、塔材、绝缘子(直线)、绝缘子(耐张)、基坑开方、基础钢材、底盘和水泥对配电网工程造价的影响,建立了非线性函数关系;采用SGDM优化器改进的卷积神经网络对函数进行逼近,并用贝叶斯方法优化卷积神经网络的超参数;利用改进的鲸鱼算法(improved whale optimization algorithm, IWOA)优化卷积神经网络,找出卷积神经网络的最优学习率。数值算例表明,新模型预测效果较好,并提出相应的控制策略。 展开更多
关键词 配电网工程造价 鲸鱼算法 卷积神经网络 随机梯度下降优化器 贝叶斯优化 非线性收敛因子 自适应权重
在线阅读 下载PDF
DBAdam:一种具有动态边界的自适应梯度下降算法
3
作者 张帅 刘曜齐 姜志侠 《长春理工大学学报(自然科学版)》 2024年第5期105-111,共7页
在神经网络中,梯度下降算法是优化网络权值阈值参数的核心部分,它在很大程度上影响着神经网络的性能。对于许多自适应算法,如AdaGrad、RMPprop、Adam等,虽然在训练前期收敛速度快,但它们的泛化性通常不如SGDM算法。为结合自适应算法和S... 在神经网络中,梯度下降算法是优化网络权值阈值参数的核心部分,它在很大程度上影响着神经网络的性能。对于许多自适应算法,如AdaGrad、RMPprop、Adam等,虽然在训练前期收敛速度快,但它们的泛化性通常不如SGDM算法。为结合自适应算法和SGDM算法各自的优点,提出了DBAdam算法。通过利用梯度和学习率信息,构造了基于自适应学习率的动态上界函数和下界函数,将学习率约束在一个可控的范围内。这样使算法能够更好地适应不同参数的梯度变化,从而加快收敛速度。基于多种深度神经网络模型在三个基准数据集上对DBAdam算法进行实验,结果表明该算法的收敛性能较好。 展开更多
关键词 神经网络 自适应算法 sgdm算法 收敛性
在线阅读 下载PDF
基于EfficientNet的滑坡遥感图像识别方法——以贵州省毕节市为例 被引量:7
4
作者 李长冬 龙晶晶 +2 位作者 刘勇 易书帆 冯鹏飞 《华南地质》 CAS 2023年第3期403-412,共10页
近年来,随着工程建设的快速发展,工程活动改变了边坡原始地质条件,导致滑坡灾害频繁发生,严重威胁人民的生命财产安全。因此,深入研究滑坡的快速、精确识别方法对于防灾减灾具有重要意义。本文提出一种基于EfficientNet高效网络提取滑... 近年来,随着工程建设的快速发展,工程活动改变了边坡原始地质条件,导致滑坡灾害频繁发生,严重威胁人民的生命财产安全。因此,深入研究滑坡的快速、精确识别方法对于防灾减灾具有重要意义。本文提出一种基于EfficientNet高效网络提取滑坡深度特征的潜在滑坡识别方法,该方法通过寻找一组最优的复合系数从深度、宽度、分辨率三个维度对神经网络进行扩展,自适应地优化网络结构,并引入带动量的梯度下降算法(Stochastic Gradient Descent Momentum,SGDM)作为网络学习的优化器,充分考虑历史梯度的影响,在参数更新过程中不断调整当前梯度值,从而相应地调整参数的更新幅度,改善神经网络的学习效果,提取滑坡体的深层次特征。实验结果表明,EfficientNet模型在测试集上的平均准确度达到92.78%,可以高效准确地实时提取滑坡信息,对灾后的快速反应有指导意义。 展开更多
关键词 滑坡识别 深度特征 EfficientNet 带动量的梯度下降算法(sgdm)
在线阅读 下载PDF
Deep Learning for Downstream Water Level Prediction in Complex Hydrology Systems:An LSTM Approach
5
作者 Van Anh Truong Thi Nguyet Minh Hoang Dinh Vu Truong 《Open Journal of Modern Hydrology》 2025年第2期218-232,共15页
Flood forecasting is an essential tool for mitigating flood risks and enhancing disaster preparedness,particularly in vulnerable urban and agricultural areas where timely and accurate predictions can significantly red... Flood forecasting is an essential tool for mitigating flood risks and enhancing disaster preparedness,particularly in vulnerable urban and agricultural areas where timely and accurate predictions can significantly reduce damage and ensure public safety.This paper presents a comprehensive approach to forecasting the water level of downstream network systems,including reservoirs and irrigation districts,during the flood season.The proposed methodology utilizes the Long Short-Term Memory(LSTM)deep learning technique to accurately predict flood water level patterns.Historical water level and rainfall data from a network comprising four rainfall gauging stations with long-term records and one water level gauging station within the case study area are processed and analyzed to improve prediction accuracy.The results demonstrate that the proposed LSTM model with SGDM technique effectively captures regime dynamics,providing valuable insights for decision-makers in flood risk management.The model achieves high accuracy in predicting flood peaks,both in magnitude and timing,with determination coefficient𝑅R^(2)values of 0.92 for 24-hour forecasts and 0.81 for 48-hour forecasts.The Root Mean Square Errors(RMSEs)for the entire flood season are 0.23 m for 24-hour forecasts and 0.35 m for 48-hour forecasts,within a water level range of approximately 2.0 m to 8.0 m during the intentional flood period at the control stations.The forecasted flow accuracy P are 84.85%and 87.60%for 24-hour and 48-hour forecasts,respectively.These findings highlight the potential of the LSTM model to enhance forecast performance,contributing to more efficient and sustainable water distribution systems while improving flood risk management practices. 展开更多
关键词 LSTM sgdm ADAM Flood Forecast Complex Hydrology System Tich-Bui River
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部