-
题名融合CNN和EWC算法的不平衡文本情绪分类方法
被引量:7
- 1
-
-
作者
程艳
朱海
项国雄
唐天伟
钟林辉
王国玮
-
机构
江西师范大学计算机信息工程学院
江西师范大学新闻与传播学院
江西师范大学管理决策评价研究中心
-
出处
《中文信息学报》
CSCD
北大核心
2020年第4期92-100,共9页
-
基金
国家自然科学基金(61967011)
江西省科技重点项目(20161BBE50086)
+2 种基金
江西省教育厅科技重点项目(GJJ150299)
江西省教育厅人文社科重点(重大)项目(文)(JD19056)
江西省教育厅科学技术项目(GJJ170207)
-
文摘
文本情绪分类是自然语言处理领域的一个基本任务。然而,基于不平衡数据的学习使得传统文本情绪分类方法的分类性能降低。针对这个问题,该文提出了一种融合CNN和EWC算法的不平衡文本情绪分类方法。首先,该方法使用随机欠采样方法得到多组平衡数据;其次,按顺序单独使用每一组平衡数据输入CNN训练,同时在训练过程中引入EWC算法用以克服CNN中的灾难性遗忘;最后,把使用最后一组平衡数据输入CNN训练得到的模型作为最终分类模型。实验结果表明,该方法在分类性能上明显优于基于欠采样和多分类算法的集成学习框架,且该方法比基于多通道LSTM神经网络的不平衡情绪分类方法在Accuracy和G-mean上分别提高了1.9%和2.1%。
-
关键词
情绪分类
不平衡分类
CNN
ewc算法
-
Keywords
emotion classification
imbalanced classification
CNN
ewc algorithm
-
分类号
TP391.1
[自动化与计算机技术—计算机应用技术]
TP181
[自动化与计算机技术—控制理论与控制工程]
-
-
题名基于EWC算法的DDoS攻击检测模型参数更新方法
被引量:5
- 2
-
-
作者
张斌
周奕涛
-
机构
中国人民解放军战略支援部队信息工程大学
河南省信息安全重点实验室
-
出处
《电子与信息学报》
EI
CSCD
北大核心
2021年第10期2928-2935,共8页
-
基金
河南省基础与前沿技术研究计划基金(142300413201)
信息保障技术重点实验室开放基金项目(KJ-15-109)
信息工程大学科研项目(2019f3303)。
-
文摘
针对现有基于多层线性感知器(Multi-Layer Perceptron,MLP)神经网络的DDoS攻击检测模型参数更新方法(MLP-UD)易遗忘模型训练原参数所用的DDoS攻击数据集(原数据集)知识、时间空间开销大的问题,该文提出一种基于弹性权重保持(Elastic Weight Consolidation,EWC)算法的模型参数更新方法(EWC-UD)。首先,使用K-Means算法计算原数据集聚类簇中心点作为费雪信息矩阵计算样本,有效提升计算样本均匀度与聚类覆盖率,大幅减少费雪信息矩阵计算量,提升参数更新效率。其次,基于费雪信息矩阵,对模型参数更新过程中的损失函数增加2次惩罚项,限制MLP神经网络中重要权重与偏置参数的变化,在保持对原数据集检测性能的基础上,提升对新DDoS攻击数据集的检测准确率。然后基于概率论对EWC-UD方法进行正确性证明,并分析时间复杂度。实验表明,针对构建的测试数据集,EWC-UD方法相较于MLP-UD仅训练新DDoS攻击数据集的更新方法,检测准确率提升37.05%,相较于MLP-UD同时训练新旧DDoS攻击数据集的更新方法,时间开销下降80.65%,内存开销降低33.18%。
-
关键词
分布式拒绝服务
模型参数更新
弹性权重保持算法
多层线性感知器
-
Keywords
Distributed Denail of Service(DDoS)
Model parameter update
Elastic Weight Consolidation(ewc)algorithm
Multi-Layer Perceptron(MLP)
-
分类号
TN918.91
[电子电信—通信与信息系统]
TP393
[自动化与计算机技术—计算机应用技术]
-
-
题名基于增量学习的CNN-LSTM光伏功率预测
被引量:8
- 3
-
-
作者
严璐晗
林培杰
程树英
陈志聪
卢箫扬
-
机构
福州大学物理与信息工程学院
-
出处
《电气技术》
2024年第5期31-40,共10页
-
基金
福建省科技厅引导性基金资助项目(2022H0008)
福建省级科技创新重点资助项目(2022G02011)。
-
文摘
针对目前大部分光伏功率预测模型采用批量离线训练方式,且新建光伏电站训练数据较少的问题,本文提出一种基于增量学习的卷积神经网络(CNN)和长短期记忆(LSTM)网络结合的光伏功率预测模型。首先,采用CNN对气象数据进行特征提取,并通过LSTM网络进行功率预测,以此CNN-LSTM混合模型进行背景学习,训练出可用于增量学习的基准模型。其次,根据不同的时间跨度进行增量学习训练,实现模型的在线更新。针对增量学习中的灾难性遗忘问题,采用弹性权重整合(EWC)算法和在线弹性整合(Online_EWC)算法进行缓解。实验结果表明,相较于无约束的增量学习,采用EWC和Online_EWC方法的增量学习可以明显缓解灾难性遗忘问题,降低预测平均绝对误差(MAE)和均方根误差(RMSE);同时,在保证预测精度的前提下,增量学习的耗时大幅低于传统的批量学习。
-
关键词
光伏功率预测
长短期记忆(LSTM)网络
增量学习
弹性权重整合(ewc)算法
-
Keywords
photovoltaic power prediction
long short-term memory(LSTM)networks
incremental learning
elastic weight consolidation(ewc)algorithm
-
分类号
TM615
[电气工程—电力系统及自动化]
TP183
[自动化与计算机技术—控制理论与控制工程]
-