期刊文献+
共找到11篇文章
< 1 >
每页显示 20 50 100
基于预训练和混合神经网络的智能合约漏洞检测
1
作者 张光华 张思怡 +1 位作者 高业萍 武少广 《计算机技术与发展》 2025年第1期94-100,共7页
针对现有智能合约漏洞检测方法准确率低以及对合约源代码特征提取不足的问题,该文提出一种基于预训练BERT模型(Bidirectional Encoder Representations from Transformer,BERT)和混合神经网络串行的智能合约漏洞检测方案SCVD-PBHNN。首... 针对现有智能合约漏洞检测方法准确率低以及对合约源代码特征提取不足的问题,该文提出一种基于预训练BERT模型(Bidirectional Encoder Representations from Transformer,BERT)和混合神经网络串行的智能合约漏洞检测方案SCVD-PBHNN。首先,对源代码进行数据预处理,去除冗余信息,保留源代码中的关键语句信息;其次,利用BERT模型替换了传统的静态词嵌入模型,深入挖掘智能合约源代码的语义特征;然后,结合文本卷积神经网络(Text Convolutional Neural Network,TextCNN)和双向长短期记忆网络(Bi-directional Long Short-Term Memory,BiLSTM)混合神经网络构建特征提取层,对传入的词向量进行训练,充分提取源代码上下文信息和局部关键特征;最后,通过激活函数对特征向量进行归一化处理,实现漏洞检测与识别。实验结果表明,该方案在准确率、精确率、召回率以及F1值等评价指标上相比已有方案均有明显提升,能准确识别四种常见的漏洞,准确率分别为94.40%、93.72%、96.29%、93.53%。 展开更多
关键词 混合神经网络 BERT textcnn-bilstm 智能合约 漏洞检测
在线阅读 下载PDF
基于多模型融合的XSS攻击检测研究
2
作者 赵润钰 赵生慧 《滁州学院学报》 2025年第5期25-32,112,共9页
随着Web应用程序的普及,其安全风险日益凸显。跨站脚本攻击(XSS攻击)作为OWASP十大安全风险之一,攻击者通过将恶意脚本注入易受攻击的网页,可造成恶意代码执行、内容篡改和会话劫持等严重后果。针对XSS攻击传统检测方法在特征提取能力... 随着Web应用程序的普及,其安全风险日益凸显。跨站脚本攻击(XSS攻击)作为OWASP十大安全风险之一,攻击者通过将恶意脚本注入易受攻击的网页,可造成恶意代码执行、内容篡改和会话劫持等严重后果。针对XSS攻击传统检测方法在特征提取能力上表现不足、无法识别新型变种攻击以及对混淆技术缺乏有效应对策略等问题,本研究提出一种基于深度学习(DL)的混合检测模型XSS-BLAT,创新性地融合了BERT、注意力增强型双向长短期记忆网络(BiLSTM-Attention)和文本卷积神经网络(TextCNN)的技术优势。该模型采用多阶段特征处理框架:首先使用预训练BERT模型进行初始特征提取,并引入输出分割策略,其次设计特征拼接的融合策略,使用DL技术进一步改进特征,将结果进行有效连接,用于构建高效的XSS攻击检测模型。实验结果表明,模型融合方法在利用众多模型的优势下提高了模型的整体性能,准确率、精确度、召回率以及F1分数分别达到99.94%、99.92%、99.75%、99.84%,文中提出的方法在各个指标上全面超越了其他对比方法。 展开更多
关键词 XSS BERT BiLSTM TextCNN 注意力机制
在线阅读 下载PDF
融入频域增强自注意力机制的BTBFA混合神经网络情感分类模型 被引量:3
3
作者 苏妍嫄 韩翠娟 张亚明 《现代情报》 CSSCI 北大核心 2024年第12期52-63,共12页
[目的/意义]智媒时代基于神经网络模型实现用户情感精准分类,进而深入挖掘海量文本信息潜在价值具有重要意义。[方法/过程]针对现有混合模型层间依赖性强、输出特征重要性差异体现不足等导致的情感分类效果受限问题,基于Stacking集成思... [目的/意义]智媒时代基于神经网络模型实现用户情感精准分类,进而深入挖掘海量文本信息潜在价值具有重要意义。[方法/过程]针对现有混合模型层间依赖性强、输出特征重要性差异体现不足等导致的情感分类效果受限问题,基于Stacking集成思想,提出一种融入频域增强自注意力机制的混合神经网络情感分类模型,通过构建由Bert、TextCNN、BiLSTM组成的并行式特征提取基学习器层与融入频域增强自注意力机制的元学习器层,并与词嵌入层和全连接层相融合,系统挖掘文本深层次语义信息以及局部、全局特征,进而通过权重分配以及离散傅里叶变换提升情感分类效果。[结果/结论]酒店评论数据集上的对比实验与消融实验结果均表明,所提模型情感分类性能与其他模型相比具有显著优势,准确率、召回率、F1值分别达到91.7%、95.3%和93.9%,且随Epoch训练轮数增加,模型情感分类准确性不断提升,损失值不断降低,呈现较强的泛化能力。 展开更多
关键词 情感分类 混合神经网络 Bert-textcnn-bilstm-FAttention Stacking算法 自注意力机制 离散傅里叶变换
在线阅读 下载PDF
融合上下文特征和BERT词嵌入的新闻标题分类研究 被引量:20
4
作者 范昊 何灏 《情报科学》 CSSCI 北大核心 2022年第6期90-97,共8页
【目的/意义】随着社交媒体的发展,各类新闻数量激增,舆情监测处理越来越重要,高效精确的识别舆情新闻可以帮助有关部门及时搜集跟踪突发事件信息并处理,减小舆论对社会的影响。本文提出一种融合BERT、TEXTCNN、BILSTM的新闻标题文本分... 【目的/意义】随着社交媒体的发展,各类新闻数量激增,舆情监测处理越来越重要,高效精确的识别舆情新闻可以帮助有关部门及时搜集跟踪突发事件信息并处理,减小舆论对社会的影响。本文提出一种融合BERT、TEXTCNN、BILSTM的新闻标题文本分类模型,充分考虑词嵌入信息、文本特征和上下文信息,以提高新闻标题类别识别的准确率。【方法/过程】将使用BERT生成的新闻标题文本向量输入到TEXTCNN提取特征,将TEXTCNN的结果输入到BILSTM捕获新闻标题上下文信息,利用softmax判断分类结果。【结果/结论】研究表明,本文提出的融合了基于语言模型的BERT、基于词向量TEXTCNN和基于上下文机制BILSTM三种算法的分类模型在准确率、精确率、召回率和F1值均达到了0.92以上,而且具有良好的泛化能力,优于传统的文本分类模型。【创新/局限】本文使用BERT进行词嵌入,同时进行特征提取和捕获上下文语义,模型识别新闻类别表现良好,但模型参数较多向量维度较大对训练设备要求较高,同时数据类别只有10类,未对类别更多或类别更细化的数据进行实验。 展开更多
关键词 文本分类 新闻标题 BERT词嵌入 TEXTCNN BILSTM
原文传递
基于字词向量融合的民航智慧监管短文本分类 被引量:2
5
作者 王欣 干镞锐 +2 位作者 许雅玺 史珂 郑涛 《中国安全科学学报》 CAS CSCD 北大核心 2024年第2期37-44,共8页
为解决民航监管事项所产生的检查记录仅依靠人工进行分类分析导致效率低的问题,提出一种基于数据增强与字词向量融合的双通道特征提取的短文本分类模型,探讨民航监管事项的分类,包括与人、设备设施环境、制度程序和机构职责等相关问题... 为解决民航监管事项所产生的检查记录仅依靠人工进行分类分析导致效率低的问题,提出一种基于数据增强与字词向量融合的双通道特征提取的短文本分类模型,探讨民航监管事项的分类,包括与人、设备设施环境、制度程序和机构职责等相关问题。为解决类别不平衡问题,采用数据增强算法在原始文本上进行变换,生成新的样本,使各个类别的样本数量更加均衡。将字向量和词向量按字融合拼接,得到具有词特征信息的字向量。将字词融合的向量分别送入到文本卷积神经网络(TextCNN)和双向长短期记忆(BiLSTM)模型中进行不同维度的特征提取,从局部的角度和全局的角度分别提取特征,并在民航监管事项检查记录数据集上进行试验。结果表明:该模型准确率为0.9837,F 1值为0.9836。与一些字嵌入模型和词嵌入模型相对比,准确率提升0.4%。和一些常用的单通道模型相比,准确率提升3%,验证了双通道模型提取的特征具有全面性和有效性。 展开更多
关键词 字词向量融合 民航监管 短文本 文本卷积神经网络(TextCNN) 双向长短期记忆(BiLSTM)
原文传递
融合投资者情绪的S_AM_BiLSTM股价预测模型 被引量:9
6
作者 袁婧 潘甦 +1 位作者 谢浩 徐文鹏 《计算机工程与应用》 CSCD 北大核心 2024年第7期274-281,共8页
股票价格预测一直是金融领域的研究热点之一。然而,股票价格的形成机制是相当复杂的,各种因素都可能会导致股票价格的变化。为此,提出了一种基于深度学习方法并融合多源数据和投资者情绪的股票价格预测混合模型(S_AM_BiLSTM)。利用文本... 股票价格预测一直是金融领域的研究热点之一。然而,股票价格的形成机制是相当复杂的,各种因素都可能会导致股票价格的变化。为此,提出了一种基于深度学习方法并融合多源数据和投资者情绪的股票价格预测混合模型(S_AM_BiLSTM)。利用文本卷积神经网络(TextCNN)对从股票论坛中提取的投资者评论进行情绪分析,并计算情绪指数。将情绪指数(sentiment)、技术指标和股票历史交易数据作为股价预测模型的特征集,采用双向长短时记忆神经网络(BiLSTM)对股票的收盘价进行预测,并在此基础上加入注意力机制(attention mechanism),提高预测精度。为了证明模型的有效性和适用性,随机选取4个重点行业的股票进行实证研究。实验结果表明,与其他单一模型和不含情绪因子的模型相比,所提出的混合模型的效果更优越。 展开更多
关键词 深度学习 双向长短期记忆网络(BiLSTM) 文本卷积神经网络(TextCNN) 股价预测 情绪分析
在线阅读 下载PDF
基于TextCNN-Attention-BiLSTM融合模型的煤矿隐患文本分类研究 被引量:5
7
作者 罗海平 曾向阳 陈勇 《武汉理工大学学报(信息与管理工程版)》 CAS 2024年第2期299-305,共7页
为实现大量煤矿隐患文本的迅速、精确分类,及时了解安全概况并加以管理。首先,选取安全文库网中多个煤矿隐患数据库为实验数据源,对煤矿隐患文本进行预处理,包括去除噪声词、分词和词向量表示等;其次,利用TextCNN对文本进行卷积操作,提... 为实现大量煤矿隐患文本的迅速、精确分类,及时了解安全概况并加以管理。首先,选取安全文库网中多个煤矿隐患数据库为实验数据源,对煤矿隐患文本进行预处理,包括去除噪声词、分词和词向量表示等;其次,利用TextCNN对文本进行卷积操作,提取不同尺寸的特征表示,再利用BiLSTM模型对得到的特征向量进行时序建模,并结合注意力机制(Attention),从而更好地关注文本中关键信息,捕捉文本全局语义信息;最后,利用全连接层的多标签分类器预测文本隐患类别。实验结果表明:TextCNN-Attention-BiLSTM融合模型在准确率、精确率、召回率和F 1值上均达到92%以上,为煤矿隐患文本分类提供了一种更加准确和有效的解决方案,对煤矿安全管理优化具有重要意义。 展开更多
关键词 煤矿安全 TextCNN 注意力机制 BiLSTM 文本分类
在线阅读 下载PDF
基于距离注意力的双特征融合的图书分类方法
8
作者 王豹 周勇 +3 位作者 褚庆福 罗淇丰 吴佳隆 许婕 《江西师范大学学报(自然科学版)》 北大核心 2024年第6期652-660,共9页
针对传统分类模型缺乏对图书数据的多维度语义学习和无法充分学习图书名称、作者和简介等语义信息及其之间联系的问题,提出了一种基于距离注意力的双特征融合的图书分类模型:BTCBLA(BERT-TextCNN-BiLSTM-Attention).该模型采用双通道的... 针对传统分类模型缺乏对图书数据的多维度语义学习和无法充分学习图书名称、作者和简介等语义信息及其之间联系的问题,提出了一种基于距离注意力的双特征融合的图书分类模型:BTCBLA(BERT-TextCNN-BiLSTM-Attention).该模型采用双通道的方法进行特征提取.针对图书数据包含位置信息的特殊性,在Self-Attention的基础上提出了Distance-Attention,通过加入多尺度相对位置编码解决了在自注意力无法充分理解序列中动态依赖关系的问题;设计了独特的语义融合模块Global-Local-Attention,能够生成权重提取关键信息与语义联系,从而融合局部与全局信息;经过全连接层和Softmax层进行分类,获取多个维度的语义特征,从而具备更丰富的文本语义信息.实验结果表明该模型的准确度达到了91.75%,具有良好的分类性能. 展开更多
关键词 BERT TextCNN BiLSTM 注意力 图书分类
在线阅读 下载PDF
基于BERT的多模型融合的Web攻击检测方法 被引量:2
9
作者 袁平宇 邱林 《计算机工程》 CAS CSCD 北大核心 2024年第11期197-206,共10页
传统Web攻击检测方法准确率不高,不能有效防范Web攻击。针对该问题,提出一种基于变换器的双向编码器表示(BERT)的预训练模型、文本卷积神经网络(TextCNN)和双向长短期记忆网络(BiLSTM)多模型融合的Web攻击检测方法。先将HTTP请求进行预... 传统Web攻击检测方法准确率不高,不能有效防范Web攻击。针对该问题,提出一种基于变换器的双向编码器表示(BERT)的预训练模型、文本卷积神经网络(TextCNN)和双向长短期记忆网络(BiLSTM)多模型融合的Web攻击检测方法。先将HTTP请求进行预处理,再通过BERT进行训练得到具备上下文依赖的特征向量,并用TextCNN模型进一步提取其中的高阶语义特征,作为BiLSTM的输入,最后利用Softmax函数进行分类检测。在HTTP CSIC 2010和恶意URL检测两个数据集上对所提方法进行验证,结果表明,与支持向量机(SVM)、逻辑回归(LR)等传统的机器学习方法和现有较新的方法相比,基于BERT的多模型融合的Web攻击检测方法在准确率、精确率、召回率和F1值指标上均表现更优(准确率和F1值的最优值都在99%以上),能准确检测Web攻击。 展开更多
关键词 Web攻击检测 基于变换器的双向编码器表示 多模型融合 HTTP请求 文本卷积神经网络 双向长短期记忆网络
在线阅读 下载PDF
基于混合神经网络模型的民生监督文本分类方法 被引量:1
10
作者 龙华 华才健 +1 位作者 王琦标 徐尽悦 《四川轻化工大学学报(自然科学版)》 CAS 2024年第2期49-56,共8页
随着民生监督对信息化要求的逐渐提高,高效准确地识别民生监督文本可以帮助纪检监察部门及时搜集和跟踪事件并进行处理。针对民生监督文本分类困难的问题,提出了基于Mengzi模型融合BiLSTM、注意力机制和TextCNN的混合神经网络模型MBC,... 随着民生监督对信息化要求的逐渐提高,高效准确地识别民生监督文本可以帮助纪检监察部门及时搜集和跟踪事件并进行处理。针对民生监督文本分类困难的问题,提出了基于Mengzi模型融合BiLSTM、注意力机制和TextCNN的混合神经网络模型MBC,以提高民生监督文本分类的准确率。该模型首先使用预训练模型Mengzi得到富含丰富语义信息的词向量,后接并行的BiLSTM结合注意力机制网络和TextCNN网络,分别提取文本全局和局部特征,最后将全局与局部特征进行融合,实现对民生监督文本的准确分类。实验结果表明,MBC模型在准确率、召回率和F1值均达到了89%以上,优于传统的文本分类模型,为民生监督文本分类问题提供了新的研究思路。 展开更多
关键词 民生监督文本分类 Mengzi模型 BiLSTM 注意力机制 TextCNN 混合模型MBC
在线阅读 下载PDF
基于分级信息融合模型的电力投诉工单分类研究
11
作者 张莉 王颖 +2 位作者 赵阳 崔涵翔 刘娟 《微型电脑应用》 2023年第11期87-90,共4页
电力投诉工单中往往存在长文本数据,这对工单分类模型的构建是一种挑战。以提升工单分类准确度为目的,提出了一种基于分级信息融合的电力投诉工单分类模型来提高模型分析长文本的能力。使用Word2vec方法对句中的单词进行处理,进而得到... 电力投诉工单中往往存在长文本数据,这对工单分类模型的构建是一种挑战。以提升工单分类准确度为目的,提出了一种基于分级信息融合的电力投诉工单分类模型来提高模型分析长文本的能力。使用Word2vec方法对句中的单词进行处理,进而得到单词向量和句子矩阵。利用双向长短时记忆网络(BiLSTM)来学习单词间的依赖关系,同时运用TextCNN学习句子间的相互关联。将各级学习到的深度语义特征利用多层感知机(MLP)实现特征层融合。所提出模型在包含3万真实电力投诉工单样本的数据集上进行实验,5类投诉的平均分类正确率为0.921,平均宏-F_(1)分数为0.901,正确率相较于TextCNN、BiLSTM以及深度置信网络(DBN)分别提升了1.9%、5.3%和13.5%,能够完成投诉工单分类任务。 展开更多
关键词 分级信息融合 TextCNN Word2vec 双向长短时记忆网络
在线阅读 下载PDF
上一页 1 下一页 到第
使用帮助 返回顶部