基于Transformer的道路场景语义分割综述

1

作者 黄天云 向明建 邵世霖 《西南民族大学学报(自然科学版)》 2025年第2期193-205,共13页

在自动驾驶领域,通过对道路场景进行高质量的语义分割,可以为自动驾驶汽车的安全行驶提供重要保障.近年来,随着自动驾驶技术的不断进步,人们对语义分割模型在尺寸、计算成本和分割精度等方面的要求也日益提高,这促使研究者们探索更为先... 在自动驾驶领域,通过对道路场景进行高质量的语义分割,可以为自动驾驶汽车的安全行驶提供重要保障.近年来,随着自动驾驶技术的不断进步,人们对语义分割模型在尺寸、计算成本和分割精度等方面的要求也日益提高,这促使研究者们探索更为先进的算法.首先介绍了语义分割技术在深度学习快速发展下取得的显著进展与不足,从而引出基于Transformer的道路场景语义分割方法.相较于传统的深度学习算法,Transformer具备全面理解复杂场景中上下文关系的能力,尤其在处理多对象和复杂环境时表现出显著优势.接着,根据不同的特征处理策略和模型架构,将基于Transformer的道路场景语义分割方法分为四类:基于全局特征提取的方法、基于局部特征增强的方法、基于混合架构的方法以及基于自监督学习的方法.最后,分析和对比了每类方法的代表性算法,概括总结了各类方法的技术特点和优缺点. 展开更多

关键词 语义分割 transformER 全局特征提取 局部特征增强 混合架构 自监督学习

在线阅读 下载PDF 职称材料

基于Transformer-CNN的图像实时语义分割方法

2

作者 李忠旭 《智能计算机与应用》 2025年第7期155-161,共7页

为提高图像处理任务的完成质量和实时性,研究设计了一种结合Transformer技术的图像语义分割技术。过程中利用深度特征的空间和通道权重提升图像分割精度,通过子区域划分确定特征图的关键部分;加入通道敏感性权重进行信息优化,将不同尺... 为提高图像处理任务的完成质量和实时性,研究设计了一种结合Transformer技术的图像语义分割技术。过程中利用深度特征的空间和通道权重提升图像分割精度,通过子区域划分确定特征图的关键部分;加入通道敏感性权重进行信息优化,将不同尺度的特征图融合为一个统一的特征表示。在Visual Object Classes Challenge 2012数据集和Pascal-Person-Part数据集上,实验结果表明,该方法在高对比度图像中训练迭代次数达到29次时,损失值下降到接近0的位置并基本保持稳定;在公开视频数据集上的实验结果表明,研究方法在1 080 p分辨率和30 FPS的视频数据上,实现了每帧约9 ms的处理速度,整体处理延迟控制在0.3 s以内。实验表明,研究方法具有更强的图像特征实时提取性能,能够更准确合理地进行图像语义分割。 展开更多

关键词 transformER 图像处理 语义分割 卷积神经网络 特征提取

在线阅读 下载PDF 职称材料

融合多元特征的E-TransUNet模型施工道路要素分类

3

作者 胡荣明 张宵宵 +2 位作者 竞霞 廖雨欣 黄旭昆 《遥感信息》 北大核心 2025年第2期11-19,共9页

针对施工道路影像中因背景信息复杂导致道路提取错分、漏分及边缘粗糙的问题,提出了一种融合多元特征的E-TransUNet模型施工道路要素提取方法。E-TransUNet模型通过设计多元特征增强模块对图像特征信息进行增强;在模型下采样中融入空洞... 针对施工道路影像中因背景信息复杂导致道路提取错分、漏分及边缘粗糙的问题,提出了一种融合多元特征的E-TransUNet模型施工道路要素提取方法。E-TransUNet模型通过设计多元特征增强模块对图像特征信息进行增强;在模型下采样中融入空洞空间金字塔池化(atrous spatial pyramid pooling,ASPP)模块,增强网络对道路影像多尺度特征的提取能力;跳跃连接部分加入卷积注意力(convolutional block attention module,CBAM)模块,从不同维度上捕获道路特征之间的相关性;最后组合采用Dice loss和CE loss作为损失函数解决样本数量不均衡问题。结果表明,该方法对施工道路要素的提取在OA、MIoU和MPA指标分别达到了93.30%、80.37%和91.19%,相比其他网络U-Net、DeeplabV3+、Swin-Unet、HRNet和SegFormer提取效果更好,为施工道路提供了准确的要素提取方法。 展开更多

关键词 施工道路提取 特征增强 语义分割 transformER 图像处理

在线阅读 下载PDF 职称材料

基于自然语言语义感知的舆情分析算法设计

4

作者 刘云花 黎泉 《现代电子技术》 北大核心 2025年第22期133-137,共5页

针对自然语言语义感知中的舆情情感分析问题,文中提出一种基于Transformer预处理和通道注意力机制的综合舆情分析算法。该算法采用两层Transformer结构对样本输入信息进行预处理,提取出舆情关键词。对于经过Transformer处理后的输入样... 针对自然语言语义感知中的舆情情感分析问题,文中提出一种基于Transformer预处理和通道注意力机制的综合舆情分析算法。该算法采用两层Transformer结构对样本输入信息进行预处理,提取出舆情关键词。对于经过Transformer处理后的输入样本数据,在每一个时间步长中,采用选取当前输入和上一步长的隐藏状态共同输入处理的方法进行初始判断,用以决定前一隐藏状态是否有益于后续网络处理。在此基础上,进一步对不同特征通道的特征权重进行学习,分别进行全局最大池化和全局平均池化操作,实现动态调整通道特征对于整体结果的影响,筛选出有益于最终结果的特征通道并删除无效特征通道,最终经过Softmax层输出算法网络的预测分析结果。实验结果表明,所提算法相较于优化前原始算法的准确率提升了约8.79%,比主流经典算法的综合准确率高出约3.99%。 展开更多

关键词 自然语言 语义感知 舆情分析 transformER 通道注意力机制 特征提取

在线阅读 下载PDF 职称材料

基于扩散方法的特征动态库

5

作者 黄山 范慧杰 +2 位作者 林森 曹镜涵 唐延东 《计算机工程与应用》 北大核心 2025年第5期241-249,共9页

弱监督语义分割(weakly-supervised semantic segmentation,WSSS)利用更简单易得的图像级标注(框、点、线和类别信息),以训练分类模型的方式获取物体分割区域,从而实现图像像素级预测。由于主流的分割算法仍然需要依赖大量的标注数据,... 弱监督语义分割(weakly-supervised semantic segmentation,WSSS)利用更简单易得的图像级标注(框、点、线和类别信息),以训练分类模型的方式获取物体分割区域,从而实现图像像素级预测。由于主流的分割算法仍然需要依赖大量的标注数据,而逐像素标注十分昂贵、费时且费力,为了减轻这一负担,人们越来越关注高效利用弱标注的信息生成标签这种方法。在弱监督方面关注两个问题:一是生成的伪标签图像不够完整,二是分类不够精准。现有的绝大部分方法都只考虑了第一点,而提出的基于扩散方法的特征动态存储方案既保证了标签的完整性又兼顾了类别特征,通过抑制最显著区域以扩散激活图的激活区域方式,并使用前景背景分离的细化方案剔除类激活图的冗余噪声;最后输入特征动态库在训练阶段引入语义标签使得每个类别实时更新。在Pascal VOC 2012数据集上,提出的方法对比现有大部分弱监督语义分割方法,均展现了优越性;对比以Transformer为骨干网络的新方法,在验证集和测试集上分别高2.5个百分点和2.9个百分点。 展开更多

关键词 弱监督 特征提取 语义分割 transformER

在线阅读 下载PDF 职称材料

基于Dopplerlet变换的舰船辐射噪声特征提取方法 被引量：2

6

作者 王向军 嵇斗 +2 位作者 张民 方兴 丁永忠 《数据采集与处理》 CSCD 北大核心 2006年第2期188-192,共5页

在对信号进行线性变换的过程中,最好将基函数取成与待分析信号的性态相类似的信号。基于此,提出了一种基于D opp lerlet变换的舰船辐射噪声特征提取方法,给出了基于进化规划算法的D opp lerlet变换分解流程。理论上该方法提取出的特征... 在对信号进行线性变换的过程中,最好将基函数取成与待分析信号的性态相类似的信号。基于此,提出了一种基于D opp lerlet变换的舰船辐射噪声特征提取方法,给出了基于进化规划算法的D opp lerlet变换分解流程。理论上该方法提取出的特征不包含其他噪声的信息,因此由此提取出的舰船噪声特征更加可靠。使用本文方法与基于小波变换、波形结构、自然尺度等的特征提取方法对收集到的舰船辐射噪声进行了对比识别试验,结果证明基于D opp lerlet变换的舰船辐射噪声特征提取方法更加可靠和有效。 展开更多

关键词 特征提取 dopplerlet变换 舰船辐射噪声 小波变换 波形结构 自然尺度

在线阅读 下载PDF 职称材料

融合语义感知与模型生成的异常医疗数据识别算法设计

7

作者 高昱 韩智涌 《现代电子技术》 北大核心 2025年第4期159-163,共5页

为了能够对海量电子诊疗信息中的异常数据进行识别,提出一种融合语义感知与模型生成的异常医疗数据识别算法。通过融入胶囊神经网络并改进Transformer网络,实现了对医疗电子病历结构和生成语义特征的感知提取;结合胶囊神经网络和Transfo... 为了能够对海量电子诊疗信息中的异常数据进行识别,提出一种融合语义感知与模型生成的异常医疗数据识别算法。通过融入胶囊神经网络并改进Transformer网络,实现了对医疗电子病历结构和生成语义特征的感知提取;结合胶囊神经网络和Transformer网络的损失函数,加速了模型的收敛,从而提高了模型的异常数据识别准确率。在电子病历数据集上进行的实验结果表明,所提模型的准确率可达94.2%,高于多种现有的主流异常数据识别诊断模型。证明该模型算法能够对医疗电子病历实现语义感知和异常数据识别,为实现智能化的辅助诊疗提供了技术基础。 展开更多

关键词 电子病历 异常数据识别 语义感知 模型生成 胶囊神经网络 transformer网络 语义特征提取

在线阅读 下载PDF 职称材料

基于自然语言语义感知的敏感信息识别与分析算法

8

作者 张晓燕 《现代电子技术》 北大核心 2025年第18期17-21,共5页

针对日益增长的自然语言敏感信息分析问题,提出一种基于LSTM和CNN的综合处理算法。该算法对输入数据编码后划分重点词汇,并对所有词汇进行统计汇总,构建生成敏感词汇表,进而采用排序算法将敏感词汇按照出现的频率进行排序和存储管理。通... 针对日益增长的自然语言敏感信息分析问题,提出一种基于LSTM和CNN的综合处理算法。该算法对输入数据编码后划分重点词汇,并对所有词汇进行统计汇总,构建生成敏感词汇表,进而采用排序算法将敏感词汇按照出现的频率进行排序和存储管理。通过BiLSTM对敏感信息表的表征向量进行提取,从而表征出样本中的敏感信息特征度。基于Transformer结构中的矩阵计算方法,设置查询向量Q为提取出的文本表征向量,设置值矩阵V为所提取的敏感信息的相关参数值,用于计算注意力值,并进一步引入基于特征位置表达的注意力特征,综合提升算法的识别准确率。实验结果表明:所提算法的识别准确率相较于最优的对比算法提高了约2.319%;消融实验对比结果显示,改进算法的识别准确率相较于原始算法提升了约6.941%。 展开更多

关键词 自然语言处理 敏感信息 语义感知 特征提取 信息识别 长短期记忆模型 transformER

在线阅读 下载PDF 职称材料

基于Transformer的红外小目标分割算法研究

9

作者 张严 段沛沛 车祎瑜 《现代电子技术》 2023年第18期8-14,共7页

红外小目标由于成像距离远,在其图像中仅为很少的几个像素点,因此无法有效获取目标的形状、纹理等特征,进而难以将其从复杂背景中提取出来。文中在分析红外小目标图像特点的基础上,将已在自然语言处理领域取得成功的Transformer模型引... 红外小目标由于成像距离远,在其图像中仅为很少的几个像素点,因此无法有效获取目标的形状、纹理等特征,进而难以将其从复杂背景中提取出来。文中在分析红外小目标图像特点的基础上,将已在自然语言处理领域取得成功的Transformer模型引入到红外小目标检测领域,提出一个基于Transformer模型的红外小目标图像分割网络U-former。该网络采用U形的编码器-解码器结构,通过对图像像素点的线性叠加和切分,保留小目标细节特征;同时在编码器的不同层次中使用Transformer模型对图像全局特征进行分析,通过对背景信息的提取和抑制,实现小目标的分割提取。实验结果表明:U-former网络能够在复杂背景中分割提取出红外小目标,且相比已有的其他方法,所提方法可以获得更高的F-Measure值,在低虚警率下获得较高的目标检测率。 展开更多

关键词 红外小目标 U-former网络 transformER 图像语义分割 特征提取 编码器 解码器

在线阅读 下载PDF 职称材料

利用BERT和覆盖率机制改进的HiNT文本检索模型 被引量：4

10

作者 邸剑 刘骏华 曹锦纲 《智能系统学报》 CSCD 北大核心 2024年第3期719-727,共9页

为有效提升文本语义检索的准确度,本文针对当前文本检索模型衡量查询和文档的相关性时不能很好地解决文本歧义和一词多义等问题,提出一种基于改进的分层神经匹配模型(hierarchical neural matching model,HiNT)。该模型先对文档的各个... 为有效提升文本语义检索的准确度,本文针对当前文本检索模型衡量查询和文档的相关性时不能很好地解决文本歧义和一词多义等问题,提出一种基于改进的分层神经匹配模型(hierarchical neural matching model,HiNT)。该模型先对文档的各个段提取关键主题词,然后用基于变换器的双向编码器(bidirectional encoder representations from transformers,BERT)模型将其编码为多个稠密的语义向量,再利用引入覆盖率机制的局部匹配层进行处理,使模型可以根据文档的局部段级别粒度和全局文档级别粒度进行相关性计算,提高检索的准确率。本文提出的模型在MS MARCO和webtext2019zh数据集上与多个检索模型进行对比,取得了最优结果,验证了本文提出模型的有效性。 展开更多

关键词 基于变换器的双向编码器 分层神经匹配模型 覆盖率机制 文本检索 语义表示 特征提取 自然语言处理 相似度 多粒度

在线阅读 下载PDF 职称材料

基于语义分割的视频鱼类特征提取方法研究 被引量：1

11

作者 李潇洋 陈健 常剑波 《水生态学杂志》 CSCD 北大核心 2024年第5期204-212,共9页

从视频图像中快速、准确提取水生生物(如鱼类)的特征信息,是信息科学与水生态研究结合的热点。基于Transformer的视觉模型,采用一种基于弱监督语义分割的视频鱼类特征提取方法,在无需预训练或微调的条件下,可以实现对鱼的身体、头部和鱼... 从视频图像中快速、准确提取水生生物(如鱼类)的特征信息,是信息科学与水生态研究结合的热点。基于Transformer的视觉模型,采用一种基于弱监督语义分割的视频鱼类特征提取方法,在无需预训练或微调的条件下,可以实现对鱼的身体、头部和鱼鳍3类形态区域标签的分割提取。采用DeepFish分割数据集构建计算机视觉自注意力模型(vision transformer,ViT),通过对水下拍摄的鱼类视频进行实验,结果实现了鱼体形态主体特征的有效提取,对拟定的3类形态标签区域进行了良好的分割标记。研究方法具有较高的效率、分割准确度和标记区域的连续平滑性,可提供良好的语义特征,为人工智能技术在鱼类等水生生物监测实践中提供了一种低成本、高效率的新方法。 展开更多

关键词 弱监督学习 语义分割 视觉自注意力模型 鱼类特征提取

在线阅读 下载PDF 职称材料

基于奇异值分解的专利术语层次关系解析研究 被引量：6

12

作者 吴志祥 王昊 +2 位作者 王雪颖 祁磊 苏新宁 《情报学报》 CSSCI CSCD 北大核心 2017年第5期473-483,共11页

奇异值分解是矩阵分析中常用的分解技术,在高维数据的降维、去噪方面有着广泛的应用。本文将矩阵的奇异值分解技术应用到领域专利术语的层次关系解析中,其核心思想是术语语义空间的深度转换,旨在用某种潜在特征代替文档作为属性来表示... 奇异值分解是矩阵分析中常用的分解技术,在高维数据的降维、去噪方面有着广泛的应用。本文将矩阵的奇异值分解技术应用到领域专利术语的层次关系解析中,其核心思想是术语语义空间的深度转换,旨在用某种潜在特征代替文档作为属性来表示术语。具体研究包括,基于位置加权的原始术语-文档语义空间的构建方法、基于奇异值分解的术语特征抽取方法、基于术语-特征语义空间的术语层次关系解析方法。本文对论述的理论方法进行了实证研究,证实了该方法的可行性和有效性,并在此基础上实现较大规模的钢铁冶金领域专利术语层次关系解析,将解析结果纳入到本体学习理论体系中,实现该领域专利术语的知识本体化与可视化。 展开更多

关键词 术语语义空间转换 矩阵奇异值分解 术语特征抽取 术语层次关系 本体学习

在线阅读 下载PDF 职称材料

复杂细微差异化网络数据特征的语义优化提取算法 被引量：4

13

作者 杨伟杰 《计算机科学》 CSCD 北大核心 2015年第8期269-272,共4页

对网络数据的复杂、细微、差异化特征进行语义提取,是实现Web网络数据准确识别和检索的关键技术。复杂、细微、差异化的网络数据语义特征具有非线性和随机散布性的特点,其主题分布广、更新频率大,从而造成语义特征提取困难。传统方法采... 对网络数据的复杂、细微、差异化特征进行语义提取,是实现Web网络数据准确识别和检索的关键技术。复杂、细微、差异化的网络数据语义特征具有非线性和随机散布性的特点,其主题分布广、更新频率大,从而造成语义特征提取困难。传统方法采用小波基函数投影算法进行语义特征的提取,性能不好。提出了一种基于Dopplerlet变换匹配投影的网络数据特征语义优化提取算法。首先构建语义高斯边缘化矩形窗函数进行融合滤波处理,通过文本切分把大量的信息熵数据进行小波基函数投影,有效剔除簇内异常数据;然后利用Dopplerlet变换匹配投影的自相似特性,自适应匹配语义的非线性谱特征,在Hilbert张成子空间中,实现对语义特征的提取和优化表达,再完成提取。仿真实验表明,该算法提高了对网络数据特征语义的表达能力,能有效区分差异网络数据中的冗余数据和残差数据,提高对杂细微差异化网络数据的检测识别和检索能力。 展开更多

关键词 dopplerlet变换 语义 特征提取

在线阅读 下载PDF 职称材料

网络舆情内容分析中的Web文本语义特征抽取研究 被引量：4

14

作者 徐震 《图书馆学研究》 CSSCI 2016年第1期26-31,共6页

网络舆情内容分析的重点是Web文本的内容处理,而抽取Web文本特征是内容处理的基础。首先利用N-Gram算法进行特征项选择并计算权重,然后利用网络舆情领域本体对原始特征进行抽取转换,得到Web文本的语义特征,利用语义特征向量来表征Web文... 网络舆情内容分析的重点是Web文本的内容处理,而抽取Web文本特征是内容处理的基础。首先利用N-Gram算法进行特征项选择并计算权重,然后利用网络舆情领域本体对原始特征进行抽取转换,得到Web文本的语义特征,利用语义特征向量来表征Web文本,将Web文本的相似度转换为基于领域本体的语义特征相似度,提高了网络舆情内容分析的准确度。实验结果表明该方法达到了理想效果。 展开更多

关键词 网络舆情分析 语义特征 抽取转换

原文传递

基于多通道自注意力机制的电子病历实体关系抽取 被引量：40

15

作者 宁尚明 滕飞 李天瑞 《计算机学报》 EI CSCD 北大核心 2020年第5期916-929,共14页

电子病历是临床治疗过程中患者病情及治疗流程的重要载体之一,其中各类实体间关系包含了大量与患者健康相关的医学信息.因此,对电子病历文本的深度挖掘是获取医学知识、分析患者病情的有效手段之一.实体的高密度分布以及实体间关系的交... 电子病历是临床治疗过程中患者病情及治疗流程的重要载体之一,其中各类实体间关系包含了大量与患者健康相关的医学信息.因此,对电子病历文本的深度挖掘是获取医学知识、分析患者病情的有效手段之一.实体的高密度分布以及实体间关系的交叉互联为电子病历实体关系的抽取带来了极大挑战,应用于通识领域的实体关系抽取方法也因此受到极大的限制.针对这一文本差异性,本文提出一种基于多通道自注意力机制的"recurrent+transformer"神经网络架构,相比于主流的"recurrent+CNN"架构,该架构可强化模型对句级别语义特征的捕捉,提升对电子病历专有文本特点的学习能力,同时显著降低模型整体复杂度.此外,本文提出在该网络架构下的两种基于权重的辅助训练方法:带权学习的交叉熵损失函数以及基于权重的位置嵌入,前者用于缓解实体关系类别不均衡所造成的训练偏置问题,从而提升模型在真实分布数据中的普适性,同时可加速模型在参数空间的收敛速率;后者则用于进一步放大文本字符位置信息的重要性,以辅助提升transformer网络的训练效果.对比实验选用目前主流方法的6个模型作为基线,相继在2010i2b2/VA及SemEval 2013DDI医学语料中进行验证.相较于传统自注意力机制,多通道自注意力机制的引入在模型整体F1指标中最高实现10.67%的性能提升,在细粒度单项对比实验中,引入类别权重的损失函数在小类别样本中的F1值最高提升近23.55%. 展开更多

关键词 关系抽取 电子病历 多通道自注意力 recurrent+transformer 语义特征

在线阅读 下载PDF 职称材料

融合高度信息的遥感图像语义分割网络 被引量：4

16

作者 高梁 钱育蓉 刘慧 《计算机工程与设计》 北大核心 2023年第8期2417-2424,共8页

针对遥感图像分割精度低的问题,提出一种融合高度信息的遥感图像语义分割网络。将光谱信息和高度信息进行融合,从不同的数据中提取地物的特征信息。针对卷积网络受固定感受野的限制,无法有效获取特征图上下文信息的问题,将Transformer... 针对遥感图像分割精度低的问题,提出一种融合高度信息的遥感图像语义分割网络。将光谱信息和高度信息进行融合,从不同的数据中提取地物的特征信息。针对卷积网络受固定感受野的限制,无法有效获取特征图上下文信息的问题,将Transformer应用到网络中建模特征图的全局相关性,增强网络的特征提取能力。为有效利用融合特征图中的信息,提出基于自注意力的解码器。通过在韦兴根和波茨坦数据集上进行实验,验证了所提网络与其它先进网络相比具有竞争力。 展开更多

关键词 遥感图像 语义分割 自注意力 上下文信息 transformER 高度信息 特征提取

在线阅读 下载PDF 职称材料