期刊文献+
任意字段
题名或关键词
题名
关键词
文摘
作者
第一作者
机构
刊名
分类号
参考文献
作者简介
基金资助
栏目信息
共找到3篇文章
< 1 >
每页显示 20 50 100
已选择0条
导出题录 引用分析
参考文献
引证文献
 统计分析
检索结果
已选文献
显示方式：
多模态大模型安全研究进展 被引量：1
1
作者 郭园方 余梓彤 +8 位作者 刘艾杉 周文柏 乔通 李斌 张卫明 康显桂 周琳娜 俞能海 黄继武 《中国图象图形学报》 北大核心 2025年第6期2051-2081,共31页
多模态大模型的安全性研究已成为当下人工智能领域的焦点。由于大模型以深度神经网络为核心构建,因此与深度神经网络类似,存在多种安全风险。此外,由于其特有的复杂性,以及广泛的应用场景,也使得大模型面临一些独特的安全风险。本文系... 多模态大模型的安全性研究已成为当下人工智能领域的焦点。由于大模型以深度神经网络为核心构建,因此与深度神经网络类似,存在多种安全风险。此外,由于其特有的复杂性,以及广泛的应用场景,也使得大模型面临一些独特的安全风险。本文系统地总结多模态大模型的安全风险,包括对抗攻击、越狱攻击、后门攻击、版权窃取、幻觉现象、泛化问题以及偏见问题等。具体来说,在对抗攻击中,攻击者通过构造微小但具有欺骗性的对抗样本,使大模型在面对带噪输入时产生严重的误判;越狱攻击利用大模型的复杂结构,绕过或破坏原有的安全约束和防御措施,使模型执行未授权的操作,甚至泄露敏感数据;后门攻击则通过在大模型的训练阶段植入隐秘的触发器,使模型在特定条件下做出攻击者预期的反应;未经授权的窃取者可能未经模型拥有者的同意随意分发或进行商业使用,将导致模型版权拥有者遭受损失;幻觉现象,即模型输出与输入不一致的问题;泛化问题即大模型当前应对部分新数据分布或风格的能力仍显不足;大模型在性别、种族、肤色和年龄等敏感问题上的偏向性可能引发伦理等问题。随后,针对这些安全风险分别介绍相应的解决方案。本文旨在为理解和应对多模态大模型的独特安全挑战提供一个独特的视角,促进多模态大模型安全技术的发展,引导未来相关安全技术的发展方向。 展开更多
关键词 多模态大模型 大模型安全 对抗样本(AE) 越狱攻击 后门攻击 版权窃取 模型幻觉 模型偏见
原文传递
智能装备深度学习算法模型脆弱性分析及攻击技术研究综述
2
作者 罗荣 杨星 +1 位作者 完颜娟 陈卓 《智能安全》 2025年第1期36-44,共9页
智能装备作为打赢未来智能化战争的物质基础,是军事强国重点发展对象,在俄乌冲突中已开始应用于情报分析、目标识别等领域,因此如何有效反制智能装备成为打赢未来智能化战争亟需解决的问题。深度学习算法模型的脆弱性使得从算法角度反... 智能装备作为打赢未来智能化战争的物质基础,是军事强国重点发展对象,在俄乌冲突中已开始应用于情报分析、目标识别等领域,因此如何有效反制智能装备成为打赢未来智能化战争亟需解决的问题。深度学习算法模型的脆弱性使得从算法角度反制智能装备成为可能。为此,深入分析了智能装备深度学习算法模型脆弱性产生的根源,总结了攻击深度学习算法模型的内在一般机理,阐述了投毒攻击、后门攻击、对抗攻击以及模型窃取攻击等深度学习算法模型典型攻击手段的概念内涵、基本原理、研究现状,分析了存在问题、技术难点与主要挑战,明确了未来发展方向与重点,可为智能装备深度学习算法模型攻击研究提供参考。 展开更多
关键词 深度学习 投毒攻击 后门攻击 对抗攻击 模型窃取攻击
在线阅读 下载PDF
基于消费者攻击模型的配电台区智能窃电检测研究
3
作者 姚杭东 钟爱 +2 位作者 安大炜 冉艳 叶大勇 《微型电脑应用》 2025年第10期88-91,共4页
提出一种基于消费者攻击模型的配电台区智能窃电检测方案,可以有效提高配电台区窃电检测的可观测性和检测精度。对网络系统测量模型的可观察性进行分析,并构建消费者攻击模型以研究窃电的攻击机理和攻击效果,使用GPS算法对网格传感器进... 提出一种基于消费者攻击模型的配电台区智能窃电检测方案,可以有效提高配电台区窃电检测的可观测性和检测精度。对网络系统测量模型的可观察性进行分析,并构建消费者攻击模型以研究窃电的攻击机理和攻击效果,使用GPS算法对网格传感器进行放置并对可疑用户进行窃电检测,搭建仿真案例对所提方案进行验证。仿真结果表明,所提方案可以有效提高配电台区窃电检测的可观测性和检测精度。 展开更多
关键词 配电台区 智能窃电检测 消费者攻击模型 网格传感器 检测精度
在线阅读 下载PDF
已选择0条
导出题录 引用分析
参考文献
引证文献
 统计分析
检索结果
已选文献
上一页 1 下一页 到第 页
使用帮助 返回顶部