基于知识蒸馏的卷积神经网络压缩方法 被引量：1

1

作者 郑筠 高朋 《沈阳工业大学学报》 北大核心 2025年第3期348-354,共7页

【目的】卷积神经网络作为深度学习领域的一项重要技术,在图像识别、目标检测、自然语言处理等多个领域展现出了卓越的性能。然而,随着模型深度和复杂度的增加,卷积神经网络模型的大小和计算需求也急剧上升,这为模型的部署和实时应用提... 【目的】卷积神经网络作为深度学习领域的一项重要技术,在图像识别、目标检测、自然语言处理等多个领域展现出了卓越的性能。然而,随着模型深度和复杂度的增加,卷积神经网络模型的大小和计算需求也急剧上升,这为模型的部署和实时应用提出了严峻挑战。【方法】为减少神经网络的大小和计算量,并提高模型的效率和可部署性,提出了基于知识蒸馏的卷积神经网络压缩方法。通过将大型复杂模型(教师网络模型)中的知识转移给小型精简模型(学生网络模型)来实现模型的压缩和加速,本文建立了性能优异的教师网络和结构更简单、参数更少的学生网络。教师网络负责提供丰富的特征表示和准确的预测结果,学生网络则通过学习教师网络行为来逼近其性能。使用标准损失函数,并通过反向传播算法迭代更新其参数,确保其在训练数据集上达到良好的性能。采用改进知识蒸馏方法获取综合阈值函数,评估教师网络和学生网络之间的知识差异,并指导学生网络的学习过程。在训练过程中,学生网络利用综合阈值函数进行监督,逐步逼近教师网络的输出,同时保持较小的模型结构和计算复杂度,从而实现了卷积神经网络的压缩处理。【结果】实验结果表明:本文方法在ImageNet和Labelme数据集上均表现出较好的模型压缩效果。其中,本文方法在压缩前后卷积神经网络输出结果的拟合度较高,表明学生网络成功学到了教师网络的关键特征;交叉熵损失值较低,在1.0左右,进一步验证了其良好的预测性能;完成卷积神经网络模型的压缩时间较短,为79.8~89.4 s,表明本文方法具有较高的计算效率。【结论】由以上结果可知,基于知识蒸馏卷积神经网络压缩方法能够有效减小模型结构、降低计算量,并保持甚至提升了模型的性能。本文方法不仅为模型压缩提供了一种新的思路,还为深度学习模型的部署和应用提供了有力支持。此外,本文方法在知识蒸馏方法上进行了改进,通过引入综合阈值函数来更全面地评估和指导模型的学习过程,在一定程度上提升了知识蒸馏的效果和效率。因此,本文方法不仅具有理论价值,还具有重要的实践意义。 展开更多

关键词 卷积神经网络压缩 改进知识蒸馏方法 判别器 学生网络 教师网络 标准损失函数 综合阈值函数 交叉熵损失值

在线阅读 下载PDF 职称材料

改进的U-Net网络小断层识别技术在玛湖凹陷玛中地区三叠系白碱滩组的应用 被引量：3

2

作者 宋志华 李垒 +2 位作者 雷德文 张鑫 凌勋 《岩性油气藏》 CAS CSCD 北大核心 2024年第3期40-49,共10页

利用改进的U-Net网络小断层识别技术,对准噶尔盆地玛湖凹陷玛中地区三叠系白碱滩组的小断层进行了识别。研究结果表明:(1)构造导向滤波预处理能有效改善地震资料的品质,提高断层识别的准确率。加入了跳跃连接和中继监督、正态标准化和... 利用改进的U-Net网络小断层识别技术,对准噶尔盆地玛湖凹陷玛中地区三叠系白碱滩组的小断层进行了识别。研究结果表明:(1)构造导向滤波预处理能有效改善地震资料的品质,提高断层识别的准确率。加入了跳跃连接和中继监督、正态标准化和聚焦均方损失函数的U-Net网络方法,对小断层的精细识别能力有所提升。(2)使用200组训练样本集和20组验证样本集,模型地震数据由反射系数与雷克子波褶积生成,断层由人工标注而成。选取最优的网络模型参数,并在合成的含噪地震数据上分别利用相干属性、常规U-Net网络方法及改进的U-Net网络方法进行测试,构造导向滤波有效突出了断层的边界,且增强了同相轴的横向连续性,改进后的U-Net网络方法对于7 m以上断距的断层可进行有效识别。(3)对于玛湖凹陷玛中地区三叠系白碱滩组高角度走滑断裂和伴生小断距次级断裂的识别,改进后的U-Net网络方法的识别精度明显高于相干属性和常规U-Net网络方法,研究区大侏罗沟断裂北翼的(3)号与(4)号砂体,是拓展MZ4井区三叠系白碱滩组高效勘探的有利区。 展开更多

关键词 U-Net网络 断层识别 高角度走滑断裂 伴生小断距次级断裂 正态标准化 聚焦均方损失函数 白碱滩组 三叠系 玛湖凹陷

在线阅读 下载PDF 职称材料

《“健康中国2030”规划纲要》与学校体育改革施策(2) 目标:《国家学生体质健康标准》达标优秀率25%以上 被引量：87

3

作者 毛振明 杨多多 李海燕 《武汉体育学院学报》 CSSCI 北大核心 2018年第4期75-80,共6页

《"健康中国2030"规划纲要》提出了"《国家学生体质健康标准》达标优秀率25%以上"的目标,如此明确的目标尚属首次,表明中国已经决心把增强学生体质作为实现健康中国的标志与途径。目标盯准"达标优秀率25%"... 《"健康中国2030"规划纲要》提出了"《国家学生体质健康标准》达标优秀率25%以上"的目标,如此明确的目标尚属首次,表明中国已经决心把增强学生体质作为实现健康中国的标志与途径。目标盯准"达标优秀率25%"是因为优秀率的提高最为响亮且难度适中。《国家学生体质健康标准》成为《"健康中国2030"规划纲要》的标尺后,其本身的可信性、有效性、精确性必然被严格要求和审视,但《标准》本身的诸多问题已经存在,具有7方面的失效现象。要使《国家学生体质健康标准》的达标成为促进学校体育工作的动力源和有信度效度的评价标准,第一步的工作要实现其可信的、科学的、全面的、精准的测量;第二步的工作要实现具有针对性、工作性和警示性的体质数据的精准分析;第三步的工作是要通过科学有效的工作实现平台化、责任性、个性化、实效性、共管性的精准干预。 展开更多

关键词 “健康中国2030”规划纲要 国家学生体质健康标准 劳卫制 国家体育锻炼标准 机能失效 精准测量 精准分析 精准干预

在线阅读 下载PDF 职称材料

激素依赖性皮炎与皮肤屏障功能及修复 被引量：11

4

作者 康晓静 冯燕艳 《中国医学文摘（皮肤科学）》 2015年第3期261-264,3,共4页

不当外用糖皮质激素可导致激素依赖性皮炎,短期外用可明显降低皮肤屏障功能的恢复速度,长期使用则会引起皮肤屏障结构的改变。激素依赖性皮炎具体发病机制较为复杂,皮肤屏障功能破坏可加重皮肤炎症反应。激素依赖性皮炎的治疗及使用糖... 不当外用糖皮质激素可导致激素依赖性皮炎,短期外用可明显降低皮肤屏障功能的恢复速度,长期使用则会引起皮肤屏障结构的改变。激素依赖性皮炎具体发病机制较为复杂,皮肤屏障功能破坏可加重皮肤炎症反应。激素依赖性皮炎的治疗及使用糖皮质激素进行治疗的过程中应适当使用皮肤屏障保护产品;强脉冲光能明显改善激素依赖性患者皮肤的油脂、p H和弹性而不增加经皮水分丢失,因此对激素依赖性皮炎有较好疗效。 展开更多

关键词 激素依赖性皮炎 皮肤屏障功能 经皮水分丢失

原文传递

标准差计算原理下的最优再保险 被引量：1

5

作者 曹玉松 张奕 《浙江大学学报（理学版）》 CAS CSCD 北大核心 2006年第4期379-382,392,共5页

介绍了在标准差计算原理下,如何得出最优再保险的策略,使得保险人和再保险人双方的风险和达到最小.在一个限制条件函数类中,给出了在较为一般的风险测量函数下,最优再保险函数的充分条件.并且,在方差作为风险测量的情形下,给出了最优再... 介绍了在标准差计算原理下,如何得出最优再保险的策略,使得保险人和再保险人双方的风险和达到最小.在一个限制条件函数类中,给出了在较为一般的风险测量函数下,最优再保险函数的充分条件.并且,在方差作为风险测量的情形下,给出了最优再保险合同的具体形式,以及最优再保险函数参数的确定方法. 展开更多

关键词 再保险 变换损失 风险函数 标准差原理 拉格朗日函数

在线阅读 下载PDF 职称材料

《分级》中肢体功能丧失未列入残疾列举与比照的探讨 被引量：2

6

作者 成静 《北方民族大学学报（哲学社会科学版）》 CSSCI 北大核心 2018年第4期104-112,共9页

《人体损伤致残程度分级》(以下简称《分级》)标准条款设定采用列举式表述方法,不可能穷尽所有伤情与残情。从《分级》肢体功能丧失条款设定与构成上来看,多采用了组合式方式。我们仅就肢体功能丧失未列入标准的残情采用组合式方式,列... 《人体损伤致残程度分级》(以下简称《分级》)标准条款设定采用列举式表述方法,不可能穷尽所有伤情与残情。从《分级》肢体功能丧失条款设定与构成上来看,多采用了组合式方式。我们仅就肢体功能丧失未列入标准的残情采用组合式方式,列举出参照残情,以便司法鉴定实践中提供一些比照参考。 展开更多

关键词 肢体功能丧失 标准条款 参照残情 比照 参考等级

在线阅读 下载PDF 职称材料

一种新型风险下的最优再保险

7

作者 纪玉卿 曹玉松 《许昌学院学报》 CAS 2008年第2期19-22,共4页

在标准差计算原理下,给出了最优再保险函数要满足的充分条件.当保险人采取截方差风险测量、再保险人采取方差风险测量时,在一个限制条件函数类中,给出了最优再保险函数的具体形式.

关键词 再保险 变换损失 风险函数 标准差原理 拉格朗日函数

在线阅读 下载PDF 职称材料

IEC标准框架下谐波和间谐波检测的最优化方法 被引量：7

8

作者 金维刚 刘会金 《电力系统自动化》 EI CSCD 北大核心 2012年第2期70-76,共7页

首先根据Parseval能量积分公式,推导了离散信号经离散傅里叶变换(DFT)后时频域能量的表达公式,并且分析指出,将Hanning窗函数应用于国际电工委员会(IEC)标准框架下的集合概念,其前提条件是保证加窗前的时域能量与加窗(并DFT)后的频域能... 首先根据Parseval能量积分公式,推导了离散信号经离散傅里叶变换(DFT)后时频域能量的表达公式,并且分析指出,将Hanning窗函数应用于国际电工委员会(IEC)标准框架下的集合概念,其前提条件是保证加窗前的时域能量与加窗(并DFT)后的频域能量相等,同时提出引入"能量损失修正系数"来达到该条件。而后,利用能量损失修正系数,得出了加Hanning窗时集合概念的表达公式,该公式与IEC标准框架下的集合概念完全兼容。接着,对IEC推荐的谐波和间谐波检测方法进行了扩展,扩展方法将谐波和间谐波的检测细化为4种测量环境和5个衡量指标。最后,详细分析了每种测量环境下影响测量精度的因素,并且多方位比较与该测量环境相对应的5个衡量指标的综合性能,从5个指标中选出性能最优的一个作为该测量环境下的最优衡量指标。在实际测量时,根据具体的测量环境,选择对应的最优衡量指标,可以得到最精确的测量结果。 展开更多

关键词 IEC标准框架 集合 谐波/间谐波检测 Hanning窗函数 能量损失修正系数 测量环境 最优衡量指标 离散傅里叶变换

在线阅读 下载PDF 职称材料

质量分级标准设计方法研究 被引量：1

9

作者 茅婷 张月义 虞岚婷 《标准科学》 2019年第12期114-117,共4页

文章借鉴传统标准技术参数设计方法,应用田口质量损失函数,探索质量分级标准的设计思路与方法,综合考虑高质量需要增加的投入和优质优价可以实现的收益,提出了优等品标准界限的设计方法,将产品依据质量波动的程度分为优等品、合格品和... 文章借鉴传统标准技术参数设计方法,应用田口质量损失函数,探索质量分级标准的设计思路与方法,综合考虑高质量需要增加的投入和优质优价可以实现的收益,提出了优等品标准界限的设计方法,将产品依据质量波动的程度分为优等品、合格品和不合格品,为企业和相关决策部门开展先进标准引领和质量提升等工作需要制定高水平标准提供理论依据和决策参考。最后通过实例对质量分级标准设计方法进行了验证。 展开更多

关键词 质量分级 标准设计 质量损失函数 优等品

在线阅读 下载PDF 职称材料

保险的防灾防损职能亟待强化

10

作者 万金文 《保险研究》 CSSCI 北大核心 2007年第10期40-42,共3页

目前,作为保险重要派生职能的防灾防损工作处在无岗位、无投入、无活动、无要求的尴尬境地。这样的局面使社会财富和人员遭受不应有的损失、使公司的稳健经营受到损害、使保险行业的形象受到影响。造成防灾防损工作弱化的原因是观念出的... 目前,作为保险重要派生职能的防灾防损工作处在无岗位、无投入、无活动、无要求的尴尬境地。这样的局面使社会财富和人员遭受不应有的损失、使公司的稳健经营受到损害、使保险行业的形象受到影响。造成防灾防损工作弱化的原因是观念出的"错"、竞争惹的"祸"、政策结的"果"、时势摆的"局"。我们要从提高认识、加强合作、注重宣传、规范核保、落实责任等方面入手,切实做好防灾防损工作。 展开更多

关键词 派生职能 防灾防损 风险管理 规范核保 落实责任

原文传递

考虑质量损失和预防维修策略下的VSI EWMA标准差控制图经济决策模型 被引量：2

11

作者 薛丽 李聪凯 贾元忠 《工业工程与管理》 北大核心 2021年第3期141-149,共9页

为了提高控制图监控效率和降低过程质量损失成本,提出一种监控过程标准差的可变抽样区间(VSI)指数加权移动平均(EWMA)控制图联合经济设计方法。首先,在考虑质量损失和预防维修决策的前提下,构建VSI EWMA标准差控制图的联合经济决策模型... 为了提高控制图监控效率和降低过程质量损失成本,提出一种监控过程标准差的可变抽样区间(VSI)指数加权移动平均(EWMA)控制图联合经济设计方法。首先,在考虑质量损失和预防维修决策的前提下,构建VSI EWMA标准差控制图的联合经济决策模型,使期望损失函数最小确定控制图设计参数的最优值。其次,以期望损失函数为适应性函数,采用遗传算法寻找联合经济决策模型的最优解。然后,对VSI EWMA标准差控制图联合经济决策模型进行灵敏度分析,研究了控制图模型参数对设计参数与期望损失函数的影响关系。最后,最优性分析表明基于联合经济决策模型设计的VSI EWMA控制图具有较小的期望损失,在经济性方面优于静态EWMA控制图以及平均报警时间为准则设计的VSI EWMA控制图。 展开更多

关键词 可变抽样区间 指数加权移动平均图 监控标准差 经济决策模型 质量损失函数 预防维修

原文传递