-
题名基于多任务自适应知识蒸馏的语音增强
- 1
-
-
作者
张刚敏
李雅荣
贾海蓉
王鲜霞
段淑斐
-
机构
太原理工大学电子信息与光学工程学院
太原理工大学数学学院
-
出处
《太原理工大学学报》
CAS
北大核心
2024年第4期720-726,共7页
-
基金
国家自然科学基金资助项目(12004275)
Shanxi Scholarship Council of China(2020-042)
山西省自然科学基金资助项目(20210302123186)。
-
文摘
【目的】提出一种多任务自适应知识蒸馏的语音增强算法,旨在解决复杂模型在时间和硬件等计算成本方面带来的问题,同时提高语音增强算法的性能。【方法】首先,采用知识蒸馏的思想来解决现有的语音增强模型过于庞大、参数多造成计算成本上升问题;其次,充分考虑不同时频单元之间的差异,引入加权因子来优化传统损失函数提升学生网络性能;为了避免教师网络预测的不确定性影响学生网络的性能,构建多任务自适应学习的知识蒸馏网络,可以更好地利用不同任务之间的关联性优化模型。【结果】实验仿真结果表明,所提出的算法在减少参数量、缩短计算时间的同时,还能有效提高语音增强模型的性能。
-
关键词
语音增强
知识蒸馏
多任务自适应学习
加权损失函数
-
Keywords
speech enhancement
knowledge distillation
multi-task adaptive learning
weigh-ted loss function
-
分类号
TN912.3
[电子电信—通信与信息系统]
-
-
题名带有半渐进式分层提取机制的轻量化多任务模型
被引量:3
- 2
-
-
作者
杨程
车文刚
-
机构
昆明理工大学信息工程与自动化学院
-
出处
《现代电子技术》
北大核心
2024年第3期18-24,共7页
-
文摘
多任务学习目前广泛被应用于各大领域,然而大部分效果较佳的模型都有着复杂的网络层级和架构,导致这些多任务学习模型很难被应用于资源有限的设备上,例如:经费有限但是人口基数大的国家或地区进行人口普查预测、便携设备的翻译等任务。为解决这一问题,提出半渐进式分层提取的轻量化多任务模型。模型首先通过对顶层任务独有的专家模块进行剪枝,将原先负责提取每个独立任务深层信息的工作交由每个任务的塔层模块进行。这一做法使得模型既能轻量化,同时也保留了将任务共享参数和任务独有参数分离及分层次提取信息的特点。为了弥补剪枝后模型性能及准确率上的下降,参考不确定性对损失加权的思想,引入动态联合损失进行优化,使得模型可以不断预测任务之间重要性对每个任务的损失进行权值调整。同时,也对部分超参数进行调优。通过模型在公共数据集UCI人口普查-收入数据集上的评估,最终证明模型有着与轻量化之前不分上下的性能。
-
关键词
多任务学习
渐进式分层提取
轻量化
不确定性损失权重
联合损失优化
UCI
-
Keywords
multi⁃tasking learning
progressive layered extraction
lightweight
uncertainty to weigh losses
joint loss optimization
UCI
-
分类号
TN711-34
[电子电信—电路与系统]
TP391.1
[自动化与计算机技术—计算机应用技术]
-
-
题名一种多核系统改进型列表调度算法
被引量:6
- 3
-
-
作者
罗乐
王春华
张多利
宋宇鲲
-
机构
合肥工业大学电子科学与应用物理学院
-
出处
《电子科技》
2020年第6期52-57,共6页
-
基金
国家自然科学基金(61874156)。
-
文摘
在任务调度领域,基于列表的任务调度算法被广泛应用。经典列表调度算法在节点排序阶段会对权值一致的任务节点进行随机排序,但这种节点排序方式过于粗糙,难以取得较好效果。针对这一缺陷,文中提出了一种改进型列表调度算法,通过特殊列表片段将权值一致的任务整合到一起,并对特殊列表片段的调度解空间进行遍历,以迭代产生更优的调度列表获得更好的调度效果。随机DAG图测试结果表明,提出的算法调度效果优异,算法平均增强比最高可达15.3%,不仅适用于多种任务图规模,且在CCR和平均出入度较高的情况下有更好的调度性能。
-
关键词
调度算法
节点排序
任务权值
权值一致排序困境
特殊列表片段
调度空间
-
Keywords
scheduling algorithm
sort nodes
task weigh
weighted consistent ordering dilemma
special list fragment
scheduling space
-
分类号
TN401
[电子电信—微电子学与固体电子学]
-
-
题名一种用于实时集群的多任务负载均衡算法
被引量:7
- 4
-
-
作者
向建军
白欣
左继章
-
机构
空军工程大学工程学院电子工程系
-
出处
《计算机工程》
CAS
CSCD
北大核心
2003年第12期36-38,共3页
-
基金
国家科技型企业技术创新基金项目(01c26226111003)
-
文摘
多任务负载均衡是集群并行处理中的一个重要问题。该文在分析轮转式调度算法和任务最少优先法的优缺点基础上,引入负载当量来更准确地描述集群节点的负载状况,提出了一种有效的负载均衡算法——负载当量轮转法,并采用以动态任务分配表为核心的多任务负载分配方式。最后,通过测试验证了该算法明显优于前两种算法。
-
关键词
实时集群
负载均衡
负载当量轮转法
任务分配表
-
Keywords
Real-time cluster
Load balancing
Load weigh round robin(LWRR)
task distributing table
-
分类号
TP301.6
[自动化与计算机技术—计算机系统结构]
-