Time series is a kind of data widely used in various fields such as electricity forecasting,exchange rate forecasting,and solar power generation forecasting,and therefore time series prediction is of great significanc...Time series is a kind of data widely used in various fields such as electricity forecasting,exchange rate forecasting,and solar power generation forecasting,and therefore time series prediction is of great significance.Recently,the encoder-decoder model combined with long short-term memory(LSTM)is widely used for multivariate time series prediction.However,the encoder can only encode information into fixed-length vectors,hence the performance of the model decreases rapidly as the length of the input sequence or output sequence increases.To solve this problem,we propose a combination model named AR_CLSTM based on the encoder_decoder structure and linear autoregression.The model uses a time step-based attention mechanism to enable the decoder to adaptively select past hidden states and extract useful information,and then uses convolution structure to learn the internal relationship between different dimensions of multivariate time series.In addition,AR_CLSTM combines the traditional linear autoregressive method to learn the linear relationship of the time series,so as to further reduce the error of time series prediction in the encoder_decoder structure and improve the multivariate time series Predictive effect.Experiments show that the AR_CLSTM model performs well in different time series predictions,and its root mean square error,mean square error,and average absolute error all decrease significantly.展开更多
以轻量化为目标,提出一种可用于多目标跟踪(Multi-Object Tracking,MOT)模型的高效卷积QuarkModule,该卷积算子可从宽度和深度两个方面对深度神经网络模型进行轻量化。基于QuarkModule,对经典JDE(Joint Detection and Embedding)算法进...以轻量化为目标,提出一种可用于多目标跟踪(Multi-Object Tracking,MOT)模型的高效卷积QuarkModule,该卷积算子可从宽度和深度两个方面对深度神经网络模型进行轻量化。基于QuarkModule,对经典JDE(Joint Detection and Embedding)算法进行改进,提出一种轻量化的MOT模型QuarkJDE,为进一步验证QuarkModule的泛化能力,构建轻量化分类模型QuarkNet。基于公开数据集,对两个轻量化模型展开多维实验,实验结果充分验证QuarkModule的效率和特征学习能力。展开更多
地浸采铀作为铀矿的绿色开采技术,在生产运行中产生海量数据,利用这些海量数据进行大数据分析和趋势预测,能够提升技术人员制定生产计划的可靠性。目前采用的基于编码器-解码器结构的时序预测模型,由于存在注意力机制,导致计算复杂、内...地浸采铀作为铀矿的绿色开采技术,在生产运行中产生海量数据,利用这些海量数据进行大数据分析和趋势预测,能够提升技术人员制定生产计划的可靠性。目前采用的基于编码器-解码器结构的时序预测模型,由于存在注意力机制,导致计算复杂、内存消耗大。本研究提出深度可分离卷积混合模型,通过动态序列分割模块降低固定分割带来的语义破坏,通过深度可分离卷积混合模块降低模型运行时间并捕获局部和全局特征。结果表明,深度可分离卷积混合网络模型的均方误差(Mean Square Error,MSE)与平均绝对误差(Mean Absolute Error,MAE)相较于时间序列分块自注意力模型(Patch Time Series Transformer,PatchTST)分别降低了1.04%和4.13%,提出的动态序列分割模块的MSE与MAE相较于原有模型分别降低了7.32%和5.03%;在性能对比分析上,深度可分离卷积混合模型的训练速度相较于趋势季节分解线性模型(Decomposition Linear,DLinear)提高了59.91%。建立的模型能够准确预测采区生产运行中硫酸注液量的变化趋势,改善了现有预测模型针对地浸铀矿数据集存在的运行时间长、运行内存大、数据拟合差的问题,可为地浸铀矿生产决策提供理论和实践参考。展开更多
针对海量废弃家电回收图像数据在回收技术中难以有效利用的问题,提出了一种基于ResNet和多尺度卷积的废弃家电回收图像分类模型(Multi-scale and Efficient ResNet,ME-ResNet)。首先,基于残差结构设计了多尺度卷积模块以提升不同尺度特...针对海量废弃家电回收图像数据在回收技术中难以有效利用的问题,提出了一种基于ResNet和多尺度卷积的废弃家电回收图像分类模型(Multi-scale and Efficient ResNet,ME-ResNet)。首先,基于残差结构设计了多尺度卷积模块以提升不同尺度特征信息提取能力,在此基础上基于ResNet设计了针对废弃家电回收图像分类问题的ME-ResNet模型;其次,通过用深度可分离卷积替换多尺度卷积中的部分卷积层,实现ME-ResNet模型轻量化;最后,通过与其他卷积神经网络的对比实验,对ME-ResNet及其轻量化模型的性能进行了验证。研究结果表明:相较于经典的卷积神经网络ResNet34,ME-ResNet及其轻量化模型均能有效提升识别准确度,针对构建的数据集,其最优准确率分别提升了1.2%和0.3%,宏精确率分别提升了1.7%和0.9%,宏召回率分别提升了1.3%和0.2%,宏F1分数分别提升了1.5%和0.5%。展开更多
为解决现有时间序列模型未能充分融合局部和全局依赖的问题,提出一种融合局部和全局相关性的多变量时间序列预测方法PatchLG(Patch-integrated Local-Global correlation method)。该方法基于3个关键部分:1)将时间序列划分为多个子序列(...为解决现有时间序列模型未能充分融合局部和全局依赖的问题,提出一种融合局部和全局相关性的多变量时间序列预测方法PatchLG(Patch-integrated Local-Global correlation method)。该方法基于3个关键部分:1)将时间序列划分为多个子序列(Patch),在保持时间序列的局部性的同时使模型更易于提取全局依赖;2)使用深度可分离卷积和自注意力机制建模局部和全局相关性;3)将时间序列分解为趋势项与季节项2个部分同时进行预测,并将预测结果组合起来得到最终预测结果。在7个基准数据集上的实验结果表明,PatchLG相较于最优基线方法PatchTST(Patch Time Series Transformer)在均方误差(MSE)和平均绝对误差(MAE)2个指标上平均改进量为3.0%和2.9%,同时具有较短的实际运行时间和较低的内存消耗,验证了PatchLG在时间序列预测中的有效性。展开更多
基金Shanxi Provincial Key Research and Development Program Project Fund(No.201703D111011)。
文摘Time series is a kind of data widely used in various fields such as electricity forecasting,exchange rate forecasting,and solar power generation forecasting,and therefore time series prediction is of great significance.Recently,the encoder-decoder model combined with long short-term memory(LSTM)is widely used for multivariate time series prediction.However,the encoder can only encode information into fixed-length vectors,hence the performance of the model decreases rapidly as the length of the input sequence or output sequence increases.To solve this problem,we propose a combination model named AR_CLSTM based on the encoder_decoder structure and linear autoregression.The model uses a time step-based attention mechanism to enable the decoder to adaptively select past hidden states and extract useful information,and then uses convolution structure to learn the internal relationship between different dimensions of multivariate time series.In addition,AR_CLSTM combines the traditional linear autoregressive method to learn the linear relationship of the time series,so as to further reduce the error of time series prediction in the encoder_decoder structure and improve the multivariate time series Predictive effect.Experiments show that the AR_CLSTM model performs well in different time series predictions,and its root mean square error,mean square error,and average absolute error all decrease significantly.
文摘以轻量化为目标,提出一种可用于多目标跟踪(Multi-Object Tracking,MOT)模型的高效卷积QuarkModule,该卷积算子可从宽度和深度两个方面对深度神经网络模型进行轻量化。基于QuarkModule,对经典JDE(Joint Detection and Embedding)算法进行改进,提出一种轻量化的MOT模型QuarkJDE,为进一步验证QuarkModule的泛化能力,构建轻量化分类模型QuarkNet。基于公开数据集,对两个轻量化模型展开多维实验,实验结果充分验证QuarkModule的效率和特征学习能力。
文摘地浸采铀作为铀矿的绿色开采技术,在生产运行中产生海量数据,利用这些海量数据进行大数据分析和趋势预测,能够提升技术人员制定生产计划的可靠性。目前采用的基于编码器-解码器结构的时序预测模型,由于存在注意力机制,导致计算复杂、内存消耗大。本研究提出深度可分离卷积混合模型,通过动态序列分割模块降低固定分割带来的语义破坏,通过深度可分离卷积混合模块降低模型运行时间并捕获局部和全局特征。结果表明,深度可分离卷积混合网络模型的均方误差(Mean Square Error,MSE)与平均绝对误差(Mean Absolute Error,MAE)相较于时间序列分块自注意力模型(Patch Time Series Transformer,PatchTST)分别降低了1.04%和4.13%,提出的动态序列分割模块的MSE与MAE相较于原有模型分别降低了7.32%和5.03%;在性能对比分析上,深度可分离卷积混合模型的训练速度相较于趋势季节分解线性模型(Decomposition Linear,DLinear)提高了59.91%。建立的模型能够准确预测采区生产运行中硫酸注液量的变化趋势,改善了现有预测模型针对地浸铀矿数据集存在的运行时间长、运行内存大、数据拟合差的问题,可为地浸铀矿生产决策提供理论和实践参考。
文摘针对海量废弃家电回收图像数据在回收技术中难以有效利用的问题,提出了一种基于ResNet和多尺度卷积的废弃家电回收图像分类模型(Multi-scale and Efficient ResNet,ME-ResNet)。首先,基于残差结构设计了多尺度卷积模块以提升不同尺度特征信息提取能力,在此基础上基于ResNet设计了针对废弃家电回收图像分类问题的ME-ResNet模型;其次,通过用深度可分离卷积替换多尺度卷积中的部分卷积层,实现ME-ResNet模型轻量化;最后,通过与其他卷积神经网络的对比实验,对ME-ResNet及其轻量化模型的性能进行了验证。研究结果表明:相较于经典的卷积神经网络ResNet34,ME-ResNet及其轻量化模型均能有效提升识别准确度,针对构建的数据集,其最优准确率分别提升了1.2%和0.3%,宏精确率分别提升了1.7%和0.9%,宏召回率分别提升了1.3%和0.2%,宏F1分数分别提升了1.5%和0.5%。
文摘为解决现有时间序列模型未能充分融合局部和全局依赖的问题,提出一种融合局部和全局相关性的多变量时间序列预测方法PatchLG(Patch-integrated Local-Global correlation method)。该方法基于3个关键部分:1)将时间序列划分为多个子序列(Patch),在保持时间序列的局部性的同时使模型更易于提取全局依赖;2)使用深度可分离卷积和自注意力机制建模局部和全局相关性;3)将时间序列分解为趋势项与季节项2个部分同时进行预测,并将预测结果组合起来得到最终预测结果。在7个基准数据集上的实验结果表明,PatchLG相较于最优基线方法PatchTST(Patch Time Series Transformer)在均方误差(MSE)和平均绝对误差(MAE)2个指标上平均改进量为3.0%和2.9%,同时具有较短的实际运行时间和较低的内存消耗,验证了PatchLG在时间序列预测中的有效性。
