Time series is a kind of data widely used in various fields such as electricity forecasting,exchange rate forecasting,and solar power generation forecasting,and therefore time series prediction is of great significanc...Time series is a kind of data widely used in various fields such as electricity forecasting,exchange rate forecasting,and solar power generation forecasting,and therefore time series prediction is of great significance.Recently,the encoder-decoder model combined with long short-term memory(LSTM)is widely used for multivariate time series prediction.However,the encoder can only encode information into fixed-length vectors,hence the performance of the model decreases rapidly as the length of the input sequence or output sequence increases.To solve this problem,we propose a combination model named AR_CLSTM based on the encoder_decoder structure and linear autoregression.The model uses a time step-based attention mechanism to enable the decoder to adaptively select past hidden states and extract useful information,and then uses convolution structure to learn the internal relationship between different dimensions of multivariate time series.In addition,AR_CLSTM combines the traditional linear autoregressive method to learn the linear relationship of the time series,so as to further reduce the error of time series prediction in the encoder_decoder structure and improve the multivariate time series Predictive effect.Experiments show that the AR_CLSTM model performs well in different time series predictions,and its root mean square error,mean square error,and average absolute error all decrease significantly.展开更多
应用含注意力机制的网络模型进行模式识别已成为相位敏感光时域反射计(Phase-senstive Optical Time Domain Reflectometer,Φ-OTDR)周界安防领域的研究热点.针对周界安防信号时序图像,本文提出一种基于可解释性全特征注意力机制的卷积...应用含注意力机制的网络模型进行模式识别已成为相位敏感光时域反射计(Phase-senstive Optical Time Domain Reflectometer,Φ-OTDR)周界安防领域的研究热点.针对周界安防信号时序图像,本文提出一种基于可解释性全特征注意力机制的卷积网络模型.以VGG模型架构为基础,引入深度可分离卷积模块和Leaky ReLU激活函数构成全新的卷积模块,提高模型实时性.为增强卷积模型的全局信息提取能力和可解释性(即特征重要性评价能力),采用元卷积核代替空间注意力机制的池化层,从而设计了可解释性全特征注意力机制,并将其添加到卷积模块和全连接层之间.采用实验获得Φ-OTDR周界安防信号,对本文所提网络和典型的ANN、CNN、VGG、CNN-CBAMBiLSTM、CNN-LSTM进行对比实验.结果表明:本文模型特征提取过程可解释性强,对测试样本的识别准确率达99.06%,在95%置信水平下对周界安防信号的平均置信区间为[0.9606,0.9992],F1-score达到0.9922,性能优于对比模型.展开更多
以轻量化为目标,提出一种可用于多目标跟踪(Multi-Object Tracking,MOT)模型的高效卷积QuarkModule,该卷积算子可从宽度和深度两个方面对深度神经网络模型进行轻量化。基于QuarkModule,对经典JDE(Joint Detection and Embedding)算法进...以轻量化为目标,提出一种可用于多目标跟踪(Multi-Object Tracking,MOT)模型的高效卷积QuarkModule,该卷积算子可从宽度和深度两个方面对深度神经网络模型进行轻量化。基于QuarkModule,对经典JDE(Joint Detection and Embedding)算法进行改进,提出一种轻量化的MOT模型QuarkJDE,为进一步验证QuarkModule的泛化能力,构建轻量化分类模型QuarkNet。基于公开数据集,对两个轻量化模型展开多维实验,实验结果充分验证QuarkModule的效率和特征学习能力。展开更多
地浸采铀作为铀矿的绿色开采技术,在生产运行中产生海量数据,利用这些海量数据进行大数据分析和趋势预测,能够提升技术人员制定生产计划的可靠性。目前采用的基于编码器-解码器结构的时序预测模型,由于存在注意力机制,导致计算复杂、内...地浸采铀作为铀矿的绿色开采技术,在生产运行中产生海量数据,利用这些海量数据进行大数据分析和趋势预测,能够提升技术人员制定生产计划的可靠性。目前采用的基于编码器-解码器结构的时序预测模型,由于存在注意力机制,导致计算复杂、内存消耗大。本研究提出深度可分离卷积混合模型,通过动态序列分割模块降低固定分割带来的语义破坏,通过深度可分离卷积混合模块降低模型运行时间并捕获局部和全局特征。结果表明,深度可分离卷积混合网络模型的均方误差(Mean Square Error,MSE)与平均绝对误差(Mean Absolute Error,MAE)相较于时间序列分块自注意力模型(Patch Time Series Transformer,PatchTST)分别降低了1.04%和4.13%,提出的动态序列分割模块的MSE与MAE相较于原有模型分别降低了7.32%和5.03%;在性能对比分析上,深度可分离卷积混合模型的训练速度相较于趋势季节分解线性模型(Decomposition Linear,DLinear)提高了59.91%。建立的模型能够准确预测采区生产运行中硫酸注液量的变化趋势,改善了现有预测模型针对地浸铀矿数据集存在的运行时间长、运行内存大、数据拟合差的问题,可为地浸铀矿生产决策提供理论和实践参考。展开更多
针对海量废弃家电回收图像数据在回收技术中难以有效利用的问题,提出了一种基于ResNet和多尺度卷积的废弃家电回收图像分类模型(Multi-scale and Efficient ResNet,ME-ResNet)。首先,基于残差结构设计了多尺度卷积模块以提升不同尺度特...针对海量废弃家电回收图像数据在回收技术中难以有效利用的问题,提出了一种基于ResNet和多尺度卷积的废弃家电回收图像分类模型(Multi-scale and Efficient ResNet,ME-ResNet)。首先,基于残差结构设计了多尺度卷积模块以提升不同尺度特征信息提取能力,在此基础上基于ResNet设计了针对废弃家电回收图像分类问题的ME-ResNet模型;其次,通过用深度可分离卷积替换多尺度卷积中的部分卷积层,实现ME-ResNet模型轻量化;最后,通过与其他卷积神经网络的对比实验,对ME-ResNet及其轻量化模型的性能进行了验证。研究结果表明:相较于经典的卷积神经网络ResNet34,ME-ResNet及其轻量化模型均能有效提升识别准确度,针对构建的数据集,其最优准确率分别提升了1.2%和0.3%,宏精确率分别提升了1.7%和0.9%,宏召回率分别提升了1.3%和0.2%,宏F1分数分别提升了1.5%和0.5%。展开更多
基金Shanxi Provincial Key Research and Development Program Project Fund(No.201703D111011)。
文摘Time series is a kind of data widely used in various fields such as electricity forecasting,exchange rate forecasting,and solar power generation forecasting,and therefore time series prediction is of great significance.Recently,the encoder-decoder model combined with long short-term memory(LSTM)is widely used for multivariate time series prediction.However,the encoder can only encode information into fixed-length vectors,hence the performance of the model decreases rapidly as the length of the input sequence or output sequence increases.To solve this problem,we propose a combination model named AR_CLSTM based on the encoder_decoder structure and linear autoregression.The model uses a time step-based attention mechanism to enable the decoder to adaptively select past hidden states and extract useful information,and then uses convolution structure to learn the internal relationship between different dimensions of multivariate time series.In addition,AR_CLSTM combines the traditional linear autoregressive method to learn the linear relationship of the time series,so as to further reduce the error of time series prediction in the encoder_decoder structure and improve the multivariate time series Predictive effect.Experiments show that the AR_CLSTM model performs well in different time series predictions,and its root mean square error,mean square error,and average absolute error all decrease significantly.
文摘以轻量化为目标,提出一种可用于多目标跟踪(Multi-Object Tracking,MOT)模型的高效卷积QuarkModule,该卷积算子可从宽度和深度两个方面对深度神经网络模型进行轻量化。基于QuarkModule,对经典JDE(Joint Detection and Embedding)算法进行改进,提出一种轻量化的MOT模型QuarkJDE,为进一步验证QuarkModule的泛化能力,构建轻量化分类模型QuarkNet。基于公开数据集,对两个轻量化模型展开多维实验,实验结果充分验证QuarkModule的效率和特征学习能力。
文摘地浸采铀作为铀矿的绿色开采技术,在生产运行中产生海量数据,利用这些海量数据进行大数据分析和趋势预测,能够提升技术人员制定生产计划的可靠性。目前采用的基于编码器-解码器结构的时序预测模型,由于存在注意力机制,导致计算复杂、内存消耗大。本研究提出深度可分离卷积混合模型,通过动态序列分割模块降低固定分割带来的语义破坏,通过深度可分离卷积混合模块降低模型运行时间并捕获局部和全局特征。结果表明,深度可分离卷积混合网络模型的均方误差(Mean Square Error,MSE)与平均绝对误差(Mean Absolute Error,MAE)相较于时间序列分块自注意力模型(Patch Time Series Transformer,PatchTST)分别降低了1.04%和4.13%,提出的动态序列分割模块的MSE与MAE相较于原有模型分别降低了7.32%和5.03%;在性能对比分析上,深度可分离卷积混合模型的训练速度相较于趋势季节分解线性模型(Decomposition Linear,DLinear)提高了59.91%。建立的模型能够准确预测采区生产运行中硫酸注液量的变化趋势,改善了现有预测模型针对地浸铀矿数据集存在的运行时间长、运行内存大、数据拟合差的问题,可为地浸铀矿生产决策提供理论和实践参考。
文摘针对海量废弃家电回收图像数据在回收技术中难以有效利用的问题,提出了一种基于ResNet和多尺度卷积的废弃家电回收图像分类模型(Multi-scale and Efficient ResNet,ME-ResNet)。首先,基于残差结构设计了多尺度卷积模块以提升不同尺度特征信息提取能力,在此基础上基于ResNet设计了针对废弃家电回收图像分类问题的ME-ResNet模型;其次,通过用深度可分离卷积替换多尺度卷积中的部分卷积层,实现ME-ResNet模型轻量化;最后,通过与其他卷积神经网络的对比实验,对ME-ResNet及其轻量化模型的性能进行了验证。研究结果表明:相较于经典的卷积神经网络ResNet34,ME-ResNet及其轻量化模型均能有效提升识别准确度,针对构建的数据集,其最优准确率分别提升了1.2%和0.3%,宏精确率分别提升了1.7%和0.9%,宏召回率分别提升了1.3%和0.2%,宏F1分数分别提升了1.5%和0.5%。
