针对中文文本情感分类任务的优化需求,研究Transformer模型基本结构及其在情感分类任务中的应用,提出基于梯度范数感知的分层自适应余弦退火方法来优化传统余弦退火学习率调度策略。文章基于ChnSentiCorp数据集在Hugging Face Transform...针对中文文本情感分类任务的优化需求,研究Transformer模型基本结构及其在情感分类任务中的应用,提出基于梯度范数感知的分层自适应余弦退火方法来优化传统余弦退火学习率调度策略。文章基于ChnSentiCorp数据集在Hugging Face Transformers框架下进行实验。实验结果表明,文章方法在准确率、精确率、召回率方面均优于传统方法。展开更多
文摘针对中文文本情感分类任务的优化需求,研究Transformer模型基本结构及其在情感分类任务中的应用,提出基于梯度范数感知的分层自适应余弦退火方法来优化传统余弦退火学习率调度策略。文章基于ChnSentiCorp数据集在Hugging Face Transformers框架下进行实验。实验结果表明,文章方法在准确率、精确率、召回率方面均优于传统方法。
