传统数据增强技术,如同义词替换、随机插入和随机删除等,可能改变文本的原始语义,甚至导致关键信息丢失。此外,在文本分类任务中,数据通常包含文本部分和标签部分,然而传统数据增强方法仅针对文本部分。为解决这些问题,提出一种结合标...传统数据增强技术,如同义词替换、随机插入和随机删除等,可能改变文本的原始语义,甚至导致关键信息丢失。此外,在文本分类任务中,数据通常包含文本部分和标签部分,然而传统数据增强方法仅针对文本部分。为解决这些问题,提出一种结合标签混淆的数据增强(LCDA)技术,从文本和标签这2个基本方面入手,为数据提供全面的强化。在文本方面,通过对文本进行标点符号随机插入和替换以及句末标点符号补齐等增强,在保留全部文本信息和顺序的同时增加文本的多样性;在标签方面,采用标签混淆方法生成模拟标签分布替代传统的one-hot标签分布,以更好地反映实例和标签与标签之间的关系。在THUCNews(TsingHua University Chinese News)和Toutiao这2个中文新闻数据集构建的小样本数据集上分别结合TextCNN、TextRNN、BERT(Bidirectional Encoder Representations from Transformers)和RoBERTa-CNN(Robustly optimized BERT approach Convolutional Neural Network)文本分类模型的实验结果表明,与增强前相比,性能均得到显著提升。其中,在由THUCNews数据集构造的50-THU数据集上,4种模型结合LCDA技术后的准确率相较于增强前分别提高了1.19、6.87、3.21和2.89个百分点;相较于softEDA(Easy Data Augmentation with soft labels)方法增强的模型分别提高了0.78、7.62、1.75和1.28个百分点。通过在文本和标签这2个维度的处理结果可知,LCDA技术能显著提升模型的准确率,在数据量较少的应用场景中表现尤为突出。展开更多
[目的/意义]梳理AI for Science(AI4S)领域的研究现状与发展趋势,为AI在科学研究中的应用提供前瞻性洞见。[方法/过程]以2015—2024年WoS核心数据库中AI4S领域相关文献为研究对象,将文献计量分析与BERTopic模型相结合,针对该领域的发文...[目的/意义]梳理AI for Science(AI4S)领域的研究现状与发展趋势,为AI在科学研究中的应用提供前瞻性洞见。[方法/过程]以2015—2024年WoS核心数据库中AI4S领域相关文献为研究对象,将文献计量分析与BERTopic模型相结合,针对该领域的发文趋势、发文国家、核心作者进行主题识别和发展趋势分析。[结果/结论]研究表明,AI4S领域相关文献数量呈指数型增长趋势,中国发文量居首位,但被引次数略低于美国,核心研究群体主要集中在国外学者。文章还识别出22个主题,并将其归纳为6大研究方向,重点应用领域包括人工智能与教育科技研究、医疗健康与人工智能诊断、精准农业与气候变化、材料化学与深度学习和高性能锂电池技术,其中AI与精准农业、AI与心理健康、AI与锂电池技术等是近年的研究热点。展开更多
文摘传统数据增强技术,如同义词替换、随机插入和随机删除等,可能改变文本的原始语义,甚至导致关键信息丢失。此外,在文本分类任务中,数据通常包含文本部分和标签部分,然而传统数据增强方法仅针对文本部分。为解决这些问题,提出一种结合标签混淆的数据增强(LCDA)技术,从文本和标签这2个基本方面入手,为数据提供全面的强化。在文本方面,通过对文本进行标点符号随机插入和替换以及句末标点符号补齐等增强,在保留全部文本信息和顺序的同时增加文本的多样性;在标签方面,采用标签混淆方法生成模拟标签分布替代传统的one-hot标签分布,以更好地反映实例和标签与标签之间的关系。在THUCNews(TsingHua University Chinese News)和Toutiao这2个中文新闻数据集构建的小样本数据集上分别结合TextCNN、TextRNN、BERT(Bidirectional Encoder Representations from Transformers)和RoBERTa-CNN(Robustly optimized BERT approach Convolutional Neural Network)文本分类模型的实验结果表明,与增强前相比,性能均得到显著提升。其中,在由THUCNews数据集构造的50-THU数据集上,4种模型结合LCDA技术后的准确率相较于增强前分别提高了1.19、6.87、3.21和2.89个百分点;相较于softEDA(Easy Data Augmentation with soft labels)方法增强的模型分别提高了0.78、7.62、1.75和1.28个百分点。通过在文本和标签这2个维度的处理结果可知,LCDA技术能显著提升模型的准确率,在数据量较少的应用场景中表现尤为突出。
基金2024年度上海市重点智库课题“人工智能驱动科研范式变革研究及对上海布局AI for Science的启示”。
文摘[目的/意义]梳理AI for Science(AI4S)领域的研究现状与发展趋势,为AI在科学研究中的应用提供前瞻性洞见。[方法/过程]以2015—2024年WoS核心数据库中AI4S领域相关文献为研究对象,将文献计量分析与BERTopic模型相结合,针对该领域的发文趋势、发文国家、核心作者进行主题识别和发展趋势分析。[结果/结论]研究表明,AI4S领域相关文献数量呈指数型增长趋势,中国发文量居首位,但被引次数略低于美国,核心研究群体主要集中在国外学者。文章还识别出22个主题,并将其归纳为6大研究方向,重点应用领域包括人工智能与教育科技研究、医疗健康与人工智能诊断、精准农业与气候变化、材料化学与深度学习和高性能锂电池技术,其中AI与精准农业、AI与心理健康、AI与锂电池技术等是近年的研究热点。
