摘要
【目的】大模型智能体幻觉及风险问题日益凸显,深入解析其成因、风险表现及其应对措施具有重要的理论与应用意义。【方法】面向新闻传播领域理论与应用需求,本研究主要基于对跨学科文献研究与理论辨析开展。【结果】智能体幻觉意指模型层在生成上难以避免地出现了生成内容不合逻辑或不忠于所提供的源内容等一系列错误,主要分为事实性幻觉与忠实性幻觉两类。前者包括事实错误、编造和忽视,后者涵盖意图、上下文和逻辑不一致。在下游应用中,幻觉风险广泛存在于机器翻译、问答系统、对话、摘要、知识图谱和视觉问答等任务,表现为翻译偏离、不完整回答、信息扭曲等,危及内容真实性和准确性。【结论】为应对幻觉难题,传媒业首先要从认知层面来强化风险意识与技术素养,技术上可采用检索增强生成和事实性解码策略,流程上要完善人机协同流程,增强校验与多维评估体系,以平衡智能体效能与可靠性。
出处
《中国传媒科技》
2025年第5期6-14,共9页
Media Science and Technology of China
基金
“国家广播电视总局部级社科研究项目资助”(项目名称:《AIGC大模型在广电行业内容生产和传播中的应用研究》,项目编号:GD2415)。
