人工智能价值对齐的主体性遮蔽与解蔽

1

作者 刘飞 吴辉 《电子科技大学学报(社科版)》 2026年第1期12-20,共9页

人工智能价值对齐对于探索人类主体性能够得到更好保护具有显著优势,是人类增进对人工智能信任的一次有益尝试,为开创以人工智能为代表的新兴科技向善发展树立了良好典范。从人工智能价值对齐的主体性有益维度看,突出体现在人类主体性... 人工智能价值对齐对于探索人类主体性能够得到更好保护具有显著优势,是人类增进对人工智能信任的一次有益尝试,为开创以人工智能为代表的新兴科技向善发展树立了良好典范。从人工智能价值对齐的主体性有益维度看,突出体现在人类主体性内涵得以丰富、人类主体的完整性得以保障、人类的主体地位得以凸显这三个方面。然而,不容忽视的是人工智能价值对齐对主体性的“遮蔽”潜在地威胁着人类自由全面发展,主要表征为对人的情感、认知、活动这三方面造成了“遮蔽”,存在着损害人类主体性的风险。通过增进情感互动、促进算法透明化、强化实践参与这三方面来建构解蔽主体性的出路,更好确保人类主体性在健康轨道上得以发挥更大作用。人类主体性是推动人工智能进步的内生动力,人工智能价值对齐为人类主体性更好激发内生活力提供了保障,推动人类科技文明得到了更好的升华。 展开更多

关键词 人工智能 价值对齐 人的主体性 以人为本 科技向善

在线阅读 下载PDF 职称材料

生成式人工智能与基础教育的价值对齐:分类困境与分层治理

2

作者 李锋雷 《电化教育研究》 北大核心 2026年第2期30-37,共8页

生成式人工智能向基础教育领域的深度融入引发了价值对齐问题,这一问题源自技术逻辑与教育本质的结构性冲突。依据教育要素属性差异,研究构建“属性分类—机制溯源—分层治理”框架,将价值对齐问题分为三类:专业属性主导型、意识形态主... 生成式人工智能向基础教育领域的深度融入引发了价值对齐问题,这一问题源自技术逻辑与教育本质的结构性冲突。依据教育要素属性差异,研究构建“属性分类—机制溯源—分层治理”框架,将价值对齐问题分为三类:专业属性主导型、意识形态主导型及混合属性主导型,分别以技术效率与教育规律的结构性冲突、价值中立假象与国家意志传导刚性的不可通约、单向逻辑与复合育人功能的断裂为典型表征。依托技术社会学“技术—制度—认知”三维分析框架,研究系统阐释了各类困境的复合作用机制,并据此提出分层治理路径:针对专业属性层建立认知发展导向的技术调适机制;面向意识形态属性层构建国家意义框架强化体系;对于混合属性层设计双轨目标协同整合方案。研究尝试为人工智能与基础教育的规范融合提供基于属性分类的理论参照和分层治理思路。 展开更多

关键词 生成式人工智能 基础教育 价值对齐 教育属性分层 技术伦理 分层治理

在线阅读 下载PDF 职称材料

人工智能价值对齐的作用机理与实践向度 被引量：2

3

作者 刘飞 吴辉 《青海师范大学学报(社会科学版)》 2025年第3期94-100,共7页

人工智能伦理治理在以人为本的理念下不断深化拓展以期实现人工智能健康有序发展,而现如今人工智能价值对齐作为治理人工智能伦理风险的积极力量逐渐受到社会的关注。加速到来的智能时代中人工智能引发的算法偏见,人工智能幻觉产生的虚... 人工智能伦理治理在以人为本的理念下不断深化拓展以期实现人工智能健康有序发展,而现如今人工智能价值对齐作为治理人工智能伦理风险的积极力量逐渐受到社会的关注。加速到来的智能时代中人工智能引发的算法偏见,人工智能幻觉产生的虚假信息泛滥、隐私泄露等问题,已成为影响社会发展的重要伦理风险。这些伦理风险可以在人工智能价值对齐中通过提升算法技术水平,促进算法透明化,完善隐私信息保护体系,强化隐私泄漏预警机制,从而提高人工智能伦理治理的综合能力。人工智能的行为符合人类价值观,人类有效合理地控制人工智能,并且减少其对人类造成伤害的风险,是人工智能价值对齐的核心要义,同时也在人工智能伦理治理中得以发挥积极作用,进而为以人工智能为代表的未来新兴科技伦理治理提供重要参考,以期更好增进人类生活福祉。 展开更多

关键词 人工智能 伦理治理 价值对齐 算法风险 隐私风险

在线阅读 下载PDF 职称材料

“引智向善”:生成式人工智能价值对齐的伦理风险与纾解路径 被引量：2

4

作者 杨灿 林伯海 《昆明理工大学学报(社会科学版)》 2025年第6期59-67,共9页

生成式人工智能的迅猛发展,使价值对齐从技术议题演变为人工智能治理中引领“智能向善”的核心实践。然而,当前以技术为中心的价值对齐范式,在实践中隐匿着“伪对齐”“泛对齐”与“窄对齐”三重伦理风险。这些风险的根源在于技术至上... 生成式人工智能的迅猛发展,使价值对齐从技术议题演变为人工智能治理中引领“智能向善”的核心实践。然而,当前以技术为中心的价值对齐范式,在实践中隐匿着“伪对齐”“泛对齐”与“窄对齐”三重伦理风险。这些风险的根源在于技术至上的算法逻辑遮蔽了伦理审思的优先地位、对价值的静态模拟压制了其在真实互动中的动态生成,以及工具理性的持续盛行销蚀了价值理性在具体情境中的多元诉求。为有效纾解风险困境并回应“智能向善”的时代诉求,需要从主体、内容和范式三个维度进行系统性重塑。在对齐主体上,推动迈向整体性与共生性的双向建构;在对齐内容上,倡导从规则内嵌到伦理智识的有效生成;在对齐范式上,实现从定向式训练到演化式布局的进路转型。通过重塑对齐主体、重构对齐内容、革新对齐范式等不同路径多措并举、多点发力,从而为探索出更具反思性、适应性与规范性的“人机协同、共生共进”的价值对齐新范式,为构建人工智能“善治”格局提供兼具理论深度与实践效能的治理方略。 展开更多

关键词 生成式人工智能 价值对齐 伦理风险 纾解路径 “智能向善”

原文传递

算法社会下的道德主体性之困及其消解

5

作者 吕雯瑜 《长江论坛》 2025年第2期39-48,共10页

算法技术的加速扩张正经由认知窄化、情感操控、意志弱化、权力结构重塑等四重机制,全面侵蚀着人的道德主体性和道德人格完整性。道德认知层面,算法推送引发的“茧房效应”与知识垄断,窄化个体认知的同时不断消解公共理性;道德情感层面... 算法技术的加速扩张正经由认知窄化、情感操控、意志弱化、权力结构重塑等四重机制,全面侵蚀着人的道德主体性和道德人格完整性。道德认知层面,算法推送引发的“茧房效应”与知识垄断,窄化个体认知的同时不断消解公共理性;道德情感层面,情绪化推送催化价值对立,用户画像技术将情感降格为可计算的消费符号;道德意志维度,算法代理替代道德判断,技术理性不断挤压人类自我立法能力;道德实践领域,算法隐性操控引发社会权力结构重塑,数据偏见加剧社会歧视,算法技术不透明性致使伦理问责困难重重。化解算法技术扩张下的道德主体性之困,不仅要求大幅提升算法技术本身的透明性和可追溯性,而且要求建立起面向算法技术开发与运用的伦理审查和问责制度体系,以及持续加强算法伦理教育,积极培植算法技术“向善”的社会土壤。 展开更多

关键词 算法社会 道德主体性之困 算法技术“向善”与“对齐”

在线阅读 下载PDF 职称材料

价值对齐:AIGC时代的人工智能文化科技伦理风险与精准共治路径研究 被引量：22

6

作者 解学芳 曲晨 《兰州大学学报（社会科学版）》 CSSCI 北大核心 2024年第3期147-156,共10页

随着生成式人工智能技术的兴起,AIGC时代来临,人工智能技术在打造文化新质生产力方面取得显著进步,同时也带来了科技伦理风险和治理挑战。从理论建构来看,人工智能文化科技伦理涉及透明度、监管、责任、道德,以及与计算机伦理、机器伦... 随着生成式人工智能技术的兴起,AIGC时代来临,人工智能技术在打造文化新质生产力方面取得显著进步,同时也带来了科技伦理风险和治理挑战。从理论建构来看,人工智能文化科技伦理涉及透明度、监管、责任、道德,以及与计算机伦理、机器伦理和计算伦理等关系的处理。从发展隐忧来看,算法作为非人类网络行动者,面临在隐私与道德交汇中的游离问题,数字化时代的数智鸿沟与伦理边缘不清问题,以及深度合成与深度伪造带来的多维安全风险。基于此,旨在立足人工智能技术遵守价值对齐,提出构建共创共建共治的AIGC文化科技伦理治理体系,即包括人工智能文化科技伦理治理制度创新、治理技术创新、治理主体创新的协同善治框架,推进AI文化新质生产力高质量发展并应对伦理风险,确保文化科技创新与文化科技伦理之间的可持续平衡。 展开更多

关键词 AIGC 人工智能 文化科技伦理 价值对齐

原文传递

积极伦理观下算法歧视治理模式的革新 被引量：29

7

作者 梅傲 《政治与法律》 CSSCI 北大核心 2024年第2期113-126,共14页

算法技术已借助大数据技术被广泛应用,成为影响人们日常生活的重要角色,其也因技术中立性不断遭受现实挑战而呈现出事实上的歧视性。重新审视算法歧视及其治理路径是发挥算法积极作用、避免算法消极影响的重要前提。传统伦理观念影响下... 算法技术已借助大数据技术被广泛应用,成为影响人们日常生活的重要角色,其也因技术中立性不断遭受现实挑战而呈现出事实上的歧视性。重新审视算法歧视及其治理路径是发挥算法积极作用、避免算法消极影响的重要前提。传统伦理观念影响下的算法歧视治理模式存在价值观念偏航、治理结构失衡及技术治理落后的问题,影响算法歧视治理实效。社会发展促进了伦理观念的革新,积极伦理观的树立可以为算法技术向善的实现提供理论指引。算法治理结构的优化及反歧视技术水平的提高是纠正算法歧视的重要前提,理念、制度及技术三维措施的综合运用方可在算法领域实现科技向善的伦理目标。 展开更多

关键词 算法歧视 积极伦理观 算法治理 科技向善

在线阅读 下载PDF 职称材料

中国与欧美治理人工智能价值对齐问题的实践及其互鉴 被引量：4

8

作者 褚建勋 夏小草 吴熙凡 《南京邮电大学学报（社会科学版）》 2024年第6期18-27,共10页

人工智能的快速发展对社会、经济和伦理产生了深远影响。随着人工智能技术的普及和应用,各国纷纷制定了人工智能价值观规范,以引领技术的发展方向,保证其在社会中合理、公正和负责任地运用。中国的AI治理拥有独特的治理体系、策略和路径... 人工智能的快速发展对社会、经济和伦理产生了深远影响。随着人工智能技术的普及和应用,各国纷纷制定了人工智能价值观规范,以引领技术的发展方向,保证其在社会中合理、公正和负责任地运用。中国的AI治理拥有独特的治理体系、策略和路径,能够为全球AI治理体系的不断完善提供新思路。从寻求平衡到达成共识,欧美国家的AI治理实践为全球AI治理提供了宝贵的参考。从全球视角出发,对AI价值观对齐的未来进行展望,应对齐合情合法合意识形态的价值观,建设具有普遍共识的AI价值体系,努力创造一个可持续、公正和融洽共处的数字未来。 展开更多

关键词 生成式人工智能 价值对齐 伦理治理 技术向善

在线阅读 下载PDF 职称材料

道德物化:大模型人机价值对齐的技术伦理进路 被引量：44

9

作者 袁雨晴 陈昌凤 《南京社会科学》 CSSCI 北大核心 2024年第6期88-97,共10页

以ChatGPT、Sora为代表的大模型在语料库、人工标注编码等方面存在着政治、性别、种族等方面的偏见,使得人机价值对齐问题成为关注的焦点。新一代人工智能带来的价值观和伦理问题,已经成为关乎人类未来的紧迫而重大的论题。人机价值对... 以ChatGPT、Sora为代表的大模型在语料库、人工标注编码等方面存在着政治、性别、种族等方面的偏见,使得人机价值对齐问题成为关注的焦点。新一代人工智能带来的价值观和伦理问题,已经成为关乎人类未来的紧迫而重大的论题。人机价值对齐有何思想源流?有哪些研究的面向?有怎样的理论路径和实践指导?本文从现实语境和理论基础出发,从道德物化的新技术伦理进路中探究人机价值对齐问题。道德物化通过发掘技术的道德能动性,将抽象的道德观念嵌入具体的技术结构与情境中,提供了一种内部的、技术伴随性的伦理思路,从而寻求人机价值对齐的三大路径:价值敏感性设计、构建人工智能道德体以及强化算法审计。 展开更多

关键词 大语言模型 人机交互 价值对齐 智能伦理 道德物化

原文传递

追求美好生活的技术——奥特加·加塞特的技术实践伦理价值论 被引量：10

10

作者 敬狄 王伯鲁 《东北大学学报（社会科学版）》 CSSCI 北大核心 2017年第6期551-556,共6页

作为人文主义技术哲学家的典型代表,奥特加技术哲学的独特之处在于基于人、技术与"活得好"的渴望相一致的观点,通过对人与技术实践关系的哲学人类学分析,指出实现人之为人的善的技术实践是通达美好生活的德性实践。奥特加的... 作为人文主义技术哲学家的典型代表,奥特加技术哲学的独特之处在于基于人、技术与"活得好"的渴望相一致的观点,通过对人与技术实践关系的哲学人类学分析,指出实现人之为人的善的技术实践是通达美好生活的德性实践。奥特加的技术实践伦理价值论超越了对现代技术与人类生活"是什么"关系的追问,转而探讨两者"应该是什么"关系,由此将传统人文主义技术哲学的重心从关于现代技术的乌托邦或敌托邦讨论,转移到如何促使现代技术发展更好地服务于人类生活。同时,奥特加基于"精英-大众"互动的历史理论,对技术时代实现美好生活的可能途径的探索,也为当下反思该问题提供了有益的启示。 展开更多

关键词 奥特加·加塞特 技术实践 美好生活 伦理价值

在线阅读 下载PDF 职称材料

论科技伦理决策的系统性原则 被引量：3

11

作者 彭理强 《长沙理工大学学报（社会科学版）》 2024年第4期37-45,共9页

在当前新兴科技的浪潮下,科技伦理实践正面临着前所未有的伦理挑战。为有效应对复杂多变的伦理问题,科技伦理决策者可以将系统性原则作为科技伦理决策的理论指导。遵循系统性原则,科技伦理决策者能够从全局出发,深入剖析多场域科技伦理... 在当前新兴科技的浪潮下,科技伦理实践正面临着前所未有的伦理挑战。为有效应对复杂多变的伦理问题,科技伦理决策者可以将系统性原则作为科技伦理决策的理论指导。遵循系统性原则,科技伦理决策者能够从全局出发,深入剖析多场域科技伦理风险及其相互影响,在实际决策中更加科学、系统地应对伦理挑战,从而提升科技伦理决策的合理性和有效性。 展开更多

关键词 科技伦理决策 系统性原则 多场域风险评估 实施策略 价值对齐

在线阅读 下载PDF 职称材料

科技、教育、人才:科技伦理新形态的三重逻辑 被引量：5

12

作者 周国文 王虹媛 《科技智囊》 2023年第6期56-64,共9页

当代科技发展为人类个人生存形态、社会存在样态提供支撑的同时,科技应用所带来的现实问题呈现出多样态、多领域、多地域的特征,科技应用的内在蕴含与社会效应引发了对科技伦理的探讨。科技伦理是基于道德思辨范畴中对人类科技活动合理... 当代科技发展为人类个人生存形态、社会存在样态提供支撑的同时,科技应用所带来的现实问题呈现出多样态、多领域、多地域的特征,科技应用的内在蕴含与社会效应引发了对科技伦理的探讨。科技伦理是基于道德思辨范畴中对人类科技活动合理性、行为边界及其价值约定的根本规范。文章基于新时代背景,以科技伦理新形态为出发点,探索其内在构成逻辑,从价值本义、价值趋向、价值依归的三重维度系统揭示科技伦理新形态的内涵之所在。 展开更多

关键词 科技伦理 科技之新 人才之善 价值内涵

在线阅读 下载PDF 职称材料

互联网企业算法技术异化的风险挑战与应对

13

作者 魏于凯 《浙江万里学院学报》 2023年第2期33-40,共8页

互联网企业算法技术异化给公共秩序带来的风险挑战是多方面的,这归咎于互联网企业算法技术应用过程中的价值引导缺位、社会参与度不高,同时也是算法的技术特征使然。算法技术并不具有绝对的价值中立性,应当在互联网企业算法应用过程中... 互联网企业算法技术异化给公共秩序带来的风险挑战是多方面的,这归咎于互联网企业算法技术应用过程中的价值引导缺位、社会参与度不高,同时也是算法的技术特征使然。算法技术并不具有绝对的价值中立性,应当在互联网企业算法应用过程中植入价值引导、强化科技伦理意识、促进算法公开透明。此外,亦应当构建包括监管机构、互联网企业、网络用户等多元主体在内的协同治理机制,有效应对算法异化风险。 展开更多

关键词 算法技术异化 风险挑战 价值引导 科技伦理 协同治理

在线阅读 下载PDF 职称材料