发布时间:2025年05月15日 18:00
摘要
探究如何通过治理变革消解人工智能带来的社会风险,促进人工智能真正实现可信、可控、可用,对推动数字社会可持续发展具有鲜活的时代价值与强烈的现实意义。研究立足于科学知识图谱的视角,采用CiteSpace软件对中国知网数据库收录的人工智能治理领域的研究文献进行计量学分析和可视化处理,深入探讨了研究概况、热点趋势及主题变迁,为后续人工智能治理研究提供了全面的理论框架。研究结论显示:①人工智能治理研究自2018年开始呈现快速增长态势且未来上升趋势依然强劲;②人工智能治理研究与人工智能产业发展水平之间具有较强的关联性;③人工智能治理研究领域学者群体较多,但尚未形成核心作者群;④人工智能治理研究热点演进和主题演化呈现出 “新技术—新领域—新风险—新理念—新应用—新治理”的基本逻辑和结构;⑤人工智能治理研究的演进脉络是从新技术到新风险、从新理念到新治理的延伸和拓展。
关键词:人工智能;人工智能治理;中国之治;知识图谱
引言
人工智能作为一项颠覆性前沿技术,凭借智能化、自适化、并行化、普适化特征,逐渐对政治、经济、社会、科学和个人生活带来深远影响和深刻变革。一方面,人工智能在解决复杂问题、提供决策支持、提升工作效率和创造力、进行大数据分析、推动科学技术进步,赋能产品研发、智能制造和内容生产等方面具有显著优势;另一方面,人工智能的迅猛发展和深化应用,导致失业风险、社会分化、隐私泄露、数据安全、算法失信等问题日益加剧。由此可见,在为经济发展、社会治理和民生改善做出积极贡献的同时,人工智能也因技术发展的不可预测性而可能引发社会治理的潜在风险,导致社会从 “数字民主” 走向 “技术利维坦” [1] 。探究如何通过治理变革消解人工智能带来的社会风险,促进人工智能真正实现可信、可控、可用,对数智化背景下提升我国治理体系和治理能力现代化、推动数字社会可持续发展具有鲜活的时代价值与强烈的现实意义。
从产业发展看:人工智能源起于 1950 年的图灵测试,1956 年夏季,美国达特茅斯学院召开了历史上首次人工智能研讨会,这次会议被看作是人工智能学科诞生的象征。历经 70 余年发展,人工智能已具有改变商业、政府、科学和社会的巨大力量。2022 年,全球人工智能市场收入达 4500 亿美元,同比增长了 17.3%[2] 。面对国际形势不稳定和不确定性显著增加、新冠肺炎疫情造成广泛而深远的影响、经济全球化面临逆流,以及国际经济、科技、文化、安全和政治格局的深刻复杂变化,人工智能依然呈现了强劲的发展态势。
从治理实践看:一方面以霍金[3]、马斯克[4]、比尔·盖茨[5]、赫拉利[6] 等为代表的专家学者呼吁加强对人工智能的监管,警惕人工智能不确定性导致的诸多风险;另一方面,世界各国和国际组织纷纷试图加强对人工智能的规制,以期提升人工智能治理效能,促进其可持续发展。2023 年 10 月,我国提出《全球人工智能治理倡议》,就各方普遍关切的人工智能发展与治理问题给出建设性解决思路,为人工智能相关国际讨论和规则制定提供了蓝本;2023 年 11 月,中国、美国、德国、日本等 28 个国家及欧盟达成共识,共同签署《布莱奇利宣言》,旨在通过国际合作构建人工智能的监管框架;2023 年 12 月,欧盟就《人工智能法案》达成协议,这一法案成为全球首部人工智能领域的全面监管法规,标志着全球人工智能治理进入新纪元。同时,人工智能安全峰会为全球人工智能安全治理搭建了国际交流平台,人工智能安全治理也成为联合国大会一个新兴的热门议题。可见,人工智能治理已成为世界各国和国际组织共同关切的重要议题。
从已有研究看:人工智能概念尚未形成普遍的、统一的共识,如何准确理解人工智能的概念、发展逻辑及其可能带来的风险是对人工智能进行治理的重要基础[7]。贾开等[8]基于算法和数据的技术逻辑,将人工智能归结为具有感知、推理、学习、决策等思维活动的计算系统;江怡[9]从哲学视角对比分析人工智能与自我意识,将人工智能解释为具有无监督学习能力、可以自主学习并完成超出给定指令任务的技术;李晓方[10]从技术、市场、政治三种不同视角对人工智能的形态和运行逻辑进行解读,其中,技术维度上,人工智能与知识生产方式的联系日益紧密,并呈现出多元化和场景化的趋势;市场维度上,人工智能以产品和行业的形式存在,并主要受竞争性逻辑的驱动;政治维度上,人工智能则作为一种价值分配的工具,被镶嵌于社会结构之中。廓清人工智能的学理概念、技术特征和发展逻辑是提出治理思路和政策建议的基础和前提。回溯人工智能治理的研究,可以将相关内容归结为两个主要方面:一方面是将人工智能作为治理对象,通过提出治理体系、治理原则、治理逻辑、治理范式,规避风险、应对挑战,促进人工智能有序规范、可信可控发展[11-15] ;另一方面是将人工智能作为治理工具,通过人工智能技术赋能全球治理、国家治理和政府治理[16-18] 。
基于以上分析可知,人工智能技术的快速发展和应用,不仅带来巨大的社会和经济价值,同时也带来如数据泄露、技术滥用、数字鸿沟等一系列问题,这些问题对国家安全和社会稳定构成了威胁。因此,建立健全的治理机制和法律法规,对人工智能进行规范和监管,是确保人工智能技术健康发展的关键。伴随人工智能在业界的快速发展和在社会领域的广泛应用,关于人工智能的治理也日益受到业界和政界的广泛关注,关于人工智能治理的研究探索也日益丰富。现有对人工智能治理的研究主要集中于概念阐释、理论解析和案例分析等定性研究领域,总体而言,仍然呈现出分散和零碎的特征,尚未构建起系统化、科学化的理论框架,并且这些研究大多是基于单一视角的分析,缺乏对人工智能治理理论体系系统化、全面化梳理和解构,也未能对人工智能治理领域研究的全貌进行全面客观地揭示。此外,对我国人工智能治理研究进行理论化、系统化梳理和解构,不仅可以从理论层面为我国制定和实施有效的技术治理战略和措施提供依据和支持,而且可以推动技术健康发展、保障数据安全、促进社会公平、为维护国家安全和社会稳定提供指导和支撑。因此,本研究基于科学知识图谱方法,对中国知网(CNKI)数据库收录的人工智能治理领域的期刊文献进行系统整理与深入分析,聚焦人工智能治理领域的演进趋势和主题演变,针对人工智能治理的主体,提炼主要研究内容,构建理论架构,并提出未来研究方向,以促进人工智能治理理论研究深化发展。
01
研究方法与数据来源
1.1 研究方法
科学知识图谱是一种将知识图形可视化和知识谱系序列化的表示方法,利用数据挖掘、信息分析、科学计量和图形绘制等手段,揭示知识单元或知识群体间的网络联系、结构组成、相互作用、交叉融合以及演变衍生的复杂关系。这种方法能够展现学科研究的当前状态、描绘学科知识结构,并预测学科的发展趋势[19-21]。作为一种可视化的研究工具,科学知识图谱广泛用于对不同学科领域的综合统计分析,包括对期刊、机构、作者的分布情况考察,以及对研究热点的发展、主题的演变和未来趋势的探索,这种方法涵盖了关键词共现分析、关键词聚类、演进时区图谱和突现文献探测等多种技术手段[22-23]。因此,本研究采用科学知识图谱方法对人工智能治理这一主题进行系统的文献计量分析和可视化处理。在众多可视化知识图谱分析工具中,CiteSpace 以快速的数据处理能力、优秀的可视化效果和便捷的图谱解读功能脱颖而出,能够对不同学科的研究现状、特点、热点和发展趋势进行直观呈现,因此被广泛用于各学科领域的研究回顾与前瞻[24-25]。本文运用 CiteSpace 这一可视化工具,基于文献计量学方法,从文献的时间分布、研究趋势演变以及研究主题的演进等多个维度进行计量和可视化分析。通过这种方式,全面系统地揭示中国人工智能治理领域的研究现状、研究热点及未来发展趋势。
1.2 数据来源
本项研究的数据基础来源于 CNKI 收录的期刊论文,并使用 CSSCI 核心数据库作为文献检索的资源库,通过建立规范化的检索规则来提取所需文献数据。首先,利用 CNKI 高级检索功能,按照主题 = “人工智能” 并含主题 = “治理” 并含篇关摘 = “人工智能” 的方式进行检索;其次,在时间跨度设置上,由于人工智能诞生较早,但中国关于人工智能治理的研究起步较晚,因此检索跨度为所有年份,执行时间为 2023 年 12 月 18 日;再次,在确定文献类型为期刊论文的基础上,为进一步优化研究结果,通过阅读初步检索得到 1214 篇论文的摘要,对结果进行去重、精简和整理,剔除简讯、书评、访谈、报道等及与研究主题不相关的文献,最终获得有效样本数据 1178 篇。
02
人工智能中国之治研究概况
2.1 发文时间分析
明确文献发表的年度分布对于整体把握研究领域热点的演进趋势是一项基础且必要的工作[26] 。2016 年,人工智能 AlphaGo 击败韩国围棋九段李世石,人工智能从此被人们广泛认知,这一年也被广泛称为 “人工智能元年”;中国发布的《“互联网 +” 人工智能三年行动实施方案》明确指出了人工智能发展的总体方针、目标以及主要任务。与此同时,人们开始考虑如何对人工智能进行治理,以避免人类成为机器人手里的 “机器人”。伴随第三次人工智能技术和产业发展浪潮的到来,以及人工智能大规模应用和大众化普及,其负面的外部效应引发了一系列社会问题。如何规范和治理人工智能成为学术界、产业界和政府共同关注的热点议题,关于人工智能治理的研究也呈现持续增长的态势(见图 1)。2018 年董明珠 “被 AI 抓拍” 乌龙事件、Uber 自动驾驶汽车肇事致行人死亡事件及亚马逊人工智能招聘软件性别歧视事件引发全社会对人工智能安全性和规范性的空前关注。学界对人工智能治理的关注度也空前提高,2018 年相关文献发表量约为 2017 年的十倍,后续五年的相关发文量平均增幅高达 24.85%。可以发现,人工智能治理研究与技术应用息息相关。中国拥有丰富的人工智能应用场景,不仅促进了技术创新,而且加速了人工智能技术的落地应用。伴随人工智能在科技、金融、教育、医疗和交通等行业的快速扩散和深入应用,必将带来一系列新的挑战、冲突和问题,因此对人工智能治理的研究也将不断增加。
图 1 人工智能中国之治研究文献年度分布
2.2 发文作者分析
发文作者分析可以有助于进一步了解特定研究领域作者之间的合作网络状况。运用 CiteSpace 绘制人工智能治理研究发文作者共现图谱,如图 2 所示。从作者共现看,图中节点数为 212,连接数为 91,网络密度数为 0.0041,表明在整体上人工智能治理研究领域学者群体较多,研究方向较分散,大部分学者之间的联系与合作较少,关于人工智能治理研究的核心网络尚不明显,但在部分学者之间形成了具有一定合作关系的网络。从具体作者看,发文量最多的作者是贾开,共发文 11 篇,发文量在 7 篇以上的作者仅有 5 位,分别是梁正、王锋、梅立润、高奇琦和赵磊磊,发文量依次为 9 篇、9 篇、9 篇、8 篇和 7 篇。从中心性看,人工智能治理研究领域的部分学者之间形成了个别合作较为稳定的研究团队,典型的有丁浩兰、许丽媛、常志军、张智雄和钱力团队,李正风和俞鼎团队,梁正、张辉和曾雄团队,刘炜、刘圣婴和刘倩倩团队,匡文波和姜泽玮团队以及黄荣怀和杨俊锋团队。根据普莱斯定律,核心作者在其专业领域内产出了大约一半的学术文章,计算公式为
,其中 为发文最多的作者发文数,M 为核心作者最低发文量[27-28] 。统计发现,本研究中 M≈2.484,即核心作者最低发文量约为 3 篇,且样本数据中发文量在 3 篇及以上的 63 名作者(含合作作者)发文总计 347 篇,仅占总发文量的 29.46%,与普赖斯定律所述核心作者产出了其所在学科领域一半的论文存在显著差异,因此人工智能治理研究领域尚未形成核心作者群。而人工智能治理分散的研究群体会对人工智能治理研究资源的分配、研究方向的明确性、研究成果的质量和影响力以及学术诚信等方面产生一定的影响。因此,加强研究者之间的合作与交流,促进研究资源的整合与配置的优化,对于提升人工智能治理研究领域的整体水平和影响力具有重要意义。
图 2 人工智能治理研究发文作者共现图谱
2.3 高被引论文分析
高被引论文象征着某一学科领域内具有重大影响力的文献,对高被引论文进行研究,有助于识别该领域的研究焦点和新兴趋势,为全面深入分析该领域的研究发展提供重要的参考依据[29] 。基于中国知网的引文报告和对样本文献进行统计可得人工智能治理研究领域高被引前 10 文献,如表 1 所示。第一,杨东[30]研究提出,依托大数据、云计算、人工智能、区块链等技术为核心的科技驱动型监管体系,能够基于数据驱动构建分布式的平台监管、智能化的实时监控和试点性的监管沙盒,打破传统金融监管的局限,创新监管手段,保障金融消费者的权益,维护金融系统的稳定;第二,马长山[31]研究指出,在智能互联网时代,需要建立一个综合的法律体系,开发新型的代码控制方式,塑造高度自主的精细化管理秩序,并推动执法和司法的智能化进程;第三,孟天广[32]认为,作为数字时代国家治理的新形式,数字政府旨在利用大数据、人工智能等前沿数字技术,通过政府的数字化转型,重塑治理结构、优化政府职能、创新治理理念,进而同时增强政府的治理能力和社会的协同效能;第四,张文显[33]提出,以大数据、云计算、互联网、区块链、人工智能为代表的智能科技对现有的秩序带来了深刻的冲击和挑战,同时也为建立新秩序提供了强大的动力,建立一个以科学性、人本主义、公正性、包容性、共治为核心价值观和明显特征的法理型法律秩序,是智能社会长期稳定发展的根本保障;第五,贾开等[8]研究提出,建立并完善围绕算法和数据的治理体系与治理机制,创新社会治理制度,进一步完善社会保障体系,构建人工智能全球治理机制,为人工智能时代的公共选择提供参考、建立制度基石;第六,崔靖梓[34]认为,大数据和人工智能的算法服务会带来平等理念危机、歧视识别危机和平等权保护模式危机,需要通过建构人工智能学习权,采用法律与代码相结合的双重保护模式,把握平等权保护与科技创新之间的平衡;第七,何哲[35]研究提出,中国人工智能发展,政府要承担积极责任,引导鼓励企业社会的进入,构建新时代的社会伦理体系、自身的技术标准和国际治理联盟,加快广域范围内的人才培养;第八,郑智航[36]认为,调整传统法律制度的规制理念,构建符合人工智能算法运作基本逻辑的规制路径是解决人工智能算法伦理危机的有效方式;第九,王小芳等[1]研究指出,为应对人工智能政治化中的风险,政府应建立健全开放的治理体系和机制,进一步完善社会保障体系,重铸 “共建共治共享” 的社会治理格局,塑造 “成果共享、权责同担” 的责权体系,以多层次、宽领域、全方位地促进人工智能重大公共性问题的突破;第十,米加宁等[37]提出,运用大数据、人工智能技术变革政府服务方式,突破了传统的 “物理空间” 的政府供给方式,在政府创新上引起了强烈的 社会反响。
上述文献中的观点构成了人工智能治理领域 getKey组成部分,共同为人工智能治理的理论和实践研究提供了丰富的内容,并为该领域的研究繁荣发展打下了坚实的基础。从高被引论文可以看出,人工智能治理研究主要集中在依托人工智能技术创新治理、针对人工智能带来风险提出治理新理念和新措施及构建针对人工智能发展的法律体系三个方面,也是人工智能治理研究的三个重要发展方向。
表 1 人工智能治理研究领域高被引前 10 文献
03
人工智能中国之治研究的热点分析
3.1 发文关键词共现分析
关键词作为文献的核心与精华,其共现分析可以清楚地呈现特定研究领域的代表性术语,进一步总结该领域的热点主题[38]。通过运用 CiteSpace 绘制人工智能治理研究的关键词共现图谱和高频关键词统计(见表 2)可知,“人工智能”“ChatGPT” 和 “生成式人工智能” 的频次最高,分别为 725、164 和 119,且中心性分别为 0.73、0.12、0.05,其余频次高于 30 的关键词依次为 “大数据”“算法”“数据治理”“社会治理”“风险治理”“协同治理”“算法治理”“治理”“数字治理” 等。其中,ChatGPT 与生成式人工智能是新时期、新阶段人工智能技术发展的典型代表,是人工智能进入新纪元的标志,在推动数字生产力取得重大突破的同时,也为技术发展与风险控制提出新的问题与挑战。而数据治理、社会治理、风险治理、协同治理、算法治理和数字治理的有效融合则是在合理控制风险的前提下推动人工智能产业健康有序发展的重要途径。
表 2 人工智能治理研究发文核心关键词
3.2 发文关键词聚类分析
关键词聚类分析在知识图谱中对于揭示特定研究领域的研究热点结构和内容有较大帮助。通过 CiteSpace 软件中的 LLR(Log-Likelihood Ratio)算法,可以得到人工智能治理研究的关键词聚类图谱和聚类分析报告(见表 3)。从总体上分析,聚类的模块化值即 Q 值为 0.4632,该值大于 0.3,说明聚类效果明显;平均轮廓值即 S 值为 0.8252,并且所有具体聚类的轮廓值都高于 0.7,表明聚类分析的结果合理且效果良好。总体而言,人工智能治理研究的整体框架涵盖人工智能、智能治理、算法治理、算法、数字治理、治理、社会治理、伦理治理、全球治理和敏捷治理十大聚类。从热点标签看,LLR 值较高的标签对该聚类具有更强的代表性。总结而言,人工智能治理的研究呈现出 “新技术-新领域-新风险-新理念-新应用-新治理” 的基本逻辑和结构。
表 3 人工智能治理研究发文关键词聚类报告
从平均时间看,2018 年的人工智能治理研究前沿主题主要集中在新技术、网络安全、媒体融合、伦理等方面;2019 年科技部主导建立了中国国家新一代人工智能治理专业委员会,并提出了 8 条新一代人工智能治理原则,突出了发展负责任的人工智能的必要性,该年度的人工智能研究前沿主题主要集中在国家治理、大数据、政府治理、智慧治理、智能技术、智能时代、疫情防控、智慧社会、云计算、城市治理、系统思维、物联网、智慧法院、韧性治理、精准治理、AI 治理等方面;2020 年国家科技伦理委员会正式成立,是新时代国家科技伦理治理的重大战略决策[39],该年度的人工智能治理研究前沿主题主要集中在教育治理、主体性、算法治理、智能治理等方面;2021 年《新一代人工智能伦理规范》发布,阐述了人工智能的管理规范、研发规范、供应规范和使用规范[40],该年度的人工智能治理研究前沿主题主要集中在风险治理、数据安全、算法歧视、算法安全、法律规制、元宇宙、风险、游戏、数字政府、数据治理、数字技术、数字人权、伦理风险、监管模式、技术治理、算法风险等方面。综合而言,人工智能治理研究前沿主题演化与国家政策演进和人工智能发展实践紧密相关。
04
人工智能治理研究的突现趋势与研究架构
4.1 人工智能治理研究的突现趋势分析
为了进一步确保研究的严谨性,本研究基于文献被引频次的变化率[24],运用 CiteSpace 中的 Burstness 功能(γ = 0.8,Burst items found = 12),可得人工智能治理研究领域的关键词突现情况,以进一步揭示人工智能治理研究的突现趋势,如表 4 所示。2016—2018 年出现了一些人工智能治理相关研究领域的关键节点,如大数据、新媒体、公共政策等,说明大数据和新媒体作为人工智能治理技术基础和实践应用最早受到相关学者的关注;同时,大数据作为人工智能发展的底层技术,数据治理是人工智能治理早期研究的重要切入点[41],但随着人工智能发展的深化和应用领域逐渐拓宽,“大数据” 这一术语逐渐淡化。2018—2020 年人工智能治理的相关研究主要集中在对人工智能的数字治理、智能治理、城市治理和社会治理方面,以应对人工智能发展带来的安全、伦理等风险;其中,作为一种基础架构,区块链利用有序的链式数据结构来存储数据,通过共识算法来更新数据,并依靠密码学技术来保护数据安全,具有改变技术与法律边界、形成新的治理模式的潜质,是对人工智能施以技术治理的有效范式[42-43]。2020 年以后,这一趋势有所变化。2021 年以来的人工智能治理相关研究演化出个人信息和治理结构等主题,对人工智能造成的个人信息泄露风险进行规制成为人工智能治理研究一个重要的新方向[44]。此外,赋能是人工智能治理研究领域又一重要的突现词。其中,城市治理是人工智能赋能治理最受关注的研究方向之一。薛泽林等[45]研究指出,人工智能赋能超大城市精细化治理需要落实民生公共服务供给的加法,做好政府非法定职能的减法,发挥人工智能提升治理能级的乘数效应,运用除法思维找到共治的最大公约数。整体而言,关键词突现表明,前期研究主要聚焦于新技术、新领域与新风险,后期研究则主要聚焦于新理念、新应用与新治理。此外,从突现时间视角看,人工智能研究领域的核心主题并非提出伊始就得到了广泛关注,而是经过一段时间的沉淀和演化,即随着人工智能领域实践发展和内理论框架不断完善,相关研究成果才得以在后续时期引发持续关注。
表 4 人工智能治理研究的关键词突现
综上,关键词突现揭示了人工智能治理研究的理论基础和发展脉络。结果表明,人工智能治理研究已形成初步的理论框架,研究主题正在不断丰富和拓展,从新技术到新风险,从新理念到新治理,无论是热点演进、主题演化还是架构体系、未来趋势,人工智能治理领域的研究方向已日渐明朗。伴随信息化、数字化、智能化的深入发展和政界、业界及学界对人工智能发展的重视,人工智能治理研究在未来将占有越来越重要的地位。
4.2 人工智能治理研究的架构体系
通过进一步解构人工智能治理研究领域发文关键词共现和发文关键词聚类可以发现,人工智能治理的研究呈现出 “新技术—新领域—新风险—新理念—新应用—新治理” 的理论架构体系,如图 3 所示。
从整体视角看,现有人工智能治理研究在遵循 “秉持共同、综合、合作、可持续的安全观,坚持发展和安全并重的原则,构建开放、公正、有效的治理机制,促进人工智能技术造福于人类” [46]的人工智能技术发展逻辑与治理倡导下,基本形成了 “新技术发展导致诸多新风险—诸多新风险呼吁有效新治理—有效新治理规范新技术发展” 的闭环式人工智能治理研究的理论框架。一方面,在人工智能发展演进过程中,逻辑主义、神经网络、深度学习和强化学习等新技术不断深化发展,在持续推动人工智能向医疗、教育、交通、物流、科技、国防、制造等诸多新领域加速渗透的同时,也带来了不可控性、隐私泄露、数据安全和算法失信等诸多新风险;另一方面,伴随人工智能的快速发展、多领域渗透和多风险发生,人工智能进一步发展需要坚守协同化、透明化、个性化和可持续等新理念,推进人工智能在城市大脑、媒体融合、电子政务、智慧法院、智慧社会和信息保护等方面的新应用,并通过智能治理、算法治理、数字治理、伦理治理、城市治理、社会治理、国家治理、全球治理、敏捷治理、政府治理和协同治理加强人工智能治理效能,推动人工智能可信、可控、可用发展。
05
研究结论与展望
5.1 研究结论
本研究基于科学知识图谱视角,利用 CiteSpace 软件对 CNKI 数据库内人工智能治理领域的研究文献开展计量学与可视化分析,并对现有研究概况、研究热点演进及研究主题演化进行了深入解构,对人工智能治理领域的后续研究提供了全面完整的理论视图。研究结论如下:①人工智能治理研究领域发文量自 2018 年开始呈现快速增长态势,未来上升趋势依然强劲;②人工智能治理研究与人工智能产业发展水平之间具有较强的关联性;③人工智能治理研究领域学者群体较多,大部分学者之间的联系与合作较少,尚未形成核心作者群,但在部分学者之间形成了具有一定合作关系的网络;④人工智能治理研究热点演进和主题演化呈现出 “新技术-新领域-新风险-新理念-新应用-新治理” 的基本逻辑和结构;⑤人工智能治理研究的演进脉络是从新技术到新风险、从新理念到新治理的延伸和拓展。
5.2 研究展望
整体而言,伴随人工智能技术的快速发展和大众化应用的持续深化,人工智能治理领域的研究发展已经引起了各界学者的关注,研究态势不断演进,研究主题持续演化,并取得了一定的研究成果。然而,人工智能中国之治的研究起步较晚,研究内容和热点较分散且未能形成成熟的理论体系框架,研究尚存不足需要在未来研究中进一步加以完善:一是现有研究较多关注人工智能技术发展导致的诸多风险和针对某类风险进行单一治理等主题,对人工智能发展带来的风险及对传统治理体系造成冲击和挑战的内在机理、作用机制、深层原因、协同治理及政策设计等方面的研究不足;二是在对人工智能风险进行剖析和制定治理策略方面,现有的研究多从城市、产业和企业三方面的单一视角进行研究,且相关研究尚处于零碎化状态,缺乏对人工智能治理的系统性构建及演化机理的全面诠释,缺乏对各主体间共生视角下的分析;三是现有研究主要聚焦于人工智能技术应用较深化的教育、生态、国防、法律、科研等领域的风险生成和治理探索,缺乏对其他更具潜力领域的深化应用和治理机制的研究探索;四是现有研究对人工智能治理解构多侧重概念辨析、理论阐述和案例分析等方面,定量化、模型化和实证化的系统性分析相对较少,研究方法比较单一。
在未来研究中,人工智能中国之治的研究需要在现有研究的基础上进一步发展,结合人工智能的最新进展和国家治理的新需求,加强机构与研究者之间的交流与合作,推动学科和实践相结合,通过管理学、伦理学、经济学、社会学和法学等多学科的综合视角,深入探讨人工智能治理的各个层面,不断丰富、拓展和完善相关研究内容、研究视角、研究领域和研究方法。研究内容方面,开展长期的纵向研究,追踪人工智能的发展变化和治理面临的新情境、新问题,并通过跟踪研究揭示人工智能治理的演化轨迹以及不同因素对其变化的影响,为未来的政策制定和战略规划提供参考依据;扩大研究视野,比较不同国家和地区人工智能治理的特点和运行机制,找出各国人工智能治理的优势和不足之处,为政策制定和实践提供借鉴和启示。研究视角方面,积极促进学术界、产业界和政府部门之间的合作与交流,注重理论研究与实践经验的结合,更加注重从跨学科共生、跨国别共生、跨主体共生视角探索治理共同体构建,开展理论与实践互动、供给与需求匹配、过程与结果兼顾的人工智能治理研究,推动人工智能治理略、术、道的统一。研究领域方面,进一步拓宽研究视野,开展人工智能在智慧城市、金融科技、创意产业、数据安全、基础研究、可控武器等领域的治理机制,为制定相应领域的监管政策和法律框架提供依据,以确保人工智能的应用发展符合社会利益和公共利益。第四,研究方法方面,深入挖掘人工智能治理的数据资料,进行数据分析和模型建立,通过数据驱动的定量研究克服定性研究主观性较强的不足,以更准确地了解人工智能治理的结构、演化和影响因素。
*参考文献
[1] 王小芳,王磊. “技术利维坦”:人工智能嵌入社会治理的潜在风险与政府应对[J]. 电子政务,2019(5):86 - 93.
[2] 中国信息通信研究院. 全球数字经济白皮书(2022 年)[R]. 北京,2023.
[3] 霍金. AI 可能成就或者终结人类文明[J]. 中国科技奖励,2017(5):74 - 75.
[4] ELON MUSK. Artificial intelligence is our biggest existential threat[EB/OL].
https://www.theguardian.com/technology/2014/ct/27/elon-musk-artificial-intelligence-ai-biggest-existential-threat.
[5] MICROSOFT'S BILL GATES. Insists AI is a threat[EB/OL]. (2017 - 08 - 14)
http://www.bbc.com/news/31047780.
[6] 赫拉利. 人类简史[M]. 北京:中信出版社,2014.
[7] GUIHOT M, MATHEW A F, SUZOR N P. Nudging robots: Innovative solutions to regulate artificial intelligence[J]. Vanderbilt Journal of Entertainment and Technology Law, 2017, 20(2): 385 - 456.
[8] 贾开,蒋余浩. 人工智能治理的三个基本问题:技术逻辑、风险挑战与公共政策选择[J]. 中国行政管理,2017(10):40 - 45.
[9] 江怡. 对人工智能与自我意识区别的概念分析[J]. 自然辩证法通讯,2019, 41(10):1 - 7.
[10] 李晓方. 人工智能概念的再界定与政府的治理回应:基于技术、市场和政治视角的分析[J]. 电子政务,2019(3):2 - 8.
[11] 张东冬. 人类命运共同体理念下的全球人工智能治理:现实困局与中国方案[J]. 社会主义研究,2021(6):164 - 172.
[12] 周江伟,赵瑜. 人工智能治理原则的实践导向:可靠性、问责制与社会协同[J]. 治理研究,2023, 39(5):111 - 127, 159 - 160.
[13] 徐继敏. 生成式人工智能治理原则与法律策略[J]. 理论与改革,2023(5):72 - 83.
[14] 庞祯敬,薛澜,梁正. 人工智能治理:认知逻辑与范式超越[J]. 科学学与科学技术管理,2022, 43(9):3 - 18.
[15] 姜李丹,薛澜. 我国新一代人工智能治理的时代挑战与范式变革[J]. 公共管理学报,2022, 19(2):1 - 11, 164.
[16] 高奇琦. 全球善智与全球合智:人工智能全球治理的未来[J]. 世界经济与政治,2019(7):24 - 48, 155 - 156.
[17] 高奇琦. 智能革命与国家治理现代化初探[J]. 中国社会科学,2020(7):81 - 102, 205 - 206.
[18] 本清松,彭小兵. 人工智能应用嵌入政府治理:实践、机制与风险架构——以杭州城市大脑为例[J]. 甘肃行政学院学报,2020(3):29 - 42, 125.
[19] 陈悦,陈超美,刘则渊,等. CiteSpace 知识图谱的方法论功能[J]. 科学学研究,2015, 33(2):242 - 253.
[20] 朱军文,李奕嬴. 国外科技人才国际流动问题研究演进[J]. 科学学研究,2016, 34(5):697 - 703.
[21] 敦帅. 新经济与新治理:分享经济中国之治的知识图谱研究[J]. 湖南社会科学,2023(3):76 - 83.
[22] SMALL H, UPHAM P. Citation structure of an emerging research area on the very edge of application[J]. Scientometrics, 2009, 79(2):365 - 375.
[23] RITALA P, HURMELINNA-LAUKKANEN P, NATTI S. Coordination in innovation-generating business networks: The case of Finnish Mobile TV development[J]. Journal of Business & Industrial Marketing, 2012, 27(4):324 - 334.
[24] CHEN C. CiteSpace II: Detecting and visualizing emerging trends and transient patterns in scientific literature[J]. Journal of the American Society for Information Science and Technology, 2006, 57(3):359 - 377.
[25] 夏恩君,宋剑锋. 开放式创新研究的演化路径和热点领域分析:基于科学知识图谱视角[J]. 科研管理,2015, 36(7):28 - 37.
[26] 张建军. 国际互联网治理研究热点与前沿分析[J]. 电子政务,2019(6):51 - 60.
[27] 姚雪,徐川平,李杰,等. 基于普赖斯定律和二八定律及在线投稿系统构建某科技期刊核心作者用户库[J]. 编辑学报,2017, 29(1):64 - 66.
[28] 敦帅,陈强. 中国企业可持续发展研究:态势演进与主题演化[J]. 科学管理研究,2020, 38(1):94 - 100.
[29] 解学梅,余生辉,吴永慧. 国外创新生态系统研究热点与演进脉络:基于科学知识图谱视角[J]. 科学学与科学技术管理,2020, 41(10):20 - 42.
[30] 杨东. 监管科技:金融科技的监管挑战与维度建构[J]. 中国社会科学,2018(5):69 - 91, 205 - 206.
[31] 马长山. 智能互联网时代的法律变革[J]. 法学研究,2018, 40(4):20 - 38.
[32] 孟天广. 政府数字化转型的要素、机制与路径——兼论 “技术赋能” 与 “技术赋权” 的双向驱动[J]. 治理研究,2021, 37(1):5 - 14, 2.
[33] 张文显. 构建智能社会的法律秩序[J]. 东方法学,2020(5):4 - 19.
[34] 崔靖梓. 算法歧视挑战下平等权保护的危机与应对[J]. 法律科学(西北政法大学学报),2019, 37(3):29 - 42.
[35] 何哲. 通向人工智能时代——兼论美国人工智能战略方向及对中国人工智能战略的借鉴[J]. 电子政务,2016(12):2 - 10.
[36] 郑智航. 人工智能算法的伦理危机与法律规制[J]. 法律科学(西北政法大学学报),2021, 39(1):14 - 26.
[37] 米加宁,章昌平,李大宇,等. “数字空间” 政府及其研究纲领——第四次工业革命引致的政府形态变革[J]. 公共管理学报,2020, 17(1):1 - 17, 168.
[38] 马费成,张勤. 国内外知识管理研究热点:基于词频的统计分析[J]. 情报学报,2006(2):23 - 30.
[39] 傅莹. 人工智能的治理与国际合作[EB/OL]. (2019 - 08 - 30).
https://baijiahao.baidu.com/s?id=1643005983330134461&wfr=spider&for=pc.
[40] 汤志伟. 伦理先行:持续推进人工智能伦理治理[EB/OL]. (2023 - 10 - 25). https://theory.gmw.cn/2023 - 10/25/content_36918050.htm.
[41] 柳亦博. 人工智能阴影下:政府大数据治理中的伦理困境[J]. 行政论坛,2018, 25(3):97 - 103.
[42] 郑戈. 区块链与未来法治[J]. 东方法学,2018(3):75 - 86.
[43] 余成峰. 法律的 “死亡”:人工智能时代的法律功能危机[J]. 华东政法大学学报,2018, 21(2):5 - 20.
[44] 钟晓东. 风险与控制:论生成式人工智能应用的个人信息保护[J]. 政法论丛,2023(4):59 - 68.
[45] 薛泽林,孙荣. 人工智能赋能超大城市精细化治理——应用逻辑、重要议题与未来突破[J]. 上海行政学院学报,2020, 21(2):55 - 62.
[46] 中华人民共和国国家互联网信息办公室. 全球人工智能治理倡议[EB/OL]. (2023 - 10 - 18). http://www.cac.gov.cn/2023 - 10/18/c_1699291032884978.htm.
来源 | 《中国科技论坛》,原文刊于中国科技论坛, 2025(4): 31-42.
作者 | 敦帅1(博士,讲师,研究方向为创新与技术管理、分享经济), 陈强2(通讯作者), 贾婷3
1.中共上海市委党校上海行政学院)领导科学教研部
2.同济大学经济与管理学院
3.大理大学经济与管理学院