技术经济

何以实现生成式人工智能技术的安全治理？——基于信息生态系统的博弈分析

PDF下载

马晓飞 , 王佳

技术经济 | 技术经济管理 2026,45(3): 81-97

收起

技术经济 |技术经济管理 2026 , 45 (3) : 81 -97

何以实现生成式人工智能技术的安全治理？——基于信息生态系统的博弈分析

全屏

[Author(id=1322132573032141233, tenantId=1146029695717560320, journalId=1146120045056339983, articleId=1322132571765461418, orderNo=0, firstName=null, middleName=null, lastName=null, nameCn=null, orcid=null, stid=null, country=null, authorPic=null, dead=0, email=null, emailSecond=null, emailThird=null, correspondingAuthor=0, authorType=1, ext={EN=AuthorExt(id=1322132573111833011, tenantId=1146029695717560320, journalId=1146120045056339983, articleId=1322132571765461418, authorId=1322132573032141233, language=EN, stringName=Xiaofei Ma, firstName=Xiaofei, middleName=null, lastName=Ma, prefix=null, suffix=null, authorComment=null, nameInitials=null, affiliation=null, department=null, xref=null, address=School of Economics and Management, Beijing University of Posts and Telecommunications, Beijing 100876, China, bio=null, bioImg=null, bioContent=null, aboutCorrespAuthor=null), CN=AuthorExt(id=1322132573183136180, tenantId=1146029695717560320, journalId=1146120045056339983, articleId=1322132571765461418, authorId=1322132573032141233, language=CN, stringName=马晓飞, firstName=null, middleName=null, lastName=null, prefix=null, suffix=null, authorComment=null, nameInitials=null, affiliation=null, department=null, xref=null, address=北京邮电大学经济管理学院，北京 100876, bio={"content":"

马晓飞（1979—），博士，北京邮电大学经济管理学院教授，博士研究生导师，研究方向：人工智能安全治理

"}, bioImg=null, bioContent=

马晓飞（1979—），博士，北京邮电大学经济管理学院教授，博士研究生导师，研究方向：人工智能安全治理

, aboutCorrespAuthor=null)}, companyList=[AuthorCompany(id=1322132572667236781, tenantId=1146029695717560320, journalId=1146120045056339983, articleId=1322132571765461418, xref=null, ext=[AuthorCompanyExt(id=1322132572675625390, tenantId=1146029695717560320, journalId=1146120045056339983, articleId=1322132571765461418, companyId=1322132572667236781, language=EN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=School of Economics and Management, Beijing University of Posts and Telecommunications, Beijing 100876, China), AuthorCompanyExt(id=1322132572688208303, tenantId=1146029695717560320, journalId=1146120045056339983, articleId=1322132571765461418, companyId=1322132572667236781, language=CN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=北京邮电大学经济管理学院，北京 100876)])]), Author(id=1322132573254439350, tenantId=1146029695717560320, journalId=1146120045056339983, articleId=1322132571765461418, orderNo=1, firstName=null, middleName=null, lastName=null, nameCn=null, orcid=null, stid=null, country=null, authorPic=null, dead=0, email=null, emailSecond=null, emailThird=null, correspondingAuthor=1, authorType=1, ext={EN=AuthorExt(id=1322132573376074168, tenantId=1146029695717560320, journalId=1146120045056339983, articleId=1322132571765461418, authorId=1322132573254439350, language=EN, stringName=Jia Wang, firstName=Jia, middleName=null, lastName=Wang, prefix=null, suffix=null, authorComment=null, nameInitials=null, affiliation=null, department=null, xref=null, address=School of Economics and Management, Beijing University of Posts and Telecommunications, Beijing 100876, China, bio=null, bioImg=null, bioContent=null, aboutCorrespAuthor=null), CN=AuthorExt(id=1322132573447377337, tenantId=1146029695717560320, journalId=1146120045056339983, articleId=1322132571765461418, authorId=1322132573254439350, language=CN, stringName=王佳, firstName=null, middleName=null, lastName=null, prefix=null, suffix=null, authorComment=null, nameInitials=null, affiliation=null, department=null, xref=null, address=北京邮电大学经济管理学院，北京 100876, bio=null, bioImg=null, bioContent=null, aboutCorrespAuthor=null)}, companyList=[AuthorCompany(id=1322132572667236781, tenantId=1146029695717560320, journalId=1146120045056339983, articleId=1322132571765461418, xref=null, ext=[AuthorCompanyExt(id=1322132572675625390, tenantId=1146029695717560320, journalId=1146120045056339983, articleId=1322132571765461418, companyId=1322132572667236781, language=EN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=School of Economics and Management, Beijing University of Posts and Telecommunications, Beijing 100876, China), AuthorCompanyExt(id=1322132572688208303, tenantId=1146029695717560320, journalId=1146120045056339983, articleId=1322132571765461418, companyId=1322132572667236781, language=CN, country=null, province=null, city=null, postcode=null, companyName=null, departmentName=null, remark=北京邮电大学经济管理学院，北京 100876)])])]

马晓飞, 王佳

作者信息

北京邮电大学经济管理学院，北京 100876

通讯作者:

王佳（1997—），北京邮电大学经济管理学院博士研究生，研究方向：人工智能安全治理。

作者简介:

马晓飞（1979—），博士，北京邮电大学经济管理学院教授，博士研究生导师，研究方向：人工智能安全治理

How to Achieve the Secure Governance of Generative Artificial Intelligence Technology? A Game-Theoretic Analysis Based on the Information Ecosystem

Xiaofei Ma, Jia Wang

Affiliations

School of Economics and Management, Beijing University of Posts and Telecommunications, Beijing 100876, China

出版时间: 2026-03-25 doi: 10.12404/j.issn.1002-980X.J25101703

文章导航

摘要

收起

生成式人工智能的飞速发展在加快形成新质生产力等方面成效显著，但其面临的数据、信息、内容等方面的治理挑战亟待解决，急需在技术发展与安全之间寻找平衡点。基于信息生态系统理论，构建生成式人工智能服务管理者、提供者、使用者三方主体协同治理博弈模型，进行数值仿真分析发现：①生成式人工智能安全治理是一个多主体协同参与的过程，该过程受生态因素影响，加大各主体的共治收益及负面治理行为带来的损失都有利于促进信息生态系统稳定于{严格监管，积极治理，合规使用}的理想状态。②形象因素方面，提高生成式人工智能服务管理者的监管形象收益和提供者的声誉形象收益都可促进信息生态系统向理想状态进化。③奖惩因素方面，提高管理者对提供者的奖励及提供者对使用者的奖励虽然会使实施奖励一方自身利益稍有损失，但可促进整个信息生态系统向理想状态进化，其中管理者给予的奖励存在有效阈值；加大管理者和提供者实施惩罚的力度可促进三方协同共治。④超额收益因素方面，压缩提供者及使用者的超额收益空间可促进三方协同共治。研究结论为制定生成式人工智能技术安全治理策略提供了理论支撑，进而推动形成健康有序的网络生态。

关键词

发展与安全 / 生成式人工智能 / 多主体协同治理 / 信息生态系统 / 演化博弈

Abstract

收起

The rapid development of generative artificial intelligence (GAI) has been effective in accelerating the formation of new quality productivity and other aspects, but the governance challenges it faces in terms of data, information and content need to be solved urgently, and there is an urgent need to find a balance point between technological development and security. Based on information ecosystem theory, a collaborative governance game model involving three stakeholders (managers, providers, and users of GAI services) and numerical simulation analysis were conducted. It is found that GAI safety governance is a process of multi-object collaborative participation, which is affected by ecological factors, and increasing the co-governance gains of each subject and the losses brought by negative governance behaviors are conducive to promoting the information ecosystem to be stable in the ideal state of {strict regulation, active governance, and compliant use}. Regarding image factors, increasing the regulatory image gain of managers and the reputation image gain of providers can promote the information ecosystem to evolve to the ideal state. Regarding rewards and penalties, increasing the rewards from managers to providers and from providers to users can promote the evolution of the entire information ecosystem to a desirable state, even though it may cause a slight loss in the interests of the party who imposes the rewards, where the rewards given by the managers are within an effective threshold; and increasing the penalties imposed by the managers and providers can promote the synergistic governance of the three parties. With regard to the factor of excess earnings, compressing the space for excess earnings of providers and users can promote the synergistic governance of the three parties. The research conclusions presented herein provide theoretical support for formulating security governance strategies for generative artificial intelligence technologies, thereby promoting the development of a healthy and orderly online ecosystem.

Key words

development and security / generative artificial intelligence / multi-body collaborative governance / information ecosystem / evolutionary game

引用本文

马晓飞, 王佳. 何以实现生成式人工智能技术的安全治理？——基于信息生态系统的博弈分析. 技术经济, 2026 , 45 (3) : 81 -97 . DOI: 10.12404/j.issn.1002-980X.J25101703

Xiaofei Ma, Jia Wang. How to Achieve the Secure Governance of Generative Artificial Intelligence Technology? A Game-Theoretic Analysis Based on the Information Ecosystem[J]. Journal of Technology Economics, 2026 , 45 (3) : 81 -97 . DOI: 10.12404/j.issn.1002-980X.J25101703

基金

收起

北京市社会科学基金“北京市人工智能大模型安全风险评估与治理长效机制研究”(25JCC128)

参考文献

收起

文献

收起

参考文献引证文献

排序方式：

[1]

严驰．生成式人工智能大模型全球治理的理论证成与初步构想[J]．中国科技论坛，2024（5）：140-148．

[2]

MANNURU N R, SHAHRIAR S, TEEL Z A, et al. Artificial intelligence in developing countries: The impact of generative artificial intelligence (AI) technologies for development[J]. Information Development, 2025, 41(3): 1036-1054.

[3]

刘邦奇，尹欢欢．人工智能赋能教师数字素养提升：策略、场景与评价反馈机制[J]．现代教育技术，2024，34（7）：23-31．

[4]

杨立民．基于生成式人工智能法律服务的数智化发展逻辑与建构路径[J]．深圳大学学报（人文社会科学版），2023，40（6）：111-120．

[5]

WAISBERG E, ONG J, MASALKHI M, et al. OpenAI's Sora in medicine: Revolutionary advances in generative artificial intelligence for healthcare[J]. Irish Journal of Medical Science, 2024, 193(4): 2105-2107.

[6]

刘志雄．生成式人工智能赋能普惠金融：现实基础、关键风险挑战与应对策略[J]．人民论坛·学术前沿，2024（6）：86-93．

[7]

沈芳君．生成式人工智能的风险与治理——兼论如何打破“科林格里奇困境”[J]．浙江大学学报（人文社会科学版），2024，54（6）：73-91．

[8]

李森．风险防范视阈下生成式人工智能数据安全的治理路径——以GPT类模型为例[J]．西藏民族大学学报（哲学社会科学版），2023，44（6）：139-145．

[9]

张欣．生成式人工智能的数据风险与治理路径[J]．法律科学（西北政法大学学报），2023，41（5）：42-54．

[10]

徐伟，何野．生成式人工智能数据安全风险的治理体系及优化路径——基于38份政策文本的扎根分析[J]．电子政务，2024（10）：42-58．

[11]

周妍，沈天健．生成式人工智能视域下虚假信息的层级化运作机理与治理[J]．编辑之友，2024（8）：75-83．

[12]

郭海玲，卫金金，刘仲山．生成式人工智能虚假信息协同共治研究[J]．情报杂志，2024，43（9）：121-129，165．

[13]

漆晨航．生成式人工智能的虚假信息风险特征及其治理路径[J]．情报理论与实践，2024，47（3）：112-120．

[14]

DU H, LI Z, NIYATO D, et al. Enabling AI-generated content services in wireless edge networks[J]. IEEE Wireless Communications, 2024, 31(3): 226-234.

[15]

KARABACAK M, OZKARA B, MARGATIS K, et al. The advent of generative language models in medical education[J]. JMIR Medical Education, 2023, 9: e48163.

[16]

ZYBACZYNSKA J, NORRIS M, MODI S, et al. Artificial intelligence-generated scientific literature: A critical appraisal[J]. Journal of Allergy and Clinical Immunology-In Practice, 2024, 12(1): 106-110.

[17]

张凌寒，贾斯瑶．人工智能生成内容标识制度的逻辑更新与制度优化[J]．求是学刊，2024，51（1）：112-122．

[18]

宋士杰，赵宇翔，朱庆华．从ELIZA到ChatGPT：人智交互体验中的AI生成内容（AIGC）可信度评价[J]．情报资料工作，2023，44（4）：35-42．

[19]

杜修平，王崟羽，陈子尧．AIGC赋能“中文+职业教育”资源智能生成与质量进化——内涵、机理与模式构建[J]．电化教育研究，2024，45（5）：121-128．

[20]

GOLAN R, RIPPS S, REDDY R, et al. ChatGPT's ability to assess quality and readability of online medical information: Evidence from a cross-sectional study[J]. Cureus, 2023, 15(7): e42214.

[21]

唐昆，李白杨，张心源．基于主客观融合的人工智能跨模态生成内容质量及效能测度研究[J]．情报理论与实践，2024，47（11）：150-161．

[22]

邢润媚，常升龙，何宽，等．AIGC图像质量评估指标研究[J]．南京信息工程大学学报，2025，17（1）：63-73．

[23]

ZHANG Y, GOSLINE R. Human favoritism, not AI aversion: People's perceptions (and bias) toward generative AI, human experts, and human-GAI collaboration in persuasive content generation[J]. Judgment and Decision Making, 2023, 18: e41.

[24]

WILHELM T, ROOS J, KACZMARCZYK R. Large language models for therapy recommendations across 3 clinical specialties: Comparative study[J]. Journal of Medical Internet Research, 2023, 25: e49324.

[25]

GHANEM Y, ROUHI A, AL-HOUSSAN A, et al. Dr. Google to Dr. ChatGPT: Assessing the content and quality of artificial intelligence-generated medical information on appendicitis[J]. Surgical Endoscopy, 2024, 38(5): 2887-2893.

[26]

秦喜亮，田虹．数字技术背景下企业知识扩散模型构建及仿真研究——基于信息生态视角[J]．情报科学，2024，42（3）：174-182．

[27]

杨雨娇，袁勤俭．信息生态理论其在信息系统研究领域的应用及展望[J]．现代情报，2022，42（5）：140-148．

[28]

翟运开，宋欣，王宇．医疗健康大数据资产价值实现路径分析——基于信息生态系统理论[J]．技术经济，2023，42（11）：178-190．

[29]

丁波涛．基于信息生态理论的数据要素市场研究[J]．情报理论与实践，2022，45（12）：36-41，59．

[30]

胡漠，张蕴潮．在线健康社区生态系统架构与关键影响要素识别研究[J]．图书情报工作，2023，67（2）：33-43．

[31]

吕鲲，郭淳，罗星雨，等．高校智慧图书馆信息服务生态系统构建及其系统动力学分析[J]．情报科学，2022，40（6）：44-51．

[32]

LUO H, MENG X, ZHAO Y F, et al. Rise of social bots: The impact of social bots on public opinion dynamics in public health emergencies from an information ecology perspective[J]. Telematics and Informatics, 2023, 85: 102051.

[33]

杨波，谢乐．企业危机事件网络舆情传播态势生成机理研究——基于信息生态的多阶段fsQCA分析[J]．管理评论，2022，34（7）：339-352．

[34]

张迪，张力伟．数智信息生态系统：内涵、构成与机制[J]．现代情报，2024，44（4）：11-21．

[35]

金雪涛，周也馨．从ChatGPT火爆看智能生成内容的风险及治理[J]．编辑之友，2023（11）：29-35．

[36]

DU H, ZHANG R, NIYATO D, et al. Exploring collaborative distributed diffusion-based AI-generated content (AIGC) in wireless networks[J]. IEEE Network, 2024, 38(3): 178-186.

[37]

FRIEDMAN D. Evolutionary games in economics[J]. Econometrica, 1991, 59(3): 637-666.

[38]

杨秀云，梁珊珊．基于演化博弈的互联网信息生态环境治理机制研究[J]．当代经济科学，2023，45（1）：29-45．

[39]

邱均平，张廷勇，徐中阳．基于三方演化博弈的AIGC虚假信息协同治理策略研究[J]．图书情报工作，2026，70（2）：71-85．

[40]

杜志平，区钰贤．基于三方演化博弈的跨境物流联盟信息协同机制研究[J]．中国管理科学，2023，31（4）：228-238．

2026年第45卷第3期

PDF下载

引用本文

BibTeX

文章信息

doi: 10.12404/j.issn.1002-980X.J25101703

接收时间：2025-10-17
首发时间：2026-10-28
出版时间：2026-03-25

补充材料

相关文章

文章信息

作者

出版历史

收稿日期：2025-10-17

基金

北京市社会科学基金“北京市人工智能大模型安全风险评估与治理长效机制研究”(25JCC128)

作者信息

北京邮电大学经济管理学院，北京 100876

通讯作者:

王佳（1997—），北京邮电大学经济管理学院博士研究生，研究方向：人工智能安全治理。

参考文献

分享链接

https://castjournals.cast.org.cn/joweb/jsyjj/CN/10.12404/j.issn.1002-980X.J25101703

分享至

全文二维码

扫描看全文

引用本文

BibTeX

本文的引用情况

2种不同金属材料的力学参数

科 Family	属数 Number of genus	种数 Number of species	占总种数比例 Percentage of total species (%)	属 Genus	种数 Number of species	占总种数比例 Percentage of total species (%)
鹅膏菌科Amanitaceae	2	11	5.26	鹅膏菌属 Amanita	10	4.78
小菇科 Mycenaceae	2	12	5.74	丝盖伞属 Inocybe	5	2.39
多孔菌科 Polyporaceae	8	14	6.70	蜡蘑属 Laccaria	5	2.39
红菇科 Russulaceae	3	23	11.00	小皮伞属 Marasmius	6	2.87
				小菇属 Mycena	11	5.26
				光柄菇属 Pluteus	5	2.39
				红菇属 Russula	17	8.13
				栓菌属 Trametes	5	2.39

关闭全屏

BibTeX
EndNote
RefWorks
TxT