科普研究

技术工具视角下的人工智能科普服务：创新、风险与对策

PDF下载

王挺 , 邵华胜 , 王丽慧

科普研究 | 科普能力 2024,19(5): 5-13

收起

科普研究 | 科普能力 2024, 19(5): 5-13

技术工具视角下的人工智能科普服务：创新、风险与对策

全屏

王挺, 邵华胜, 王丽慧

作者信息

中国科普研究所，北京 100081

王挺，中国科普研究所党委书记、所长、研究员，中国科普作家协会党委书记、常务副理事长，研究方向：科普理论与实践，E-mail：wangting@cast.org.cn。

Artificial Intelligence and Science Popularization：A Technological Tool Perspective

Ting Wang, Huasheng Shao, Lihui Wang

Affiliations

China Research Institute for Science Popularization，Beijing 100081

出版时间: 2024-10-20 doi: 10.19293/j.cnki.1673-8357.2024.05.001

文章导航

摘要

收起

人工智能正引领一场前所未有的技术工具革命，推动科普服务全流程创新。作为灵感激发、内容生成、全天候把关、场景搭建、定位、数据收集、数据处理等工具，人工智能重新塑造了科普创作、审核、传播和评价模式，大幅提升了科普服务的效率、质量、广度、精度和科学性。但基于技术工具的局限，其无中生有的“幻觉”等风险也随之而至，可能冲击科普人员的权威性和主体性，反噬科普服务的根基，不利于加强科普服务价值引领。为此，在科普服务过程中，应增强科普人员对人工智能的认识和使用能力，规范人工智能应用边界，在技术理性之上赋予其价值理性内涵。

关键词

人工智能 / 科普服务 / 技术工具

Abstract

收起

Artificial intelligence is driving an unprecedented revolution in technological tools and fostering comprehensive innovation in science popularization services. Serving as a tool for inspiration，content generation，round-the-clock monitoring，scene construction，positioning，data collection，and data processing，artificial intelligence has redefined the processes of science popularization creation，review，dissemination，and evaluation. It has significantly enhanced the efficiency，quality，scope，accuracy，and scientific rigor of science popularization services. However，the limitations of technological tools also introduce risks. These include the potential undermining of the authority and agency of science popularization personnel，the erosion of the foundational principles of science popularization services，and challenges to reinforcing their value orientation. Therefore，in the context of science popularization services，it is essential to enhance the understanding and proficiency of science popularization personnel in using artificial intelligence，regulate its application boundaries，and integrate value-driven rationality alongside technical rationality.

Key words

artificial intelligence / science popularization / technological tools

引用本文

王挺, 邵华胜, 王丽慧. 技术工具视角下的人工智能科普服务：创新、风险与对策. 科普研究, 2024 , 19 (5) : 5 -13 . DOI: 10.19293/j.cnki.1673-8357.2024.05.001

Ting Wang, Huasheng Shao, Lihui Wang. Artificial Intelligence and Science Popularization：A Technological Tool Perspective[J]. Studies on Science Popularization, 2024 , 19 (5) : 5 -13 . DOI: 10.19293/j.cnki.1673-8357.2024.05.001

正文

收起

自2022年11月ChatGPT诞生以来，人工智能大模型如雨后春笋般纷纷涌现，再次引发公众对人工智能的广泛热议。公众对人工智能的态度具有复杂性，既有期待和认可，又有担忧和不安^[1]，但大多数公众对人工智能持理性态度，人民智库的调查显示，大多数受访者认可应加快发展新一代人工智能，同时加强对潜在风险的研判和防范^[2]。我们将视野放大，把人工智能放置在整个人类文明发展史中，会发现人工智能与数万年前的石器、数千年前的铁器和数百年前的机器一样，是人类在不断发展过程中创造出来用于改变与自然关系的典型劳动工具，当下我们正经历一场前所未有的技术工具革命^[3]。

科普服务作为一种“传播知识的行为”，其形态始终因技术工具的变化而变化。以科普图书为例，由于融媒体技术的发展，以往仅能提供单向视觉摄入的纸质科普图书，转变成了如今由文字、图像、动画、音视频等共同构成的可多感官接触的科普阅读文本体系^[4]。进入新时代，科普服务作为实现创新发展的基础性工作，被赋予“服务人的全面发展、服务创新发展、服务国家治理体系和治理能力现代化、服务推动构建人类命运共同体”的新使命^[5]，成为夯实中华民族伟大复兴科学根基的重要方式^[6]，亟须全面提升质量和水平。人工智能所引发的新技术工具革命，为推动科普服务全面革新提供了巨大机遇。

当前，对于人工智能和科普之间关系的研究，主要聚焦于科普在消除公众对智能技术恐慌的过程中如何发挥作用^[7]，以及向公众开展智能技术科普的模式、维度、问题及对策等^[8]，较少从人工智能作用于科普服务本身的角度，探讨其对科普服务的影响。本文将从技术工具的视角，详细阐释人工智能工具推动科普服务全流程创新的方式和优势，并梳理相关风险，探讨相关对策建议，为推动科普服务全面革新提供新思路。

1　人工智能的工具属性

收起

人工智能（Artificial Intelligence，AI）是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的新兴技术科学，目的是促使机器拥有像人一样的学习能力和行为表现，如类人思考、类人行为、理性思考和理性行为^[9]。自其于1956年首次被提出以来，经过几十年的曲折发展，以及自然语言处理、计算机视觉、深度学习等技术取得重大突破，人工智能对人类智能的模拟越来越逼真，俨然具备挑战人类主体性的可能，但其本质上仍是技术工具。

安德鲁·芬伯格（Andrew Feenberg）认为，技术工具具备“人的控制”和“价值中性”两方面特征^[10]。“人的控制”反映的是技术与人的关系，表明人具有技术的控制权。“价值中性”反映的是技术与价值的关系，其内涵包括：第一，仅就技术自身而言，技术无价值属性、无好坏之分；第二，就可能体现价值的技术使用后果而言，技术是被动的，它对使用后果没有倾向，它与任何使用后果产生的价值关联都是偶然的；第三，作为上一点的特例，技术不偏向任何体现对立价值的不同后果^[11]。

在人工智能技术领域，雷·库兹韦尔（Ray Kurzweil）和大卫·J.查尔默斯（David·J.Chalmers）都认为人工智能有技术奇点，并由此引发了关于人工智能技术伦理的广泛讨论^[12-13]。技术奇点理论预测，当达到某一临界点时，人工智能将会具备自主意识，从而可能不受人的控制。但实际上，尽管由于预训练大模型技术的深入发展，人工智能表现出了一定的逻辑证明能力、理解能力等^[14]，但这并不意味人工智能已经具备思维和意识，达到了人工智能技术奇点，从而超越技术工具的范畴^[12]。当然，也有部分学者持不同观点，认为人工智能产生自主意识只是时间问题，人工智能具备成为技术主体的潜力。例如，有法律专家认为，强人工智能在自主意识支配下，可能实施不在人类设计和制定的程序范围内的“犯罪行为”，这与一般的具有刑事责任能力的人实施犯罪行为的情形相似，因此应考虑赋予强人工智能刑事责任主体的地位^[15]。

以上关于人工智能作为技术工具的讨论广泛适用于各个领域。同样，在科普服务领域，人工智能在带来技术革新的同时，也促使人们认真思考其带来的伦理问题。但总体来说，鉴于人工智能在科普领域尚属于较新的应用，目前为科普服务带来的更多是革新。

2　人工智能工具推动科普服务的革新

收起

当前，人工智能作为劳动工具已推动与科普紧密相关的教育、传播领域发生重大变革。在教育领域，人工智能帮助搭建教育资源汇聚平台，推动教育资源的传播和共享，助力教学模式、学习方式、评价模式等升级^[16]。比如，人工智能作为考题制定和作业批改工具^[17]，可以节省教师大量的时间和精力，降低教师的压力和负担，但考题生成、答案判别标准等仍由教师制定，教师掌握这一过程的主动权。研究表明，在教师实际教学和技能竞赛中运用人工智能工具辅助批改测试题，按批改40人的数量计算，可将原本3~4小时的用时压缩至30~40分钟^[18]。在传播领域，人工智能作为信息采集、生产、整合和分发工具^[19]，在信息检索与分类、个性化推荐等过程中发挥作用，帮助人们精准、高效获取所需信息。比如，人民日报智慧媒体研究院推出的“智能创作机器人”可帮助记者独立完成采访、拍摄、新闻素材分析和内容创作等工作^[20]。在这一过程中，人工智能做出的动作仍是基于人的指令。

在科普领域，部分科技馆已开发智能语音导览系统，参观者仅需佩戴耳机，无须操作，走进感应讲解区域，就能即刻享受由相关人员提前设置好的真人解说，人工智能作为科普讲解工具已在科普领域展露了极大的应用潜力。鉴于人工智能目前展现出的强大功能，其在科普服务创作、审核、传播、评价等环节，也具备发挥不同功能工具属性的潜力，将助力科普服务全流程创新，显现前所未有的技术优势。

2.1　人工智能工具赋能科普服务全流程创新

2.1.1　创作：灵感激发和内容生成工具

实践经验表明，人工智能在科普创作方面的应用主要集中在两个阶段：创作前的准备和创作过程中，分别作为灵感激发工具和内容生成工具发挥作用。

在科普创作前的准备阶段，可利用人工智能分析海量科普作品的历史数据，包括主题、类型、创作机构、销量、受众满意度等，总结受欢迎的科普题材、形式等，帮助创作者确定创作方向，激发创作者的创作灵感。科普创作者可利用大语言模型进行头脑风暴、文本提纲拟定等工作。在创作过程中，创作者还可利用人工智能进行科普内容生成，包括文本、图片、视频等多模态科普内容。随着类ChatGPT、Sora等生成式人工智能能力的不断提升，其作为科普内容生成的工具，也更易于为人们所使用。2024年6月，杨文志等出版了《大模型：我的科普创作助理》一书，详细阐释了借助人工智能进行科普文章、讲稿、讲解词等创作的基本遵循和实用方法^[21]。

在利用人工智能进行科普创作的过程中，创作者积极发挥主观能动作用，通过高质量的“提示词”向人工智能发出指令，人工智能依据指令给出创作者想要的结果，创作者依旧是科普创作的主体。创作者如何设计高质量的“提示词”，与人工智能互动推进创作，将成为科普创作的新挑战。高质量的“提示词”需要具备明确性、针对性和创造性，以便于人工智能更准确地理解创作者的意图和需求。例如，当创作者希望生成一篇关于宇宙探索的科普文章时，可以设计包含“黑洞”“暗物质”“星际旅行”等关键词的提示词，引导人工智能生成与这些概念相关的科普内容。此外，创作者还可以通过提供特定的风格、语气或结构要求，进一步细化人工智能生成的内容，使其更符合特定的科普作品定位。

在实际操作中，创作者可以利用人工智能的迭代学习功能，不断优化“提示词”的设计。通过反复试验和调整，创作者可以找到最合适的提示词组合，从而引导人工智能生成更高质量的科普内容。例如，如果初步生成的内容未能准确反映预期的科普主题，创作者可以对提示词进行微调，增加或替换某些关键词，以期达到更好的效果。

此外，人工智能在科普创作中的应用不仅限于文本内容的生成。通过与多媒体技术的结合，人工智能还可以辅助创作者制作出包含丰富视觉元素的科普作品。例如，利用人工智能生成的图片或视频片段，可以直观展示科学概念或实验过程，为读者提供更加生动的学习体验。

2.1.2　审核：全天候把关工具

在科普内容审核方面，人工智能以其速度快、效率高的优势，作为全天候把关工具发挥重要作用。

利用自然语言处理、计算机视觉、深度学习等技术，人工智能对科普作品中的文本、语音、画面等进行片段摘取，并依据人工智能算法规则进行识别，筛选科普内容中的谣言与色情、暴力等不良内容，以维护科普作品的科学性、权威性等。这一过程的关键是由人建立审核标准，制定识别、过滤敏感词汇的算法。相关技术在一些领域的应用已经比较成熟，比如，航空航天领域向外发布相关科普信息时，可以使用基于OCR识别、自然语言处理（Natural Language Processing，NLP）等智能技术的保密审核大模型，按照敏感词识别、上下文内容分析、风险评估等步骤，提高涉密信息审查的效率和准确性^[22]；福建省档案馆研发建设了“基于数字档案的人工智能档案开放审核系统”，使得开放审核工作效率提升3倍以上^[23]。

腾讯已经利用人工智能辅助微信公众号内容的审核，字节跳动也开发了针对短视频、直播内容的人工智能审核系统。相应地，微信、抖音、快手等平台已利用人工智能开展科普内容的审核，通过加载智能检测与过滤系统，进行自动化审查^[24]。有美国版知乎之称的“Quora”知识信息传播平台，也通过130万个问题组成的训练标签数据集，训练人工智能识别虚假信息和其他信息^[25]。

2.1.3　传播：场景搭建和定位工具

在科普内容传播方面，人工智能以其高效、精准的优势，作为场景搭建工具和定位工具发挥重要作用。

在科普服务开展过程中，科普人员可利用人工智能构建一个可交互、可感知、虚实结合的物理空间，在该空间内打造特定场景，使传统的科普内容更加形象生动，增强科普服务效果。比如，利用AR、VR等可穿戴智能设备，提升科普受众参与科普服务的沉浸感，利用虚拟数字人，增强科普受众参与科普服务的互动性。2021年4月24日，中国火星探测工程联合百度发布了全球首辆火星车数字人“祝融号”，其在多个场景担任虚拟主持，为公众生动、直观地普及火星探测知识。

人工智能作为定位工具也在科普内容传播中发挥重要作用。一方面，科普受众可以利用人工智能进行智能搜索，准确检索和定位所需的科普内容。另一方面，科普人员可以利用人工智能，分析人们搜索、浏览的信息，发掘公众的个性化喜好，进而为人们定制专属的科普内容，向公众开展更为精准的科普服务。在此过程中，人们利用人工智能，打破原有的信息传递壁垒，汇聚多模态的科普内容，构建集云端、互联网、移动终端于一体的智能传播矩阵，实现全媒体传播，满足人类高品质、沉浸式、交互式的科普需求，提升科普服务质量。

2.1.4　评价：数据收集和处理工具

在科普效果评价方面，人工智能以其科学、立体、多元、精准等优势，作为数据收集、分析和结果可视化呈现工具发挥重要作用。

首先，评价人员可借助视频监控、人脸情绪识别、行为预测、可穿戴设备、网评网阅、物联感知等技术，依托数据采集平台和智能机器的自动记录，全过程、全方位、多层次采集各项数据，实现全周期用户科普服务满意度追踪，为科普效果评价的准确性提供最坚实的基础。然后，借助大数据、云计算、专家系统、深度学习、人工神经网络等技术，评价人员针对不同的评价对象，构建更为合理的评价指标体系、指标权重，建立更为科学的评价模型，对收集的数据进行多模态诊断和深度挖掘分析。最后，评价人员可借助智能技术对评价数据分析处理结果进行可视化的智能呈现^[26]。

目前，教学领域利用人工智能开展教学效果评价已经有比较成熟的案例。比如，北京师范大学利用人工智能开展课堂教学效果评价，开发了创新“AI+”课堂教学智能评测工具，通过整合计算机视觉、自然语言处理、集成学习和统计建模等多种人工智能与数据分析技术，构建了一个全面的课堂教学过程化智能评测系统，实时监测、跟踪和分析教师和学生的行为、专注度、情绪、视线、活跃度等，并能回顾整个教学过程，进而精准评价教学效果。

在科普创作的未来发展中，人工智能将扮演越来越重要的角色。随着技术的不断进步，人工智能在内容生成、审核、传播和评价等环节的辅助作用将更加显著。创作者需要不断学习和掌握人工智能技术，以充分利用其在科普创作中的潜力，推动科普服务的革新。

2.2　人工智能工具赋能科普服务的优势

2.2.1　人机协同提高科普服务效率和质量

在人工智能时代，人工智能作为科普服务的助手，在科普人员的引导下，可最大化提升科普创作、审核、传播和评价等科普服务各环节的效率。

在科普创作过程中，科普创作者与人工智能组成共同体，科普创作者负责思考主要观点，作出决策，指导人工智能形成成熟文本的科普创作模式正在形成^[27]，大大简化了科普内容生成的过程。比如，ChatGPT等通用大模型也能帮助科普创作者搜集素材、总结提炼文本，加快科普创作步伐。科普中国与科大讯飞联合开发专门的科普认知大模型“AI小科”，其不仅包含“科普问答”模块，还是科普创作助手，包含“科普文章创作”“短视频脚本创作”“文案大师”模块，有效提升科普创作效率。

在科普审核过程中，由科普人员预先建立好的关键词“黑库”，通过人工智能算法建立审查标准后，人工智能就能自动进行科普内容审核，仅需少量人工进行干预，大大节省了成本，提高了效率。此外，前文提到的利用人工智能进行精准化科普资源传播和全方位科普评价数据采集，也是人机协同提高科普服务效率和质量的重要体现。

2.2.2　系统整合提升科普服务广度和精度

借助人工智能工具，可以深度挖掘各类科普资源、人员以及科普需求等信息，对其进行系统有效的整合，从而提升科普服务的精准、有效供给水平。

一方面，可以利用人工智能进行多模态科普资源整合。随着自然语言处理、计算机视觉等技术的快速发展，人工智能可以汇聚各类文本、音频、视频等形式的优质科普资源，帮助搭建智能化的数字科普资源汇聚平台。由于基本不受时空限制，数字科普资源汇聚平台将推动优质均衡的科普资源更好地触及公众，有效解决科普服务不均衡的问题，弥合科普资源在分配等过程中出现的差异性，使得科普资源下沉更加有力，科普资源传递的广度和均等性大幅提升。

另一方面，可以利用人工智能进行科普资源供求信息整合，推动科普资源与需求精准对接。人工智能可以通过对科普行为数据进行分析与挖掘，比如用户的浏览行为、兴趣、偏好等，汇聚科普需求，帮助制定个性化科普资源分发策略，主动配置科普资源，驱动科普资源精准触达。

2.2.3　非干预性提升科普服务科学性

借助人工智能工具，科普人员可以开展非干预性研究（Non Interventional Study，NIS），全方位获取各类科普服务数据，提升科普服务的科学性。非干预性研究是指在不改变研究对象自然状况或环境的前提下，通过细致观察、详尽记录、综合分析来探索和解析问题，以能够反映研究对象的真实情况为主要特征，从而避免因外部干预而导致的偏差或误导，具有客观性、灵活性的特点，被广泛应用于医学、社会学研究领域中。非干预性研究通常分为两类：一类是回顾性研究，指从数据库中抽取需要的以往数据进行分析；另一类是前瞻性研究，指选取特定的对象，然后跟踪记录相关数据进行分析。

如前文所述，科普人员利用人工智能进行科普内容审核、精准传播和评价时所依靠的都是固定算法，以及在对象处于自然状态时依托数据采集平台和智能机器的自动记录进行的数据搜集，有力避免了人为的主观干预。比如开展科普服务效果评价研究，科普人员可以从人工智能采集的数据库中抽取研究对象的以往数据进行回顾性研究，也可以借助人工智能专门追踪某一对象开展前瞻性研究，避免人员过多参与造成的影响，大幅提升了科普评价的科学性。

3　人工智能工具应用于科普服务的风险与对策

收起

3.1　风险

人工智能作为工具推动科普服务革新的同时，由于技术的局限性，其风险也随之而至，主要表现在人类对人工智能工具的依赖、崇拜和滥用等方面。

3.1.1　工具依赖冲击科普人员的权威性和主体性

人类对工具的依赖，从工具被创造出来时就已显现。在人机协同开展科普服务的过程中，人类也不可避免地对人工智能形成依赖。从科普人员角度来看，广泛使用人工智能进行科普创作、审核、传播或评价时，算法会尽可能地将一切程序化，包括程序化的选择、程序化的决策、程序化的信息反馈等。在这种情况下，科普人员也会变成固定程序上的某一环节，久而久之，其能力将面临固化甚至退化。从公众角度来看，人工智能基于其庞大的数据库、精细复杂的算法，可以直接为公众提供准确而详细的科普信息。公众经过一次次检验，很容易建立起对人工智能的信任。

随着人工智能能力的不断增强，以及科普人员能力的固化甚至退化，公众对人工智能的信任也将不断提高，直至超过对人类的信任。至此，科普人员的权威性将受到严峻的挑战，开展科普服务的主动权也将丧失。他们将被技术理性所俘获和规训，自觉或不自觉地将技术理性视为自然规律，逐步沦为技术的“附庸”^[28]。正如厄休拉·M.富兰克林（Ursula M. Franklin）在《技术的真相》中所强调的，基于规范性技术的重塑极大地释放了生产力，提高了效率，但代价在于，劳动者因此失去了更多自主权^[29]。

3.1.2　技术崇拜和滥用侵蚀科普服务的根基

当前，有不少人是人工智能的崇拜者，认为技术是万能的。他们痴迷于人工智能的智慧、全面、高效，将人工智能视为科普发展的决定性因素和根本动力。从认识论的角度看，人们对技术的崇拜是一种重要的技术心理反应现象，其实质是把技术理想化、绝对化或神圣化^[28]。不可否认，人工智能在丰富科普内容传播方式、推动科普资源公平普惠等方面发挥了巨大作用。这也使得不少人自觉或不自觉地成为技术的支持者，陷入“技术万能论”的泥沼，各地智能化科普基础设施也纷纷开建，但由于人工智能的更新迭代速度越来越快，科普人员不得不反复学习操作不同的智能设备，成为技术更新迭代的“俘虏”和被资本“围猎”的对象，很容易忽略科普服务“以人为中心”的根本。

此外，基于人工智能而开发的“深度造假”（deep fake）技术，可能冲击科普内容科学性的根基。“深度造假”通常是指利用人工智能把一个人的脸部轮廓和表情放置在其他任何一个人的脸上，同时对声音进行逼真处理，制造出看似逼真但实为合成的视频，用以躲避识别、混淆视听，达到虚假宣传的目的^[30]。如此一来，科普内容造假的难度就大大降低，加之人工智能在生产科普内容时本就极易出现“幻觉”，形成似是而非的科普作品，如果人工智能工具被无节制地使用，将助长“以科普为名，行伪科普之实”的现象，动摇科普服务的根基。

3.1.3　技术理性不利于加强科普服务价值引领

技术理性（或工具理性）的行为追求以最小的投入获取最大的产出，能对事物进行定量化的解释，具备极强的精确性和针对性等特征^[31]。但它只关注目的是否达到，而不关注达到目的的手段和结果，容易引发不良后果，使得本末倒置。科普的技术化也将不可避免地增强人与机器之间的互动，科普人员也会倾向于将科普服务当作流水线式的技术操作过程。人机互动的增强也必然导致人与人之间互动的缺失，使得科普这项充满温情的事业变得冰冷起来，从而缺失应当具备的人文关怀和精神慰藉。然而，作为一种以“服务人的全面发展”为首要目标的事业，新时代科普更加强调价值引领。

此外，尽管利用人工智能技术可以将科普内容生动形象地传递给公众，但这仅仅是一种短暂、单向、孤立的展示，公众所汲取的仍是确定的知识，缺乏人与人之间在交流过程中的思维碰撞，难以提升自身知识迁移、举一反三的能力，不利于公众科学思维的提升和对科学方法的掌握。

3.2　对策

人工智能应用于科普服务中产生风险，究其原因，是人与技术之间关系的异化，即马克思、恩格斯在《德意志意识形态》的“序言”中指出的“创造者屈从于自己的创造物”^[32]的异化现象。对此，我们需要正确认识人与技术之间的关系，增强科普人员的科普能力，建立相关规范，赋予人工智能技术价值理性内涵。

3.2.1　增强科普人员对人工智能的认识和使用能力

对人工智能依赖的本质是人在人工智能面前主体地位的丧失，根本原因在于人的能力固化和人工智能能力的快速发展。因此，破解在科普服务中对人工智能的依赖，关键在于增强科普人员的科普能力。

一方面，应加强人工智能技术培训，加深科普人员对人工智能的认识。科普人员需紧跟科技前沿，了解人工智能发展动态，正确认识人工智能的劳动工具属性，牢固树立“人是科普服务主导者”的理念。虽然人工智能可以在科普服务中发挥重要作用，但这并不意味着人工智能可以包办一切，科普人员扮演的也不仅仅是操控人工智能的角色，应有意识地主动降低对人工智能的依赖。另一方面，增强科普人员对人工智能的使用能力。在科普人员对人工智能有正确认识的基础上，充分调动科普人员的主观能动性，结合人工智能在图文生成、场景展现等方面的优势，丰富科普服务的形式，在保障科普服务权威性的同时，增强其趣味性、受众可接受性等，以此争取公众对科普人员开展科普服务的信任，降低公众在科普服务过程中仅对人工智能的依赖。

3.2.2　规范人工智能在科普服务中的应用边界

要避免人工智能在科普服务中的盲目使用和滥用，使其使用处于可控状态，我们需加强人工智能的科技伦理治理，明确人工智能在科普服务中的应用边界。2022年3月，中共中央办公厅、国务院办公厅印发《关于加强科技伦理治理的意见》，明确提出“不断推动科技向善、造福人类”^[33]，为我们规范人工智能在科普服务中的应用提供了基本原则。

一是严守人工智能在科普服务应用中的底线。坚持“以人为本”原则，划清技术和社会的发展界限，尊重自然规律，构建以智能技术为核心的人与自然、人与社会的和谐关系。严守“科技向善”宗旨，以“科普之善”叠加“科技之善”，确保在科普服务中使用的智能技术以促进人民的美好生活为目的。

二是使用可解释的人工智能。2019年，国家新一代人工智能治理专业委员会发布的《新一代人工智能治理原则——发展负责任的人工智能》中指出，人工智能系统应不断提升可解释性^[34]。在科普服务中，科普人员也应遵循使用“可解释的智能技术”这一原则，针对深度学习算法中的特征重要性、敏感性分析等原则，制定可视化解释器来实现算法透明，从而安心使用智能技术。

三是依据有关规定建立科普伦理审查机制和科普内容造假的惩罚机制。进一步完善相关法规政策体系，建立人工智能科普伦理审查机制，包括审查流程、审查标准以及违规处理措施等方面内容，在此基础上建立利用人工智能进行科普内容造假的惩罚机制，明确开展科普内容造假的创作、传播等工作的惩罚标准，规范个人和平台的科普服务行为。加大对利用人工智能伪造科普内容的处罚力度，建立跨部门联合执法机制，以及加强国际间科普法规交流合作，以应对跨国科普造假行为等。

3.2.3　在技术理性之上赋予价值理性内涵

科普本是一项充满人文关怀的实践过程，无论是传递知识还是传播科学精神、思想和方法。如果人工智能将科普服务规制成了流水线式的操作过程，追求极致的低成本与高效率，那么科普应具有的对人的尊重、促进人的全面发展等价值属性将受到强烈冲击。对此，我们需要在技术理性之上，赋予人工智能在科普服务应用中的价值理性。

价值理性起源于对技术理性追求效率而无视价值和公平的反思和批评，强调人是任何实践活动的终极目的，技术仅仅是行为手段。人工智能应用于科普服务时，要强调人工智能的工具属性与科普的价值属性相匹配，二者可以通过统合、共生实现协同作用，促进科普服务高质量发展。科普服务迈向高质量发展需要实现科普服务的技术化，而高质量发展需要技术的人性化，科普服务的技术化和技术的人性化相统一，才能实现科普服务的高质量发展。

首先，坚守科普的初心和使命。无论人工智能技术如何发展，在科普服务中发挥多么重要的作用，科普都应以服务人的全面发展为基本出发点。通过提升公众科学素质，增强公众处理实际问题和参与公共事务的能力，展现科普的意义和价值。应避免以技术理性为中心，将公众解决实际问题和参与公共事务变为固定的程序。

其次，禁止虚构技术神话。人工智能在科普服务中的应用，短时间内确实大幅提升了科普服务的效能，但由此产生了一些极端言论，比如“以后就不需要由人员开展科普了，大家有问题直接问人工智能大模型就可以了”。应大力抵制这种言论，引导大家回归理性。这种言论不仅无益于科普“价值理性”倡导者对人工智能的接纳，反而可能导致他们对人工智能更为坚决的反对与抵制。某些科普活动过于注重技术展示而忽视公众实际科学素质提升的需求，导致公众参与后无法将所学知识应用于实际生活。应提出如何在科普项目设计与实施中始终围绕服务人的全面发展这一核心目标的具体措施，如开展需求调研、效果评估反馈等环节的优化策略。

最后，要尊重科普人员工作的创造性。科普服务涉及科学知识的再加工与有效传播，是一项富有创造性且门槛很高的工作。在科普服务中应用人工智能，应遵循以技术工具激发和强化科普人员的创造性为原则，避免用人工智能的工具理性取代科普人员的主体性、创造性，否则将影响科普事业的健康可持续发展。

4　结语

收起

2019年5月，习近平总书记在致第三届世界智能大会的贺信中强调，要“把新一代人工智能作为推动科技跨越发展、产业优化升级、生产力整体跃升的驱动力量，努力实现高质量发展”^[35]。展望未来，人工智能作为工具在科普服务领域的作用将日益凸显，智能化科普的时代正向我们走来。我们应以更加科学的态度审视人工智能在科普服务应用中的优势和局限，扬长避短，紧紧抓住人工智能为科普服务变革提供的巨大机遇，推动科普高质量发展，为提升公民科学素质、助力实现人的现代化提供坚强而有力的保障。

基金

收起

科技创新2030——“新一代人工智能”重大项目：科普资源智能分析与服务关键技术(2022ZD0120200)
课题五“科普服务效果评价与示范”(2022ZD0120205)

参考文献

收起

文献

收起

参考文献引证文献

排序方式：

[1]

Institute for Human-Centered Artificial Intelligence，Stanford University. Artificial Intelligence Index Report 2024[R/OL]. [2024-06-12]. https://cingai.nankai.edu.cn/_upload/article/files/aa/80/add0fb7a493b986e02732c3289b1/dc9ee793-673a-4d5d-a8b8-a711cda71542.pdf.

[2]

单宁. 公众对人工智能发展的认知调查[J]. 国家治理，2024(13)：75-80.

[3]

杨述明. 人工智能劳动工具属性的生成逻辑与社会适应[J]. 江汉论坛，2024(4)：63-69.

[4]

李小华，周嘉琪. 技术可供性视角下儿童科普图书多媒介文本建构及其功能[J]. 数字出版，2022(16)：45-50.

[5]

中共中央办公厅国务院办公厅印发《关于新时代进一步加强科学技术普及工作的意见》[EB/OL].（2022-09-04）[2024-06-12]. https://www.gov.cn/zhengce/2022-09/04/content_5708260.htm.

[6]

王挺. 夯实中华民族伟大复兴的科学根基——全面落实《科学素质纲要（2021—2035年）》的思考[J]. 科普研究，2021，16(4)：5-13.

[7]

李健民. 促进公众理解生成式人工智能的集体责任分析——基于集体行动的视角[J]. 科普研究，2024，19(2)：45-53.

[8]

杨庆峰. 人工智能科普及其问题[J]. 科普研究，2024，19(2)：32-38.

[9]

赵楠，谭惠文. 人工智能技术的发展及应用分析[J]. 中国电子科学研究院学报，2021，16(7)：737-740.

[10]

Andrew

Feenberg

. Questioning technology [M]. London: Routledge，1999: 9.

[11]

程志翔. 何谓技术工具论：含义与分类[J]. 科学技术哲学研究，2019，36(4)：75-81.

[12]

程承坪. 人工智能：工具或主体？——兼论人工智能奇点[J]. 上海师范大学学报（哲学社会科学版），2021，50(6)：5-12.

[13]

大卫·J.查尔默斯. 有意识的心灵[M]. 朱建平，译. 北京: 中国人民大学出版社，2013.

[14]

毛郝浩，李建会. ChatGPT能够理解吗？从符号奠基问题的角度看[J]. 科学技术哲学研究，2023，40(4)：15-22.

[15]

范进学. 人工智能法律主体论：现在与未来[J]. 政法论丛，2022(3)：3-17.

[16]

鲍赟力，孙雨. 人工智能在远程教育领域的应用路径研究[J]. 成人教育，40(11)：13-16.

[17]

李艳燕，郑娅峰. 生成式人工智能的教育应用[J]. 人民论坛，2023(23)：69-72.

[18]

赵聚雪. 人工智能在职业教育自动批改中的应用[J]. 计算机应用文摘，2024，40(20)：73-76.

[19]

刘德寰，朱琦. 颠覆与重塑：下一代人工智能的传播学意义[J]. 新闻爱好者，2023(9)：4-10.

[20]

何苑，张洪忠，张尔坤. 基于自然语言技术的智能传播应用与风控分析[J]. 传媒，2022(5)：48-51.

[21]

杨文志，包明明. 大模型：我的科普创作助理[M]. 重庆: 重庆大学出版社，2024.

[22]

郑佳斌，周瀚阁，蒋忠林，等. 航天涉密信息保密审核大模型增强方法[J]. 航天控制，2024，42(2)：62-68.

[23]

黄建峰，颜梓森，张枫旻，等. 福建：运用人工智能技术搭建开放审核模型[J]. 中国档案，2023(7)：27-29.

[24]

赵静宜. 人机协同与虚实互联：论智能传播效应的表现形式及发展目标[J]. 编辑之友，2022(3)：62-68，74.

[25]

Raul Ramos Pollán. Perspectives and Challenges of AI Techniques in the Field of Social Sciences and Communication [J]. Journal of Autonomous Intelligence，2022，5(1)：34-42.

[26]

刘邦奇，袁婷婷，纪玉超，等. 智能技术赋能教育评价：内涵、总体框架与实践路径[J]. 中国电化教育，2023(8)：16-24.

[27]

黄高乐. 生成式人工智能技术赋能科普内容创作[J]. 科学教育与博物馆，2024(1)：22-27.

[28]

郑智勇，范卿泽，贾伟. 人工智能技术赋能教师发展的三重幻想及破解之道[J]. 中国电化教育，2024(7)：28-34.

[29]

厄休拉·M.富兰克林. 技术的真相[M]. 田奥，译. 南京: 南京大学出版社，2019.

[30]

姬德强. 深度造假：人工智能时代的视觉政治[J]. 社会科学文摘，2020(11)：113-115.

[31]

李伦，宋强. 技术理性的伦理表征及其超越[J]. 伦理学研究，2022(1)：92-98.

[32]

马克思，恩格斯. 德意志意识形态（节选本）[M]. 北京: 人民出版社，2018.

[33]

中共中央办公厅国务院办公厅印发《关于加强科技伦理治理的意见》[EB/OL].（2022-03-20）[2024-09-14]. https://www.gov.cn/gongbao/content/2022/content_5683838.htm.

[34]

国家新一代人工智能治理专业委员会. 新一代人工智能治理原则——发展负责任的人工智能[EB/OL].（2019-06-17）[2024-09-14]. http://cn.chinadaily.com.cn/a/201906/17/WS5d07441ea3108375f8f2afac.html.

[35]

新华社. 习近平致第三届世界智能大会的贺信[EB/OL].（2019-05-16）[2024-02-14]. https://www.gov.cn/xinwen/2019-05/16/content_5392199.htm.

2024年第19卷第5期

PDF下载

引用本文

BibTeX

文章信息

doi: 10.19293/j.cnki.1673-8357.2024.05.001

接收时间：2024-06-14
首发时间：2026-03-16
出版时间：2024-10-20

补充材料

相关文章

文章信息

作者

出版历史

收稿日期：2024-06-14

基金

科技创新2030——“新一代人工智能”重大项目：科普资源智能分析与服务关键技术(2022ZD0120200)

课题五“科普服务效果评价与示范”(2022ZD0120205)

作者信息

中国科普研究所，北京 100081

参考文献

分享链接

https://castjournals.cast.org.cn/joweb/kpyj/CN/10.19293/j.cnki.1673-8357.2024.05.001

分享至

全文二维码

扫描看全文

引用本文

BibTeX

本文的引用情况

2种不同金属材料的力学参数

科 Family	属数 Number of genus	种数 Number of species	占总种数比例 Percentage of total species (%)	属 Genus	种数 Number of species	占总种数比例 Percentage of total species (%)
鹅膏菌科Amanitaceae	2	11	5.26	鹅膏菌属 Amanita	10	4.78
小菇科 Mycenaceae	2	12	5.74	丝盖伞属 Inocybe	5	2.39
多孔菌科 Polyporaceae	8	14	6.70	蜡蘑属 Laccaria	5	2.39
红菇科 Russulaceae	3	23	11.00	小皮伞属 Marasmius	6	2.87
				小菇属 Mycena	11	5.26
				光柄菇属 Pluteus	5	2.39
				红菇属 Russula	17	8.13
				栓菌属 Trametes	5	2.39

关闭全屏

BibTeX
EndNote
RefWorks
TxT