文章快速检索     高级检索
  科学与社会  2025, Vol. 15 Issue (3): 24-45  
0

引用本文 

王唯滢, 赵明宇, 张英杰, 王丽慧. “人工智能+”时代科学相关虚假信息治理影响因素研究——基于NAM-TPB模型的受众心理机制分析[J]. 科学与社会, 2025, 15(3): 24-45.
WANG Wei-ying, ZHAO Ming-yu, ZHANG Ying-jie, WANG Li-hui. Research on the Influencing Factors of the Governance of Science-related False Information in the "AI +" Era: An analysis of audience psychological mechanism based on the NAM-TPB model[J]. Science and Society, 2025, 15(3): 24-45. DOI: 10.19524/j.cnki.10-1009/g3.2025.03.024.

作者简介

王唯滢,中国科普研究所助理研究员。研究方向为科技传播、科技虚假信息治理、科普政策;
赵明宇,中国科普研究所助理研究员。研究方向为科普理论与政策;
张英杰,中国科普研究所科研助理。研究方向为科普理论;
王丽慧,中国科普研究所研究员。研究方向为科普能力、科普政策

通信作者

王丽慧,邮箱地址:wanglihui1001@sina.com

项目资助

国家科技重大专项“科技创新2030——‘新一代人工智能’”重大项目“科普资源智能分析与服务关键技术”课题五“科普服务效果评价与示范”(2022ZD0120205);中国科普研究所项目“服务国家科普能力和全民科学素质建设的科普战略与政策研究”(250101)。

“人工智能+”时代科学相关虚假信息治理影响因素研究
        ——基于NAM-TPB模型的受众心理机制分析
王唯滢, 赵明宇, 张英杰, 王丽慧     
中国科普研究所
摘要: 随着人工智能技术的快速发展,科学相关虚假信息的生成及传播风险提升。为探究AI时代科学相关虚假信息的治理路径,本研究基于规范激活模型和计划行为理论复合模型,引入感知AI特性与情感因素作为调节变量,通过对1003份有效问卷的实证分析,揭示个体应对AI情境下科学相关虚假信息的心理决策机制。结果显示:NAM 核心变量均显著正向影响个体对科学相关虚假信息的辨别意愿,其中自我责任(0.284)影响最强,其次为感知风险性(0.199)、感知有害性(0.187)、群体责任(0.147)与个人规范(0.107);辨别意愿对辟谣行为具有显著正向驱动作用(0.593);感知AI特性正向调节“感知风险性/有害性→辨别意愿路径”,情感因素正向调节“辨别意愿→辟谣行为”路径。研究拓展了NAM理论在AI技术情境和虚假信息治理中的应用边界,为科学相关虚假信息治理提供政府、平台、科普主体、公众协同的实践方向。
关键词: 人工智能    科学相关虚假信息    规范激活模型    计划行为理论    辟谣行为    
中图分类号: G20           文献标识码: A
DOI: 10.19524/j.cnki.10-1009/g3.2025.03.024
一、引 言

人工智能(Artificial Intelligence,以下简称AI)技术的爆发式发展正深度重构信息生态。以GPT系列、DeepSeek为代表的生成式AI可批量制造以假乱真的科学相关内容[1],科学研究成果因专业性、复杂性、不确定性及抽象表达等特征往往与公众认知存在巨大鸿沟[2],算法推荐系统通过“过滤气泡”效应定向放大偏见信息[3],多重因素叠加导致科学相关虚假信息(常见于公共卫生、气候变化、转基因等议题领域)呈现出工业化生产、个性化传播、隐蔽性渗透的新特征[4],从而加剧了科学相关虚假信息泛滥。相较于精确权威的媒体报道,假新闻和谣言在社交网络上往往能触及更多人群、渗透更深,并且传播更快[5],生成式AI工具的滥用大大提高了社交网络平台上健康、科学相关虚假信息的数量和传播风险[6]

学术界高度关注生成式AI虚假信息的生成传播[7]与治理[8]问题。针对AI情景下科学相关虚假信息的专门研究较为有限,而对于AI加持的科学相关虚假信息的治理需建立在识别相关影响因素的前提下。此外,已有研究更多侧重于宏观层面,如信源AI驱动的事实核查[9]和生成式人工智能虚假有害信息的规制应对[10]等方面,对公众内在行为动机的挖掘明显不足,对于AI技术赋权后的复杂化情境引发的相关变化更是鲜有研究。

公众的主动辟谣行为属于一种亲社会行为,符合其经典定义“任何自愿为他人或群体带来益处的行为” [11],且具备了动机正向性和结果有益性特征。社会心理学家沙洛姆·H·施瓦茨(Shalom H. Schwartz)提出的规范激活模型(Norm Activation Model, NAM)被广泛应用于环境心理学、社会行为研究,并且在环保行为[12]、数据隐私[13]等领域成功解释了亲社会行为机制,相关研究往往将其与计划行为理论(Theory of Planned Behavior, TPB)进行整合,将NAM对行为的解释进一步细化,在行为之前加入行为意愿这一中介变量,从而提高对亲社会行为的探究和预测的水平[14-16]。本研究试图基于NAM主模型中的后果意识、责任归属、主观规范、个人规范、亲社会行为等核心变量,加入TPB的行为意愿作为中介变量,验证该理论在AI情境下科学相关虚假信息治理中的适用性,解释个体在面对AI生成/传播虚假信息时的心理反应和行为决策,从而归纳出影响科学类虚假信息治理的若干因素,并尝试提出相应的治理方向与策略。

鉴于此,本研究以AI时代科学相关虚假信息治理为核心主题,探讨NAM理论框架下公众对科学相关虚假信息的行为决策及相关影响因素,并分析情感因素和对AI特性的感知因素的调节作用。具体而言,本研究试图回答以下三个核心问题:

RQ1:在AI时代科学虚假信息情境下,规范激活模型的核心变量(后果意识、主观规范、个人规范)如何影响个体对科学相关虚假信息的抵抗力(辨别意愿和辟谣行为)?

RQ2:个体对AI技术特性的感知是否调节后果意识变量与辨别意愿之间的关系?个体对科学相关虚假信息的情感因素是否调节辨别意愿与辟谣行为之间的关系?

二、文献回顾与研究假设 1. AI时代科学相关虚假信息的新特征与危害

AI技术的广泛应用深度影响着信息的生产与传播,学界相关研究注意到AI技术的快速迭代,提升了虚假有害信息的识别难度,并带来了传播频次更高、覆盖面更广、危害性更强等问题[17]。从虚假信息制作环节来看,生成式AI能够批量产出仿真图表、虚拟实验视频等多模态内容,使虚假科学信息呈现出从“个体编造”转向“工业化生产”的模式,且常以模仿学术表述等方式增强迷惑性和误导性[18];在传播环节,算法推荐基于用户画像精准推送,将虚假信息投放给科学认知薄弱群体,提高了扩散效率;在接收环节,深度伪造技术通过诸如AI模仿权威科学家音视频等方式模糊“真实与虚构”边界,进一步削弱受众对信息源的辨识度[19],虚假信息借“技术背书”干扰公众认知,产生深远危害。具体而言,一是“真实性鸿沟”扩大,AI生成内容的高度仿真性对公众科学素养、媒介辨别能力提出了更高的要求[20],导致受众“被动信谣”;二是算法黑箱削弱归责感[21],受众因不了解信息推荐逻辑,难以追溯虚假信息源头并判断可信度;三是AI依赖强化回音室效应[22],算法持续推送同质虚假信息,容易固化一些受众群体的错误认知,例如国内外“反疫苗”群体依托网络形成回音室,阻碍科学辟谣的心理渗透,为后续治理埋下受众心理层面的障碍。因此有必要以公众社会心理为切入点推进相关问题研究。

2. 亲社会行为与NAM及其延伸应用

规范激活模型由沙洛姆·H·施瓦茨提出,用于解释个体利他行为,强调个体内心的道德规范在利他行为中的关键作用,这一理论指出利他行为由个人规范所激活,而个人规范往往由后果意识和责任归属[11]激发或强化,因而影响利他行为,该理论的核心变量是后果意识、责任归属、个人规范。社会学语境下通常将这一类利他行为归为“亲社会行为”[23],而依托NAM核心理论的亲社会行为研究常见于环境保护[24-25]、旅游管理[26]、消费行为[27]和公共卫生[28]等领域,反映出该理论模型具有丰富的拓展性。TPB认为行为受行为态度、主观规范和知觉行为影响[29],将行为意愿作为影响行为的中介变量,解释个体行为的一般决策过程。正是因为该理论模型同样将主观规范作为关键变量,学界常有研究将其与NAM相结合形成整合模型,应用于亲社会行为的机制研究[14-16,30]

国内学者将NAM应用于辟谣信息分享研究,同样印证了辟谣的亲社会属性,相关实证研究发现影响亲社会行为的关键因素同样正向影响个体的辟谣意愿和行为[28,31]。对于网络中科学相关虚假信息,个体辟谣往往源于对错误信息危害的认知,如担心他人被打着科学旗号的谣言误导而遭受损失[32],或出于维护公共信息环境的责任感[33],与亲社会行为的驱动机制高度一致,而AI普及甚至滥用造成科学相关虚假信息更加“逼真”难辨[19]进一步加剧其危害,公众对技术影响的认知是对相关问题进行治理的重要前提。

由此,本研究尝试引入NAM-TPB整合模型开展AI情境下科学相关虚假信息治理影响因素研究,结合科学相关虚假信息的特性、危害和AI技术泛滥背景因素对相关模型进行拓展和改造,探析AI语境下影响受众辨别科学相关虚假信息和辟谣行为的关键要素。

(1)个人规范、责任归属、后果意识与行为意愿

个人规范(Personal Norm, PN)指内化于个体的道德准则,即对实施某项特定行为的自身道德义务的感知,是驱动个体亲社会行为的重要因素,体现了个体实施具体行为的自我期望[34],一般来说,个体规范直接正向影响行为[11]。应对AI技术赋权后情境复杂化背景下科学相关虚假信息的场景,个人规范既可以包括泛化的道德感,也可以指向降低科学相关虚假信息危害的具体义务。

责任归属(Attribution of Responsibility, AR)指个体对特定行为带来的不良后果的责任感[12],简言之是对自身是否有责任采取行动的判断,通常责任感越强,越利于实施与个体规范一致的行为[35]。依据责任来源又可以细分为自我责任(Self Responsibility, SR)和群体责任(Group Responsibility, GR)两个维度,在应对科学相关虚假信息的语境下,本研究将其分为“明确自我责任”“明确群体责任”两个变量,其中群体既包括公众整体,也包括社交媒体平台用户、科学共同体等特定群体。

后果意识(Awareness of Consequences, AC)指对特定行为可能给他人或其他事物造成的负面后果的认识[11],即对行为可能造成影响的认知,通常个体对结果感知越强,道德义务感越强,越可能激活个体规范实施利他行为[35]。结合反对虚假信息的特征,对应风险后果和危害后果,本研究将其细化为对科学相关虚假信息的感知风险性(Perceived Risk,PR)和感知有害性(Perceived Harmfulness, PH)两个维度,前者侧重于不确定性和负面结果,后者更加聚焦于负面结果中的伤害属性[36]。在AI技术勃兴的背景下,个体对其在科学相关虚假信息的产生、传播和治理中的影响的感知至关重要[37],因而本研究在对相关变量的测量中,主要关注科学相关虚假信息对个人利益、群体利益、卫生健康、信息安全、科学文化等带来的不确定风险和潜在危害在公众感知层面的投射。

在既往研究中,个人规范是亲社会行为的主要激活因素,责任归属和后果意识同样影响亲社会行为,而行为意愿是行为的直接前因。基于此,研究提出以下假设:

H1:个人规范正向影响个体对科学相关虚假信息的辨别意愿

H2a:明确自我责任正向影响个体对科学相关虚假信息的辨别意愿

H2b:明确群体责任正向影响个体对科学相关虚假信息的辨别意愿

H3a:感知风险性正向影响个体对科学相关虚假信息的辨别意愿

H3b:感知有害性正向影响个体对科学相关虚假信息的辨别意愿

(2)辨别科学相关虚假信息的意愿与辟谣行为

将TPB中经典的“行为意愿→行为”引入NAM,从而进一步完善理论的逻辑链条已经得到了良好的验证。行为意愿指个体主观上想要实施某行为的强烈程度,是个体实施特定行为的主观倾向和动机强度,也是驱动实际行为发生的直接前因[38],意愿的强弱直接决定行为发生的概率与程度,即行为意愿越强,越有可能转化为实际行动[39-41]。从应对科学相关虚假信息的个体维度来看,对相关信息的辨别意愿属于特定领域行为意向,是驱动辟谣行为的直接前因,即意愿更强的个体更愿投入认知与时间成本,将主观动机转化为实际行动,实施纠正谣言、举报虚假信息等行为。在虚假信息实证研究层面,对健康虚假信息的研究已验证对虚假信息的辨别意愿与主动辟谣行为显著正相关[42],进而本研究提出如下假设:

H4:对科学相关虚假信息的辨别意愿正向影响辟谣行为

3. AI技术的特性与情感因素的调节作用

(1)感知AI特性对后果意识影响行为意愿的调节效应

AI技术爆发式发展和渗入人类生活的各个方面是本研究的重要背景,也是科学相关虚假信息进一步泛滥的可能诱因,因而将个体对AI技术特性的认知情况作为后果意识影响虚假信息辨别意愿的调节变量,提出感知AI特性(Perceived AI Characteristics, PAC)作为调节变量,即提出如下假设:

H5a:感知AI特性正向调节感知风险性与虚假信息辨别意愿的关系,即越是熟知AI技术特性,感知风险性对虚假信息辨别意愿正向影响越强

H5b:感知AI特性正向调节感知有害性与虚假信息辨别意愿的关系,即越是熟知AI技术特性,感知有害性对虚假信息辨别意愿正向影响越强

(2)情感因素对行为意愿影响辟谣行为的调节效应

讨论情感因素对亲社会行为的影响因素也是学者关注和探索的方向[43-44],如基于NAM的可持续消费行为研究就讨论了情感因素的调节效应[45]。与此类似,AI科学虚假信息识别引发的积极情感可增强利他意愿,AI科学虚假信息负面作用引发的消极情感对提升行为意愿起到增强效应,因此本研究中的情感因素系整合二者的复合情感,进而提出如下假设:

H6:情感因素正向调节行为意愿与辟谣行为的关系,即情感因素表现越强,辨别科学相关虚假信息的意愿对产生辟谣行为的正向影响越强

4. 研究假设模型

社会心理学研究对引入新的变量、改变和扩展理论关系通常持开放态度,期待合理的扩展模型框架进一步增强理论的解释力。基于前述研究假设和NAM基础模型,本研究构建了如下理论框架(见图1)。

图 1 研究的理论框架
三、研究方法与设计 1. 量表与问卷设计

研究的主体部分参考和借鉴了NAM经典研究及其在亲社会行为应用研究中测量核心变量的成熟量表,以及与虚假信息相关的行为意愿、辟谣行为的测量量表,结合研究主题及具体内容进行调整和修改(见表1),所有量表题均采用李克特7级量表测量,1—7依次对应“非常不同意”到“非常同意”。此外,在问卷导语部分声明科技相关虚假信息的含义是“科学技术议题相关的故意传播的错误或误导性的信息”,并列举了“通过量子波动速读可以极大提高阅读速度和理解能力。水果越酸维生素C含量越高。不添加食品添加剂的食品才是安全食品”等科技相关虚假信息的例子,以便于受访者理解调研目的和问题,更好地配合数据收集。

表 1 研究变量及其量表设计
2. 数据收集

本研究通过面向公众的问卷调查,收集用于验证理论模型的研究数据。在基于文献分析和专家访谈形成测试问卷之后,为确保问卷设计的科学性与有效性,本研究首先开展了小规模前测,验证问题表述的清晰度、理解度及选项设计的合理性,同时对量表的信度进行了初步检验,调整优化后形成最终问卷。

正式调查于2024年12月10日至12月25日在问卷网平台实施,采用简单随机抽样方法向信用等级良好的用户投放问卷,为保证数据质量,问卷中设置逻辑验证、反向表述题目。经过平台初步数据审核清洗工作后获得样本1016份,进一步剔除异常样本后,最终获得有效问卷1003份。

四、数据分析与结果 1. 描述性统计分析

本研究对AI背景下科学相关虚假信息受众行为影响因素的分析系对NAM模型的探索性改造,暂未结合人口统计学信息进行差异分析,因而仅要求样本在常规变量方面基本分布均衡即可。本次调查中,男性(47.26%)比例略低于女性(52.74%);样本主要集中在18岁及以上(18岁以下仅3人)人群,其中31—40岁(31.50%)占比最高,随后是18—30岁(28.61%)、41—50岁(18.34%)、51—60岁(14.76%)和60岁以上(6.58%),反映出青壮年阶段的人群占本次调查样本的约八成;学历方面,“大学本科”(50.24%)超过半数,高中、大专学历(32.00%),硕士及以上(10.37%)也占一定比例,反映出被调查样本整体受教育程度良好。

2. 信度与效度检验

(1)信度检验

为确保测量结果的准确性,运用SPSS 26.0进行假设检验前的问卷有效数据可靠性分析。采用Cronbachα系数进行分析,SRα=0.831,GRα=0.773,PNα=0.809,PRα=0.881,PHα=0.761,AFα=0.773,BIα=0.798,PACα=0.873,RBα=0.808,5个构念测量量表信度超过0.8的良好标准,其他则高于0.7较好的标准,显示量表及样本数据信度质量高,可用于进一步分析。

(2)效度检验

基于KMO和Bartlett球形检验,KMO值为0.925大于0.8,表明数据可进行因子分析;Bartlett检验所得p值为0,小于0.01,通过显著性检验,表明各变量间存在相关性(见表2)。提取特征值大于1的因子,通过主成分分析法对40个题目进行提取,结果显示可提取9个公因子(贡献率为64.895%),结构效度较理想。使用最大方差旋转方法构建旋转后成分矩阵,研究项对应的因子载荷系数绝对值大于0.5,说明该项和因子有对应关系。

表 2 KMO 和 Bartlett检验

聚合效度方面,运用AMOS26对整体数据进行验证性因子分析,绘制模型进行数据运算,分析所得模型拟合情况良好,经模型修正后进一步提高相关指标参数(见图2),同时提高了拟合指标水平(见表3),所有拟合优度指标均达到通用标准,模型适配良好。验证性因子分析结果显示测量题项与其所度量的潜变量之间的标准负荷系数均大于0.6,各项变量可进行有效的测量;各变量AVE值全部大于0.5,且CR值全部均高于0.7,说明问卷结构模型具有较好的聚合效度。

图 2 拟合模型
表 3 模型拟合指标

通过相关系数与AVE平方根值的计算(表略),各因子的AVE平方根值均大于因子间相关系数绝对值的最大值,意味着其具有良好的区分效度。

3. 主效应分析与假设检验

路径系数即潜变量之间的回归系数(见图3)。对路径系数进行统计显著性检验(见表4),当p小于0.01,路径系数在95%的置信度下显著。

图 3 主效应的路径系
表 4 模型路径标准化系数估计

在结构方程模型相关假设检验中,所有路径的标准化系数达到显著水平(p<0.05),表明路径系数的估计值有效,系数为正则自变量对因变量有显著正向影响,即本研究的以下假设可以得到验证:

①PN对BI的影响:标准化路径系数值为0.107>0且显著,说明个人规范对于个体对科学相关虚假信息的辨别意愿产生显著的正向影响,假设H1成立;

②SR对BI影响:标准化路径系数值为0.284>0且显著,说明自我责任对于个体对科学相关虚假信息的辨别意愿产生显著的正向影响,假设H2a成立;

③GR对BI影响:标准化路径系数值为0.147>0且显著,说明群体责任对于个体对科学相关虚假信息的辨别意愿产生显著的正向影响,假设H2b成立;

④PR对BI影响:标准化路径系数值为0.199>0且显著,说明感知风险性对于个体对科学相关虚假信息的辨别意愿产生显著的正向影响,假设H3a成立;

⑤PH对BI影响:标准化路径系数值为0.187>0且显著,说明感知有害性对于个体对科学相关虚假信息的辨别意愿产生显著的正向影响,假设H3b成立;

⑥BI对RB影响:标准化路径系数值为0.593>0且显著,因而说明个体对科学相关虚假信息的辨别意愿对于辟谣行为产生显著的正向影响,假设H4成立。

4. 调节效应分析

结构方程模型验证主效应后进一步检验调节效应。首先将感知AI特性作为调节变量加入相关主效应路径,建立以虚假信息辨别意愿为因变量的线性回归方程,根据经典的调节效应检验分析法[53],利用多元逐步回归分析逐一检验在两条路径之中感知AI特性的调节效应显著与否。结果显示(见表5表6):①自变量PR呈现出显著性(t=13.1275, p<0.05),PR对于BI产生显著影响,调节变量PAC呈现出显著性(t=6.3356, p<0.05),意味着PAC对于BI产生显著影响,PR与PAC的交互项呈现出显著性(t=5.9019, p<0.05),且调节变量PAC在不同水平时,影响幅度具有显著性差异,即假设H5a得到验证;②自变量PH呈现出显著性(t=12.1957, p<0.05),PH对于BI产生显著影响关系,调节变量PAC呈现出显著性(t=7.6001, p<0.05),意味着PAC对于BI产生显著影响关系,PH与PAC的交互项呈现出显著性(t=3.7032, p<0.05),且调节变量PAC在不同水平时,影响幅度具有显著性差异,即假设H5b得到验证;③自变量BI呈现出显著性(t=12.4563, p<0.05),BI对RB产生显著影响关系,调节变量AF呈现出显著性(t=10.9539, p<0.05),AF对于RB产生显著影响关系,BI与AF的交互项呈现出显著性(t=5.0348, p<0.05),意味着BI影响RB时,调节变量AF在不同水平时,影响幅度具有显著性差异,假设H6得到验证。

表 5 感知AI特性调节效应分析结果
表 6 情感因素特性调节效应分析结果
五、研究结论与对策 1. 主要结论

本研究以AI时代科学相关虚假信息治理为主题,基于NAM构建理论框架,通过对1003份有效问卷数据的实证分析,验证了个体对科学相关虚假信息的心理决策机制及关键调节变量的作用,主要结论如下:

(1)NAM核心变量对辨别意愿的主效应显著

研究显示,NAM模型的核心变量均正向影响个体对科学相关虚假信息的辨别意愿。其中,个人规范对辨别意愿的正向影响显著,印证了道德义务感是驱动个体亲社会行为的重要内在机制,即个人规范是推动个体支持AI科学相关虚假信息治理的关键因素。在责任归属维度中,自我责任对辨别意愿的影响强度高于群体责任,说明个体对“自身需参与虚假信息辨别”的认知比“依赖群体治理”的认知更能驱动辨别动机。在后果意识维度中,感知风险性与感知有害性均显著正向预测辨别意愿,表明个体对科学虚假信息“不确定性风险”与“实际伤害”的认知越清晰,主动辨别意愿越强。

(2)辨别意愿对辟谣行为的正向驱动作用成立

个体对科学相关虚假信息的辨别意愿显著正向影响辟谣行为,且路径系数在所有主效应中最大。这表明“主动辨别信息真伪”的主观倾向是转化为“实际辟谣行动”(如转发权威辟谣信息、举报虚假内容)的关键中介,验证了TPB理论“行为意愿→行为”逻辑在科学虚假信息治理场景中的适用性,即提升辨别意愿是推动公众参与辟谣的重要环节。

(3)调节变量的作用机制明确

对于感知AI特性正向调节“后果意识→辨别意愿”路径,个体对AI 技术生成能力强、辨别难度大、传播效率快、可控程度弱、仿真水平逼真等特性的认知越清晰,感知风险性(或感知有害性)对辨别意愿的正向影响越强。例如,熟知AI深伪技术特性的个体,在意识到科学虚假信息的风险后,更易主动触发辨别行为。

对于情感因素正向调节“辨别意愿→辟谣行为”路径,个体接触科学虚假信息时的情感体验(如对误导后果的焦虑、对受害者的共情)越强烈,辨别意愿转化为辟谣行为的效率越高,即高情感唤醒有助于强化“意愿—行动”的转化,降低知情不辟谣的概率。

本研究存在一些不足。其一是存在样本代表性局限的问题。调查数据来源于问卷平台用户,虽经随机抽样,但可能存在平台用户偏好偏差,同时未能从地域、经济等多维度进一步确保样本的均衡,在非大样本调查的前提下难以客观、全面地代表公众整体。其二是采用横截面数据仅能验证变量间的关联关系,无法明确感知风险→辨别意愿的因果时序,未来可通过实验设计或纵向追踪,提升因果推断效力。其三是特定变量可以进一步拆分和细化,后续研究可细化情感维度以深化机制研究。

2. 启示和对策

本研究在一定程度上拓展了NAM-TPB理论的应用场景与维度边界,将该理论系统应用于AI科学虚假信息治理领域,突破了该理论既往多聚焦解释环境保护、公共卫生领域等传统亲社会行为研究的局限。同时,通过将后果意识拆分为感知风险性、感知有害性,将责任归属拆分为自我责任、群体责任,细化和丰富了NAM核心变量的内涵。结合AI背景下科学相关虚假信息的内容与传播特征,本研究对变量进行了适应研究主题的改造,提升了相关理论在个体应对科学相关虚假信息复杂情境中的适用性及解释力,亦是结合技术情境优化了传统理论[54]。此外,本研究在一定程度上补充了AI情境下个体行为决策的调节机制,引入感知AI特性和对AI衍生的科学相关虚假信息高度关联的情感因素作为调节变量,揭示了AI语境下“技术认知→风险感知→辨别意愿”“情感唤醒→意愿转化→辟谣行为”的双调节路径。

基于实证研究结论,结合AI科学虚假信息的传播特征与治理痛点,本研究从政府监管、平台技术、科普赋能、公众参与四个维度出发,建议构建多维度治理机制,以期有效遏制AI加持的科学相关虚假信息的生成与传播。

在政府监管方面,完善制度框架,强化源头管控。一是出台AI生成内容的溯源与问责规范,要求AI企业对生成的科学类内容添加“技术水印”和突出标识,明确AI开发者—内容生产者—平台的责任链条,降低算法黑箱导致的归责困境。二是建立针对科学虚假信息的快速响应机制。针对突发的高危害科学相关虚假信息(如公共卫生、气候变化领域)启动快速核验—辟谣发布流程,通过政务平台、权威媒体定向推送,利用官方信源、权威背书对冲AI生成虚假信息的迷惑性。此外,基于算法重点监测识别出带有AI水印的AI生成科学相关信息,分类分级进行机器和人工审查复核,从源头切断AI生成科学相关虚假信息的发布与传播。

在平台技术方面,削弱传播链路。一是鼓励企业开发AI虚假信息识别技术工具。依托AI技术反制AI生成的科学相关虚假信息,例如训练多模态科学信息核验模型,对平台内的伪科研数据、深伪科学家访谈等内容进行自动识别与拦截;对疑似虚假信息添加诸如“该内容未经验证,建议参考权威渠道”的风险提示标签,对疑似AI生成的图文、视频科普信息加以类似风险提示。二是试点实行用户辟谣行为激励机制,基于辨别意愿→辟谣行为的正向关系,平台可推出“辟谣积分体系”,譬如用户举报或转发权威辟谣内容可累积辟谣积分,兑换平台权益等奖励,增加对辟谣者的激励,从而强化个体的主动参与动机。

在科普赋能方面,提升公众辨别能力。一是开展AI专题与科学素养相结合的融合科普。调动高校、科研机构、媒体、科技工作者等主体的积极性,开展分众科普,如对青少年群体开展AI生成虚假信息案例拆解等教育,提升其技术认知和识别AI生成科学相关虚假信息的能力;向中老年群体推送和发放可视化虚假信息辨别指南,尽可能减小AI仿真性与公众辨别能力之间的鸿沟。二是打造“情感化”辟谣内容矩阵。结合情感因素的调节作用,辟谣内容避免单纯数据堆砌,可融入故事化表达,推出权威人物+真实场景的科普及辟谣内容,削弱AI深伪内容的可信度。

在公众参与方面,强化公众自我责任,主动参与治理。一是引导公众树立“自我责任优先”的认知。公众需转变依赖他人辟谣的心态,主动学习科学常识、跟踪AI技术发展,了解其相关特性,掌握AI深度伪造科学相关虚假信息的常用套路。二是鼓励公众积极参与“轻量化辟谣”行为。普通公众无需承担深度辟谣的压力,可从轻量化行动入手,如鼓励公众在社交平台、社交群组看到传播科学相关虚假信息时,转发权威辟谣链接,在社交平台遇到伪科学内容时随手举报,向身边的人宣传普及AI生成和传播科学相关虚假信息的模式和危害。

参考文献
[1]
中国科学院智能算法安全重点实验室, 公安部第三研究所与蚂蚁安全实验室. 生成式大模型安全评估白皮书. https://zhuanlan.zhihu.com/p/23844622332 [2025-9-30].
[2]
Lehmkuhl M, Peters HP. Constructing (un-)Certainty: An Exploration of Journalistic Decision-making in the Reporting of Neuroscience. Public Understanding of Science, 2016, 25(8): 909-926. DOI: 10.1177/0963662516646047.
[3]
Nguyen TT, Hui PM, Harper FM, et al. Exploring the Filter Bubble: The Effect of Using Recommender Systems on Content Diversity. https://www.tesble.com/10.1145/2566486.2568012[2025-9-30].
[4]
Sallam M, Egger J, Roehrig R, et al. Navigating the Peril of Generated Alternative Facts: A ChatGPT-4 Fabricated Omega Variant Case as a Cautionary Tale in Medical Misinformation. https://arxiv.org/pdf/2403.09674[2025-9-30].
[5]
Vosoughi S, Roy D, Aral S. The Spread of True and False News Online. Science, 2018, 359(6380): 1146-1151. DOI: 10.1126/science.aap9559.
[6]
Bpharmhons BDM, Bpharmhons NDM, Sorich MJ, et al. Health Disinformation Use Case Highlighting the Urgent Need for Artificial Intelligence Vigilance: Weapons of Mass Disinformation. JAMA internal medicine, 2024, 184(1): 5. DOI: 10.1001/jamainternmed.2023.5987.
[7]
张文祥, 沈天健, 孙熙遥. 从失序到再序: 生成式人工智能下的信息秩序变局与治理. 新闻界, 2023(10): 41-51.
[8]
张文祥. 生成式人工智能虚假信息的舆论生态挑战与治理进路. 山东大学学报(哲学社会科学版), 2025(1): 155-164.
[9]
潘文静, 孙纪开. 谁在左右判断?——信源可信度与纠正方式如何影响虚假信息纠正. 新闻与传播研究, 2025, 32(3): 35-53+126–127.
[10]
朱嘉珺. 生成式人工智能虚假有害信息规制的挑战与应对——以ChatGPT的应用为引. 比较法研究, 2023(5): 34-54.
[11]
Schwartzs SH. Normative Influences on Altruism. Advances in Experimental. Social Psychology, 1977, (10): 221-279.
[12]
Bamberg S, Möser G. Twenty Years after Hines, Hungerford, and Tomera: A New Meta-analysis of Psycho-social Determinants of Pro-environmental Behaviour. Environ Psychol, 2007, (27): 14-25.
[13]
Dinev T, Hart P. An Integrative Model of Privacy Concerns and Information Technology Usage. MIS Quarterly, 2006, 30(1): 129-154.
[14]
Park J, Ha S. Understanding Consumer Recycling Behavior: Combining the Theory of Planned Behavior and the Norm Activation Model. Family and Consumer Sciences Research Journal, 2014, 42(3): 278-291. DOI: 10.1111/fcsr.12061.
[15]
Zhang X, Geng G, Sun P. Determinants and Implications of Citizens' Environmental Complaint in China: Integrating Theory of Planned Behavior and Norm Activation Mode. Journal of Cleaner Production, 2017, (166): 148-156.
[16]
王丽丽, 张晓杰. 城市居民参与环境治理行为的影响因素分析——基于计划行为和规范激活理论. 湖南农业大学学报(社会科学版), 2017, 18(6): 92-98.
[17]
郭海玲, 卫金金, 刘仲山. 生成式人工智能虚假信息协同共治研究. 情报杂志, 2024, 43(9): 121-129+165.
[18]
Shoaib MR, Wang Z, Ahvanooey MT, et al. Deepfakes, Misinformation, and Disinformation in the Era of Frontier AI, Generative AI, and Large AI Models. https://arxiv.org/pdf/2311.17394[2025-9-30].
[19]
Thomson TJ, Angus D, Dootson P, et al. Visual Mis/disinformation in Journalism and Public Communications: Current Verification Practices, Challenges, and Future Opportunities. Journalism Practice, 2020, 16(5): 938-962.
[20]
Shao A. Beyond Misinformation: A Conceptual Framework for Studying AI Hallucinations in (Science) Communication. https://arxiv.org/pdf/2504.13777[2025-9-30].
[21]
Gerdon F, Bach RL, Kern C. Social Impacts of Algorithmic Decision-making: A Research Agenda for the Social Sciences. https://sage.cnpereading.com/paragraph/article/?doi=10.1177/20539517221089305 [2025-9-30].
[22]
Cinelli M, Morales GDF, Galeazzi A, et al. The Echo Chamber Effect on Social Media. Proceedings of the National Academy of Sciences, 2021, 118(9): e2023301118. DOI: 10.1073/pnas.2023301118.
[23]
Wilson DW, Kahn A. Rewards, Costs, and Sex Differences in Helping Behavior. Psychol Rep, 1975, 36(1): 31-34.
[24]
王建明, 吴龙昌. 亲环境行为研究中情感的类别、维度及其作用机理. 心理科学进展, 2015, 23(12): 2153-2166.
[25]
Gkargkavouzi A, Paraskevopoulos S, Matsiori S. Public Perceptions of the Marine Environment and Behavioral Intentions to Preserve It: The Case of Three Coastal Cities in Greece. Marine Policy, 2020, 55(8): 1027-1037.
[26]
党宁, 肖荟, 李文明. 游客亲环境行为的影响因素实证研究——基于情感与认知的双重视角. 人文地理, 2021, 36(3): 185-192.
[27]
Liu C, Zheng Y, Cao D. An Analysis of Factors Affecting Selection of Organic Food: Perception of Consumers in China Regarding Weak Signals. Appetite, 2021, 161(4): 105145.
[28]
王建亚, 胡玉娇, 张坤. 规范激活理论视角下健康谣言对抗行为影响因素组态研究. 情报资料工作, 2024, 45(1): 68-77.
[29]
闫岩. 计划行为理论的产生、发展和评述. 国际新闻界, 2014, 36(7): 113-129.
[30]
Albayrak T, Aksoy Ş, Caber M. The Effect of Environmental Concern and Scepticism on Green Purchase Behaviour. Marketing Intelligence & Planning, 2013, 31(1): 27-39.
[31]
沈校亮, 吴忧, 丁奕童, 等. 中和技术对辟谣信息分享的抑制作用和缓解机制. 管理科学, 2022, 35(6): 70-82.
[32]
Ling X, Guo G, Li S, et al. COVID-19-related Information Seeking and Individual's Rumor Refuting: A Multi-information Source Perspective. Computers in Human Behavior, 2022, 134(9): 107342.
[33]
Pal A, Chua AYK, Goh HL. How do Users Respond to Online Rumor Rebuttals. Pergamon, 2020, 106(5): 106243.
[34]
Han H. The Norm Activation Model and Theory-broadening: Individuals' Decision-making on Environmentally-responsible Convention Attendance. Journal of Environmental Psychology, 2014, 40(4): 462-471.
[35]
De Groot JIM, Steg L. Morality and Prosocial Behavior: The Role of Awareness, Responsibility, and Norms in the Norm Activation Model. The Journal of Social Psychology, 2009, 149(4): 425-449.
[36]
Linden SVD, Leiserowitz A, Rosenthal S, et al. Inoculating the Public against Misinformation about Climate Change. https://doi.org/10.1002/gch2.201600008 [2025-9-30].
[37]
刘丹凌. 从风险社会到数智风险社会: 逻辑变迁与智反性知识策略. 南京社会科学, 2024(12): 123-132.
[38]
Ajzen I. The Theory of Planned Behavior. Organizational Behavior and Human Decision Processes, 1991, 50(2): 179-211. DOI: 10.1016/0749-5978(91)90020-T.
[39]
Zhang L, Ruiz-Menjivar J, Luo B, et al. Predicting Climate Change Mitigation and Adaptation Behaviors in Agricultural Production: A Comparison of the Theory of Planned Behavior and the Value-belief-norm Theory. Journal of Environmental Psychology, 2020, (68): 1-11.
[40]
Ylä-Mella J, Keiski R, Pongrácz E. Electronic Waste Recovery in Finland: Consumers' Perceptions towards Recycling and Re-use of Mobile Phones. Waste Management, 2015, (45): 374-384.
[41]
Sánchez-García M, Zouaghi F, Lera-López F, et al. An Extended Behavior Model for Explaining the Willingness to Pay to Reduce the Air Pollution in Road Transportation. Journal of Cleaner Production, 2021, (314): 1-10.
[42]
Pinazo-Calatayud D, Agut-Nieto S, Arahuete L, et al. The Strength of Conspiracy Beliefs versus Scientific Information: The Case of COVID 19 Preventive Behaviours. Frontiers in Psychology, 2024, (15): 1325600.
[43]
Morrison EW, Robinson SL. When Employees Feel Betrayed: A Model of How Psychological Contract Violation Develops. Academy of Management Review, 1997, 22(1): 226-256. DOI: 10.2307/259230.
[44]
Kanchanapibul M, Lacka E, Wang X, et al. An Empirical Investigation of Green Purchase Behavior among the Young Generation. Journal of Cleaner Production, 2014, (66): 528-536.
[45]
Koenig-Lewis N, Palmer A, Dermody J, et al. Consumers' Evaluations of Ecological Packaging-rational and Emotional Approaches. Journal of Environmental Psychology, 2014, (37): 94-105.
[46]
Steg L, Groot JD. Explaining Prosocial Intentions: Testing Causal Relationships in the Norm Activation Model. British Journal of Social Psychology, 2010, 49(4): 725-743. DOI: 10.1348/014466609X477745.
[47]
Kricorian K, Civen R, Equils O. COVID-19 Vaccine Hesitancy: Misinformation and Perceptions of Vaccine Safety. Hum Vaccines Immunotherapeutics, 2022, 18(1): 1950504. DOI: 10.1080/21645515.2021.1950504.
[48]
王蕊, 常芷若. 信息过载与认知局限性: 新冠疫情中真伪科学信息辨别与传播的影响因素研究. 新闻与传播研究, 2023, 30(1): 17-33+126.
[49]
Sun Y, Wang N, Shen X, et al. Bias Effects, Synergistic Effects, and Information Contingency Effects: Developing and Testing and Extended Information Adoption Model in Social Q&A. Journal of the Association for Information Science and Technology, 2019, 70(12): 1368-1382. DOI: 10.1002/asi.24228.
[50]
Carrus G, Passafaro P, Bonnes M. Emotions, Habits and Rational Choices in Ecological Behaviours: The Case of Recycling and Use of Public Transportation. Journal of Environmental Psychology, 2008, 28(1): 51-62. DOI: 10.1016/j.jenvp.2007.09.003.
[51]
Ferguson MA, Branscombe NR. Collective Guilt Mediates the Effect of Beliefs about Global Warming on Willingness to Engage in Mitigation Behavior. Journal of Environmental Psychology, 2010, 30(2): 135-142. DOI: 10.1016/j.jenvp.2009.11.010.
[52]
Rees JH, Klug S, Bamberg S. Guilty Conscience: Motivating Pro-environmental Behavior by Inducing Negative Moral Emotions. Climatic Change, 2015, 130(3): 439-452. DOI: 10.1007/s10584-014-1278-x.
[53]
Yang W, Wang S, Peng Z, et al. Know It to Defeat It: Exploring Health Rumor Characteristics and Debunking Efforts on Chinese Social Media during COVID-19 Crisis. https://arxiv.org/pdf/2109.12372[2025-9-30].
[54]
杨佳乐, 胡乐明. 知识生产过程、学术评价变革与自主知识体系构建. 学习与探索, 2024(11): 41-50.
Research on the Influencing Factors of the Governance of Science-related False Information in the "AI +" Era: An analysis of audience psychological mechanism based on the NAM-TPB model
WANG Wei-ying, ZHAO Ming-yu, ZHANG Ying-jie, WANG Li-hui     
China Research Institute for Science Popularization
Abstract: With the rapid development of artificial intelligence (AI) technology, the risk of generating and spreading science-related false information has increased. To explore the governance path of science-related false information in the "AI+" era, this study, based on the NAM-TPB compound model, introduces perceived AI characteristics and emotional factors as moderating variables. Through an empirical analysis of 1,003 valid questionnaires, it reveals the psychological decision-making mechanism of individuals in response to science-related false information. The results show that: The core variables of NAM all have a significant positive impact on individuals' willingness to identify science-related false information, with self-responsibility (0.281) having the strongest influence, followed by perceived risk (0.205), perceived harmfulness (0.179), group responsibility (0.147), and personal norms (0.108); The willingness to identify has a significant positive driving effect on rumor-refuting behavior (0.576); Perceived AI characteristics positively moderate the "perceived risk/harmfulness→willingness to identify" path, and emotional factors positively moderate the "willingness to identify→rumor-refuting behavior" path. This study expands the application boundaries of the NAM theory in the AI technology context and false information governance, providing a practical direction for the collaborative efforts of the government, platforms, science popularization entities, and the public in the governance of science-related false information.
Keywords: artificial intelligence    science-related false information    normative activation model    theory of planned behavior    rumor-refuting behavior    

作者简介:王唯滢,中国科普研究所助理研究员。研究方向为科技传播、科技虚假信息治理、科普政策;
赵明宇,中国科普研究所助理研究员。研究方向为科普理论与政策;
张英杰,中国科普研究所科研助理。研究方向为科普理论;
王丽慧,中国科普研究所研究员。研究方向为科普能力、科普政策。
通信作者:王丽慧,邮箱地址:wanglihui1001@sina.com
项目资助:国家科技重大专项“科技创新2030——‘新一代人工智能’”重大项目“科普资源智能分析与服务关键技术”课题五“科普服务效果评价与示范”(2022ZD0120205);中国科普研究所项目“服务国家科普能力和全民科学素质建设的科普战略与政策研究”(250101)。