AI造假甚(shen)至侵入历史影象。今年年初(chu)，达豪、布(bu)痕瓦尔德等约30家(jia)德国集中营怀(huai)念机构和博物馆团结签订一封公(gong)开信，敦促社交媒体平台(tai)严厉打击利用AI天生大屠(tu)杀(sha)相关内容的行为。德国历史学家(jia)伊丽丝·格罗舍克说，利用AI天生的图象和视频看起来像极了历史照片——黑(hei)白底色，骨瘦如柴的人，铁蒺藜后(hou)呼号的孩(hai)子……但仔细看就会发明异常，这(zhe)类图象和视频中的人长相类似，身高相仿，而且(qie)都非常漂亮。

“AI让纳粹受害者变得更年轻漂亮，这(zhe)类美化歪曲了历史，却利用"大众同情心获(huo)得广泛传播。”格罗舍克说，这(zhe)类假造的帖子会削弱怀(huai)念馆、档案馆、博物馆和研究机构工作的权(quan)势巨子性，损害它们的公(gong)信力。

操纵制造“社会共鸣(ming)”

比假造内容更危(wei)险的，是AI可以假造“多(duo)半人的意见”。一个国际团队近期在美国《迷信》杂志“政(zheng)策服装论(lun)坛t.vhao.net”栏目发表文章说，数字操控正进入新阶段。漫衍子虚信息的不再只是单个账(zhang)号，而是伪装成真实(shi)用户(hu)的AI集群。这(zhe)类集群能够(gou)彼此互动、回应真人、适应情绪变化，并(bing)在不断相互赞(zan)同和强化中制造出一种其实(shi)不存在的“社会共鸣(ming)”。

德国康斯(si)坦茨大学研究职员达维德·加西亚解释说，这(zhe)类AI集群由一组可被小(xiao)我私(si)家(jia)或构造操纵的AI智能体构成。它们具有相对稳(wen)定的身份和影象，能够(gou)模拟人类行为，既可以盘绕特(te)定目标协同举措，也(ye)能够(gou)根据及时事件和用户(hu)反馈调整表达方式。这(zhe)类AI集群与初(chu)期的僵尸收集有着(zhe)显著区别，后(hou)者通常行为机器，较容易辨认；而前者可以跨平台(tai)运转，并(bing)经过彼此呼应不断缩小(xiao)影响。

加西亚认为，真实(shi)的风险将不再局(ju)限于个体子虚信息，而是“操纵者”可能借助大模子虚拟出“另一种社会”。他说：“AI集群可以经过缓慢而持续的过程(cheng)，制造某种态度已获(huo)广泛支持的假象，进而影响人们的看法(fa)甚(shen)至改变社会规范。当许(xu)多(duo)看似彼此自力的声音不断表达相反态度时，多(duo)半派的错觉就会构成，即(ji)使这(zhe)类多(duo)半原本(ben)其实(shi)不存在。”

从被动造谣到主动辨认

面临(lin)这(zhe)类可以假造“社会共鸣(ming)”的新威胁，研究职员和机构已最先举措，利用技术手段予以辨认，并(bing)经过健全监督机制，及时鉴别和揭露子虚信息和内容。

加西亚认为，应利用模式辨认等技术手段，检测内容传播中是否存在异常同步、相互呼应和跨平台(tai)联动，以更快发明由AI驱动的群体性操纵。

除技术辨认，研究职员还主张创建自力监督机制，持续观察AI智能体如安在不同平台(tai)上影响公(gong)共接头(tou)，及时揭露子虚内容。加西亚说，这(zhe)类收集越早被揭露出来，就越难腐蚀"大众信任(ren)，也(ye)越难把原本(ben)多(duo)样(yang)的社会心见伪装成单一共鸣(ming)。

德国人工智能研究中心（DFKI）和莱茵兰－普法(fa)尔茨州政(zheng)治教育中心等机构日前推出尚处于测试阶段的深度防伪检测工具，以进步"大众对可疑内容的辨认本(ben)领(ling)。与仅依(yi)赖(lai)像素异常辨认假造痕迹(ji)的传统要领(ling)不同，该工具不仅会对图象和音频举行取证分析，还会结合(he)上下文展开交织核(he)验。后(hou)台(tai)的AI智能体会并(bing)行检索收集信息，并(bing)调用经过核(he)实(shi)的现实(shi)资(zi)源库帮助判断，包括德新社现实(shi)核(he)对团队提供的数据。

DFKI在旧事公(gong)报中说，用户(hu)只需转发给检测系统，系统随后(hou)会分析相关质料(liao)是否由AI天生或经过篡改，并(bing)向用户(hu)反馈其为子虚内容的可能性以及相应线索。

莱茵兰－普法(fa)尔茨州政(zheng)治教育中心主任(ren)伯恩哈德·库卡茨基说，子虚信息已成为当前信息传播中的突(tu)出成绩，公(gong)民(min)每天都可能接触到被操纵的内容，因此辨别和核(he)验信息的本(ben)领(ling)尤为重要。（完(wan)）