人工智能技术及其应用日益兴盛，各式各样的AI工具已融入我们的工作与生活，无形中，我们的日常活动与智能科技紧密交织在一起。
当AI信息“不靠谱”网民如何断真假？
近些年，许多网友注意到，有些机器智能给出的回应变得不太可靠，可以参考两个事例：
今年上半年，宁波发生了两件事，被人工智能荒唐地联系在一起。
首要情况在于，二月份的第六天，宁波市公安机关取消了官方抖音账号“宁波交警”。其次情况在于，三个月后的五月份第二日，在浙江省宁波市余姚县境内的省道嘉余线路段上，一辆没有安装车牌的汽车在实施违规超车时，撞倒了一辆摩托车。该汽车驾驶员没有立刻探视伤者是否受伤，而是从车辆尾箱中取出车牌进行安装。
网民询问AI软件为何注销2月6日的宁波交警抖音号，AI回答称与5月2日交通事故引发关注有关，此结论令人惊讶。2月注销账号的真正原因，却与3个月后发生的事故有关。AI的这一回答引发网民热议，宁波交警随后紧急澄清了事实。
去年网民询问儿童手表AI软件，是否中国人最聪明，系统回应却否定中国创造与文化。此回答引发网络热议。手表厂商迅速致歉，表示已修正数据，移除错误信息来源。
这些年，人工智能伪造的内容层出不穷，编造虚构的文献资料，以及文献的创作者、网络链接等，都屡见不鲜。人工智能更充当了虚假消息的推手，诸如游船倾覆、幼教机构失火等虚假传言，都能被它用来帮助网民捏造。
当AI数据被污染有何风险？如何防范？
先前谈到的那些事例，跟人工智能的数据污染程度高低存在一定关联性。打个比方，要是把人工智能比作烹饪成品，那么用于训练的数据就好比是做菜的原料，一旦原料出了问题，变质腐坏，最后做出来的成品也难免会存在缺陷。
人工智能的关键组成部分包括算法、计算能力和信息资源，其中信息资源是构建AI模型的基础条件，同时也是AI应用的重要支撑。如果信息资源出现偏差，就有可能造成模型判断错误，甚至导致AI系统无法正常工作，潜藏着一定的风险因素。
什么是AI数据污染？分几类？
近期，安全机关发出提醒，经由恶意修改、凭空捏造以及信息堆砌等手法制造的有害信息，会妨碍机器在学习过程中的关键环节设置，削弱其判断能力，同时可能导致产生不良后果。
那么究竟什么是AI数据污染，数据污染分为哪几类？
网络安全专家曹辉表示，数据污染主要涉及两个领域，一个是图像识别，一个是语言理解。这张图片展示了斑马识别人工智能系统的学习素材。我们注意到，在这张照片中许多斑马被标记了。实施数据污染的方法是在其中一只斑马身上添加一个绿点。添加了绿点的斑马被刻意不进行标记。这些训练数据数量大约达到数万条，从这数万条数据中随机挑选其中三四条进行特定的破坏操作，就会造成生成的人工智能系统内含隐蔽通道，进而使得该系统在处理带有绿色斑点特征的斑马图像时出现误判，最终导致人工智能系统的识别功能被恶意操控。
专家介绍，人工智能数据污染分为两类：
一种是人为主观恶意去篡改数据，误导人工智能的输出结果；
另一种情况是人工智能会大量汇集网络上的海量信息，如果那些有害内容没有被筛选清除，反而被当作可靠信息来源纳入计算过程中，那么它产生的内容同样缺乏可信度。
网络安全的曹辉表示：大模型训练确实需要海量数据，因此，很多网络信息，包括书籍、报刊、影视作品中的对话和台词，都可能成为训练资料来源。我们每个人或许都曾在网上发布过信息，一旦这些信息存在安全隐患或被污染，那么大模型也可能因此受到不良影响。
人工智能数据 为何小污染会造成大危害？
国家安全部统计表明，人工智能在培养环节，哪怕有万分之一比例的虚假信息被采纳，其不良反应也会增长7.2个百分点。这么微不足道的错误信息源头，为何其造成的危害会成倍数级地急剧放大呢？
权威人士说明，受污染的数据在观点与内容上，显著区别于正常数据，在这种情况下，人工智能系统极有可能，将此类数据判定为“具有特殊性且信息丰富”，并且会提升它在计算资源分配中的权重。
中国网络空间安全协会人工智能安全治理专业委员会委员薛智慧表示，大语言模型从本质上讲是统计语言模型，其采用的多层神经网络构造表现出显著的非线性特性。模型训练期间，假如训练数据里掺杂了劣质数据，模型或许会错误地认为这些数据具备显著特征、典型性以及丰富信息，这种错误认知会促使模型提升劣质数据在整个数据集中的比重，最终造成少量的劣质数据也能轻微改变模型参数。一旦模型开始生成内容，这种细微的干扰会在神经网络结构中的众多层级间持续传递，并且逐级增强，最终造成生成结果产生显著的错误。
数据污染可能引发一系列现实风险
AI数据污染或许会在金融、公共安全等范畴内造成诸多实际威胁，并且带来一系列后果。
中国网络空间安全协会人工智能安全治理专业委员会委员薛智慧表示，在经济金融领域，若数据发生污染，市场行为分析、信用风险评估、异常交易监控等任务就可能出现错误判断和决策，从而造成直接的经济损失，这是事实。在社会舆论方面，数据污染会损害信息的真实性，使民众难以分辨信息真伪，这就可能诱发社会舆论风险。
加强源头监管 防范污染生成
对于人工智能数据被污染的问题，从国家安全的视角来看，应当怎样阻止风险的发生？权威人士指出，需要强化初始阶段的管控，以避免被污染的情况出现。
中国网络空间安全协会人工智能安全治理专业委员会委员薛智慧：必须制定清晰的数据收集准则，选择安全可靠的数据来源，建立数据分类系统，实施严格的访问管理和审查等安全手段。
还可以借助自动装置、人工核查以及智能程序相互配合，针对资料不统一、规格谬误、字句含义矛盾等情形进行审视和调整。
安全部门先前就AI数据被污染的问题发出过警告，要求按照法规标准定期清理和修复受损数据，逐步建立模块化、能够监测、可以扩容的数据管理架构，以达成持续维护和质量控制的目标。
对于普通网民来说，在日常生活和劳动中，怎样才能避免人工智能数据造成的危害呢？
网警提醒：
一是使用正规平台和企业提供的AI工具；
其次要恰当运用人工智能应用，其生成的信息可供借鉴，却不可全然依赖。
要小心保护个人资料,防止个人隐秘信息被泄露出来,并且不成为有害信息的发布者,一起维护网络空间的安全。
