不影响人工智能对数据污染的安全

中国经济网络保留的所有权利
中国经济网络新媒体矩阵
在线视觉音频程序许可证（0107190）（北京ICP040090）
国家安全部门最近发布了一份文件，提醒我们人工智能培训数据的质量，包括错误的信息，虚构内容和偏见，这是不平等的。数据是人工智能发展的基础。人工智能模型分析和处理大量培训数据以了解世界，从而促进内容生产和智能决策。高质量的数据可以提高人工智能模型的精度和可靠性，但是当数据被污染时，它会扭曲人工智能模型的感知，这会导致决策错误并引起更加有害的结果。投资提示表明，如果培训数据集中有0.01％的虚假文本，则有害孔戴的生产该模型的NT增加了11.2％。当前，作为人工智能模型的重要“语料库”，各种类型的信息混合在一起，这使得难以保证精度。即使该模型正在尽一切可能在训练过程中过滤可疑数据，也很难完全避免渗透不正确或有害内容。如今，从食品建议到自动驾驶，从财务决策到医学诊断，人工智能都深入融合到人们的生活中。由于数据污染而做出的所有错误判断都可能导致链反应并导致不可估量的损失。例如，在自动驾驶领域，诅咒之路的条件可以使人发生交通事故。在金融部门，错误的制造信息导致行动价格的异常波动。事实证明，防止数据污染不仅是人工智能领域的技术挑战，而且是也是社会信任和公共安全的问题。当前，“生成的人工智能服务管理的临时措施”包括主管的人工智能培训数据，所有各方都探讨了几种识别和抵制恶意数据影响的方法。但是，随着数据污染的增加和增加。同时，它改善了动态监控和反馈机制，及时纠正模型中的异常行为，根据法律和法规，清洁和定期修复受污染的数据，并为人工智能数据建立坚实的基础。 （作者：Yu Yue来源：经济日）
（编辑：fu ehongming）