舞好人工智能之剑，安全这根弦不能松

伴随这次突发的疫情，业界普遍认为加深了整个社会对人工智能的认知，人工智能的应用也将向纵深推进。但正如科技是一把“双刃剑”，我们也面临着如何规避人工智能在安全、伦理上的风险。只有深刻认识这些潜在的“危险”，才能更好地舞好人工智能之剑。

在2020世界人工智能大会期间，关于人工智能的安全伦理问题备受关注。疫情期间，上海城市运营“一网统管”大平台上，以人工智能为代表的新兴科技有效地解决了疫情联防联控、资源调配、经济秩序恢复、民生保障等诸多领域的问题。据上海市人民政府办公厅副主任徐惠丽表示，事实上，近年来上海紧抓城市现代化治理的“牛鼻子”，解决城市治理中的“盲点、毒点、难点”。以升级建设“一网统管”的系统为抓手，在打通城市数据路，打破层级架构，实现信息共享，快速反应的基础上，通过智能化的手段聚焦疫情防控、复工复产等重点工作，不断提高上海城市管理的精细化水平和现代化能级。

这些探索，展现了数字时代城市与社会面临巨大风险时所具备的特殊灵活性和坚韧性。

然而，机遇和风险永远是并存的。

尤其是疫情期间，相关技术的应用也引发了社会对数据安全、个人信息保护等相关议题的广泛关注。比如，现在的“万码奔腾，码上加码”，让大家在这次疫情中感触很深。政府A部门发了码，B部门也发码，学校发码，社区也发码，所有的码都要重新填报，一次次把个人隐私信息暴露给后端的机构和平台。这个问题带给我们的启示是，未来需要建立可约束的码管理体系。

可以说，数据安全已经成为人工智能发展必须要解决的瓶颈问题。比如，在数据采集方面，APP不在应用范围内收集个人信息，涉及过量采集。数据处理方面，数据污染是人工智能典型的场景，攻击会造成人工智能模型计算的偏差和无法期望的结果。数据流通方面，人工智能依托于算力、算法解析数据，但数据很可能不是由一个企业完成，有的公司做数据采集，有的公司做数据标注，数据在各个公司、企业流转过程中涉及数据交互、数据跨境的风险。

正因为认识到数据一旦不能保证安全底线，将对人工智能未来带来不可知性，不仅在中国，各国都在战略层面非常重视数据安全，包括美国、欧盟在各种人工智能倡议、伦理规范中都强调针对数据安全的应对措施。比如，美国通过场景化立法推进人工智能数据安全，在加州推出了人脸识别的安全技术法。欧盟加快统一数据安全立法下场景化监督，前几年欧盟出“GDPR”，在“GDPR”的框架下持续推进自动驾驶、人脸识别、生物制造等典型场景的数据安全立法。

安全是为人工智能更可靠、更有效的发展而服务，而非阻碍人工智能发展。有专家就建议，要在人工智能动态发展中实现对数据安全风险的可知和可控。要充分发挥“安全”对人工智能的赋能作用，而非瓶颈约束。今年2月，中央网信办发布了关于做好个人信息保护利用、大数据支撑联防联控工作的通知。但在国家立法层面，业界呼吁，需要进一步加快数据安全立法以及人工智能标准化立法。

只有以前瞻性的眼光未雨绸缪，才能保证人工智能的发展可以给人类带来更光明、美好和安全的未来。