2021世界人工智能大会 AI安全面临“七宗罪”挑战

   在近期举办的世界人工智能大会上，《数据安全法》引起热议。“比起石油或者黄金来说，数据更像全球数字时代的血液，数据安全重要性不言而喻。”360集团副总裁、首席安全官杜跃进作了题为“数据与人工智能安全”的演讲。他表示，未来数字世界的三大基础是数据、智能(软件、计算)与网络，三者缺一不可构成数字时代，而数字时代则对安全提出了更大挑战，其中，数据安全和AI安全，是两个新的、相互关联的基础性安全领域，需要广泛协作与开放创新来解决其中的安全问题。

　　作为国内网安龙头，三六零(下称“360”)还携智能汽车、人脸识别、触控一体机、IoT等人工智能和网络安全前沿产品，集体亮相此次世界人工智能大会。

　　玩偶能通过人脸识别设备？AI安全面临“七宗罪”挑战

　　杜跃进指出，AI安全可以用“七宗罪”来形容，包括硬件、软件、协议、算法、数据、应用与社会。具体来说，硬件层面，人工智能元器件在物理层面缺乏安全设计；软件层面，任何软件都有漏洞；协议层面，很多专用通信协议设计缺乏安全考虑；算法层面，算法本身可以被欺骗、误导；数据层面，数据有可能被污染，被“投毒”；应用层面，人工智能技术可能被用于危害人类利益；社会层面，人工智能技术简单化地应用于解决社会问题，可能导致事与愿违。

　　以应用越来越广泛的人脸识别设备为例，“我们的AI安全研究团队总共分析了7个厂商的7款人脸识别设备，发现每台设备都有问题，包括存在后门、流量重放实现登录，DLL劫持、APK组件泄露隐私信息、低权限实现开门控制，模型文件泄露、服务端口开放、未授权访问等等。” 杜跃进举例说，360曾做过一次实验，可利用一台人脸识别设备的漏洞攻击算法模型，令其将小熊玩偶识别为人脸，并通过验证。

　　为此，360 AI安全实验室长期致力于研究人工智能基础设施领域的安全问题，目前共发现了150多个机器学习框架及供应链漏洞，涉及被广泛使用的Tensorflow，Caffe，PyTorch等主流深度学习开源框架，这些漏洞可造成任意代码执行、拒绝服务攻击、信息泄露等危害。

　　此外，风口上的智能汽车中也存在安全漏洞。“研究发现一些车辆可以通过互联网直接控制，比如突然开启车门、远程发动。”杜跃进表示。据悉，360 Sky-Go团队发现梅赛德斯-奔驰19个安全漏洞，利用漏洞可以构造攻击链，可以实现对多个系列200余万辆奔驰汽车的电力、动力系统的远程无接触控制，其控制场景包括对前后车门、车窗、车前灯、雨刷器的开启关闭。

　　大数据杀熟？数据安全面临被窃取、滥用和误用问题

　　? 今年6月，我国首部关于数据安全的法律《中华人民共和国数据安全法》获审议通过，并将于9月1日正式施行。

　　“数据安全，是当前最恐慌、最混乱的新问题。”在杜跃进看来，数据安全不仅是传统的数据文件保密、数字版权保护、数据库安全，也不仅是大数据平台的安全，而是大数据和智能化时代下，从不同视角关注的数据防窃取/破坏、防滥用、防误用三大问题。

　　具体来说，数据破坏，即黑客潜入其他主体的电脑，对文件加密、窃取或者删除；数据滥用，即用户的个人隐私和信息在别人手里，对方未经许可访问这些敏感信息；数据误用，即拥有大数据的主体对大数据的使用方法不当，导致用户权益受损。

　　不同角色视角下，数据安全面临不同的问题。杜跃进表示，对于个人来说，数据安全涉及隐私问题、不公正问题等，其中最典型的例子是大数据杀熟；对于企业和机构来说，数据安全则涉及资产损失、知识产权、利益分配、跨组织流动时的风险控制与合规要求；对于国家来说，数据安全则涉及国家安全问题。

　　开放创新，护航数据与AI安全

　　对于如何解决数据与人工智能安全问题，杜跃进表示，“没有成熟方案，只有最佳方法，即广泛协作、开放创新。” 因此，具体技术还需要迭代创新，而且在基本方法上要以数据为中心，以组织为单位，以能力成熟度为抓手；要从传统的管理体系转向社会化治理体系来应对解决；要建立复合机制，从只有处罚，转变为处罚、帮助、奖励并举。

　　杜跃进介绍道，为应对人工智能与安全面临的挑战，360发挥龙头企业优势，践行社会责任，承担了国家级开放创新平台的建设任务。一是建设“安全大脑国家新一代人工智能开放创新平台”，该平台致力于解决人工智能自身存在的安全风险、人工智能创新环境匮乏及在网络安全领域创新成果落地难等问题。同时，平台还将赋能中小初创安全企业、垂直行业、人工智能产业，提升国家人工智能安全整体防御能力，打造人工智能的“安全底座”。据悉，该平台是科技部批复的由企业牵头建设的15家“国家新一代人工智能开放创新平台”中唯一聚焦人工智能与安全的平台。

　　另一个是牵头构建大数据安全协同技术国家工程实验室。据悉，大数据协同安全技术国家工程实验室，是针对我国大数据环境下数据安全和系统安全监测、预警和控制处置能力不足等问题，围绕提升大数据安全分析能力和保障大数据系统自身安全的需求，建设大数据协同安全技术应用研究平台。

　　最后，杜跃进表示，数字经济还在快速发展变化中，因此，解决数据安全问题不能闭门造车，一定要从产业中来，到产业中去，在产业实践中找问题，找方法，并不断迭代和完善。