当前位置: 首页  >> 人工智能  >> 查看详情

2021世界人工智能大会 AI安全面临“七宗罪”挑战

来源: 中国网   日期:2021-07-13  责编: 殷绪江  
分享:

   在近期举办的世界人工智能大会上,《数据安全法》引起热议。“比起石油或者黄金来说,数据更像全球数字时代的血液,数据安全重要性不言而喻。”360集团副总裁、首席安全官杜跃进作了题为“数据与人工智能安全”的演讲。他表示,未来数字世界的三大基础是数据、智能(软件、计算)与网络,三者缺一不可构成数字时代,而数字时代则对安全提出了更大挑战,其中,数据安全和AI安全,是两个新的、相互关联的基础性安全领域,需要广泛协作与开放创新来解决其中的安全问题。

  作为国内网安龙头,三六零(下称“360”)还携智能汽车、人脸识别、触控一体机、IoT等人工智能和网络安全前沿产品,集体亮相此次世界人工智能大会。

  玩偶能通过人脸识别设备?AI安全面临“七宗罪”挑战

  杜跃进指出,AI安全可以用“七宗罪”来形容,包括硬件、软件、协议、算法、数据、应用与社会。具体来说,硬件层面,人工智能元器件在物理层面缺乏安全设计;软件层面,任何软件都有漏洞;协议层面,很多专用通信协议设计缺乏安全考虑;算法层面,算法本身可以被欺骗、误导;数据层面,数据有可能被污染,被“投毒”;应用层面,人工智能技术可能被用于危害人类利益;社会层面,人工智能技术简单化地应用于解决社会问题,可能导致事与愿违。

  以应用越来越广泛的人脸识别设备为例,“我们的AI安全研究团队总共分析了7个厂商的7款人脸识别设备,发现每台设备都有问题,包括存在后门、流量重放实现登录,DLL劫持、APK组件泄露隐私信息、低权限实现开门控制,模型文件泄露、服务端口开放、未授权访问等等。” 杜跃进举例说,360曾做过一次实验,可利用一台人脸识别设备的漏洞攻击算法模型,令其将小熊玩偶识别为人脸,并通过验证。

  为此,360 AI安全实验室长期致力于研究人工智能基础设施领域的安全问题,目前共发现了150多个机器学习框架及供应链漏洞,涉及被广泛使用的Tensorflow,Caffe,PyTorch等主流深度学习开源框架,这些漏洞可造成任意代码执行、拒绝服务攻击、信息泄露等危害。

  此外,风口上的智能汽车中也存在安全漏洞。“研究发现一些车辆可以通过互联网直接控制,比如突然开启车门、远程发动。”杜跃进表示。据悉,360 Sky-Go团队发现梅赛德斯-奔驰19个安全漏洞,利用漏洞可以构造攻击链,可以实现对多个系列200余万辆奔驰汽车的电力、动力系统的远程无接触控制,其控制场景包括对前后车门、车窗、车前灯、雨刷器的开启关闭。

  大数据杀熟?数据安全面临被窃取、滥用和误用问题

  ​ 今年6月,我国首部关于数据安全的法律《中华人民共和国数据安全法》获审议通过,并将于9月1日正式施行。

  “数据安全,是当前最恐慌、最混乱的新问题。”在杜跃进看来,数据安全不仅是传统的数据文件保密、数字版权保护、数据库安全,也不仅是大数据平台的安全,而是大数据和智能化时代下,从不同视角关注的数据防窃取/破坏、防滥用、防误用三大问题。

  具体来说,数据破坏,即黑客潜入其他主体的电脑,对文件加密、窃取或者删除;数据滥用,即用户的个人隐私和信息在别人手里,对方未经许可访问这些敏感信息;数据误用,即拥有大数据的主体对大数据的使用方法不当,导致用户权益受损。

  不同角色视角下,数据安全面临不同的问题。杜跃进表示,对于个人来说,数据安全涉及隐私问题、不公正问题等,其中最典型的例子是大数据杀熟;对于企业和机构来说,数据安全则涉及资产损失、知识产权、利益分配、跨组织流动时的风险控制与合规要求;对于国家来说,数据安全则涉及国家安全问题。

  开放创新,护航数据与AI安全

  对于如何解决数据与人工智能安全问题,杜跃进表示,“没有成熟方案,只有最佳方法,即广泛协作、开放创新。” 因此,具体技术还需要迭代创新,而且在基本方法上要以数据为中心,以组织为单位,以能力成熟度为抓手;要从传统的管理体系转向社会化治理体系来应对解决;要建立复合机制,从只有处罚,转变为处罚、帮助、奖励并举。

  杜跃进介绍道,为应对人工智能与安全面临的挑战,360发挥龙头企业优势,践行社会责任,承担了国家级开放创新平台的建设任务。一是建设“安全大脑国家新一代人工智能开放创新平台”,该平台致力于解决人工智能自身存在的安全风险、人工智能创新环境匮乏及在网络安全领域创新成果落地难等问题。同时,平台还将赋能中小初创安全企业、垂直行业、人工智能产业,提升国家人工智能安全整体防御能力,打造人工智能的“安全底座”。据悉,该平台是科技部批复的由企业牵头建设的15家“国家新一代人工智能开放创新平台”中唯一聚焦人工智能与安全的平台。

  另一个是牵头构建大数据安全协同技术国家工程实验室。据悉,大数据协同安全技术国家工程实验室,是针对我国大数据环境下数据安全和系统安全监测、预警和控制处置能力不足等问题,围绕提升大数据安全分析能力和保障大数据系统自身安全的需求,建设大数据协同安全技术应用研究平台。

  最后,杜跃进表示,数字经济还在快速发展变化中,因此,解决数据安全问题不能闭门造车,一定要从产业中来,到产业中去,在产业实践中找问题,找方法,并不断迭代和完善。




 

【免责声明】: 凡注明 “环球科技网” 字样的图片或文字内容均属于本网站专稿,如需转载图片请保留 “环球科技网” 水印,转载文字内容请注明来源“环球科技网”;凡本网注明“来源:XXX(非环球科技网)”的作品,均转载自其它媒体,转载目的在于传递更多信息,并不代表本网赞同其观点和对其作品内容的实质真实性负责,转载信息版权属于原媒体及作者。如转载内容涉及版权或者其他问题,请投诉至邮箱;1978751725@qq.com

     
 


 

相关文章

  • 以AI技术赋能中小企业 百度要下沉到125个城市 以AI技术赋能中小企业 百度要下沉到125个城市 2021-07-06 10:45:08

       随着信息化进程的加速,数字化和智能化正在对各行各业起到潜移默化的影响。数据显示,今年“618”期间,各省份网购成交额大幅增长。其中,下沉市场消费能力正在被迅速激发。那么,如何才能有效挖掘下沉市场潜力?据报道,在业内人士看来,首要目标是提质增效,这就要求市场参与者增加对下沉市场的优质商品供给,为下沉市场&ldq... [阅读]

  • 人工智能深度融合新型轨道交通产业 人工智能深度融合新型轨道交通产业 2021-07-01 15:14:30

       “城市轨道交通迈入网络时代,合肥市轨道交通运行里程达到115公里,建设总长度达到170.9公里,单日线网客流最高达到114.6万人次。”在日前召开的中国新型轨道交通创新发展大会上,合肥市市长罗云峰介绍,轨道建设与产业发展空间广阔,合肥市与包括中国中铁在内的行业企业展开了全面合作,强化科技支撑,推动人工智能、集... [阅读]

  • 首届“脑科学开放日”在京举行 首届“脑科学开放日”在京举行 2021-06-22 15:23:41

       6月22日,由脑陆科技联合神经调控技术国家工程实验室共同举办的首届“脑科学开放日”在京举行。活动以“觉醒”为主题,邀请了来自产学研用的专家、学者与诸多业界人士,围绕脑科学的最新研究进展和如何加速成果转化进行了深入探讨。同时,脑陆科技发布了第三代助眠产品——Sle... [阅读]

  • 推进AI和大数据产学研一体化,京东智能城市与大数据研究院落地湘潭 推进AI和大数据产学研一体化,京东智能城市与大数据研究院落地湘潭 2021-06-17 16:12:39

       6月16日,湘潭市京东智能城市与大数据研究院揭牌仪式暨第一届大数据产业与数字经济发展论坛开幕。这是京东智能城市研究院继北京、南京、成都和桂林等多个城市后又一次重要战略布局。湘潭市政府和市直机构、京东集团相关负责人、湘潭市高校人员以及多位行业专家参会,湘潭市人民政府副市长董巍,京东集团副总裁王楠,京东集团副总裁、研究院理事长郑宇博士,... [阅读]