当前位置： 首页 >> 智能环球 >> 查看详情

“强人工智能”时代渐近新技术催生新攻击方式

来源： 经济参考报 日期：2019-07-09 责编： 环球科技网

智能机器人自信地“走上”舞台担纲主持；无人车在测试道路上完成一系列动作，司机却稳坐千里之外；智能健康“魔镜”能实时显示测试者“睡眠”“情绪”“皮肤”等一系列健康指标系数……曾经在科幻电影中才能看到的炫酷片段已经在生活中得以实现，种种“黑科技”被广泛应用，人工智能的发展深刻地影响着社会生活。

　　但同时，随着人工智能技术应用越来越广泛，人工智能“脆弱面”也逐渐暴露，机器人“自我意识”、技术滥用等安全漏洞引起业界更多关注。专家表示，要加强对潜在风险的研判和防范，确保人工智能各项技术安全、可靠、可控。

　　催生新攻击方式

　　当今，世界各国纷纷布局人工智能，国际竞争日趋激烈。然而，人工智能的快速发展也使得网络安全的风险点和攻击方式出现新变化，进而引发更深层次的网络安全风险。

　　2018年4月，欧盟委员会计划2018年至2020年在人工智能领域投资240亿美元。2018年5月，法国发布《法国人工智能战略》，目的是使法国成为人工智能强国。2018年6月，日本《未来投资战略》重点推动物联网建设和人工智能的应用。

　　对于人工智能，我国同样高度重视。2017年，政府先后发布了《新一代人工智能发展规划》和《促进新一代人工智能产业发展三年行动计划（2018—2020年）》。

　　北京邮电大学教授李小勇表示，我国是受到网络攻击最严重的国家之一，也是遭受物联网攻击最严重的国家之一，网络攻击手段和攻击形式越来越多。从行业来看，经济、教育、政府等部门成为攻击的主要目标。

　　360公司董事长兼CEO周鸿祎说，网络攻击每天都在发生。目前网络黑客的攻击目标非常明确，就是能源、交通等基础设施，因为这样产生的影响是最大的。未来在万物互联的情况下，每个集装箱、每辆卡车，甚至城市里的每个井盖都实现互联，虚拟层面的攻击可能引发物理空间的损害。

　　事实上，劫持智能设备已经成为网络攻击的重要手段。网络安全专家表示，许多无人值守系统运用人工智能技术，一旦遭网络劫持，将带来严重的安全问题。例如，智能汽车可与车厂服务器连接，通过手机远程控制，车主需要定期更新软件保证汽车的驾驶模式，如此一来就可能被网络劫持。

　　天津大学法学院院长孙佑海称，网络攻击者可通过漏洞控制人工智能算法，实现物理硬件操纵、实施舆论引导、制造虚假图像或影响、制造信息噪音等，造成安全隐患。

　　此外，图像、声音合成滋生新的风险。国家互联网应急中心的相关专家称，随着技术的发展，现在的合成图像、语音越来越逼真。如果把该技术用于网络诈骗，虚构人脸和语音，是非常可怕的事情。

　　暴露安全软肋

　　由于人工智能技术依托的算法、大数据等可以很低的成本进行复制和扩散，其传播渠道广，监管难度大，封控几率低。

　　目前，人工智能技术正由“弱人工智能”向“强人工智能”阶段跃进，能够依据其所掌握的算法、数据，在短时间内快速突破人类传承多年的经验积累。

　　2016年，由谷歌旗下“深度思维”（DeepMind）公司开发的AlphaGo横空出世，经深度学习后横扫人类围棋界翘楚。一年后，零基础起步的新程序AlphaGo Zero，通过自我训练，在三天内与自身对弈490万局后，以100：0的成绩击败“前辈”AlphaGo。

　　2017年，美国社交媒体平台脸书公司实验室中的两个人工智能机器人使用机器学习相互对话，并不断进行对话策略迭代升级，逐渐发展出了一种机器之间能理解但人类无法理解的语言。

　　“事实表明，人工智能通过算法和大数据进行深度学习，不排除演化出‘自我意识’的可能，辅助甚至代替人类做出分析和决策，这易于发生反噬风险。”孙佑海说。

　　当前，人工智能研究高度开放附带源代码的海量论文可免费下载，即便编写一种折型算法的时间成本也只需几天，人工智能技术的滥用风险激增。此外，人工智能既有多学科综合、高度复杂等特性，带有天然的技术壁垒，给监管部门的监督管理和风险防范提出了不小的挑战。

　　除技术发展外，人工智能带来的社会影响不容小觑。通过特定算法全方位了解用户偏好和需求，为消费者“量身定制”的“精准推送”正成为商家引导消费的新途径。

　　近年来，北京、上海、重庆、济南等地的商圈开始试水“智慧商圈”模式，可以根据顾客的特征更精准地推送优惠券商品信息，让用户更有消费动力。比如，给年轻的未婚白领女性推送化妆品和奢侈品的品牌商券；给妈妈们推荐婴儿用品店；给男性推送运动品牌门店活动，等等。

　　“智慧商圈”带来生活便捷却容易引发“信息骚扰”问题。消费者的一个简单操作就有可能暴露想要购买某件商品的想法，后续会不断收到同类商品的广告宣传，产生困扰。长此以往，商场导购等从事决策分析、艺术创作等工作也有被机器人取代的可能，人工智能技术的日臻成熟将打碎传统职业群体的“饭碗”，进而引发新产业革命和经济结构调整，形成“去劳动力”倾向，最终产生失业风险。

　　不仅如此，人工智能产生的道德伦理隐忧不断。有专家表示，人工智能设计者的价值导向和行为偏好易于被有意或无意地反映到算法、数据当中，并通过机器学习被人工智能所承继，进而演进为算法歧视。而在具体适用过程中，容易受到对抗样本的干扰或污染，被应用者二次形塑，做出背离设计初衷的错误决策。

　　2016年3月，美国微软公司发布了名为Tay的最新版本人工智能机器人。然而，上线不到24小时，Tay就“学坏”了：出言不逊、脏话不断，言语甚至涉及种族主义、色情、纳粹，充满歧视、仇恨和偏见。微软只得不停删除Tay的不当言论，进行下线调整。

　　用好“双刃剑”

　　专家表示，在人工智能飞速发展的时代，安全问题日益凸显，需要我们加强对潜在风险的研判和防范，切实维护好人民利益和国家安全，确保人工智能安全可靠、可控。

　　南开大学周恩来政府管理学院教授吴晓林认为，数字化、网络化、智能化已经是时代的主题，智能让生活变得更美好，但安全问题无处不在、无时不在。互联网下半场是工业互联网，以后国家的基础设施安全、工业互联网安全非常关键，还是要把人工智能的双刃剑用好，趋利避害，让科技的智能与人类的智慧并存、和谐。

　　在网络安全防护上，应加强技术研究，建立有效安全防护，抵御网络攻击。专家建议，可以建立主动免疫的计算架构，对计算进行安全防护，使计算全程可测可控，不被干扰。利用人工智能应对网络攻击，“免疫系统”中不管哪个系统受到攻击，都有统一的人工智能系统发出指令，采取相应措施。

　　在法治建设保障上，中国法学会副会长兼秘书长张鸣起建议高度重视立法工作，适时安排宏观立法，人工智能的发展离不开一部反映时代需求的《人工智能法》以及配套法规组成的法律法规体系。

　　孙佑海建议，全国人大宜进行立法上的一些准备，建议有关部门优先对无人机的管理、自动驾驶、图像识别相对成熟的技术应用制定法律规章，以刚性的法规条款引领秩序。

　　同时，要进一步健全精准务实的政策支撑体系，构建政策集群。孙佑海说，要进一步升级全流程的安全防控体系，并制定行业安全标准，做好应急防范的预案，加大重点领域的防控，加大对代码数据、算法等重点领域的综合管控力度，保障技术安全、产品安全、数据安全和应用安全。

　　针对新一代人工智能可能引发的结构性失业等风险，吴晓林建议，由劳动部门牵头加强与人工智能产业需求配套的在职培训和再就业培训体系，打好劳动力转型的主动仗。（记者翟永冠宋瑞）

标签：　“强人工智能”时代渐近新技术催生新攻击方式

上一文章：2019中国国际机器人展：技术发展进入2.0时代

下一文章：暑期保定将为孩子举办的这场赛事不容错过

【免责声明】： 凡注明 “环球科技网” 字样的图片或文字内容均属于本网站专稿，如需转载图片请保留 “环球科技网” 水印，转载文字内容请注明来源“环球科技网”；凡本网注明“来源：XXX(非环球科技网)”的作品，均转载自其它媒体，转载目的在于传递更多信息，并不代表本网赞同其观点和对其作品内容的实质真实性负责，转载信息版权属于原媒体及作者。如转载内容涉及版权或者其他问题，请投诉至邮箱；1978751725@qq.com

本网公告
环球科技网从不发布负面新闻资讯，也绝不会发布负面信息。如发现负面信息链接请甄别是否为环球科技网所发。
本网系北京伯乐传媒广告有限公司主办、所有。本网唯一域名（www.hqkjw.cn），其它域名链接均为假冒。望广大网民及企业主认真甄别。

咨询、采访、合作、投稿等请致电：13911566744（含微信）

发展人工智能芯片中国不能“偏科” 2019-07-08 10:20:42
“只看设计架构层面，国内的人工智能芯片并不比国外差，但这是不够的。”在日前中科院物理所举行的“科学咖啡馆”科普沙龙上，清华大学电子工程系教授汪玉指出，这相当于在沙子上盖楼，基础并不坚固。　　设计架构层面可圈可点　　汪玉曾于2016年参与创立人工智能芯片公司深鉴科技，如今国... [阅读]
产业进入“快车道” 上海建成人工智能生态圈 2019-07-01 16:49:19
“自去年以来，人工智能已上升为上海的优先发展战略，产业发展进入‘快车道’，上海初步建成为中国人工智能发展的领先地区之一。”上海市副市长吴清表示。　　去年12月，上海在全国率先发布首个人工智能（AI）应用场景建设实施计划，面向全球发布10大应用场景、60项创新产品，采用揭榜挂帅机制... [阅读]
上海站上人工智能产业“风口” 2019-06-21 10:15:41
近日，上海市政府召开新闻发布会，宣布在8月29日至31日在上海举办的2019世界人工智能大会上，国家发改委、工信部、科技部将发布一批我国在人工智能发展领域取得的重要成果。　　科技部战略规划司副司长张旭介绍，科技部已建立了一个包括科技部、发改委、工信部等15个部门组成的规划协同推进机制，成立了人工智能战略咨询委员会，提供专家决... [阅读]
人工智能等专业成新亮点转专业“门槛”低 2019-06-19 09:31:37
　据记者观察，人工智能、大数据、机器人等相关专业成为今年5所高校高招的新亮点。其中，北京交通大学今年新增了人工智能本科专业，北京科技大学新增人工智能、机器人工程、大数据管理与应用等5个专业，北京林业大学新增经济林、数据科学与大数据技术两个本科专业，北京化工大学新增“机器人工程”专业。　　北京科技大学招生办主任孙长林... [阅读]