智能云域名资讯|域名门户|域名新闻中心

新闻资讯频道
云计算领域最新资讯

网络安全和AI、云计算出现断层


一年一度的GeekPwn国际安全极客大赛在上海举行,近两年的比赛上,对AI的攻击是所有项目中最为吸睛的一个,云计算的风险同样引人注目。

选手能否破解知名厂商的图像识别系统,让AI作出错误决策?如果场上选手能骗过AI,黑客也可以,这将给厂商和用户带来难以估量的损失。AI、云计算发展带来的安全隐患已经引起思考。 

Geekpwn的云安全挑战赛是世界首个基于真实云环境复原的云安全攻防竞赛,比赛现场,腾讯安全云鼎实验室构建了一个真实的、可以完整工作的全栈云环境,复现了主流云平台的架构、技术和系统软硬件环境,预演云上攻防。

“今天每一个APP,包括AI、自动驾驶、5G通讯都是运营在云上的,底层是云在默默支撑。在这样的情况下,云将是我们今后非常重要的基础设施。基础设施的安全涉及到未来的社会运转、生产生活的方方面面,云安全就会非常重要的。”李滨指出。

云安全比赛是一场为选手指明攻击路径的比赛。极客可能是在校生,也可能是互联网公司安全团队。而和其它赛事不同的是,云安全、AI项目战队很少有来自企业的人员,更多由在校生组成。

深度学习是促进AI近两年发展的重要要素。但行业已经在考虑AI发展带来的安全隐患,对深度学习模型进行攻击也是极客比赛的热门项目。而可以看到的是,AI的一些技术风险非常突出。

“CAAD CTF图像对抗样本攻防赛”现场,多个战队成功利用图片对抗样本针对图像分类器发起攻击,导致分类器出错,骗过AI图像识别。有所有战队都攻破了被视为“目标检测网络的巅峰之作”的YOLOv3系统。一支战队更是用图片成功欺骗Clarifai人脸识别系统,让AI将黄健翔识别成了伊万卡。

对深度模型攻击的意义在于促使人们更深入思考机器和人视觉的真正差异所在,另一方面,深度模型本身具有的不可解释性缺陷,能帮人们认识到深度学习方法的局限性。

更多关于IT和云计算的资讯可以到纵横云官网www.170yun.com了解,QQ:609863413 

声明:文章来自网络转载,若无意中有侵犯您权益的信息,请联系我们,我们会在第一时间删除!

未经允许不得转载,或转载时需注明出处:纵横云资讯|云资讯门户|纵横云新闻中心 » 网络安全和AI、云计算出现断层
分享到: 更多 ()