华北旅游网
您当前的位置:华北旅游网 > 旅游常识 > 安全常识 > 浏览文章

系统漏洞敲响AI安全警钟

原标题:系统缝隙敲响AI详警钟

  近日,腾讯详平台部Blade团队对外宣布动静称,该团队在对谷歌人工智能学习系统TensorFlow进行代码审计时,发明该系统存在重大安详缝隙,操作该系统进行编辑的AI场景,有遭受恶意打击的可能。

  目前谷歌官方已经确认了该缝隙,并暗示TensorFlow官网将在网站创建安详通告页面,实时披露和修复安详缝隙。

  尚未造成影响

  TensorFlow是谷歌研发的第二代人工智能学习系统,它可在小到一部智能手机、大到数千台数据中心处事器的各类设备上运行。除谷歌外,海外如eBay、Airbnb、Twitter、Uber等企业,海内的小米、中兴、京东等公司都在使用TensorFlow进行AI模型训练和开发。

  腾讯安详平台部Blade团队回覆科技日报记者,内蒙古旅游,这次发明的缝隙不单打击本钱低,普通打击者就能实施打击,并且迷惑性强,大部门AI研究者可能没有预防。安详缝隙风险较高,主要问题是在TensorFlow处理惩罚训练好AI模型的时候,没有考虑到规避异常AI模型,导致其执行了黑客的呼吁逻辑。

  幸亏目前这个缝隙尚未被“有心人”操作,造成严重结果。腾讯安详团队暗示,要从基础上解决这种缝隙需要TensorFlow框架变动处理惩罚模型的架构,难点是整个架构设计的变动。目前使用者应该制止使用外部的AI模型,期待官方宣布补丁。

  安详如何保障

  此前有业内人士认为,由于AI框架刚开始被大范畴使用,截至首个安详风险被陈诉,业内对此类安详问题存眷度还不足。

  北京市计较机中心算法工程师张秀玲介绍,目前这些第三方基本库是端对端的相对成熟不变的平台,可以省去许多基本编程事情,只需要在这些基本库之上设计较法架构即可,尤其对付做应用的人很有吸引力。腾讯安详团队暗示,此刻许多软件城市依赖TensorFlow、Caffe、Torch 等级三方开源基本库,所以这里也容易引入缝隙,常见的是安详缝隙。AI可能存在的安详缝隙分为两类。

  “第一类是AI算法自身的缝隙,好比通过一些要领欺骗AI,让AI误判。之前业界和我们的团队都实现过操作特制的交通标识牌欺骗自动驾驶系统。”腾讯安详团队说。另有一类属于传统的软件缝隙,天津旅游,好比像处理惩罚文件的缝隙、引入第三库带来的缝隙等。腾讯安详团队暗示,造成什么风险是由这个AI系统的能力决定的。假如是干系国计民生的大系统那将会造成很大危害,会导致AI失控,大概说被黑客控制。

  我国7月宣布的《新一代人工智能成长筹划》明确指出,人工智能成长的不确定性带来新挑战。在大力大举成长人工智能的同时,必需高度重视可能带来的安详风险挑战,增强前瞻防范与约束引导,最大限度降低风险,确保人工智能安详、可靠、可控成长。

  腾讯安详团队认为,安详防护是一个纵深工程,仅仅从算法和代码层面考虑的话,北京旅游,要从缝隙成因的两方面入手,算法上不要出问题,代码上也要担保安详。


(责编:易潇、杨虞波罗)

新闻聚焦
热门推荐
返回列表
 
Ctrl+D 将本页面保存为书签,全面了解最新资讯,方便快捷。