你的位置:主页 > 物业动态 > 如何解决人工智能系统的安全漏洞?

如何解决人工智能系统的安全漏洞?

admin 发布于 2018-05-16 10:53   浏览 次  
  我是一个做安全的人,做安全的人都有一点变态,叫paranoid。在大家都在鼓掌的时候,我就深深地陷入了沉思,在智能时代有什么风险和挑战,研究的目的不是为了捣乱,而是为技术的发展保驾护航。
 
  网络安全进入“大安全”时代,物理世界和虚拟世界已经打通,线上线下边界正在消失,网络攻击带来新威胁,对国家政权安全、国防安全、基础设施安全、社会稳定和金融经济安全以及个人安全都可能带来威胁。
 
  今天第二节世界智能大会在天津举办,360集团董事长兼CEO周鸿祎在会上发表了以“建立‘安全大脑’ 保卫智能时代”为题的演讲,他提到:
 
  1、悲观地说,世界上没有攻不破的网络,人是最薄弱的环节,信息领域核心技术受制于人,网络战是最大的挑战;
 
  2、今天的人工智能只是概率判断系统,并不是完备体系,出现一次错误就会酿成恶果;
 
  前一段中兴事件反映了,我们在信息核心领域技术受制于人。
 
  我举几个例子。
 
  比如汽车。上个时代汽车是四个轮子上的沙发,现在是四个轮子上的一些计算机和手机。
 
  特斯拉每出来一款车,我们就针对它做劫持,这不是真的为了劫持它,是因为我们做盾的人要先研究矛,速度与激情8里的情节,可能在未来几年成为现实。
 
  人工智能依赖的传感器、训练数据和使用的开源软件等都可能被污染,出现问题。
 
  今天的人工智能只是概率判断系统,并不是完备体系,出现一次错误就会酿成恶果。360已发现几十个开源深度学习系统的安全漏洞。
 
  如何解决人工智能系统的安全漏洞?对于无法防范的攻击,如何利用人工智能技术,让网络更安全?后天我们要发布一个安全大脑,让安全大脑更好的解决这些问题。
 
  这几年整个社会都运转在互联网之上,过去几年吃包子、骑自行车都和网络没关系,但今天都要用到手机。
 
  新威胁带来大挑战,我们悲观地说,世界上没有攻不破的网络,人是最薄弱的环节,信息领域核心技术受制于人,网络战是最大的挑战。
 
  所以安全不是事后弥补,而是应该和信息技术同步发展。