导航菜单

中国网络空间安全协会副理事长杜跃进:警惕AI为“坏人”留“机会”

“人工智能面临的安全问题可能会超出许多人的想象。” 8月28日,在2019年智博协会人工智能与安全高峰论坛上,中国网络空间安全协会副主席杜跃进表示,人工智能是时代。虽然发展具有深远的影响,但它也面临着严重的安全问题。只有通过整合人工智能和安全,人工智能才能拥有光明的未来。

杜跃进指出,聪明意味着“机会”给“坏人”。当前社会是相互联系的,网络攻击可以从虚拟空间渗透到物理空间,其危害是前所未有的。他从技术角度列出了人工智能的“七宗罪”。

首先是硬件级别。许多人工智能组件在物理层面缺乏安全性,即使只有一条线路不执行电磁屏蔽,也会留下物理干扰的机会。第二个是软件级别。任何软件都有漏洞,攻击者可利用这些漏洞实现代码执行,拒绝服务攻击,控制流劫持和信息泄露。第三是协议级别。许多专有通信协议设计缺乏安全性考虑。第四是数据级别。在大数据时代存在着“黑匣子悖论”。人工智能不能与数据分离,但数据本身可能受到污染。这种人工智能似乎“中毒了”。第五,在业务层面,算法本身可能被欺骗和误导。当越来越多地使用人工智能来控制相关服务时,它可能会产生致命的影响。第六是申请动机水平。坏人有可能更早,更深入地看到人工智能带来的机会。今天,除了人工智能之外,许多前沿技术都存在这样的趋势,例如生物技术,值得谨慎。七是机制设计水平。对模型设计的不充分考虑将导致适得其反,并可能产生非常严重的后果。

除了技术安全方面的挑战外,杜跃进还指出,从道德的角度来看,如果我们无法建立正确的人工智能价值规范,人类智能可能会被坏人用来做危害人类利益的事情。从社会复杂性的角度来看,人工智能的应用往往是针对个体需求点而实施的,但由于社会的复杂性,这种单一的思维方式可能导致技术的推广和实施相反。

杜跃进还呼吁安全,通讯,社会学和法律领域的机构,企业和专家参与和解决人工智能所面临的安全问题。

杜跃进在演讲中还强调,人工智能也是解决当前安全问题的工具。在大安全时代,

无论是过去的安全问题还是线上和线下的安全问题,都可以通过人工智能的应用找到突破口。他指出,安全行业必须充分认识到,我们真正的对手不是其他竞争对手,而是那些网络攻击者和破坏者。它能否帮助客户和公众抵御网络攻击并遏制危险是衡量一家安全公司成功与否的关键。

据悉,此次人工智能与安全高峰论坛由中国国际智能产业博览会组委会主办,由360集团组织,由重庆市合川区人民政府共同主办。论坛还邀请了中国科学院院士郑建华,中国工程院院士沉昌祥,国家密码管理局商业密码管理办公室副巡视员霍伟,副总裁穆宏360集团和智能城市事业部总裁,以及来自工业,教育和研究领域的其他贵宾。探索和交流智能时代安防行业未来的发展趋势。

——