戴上“白帽子”人工智能投身网络安全攻防战

面对计算机系统和网络的缺陷和漏洞,黑客们找准机会实施攻击,白帽黑客则利用黑客技术来测试网络和系统的性能以判定它们能够承受入侵的强弱程度。短短几年时间,人工智能已进驻多个行业,落地无数场景。其中一些行业和场景已为大家所熟知,还有一些正在进入我们的视野,在网络安全领域,AI“白帽”正成为网络安全工程师的得力助手。

“一个真实环境中的人工智能系统,会面临数据安全、模型/算法安全、实现安全等多方面的安全威胁。”张德岳告诉科技日报记者。

有人说西安利之星店大欺客,但你可能不会想到,利之星背后的“店”有多大?

据报道,近日美国市场调研公司CB Insights发布报告预测了2019年人工智能行业的发展趋势,其中一个趋势便是用人工智能发现网络威胁。

目前,利星行汽车已在东北、华北、华东和西部地区建立了广泛的奔驰汽车经销与售后服务网络。

此外,赵薇兄妹的朋友圈也与颜健生以及中星集团有交集。

“使用神经网络和深度学习等算法,能够较好地识别出未知攻击威胁风险,达到‘知其然’的目的,但是这些算法通常无法揭示产生这种安全风险的基本机理,也就是‘不知其所以然’,从而为从源头防御这种攻击风险带来极大障碍。”闫怀志说。

在闫怀志看来,人工智能方法在解决人力所不及的安全大数据统计和抽取规律方面具备天然优势,它能够全面提高威胁攻击的识别、响应和反制速度,提升风险防范的预见性和准确性。特别是在异常行为检测等应用场景模糊的非精确识别和匹配方面,更是如此。

2008年,刘玉波过世。但在刘玉波生前很长一段时间,刘楚群都是叔叔刘玉波的左膀右臂——尤其是在中国的业务上。

当时(2011年)奔驰在中国120家汽车经销商中,利星行占据40%的份额。利星行有着独立经销商无可比拟的优势,而一些奔驰独立经销商所销售的进口奔驰车型,却往往都要向利星行进货。

中星集团有限公司这家公司对外投资超过40家公司,主要为汽车公司。这家公司早在1993年就成立了。

“人工智能在网络安全领域的应用日益广泛,运用人工智能赋能网络空间安全,主要体现在主动防御、威胁分析、策略生成、态势感知、攻防对抗等诸多方面。”闫怀志说,其中包括采用人工神经网络技术,来检测入侵行为、蠕虫病毒等安全风险源;采用专家系统技术,进行安全规划、安全运行中心管理等;此外人工智能方法还有助于网络空间安全环境的治理,比如打击网络诈骗。

上面我们提到,西安利之星的法人是颜健生,天眼查资料中,颜健生有161家公司,其中大多数都是“利之星”系列汽车公司。最近几年的公开报道总很少有颜健生的材料,但还是能查询出此人的背景。

近年来,利星行更是将触角伸向了系统之外的独立经销商,公然提出入股要求,试图获得更大的控制权,分享更多的利益。利星行此举触犯到了一些独立经销商的底线,让原本就忍气吞声的经销商感到强烈不满。

小股东西安航空发动机集团天鼎有限公司持股25%,这家公司股东之一中国最大的军工企业集团中航工业,中航工业下面有近30家上市公司,你平时看到听到的“6”开头的研究所,基本都是它家的。

我们再起底背后的利星行:

上个世纪60年代,靠出口原木起家的马来西亚华侨企业利星行,向奔驰公司订购了几百台大型拖车,这一下成为奔驰卡车在亚洲地区的最大客户。

唐德影视是赵薇和其哥哥赵健早期投资的标的。在老家安徽芜湖,赵薇兄妹生意涉足各行各业。

2010年6月,赵薇出资900万成立芜湖东润发投资有限责任公司,2013年赵健出资100万参股。随后,这家投资公司与中国汽车贸易有限公司合伙成立了芜湖中星汽车销售服务有限公司。

当时关于利星行汽车的介绍说:

邹权臣分析,这一方面受限于人工智能算法本身的能力。因为传统的机器学习技术依赖特征提取,而算法的效果和性能又依赖识别和提取特征的准确性。深度学习具有在高维数据中自动提取特征的能力,同时面临着持续学习、数据饥饿、可解释性等问题。

值得注意的是,这家名为Insight Legend LTD.的公司占据了奔驰中国49%的股份,公司法人正是颜健生。

拿督是马来西亚一些有功人士得到的一种头衔,册封的标准是对国家有杰出贡献,但依照规定必须要有皇室成员、政府推荐。

利星行在奔驰中国这种地位,也为其在奔驰的销售带来了霸权。

重要的我们看看西安利之星背后的两个股东:

2010年1月,杭州一家奔驰经销商因拒绝利星行入股要求而导致订货帐号关闭,中国汽车流通协会CADA已就奔驰汽车公司歧视中国独立汽车经销商问题发起投诉,要求相关政府部门吊销奔驰公司的产品进口许可。

京华网曾援引知情人士称,利星行法人代表颜健生不但是奔驰中国的董事之一,也是利星行有限公司董事总经理,对奔驰中国的日常决策有很强的话语权。

芜湖中星汽车销售服务有限公司是梅赛德斯-奔驰品牌经销商,被当地人称为“芜湖中星奔驰”。值得注意的是该公司法人就是颜健生,赵健任董事。

颜健生一直是奔驰位于中国诸多4S店的法人,他还有一个身份马来西亚拿督。

张德岳举例说,在数据安全方面,在数据收集与标注时出现错误或注入恶意数据,将导致数据污染攻击;在模型/算法安全方面,针对人工智能算法存在黑盒和白盒对抗样本攻击,可导致识别系统出现混乱;在实现安全方面,除了人工智能系统本身的代码实现,其所基于的人工智能框架以及所依赖的第三方软件库中的软件实现漏洞,也都可能导致严重安全问题。

1986年,梅赛德斯·奔驰(中国)有限公司成立于香港。利星行集团进一步获得奔驰轿车在国内的独家代理权,引进并销售奔驰汽车。

京华网在2011年的一篇很短的报道中提到,利星行是奔驰在中国最大的经销商集团。但更重要的是,利星行持有奔驰中国49%股份,是奔驰中国最大的股东。

事实上,利星行背后的真正的大老板是南洋十大富豪之一的刘氏家族。

“虽然人工智能搅动了网络安全领域的一池春水,但是应该理性看待人工智能在应对网络安全方面的优缺点,不能指望全靠人工智能来包打天下。”闫怀志说,人工智能在应对网络安全问题时,也有较强的局限性。

具备明显“过人之处”

“另一方面机器学习、特别是深度学习过分依赖数据,但在恶意代码检测、软件漏洞挖掘等领域,目前仍然存在数据收集困难的问题,缺少较好的数据集用于训练,影响对相关领域的研究。”邹权臣补充说,另外人工智能严重依赖于耗费计算资源,复杂的深度学习网络需要同时计算成百上千万次的计算,需要强大的人工智能芯片计算力的支撑。

工商登记中,它的许可文件名称是“外商投资企业登记”,证明这是一家外商控制的公司。

“例如在恶意代码检测方面,人工智能通过对恶意程序的API调用序列、系统CPU利用率、收发的数据包等信息,自动识别恶意代码的特征,进而判定分类。”邹权臣介绍,相比于传统的基于动静态分析的特征检测、启发式检测技术,人工智能可以大幅度提升检测的准确率。

利星行不仅向奔驰中国派驻多名高管,甚至持有奔驰中国大量的股份。

与传统的应对网络安全的方式相比,人工智能确实展示了其“过人之处”。

刘楚群是国内乃至亚洲进口车业界的巨头。在一次保时捷的活动上刘楚群出席,德国汽车行业的人士纷纷向刘楚群问候。据说,刘楚群本人不喜欢抛头露面,普通人对他不了解,但他在欧洲汽车厂商之间大名鼎鼎。

吊诡的是,奔驰4S店单方面宣称,双方友好协商,事态解决;但是这名女子再次现身,称奔驰方撒谎,并未解决。

先说好的一面。360安全研究院邹权臣博士告诉科技日报记者,目前人工智能已经应用于恶意代码检测、恶意流量检测、威胁情报收集、软件漏洞挖掘等网络安全领域。

利星行集团后将公司总部迁至香港。利星行公司一度在香港上巿,到2008年被私有化。

“人工智能对现有网络安全格局的影响,离不开算法、数据和计算能力3个方面,其容易遭受攻击的弱点也来自于此。”闫怀志总结说。

无论利之星还是中星集团有限公司,都是背后马来西亚富商旗下利星行在中国奔驰业务的一部分。

“传统的应对网络安全的方法依赖于人工硬编码定义、提取特征的方式完成相关任务,而人工智能可以直接对原始数据进行训练,从大量的数据中提取特征,自动完成分类判定的工作。”张德岳说,如此一来后者既可以提高网络安全中预测、防范、检测、销控等各个风险环节的自动化和智能化程度,又能提升响应速度和判定的准确率。

我们重点看西安利之星控股75%的大股东中星集团有限公司。

利星行集团不光在中国占领了奔驰销售的大头领地,在韩国,利星行拥有韩星汽车100%的股份。韩星汽车是韩国奔驰在国内的最大经销商,在很多年,销量几乎占韩国奔驰总销量的一半以上。

以伐木工程起家的刘玉波,有“沙巴木材大王”之称,他祖籍中国广东潮安县,后来因时局不稳,南下马来西亚当学徒,后与人合资经营杂货生意。二战之后,刘玉波进军伐木业,不久就成为东南亚著名木材商。

“人工智能技术的蓬勃发展,为网络安全攻防带来的,不仅有机遇,也有挑战。”北京理工大学网络攻防对抗技术研究所所长闫怀志接受科技日报记者采访时说。

来自360安全研究院的专家也给出多个建议,其中包括:在数据获取过程中,要加强对数据来源的控制与过滤,在一定程度上保证数据安全可靠;在数据传输过程中,要使用更加安全的传输协议与加密算法;在人工智能系统的实现中,要保证代码质量并进行完善的测试,此外还要及时更新或修补框架或依赖库中存在的漏洞等。(记者 刘园园)

在马来西亚和文莱,“拿督”是荣誉制度下的一种称号,虽然不具有世袭和封邑的权力,但是一种象征式的终身荣誉身份。

人工智能在应对网络安全问题时,有时甚至会展现出脆弱的一面。

西安利之星在陕西有三家分公司:高新分公司、渭南分公司和碑林分公司,这次涉事人员的名片显示是属于高新分公司。

有人说西安利之星店大欺客,这下你想到利之星背后的“店”有多大了吧。

大马人确实会做生意。利星行却转型成为奔驰的“大经销商”,脱离了奔驰总代理角色,利星行实际上则与新成立的奔驰中国结成了更为紧密的关系。

对于防范人工智能的脆弱性所带来的安全风险,闫怀志指出:首先要从体系架构、系统算法容错容侵设计、漏洞检测和修复、安全配置等方面来增强人工智能系统自身的安全性;其次,要用其所长,尽量减小其暴露给外界的潜在攻击面;最后要构建网络空间安全综合防御体系,从安全技术和安全管理等层面来协同防范安全攻击,间接减缓攻击者直接针对人工智能系统发起攻击以及攻击成功的可能性。

360安全研究院研究员张德岳介绍,在软件漏洞挖掘方面,采用人工智能技术从漏洞相关的数据中提取经验和知识,并用训练好的模型提高漏洞挖掘的精度和效率,可以缓解当前该领域研究遇到的一些瓶颈问题,具体应用场景包括漏洞程序筛选、源代码漏洞点预测等。

1970年代,刘玉波的生意已经横跨木材、船运、种植、汽车、地产及进出口贸易等行业。1976年,刘玉波荣获沙巴州拿督勋衔,后再受封为高级拿督,也就是“丹斯里拿督”。

从本次涉事的4S店入手。这次涉事的汽车4S店属于一家全称叫西安利之星汽车有限公司(以下简称西安利之星),法人颜健生。

2004年4月1日,国家颁布的《汽车品牌销售管理办法》规定:一个品牌的进口车在国内只能有一家总代理。奔驰希望将进口与国产奔驰销售渠道统一。

很长一段时间,利星行的掌舵人都是刘楚群,他还有一个名字叫刘禹策。2013年,刘楚群位列南洋十大富豪第10名。刘楚群正是“沙巴大慈善家”大马拿督刘玉波的侄子和其生前钦点的遗产执行人。

奔驰中国由戴姆勒股份公司、戴姆勒东北亚投资有限公司,以及Insight Legend LTD.共同投资成立,三个股东分别出资2460万元、600万元、2940万元。

虽然奔驰方面尚未公开声明是否存在对独立经销商的歧视事件,不过由于利星行这种大型经销商成为奔驰中国的主要股东,导致在销售上拥有种种特权,已经成为业内公开的秘密。

不得不说,人工智能系统还具备成本效益优势。闫怀志认为,人工智能可以在第一时间发现和识别预防威胁,并立即启动应急响应,高效的智能检测流程有助于减少人工参与、简化流程、降低成本、减小损失。

当时的工商资料中,赵薇兄妹的芜湖东润发投资有限责任公司出资额为4400万元,占股40%,中国汽车贸易有限公司出资6600万元,占股60%。

闫怀志则从不同方面总结了人工智能的不足。比如,易于忽视或者抛弃人类专家在网络安全领域的知识和经验积累,对网络安全的复杂应用场景考虑不足,对于已知威胁的检测效率远低于传统的精确特征识别方法等。

“人工智能针对未知威胁和攻击的检测也更出色。因为传统的特征匹配方法对未知威胁几乎无能为力,而人工智能方法有时不需要先验知识,对未知威胁的检测能力较强。”闫怀志说。

利星行汽车拥有30余年梅赛德斯-奔驰汽车经销经验,是最早在中国销售奔驰品牌汽车的经销商之一。

两年后,梅赛德斯-奔驰(中国)汽车销售有限公司(以下简称奔驰中国)成立,总部迁至北京,三大区域总代理的批发、售后功能陆续归并到奔驰中国。

奔驰中国当年7位董事当中,除了4位成员为德国籍以外,其余3位全部来自利星行。仅从股权结构、董事会组成来看,利星行便在奔驰中国享有相当的话语权,就连奔驰中国在北京的办公地点戴姆勒大厦,也是座落于利星行旗下的利星行广场。

2013年11月22日,利星行汽车中心(上海)举行开业庆典。利星行集团董事总经理拿督颜健生提到在典礼上提到,1993年,利星行汽车在上海建立了中国第一家国际标准的奔驰授权经销商。