在6月30日举办的CCF-GAIR智能安全节中，百度安全服务平台部总监Hooper发表了题为“从危机到机遇，AI时代的安全挑战”的演讲。
胡珀是百度安全服务平台部的新任负责人，也是百度安全服务平台部BladeTeam的负责人。他是国内首家系统漏洞悬赏服务平台TSRC的负责人。
及其应急处理、前沿安全、安全教育培训、安全科学研究、系统漏洞奖励方案等。
以下为Hooper在现场的发言，宅客频道栏目在不改变初衷的情况下进行了整理。
AI也会被采用。我们不必认为AI只停留在学术或工业领域。其实现在很多灰色产品都在用AI。以前我们解决过一个案例，灰色产品利用机器学习的优化算法识别短信验证码，最大程度上可以达到80%到90%的准确率。这个犯罪团伙被摧毁后，大家发现这是大家见过的技术含量最大的灰色产品之一。
在特定的自然环境下被采用，很可能立即造成车毁人亡的严重情况。
第三个问题是被环境污染，也就是AI最底层架构上的不足。
比如Google的深度神经网络系统软件TensorFlow，腾讯Blade团队经过科学研究，发现它其实存在一些传统的网络信息安全问题，比如故意构造一个实体模型文档，文件格式可以通过独特的结构 *** 纵其所有的AI系统软件，进而可以制定出AI系统软件的设计方案或者架构问题。另外，如果故意引入第三方组件，也会造成崩溃，获取系统软件管理权限。
这种系统漏洞被举报到官网，论文致谢。如果这类系统软件底层出现问题，被网络黑客利用，造成的不良影响将是毁灭性的。所以现在业界和学术界对AI底层架构的安全性格外关注。
第四，很多智能产品都有可能被控制。
例如，智能音频系统可能会被监控。我们的精英团队对目前市场上的一些智能音响系统做了一系列的科学研究。很多智能音响系统都存在安全隐患，包括协议的分析验证授权。其实还是传统的安全隐患。有兴趣的可以关注2020年9月拉斯维加斯DEFCON详细介绍智能音响系统漏洞关键技术的提案。
智能音响也有被监听的问题。小米手机和亚马逊都存在安全隐患。他们对分析和验证协议的授权有什么问题？
如果大家都很感兴趣，大家就来说说2020年9月在拉斯维加斯亚马逊智能音响的系统漏洞关键技术。
此外，它还是一座新型智慧城市。现在很多地区都推出了很多新的智慧城市，很多新的协议，比如物联网协议，都会用在其中，这也有很多安全隐患。
我们以腾讯大厦为总目标进行了测试，发现智能大厦设备协议和数据加密通信存在一定的技术风险，导致我们远程 *** 作会议厅灯光、中央空音、窗帘布，包括电源插座等。在某一层。
当时我们在大楼顶楼放了一架无人飞机，挂了一个数据信号发射器，完成了对整栋大楼窗帘布的 *** 控。在欧洲HITB安全峰会上，我们也详细介绍了这个系统漏洞的关键技术。
因为经销商在海外，所以大家向官网反映了问题，并进行维修。做这个实验本身就是期待修复这个问题。
除了智能声学和智能建筑，我们还对无人飞机进行了科学研究。
2015年，BladeTeam报名参加了一个网络黑客大赛，通过电脑遥控劫持的无人飞机。大家破译了无人机的通讯协议。经过破译，他们发现只能捕捉到部分无线通信协议，于是可以从遥控器模拟协议，劫持当时的无人机。
监控摄像头是相似的。2014年我们对国内的监控摄像头进行了一系列的安全评估，2014年是智能摄像头年，所以我们要跟进。你看过一部叫《窃听风云》的电影吗？里面有一个经典的片段，就是加了一台机器，更换了监控摄像头，让保安没有注意到有人进去。
一些监控摄像头也被发现有这个问题。我在这里放了一个QQ娃娃。如果我拍摄的wifi互联网被意外劫持和替换，我可以 *** 纵它想要显示的所有图像。我可以再拍一次视频，把娃娃藏起来。
此外，还有一些智能手机。随着现在智能手机越来越多的使用了平原生物识别技术和智能识别，比如人脸解锁，人脸解锁之前有一个非常大的问题，但是我马上用照片，用二维照片打开。
然而，到目前为止，添加三个D或生物识别并不容易。但是我们发现，现阶段进行的一些科研还是有机会的。所以，后面还是有机会给大家分享的。
另外，有些手机可以通过智能产品开启，比如智能手表开启。如果手机靠近智能手表，就会开机，不需要输入登录密码，也更方便。
但是在设计的情况下，就会出现问题。开启时，它总是会检查我的智能手表匹配的详细地址，这也很容易完成。我们可以马上打开他的手机。另外，有些手机品牌很可能会采用指纹识别，但是大家发现用一种类似导电硅橡胶的东西马上按卫生纸就够了，根本不用指纹识别。硅橡胶压制的优化算法也是基于，最后开口也是基于。和今天的智能电锁一样，也是类似的基本原理。大家会发现现在的智能手机不够可靠。
我讲了智能产品和场景测试的一些安全隐患，但是除了自身的缺点，AI技术很可能被灰色产品误用。
这就是我们现在看到的。越来越多的智能产品接入互联网。然而，这种智能产品的安全性没有传统的PC服务器防火墙。而是会被网络黑客黑掉，黑客会用它挖币，发动DDoS攻击，会产生非常大的问题。
这些都是利用物联网设备进行DDoS攻击的恶意程序。现在很多物联网的机器设备都是接入互联网的，包括无线路由器、监控摄像头等，非常容易成为网络黑客 *** 纵的特殊工具。还有一些设备优化算法也加入了灰产的精英团队。
以上是我讲的第一部分，AI的安全隐患。接下来我讲第二部分，AI安全在实际情况下的应用，包括实战演练等。
也是关于这三个方向:一是会向传统的生物特征转变，二是科研专用工具发生了变化。之前用特征工程来抵御黑客攻击，现在很有可能转向机器学习，很有可能通过机器学习来为其构建领域值和实体模型。根据实体模型，不管是不是黑客。
建筑就是这样。很可能是有一个整体的服务平台，加上机器学习作为分析模块，与其他数据信息层和信誉数据库合作。
现在有一种很不方便的攻击，就是UDP模拟，包括协议，会模拟所有正常的业务流程。我们如何做到这一点？还是用机器学习相对好一点。在UDP模拟协议的特殊情况下，这种实用效果很好。传统的DDoS安全防护是基于一个量，但是机器学习可以根据很多层次来处理这个问题。
我们来看看引入机器学习的预期效果。我们主要用在两个方面，一个是DDoS，一个是网络黑客的个人行为。我们来看看DDoS的实际效果。
这是一个传统的DDoS物理模型，加上一个AI阶段，利用机器学习为所有商家做画像。腾讯云服务上有很多这样的小店，很有可能是其个别业务遇到不同的流入。QQ空和微信朋友圈的总流量很大，小商家的总流量很小。如果传统的特色工程方法不能很好的处理，比如商家的主题活动或者双十一总流量的增加，就会出现某种问题。
如果用AI画基线，比如取之前三个月或者一个月的数据信息，引入机器学习将其转化为实体模型。根据实体模型的测试，似乎DDos的攻击或者运动量明显增加。在那种情况下，通常不仅仅是总流量的大小，还有原始IP的特性，或者原始端口号和所有IP值。大家会让设备自己去学习所有的协议，让它去执行自己的特色。大概会选很多关卡，大家都以这个关卡为实体模型。如果它有一天或者某一刻偏离了这个物理模型，就有可能遭到DDos攻击。
最终平均准确率从80%达到了96.4%，实际效果还可以，但是设备报的不正确。现在，人们使用双涡轮机运行，以防止出现问题。
防入侵也差不多。比如每个人的电脑管理员在登录网络服务器的时候，很可能会在登录之后做一系列的运维管理，或者部署实际 *** 作，但是是比较有限的一套。另外，很可能在某个时间有特殊的习惯。总之是有规律的。
如果这种规律性按照特征工程很难做到，但是按照机器学习对网络服务器的每个管理员账号进行精准画像就可以很好的做到，那么就可以应对网络黑客冒充账号的拒绝服务攻击。
现在大部分情况下，网络黑客都是马上拿一个登录密码，假的管理手段来做实际 *** 作，但其实际 *** 作和管理人员是不一样的。一个是时间，一个是搜索文本文档或者窃取数据信息的个人行为，但是这种个人行为对于所有正常的运维服务员和用户来说并不容易。因此，根据这种实体模型，我们可以立即计算出一个匹配度，并标记出来。
腾讯官方也在做这种事情，实际效果就是大家的几次演练。等拿到管理员的账号做进一步渗透，他会明显发现有异常，会报警，实际效果还可以。
今天我总结了两部分:一部分是AI本身的安全隐患。事实上，我们可以看到，随着AI和智能产品在我们日常生活中的应用越来越多，安全风险也越来越多。无论是智能音响、智能开关还是智能建筑，都会有大量的网络黑客。学术界和工业界最好及早发现和处理，防止更大的安全事故。毕竟之前的互联网技术都是信息管理项。
第二部分是将机器学习应用于传统安全场景。在某些特殊场景下，AI肯定比人或者传统的特征工程更好，但在某些场景下，我们必须重新探索。
问与答阶段：雷锋。com:今天几位大佬都出了关于AI+安全的演讲。与他们相比，腾讯官方在这些方面的策略有何不同？
Hooper:我觉得腾讯官方的AI安全会遇到更丰富的场景。众所周知，腾讯官方的关键业务流程包括手游、社交媒体、支付等。所以人人的AI安全会紧紧围绕这个场景做一些配套设施工作，比如登录QQ，严厉打击QQ上的垃圾信息内容，然后登录手机微信，手机微信。
另外，大家还会在其他行业，比如腾讯官方布局智慧医疗。大家会配合腾讯官方的AI发展战略，在AI诊疗层面做一些安全层面的定制工作。其他的，比如智慧零售，智慧建筑，也会有AI安全层面的科研。
雷锋。com:能不能以实际情况为例，给我们讲一下大家的AI+安防在楼层上是怎样的？
Hooper:举个例子，智能建筑其实就是一个传统建筑，有一个AI学习和训练的框架。事实上，它有两个问题:
1.其AI学习方法是否存在问题。
2.它传统的房子地板是否有问题。
甚至他们整合之后，还会出现新的问题吗？这些都是需要我们科学研究的项目。
雷锋。com:你在腾讯工作了十一年，从最初的PC安全、终端安全、物联网安全到AI安全。想问一下保安人员以后是不是要积累一定的AI？之后会不会是强制规定？
Hooper:不一定。安防整个行业还是很大的。举个例子，如果他不做类似的数据处理方法来分析这方面的内容，他很可能就不用掌握人工智能技术相关的专业知识。如果只是一个承担手机软件系统漏洞发现的安全工程师，那就不用了。
但是如果他是负责网络安全防护或者网络信息安全的，那就稍微了解一下就好了。因为他引入了一种新的方法，很可能会提高他的效率。
现在AI这么火，未来无疑会有越来越多的这种开源系统的架构和专用工具，来辅助安全人员的工作，提高他们的效率，所以我觉得可能是这样一种情况，你懂技术，可以马上开个库来启动这种AI，会比较简单，现在已经有这样的发展趋势了。
雷锋。com:您演讲中提到的宙斯盾的所有DDoS防御和其他保护系统有什么区别？？
Hooper:我觉得有两个特点:
第一，因为腾讯的官方业务流程非常庞大，种类也非常多，所以这个反DDoS的监管会非常高，而且是通用商品。
二是帮助腾讯云服务上的商家。如果将其安全防护的每个业务流程视为一个商户，则可以兼容不同的总流量实体模型和类型。对于每家店来说，都是不同的实体模式，而不是一刀切。
和传统厂商或者传统方式一样，都是一刀切，只是我加了一些黑功能。如果他指示这个功能，我也认为是攻击，我就阻止。但是，这很可能会导致意外伤害。比如它搞一个主题活动，然后总流量就和以前不一样了。现在用机器学习的方式，会有一些调整，减少误伤。
雷锋。com:AI安全领域有没有你特别欣赏的企业？
Hooper:其实大家关键是看哪些企业可以在安全场景下使用AI，然后它会对自己公司的安全产生非常好的实际效果。
文字来自:雷锋网。com
欢迎分享，转载请注明来源：内存溢出
微信扫一扫
支付宝扫一扫
评论列表（0条）