大家好!我是爱吃、爱玩、更爱学习技术,IT届的新晋网红,开发者的好朋友——比特熊!
比特熊:大家看了《新蝙蝠侠》吗?希望大家都有机会体验到(延期上映到5月17日)!实在不行,也可以回去看看“诺兰三部曲”解解馋……
比特熊:《新蝙蝠侠》里哥谭发大水,现实里我们也得保护地球不被淹,4月22日是第53个地球日,在这个特殊的节日比特熊不仅请来了英特尔的OpenVINO技术专家杨亦诚,还请来了连续17年的微软MVP、在MVP大家庭里一提到就各种夸赞的胡浩老师!一起投资保护我们的地球。
【比特熊故事汇】作为比特熊直播间的重要栏目,定期请来技术大牛和行业先锋做客。这里不仅讲最“热”的技术,还有更多待解锁的个人故事和趣味话题!请持续关注,更鼓励大家推荐你想认识的“英雄”。欢迎大家来到直播间,跟比特熊一起,与专家们零距离畅聊。
欢迎大家访问MSLearn学习平台
https://aka.ms/DevMSLearn
与比特熊一起规划学习路径,加速进阶
比特熊:如果请两位老师在电影里选择一个自己喜欢的人物,或者说“世另我”的角色,会选择谁?
胡浩:我是一个很喜欢看电影,刷美剧的人,都说“男人至死是少年”嘛,多少有一些英雄情节。在很多电影里,我都会为英雄角色所倾倒,举例来讲,比如士官长,还有《龙珠》的孙悟空、超人、钢铁侠等等,甚至是《碟中谍》的Ethan,也是我的偶像。所以Ethan,你有什么喜欢的电影角色和电影的英雄吗?
杨亦诚:胡浩老师说的很多电影英雄我也喜欢,那我最崇拜的还是蝙蝠侠,他所有做的一切都是藏在面具底下的,打击犯罪,除暴安良,尽管可能会背负骂名,但他依然在暗夜中守护着哥谭。
比特熊:看起来两位心中都有很明确的英雄人物,期待我们“充电”之后的详细分享。既然是地球日,那不得不提起英特尔和微软联合举办的“AI for Earth”比赛,作为重要的主角人物,请Ethan介绍一下~
杨亦诚:我们英特尔和微软联合打造了一个以“云车竞速,码到成功”为主题的黑客松比赛,以OpenVINO和微软的Azure服务作为技术支点,带领广大的开发者和生态合作伙伴在自动驾驶和工业安全领域去进行一些探索和开发,推动绿色低碳发展。
英特尔一直致力于推动工业技术自动化,包括采用机械视觉技术,减少人力的重复劳动力,尽可能降低碳排放,实现可持续生产。
比特熊:谢谢Ethan介绍了这个很“地球日”的黑客松大赛,还分享了英特尔的绿色案例。那胡浩老师作为我们微软的MVP能不能也给大家讲讲微软的绿色予能贡献,还有您擅长的技术领域。
胡浩:今年地球日的主题是“投资我们的地球”,疫情以来我跟大家一样,很久没出远门,我一直梦想着有一天能出去浪,自由地潜水。以前潜水的时候,我也观察到每年地球日各大潜水组织都会做一些有关保护海洋的活动,比如说潜水的同时收集一些海洋垃圾,在海滩上散步时捡垃圾。
像我手上微软推出的这款鼠标,差不多20%的塑料来自海洋垃圾。包装也是废物利用,用榨糖剩下的甘蔗渣滓制成,体现出对海洋的关怀。
我现在就职于VMware,跟微软不约而同,VMware其实也有在2030年实现碳中和的计划。我本身是AI和Azure方向的MVP,那么在Azure里,我会比较关注IoT物联网的一些技术,微软很多IoT的解决方案里面,也会提出来利用互联网技术帮助我们减排,保护水资源,以及废物再利用等等。
有两个例子我很乐意跟大家分享,第一个是数据中心,我们知道数据中心为了保证稳定性,一般来说会用传统的柴油发电,对环境的影响比较大,所以微软现在尝试用清洁能源,比如说氢燃料电池作为备用电源。
另一个例子是18年的时候,微软开展的一项实验,把数据中心放到一个不锈钢全密封的桶里,存到海洋里面,作为一个数据中心正常地工作。2020年把这个不锈钢桶捞起来了,经过两年的使用发现它的故障率,只有陆地上的1/8,还节省了散热需要的能源。
胡浩:我今天想跟大家聊的技术主题,是关于微软Azure基于人工智能的服务,分为三类,第一类是在底层的Machine Learning。基于机器学习可以构筑出一些认知服务,包含语言、视觉、语音等等,帮助我们做一些决策,这些服务很容易嵌入到工作流当中。在Azure的云端有一个机器学习工作室,有三大神器:
1、设计器,可以通过拖拽的方式很快地达成我们的目标,门槛比较低,对机器学习的模型之类的概念都不是很清楚也没关系。
2、自动化的机器学习,我们可以在这里提出我们这个机器的目标,提供对应的数据集,让它自动去选择合适的模型。
3、记事本,帮助我们快速了解代码,做一些交互的学习。
从构建的模型到调整和定型,这就是所谓的机器学习的生命周期,最后要对训练的模型打包、验证、部署。讲到部署,就要提OpenVINO了。OpenVINO跟MLOps有很好的衔接,我们可以利用OpenVINO在发布环节进一步优化,没有经过优化的模型可能需要更多的CPU时间,能耗更大。
在这个认知服务这一层,去年加入了一个新的服务叫OpenAI,OpenAI是马斯克跟微软各投资了10亿美元作为启动资金,在2018年构筑的这样一个组织去做非常巨量的数据训练,它的第一版本GPT呢,使用了1.17亿的参数,预训练的数量达到了这个5 GB,到GPT-3预训练的数据已经达到了惊人的45TB,微软已经逐步把OpenAI引入到平台当中了。
GPT-3到底有什么意义?它本身分成四个不同的模型级别,最高级别达文西可以自动根据特定受众生成创造性的内容,比如我们可以让它帮助我们生成比赛的解说词,之前做过试验,听众没有办法分辨这个解说词是不是真人写的。在微软自己的服务里面,比如说像在低代码平台Power BI等等这样一些分析的平台工具里,用于构建模型,使用类似自然语言的方式做一个表达式的构筑,可以帮助没有编程训练的业务人员。还有AI程序伴侣,也是一个非常强大的工具,我自己也用过,它能自动帮助你生成一些代码段,很省事。
最后给大家推荐一个我基于MSLearn整理的快速了解微软人工智能的学习路径(https://aka.ms/AzureAIQuickStart),期待大家一起学习进阶。
杨亦诚:胡浩老师这边讲了微软Azure的机器学习和认知服务,我们借助OpenVINO这个工具,进一步减少AI平台上的能耗。英特尔成都工厂已经率先将AI技术应用在了生产管理上,仅仅通过雨水收集这样一个系统,每年就可以节约40万加仑左右的淡水。
OpenVINO能帮助在模型部署的时候,平衡模型在端侧时的反应速度和能耗,降低AI算力资源的消耗。我主要分享内容就是关于OpenVINO 2022.1新版本中runtime API 2.0的介绍。
OpenVINO是英特尔在2018年发布的深度学习框架,它的核心目标是加速英特尔平台上的深度学习模型推理的性能。从OpenVINO发布至今经历了四年的历程,经过多个版本的迭代,增加了一些新的组件和功能。
OpenVINO的开发模型的流程分为三步:
1、构建,如果各位觉得Open Model Zoo的模型不太适合你当前的目标场景,也可以通过自己的一些定制数据集通过我们的training工具将我们的培训模型进行一个重训练,调优最终部署到你的设备或者是一些应用场景上去。
2、优化,我们提供了Deep Learning Workbench这样一个可视化的调试工具帮助你快速在网页端做一些可视化的模型的性能评估以及精度评估,此外还有一个叫Post-Training Optimization的工具用来做后训练的量化,这样就可以实现对模型的量化压缩。
3、部署,我们支持在英特尔不同的硬件平台进行部署,比如说一个ATOM的小CPU或者酷睿的CPU、英特尔的集成显卡以及GPU等等。
OpenVINO API 2.0带来的第一个新的功能特性就叫Preprocessing API接口,它的核心能力是将我们的前处理任务继承到了模型的执行图中,这样做的优势是可以将完整的PaddlePaddle模型的处理流程打包成一个模型的计算图,如果你的CPU上已经跑了一些业务系统,那我们这部分的前处理任务就不会占用你任务系统的资源。
这边我列了一个Benchmark,是英特尔最新的数据,2022.1的版本相较于之前的2021.4,性能上在同样的硬件平台上有比较大的提升。
最后,我们这边也提供了一个快速去学习runtime 2.0接口的捷径,在我们的VS Code上做了一个小的Snippets,可以快速帮助大家补全代码,不用去反复查阅文档。我个人一直用VS Code作为一个核心的开发平台,它对一些OpenVINO的常规Recommend API *** 作都有一些定义……大家如果对OpenVINO新的runtime有兴趣,又不想去反复翻阅我们的官方API文档的话,可以去用VS Code的Snippets工具。
如果大家对OpenVINO推理部署优化这块有兴趣的话,也非常欢迎大家加入我们OpenVINO的中文社区,这个社区是在2020年5月16号成立的,我们会定期举办一些线上和线下的沙龙活动,提供人工智能开发者的一个交流场,这里还可以关注我们的B站和公众号, B站上有大量关于OpenVINO的技术分享以及一些培训课程。
比特熊:感谢两位老师带来技术干货和进一步学习探索的路径。除了专业知识分享,比特熊也很想知道两位老师自身有趣的故事。不得不说,胡浩老师已经是连续17届的微软MVP了,加入微软MVP大家庭这么久,肯定有很多难忘时刻,来个17年微软MVP视角的爆料吧!
胡浩:我在这个MVP的圈子里混了比较长的时间,认识的MVP小伙伴比较多。微软最早设立这样的一个项目,是为了在微软和用户之间有一个比较好的社区桥梁。MVP可以更快地把用户的声音传递给微软,比如说传递给产品组或者研发。另外一方面,我们也可以把微软的最新技术分享到社区。
我们组织过很多活动,举两个例子,一是我们之前在MVP的峰会上组织过一些公益的活动,比如给农民工子弟去讲一些编程等等。每一年我们也会跟微软还有其他的组织一起来做“编程一小时”之类的活动。2017年的时候那一年微软现任CEO来到中国,给了非常宝贵的五分钟时间跟CEO交流了一下和留下了一张合影。讲认知服务的时候,我经常拿这张照片举例子。
比特熊:欢迎更多有志的专家朋友加入我们的这个美丽的大家庭,那我也想问到Ethan,在英特尔工作是一种怎样的体验呢?
杨亦诚:其实我是刚加入英特尔不久,我是去年加入的,英特尔作为一个跨国企业或者说外企,不会去鼓励你去花大量的时间在工作上,或者说无谓的加班加点,996这样的情况。我们还会定期做一些线下活动,帮助大家更好地和同事交流和互动。
其次,英特尔作为一个全球非常有影响力的企业,他的技术栈也非常丰富。我们有同事是做云的,有做5G的,有做AI的,还有做硬件落地的等等。我也非常有幸可以跟众多大佬一起工作,在英特尔工作让我有机会领略到各种技术,让自己接触不曾涉及的领域。物质方面,我们公司的福利很好,有健身房、篮球场呢,总的来说是一个非常人性化的工作环境。
比特熊:面对疫情,大家对居家办公都习以为常了,两位老师目前都在上海,在家的时候,无论是工作还是平衡生活,大家妙招可以一起交流?
胡浩:我主要工作的领域叫最终用户计算,它致力于提供非常安全的远程工作环境,所以对我来说,居家办公已经是常态了,我从2020初开始就进入到所谓的混合办公的场景。很长一段时间进不了公司,后来疫情好一点之后,我所在的公司也比较提倡在家工作的形式,我还特意从公司申请了一台显示器。这次疫情来得比较突然,很多朋友可能都被关在家里了。在家时间长了,肯定会焦虑,需要主动舒缓自己的情绪,比如我们刚开始聊的电影、美剧。有时候,我会把上MSLearn刷学习路径作为我的消遣,每一次你去看一个可能跟你本职工作完全不相关的领域,就挺有意思的,而且可能在未来的某个时刻,这些知识会反哺到你的工作当中来。
很多人,包括我们的一些小伙伴,在家里这么长时间了一直没机会理发,大家可以看到我头发比较短,因为我从12年开始就买了一个推子,给自己理发哈哈哈。
杨亦诚:我和胡浩老师不一样,我这个发型不太适合用推子,所以我确实已经一个多月没理过头发了。居家办公我也受到很多方面的困扰,比如说我家小孩在我白天上班的时候会哭闹,同时我不断要在工作和日常生活间切换,要抢菜、收快递、做核酸等,导致工作被频繁打断。我有几个解决方案,我白天会尽量处理一些和团队相关的任务,比如说开会,或者讨论某一个report或者proposal。晚上的时间相对比较安静,我就可以去做一些个人相关的工作,比如说写写代码、看看书、写个人的报告等等,更好集中注意力。
居家之后,你的整个作息规律也可能被打乱了,就需要找到适合自己的新的生物钟。固定下来之后,还是可以达到比较高效的状态的。我以前比较喜欢打篮球,踢足球什么的。现在我也拿出了很久没有玩的PS4,玩一些足球游戏和篮球游戏,消磨周末的时光。
比特熊:最后的黄金时间,当然要留给我们的电影大推荐环节,以蝙蝠侠为崇拜英雄的Ethan先来!
杨亦诚:那我来聊一下我个人比较喜欢的电影和电视剧,首先我最喜欢的两部电影就是《蝙蝠侠:黑暗骑士》和《指环王》,前者改变了超级英雄电影的拍法,打造了一个基于真实世界的义警形象;《指环王》非常宏大,真正的史诗电影。
胡浩:我也很喜欢《指环王》系列,战争场面非常过瘾,护戒联盟抵御了那么多诱惑,历经磨难,把魔戒送到末日火山去毁掉,整个过程回想起来还是很震撼。
杨亦诚:《蝙蝠侠》这里我选择了Joker的海报,以往的反派往往是为了金钱,或者比较世俗的利益,Joker仿佛是邪神化身,追求着纯粹的混乱,希斯·莱杰的表演更是精彩十足,把我迷住了。
胡浩:我喜欢各种类型的片子,比如说像科幻、战争,还有结构比较精巧的剧情片,以前我比较喜欢杜琪峰导演的电影,《暗战》等等。这次特别想提到刘德华主演的《墨攻》,改编自日本的漫画,讲的其实是我们的墨子的故事。我很喜欢墨子的观点,比如兼爱非攻,节用和尚同。
墨子的这些理念,不像显学一样流传得那么广泛,他一直试图用自己的技术改变这个世界,跟我们去献身社区、献身开源,有一定的相似,大家会对一些事物抱有理想主义的想法。刘德华也是我非常喜欢的一位演员,他是一个非常努力的演员,可能他的天分不是最好的,演技可能也不是最棒的,但是你会看到他一直以来都非常努力去不断提高自己。
以我自己为例,我可能不一定有很好的资质,也不一定在某个方向非常专业,但我相信如果一直保持学习的心态,哪怕没有一个非常好的一个结果,这个过程也已经让人非常满足了。
比特熊有话说4月徘徊在春天里,比特熊非常幸福能在这样舒适的季节邀请到来自微软MVP团队和英特尔的两位像四月天一样温暖的专家。比特熊请来的嘉宾技术过硬是不可否认的,同样他们也给比特熊带来了新的启示和生活力量。
胡浩老师,我们17年的微软MVP,总是以最谦虚的态度,不断地学习和充实自己,毫不犹豫地贡献自己帮助他人。胡浩老师付出了很多在义务分享中,个人也有丰富的兴趣爱好,比如摄影、书法、潜水,从我们的直播片段中也不难看出,探索新知也是他的兴趣之一,而且他很享受过程中的收获。跟Ethan的联系是因为微软和英特尔正在举行的“AI for Earth”的比赛,作为技术指导的他展示了专业能力。提到电影和影视剧人物,Ethan也有很多分享,比如最爱的英雄蝙蝠侠和《窃听风暴》做好事不留名的主人公。或者《绝命毒师》中的“老白”,联想到自己,很多时候可以减少关注来自外界的价值判断,找一件自己喜欢,愿意花时间钻研,并且对他人有价值的事,形成内驱力,不断精进自己。
虽然因为疫情,线下相聚的机会延后了,但是我们也了解到在“0和1的世界”里无所不能的开发人也有“抢菜”、“调整生活规律”、“解决头发问题”的烦恼,当然在这种情况下他们仍然输出了靠谱的解决方案。希望大家和我一样接收到了两位专家输出的技术充电和正向情绪价值,像感受春天一样体会到开发人的有趣和浪漫吧!
喜欢4月的【比特熊故事汇】吗?有什么想对两位老师的提问,不限技术还是故事。欢迎留言提问,嘉宾亲自解答,机会有限,快快留言。或许会有意外惊喜哦!
5月【比特熊故事汇】大事件即将发生,错过后悔一年!锁定我的频道,精彩即将到来!
点击阅读原文,重温本次直播!
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)