如何应对物联网时代下数据采集的机遇与挑战

如何应对物联网时代下数据采集的机遇与挑战,第1张

 大数据泛指巨量的数据集,因可从中挖掘出有价值的信息而受到重视。《华尔街日报》将大数据时代、智能化生产和无线网络革命称为引领未来繁荣的三大技术变革。麦肯锡公司的报告指出数据是一种生产资料,大数据是下一个创新、竞争、生产力提高的前沿。世界经济论坛的报告认定大数据为新财富,价值堪比石油。因此,发达国家纷纷将开发利用大数据作为夺取新一轮竞争制高点的重要抓手。
大数据时代的来临
互联网特别是移动互联网的发展,加快了信息化向社会经济各方面、大众日常生活的渗透。有资料显示,1998年全球网民平均每月使用流量是1MB(兆字节),2000年是10MB,2003年是100MB,2008年是1GB(1GB等于1024MB),2014年将是10GB。全网流量累计达到1EB(即10亿GB或1000PB)的时间在2001年是一年,在2004年是一个月,在2007年是一周,而2013年仅需一天,即一天产生的信息量可刻满188亿张DVD光盘。我国网民数居世界之首,每天产生的数据量也位于世界前列。淘宝网站每天有超过数千万笔交易,单日数据产生量超过50TB(1TB等于1000GB),存储量40PB(1PB等于1000TB)。百度公司目前数据总量接近1000PB,存储网页数量接近1万亿页,每天大约要处理60亿次搜索请求,几十PB数据。一个8Mbps(兆比特每秒)的摄像头一小时能产生36GB数据,一个城市若安装几十万个交通和安防摄像头,每月产生的数据量将达几十PB。医院也是数据产生集中的地方。现在,一个病人的CT影像数据量达几十GB,而全国每年门诊人数以数十亿计,并且他们的信息需要长时间保存。总之,大数据存在于各行各业,一个大数据时代正在到来。
信息爆炸不自今日起,但近年来人们更加感受到大数据的来势迅猛。一方面,网民数量不断增加,另一方面,以物联网和家电为代表的联网设备数量增长更快。2007年全球有5亿个设备联网,人均01个;2013年全球将有500亿个设备联网,人均70个。随着宽带化的发展,人均网络接入带宽和流量也迅速提升。全球新产生数据年增40%,即信息总量每两年就可以翻番,这一趋势还将持续。目前,单一数据集容量超过几十TB甚至数PB已不罕见,其规模大到无法在容许的时间内用常规软件工具对其内容进行抓取、管理和处理。
数据规模越大,处理的难度也越大,但对其进行挖掘可能得到的价值更大,这就是大数据热的原因。首先,大数据反映舆情和民意。网民在网上产生的海量数据,记录着他们的思想、行为乃至情感,这是信息时代现实社会与网络空间深度融合的产物,蕴含着丰富的内涵和很多规律性信息。根据中国互联网络信息中心统计,2012年底我国网民数为564亿,手机网民为42亿,通过分析相关数据,可以了解大众需求、诉求和意见。其次,企业和政府的信息系统每天源源不断产生大量数据。根据赛门铁克公司的调研报告,全球企业的信息存储总量已达22ZB(1ZB等于1000EB),年增67%。医院、学校和银行等也都会收集和存储大量信息。政府可以部署传感器等感知单元,收集环境和社会管理所需的信息。2011年,英国《自然》杂志曾出版专刊指出,倘若能够更有效地组织和使用大数据,人类将得到更多的机会发挥科学技术对社会发展的巨大推动作用。
大数据应用的领域
大数据技术可运用到各行各业。宏观经济方面,IBM日本公司建立经济指标预测系统,从互联网新闻中搜索影响制造业的480项经济数据,计算采购经理人指数的预测值。印第安纳大学利用谷歌公司提供的心情分析工具,从近千万条网民留言中归纳出六种心情,进而对道琼斯工业指数的变化进行预测,准确率达到87%。制造业方面,华尔街对冲基金依据购物网站的顾客评论,分析企业产品销售状况;一些企业利用大数据分析实现对采购和合理库存量的管理,通过分析网上数据了解客户需求、掌握市场动向。有资料显示,全球零售商因盲目进货导致的销售损失每年达1000亿美元,这方面的数据分析大有作为。
在农业领域,硅谷有个气候公司,从美国气象局等数据库中获得几十年的天气数据,将各地降雨、气温、土壤状况与历年农作物产量的相关度做成精密图表,预测农场来年产量,向农户出售个性化保险。在商业领域,沃尔玛公司通过分析销售数据,了解顾客购物习惯,得出适合搭配在一起出售的商品,还可从中细分顾客群体,提供个性化服务。在金融领域,华尔街“德温特资本市场”公司分析34亿微博账户留言,判断民众情绪,依据人们高兴时买股票、焦虑时抛售股票的规律,决定公司股票的买入或卖出。阿里公司根据在淘宝网上中小企业的交易状况筛选出财务健康和讲究诚信的企业,对他们发放无需担保的贷款。目前已放贷300多亿元,坏账率仅03%。
在医疗保健领域,“谷歌流感趋势”项目依据网民搜索内容分析全球范围内流感等病疫传播状况,与美国疾病控制和预防中心提供的报告对比,追踪疾病的精确率达到97%。社交网络为许多慢性病患者提供临床症状交流和诊治经验分享平台,医生借此可获得在医院通常得不到的临床效果统计数据。基于对人体基因的大数据分析,可以实现对症下药的个性化治疗。在社会安全管理领域,通过对手机数据的挖掘,可以分析实时动态的流动人口来源、出行,实时交通客流信息及拥堵情况。利用短信、微博、微信和搜索引擎,可以收集热点事件,挖掘舆情,还可以追踪造谣信息的源头。美国麻省理工学院通过对十万多人手机的通话、短信和空间位置等信息进行处理,提取人们行为的时空规律性,进行犯罪预测。在科学研究领域,基于密集数据分析的科学发现成为继实验科学、理论科学和计算科学之后的第四个范例,基于大数据分析的材料基因组学和合成生物学等正在兴起。
麦肯锡公司2011年报告推测,如果把大数据用于美国的医疗保健,一年产生潜在价值3000亿美元,用于欧洲的公共管理可获得年度潜在价值2500亿欧元;服务提供商利用个人位置数据可获得潜在的消费者年度盈余6000亿美元;利用大数据分析,零售商可增加运营利润60%,制造业设备装配成本会减少50%。
大数据技术的挑战和启示
目前,大数据技术的运用仍存在一些困难与挑战,体现在大数据挖掘的四个环节中。首先在数据收集方面。要对来自网络包括物联网和机构信息系统的数据附上时空标志,去伪存真,尽可能收集异源甚至是异构的数据,必要时还可与历史数据对照,多角度验证数据的全面性和可信性。其次是数据存储。要达到低成本、低能耗、高可靠性目标,通常要用到冗余配置、分布化和云计算技术,在存储时要按照一定规则对数据进行分类,通过过滤和去重,减少存储量,同时加入便于日后检索的标签。第三是数据处理。有些行业的数据涉及上百个参数,其复杂性不仅体现在数据样本本身,更体现在多源异构、多实体和多空间之间的交互动态性,难以用传统的方法描述与度量,处理的复杂度很大,需要将高维图像等多媒体数据降维后度量与处理,利用上下文关联进行语义分析,从大量动态而且可能是模棱两可的数据中综合信息,并导出可理解的内容。第四是结果的可视化呈现,使结果更直观以便于洞察。目前,尽管计算机智能化有了很大进步,但还只能针对小规模、有结构或类结构的数据进行分析,谈不上深层次的数据挖掘,现有的数据挖掘算法在不同行业中难以通用。
大数据技术的运用前景是十分光明的。当前,我国正处在全面建成小康社会征程中,工业化、信息化、城镇化、农业现代化任务很重,建设下一代信息基础设施,发展现代信息技术产业体系,健全信息安全保障体系,推进信息网络技术广泛运用,是实现四化同步发展的保证。大数据分析对我们深刻领会世情和国情,把握规律,实现科学发展,做出科学决策具有重要意义,我们必须重新认识数据的重要价值。
为了开发大数据这一金矿,我们要做的工作还很多。首先,大数据分析需要有大数据的技术与产品支持。发达国家一些信息技术(IT)企业已提前发力,通过加大开发力度和兼并等多种手段,努力向成为大数据解决方案提供商转型。国外一些企业打出免费承接大数据分析的招牌,既是为了练兵,也是为了获取情报。过分依赖国外的大数据分析技术与平台,难以回避信息泄密风险。有些日常生活信息看似无关紧要,其实从中也可摸到国家经济和社会脉搏。因此,我们需要有自主可控的大数据技术与产品。美国政府2012年3月发布《大数据研究与发展倡议》,这是继1993年宣布“信息高速公路”之后又一重大科技部署,联邦政府和一些部委已安排资金用于大数据开发。我们与发达国家有不少差距,更需要国家政策支持。
中国人口居世界首位,将会成为产生数据量最多的国家,但我们对数据保存不够重视,对存储数据的利用率也不高。此外,我国一些部门和机构拥有大量数据却不愿与其他部门共享,导致信息不完整或重复投资。政府应通过体制机制改革打破数据割据与封锁,应注重公开信息,应重视数据挖掘。美国联邦政府建立统一数据开放门户网站,为社会提供信息服务并鼓励挖掘与利用。例如,提供各地天气与航班延误的关系,推动航空公司提升正点率。
大数据的挖掘与利用应当有法可依。去年底全国人大通过的加强网络信息保护的决定是一个好的开始,当前要尽快制定“信息公开法”以适应大数据时代的到来。现在很多机构和企业拥有大量客户信息。应当既鼓励面向群体、服务社会的数据挖掘,又要防止侵犯个体隐私;既提倡数据共享,又要防止数据被滥用。此外,还需要界定数据挖掘、利用的权限和范围。大数据系统本身的安全性也是值得特别关注的,要注意技术安全性和管理制度安全性并重,防止信息被损坏、篡改、泄露或被窃,保护公民和国家的信息安全。
大数据时代呼唤创新型人才。盖特纳咨询公司预测大数据将为全球带来440万个IT新岗位和上千万个非IT岗位。麦肯锡公司预测美国到2018年需要深度数据分析人才44万—49万,缺口14万—19万人;需要既熟悉本单位需求又了解大数据技术与应用的管理者150万,这方面的人才缺口更大。中国是人才大国,但能理解与应用大数据的创新人才更是稀缺资源。
大数据是新一代信息技术的集中反映,是一个应用驱动性很强的服务领域,是具有无穷潜力的新兴产业领域;目前,其标准和产业格局尚未形成,这是我国实现跨越式发展的宝贵机会。我们要从战略上重视大数据的开发利用,将它作为转变经济增长方式的有效抓手,但要注意科学规划,切忌一哄而上。

1 南滨路人口占重庆人口总比例约为1%
2 这个结论是因为南滨路是重庆市江北区的一个商业、文化、旅游中心,人口主要以居住在周边的商务人士、外来旅游者、文化爱好者为主,相对于整个重庆市的人口总数而言,南滨路人口数量比例较小。
3 不过南滨路在商业、文化和旅游方面的发展正在不断扩大,随着南滨路的不断壮大,人口数量也有望逐渐增加。

2018年中国物联网行业发展现状与2019年前景预测 边缘计算+AI推动行业新一轮增长

LoRa“涅槃”:与NB-IoT各撑“半边天”

纵观2018年,物联网行业最热闹的就是NB-IoT与LoRa技术之争,NB-IoT与LoRa都适用于低速率、低成本、低功耗、广覆盖、大连接的物联网应用场景。

不同的是,NB-IOT有国家政策支持,国内三大运营商都积极部署;而LoRa属于企业私有技术,工作在未授权频段上,存在被清频的风险。

在NB-IoT的建设上,近年来,我国物联网政策频频出台,《关于全面推进移动物联网(NB-IOT)建设发展通知》指出,到2020年,NB-IoT网络实现全国普遍覆盖,基站规模达到150万个,因此,三大运营商各显神通全力部署NB-IOT建设。

据悉,中国电信发力物联网较早,率先率先建成了全球最大的NB-IoT网络,实现城乡全覆盖,NB-IoT基站规模超过40余万个;中国联通紧随其后,在2018年5月实现物联网全国覆盖,完成30万个NB-IoT基站升级工作;中国移动也已实现了348个城市NB-IoT连续覆盖和全面商用,物联网连接数突破5亿。

值得一提的是,在模组采集方面,中国联通与中国移动在去年分别开出300万片与500万片NB-IoT通信模块项目大单,加速布局物联网。

2019年NB-IoT模组将出现大爆发,届时NB-IoT模组价格会进一步下调,随着模组市场的成本压力增大,利润空间越来越小,预计模组行业会重新洗牌,落后产能、落后规模模组厂商会被淘汰,模组厂家会进行一次大洗牌。

而对于LoRa来说,2018年像是坐了一次“过山车”。

2017年年底,工信部无线电管理局发布《微功率短距离无线电发射设备技术要求(征求意见稿)》,一时给耕耘LoRa技术的企业泼了盆“冷水”,引起了市场的极大反响,转年11月,工信部无线电管理局在认真梳理分析反馈意见建议,并与相关单位协调和沟通基础上,参考微功率短距离无线电发射设备国际使用和管理情况,对征求意见稿进行了完善和修改,让LoRa获得了“重生”。

与NB-IoT不同,LoRa凭借其网络结构简单,实现成本较低,可以按需部署的优势获得了大量企业的青睐,阿里、谷歌、腾讯、京东等互联网巨头纷纷加入LoRa联盟则是一个代表。

近年来,互联网企业纷纷将物联网作为未来重要方向进行布局,以阿里巴巴为例,曾公开表示互联网的下半场是将整个物理世界数字化,并且宣布阿里巴巴将正式进军IoT,同年阿里巴巴获得Semtech的LoRa
IP授权,在各地展开了智慧小镇园区等项目的实施,在互联网企业强势推进物联网业务和国内低功耗广域网络快速发展背景下,这一IP授权合作在很大程度上将加速国内LoRa产业链的完善。

总的来看,一年以来,NB-IoT由于政策、运营商招标及补贴等原因在表类、烟感等市场取得了不错的成绩,占据大量市场份额,没有政策支持的LoRa,凭借其网络结构简单,实现成本较低,可以按需部署的优势也从险些出局到获得业内巨头站台,实现了“涅槃重生”,日前艾瑞咨询发布报告中指出,从应用场景需求角度分析,预计到2025年NB-IoT与LoRa在国内的发展将趋于6:4的格局。

专家预测,2019年,随着技术的成熟、NB-IoT与LoRa技术优势的不断凸显,将会有根据技术特点设计的实际应用落地,其中,NB-IoT具备了规模爆发的必要条件,预计2019年将会以移动物联网为突破口,产业加速转型升级,引爆新的经济增长点。

2019年物联网行业将迎来新一轮增长

2018无疑是物联网应用落地的一年,作为这个时代下最伟大的科技产物,物联网正在取代移动互联网成为信息产业的主要驱动,统观市场,近年我国物联网市场持续保持高速增长。据前瞻产业研究院发布的《2019-2024年中国物联网行业应用领域市场需求与投资预测分析报告》统计数据显示,2015年我国物联网链接数量为639亿个,截止至到2017年我国物联网链接数量达到了1535亿个,相比2016年增长了698%。初步预计2018年我国物联网链接数量突破20亿个,在2019年我国物联网链接数量将达3125亿个,同比增长3852%。并预测在2020年我国物联网链接数量将达到40亿个。可以说,2019年将是物联网真正由示范到实际应用转化的起始年,诸多物联网环节领域都将在今年迎来新一轮增长。

2015-2020年我国物联网链接数量统计及增长情况预测

数据来源:前瞻产业研究院整理

物联网的下一赛道:边缘计算+AI

2018年物联网产业所表现的最大特征是市场格局基本形成,核心技术区域成熟,目前最重要的是要解决各种碎片化的物联网应用和相应的智能传感器采集终端产品的技术突破和产业化问题,如何把AI和IoT紧密结合,把边缘计算和物联网融合发展正成为物联网的下一个赛道。

物联网正在从万物互联走向万物智能的阶段,像消费、医疗等众多行业数据都将在边缘进行处理,强大的边缘计算将是物联网发展的必备能力。

据悉,随着5G临近,行业转型以及敏捷连接、智能应用等方面的需求剧增,数据量的增长速度已超过网络带宽的增长速度。预计到2020年,50%数据需要在网络边缘进行处理,以BAT为首的互联网巨头也已纷纷布局AI+边缘计算这一环节。

以百度为例,2018年百度发布智能边缘产品智能边缘BIE、智能家居云平台度家DuHome等产品,用边缘计算+AI的能力在各产业落地,腾讯则是在2018年提出人+物联网+智能网的“三张网”概念,以“一云两端”模式,打通物联网全生态链路,构筑设备、云、应用一体化应用体系。

边缘计算将作为物联网设备与远端云设备的桥梁,将数据处理、存储、应用在靠近实物的边缘上,为物联网设备提供边缘智能服务,满足行业数字化在敏捷连接,实时业务,数据优化,应用智能等方面的关键需求,使得用户可以获得更快的响应,解决设备与云端的数据传输问题,2019年,边缘计算将逐渐渗透于物联网各主要领域,根据各领域物联网技术的不同发展状态,边缘计算呈现不同的渗透率。

数据增长也大幅提升了实时性数据处理需求,因此数据在边缘进行处理将成为刚需,物联网将按照物联、智能到自主三个阶段发展。随着人工智能技术被越来越多地运用到物联网领域,AI在边缘计算领域的重要性也将越来越大。

工业物联网与智慧城市:落地爆发场景

物联网一直被视作互联网的延伸,但与商业模式极度成熟的互联网不同,物联网商业落地难、盈利路径不清晰等问题一直影响物联网的发展,随着移动互联网人口红利消耗殆尽,传统制造业瓶颈等问题日益严重,智慧城市与工业物联网正成为下一个重要的流量入口。

智慧城市正成为全球国家发展的大趋势,智慧小镇作为智慧城市建设理念的延伸和拓展,物联网智慧小镇的投入和建设、管理和运维相比于智慧城市更具优势,而且可以更好的与地方特色文化、产业相融合,更加充分的运用物联网技术,2019年随着物联网智慧小镇投入和建设的不断推进,物联网智慧小镇将实现应用和推广。

传统行业在寒冬之下,必然寻找新的出路,而网联化,一定是给传统行业提供了新的发展契机。企业普遍渴望通过新技术解放生产力,降本增效,加快转型升级,工业物联网云平台无疑成为他们转型发展的主要抓手。

2019年,随着工业物联网平台大规模的使用,平台建设将日渐成熟完善。工业物联网时代客户的个性化需求信息更加透明,以网络为主的工业物联网平台则将分布式、模块化、开放式的微服务架构,与第三方公有云或者私有云进行对接、部署和开发,将数据、软件、平台、服务等资料都聚集在平台做资源整合。

伴随着工业互联网创新发展工程示范带动,工业互联网平台设备管理能力、工业机理模型封装能力、应用服务开发能力以及跨平台服务调用能力将会大大提高,推动工业互联网平台性能优化、兼容适配和规模应用,加速技术产业成熟、打造协同创新生态。


欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/dianzi/10497337.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-05-09
下一篇 2023-05-09

发表评论

登录后才能评论

评论列表(0条)

保存