大数据时代的来临
互联网特别是移动互联网的发展，加快了信息化向社会经济各方面、大众日常生活的渗透。有资料显示，1998年全球网民平均每月使用流量是1MB（兆字节），2000年是10MB，2003年是100MB，2008年是1GB（1GB等于1024MB），2014年将是10GB。全网流量累计达到1EB（即10亿GB或1000PB）的时间在2001年是一年，在2004年是一个月，在2007年是一周，而2013年仅需一天，即一天产生的信息量可刻满188亿张DVD光盘。我国网民数居世界之首，每天产生的数据量也位于世界前列。淘宝网站每天有超过数千万笔交易，单日数据产生量超过50TB（1TB等于1000GB），存储量40PB(1PB等于1000TB)。百度公司目前数据总量接近1000PB，存储网页数量接近1万亿页，每天大约要处理60亿次搜索请求，几十PB数据。一个8Mbps（兆比特每秒）的摄像头一小时能产生36GB数据，一个城市若安装几十万个交通和安防摄像头，每月产生的数据量将达几十PB。医院也是数据产生集中的地方。现在，一个病人的CT影像数据量达几十GB，而全国每年门诊人数以数十亿计，并且他们的信息需要长时间保存。总之，大数据存在于各行各业，一个大数据时代正在到来。
信息爆炸不自今日起，但近年来人们更加感受到大数据的来势迅猛。一方面，网民数量不断增加，另一方面，以物联网和家电为代表的联网设备数量增长更快。2007年全球有5亿个设备联网，人均01个；2013年全球将有500亿个设备联网，人均70个。随着宽带化的发展，人均网络接入带宽和流量也迅速提升。全球新产生数据年增40%，即信息总量每两年就可以翻番，这一趋势还将持续。目前，单一数据集容量超过几十TB甚至数PB已不罕见，其规模大到无法在容许的时间内用常规软件工具对其内容进行抓取、管理和处理。
数据规模越大，处理的难度也越大，但对其进行挖掘可能得到的价值更大，这就是大数据热的原因。首先，大数据反映舆情和民意。网民在网上产生的海量数据，记录着他们的思想、行为乃至情感，这是信息时代现实社会与网络空间深度融合的产物，蕴含着丰富的内涵和很多规律性信息。根据中国互联网络信息中心统计，2012年底我国网民数为564亿，手机网民为42亿，通过分析相关数据，可以了解大众需求、诉求和意见。其次，企业和政府的信息系统每天源源不断产生大量数据。根据赛门铁克公司的调研报告，全球企业的信息存储总量已达22ZB（1ZB等于1000EB），年增67％。医院、学校和银行等也都会收集和存储大量信息。政府可以部署传感器等感知单元，收集环境和社会管理所需的信息。2011年，英国《自然》杂志曾出版专刊指出，倘若能够更有效地组织和使用大数据，人类将得到更多的机会发挥科学技术对社会发展的巨大推动作用。
大数据应用的领域
大数据技术可运用到各行各业。宏观经济方面，IBM日本公司建立经济指标预测系统，从互联网新闻中搜索影响制造业的480项经济数据，计算采购经理人指数的预测值。印第安纳大学利用谷歌公司提供的心情分析工具，从近千万条网民留言中归纳出六种心情，进而对道琼斯工业指数的变化进行预测，准确率达到87%。制造业方面，华尔街对冲基金依据购物网站的顾客评论，分析企业产品销售状况；一些企业利用大数据分析实现对采购和合理库存量的管理，通过分析网上数据了解客户需求、掌握市场动向。有资料显示，全球零售商因盲目进货导致的销售损失每年达1000亿美元，这方面的数据分析大有作为。
在农业领域，硅谷有个气候公司，从美国气象局等数据库中获得几十年的天气数据，将各地降雨、气温、土壤状况与历年农作物产量的相关度做成精密图表，预测农场来年产量，向农户出售个性化保险。在商业领域，沃尔玛公司通过分析销售数据，了解顾客购物习惯，得出适合搭配在一起出售的商品，还可从中细分顾客群体，提供个性化服务。在金融领域，华尔街“德温特资本市场”公司分析34亿微博账户留言，判断民众情绪，依据人们高兴时买股票、焦虑时抛售股票的规律，决定公司股票的买入或卖出。阿里公司根据在淘宝网上中小企业的交易状况筛选出财务健康和讲究诚信的企业，对他们发放无需担保的贷款。目前已放贷300多亿元，坏账率仅03%。
在医疗保健领域，“谷歌流感趋势”项目依据网民搜索内容分析全球范围内流感等病疫传播状况，与美国疾病控制和预防中心提供的报告对比，追踪疾病的精确率达到97%。社交网络为许多慢性病患者提供临床症状交流和诊治经验分享平台，医生借此可获得在医院通常得不到的临床效果统计数据。基于对人体基因的大数据分析，可以实现对症下药的个性化治疗。在社会安全管理领域，通过对手机数据的挖掘，可以分析实时动态的流动人口来源、出行，实时交通客流信息及拥堵情况。利用短信、微博、微信和搜索引擎，可以收集热点事件，挖掘舆情，还可以追踪造谣信息的源头。美国麻省理工学院通过对十万多人手机的通话、短信和空间位置等信息进行处理，提取人们行为的时空规律性，进行犯罪预测。在科学研究领域，基于密集数据分析的科学发现成为继实验科学、理论科学和计算科学之后的第四个范例，基于大数据分析的材料基因组学和合成生物学等正在兴起。
麦肯锡公司2011年报告推测，如果把大数据用于美国的医疗保健，一年产生潜在价值3000亿美元，用于欧洲的公共管理可获得年度潜在价值2500亿欧元；服务提供商利用个人位置数据可获得潜在的消费者年度盈余6000亿美元；利用大数据分析，零售商可增加运营利润60%，制造业设备装配成本会减少50%。
大数据技术的挑战和启示
目前，大数据技术的运用仍存在一些困难与挑战，体现在大数据挖掘的四个环节中。首先在数据收集方面。要对来自网络包括物联网和机构信息系统的数据附上时空标志，去伪存真，尽可能收集异源甚至是异构的数据，必要时还可与历史数据对照，多角度验证数据的全面性和可信性。其次是数据存储。要达到低成本、低能耗、高可靠性目标，通常要用到冗余配置、分布化和云计算技术，在存储时要按照一定规则对数据进行分类，通过过滤和去重，减少存储量，同时加入便于日后检索的标签。第三是数据处理。有些行业的数据涉及上百个参数，其复杂性不仅体现在数据样本本身，更体现在多源异构、多实体和多空间之间的交互动态性，难以用传统的方法描述与度量，处理的复杂度很大，需要将高维图像等多媒体数据降维后度量与处理，利用上下文关联进行语义分析，从大量动态而且可能是模棱两可的数据中综合信息，并导出可理解的内容。第四是结果的可视化呈现，使结果更直观以便于洞察。目前，尽管计算机智能化有了很大进步，但还只能针对小规模、有结构或类结构的数据进行分析，谈不上深层次的数据挖掘，现有的数据挖掘算法在不同行业中难以通用。
大数据技术的运用前景是十分光明的。当前，我国正处在全面建成小康社会征程中，工业化、信息化、城镇化、农业现代化任务很重，建设下一代信息基础设施，发展现代信息技术产业体系，健全信息安全保障体系，推进信息网络技术广泛运用，是实现四化同步发展的保证。大数据分析对我们深刻领会世情和国情，把握规律，实现科学发展，做出科学决策具有重要意义，我们必须重新认识数据的重要价值。
为了开发大数据这一金矿，我们要做的工作还很多。首先，大数据分析需要有大数据的技术与产品支持。发达国家一些信息技术（IT）企业已提前发力，通过加大开发力度和兼并等多种手段，努力向成为大数据解决方案提供商转型。国外一些企业打出免费承接大数据分析的招牌，既是为了练兵，也是为了获取情报。过分依赖国外的大数据分析技术与平台，难以回避信息泄密风险。有些日常生活信息看似无关紧要，其实从中也可摸到国家经济和社会脉搏。因此，我们需要有自主可控的大数据技术与产品。美国政府2012年3月发布《大数据研究与发展倡议》，这是继1993年宣布“信息高速公路”之后又一重大科技部署，联邦政府和一些部委已安排资金用于大数据开发。我们与发达国家有不少差距，更需要国家政策支持。
中国人口居世界首位，将会成为产生数据量最多的国家，但我们对数据保存不够重视，对存储数据的利用率也不高。此外，我国一些部门和机构拥有大量数据却不愿与其他部门共享，导致信息不完整或重复投资。政府应通过体制机制改革打破数据割据与封锁，应注重公开信息，应重视数据挖掘。美国联邦政府建立统一数据开放门户网站，为社会提供信息服务并鼓励挖掘与利用。例如，提供各地天气与航班延误的关系，推动航空公司提升正点率。
大数据的挖掘与利用应当有法可依。去年底全国人大通过的加强网络信息保护的决定是一个好的开始，当前要尽快制定“信息公开法”以适应大数据时代的到来。现在很多机构和企业拥有大量客户信息。应当既鼓励面向群体、服务社会的数据挖掘，又要防止侵犯个体隐私；既提倡数据共享，又要防止数据被滥用。此外，还需要界定数据挖掘、利用的权限和范围。大数据系统本身的安全性也是值得特别关注的，要注意技术安全性和管理制度安全性并重，防止信息被损坏、篡改、泄露或被窃，保护公民和国家的信息安全。
大数据时代呼唤创新型人才。盖特纳咨询公司预测大数据将为全球带来440万个IT新岗位和上千万个非IT岗位。麦肯锡公司预测美国到2018年需要深度数据分析人才44万—49万，缺口14万—19万人；需要既熟悉本单位需求又了解大数据技术与应用的管理者150万，这方面的人才缺口更大。中国是人才大国，但能理解与应用大数据的创新人才更是稀缺资源。
大数据是新一代信息技术的集中反映，是一个应用驱动性很强的服务领域，是具有无穷潜力的新兴产业领域；目前，其标准和产业格局尚未形成，这是我国实现跨越式发展的宝贵机会。我们要从战略上重视大数据的开发利用，将它作为转变经济增长方式的有效抓手，但要注意科学规划，切忌一哄而上。
未来物联网行业将向着多元方向发展
标准化是物联网发展面临的最大挑战之一，它是希望在早期主导市场的行业领导者之间的一场斗争。目前我国物联网行业百家争鸣，还未有一个统一的标准出现。因此在未来可能通过不断竞争将会出现限数量的供应商主导市场，类似于现在使用的Windows、Mac和Linux *** 作系统。
合规化同样是当下物联网面临的问题之一，特别是数据隐私问题。目前数据隐私已成为网络社会的一个关键词，各种用户数据泄露或被滥用的事件频发，特别是Facebook的丑闻引发了全球担忧。
因此在未来，我国各种立法和监管机构将提出更加严格的用户数据保护规定，，用户的敏感数据可能会随着时间的推移而受到更严格的监管。
安全化是指预防物联网软件遭受网络黑客攻击，在未来，以安全为重点的物联网设施将受到更多的关注，特别是某些特定的基础行业，如医疗健康、安全安防、金融等领域。
多重技术推动物联网技术创新
从技术创新趋势来看，物联网行业发展的内生动力正在不断增强。连接技术不断突破，NB-Iot、eMTC、Lora等低功耗广域网全球商用化进程不断加速;物联网平台迅速增长，服务支撑能力迅速提升;
区块链、边缘计算、人工智能等新技术题材不断注入物联网，为物联网带来新的创新活力。受技术和产业成熟度的综合驱动，物联网呈现“边缘的智能化、连接的泛在化、服务的平台化、数据的延伸化”等特点。
——以上数据来源于前瞻产业研究院《中国物联网行业应用领域市场需求与投资预测分析报告》。
关于物联网,你别被这5个大数据忽悠了
但它的概念非常模糊。在一些谈话中，不同的参与者用“大数据”所表示的意思可能有以下三种：1大量的数据;2超出传统数据库功能的数据集;3使用软件工具来分析前两个意义的数据集。
物联网最显著的效益就是它能极大地扩展我们监控和测量真实世界中发生的事情的能力。车间经理知道如果发动机发出呜呜声就说明出现了问题。一个有经验的房主知道烘干机的通风系统可能会被线头塞住，从而导致安全隐患。数据系统最终给予了我们精确理解这些问题的能力。
然而，挑战在于使这些让信息更有价值的系统和商业模型不断发展。想一下智能恒温器在峰值功率很紧张的情况下，公用事业单位和第三方能源服务企业想要每分钟准确更新能源消耗情况：通过精确调整能源并最大化节省能源，使得夏季普通的一天和节约用电的一天能够有明显的区别。但如果把时间缩短到午夜至凌晨四点间，对信息的需求就不是那么急迫了：数据主要在确定长期趋势时才能有价值。
现在从消费者的角度思考。15分钟的数据更新间隔都有可能导致超负荷。这不仅仅没有价值，还可能会造成贬低它价值的麻烦事。相反，消费者所需要的不过是一份能够指明一些趋势的月度总结表。
我经常跟人们讨论关于“数据价值”的挑战。下面的列表总结了数据的一般类别以及制造商和服务提供商所追求的机会。
五种大数据类型
状态数据
冷库中的空气压缩机是否正常运作它们中是否有一个已经罢工了不用担心，状态数据可以提供供应商和消费者关于物联网的实时动态数据。
状态数据是物联网数据中最普遍、最基础的一种。事实上所有事都会产生类似的数据，并把它作为基础。在许多市场中，状态数据更多地被用作进行更复杂分析的原材料，但它也具有它自身的重要价值。
看看Streetline是怎样找到停车位的——它创造了能够提醒订阅者空余车位的系统。当然，长期的数据能帮到城市规划者，但对于消费者来说，实时状态数据才是最重要的。
定位数据
我的货物到哪儿了它到达目的地了吗定位服务是GPS应用的必然趋势。GPS非常强大，但在室内、人潮拥挤的地方以及快速变化的环境中的效果并不明显。那些试图追踪托盘以及机械叉车的人可能会需要实时信息。
作为早期的物联网市场，农业领域也需要充分利用位置数据，因为农场主通常需要在很大的地理面积上定位自己的设备。我们已经看到了一些能够帮助人们定位钥匙的消费品的出现，这意味着在为商业和工业用户提供服务的领域存在着更大的市场，尤其是在时间紧迫时，这些领域有大量的资产需要追踪的情况下。Foursquare针对油漆仓库的发展就是抓住了这样一个巨大的机遇。
个性化数据
不要用个人数据来拒绝个性化数据。个性化数据指的是关于个人偏好的匿名数据。消费者自然会对自动化产生怀疑。因为一些住宅管理系统比起你的舒适更关心节省的成本，所以往往你不想困在一个昏暗的办公室或者冰冷的酒店客房。自动化技术同样也存在安全隐患。
尽管如此，自动化也是不可避免的。没有人会为了节省475美元而不停地用手指来试恒温器的温度。同样，那些依靠人工交互的照明系统也失败了(一些智能照明生产者希望用他们的传感器数据告诉商店的管理者何时应该打开结账通道)。挑战将围绕开发应用程序和产品规则而展开。
可供行为参考数据
把这个看作是有后续计划的状态数据。建筑物消耗了整个国家电力的73%，并且其中一大部分(根据EPA显示，最高达到30%)被浪费了。为什么呢因为对于大多数建筑物的所有者来说：能源是次要的问题。他们虽也想解决这一问题，但担心成本、精力以及一些棘手的局面所产生的损失会超出收益。
对于这一问题相应地产生了两种方法：1能够改变系统实时状态的自动化技术;2能够使人们改变行为习惯或者做长线投资的说服力。Opower开创了关于说服力的解决方案，也就是提供用户及其邻里之间使用能源的对比数据。根据他们自己的研究，这些具有说服力的数据能使能耗降低2到3个百分点。
反馈数据
你了解你的顾客的真实想法吗你也许认为你了解，但是你可能错了。在不远的将来，生产者还能分析从已销售的产品中获取的数据，从而更好地了解产品在现实世界中的使用情况。现在大部分公司并不太了解他们产品的使用状况。这些产品从分销商处装运，从零售商处销售，最后进入了千家万户。而使用者和生产者可能永远都不会有交集。
物联网创造了一个从消费者到生产者的反馈回路，在这里产品生产者可以通过适度水平的隐私、安全以及匿名性来检验产品的实际表现，并鼓励持续的产品改进和创新。
以上是小编为大家分享的关于关于物联网,你别被这5个大数据忽悠了的相关内容，更多信息可以关注环球青藤分享更多干货
你说的是硕士的研究方向吗？其实在入读之前选择的方向大部分情况下问题不大，会根据导师的具体情况进行调整。数据分析看方向和分析内容吧，今后做做大数据或者BI也挺不错的。
图像处理是最近比较火的研究领域，主要依靠机器学习/深度学习，我个人比较喜欢这个，因为出路很广泛，学起来也挺有趣。
网络信息安全的话比上面两个摸鱼一点，（这领域不太熟悉）
欢迎分享，转载请注明来源：内存溢出
微信扫一扫
支付宝扫一扫
评论列表（0条）