大数据的概念与内涵
“大数据”的概念早已有之,1980年著名未来学家阿尔文•托夫勒便在《第三次浪潮》一书中,将大数据热情地赞颂为“第三次浪潮的华彩乐章”。但是直到近几年,“大数据”才与“云计算”、“物联网”一道,成为互联网信息技术行业的流行词汇。2008年,在谷歌成立10周年之际, 著名的《自然》杂志出版了一期专刊,专门讨论未来的大数据处理相关的一系列技术问题和挑战,其中就提出了“Big Data”的概念。2011年5 月,在“云计算相遇大数据” 为主题的EMC World 2011 会议中,EMC 也抛出了Big Data概念。所以,很多人认为,2011年是大数据元年。
此后,诸多专家、机构从不同角度提出了对大数据理解。当然,由于大数据本身具有较强的抽象性,目前国际上尚没有一个统一公认的定义。维基百科认为大数据是超过当前现有的数据库系统或数据库管理工具处理能力,处理时间超过客户能容忍时间的大规模复杂数据集。全球排名第一的企业数据集成软件商Informatica认为大数据包括海量数据和复杂数据类型,其规模超过传统数据库系统进行管理和处理的能力。亚马逊网络服务(AWS)、大数据科学家JohnRauser提到一个简单的定义:大数据就是任何超过了一台计算机处理能力的庞大数据量。百度搜索的定义为:"大数据"是一个体量特别大,数据类别特别大的数据集,并且这样的数据集无法用传统数据库工具对其内容进行抓取、管理和处理。互联网周刊的定义为:"大数据"的概念远不止大量的数据(TB)和处理大量数据的技术,或者所谓的"4个V"之类的简单概念,而是涵盖了人们在大规模数据的基础上可以做的事情,而这些事情在小规模数据的基础上是无法实现的。换句话说,大数据让我们以一种前所未有的方式,通过对海量数据进行分析,获得有巨大价值的产品和服务,或深刻的洞见,最终形成变革之力。
综合上述不同的定义,我们认为,大数据至少应包括以下两个方面:一是数量巨大,二是无法使用传统工具处理。因此,大数据不是关于如何定义,最重要的是如何使用。它强调的不仅是数据的规模,更强调从海量数据中快速获得有价值信息和知识的能力。
大数据4V特征
一般认为,大数据主要具有以下四个方面的典型特征:规模性(Volume)、多样性(Varity)、高速性(Velocity)和价值性(Value),即所谓的“4V”。
1.规模性。大数据的特征首先就体现为“数量大”,存储单位从过去的GB到TB,直至PB、EB。随着信息技术的高速发展,数据开始爆发性增长。社交网络(微博、推特、脸书)、移动网络、各种智能终端等,都成为数据的来源。淘宝网近4亿的会员每天产生的商品交易数据约20TB;脸书约10亿的用户每天产生的日志数据超过300TB。迫切需要智能的算法、强大的数据处理平台和新的数据处理技术,来统计、分析、预测和实时处理如此大规模的数据。
2.多样性。广泛的数据来源,决定了大数据形式的多样性。大数据大体可分为三类:一是结构化数据,如财务系统数据、信息管理系统数据、医疗系统数据等,其特点是数据间因果关系强;二是非结构化的数据,如视频、、音频等,其特点是数据间没有因果关系;三是半结构化数据,如HTML文档、邮件、网页等,其特点是数据问的因果关系弱。
3.高速性。与以往的档案、广播、报纸等传统数据载体不同,大数据的交换和传播是通过互联网、云计算等方式实现的,远比传统媒介的信息交换和传播速度快捷。大数据与海量数据的重要区别,除了大数据的数据规模更大以外,大数据对处理数据的响应速度有更严格的要求。实时分析而非批量分析,数据输入、处理与丢弃立刻见效,几乎无延迟。数据的增长速度和处理速度是大数据高速性的重要体现。
4价值性。这也是大数据的核心特征。现实世界所产生的数据中,有价值的数据所占比例很小。相比于传统的小数据,大数据最大的价值在于通过从大量不相关的各种类型的数据中,挖掘出对未来趋势与模式预测分析有价值的数据,并通过机器学习方法、人工智能方法或数据挖掘方法深度分析,发现新规律和新知识,并运用于农业、金融、医疗等各个领域,从而最终达到改善社会治理、提高生产效率、推进科学研究的效果。
大数据六大发展趋势
虽然大数据目前仍处在发展的起步阶段,尚存在着诸多的困难与挑战,但我们相信,随着时间的推移,大数据未来的发展前景非常可观。
1.数据将呈现指数级增长
近年来,随着社交网络、移动互联、电子商务、互联网和云计算的兴起,音频、视频、图像、日志等各类数据正在以指数级增长。据有关资料显示,2011年,全球数据规模为18ZB,可以填满575亿个32GB的iPad,这些iPad可以在中国修建两座长城。到2020年,全球数据将达到40ZB,如果把它们全部存入蓝光光盘,这些光盘和424艘尼米兹号航母重量相当。美国互联网数据中心则指出,互联网上的数据每年将增长50%,每两年便将翻一番,目前世界上90%以上的数据是最近几年才产生的。
2.数据将成为最有价值的资源
在大数据时代,数据成为继土地、劳动、资本之后的新要素,构成企业未来发展的核心竞争力。《华尔街日报》在一份题为《大数据,大影响》的报告宣传,数据已经成为一种新的资产类别,就像货币或黄金一样。IBM执行总裁罗睿兰认为指出,“数据将成为一切行业当中决定胜负的根本因素,最终数据将成为人类至关重要的自然资源。”随着大数据应用的不断发展,我们有理由相信大数据将成为机构和企业的重要资产和争夺的焦点谷歌、苹果、亚马逊、阿里巴巴、腾讯等互联网巨头正在运用大数据力量获得商业上更大的成功,并且将会继续通过大数据来提升自己的竞争力。
3.大数据和传统行业智能融合
通过对大数据收集、整理、分析、挖掘, 我们不仅可以发现城市治理难题,掌握经济运行趋势,还能够驱动精确设计和精确生产模式,引领服务业的精确化和增值化,创造互动的创意产业新形态。麦当劳、肯德基以及苹果公司等旗舰专卖店的位置都是建立在数据分析基础之上的精准选址。百度、阿里、腾讯等通过对海量数据的掌握和分析,为用户提供更加专业化和个性化的服务。在智慧城市建设不断深入的情况下,大数据必将在智慧城市中发挥越来越重要的作用。由城市数字化到智慧城市,关键是要实现对数字信息的智慧处理,其核心是引入了大数据处理技术,大数据将成为智慧城市的核心智慧引擎。智慧金融、智慧安防、智慧医疗、智慧教育、智慧交通、智慧城管等,无不是大数据和传统产业融合的重要领域。
4.数据将越来越开放
大数据是人类的共同资源、共同财富,数据开放共享是不可逆转的历史潮流。随着各国政府和企业对开放数据带来的社会效益和商业价值认识的不断提升,全球必将很快掀起一股数据开放的热潮。事实上,大数据的发展需要全世界、全人类的共同协作,变私有大数据为公共大数据,最终实现私有、企业自有、行业自有的全球性大数据整合,才不至形成一个个毫无价值的“数据孤岛”。大数据越关联越有价值,越开放越有价值。尤其是公共事业和互联网企业的数据开放数据将越来越多。目前,美欧等发达国家和地区的政府都在政府和公共事业上的数据做出了表率。中国政府也将一方面带头力促数据公开共享,另一方面,还通过推动建设各类大数据服务交易平台,为数据使用者提供丰富的数据来源和数据的应用。
5.大数据安全将日受重视
大数据在经济社会中应用日益广泛的同时,大数据的安全也必将受到更多的重视。大数据时代,在我们用数据挖掘和数据分析等大数据技术获取有价值信息的同时,“黑客”也可以利用这些大数据技术最大限度地收集更多有用信息,对其感兴趣的目标发起更加“精准的”攻击。近年来,个人隐私、企业商业信息甚至是国家机密泄露事件时有发生。对此,美欧等发达国家纷纷制定完善了保护信息安全、防止隐私泄露等相关法律法规。可以预见,在不久的将来,其他国家也会迅速跟进,以更好地保障本国政府、企业乃至居民的数据安全。
6.大数据人才将备受欢迎
随着大数据的不断发展及其应用的日益广泛,包括大数据分析师、数据管理专家、大数据算法工程师、数据产品经理等在内的具有丰富经验的数据分析人员将成为全社会稀缺的资源和各机构争夺的人才。据著名国际咨询公司Gartner预测,2015年全球大数据人才需求将达到440万人,而人才市场仅能够满足需求的三分之一。麦肯锡公司则预测美国到2018年需要深度数据分析人才44万—49万,缺口为14万—19万人。有鉴于此,美国通过国家科学基金会,鼓励研究性大学设立跨学科的学位项目,为培养下一代数据科学家和工程师做准备,并设立培训基金支持对大学生进行相关技术培训,召集各个学科的研究人员共同探讨大数据如何改变教育和学习等。英国、澳大利亚、法国等国家也类似地对大数据人才的培养做出专项部署。IBM 等企业也开始全面推进与高校在大数据领域的合作,力图培养企业发展需要的既懂业务知识又具分析技能的复合型数据人才。(武锋:国家信息中心)
在物联网快速发展,大数据服务日趋完善的今天,传感器作为数据采集的重要入口,势必将在接下来的几年里迎来爆发式的需求增长,无线传感器、智能传感器、无线自组网等技术也将得到重大突破。
传感器从19世纪60年代诞生至今大约有150余年的时间,如今随着物联网产业的快速发展,对于传感器技术提出了更多、更高的要求。麦肯锡报告指出,到2025年,物联网带来的经济效益将在27万亿到62万亿美元之间,传感器作为物联网传感层数据采集的重要入口,势必也将在接下来的几年里迎来爆发式的增长。
传感器,是由一种敏感元件和转换元件组成的检测装置,能感受到被测量,并能将检测和感受到的信息按照一定规律转换为电信号(电压、电流、频率或者是相位等)的形式输出,最终为物联网应用的数据分析、人工智能提供数据来源。
物联网浪潮即将来袭 传感器技术的研究方向有哪些?
1、无线传感器(UGS)
不管是在智能交通、智慧城市、智能农业、工业物联网,还是野外灾害预防等领域,人类想要做到对于物理世界的全面感知首先得确保感知层获得的数据要全面和准确,这也就是说物联网系统需要根据应用的领域和具体的需求去布置大量的传感器,甚至有需要时会采取飞机播撒的方式来进行大范围布置,这样的话,传感器与物联网系统就不可能采用物理连接的方式,而必须采用无线信道来传输数据和通信。
2、智能传感器
智能传感器是用嵌入式技术将传感器与微处理器集成为一体,使其成为具有环境感知、数据处理、智能控制与数据通信功能的智能数据终端设备。其具有自学习、自诊断和自补偿能力、复合感知能力以及灵活的通信能力。这样,传感器在感知物理世界的时候反馈给物联网系统的数据就会更准确,更全面,达到精确感知的目的。
在微电子学中讲到,集成电路的特征尺寸越小意味着该器件的集成度越高,运行速度越快、性能越好,物联网系统中传感器的尺寸越小对于系统在布置时也意味着更加方便、性能更优。
MEMS(微型电子机械系统),利用传统的半导体工艺和材料,集微型传感器、微型执行器、微机械机构,以及信号处理和控制电路,直至接口、通信和电源等于一体的微型器件或系统。这种小体积、低成本、集成化、智能化传感系统是未来传感器的重要发展方向,也是物联网的核心。也因此,MEMS传感器领域成为相关企业布局的重中之重。
3、无线自组网(Ad hoc)
说到这个无线自组网,可能很多读者会比较陌生一点,但是它的重要性不容忽视。相比于传统的网络,无线自组网采用的是一种不需要基站的“对等结构”移动通信模式,网络中所有联网设备可以在移动过程中动态组网。
这样的组网方式都有什么优点呢?
首先,优点之一就是无中心控制节点,这就是说这种网络没有分组路由与转发的路由器;再者,在工作过程中,其中一个节点离开网络后,网络拓扑会呈现动态的变化,形成一个新的拓扑。这种组网技术在军事领域和车联网领域备受推崇。
最终,传感器技术的三大研究方向将会得到一个融合,推动无线传感器网络(WSN)的诞生。
国、内外重要的传感器供应商都有哪些?
外国知名的传感器企业:
博世、意法半导体、霍尼韦尔、飞思卡尔、德州仪器、ADI、楼氏电子、飞利浦、英飞凌、日立等。
中国知名的传感器企业:
汉威电子、大立科技、华工科技、远望谷、耐威科技、高德红外、歌尔股份、中航电测、盾安环境、士兰微等。
目前,全球传感器市场主要由美国、日本以及德国的几家龙头公司主导。全球传感器约有22万余种,中国已经拥有常规类型和品种约7000种,而90%以上的高端传感器仍严重依赖进口,数字化、智能化、微型化传感器严重欠缺。
中国三大传感器生产基地
目前,国内有三大传感器生产基地,分别为:安徽基地,主要以建立力、光敏规模经济为主要目标;陕西省敏感技术产业集团公司,主要以建立电压敏、热敏、汽车电子规模经济为主要目标;黑龙江基地则主要以建立气、湿敏规模经济为主要目标。
受传感器巨大前景的影响,中国的传感器企业也在不断增多。在相关技术方面,我国企业已基本具备了中、低端传感器的研发能力,并逐渐在向高端领域拓展。
中国与美、日、德在传感器领域的差距为我们的增长提供了空间,也指明了方向。在物联网时代,市场对于传感器巨大需求的刺激,以及在众多本土企业的参与,中国传感器产业有望取得傲人的成绩。
以上由物联传媒提供,如有侵权联系删除
情景就是和未来相关的故事未来可预测
预测未来是有益的
预测是专家的工作
决策者单纯接受预测的结果
以每项变数单独变化的敏感度分析为主流
未来不可预测
预测未来只是白费功夫
重视建构脚本的过程
作为认识状况的工具
对所有脚本同样重视
考虑相关性后,改变各项变数
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)