简述物流发展的历程

简述物流发展的历程,第1张

物流发展历程:

1、物的流通;

2、后勤物流;

3、生产物流;

4、生产技术的应用;

5、供应链物流;

6、物联网的发展;

大数据技术发展史:大数据的前世今生

今天我们常说的大数据技术,其实起源于Google在2004年前后发表的三篇论文,也就是我们经常听到的“三驾马车”,分别是分布式文件系统GFS、大数据分布式计算框架MapReduce和NoSQL数据库系统BigTable。

你知道,搜索引擎主要就做两件事情,一个是网页抓取,一个是索引构建,而在这个过程中,有大量的数据需要存储和计算。这“三驾马车”其实就是用来解决这个问题的,你从介绍中也能看出来,一个文件系统、一个计算框架、一个数据库系统。

现在你听到分布式、大数据之类的词,肯定一点儿也不陌生。但你要知道,在2004年那会儿,整个互联网还处于懵懂时代,Google发布的论文实在是让业界为之一振,大家恍然大悟,原来还可以这么玩。

因为那个时间段,大多数公司的关注点其实还是聚焦在单机上,在思考如何提升单机的性能,寻找更贵更好的服务器。而Google的思路是部署一个大规模的服务器集群,通过分布式的方式将海量数据存储在这个集群上,然后利用集群上的所有机器进行数据计算。 这样,Google其实不需要买很多很贵的服务器,它只要把这些普通的机器组织到一起,就非常厉害了。

当时的天才程序员,也是Lucene开源项目的创始人Doug Cutting正在开发开源搜索引擎Nutch,阅读了Google的论文后,他非常兴奋,紧接着就根据论文原理初步实现了类似GFS和MapReduce的功能。

两年后的2006年,Doug Cutting将这些大数据相关的功能从Nutch中分离了出来,然后启动了一个独立的项目专门开发维护大数据技术,这就是后来赫赫有名的Hadoop,主要包括Hadoop分布式文件系统HDFS和大数据计算引擎MapReduce。

当我们回顾软件开发的历史,包括我们自己开发的软件,你会发现,有的软件在开发出来以后无人问津或者寥寥数人使用,这样的软件其实在所有开发出来的软件中占大多数。而有的软件则可能会开创一个行业,每年创造数百亿美元的价值,创造百万计的就业岗位,这些软件曾经是Windows、Linux、Java,而现在这个名单要加上Hadoop的名字。

如果有时间,你可以简单浏览下Hadoop的代码,这个纯用Java编写的软件其实并没有什么高深的技术难点,使用的也都是一些最基础的编程技巧,也没有什么出奇之处,但是它却给社会带来巨大的影响,甚至带动一场深刻的科技革命,推动了人工智能的发展与进步。

我觉得,我们在做软件开发的时候,也可以多思考一下,我们所开发软件的价值点在哪里?真正需要使用软件实现价值的地方在哪里?你应该关注业务、理解业务,有价值导向,用自己的技术为公司创造真正的价值,进而实现自己的人生价值。而不是整天埋头在需求说明文档里,做一个没有思考的代码机器人。

Hadoop发布之后,Yahoo很快就用了起来。大概又过了一年到了2007年,百度和阿里巴巴也开始使用Hadoop进行大数据存储与计算。

2008年,Hadoop正式成为Apache的顶级项目,后来Doug Cutting本人也成为了Apache基金会的主席。自此,Hadoop作为软件开发领域的一颗明星冉冉升起。

同年,专门运营Hadoop的商业公司Cloudera成立,Hadoop得到进一步的商业支持。

这个时候,Yahoo的一些人觉得用MapReduce进行大数据编程太麻烦了,于是便开发了Pig。Pig是一种脚本语言,使用类SQL的语法,开发者可以用Pig脚本描述要对大数据集上进行的 *** 作,Pig经过编译后会生成MapReduce程序,然后在Hadoop上运行。

编写Pig脚本虽然比直接MapReduce编程容易,但是依然需要学习新的脚本语法。于是Facebook又发布了Hive。Hive支持使用SQL语法来进行大数据计算,比如说你可以写个Select语句进行数据查询,然后Hive会把SQL语句转化成MapReduce的计算程序。

这样,熟悉数据库的数据分析师和工程师便可以无门槛地使用大数据进行数据分析和处理了。Hive出现后极大程度地降低了Hadoop的使用难度,迅速得到开发者和企业的追捧。据说,2011年的时候,Facebook大数据平台上运行的作业90%都来源于Hive。

随后,众多Hadoop周边产品开始出现,大数据生态体系逐渐形成,其中包括:专门将关系数据库中的数据导入导出到Hadoop平台的Sqoop;针对大规模日志进行分布式收集、聚合和传输的Flume;MapReduce工作流调度引擎Oozie等。

在Hadoop早期,MapReduce既是一个执行引擎,又是一个资源调度框架,服务器集群的资源调度管理由MapReduce自己完成。但是这样不利于资源复用,也使得MapReduce非常臃肿。于是一个新项目启动了,将MapReduce执行引擎和资源调度分离开来,这就是Yarn。2012年,Yarn成为一个独立的项目开始运营,随后被各类大数据产品支持,成为大数据平台上最主流的资源调度系统。

同样是在2012年,UC伯克利AMP实验室(Algorithms、Machine和People的缩写)开发的Spark开始崭露头角。当时AMP实验室的马铁博士发现使用MapReduce进行机器学习计算的时候性能非常差,因为机器学习算法通常需要进行很多次的迭代计算,而MapReduce每执行一次Map和Reduce计算都需要重新启动一次作业,带来大量的无谓消耗。还有一点就是MapReduce主要使用磁盘作为存储介质,而2012年的时候,内存已经突破容量和成本限制,成为数据运行过程中主要的存储介质。Spark一经推出,立即受到业界的追捧,并逐步替代MapReduce在企业应用中的地位。

一般说来,像MapReduce、Spark这类计算框架处理的业务场景都被称作批处理计算,因为它们通常针对以“天”为单位产生的数据进行一次计算,然后得到需要的结果,这中间计算需要花费的时间大概是几十分钟甚至更长的时间。因为计算的数据是非在线得到的实时数据,而是历史数据,所以这类计算也被称为大数据离线计算。

而在大数据领域,还有另外一类应用场景,它们需要对实时产生的大量数据进行即时计算,比如对于遍布城市的监控摄像头进行人脸识别和嫌犯追踪。这类计算称为大数据流计算,相应地,有Storm、Flink、Spark Streaming等流计算框架来满足此类大数据应用的场景。 流式计算要处理的数据是实时在线产生的数据,所以这类计算也被称为大数据实时计算。

在典型的大数据的业务场景下,数据业务最通用的做法是,采用批处理的技术处理历史全量数据,采用流式计算处理实时新增数据。而像Flink这样的计算引擎,可以同时支持流式计算和批处理计算。

除了大数据批处理和流处理,NoSQL系统处理的主要也是大规模海量数据的存储与访问,所以也被归为大数据技术。 NoSQL曾经在2011年左右非常火爆,涌现出HBase、Cassandra等许多优秀的产品,其中HBase是从Hadoop中分离出来的、基于HDFS的NoSQL系统。

我们回顾软件发展的历史会发现,差不多类似功能的软件,它们出现的时间都非常接近,比如Linux和Windows都是在90年代初出现,Java开发中的各类MVC框架也基本都是同期出现,Android和iOS也是前脚后脚问世。2011年前后,各种NoSQL数据库也是层出不群,我也是在那个时候参与开发了阿里巴巴自己的NoSQL系统。

事物发展有自己的潮流和规律,当你身处潮流之中的时候,要紧紧抓住潮流的机会,想办法脱颖而出,即使没有成功,也会更加洞悉时代的脉搏,收获珍贵的知识和经验。而如果潮流已经退去,这个时候再去往这个方向上努力,只会收获迷茫与压抑,对时代、对自己都没有什么帮助。

但是时代的浪潮犹如海滩上的浪花,总是一浪接着一浪,只要你站在海边,身处这个行业之中,下一个浪潮很快又会到来。你需要敏感而又深刻地去观察,略去那些浮躁的泡沫,抓住真正潮流的机会,奋力一搏,不管成败,都不会遗憾。

正所谓在历史前进的逻辑中前进,在时代发展的潮流中发展。通俗的说,就是要在风口中飞翔。

上面我讲的这些基本上都可以归类为大数据引擎或者大数据框架。而大数据处理的主要应用场景包括数据分析、数据挖掘与机器学习。数据分析主要使用Hive、Spark SQL等SQL引擎完成;数据挖掘与机器学习则有专门的机器学习框架TensorFlow、Mahout以及MLlib等,内置了主要的机器学习和数据挖掘算法。

此外,大数据要存入分布式文件系统(HDFS),要有序调度MapReduce和Spark作业执行,并能把执行结果写入到各个应用系统的数据库中,还需要有一个大数据平台整合所有这些大数据组件和企业应用系统。

图中的所有这些框架、平台以及相关的算法共同构成了大数据的技术体系,我将会在专栏后面逐个分析,帮你能够对大数据技术原理和应用算法构建起完整的知识体系,进可以专职从事大数据开发,退可以在自己的应用开发中更好地和大数据集成,掌控自己的项目。

希望对您有所帮助!~

在17~18世纪的西方法哲学领域中,古典自然法学派最为流行。19世纪,历史法学、哲理法学和分析法学三派兴起。至19世纪末20世纪初,分派开始增多。第二次世界大战后,西方法哲学的分派更为繁多 ,占主导地位的是新自然法学(或与此类似的价值论法学)、新分析法学和法律社会学。除这三大派外,还有些较难列入以上三派的学派,如二战前的新康德主义法学和新黑格尔主义法学,战后兴起的经济分析法学、批判法学、新修辞学法学等。
西方法哲学自20世纪初开始传入中国。80年代以后,中国若干法律院校开设有关课程,一些法学家还出版或发表有关这一学科的教材、专著、译著、论文等。也有少数法学家提出要研究马克思主义法。
法哲学是关于法的最高形式的理论思维。法哲学所研究的是法的各个层次中的最高抽象及其现实化运动。法哲学,即法律哲学(Philosophy of Law or Legal Philosophy),是从哲学的角度和用哲学的方法来研究和思考法学问题的一种综合学科。它既是应用哲学(或部门哲学)的一个门类;又是理论法学的一个分科。
法哲学的内容早在古希腊、罗马时代就已存在,其名称18世纪末19世纪初才开始盛行。1798年历史法学派的首创人胡果将其出版的著作定名为《作为实在法,特别是私法哲学的自然法教科书》。1821年,GWF黑格尔的《法哲学原理》出版。那时科学还不发达,哲学作为“科学的科学”而代替一切科学,特别是一些唯心主义哲学家力图建立一个包罗万象的哲学体系,将其他学科都作为这一体系中的一个环节。黑格尔的哲学可以说是这种体系的最后尝试,他的法哲学是他的庞大的唯心主义哲学体系中的一个组成部分。从19世纪中期起,随着资本主义立法和司法的广泛发展,法学才逐步与哲学、政治学相分离而成为一门独立的学科。与此同时,哲学家或政治学家的法哲学也逐渐成为主要是法学家的法哲学,法哲学也就相应成为法学的一个分科。抽象的法本身虽然是纯粹的思想创造物,但是它的产生不是没有客观基础的。思想的抽象最终来源于客观存在。关于法的抽象思维根本上是实证法发展到一定阶段的产物。实证法的发展决定了法的抽象思维的客观性。当作为客观存在的实证法发展到一定程度时,就出现了进行高度理论概括的需要。法的客观存在的各种属性和联系构成关于法的抽象思维的内容。法哲学的存在和发展不外要表现现实法的存在和发展的必然性。抽象的法只是现实法的存在的反映。现实法通过理性的中介,将自己对象化为抽象的法的概念,由自在的法发展到自为的法,由感性的具体形式达到理性的普遍形式。法的客观存在决定了关于法的思维,同时它又在自己的对象中获得了升华,存在决定思维的辩证唯物主义规律将在法哲学中得到充分的印证。
抽象的法根源于现实法的存在,同时,它又具有相对的独立性,它本身是主观化了的客观存在。相对于人的思维来说,法是一个设定的自在自为的主体,这个主体有其相对独立的发展过程,需要人们通过理性去认识它。从这种意义上说,人们关于法的认识只是这一自在自为的主体产生的对象。抽象的法的发展表现为人的思维对它的认识。离开它的相对独立性,离开它的自在自为性,法哲学的进展就会寸步难行。法作为理性的存在具有规定性、多样性,其规定性和多样性的展开便反映在人类思维对它的认识过程中。从法的发展过程方面看,法是自在自为的主体,人类思维关于它的认识只是它产生的对象;从人类思维的认识方面看,作为观念存在的法便成为思维认识的对象,而人类关于它的思维又成为认识主体。法与人类思维关于它的认识形成对立的统一,二者均在各自的对象中得到了印证。
法的不同规定的全面展开,是一个由潜在到实在、由自在到自为的发展过程。其中,法的内部矛盾的对立统一起到决定性的作用。法不是由空洞的普遍性所构成。作为特定的客观实证法的普遍抽象,它本身就是特殊的存在,是一个特殊的类。在法的发展过程中,始终包含有普遍与特殊的对立统一,全体的普遍包含在发展过程的各个环节的特殊之中。法的内在矛盾性是客观存在的反映。法在其自身的前进中不断由客观到主观,再由主观回到客观,表现出否定之否定的辩证发展规律。因此,法哲学所研究的法,不是静态的单一化的,而是动态的由诸多对立统一的矛盾相互转化环节构成的系统。确切地说,法哲学所关注的法自身运动,是法漫长的自我表现的进程。在法的运动过程中,人们将发现思维与存在的同一性。

大数据发展历程有几个阶段如下:

1、大数据技术发展的初期

虽然大数据概念已经被提出多年,但是目前大数据技术依然处在行业发展的初期。当前大数据技术本身已经趋于成熟

但是大数据技术的落地应用却刚刚开始,大数据落地应用的过程中必然会释放出大量的工作岗位和市场空间,这个过程将使得大数据成为市场的热点,人才和资金都会向大数据领域倾斜。

2、产业化阶段

大数据产业化的过程将是一个系统的过程,这个过程不仅仅涉及到大数据技术,也涉及到物联网、云计算等技术,另外大数据与传统行业也有密切的联系,这些都需要一个系统的规划才能完成大数据的产业化。

虽然目前大数据领域已经有了一个初步的产业链,但是离真正的产业化阶段还有较长一段距离,相信随着产业互联网的发展,大数据产业化的进程也会加快。从大数据自身涉及到的内容来看,大数据产业化的时间有可能需要数年甚至数十年。

3、行业成熟期

当大数据产业化进程结束之后,大数据相关技术将成为传统技术之一,相关的市场规模也会趋于平稳,以大数据为基础的新的应用将成为市场追求的热点。


欢迎分享,转载请注明来源:内存溢出

原文地址: https://outofmemory.cn/dianzi/10751306.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-05-11
下一篇 2023-05-11

发表评论

登录后才能评论

评论列表(0条)

保存