企业应该如何进行DQM—数据质量管理

企业应该如何进行DQM—数据质量管理,第1张

数据质量管理作一些思考和剖析。

 提高对数据质量重要性认识的基础是对数据质量基本属性的认识。

数据是有效开展企业信息化管理和辅助决策分析的依据,是实现企业信息化高速发展的重要保障,因此其质量和时效性已经越来越受到高度关注。我们对数据建设和应用进行了重点投入,目的就是能够拥有丰富、准确、及时、有效的数据资源,占据现代企业信息化管理中的优势地位。数据就是资产的理念已被普遍认识,但要从基本上提高对数据质量重要性的认识,并潜化为工作方式和习惯,就必须立足于对数据及其质量本质的解析,从而推动实践,把握进程。 

思考:大集中环境下数据的属性有哪些?如何去监控这些要素达到提高数据质量的目的?

数据作为企业信息化应用的主体,它具有多重属性,其基本质量特性主要包括适用性、准确性、完整性、及时性、有效性等五个方面,要对数据质量进行较好地控制,就必须对数据的五个基本质量特性进行很好了解,从而在各个方面采取措施,杜绝数据质量问题的出现,使数据监控工作能够真正达到控制数据质量的目的。

1数据的适用性。在企业业务开展过程中,会产生大量的各类企业数据,这些数据有企业动态信息等反应不断变化的数量型数据,也有相应企业静态信息等相对稳定的属性信息。这些数据有的是为企业管理和决策服务的,有的则是满足各级管理和分析的需求,这就从客观上造成数据的多样化,同时也是为满足不同专业、不同岗位的 *** 作人员服务的。不同的数据具有不同的使用范围,每个数据的正确性都要求它是进入正确的专业应用,换句话说:无论多么准确、及时的数据,如果不具有适用性,它就不能产生任何效益,甚至 *** 作人员使用之后会造成损失。

2数据的准确性。数据的准确性一般是说数据测量值与真实值相比的符合情况,但在税务登记的基础数据的采集和录入处理过程中,数据的准确性往往变成是指所采集入库的数据值与实际应采集记录的正确值之间的差异。在数据监控和质量控制的过程中,准确性越好的数据,其误差应该越小。影响数据准确性的因素很多,数据误差在数据采集、审核、录入、传输和处理等的各个环节都可能产生。我们需要从各个方面分析影响数据准确性的因素,同时有效控制不同类型数据的合理变化范围,将数据误差控制在尽可能理想的范围内,以保证数据的准确性。

3数据的及时性。在日常数据的管理中,往往要求能够更快、更准地收集到所需的数据。在日常生活中,也有“时间就是金钱”的说法。把这些要求应用到数据上,那就是说数据也必须要有及时性。一个好的应用系统在使用数据时不仅要求数据的适用性还必须考虑数据的及时性,应用系统引入企业管理的主要目的是提高工作效率,把大量复杂、繁重的重复计算、统计、分类工作交由计算机处理并迅速得出准确结果。如果数据不及时,那么应用系统的处理结果就可能违背了程序设计和使用者的初衷,不仅无法提高工作效率,还可能由于数据滞后而影响税款征收的正常化。因此根据数据应用需求及时采集数据,按照 *** 作人员要求及时发布数据,是保证数据及时性的重要一环。

4数据的完整性。数据的完整性相对于准确性和及时性来说并不显得那么重要,但其实它引起的问题并不比前两者轻松。数据的完整性就是我们日常所说“数据齐、全、准”当中的“全”。在数据采集过程中,要把所需信息全部采集完整,数据的完整性一点也不亚于准确性的重要程度,在数据表格、数据库充分应用的情况,对数字的规范化填写要求越来越完善,单独强调数据完整性的情况会越来越少。

5数据的有效性。在解决好数据适用性、准确性、及时性、完整性的情况,需要考虑数据的有效性。对于一个及时采集获得,准确、及时、完整的数据,还需要考虑这个数据使用的时间和对象。一堆过期的数据无异于废品或垃圾,是不产生价值的,因此在使用数据时,要考虑它是否有效。

当然,数据除拥有以上的质量特性之外,还具有可取得性、可衔接性、可解释性、客观性、专业性、可比性等属性特性,这些属性特性对于数据的质量控制也有一定的影响,因此我们在重点监控五个基本质量特性外,也要关注这些属性特征,尤其是在加工和利用中通过技术手段来规范这类属性,达到提高数据质量的目标。

结论:数据是否可信、可用,这是企业部门关心数据的两个层面。是否可信是指数据在适用性、准确性、完整性、及时性和有效性方面,是否满足应用要求;是否可用是指数据的格式、内容等能否被 *** 作人员读取和使用,能不能很方便地进行深入处理和分析。以上两个层面中,可信就是数据的基本质量问题,需要通过采取管理手段、技术手段等各方面的努力来解决;可用是技术层面的问题,主要通过技术手段使数据规范化、格式化。

1 坚持数据质量可控的前提下,对目前大集中运行中存在的数据质量问题要理性对待、科学解决、持续改进

2 思考:目前大集中环境下,在数据质量方面的问题和难点主要有哪些?解决的路径如何去选择?

 目前,影响数据质量的因素主要表现在以下几个方面:

1缺乏科学、规范、完整的数据质量标准。有些情况下对录入数据的格式或来源没有统一明确的要求,缺少统一、规范的审核程序和标准,在录入后就成为问题数据,或在数据加工、利用过程中形成垃圾数据。

2数据采集手段相对单一,不能全面采集数据。目前,信息来源面窄,获取信息的手段落后,致使数据质量受到影响。数据采集不全的问题比较突出,多侧重于对纳税人静态信息的收集,而对动态数据的采集不够全面,不能真实掌握实际经营状况。

3数据信息共享程度差。一方面表现为系统内部各软件间数据定义没有统一标准,数据关联性差,信息资源无法得到充分利用;另一方面,由于受社会条件的制约,

4缺乏系统的数据质量管理机制。如大集中系统 *** 作人员无后台权限,查询不便、修改不便,导致数据纠错机制运转不畅;没有统一规范的数据质量标准,导致对数据审核、监督和考核机制缺失等等。

5人员 *** 作水平制约数据质量的提升。一方面,基层分局存在老龄化、信息化基础薄弱的现象。开展了多种多样的岗前培训,而且从主观上也希望能够全面掌握,但是由于基础薄弱导致 *** 作的熟练程度、准确程度有所欠缺。也有极个别现象同志工作责任心不强,对待一些简单重复性的工作缺少工作耐心,致使错误数据屡屡出现。另一方面,人员对网上申报等系统的掌握程度不一,意识不同,也影响到了原始数据的真实性和及时性。

 1建立数据质量管理标准。有了统一的数据标准后,数据录入采集、加工处理等诸过程都将按照标准要求进行,数据混乱出错的情况将大为减少。需要整理发布的基础性数据标准包括业务元数据的标准和相关代码的标准。

 2业务元数据是关于业务数据的数据,即对业务数据或信息进行描述的数据。发布业务元数据的标准就是提供一个统一的业务数据项定义和描述方法,对数据元素名称、数据元素定义、数据来源、源数据载体、数据类型、逻辑一致性、采集主体、采集频率、更新等级、业务类别等方面作详细说明。

 3完善数据质量管理机制。为了保证业务数据准确、及时、完整一致,必须要有专门的机构和岗位负责业务数据质量的监督管理。当前,各级要在建立健全税源管理中心的机制、职能的过程中,专门设置数据质量管理岗,或将数据管理的职能详细明确到相关岗位,牵头负责企业业务数据的质量管理,使得业务数据质量管理工作制度化、常规化。如负责统筹企业业务数据质量管理工作,制定有关制度和办法,业务数据加工处理过程中的质量控制,按照规定进行技术岗位数据变更,并对系统企业业务数据质量情况进行考核;信息部门负责系统数据资源的安全传输和存储;各业务部门根据各自业务管理权限,负责对应范围内的企业业务数据质量管理,参与相关制度办法、数据审计规则和问题数据处理方案的制定;各基层单位所负责本部门业务范围内企业业务数据质量管理;各岗位人员对自身采集录入的业务数据质量负责;对其他岗位采集录入的,且属于本岗位管辖范围的数据质量负责。在明确职责的基础上,应相应完善一系列管理制度,确保落实过程中的可 *** 作性。

4提供数据质量管理工具。数据质量管理工具针对数据流中的特点,主要体现三个特点:前堵、中控、后审。

5提升 *** 作人员数据应用水平。在培训模式上,建议根据岗位需要,分批分岗位培训,集中整理特殊环节、特殊业务处理的注意事项,尽快下发系统 *** 作的帮助文档。实际应用中其实并不需要太多懂得全流程的通才,更需要熟悉自己岗位所涉及模块的专才,只要每个岗位都能熟练 *** 作,那整个系统才能发挥应有作用。

结论:数据质量问题不外乎两方面原因,管理上(人)的因素和技术上的因素,建立健全科学、规范的数据质量管理机制,从组织、制度、技术等层面保障对数据的有效监控,是破解如何保证数据质量难题的关键。

提高数据管理水平的过程中质量和效率的冲突、是必然的,但也是可以化解的

信息化在人的意识中往往意味着速度、效率,当信息化在企业征管中全面应用、快速推进后,手工作业已基本被电子化所取代,由此带来的工作提速是毋庸置疑的。这理应会带来工作量的减轻与征纳的便捷,而易于被征纳双方所接纳。但事实往往会与理论产生偏差,在推进信息管税的过程中,特别是初期,数据质量的提高必然要付出效率的牺牲,也必然会有来自纳税人的阻力,但提高数据质量或者说推进信息技术的根本目的决定了这种冲突是可以化解的。

结论:提高数据信息的质量,加强数据管理,不仅需要在企业工作中充分利用现代信息技术,强化企业业务与信息技术的融合,还要依靠纳税人的配合参与,企业设定的理想化程序未必是最符合当前现实的诉求,必须循序渐进,稳步推进。但一切工作的成败终究取决于人,企业提高的思想认识,更新理念观念,不失为提高数据质量的治本之道。

质量管理体系要求和产品要求的关系

引导语:质量管理体系要求和产品要求的关系,质量管理体系要求是产品要求的补充,但不代替产品要求。下面是我为你带来的质量管理体系要求和产品要求的关系,希望对你有所帮助。

一、全面质量管理(TQM)

全面质量管理Total Quality Management(TQM ): 是指在全面社会的推动下,企业中所有部门,所有组织,所有人员都以产品质量为核心,把专业技术,管理技术,数理统计技术集合在一起,建立起一套科学严密高效的质量保证体系,控制生产过程中影响质量的因素,以优质的工作最经济的办法提供满足用户需要的产品的全部活动。国家标准对质量下的定义为: 质量是产品或服务满足明确或隐含需要能力的特征和特性的总和。全面质量管理就是指一个组织以质量为中心,以全员参与为基础,目的在于通过顾客满意和本组织所有成员及社会受益而达到长期成功途径。在全面质量管理中,质量这个概念和全部管理目标的实现有关。 全面质量管理,即TQM(Total Quality Management)就是指一个组织以质量为中心,以全员参与为基础,目的在于通过顾客满意和本组织所有成员及社会受益而达到长期成功的管理途径。在全面质量管理中,质量这个概念和全部管理目标的实现有关。

二、全面质量管理的特点

1它具有全面性,控制产品质量的各个环节,各个阶段;

2是全过程的质量管理;

3是全员参与的质量管理;

4是全社会参与的质量管理。

三、全面质量管理的内涵

(1)强烈地关注顾客。

从现在和未来的角度来看,顾客已成为企业的衣食父母。“以顾客为中心”的管理模式正逐渐受到企业的高度重视。全面质量管理注重顾客价值,其主导思想就是“顾客的满意和认同是长期赢得市场,创造价值的关键”。为此,全面质量管理要求必须把以顾客为中心的思想贯穿到企业业务流程的管理中,即从市场调查、产品设计、试制、生产、检验、仓储、销售、到售后服务的各个环节都应该牢固树立“顾客第一”的思想,不但要生产物美价廉的产品,而且要为顾客做好服务工作,最终让顾客放心满意。

(2)坚持不断地改进。

TQM是一种永远不能满足的承诺,“非常好”还是不够,质量总能得到改进,“没有最好,只有更好”。在这种观念的指导下,企业持续不断地改进产品或服务的质量和可靠性,确保企业获取对手难以模仿的竞争优势。

(3)改进组织中每项工作的质量。

TQM采用广义的质量定义。它不仅与最终产品有关,并且还与组织如何交货,如何迅速地响应顾客的`投诉、如何为客户提供更好的售后服务等都有关系

(4)精确地度量。

TQM采用统计度量组织作业中人的每一个关键变量,然后与标准和基准进行比较以发现问题,追踪问题的根源,从而达到消除问题、提高品质的目的

四、全面质量管理的基础工作

全面质量管理的基础工作包括:标准化工作、计量工作、质量信

息工作、质量责任制和质量教育工作。

搞好全面质量管理工作必须做好一系列基础工作。因为它是企业建立质量体系、开展质量管理活动的立足点和依据,也是质量管理活动取得成效和质量体系有效运转的前提和保证。全面质量管理基础工作的好坏,决定了企业全面质量管理的水平,也决定了企业能否面向市场长期地提供顾客需要的产品

五、全面质量管理的内容

全面质量管理过程的全面性,决定了全面质量管理的内容应当包括设计过程、制造过程、辅助过程、使用过程等四个过程的质量管理。

(1)设计过程质量管理的内容。

产品设计过程的质量管理是全面质量管理的首要环节。这里所指设计过程,包括着市场调查、产品设计、工艺准备、试制和鉴定等过程(即产品正式投产前的全部技术准备过程)。主要工作内容包括通过市场调查研究,根据用户要求、科技情报与企业的经营目标,制定产品质量目标;组织有销售、使用、科研、设计、工艺、制度和质量管理等多部门参加的审查和验证,确定适合的设计方案;保证技术文件的质量;做好标准化的审查工作;督促遵守设计试制的工作程序,等等。

产品设计的质量职能―――统计资料表明,产品质量的好坏,约60﹪~70﹪是由产品设计的质量所决定的。因此,必须加强产品设计的质量管理。产品设计的质量职能主要是:根据市场调研结果,掌握用户质量要求,做好技术经济分析,确定适宜的质量水平;严格认真地按产品质量设计所规定的程序和要求开展工作,对设计质量进行控制;安排好“早期报警”,包括设计评审、帮障分析、实验室试验、现场试验、小批试验等,把设计造成的先天性缺陷消灭有形成过程之中;做好质量特征重要程度的分级和传递,使其他环节的质量职能按设计要求进行重点控制,确保符合性质量。

设计质量―――具体地说,设计质量是使产品具有技术上的先进性和经济上的合理性,在设计中要积极采用新技术、新工艺新材料,从而提高产品质量的档次;在工艺设计方面,使加工制造方便、降低制造成本、提高经济效益。

设计程序―――指对产品设计工作步骤、顺序和内容的规定。我国一般企业规定产品设计有6个阶段,14个程序。

第一阶段——规划决策:调查技术、市场、社会基本要求、销售去向。市场调研及预测、产品规划构思、先行试验

第二阶段——总体方案设计 : 确定质量目标、技术经济可行性论证,环境要求,总体方案评审。总体方案设计

第三阶段——技术设计,技术设计(产品结构设计,又叫整机设计)

第四阶段——详细设计与试制: 性能指标与经济性预测,初步评审;模拟试验、原理试验。工作图设计样品(机)、样品(机)试制、样品(机)试验、样品(机)鉴定

第五阶段——小批试制: 设计评审、可维修性分析、可靠性分析;系统试验、整机试验、设计定型试验。改进样品(机)、小批试产及鉴定、试销

第六阶段—— 批量投产:调整修改、定型评审;可靠性试验、现场试验、生产鉴定。批量投产,用户服务。

(2)制造过程的质量管理的内容。

制造过程,是指对产品直接进行加工的过程。它是产品质量形成的基础,是企业质量管理的基本环节。它的基本任务是保证产品的制造质量,建立一个能够稳定生产合格品和优质品的生产系统。主要工作内容包括组织质量检验工作;组织和促进文明生产;组织质量分析,掌握质量动态;组织工序的质量控制,建立管理点,等等。

(3)辅助过程质量管理的内容。

辅助过程,是指为保证制造过程正常进行而提供各种物资技术条件的过程。它包括物资采购供应,动力生产,设备维修,工具制造,仓库保管,运输服务等。它主要内容有:做好物资采购供应(包括外协准备)的质量管理,保证采购质量,严格入库物资的检查验收,按质,按量,按期地提供生产所需要的各种物资(包括原材料,辅助材料,燃料等);组织好设备维修工作,保持设备良好的技术状态;做好工具制造和供应的质量管理工作等。另一方面,企业物资采购的质量管理也将日益显得重要。

(4)使用过程质量管理的内容。

使用过程是考验产品实际质量的过程,它是企业内部质量管理的继续,也是全面质量管理的出发点和落脚点。这一过程质量管理的基本任务是提高服务质量(包括售前服务和售后服务),保证产品的实际使用效果,不断促使企业研究和改进产品质量。它主要的工作内容有:开展技术服务工作,处理出厂产品质量问题;调查产品使用效果和用户要求

六、全面质量管理的推行步骤

在具体推行过程中,我们可以从以下几个步骤来实施——

步骤一:通过培训教育使企业员工牢固树立“质量第一”和“顾客第一”的思想,制造良好的企业文化氛围,采取切实行动,改变企业文化和管理形态讨论:何为企业文化

步骤二:制订企业人、事、物及环境的各种标准,这样才能在企业运作过程中衡量资源的有效性和高效性。

步骤三:推动全员参与,对全过程进行质量控制与管理。以人为本,充分调动各级人员的积极性,推动全员参与。只有全体员工的充分参与,才能使他们的才干为企业带来收益,才能够真正实现对企业全过程进行质量控制与管理。并且确保企业在推行TQM过程中,采用了系统化的方法进行管理。

步骤四:做好计量工作。计量工作包括测试、化验、分析、检测等,是保证计量的量值准确和统一,确保技术标准的贯彻执行的重要方法和手段。

步骤五:做好质量信息工作。企业根据自身的需要,应当建立相应的信息系统,并建立相应的数据库。

步骤六:建立质量责任制,设立专门质量管理机构。全面质量管理的推行要求企业员工自上而下地严格执行。从一把手开始,逐步向下实施;TQM的推行必须要获得企业一把手的支持与领导,否则难以长期推行。

;

数据库数据质量是数据库的生命,再好的入库数据质量控制的方法,如果得不能贯彻和执行,也不能保证入库数据的正确性。所以,基于上述入库数据质量控制思想,研发了航空物探数据库数据采集软件(图5-3),强制数据入库工作按规范化的流程执行,保证数据库数据质量。

数据采集软件包括数据导入录入、数据检查、数据编辑、数据归档入库等功能,为了方便数据采集人员工作,把本系统应用软件中的数据查询统计和数据制图功能也集成到该软件中。各部分功能分述如下。

图5-3 数据库数据采集软件结构

一、创建项目

航空物探勘查项目工作一般分为航空物探生产测量、数据处理和地质解释3个阶段,野外生产测量和数据处理完成之后分别编写航空物探生产报告和数据处理报告,通过评审后须上交测量资料和处理后的数据。此时,地质解释工作正进行。

航空物探科研项目工作一般是分课题(二级项目)、课题分子课题(三级项目)等进行的。级别低的项目总是最先完成,然后评审和上交资料;级别较高的项目较后完成,一级项目最后完成,最后上交资料。

如果把勘查项目的3个阶段当成3个课题(事实上的确如此,只是习惯上不这样叫),勘查项目和科研项目不仅在工作形式上是一致的,资料上交的次序也是相同的(图5-5)。这种按项目完成的先后次序进行项目资料归档方式,在资料人工管理人工服务时代,人们并没有觉得有什么问题。只是,资料管理方式的变革,人们对资料服务提出了更高的要求,希望资料信息化管理不要再忽视不同级别项目间的关系信息。

这种关系与计算机磁盘文件管理的目录间关系是相似的,目录等同于项目,子目录等同于子项目。目录、子目录间的关系似树形结构,称为目录树;项目、子项目间的关系也似树形结构,称之为项目树。有计算机常识的人都知道,按照一定的方式建立目录树,把文件存在相应目录下,不仅文件管理更有条理,用户查找文件的速度也成倍提高。因此,本系统采用项目树方式来管理项目资料。该管理方式符合人们的思维习惯,资料查询更方便。

图5-4 数据库数据采集软件主界面

图5-5 不同级别项目资料归档次序图

在新项目数据导入或录入数据库之前,须先创建项目树。建项目树与在磁盘上创建文件目录相似,按项目(目录)、子项目(子目录)顺序创建,不能倒行逆施。然后,按项目导入或录入数据。图5-6为创建项目树界面。用户在父项目的下拉框中选择新建项目的父项目(一级项目为null),再填写项目的档案号等信息后,按“确定”创建项目树的根项目(一级项目),或项目树的一个节点(子项目),并自动为项目分配一个项目标识号,作为识别项目和项目资料的唯一标志。

图5-6 创建项目树功能界面

二、数据录入和导入

项目数据进入数据库有数据录入和数据导入两种方式。数据录入方式是使用系统的数据录入界面将数据直接录入到数据采集库中。若用户已按入库数据接口标准要求整理好入库数据,可采用导入方式将数据导入到数据采集库中。其实,这两种方式没有本质上的差别。例如,项目概况数据、空间要素类(岩石物性、异常、解释评价)属性数据等都必须是人工录入的,区别是谁来录入资料整理人员,还是数据采集人员这不属本系统的研究范畴,系统支持这两种数据入库方式。

因数据库的每张表所包含的信息不同,所以每张表都应有独立的数据录入界面(录入、浏览、编辑数据)。加之用户查询界面、数据统计界面,1张数据库表需要3个用户界面。本系统共有地球物理数据库表31张,按照常规做法需要开发93个用户界面。随着航空物探技术发展,可能在数据库表中增加新的信息,或新增数据库表,都需要通过修改软件代码来满足新的需求。该方法不仅软件研发和测试工作量大,后期软件维护工作量也很大。

为此,本系统研究出根据数据库表的描述信息动态生成用户界面的方法,此方法具有很好的通用性,对数据库的所有表均适用,有效地降低了软件开发工作量,方便了后期软件维护。图5-7是使用该方法动态生成的项目概况数据录入界面,用于项目概况数据的录入和编辑。

图5-7 项目概况数据的录入定制界面

该方法是将数据库表的描述信息存储在资料库中的库表属性清单表中,在运行时系统根据数据库表名称从库表属性清单表和其相关的数据字典表中提取该表对应的字段信息,然后调用界面定制函数,根据界面类型(录入、浏览、修改、简单查询)动态生成相应的界面。

由于数据库表包含的字段数相差较大(多的近30个字段,少的不到10个字段)、同一表的字段类型不同(有字符串、数字、时间、大字段)、字段数据类型长度不一(有的字段长度为200个字符,有的只有1个字符),同时库表的相关字段在界面上相邻摆放较合适,针对这些问题在界面定制时采取以下策略:

1)对库表字段分组,并为每组取一个合适的名字。在定制界面上,同组的字段摆放在同一张卡片中,组名作为卡片名。

2)字段值来源于数据字典表的数字型字段,用组合框显示其值,组合框中内容从数据字典表提取。用文本框显示其他数字型字段、字符串型字段值。

3)根据定制界面上父控件的尺寸、字段名称、字段数据类型长度确定其对应控件的位置和大小,控件的布局遵循一行最多显示两字段的原则。

不同类型界面的定制方法大同小异,因此采用了同界面定制代码,只是在个别地方根据需要相关处理。例如,对于大字段型的字段,如果界面定制类型为“录入”,则其对应文本框后的命令按钮为打开文件。如果界面定制类型为“浏览”,则其对应文本框后的命令按钮为浏览大字段值。

三、入库前系统检查

入库数据进入采集数据前,系统对其进行唯一性检查、缺项检查和数据类型检查,即入库前系统检查。

唯一性检查:航空物探资料库是航空物探数据的最终目的地,但可能会有部分项目数据因没有通过质量检查而滞留在采集库中。在进行新的项目数据采集过程时,为了避免项目数据2次入库,在其进入采集库前需要进行唯一性检查。方法是用入库数据每条记录主键作为查询条件,查找资料库和采集库中相对应的库表是否存在有相同的记录。例如,黄海北部海域航空磁测普查(项目标识号AGS011978000251),在项目概况数据导入采集库时,根据项目概况数据库表的项目标识号(主键)在采集库和资料库的相应表中查找是否有相同的项目标识号存在:若资料库中存在,说明该项目数据已归档;若采集库中存在,该项目数据已被导入采集库中待检,不需再次导入。

缺项检查:入库数据的字段数必须等于相应数据库表的字段数,比数据库表字段数多或少都不能通过缺项检查。

数据类型检查:对入库数据所有字段数据进行类型检查。若是日期型数据,则检查数据格式(YYYY-MM-DD),YYYY、MM、DD是否为数字。若数字型数据,检查整数位和小数位的位数是否超过范围,整数位和小数位是否为数字。字符型数据,则检查字符串长度是否超限。

入库数据通过入库前系统检查后被存入采集库中,否则软件给出错误提示信息(图5-8)。采集人员根据提示信息纠正数据中存在错误,再新导入数据。

图5-8 入库前系统检查的错误提示

四、入库后系统检查

系统对进入采集库中的数据进行非空和可空检查、前后数据检查、相关数据检查、值域范围检查、选择范围检查,即入库后系统检查(图5-9)。

非空检查:入库数据指定字段的值不能为空,如所有数据库表的项目标识不能为空,项目名称、项目参加单位名称、参加人员名称都不能为空。

可空缺项检查:入库数据指定字段的值在有一定条件下可以为空,例如当勘查项目概况表记录方式字段的值为打点记录或纸卷模拟记录时,航磁数据的采样率为空。若为数字收录,航磁数据的采样率不能为空。

前后数据检查:检查入库数据指定字段与其父表中相同字段数据的一致性,如项目参加人员表中的项目标识必须与项目概况信息中的项目标识相同。

图5-9 入库后系统检查

相关数据检查:检查相关表中相关字段数据对入库数据指定字段的约束,如项目概况信息中有项目的起始日期和完成日期两个字段,那么项目人员参加项目工作的起止日期都必须在项目的起始日期和完成日期之间。

值域范围检查:入库数据指定字段的数值必须是在设定的值域范围内,如勘查项目概况中的调机小时设定在0和100 h范围,若超过此范围,调机小时数据有错误。

选择范围检查:入库数据指定字段的数值必须是一个已知数据集合的元素之一,如项目成果评价只能在优秀、良好、通过和不合格4个选项中择其一。

根据选定的库表名提取该库表各个字段的检查规则,逐条记录进行前后数据检查、相关检查、值域范围检查、选择范围检查。发现错误,把错误记录暂存在内存中,继续进行下条记录检查,至所有记录检查完。把错误写入检查日志表(若有相同检查日志记录,则先备份到检查日志备份表后再删除,以便查看数据入库不通过的历史轨迹);否则,写入一条系统检查通过的日志记录。再进行另一张表的系统检查,所有库表全部检查后,若有错误,系统给出错误提示信息。

五、拓扑检查

航空物探解释数据和评价数据为空间要素类数据,入库时要进行拓扑检查(表5-6,图5-10)。检查各要素类之间相互位置关系的正确性。

以油气远景评价数据集为例说明拓扑检查。检查规则是局部构造异常位置应位于油气远景评价区的某一分布区内,油气远景评价区之间不以有重叠。若发现错误,把检查的错误日志暂存在内存中,继续进行拓扑检查;检查完成后,把错误写入检查日志表。没有发现拓扑错误写入一条通过拓扑检查的日志记录。

表5-7 解释数据和评价数据拓扑检查规则表

图5-10 拓扑检查空间数据源列表界面

六、文件比较检查

通过入库后系统检查和拓扑检查的入库数据,系统将对其进行与原数据文件比较检查,保证数据的一致性。所有的入库数据均须与原数据文件进行比较检查。

根据项目标识号和库表名从采集库中提取相应的数据,若存在数据字典代码,则将其替换文字字符,存放在Oracle临时表中;打开本地路径下原数据文件,逐条记录对比。若有不匹配的记录,显示提示信息,并在日志库中写一条检查日志。

七、人工检查与复核

经过系统检查、空间拓扑检查,以及文件比较检查后,还必须进行人工检查和人工复核检查。人工检查是用原表格数据、空间属性数据、解释评价数据、图件、文字报告(含软件源代码)与采集库中相应的各类数据进行人工比对。若有原始纸质图件,则需从采集库中提取相应的数据使用相同软件相同绘图参数绘图,并加以比较。若人工检查发现错误,写明错误原因(图5-11),保存日志。

图5-11 填写人工检查结果界面

人工复核检查与人工检查过程完成一样,只是人员不同。

八、系统归档检查

在入库数据归档到资料库之前,系统对归档项目数据的完整性进行检查,即归档检查。系统根据归档项目的类别、工作性质、测量方法及归档阶段,定义了项目资料归档对照表,该表记录每类项目各个归档阶段的项目资料清单和资料的归档标识。在资料归档时,系统检查项目资料的归档标识。若为非空,说明该资料必须归档;若为空,说明该资料可归档,从而保证了数据库中的项目资料完整性。

如区域航空磁力勘查项目资料归档分为3个阶段(图5-12),第一阶段是生产测量资料归档,航空磁力勘查项目概况(项目概况、勘查项目概况、航磁概况)信息、测区信息生产报告必须归档。第二阶段是数据处理资料归档,航迹线数据、航磁数据、数据处理报告必须归档。第三阶段是地质解释资料归档,项目概况信息、岩石磁性数据、图件数据、文字数据、断裂构造和区域构造单元必须归档。

科研项目资料归档时,根据项目标识号及项目级次,确定该项目是否有子项目,以及子项目资料是否已全部归档。在所有子项目资料全部归档后,使用项目资料归档向导(图5-13)进行该级次的项目资料归档。如果项目属保密项目,系统同时对归档数据进行加密。数据成功归档后,系统删除采集库中已归档数据,并把各种检查日志存放到备份日志表中,以备检查。

图5-12 勘查项目资料归档示意图

图5-13 项目资料归档向导

公司年度质量工作要点应由公司质量管理部门负责起草,经公司领导审定后,由人力资源部安排各部门和专业组编制落实内容,经质量管理部审核后,由总经理审定,并由质量管理部下发。具体要求包括:

(1)各部门和专业组要按照公司质量管理指标体系,分解质量工作目标,明确质量管理各项环节的工作流程;

(2)各部门和专业组要结合新市场、新客户需求和技术发展,完善质量管理体系指标,重点改进质量管理程序;

(3)各部门和专业组要按照公司技术规范及客户要求,检查质量控制、审核和修改等环节;

(4)要严格按照ISO9000标准规定的内容及要求,完善质量检查、审核和质量评定等程序,完善质量检查、审核和质量评定记录;

(5)要完善质量管理指标体系,建立质量管理报表,督促各部门和专业组按照计划完成质量工作,及时纠正和改进执行不及格的内容,提高质量管理效率;

(6)要加强质量管理档案的保管,建立完善的质量问题及客户投诉等索赔处理系统,及时处理客户投诉、定期发布质量管理绩效评估报表,定期进行质量管理技术培训。

数据库,顾名思义,是存入数据的仓库。只不过这个仓库是在计算机存储设备上的,而且数据是按一定格式存放的。

当人们收集了大量的数据后,应该把它们保存起来进入近一步的处理,进一步的抽取有用的信息。当年人们把数据存放在文件柜中,可现在随着社会的发展,数据量急剧增长,现在人们就借助计算机和数据库技术科学的保存大量的数据,以便能更好的利用这些数据资源。

要是下定义的话,就应该是:指长期储存在计算机内的、有组织的、可共享的数据集合。

数据库包含关系数据库、面向对象数据库及新兴的XML数据库等多种,目前应用最广泛的是关系数据库,若在关系数据库基础上提供部分面向对象数据库功能的对象关系数据库。在数据库技术的早期还曾经流行过层次数据库与网状数据库,但这两类数据库目前已经极少使用。

数据库管理

数据库管理(Database)是有关建立、存储、修改和存取数据库中信息的技术,是指为保证数据库系统的正常运行和服务质量,有关人员须进行的技术管理工作。负责这些技术管理工作的个人或集体称为数据库管理员(DBA)。数据库管理的主要内容有:数据库的建立、数据库的调整、数据库的重组、数据库的重构、数据库的安全控制、数据的完整性控制和对用户提供技术支持。

数据库的建立:数据库的设计只是提供了数据的类型、逻辑结构、联系、约束和存储结构等有关数据的描述。这些描述称为数据模式。要建立可运行的数据库,还需进行下列工作:

(1)选定数据库的各种参数,例如最大的数据存储空间、缓冲决的数量、并发度等。这些参数可以由用户设置,也可以由系统按默认值设置。

(2)定义数据库,利用数据库管理系统(DBMS)所提供的数据定义语言和命令,定义数据库名、数据模式、索引等。

(3)准备和装入数据,定义数据库仅仅建立了数据库的框架,要建成数据库还必须装入大量的数据,这是一项浩繁的工作。在数据的准备和录入过程中,必须在技术和制度上采取措施,保证装入数据的正确性。计算机系统中原已积累的数据,要充分利用,尽可能转换成数据库的数据。

注:"数据库"这个词对于不同的人应该给予不同的感觉。如果你是一个最终用户,你根本就不关心数据存储和维护的细节,数据库也不应该拿这些事情来烦你。但是如果你是一个数据库管理员,那么有些细节上的东西你就必须要清楚。数据库管理系统可以为不同的用户提供不同的视图,也就是他们所看到的数据库是不一样的。这就需要进行数据抽象,以形成这些不同的视图。

最早是在CODASYL的DBTG报告中完整地给出了数据抽象的三个层次。ANSI/SPARC报告中也提出了类似的建议,这个报告中抽象的层次为内部层、概念层和外部层。但是,现在的数据库管理系统是根据DBTG的报告从三个层次来进行抽象的,它们分别是物理层、逻辑层和视图层(概念层)。

数据库的种类

大型数据库有:Oracle、Sybase、DB2、SQLserver

小型数据库有:Aess、MySQL、BD2等。

以上就是关于企业应该如何进行DQM—数据质量管理全部的内容,包括:企业应该如何进行DQM—数据质量管理、质量管理体系要求和产品要求的关系、数据入库质量控制的方法实现等相关内容解答,如果想了解更多相关内容,可以关注我们,你们的支持是我们更新的动力!

欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/sjk/10183530.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-05-06
下一篇 2023-05-06

发表评论

登录后才能评论

评论列表(0条)

保存