第一: 线路的选择
只要是做互联网的人都知道南方电信、北方联通,除了电信、联通这两大商家之外,还有就是最近几年提供免费宽带上网的移动公司。建议大家在选择线路的时候根据自己的地区来进行选择线路。比如您是做本地地区为主的网站、社区等,建议选择靠近本地地区的机房。如果是针对全国地区,可以考虑双线双IP或者三线三IP;
第二:服务器的选配
我们该如何选配一个服务器的配置呢?其实很简单,首先根据自己的网站程序以及访问量进行服务器的选配;比如您的网站只是一个博客,日流量只有几十到几百个,像这样的网站我们只需要一个空间或者一台四核、2G的云服务器即可满足条件,如果我们的网站是一个企业网站甚至一个大型的社区论坛等,那我们就需要谨慎选择一台企业服务器进行使用了。列如:一个社区网站论坛,日流量为500-1000那正常的网站PV是1:3也就是1500-3000的PV(也就是浏览的页面),按照这样的访问量,我们应该选择一台16核CPU+16G内存+1个固态硬盘的机子使用,带宽应该选择在10-20M独享之间,基本可以满足日常访问。
第三:如何选择运维商
在互联网中大大小小的运维商数不其数,那我们需要找到一家好的运维商。那我们该如何选择呢?首先我们需要查看这家运行商公司经营的时间有多长,其次我们可以加下运维商的,比如QQ、微信等,在不定期和不定时的找下业务员,咨询一些你想知道的问题,哪怕是空聊天也好。为什么这样说?因为这样可以看得出这家的业务员或者技术员是否长期在线和是否能及时为你处理售后问题。金融大数据分析的数据分流应用
随着金融大数据技术应用,以及相关业务大数据应用不断创新,金融机构的数据分析和业务创新,以及数据安全如何深度融合,是当前金融机构信息化面临的重要挑战。
银监会印发《银行业金融机构信息系统风险管理指引 》(2006年),其中第二十七条:银行业金融机构应加强数据采集、存贮、传输、使用、备份、恢复、抽检、清理、销毁等环节的有效管理,不得脱离系统采集加工、传输、存取数据;优化系统和数据库安全设置,严格按授权使用系统和数据库,采用适当的数据加密技术以保护敏感数据的传输和存取,保证数据的完整性、保密性。
银监会印发《银行业金融机构全面风险管理指引》(银监发〔2016〕44号),其中第四十三条:银行业金融机构应当建立与业务规模、风险状况等相匹配的信息科技基础设施;第四十四条银行业金融机构应当建立健全数据质量控制机制,积累真实、准确、连续、完整的内部和外部数据,用于风险识别、计量、评估、监测、报告,以及资本和流动性充足情况的评估。
从银监会的两次下发指引文件要求中,我们可以看到,针对金融行业的数据分析,相对传统行业,在数据的采集、存储和处理过程中,在数据安全性、完整性、业务管理全面性上,有着更为严格的要求。
那在金融大数据技术应用领域,如何更高效、安全的实现金融业务数据的精细化采集管理,是其中一个细分的技术领域,也是我们今天探讨的话题。
金融业务大数据的采集管理技术需求
金融行业的信息化在众多异构系统和DT环境中,越来越重视可视化和业务关联性,在互联网化金融交易和大数据技术应用的背景下,相关数据采集、分析的技术需求演进出现了新的变化,那就是分别是分流调度管理技术和业务可视化技术。
可视化分析业务,需要采集、分析不同类别的数据,如基础数据,日志数据,安全数据或特定业务数据,因此需要分门别类进行分类调度。专业的分析应用需要专业的设备和系统配合。
比如风险监管日趋严谨,每家金融机构对贷前风控、贷后风险管理的重视空前提高。而通过信息化手段实现风控能力上,数据准确完整,算法和模型是风控部署的核心。
现在的金融机构IT架构大多分为在线系统、近线系统与离线系统。在线系统主要面向最终用户的交易请求;近线系统则针对一段时间内的历史数据进行存放和进行溯源查询;而离线系统则对历史时间的数据进行归档,在特殊情况下会被恢复进行使用。
随着大数据技术的蓬勃发展,金融机构对全量历史数据的认知有新的变化。如何从历史数据中挖掘其潜在价值,如何将离线数据在线化以满足监管部门的需求,是很多银行开始利用大数据技术解决的问题。
例如征信,银行已经能够获取社会各类有意义的信息进行记录,例如网上的各地各楼盘的房价、人行征信、法院执行纪录、工商局信息、企业上下游现金流等信息,然后通过这种信息对个人企业进行分析对比,对超常理的数据进行风险警告,便于审计人员快速判断识别潜在风险。
又比如客户的POS刷卡记录,企业上下游流水账单,交税信息等等,整个可对企业进行现金流测算。又或者对客户xyk还款时间,转账时间等等来判断客户手中现金或者回款时间,把推荐的理财营销时间推送给其客户经理等,实现真正的精准营销。
总体来说,金融现有的业务需要把数据的有效分析和灵活应用到金融体系中去,而非空谈大数据应用。
那在大数据业务分析、内容安全审计和业务应用可视化的应用中,面临最核心问题,那就是如何把业务流量正确、按需的方式传递给所需的数据分析系统。笔者认为需要专业的业务流数据管理系统才能够精准的识别、分类和分发传递。
比如很多运维日志数据是通过UDP 514传递的,那日志服务器不需要接受其他内容,针对性采集即可。如交易或征信业务只需要采集数据库的Mysql TCP 3306 和Oracle TCP 1521端口往返数据,那分析系统也可降低性能负载,摘取所需数据是当前数据分析的必要措施。
另外不得不说的是流量不少是无用的数据载荷。而常见的分析系统平台大多为千兆速率,那么网络单接口流量在万兆或更高流量时候,是增强系统分析系统的硬件配置还是通过数据裁剪方式来部署,那选择显而易见是裁剪优化而不是升级分析平台的硬件平台,因为那将是更高昂的硬件摊销成本。
比如交易数据或征信数据等,可以进行剥离掉帧头帧尾和部分封装协议。数据分析服务器(比如性能分析类)吞吐量较低,无法承载大流量分析能力,需要将分发流量进行载荷截短,降低数据流量带宽,提升服务器分析效率。
金融大数据采集分析应用建议使用专业分流技术
上述的金融业务可视化分析以及IT系统环境运维过程中问题,是我们常见的数据采集、归类、提取再分发分析的技术需求和环境。
因此在金融大数据识别、分类采集、分发存储等应用方面建议使用专业数据分流技术,因为其系统的精细化数据流管理功能为相关业务应用提供专业能力的保障,而这个数据分流应用并已在诸多的行业的运维和业务应用可视化领域成熟应用。
金融大数据平台的搭建和应用是两个部分,对于金融大数据平台来说,这两个部分都很重要。
所以以下的部分我们从大数据平台和银行可以分析哪些指标这两个角度来阐述。
一、大数据平台
大数据平台的整体架构可以由以下几个部分组成:
从底层逐步往上,如图所示表示这么几个环节:
一、业务应用:其实指的是数据采集,你通过什么样的方式收集到数据。互联网收集数据相对简单,通过网页、App就可以收集到数据,比如很多银行现在都有自己的App。
更深层次的还能收集到用户的行为数据,可以切分出来很多维度,做很细的分析。但是对于涉及到线下的行业,数据采集就需要借助各类的业务系统去完成。
二、数据集成:指的其实是ETL,指的是用户从数据源抽取出所需的数据,经过数据清洗,最终按照预先定义好的数据仓库模型,将数据加载到数据仓库中去。而这里的Kettle只是ETL的其中一种。
三、数据存储:指的就是数据仓库的建设了,简单来说可以分为业务数据层(DW)、指标层、维度层、汇总层(DWA)。
四、数据共享层:表示在数据仓库与业务系统间提供数据共享服务。Web Service和Web API ,代表的是一种数据间的连接方式,还有一些其他连接方式,可以按照自己的情况来确定。
五、数据分析层:分析函数就相对比较容易理解了,就是各种数学函数,比如K均值分析、聚类、RMF模型等等。
列存储让磁盘中的各个Page仅存储单列的值,并非整行的值。这样压缩算法会更加高效。进一步说,这样能够减少磁盘的I/O、提升缓存利用率,因此,磁盘存储会被更加高效的利用。
而分布式计算能够把一个需要非常大的算力才能解决的问题分成很多小部分,接着把这些部分给到许多计算机同时处理,然后把这些计算结果综合起来,得到最终的结果。
综合这两种技术,就能够大幅度提高分析环节的效率。Yonghong MPP可以说是目前在这两方面做的最出色的了。
六、数据展现:结果以什么样的形式呈现,其实就是数据可视化。这里建议用敏捷BI,和传统BI不同的是,它能通过简单的拖拽就生成报表,学习成本较低。国内的敏捷BI中,个人用户推荐Tableau,像银行这类的企业级需求推荐Yonghong BI 。
七、数据访问:这个就比较简单了,看你是通过什么样的方式去查看这些数据,图中示例的是因为B/S架构,最终的可视化结果是通过浏览器访问的。
二、银行数据分析体系如何搭建?
搭建一个数据平台可能是项目制的工作,在一段时间内会完成,但是搭建数据分析体系这件事却任重而道远。但是如果有人能在做产品的同时,将金融行业同类的数据应用经验也分享给你,帮助你去搭建数据分析体系,那就是真正的“良药”了。
下面分享一个YonghongTech帮助某大型银行数据服务平台建设的案例。
以客户在银行办理业务的行为路径,可以有这样几个主题,不同主题有对应的场景及其指标。
1一个客户
客户主题:客户属性(客户编号、客户类别)、指标(资产总额、持有产品、交易笔数、交易金额、RFM)、签约(渠道签约、业务签约)组成宽表
2做了一笔交易
交易主题:交易金融属性、业务类别、支付通道组成宽表。
3使用哪个账户
账户主题:账户属性(所属客户、开户日期、所属分行、产品、利率、成本)组成宽表
4通过什么渠道
渠道主题:渠道属性、维度、限额组成宽表
5涉及哪类业务&产品
产品主题:产品属性、维度、指标组成宽表
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)