五大数据库理念，读懂亚马逊云科技的数据库布局_工具

1970 年，关系型数据库之父 EFCodd 发表《用于大型共享数据库的关系数据模型》论文，正式拉开数据库技术发展序幕。以 Oracle、DB2、SQL Server 为代表的三大商业数据库产品独占鳌头，随后涌现出 MySQL、PostgreSQL 等为代表的开源数据库，和以 Amazon RDS 等为代表的云数据库，拉开百花齐放的数据库新序幕。

我们知道，云计算十年为产业转型升级提供了历史性契机，但变革仍在进行，随着云计算的普及，数据库市场发生根本性改变，云厂商打破传统商业数据库的堡垒，成为数据库领域全新力量。其中以连续六年入选 Gartner 领导者象限的亚马逊云科技为代表，我们一起探讨：为什么亚马逊云科技能始终保持其创新性？纵观云原生时代下，亚马逊云科技数据库未来还有哪些更多的可能性？

01 面对四大数据库发展趋势，亚马逊云科技打造五大数据库理念

后疫情时代下，加速了不少行业的业务在线化和数字化运营，企业对数据价值挖掘的需求越发强烈，亚马逊云科技大中华区产品部总经理顾凡详细介绍其中四大趋势：

一是伴随互联网、移动互联网的发展，电商、视频、社交、出行等新应用场景的兴起，不仅数据量大，对数据实时性要求极高，传统关系型数据库无法满足需求，因此驱动云原生数据库的出现。

二是开源数据库的广泛应用。

三是应用程序现代化对数据库提出更高要求，期待数据库拥有更高的性能、可扩展性、可用性以及降低成本，让开发人员专注于核心业务的应用开发，不用关注和核心业务无关的代码。

四是软件架构历经 PC、互联网、移动互联网，再到如今的万物互联时代，其中的迭代和转型正在驱动数据库选型的变化。

在此四大趋势下，伴随企业的业务量越来越大、越来越复杂，对数据库的要求越来越高。亚马逊云科技洞察客户需求，在打造云上数据库产品时提出五大理念：

一是专库专用，极致性能；二是无服务器，敏捷创新；第三是全球架构，一键部署；第四是平滑迁移，加速上云；第五是 AI 赋能，深度集成。

02 历经真实锤炼，五大数据库理念，持续赋能企业数智转型

顾凡表示，随着数据爆炸式增长，微服务架构与 DevOps 愈发流行的今天，一个数据库打天下的时代已然过去。我们需要在不同的应用场景下，针对不同的数据类型和不同的数据访问特点，为开发者和企业提供专门构建的工具。

所以亚马逊云科技提出 第一个核心数据库理念：专库专用 。在此理念下，推出针对关系数据、键值数据、文档数据、内存数据、图数据、时许数据、分类账数据、宽列等专门构建数据库的产品家族。

这些数据库产品均经历过亚马逊内部核心业务的真实锤炼，成绩斐然：

亚马逊电商当年是 Oracle 的客户之一，随着亚马逊电商的应用重构和业务体量发展，亚马逊电商决定将业务迁移到亚马逊云科技里。100 多个团队参与这庞大的迁移工作中，将亚马逊电商采购、目录管理、订单执行、广告、财务系统、钱包、视频流等关键系统全部从 Oracle 迁出来。2019 年，亚马逊将存储近 7500 个Oracle 数据库中的 75 PB 内部数据迁移到多项亚马逊云科技的数据库服务中，包括 Amazon DynamoDB、Amazon Aurora、Amazon ElastiCache，于是亚马逊电商成为亚马逊云科技在全球的“第一大客户”。

从 Oracle 切换到亚马逊云科技后，亚马逊电商节省了 60% 成本，面向消费者端的应用程序延迟降低 40%，数据库管理支出减少 70%。

以被誉为“亚马逊云科技历史上用户数量增速最快的云服务”Amazon Aurora 为例，其拥有科媲美高端商业数据库的速度和可用性，还拥有开源数据库的简单性与成本效益，Amazon Aurora 让客户满足“鱼和熊掌兼得”需求。

据顾凡介绍，Amazon Aurora 可提供 5 倍于标准 MySQL 性能，3 倍于 PostgreSQL 吞吐量。同时提供高可用，可用区（AZ）+1的高可用，Global Databases 可完成跨区域灾备。可扩展到 15 个只读副本，成本只有商业数据库的 1/10。

医药企业九州通为药厂、供应商，搭建药厂、供应商、消费者提供供应链链条。其 B2B 系统的业务特点是读多写少，受促销活动、工作时间等影响，经常会出现波峰波谷落差较大的情况，读写比例在 7：2 或者 8：3。九州通采用 Amazon Aurora 后实现读写分离和按需扩展，整体数据库性能提升 5 倍，TCO 降低 50%。实现了跨可用区部署、负载均衡、自动故障转移、精细监控、按需自动伸缩等。

据权威机构预测，到 2022 年，75% 数据库将被部署或迁移至云平台。在这个过程中，亚马逊云科技是如何通过技术来帮助客户加速应用上云的？这离不开除了上述的“专库专用”外，以下四大理念：

第二个理念是无服务器、敏捷创新。 亚马逊云科技大中华区产品部数据类产品高级经理王晓野表示，企业业务总有波峰波谷之时，如何按照企业 80-90% 的业务峰值来规划数据库的存储容量和计算资源的话，将给应用带来一定的业务连续性的妥协和挑战。因此大多数企业都是按照峰值留有余地来选择数据库的计算资源，这将造成成本上的浪费。而 Serverless 数据库服务可完成无差别的繁复工作和自动化扩展。

Amazon DynamoDB 是亚马逊云科技自研 Serverless 数据库，其诞生最早可追溯到 2004 年，当时亚马逊电商作为 Oracle 的客户，尽管对于关系型数据库在零售场景的需求并不频繁，70% 均是键值类 *** 作，此时倒逼亚马逊电商思考：为什么要把关系型数据库这么重得使用？我们可以设计一款支持读写、可横向扩展的分布式数据库吗？后来的故事大家都知道了，这款数据库就是 Amazon DynamoDB，并在 2007 年发表论文，掀起业界 NoSQL 分布式数据库技术创新大潮。

Amazon DynamoDB 可为大规模应用提供支持，支撑亚马逊自身多个高流量网站和系统，如亚马逊电商网站、亚马逊全球 442 个物流中心等。在亚马逊电商一年一度 Prime Day，光是针对DynamoDB API 的调用达到数万亿次，最高峰值请求达到每秒 8920 万次。由此可见，DynamoDB 拥有高吞吐、扩展性、一致性、可预测响应延迟、高可用等优势。

智能可穿戴设备厂商华米科技，在全球 70 多个国家拥有近 1 亿用户。仅 2020 年上半年，其手表出货量超 174 万台，截止到 2021 年 2 月，华米科技的可穿戴设备累计记录步数是 151 万步，累计记录的睡眠时间是 128 亿个夜晚，记录心率总时长达 1208 亿个小时。如此庞大的数据同时必须保证极高的安全性和低延迟相应，如何保证稳定性是巨大的挑战。

DynamoDB 帮助华米科技在任何规模下都能提供延迟不超过 10 毫秒的一致响应时间。华米科技健康云的 P0 和 P1 级别故障减少了约 30%，总体服务可用性提升了 025%，系统可用性指标达到 9999%，为华为科技全球化扩展提供了有力的支撑。

最新无服务数据库产品是 Amazon Aurora Serverless V2 提供瞬间扩展能力，真正把扩展能力发挥到极致，在不到一秒的时间内，将几百个事务扩展到数十万的级别。同时在扩展时每一次调整的增量都是非常精细化的去管理，如果按照峰值来规划数据库资源，可实现大概90%的成本节省。目前 Amazon Aurora Serverless V2 在全球实现预览。

第三个理念是全球架构、一键部署。 在全球化的今天，如何支撑全球客户的业务扩展连续性、一致性、以最低延迟带给到终端客户上，对数据库提出新的挑战。

亚马逊云科技提供 Amazon Aurora 关系型数据库Global Database、Amazon DynamoDB、Amazon ElastiCache 内存数据库、Amazon DocumentDB 文档数据库都能利用亚马逊云科技的骨干网络提供比互联网更稳定的网络支撑，以一键部署的方式，帮助客户实现几千公里跨区域数据库灾备，故障恢复大概能在一分钟之内完成，同时跨区域的数据复制延迟通常小于一秒。

第四个理念是平滑迁移、加速上云。 目前，450000+ 数据库通过亚马逊云科技数据库迁移服务迁移到亚马逊云科技中，这个数字每年都在不断增长。亚马逊云科技提供 Amazon DMS、Amazon Database Migration Service 等工具让开发者和企业进行自助式云迁移。另外，对于迁移过程中可能会需要的支持，可通过专业服务团队和合作伙伴网络成员，为客户提供专业支持，还通过 Database Freedom 项目帮助客户降低他们的顾虑。

今年 11 月，最新产品 Babelfish for Amazon Aurora PostgreSQL 在全球和中国两个区域正式可用，可加速企业上云的迁移，实现让企业可以利用原有的技术栈、原有的 SQL Server T-SQL的人员可以利用到云数据库进行创新。

第五个理念是 AI赋能，深度集成。 我们观察到，ML 技术赋能数据库开发者，开发者无需具备机器学习专业知识，就可进行机器学习 *** 作。在此潮流下，亚马逊云科技推出 Amazon Neptune，借由 Deep Graph Library 和 Amazon SageMaker 驱动图神经网络。

今年 8 月，Neptune ML 在中国正式可用，允许数据工程师不需要掌握机器学习的技能直接从图数据库里导出数据、转换格式、训练模型并发布，用 gremlin 语句调用训练成的模型在数据库里实现推理，进行欺诈检测，推荐物品。

目前，亚马逊云科技加速在中国区域服务落地，2021年至今新发布 60 多个数据库服务与功能。亚马逊云科技正是通过上述五大数据库理念，打造丰富的数据库产品家族，在全球智能化发展趋势下，为企业提供更快更好的数智服务，释放数据价值，并连续六年入选 Gartner 领导者象限，得到业界和客户的深度认可。

你好：用户在购买完RDS后，接下来就可以开始往RDS迁入数据了。在RDS刚刚对外提供服务的时候，用户只能通过将自己的数据库dump成为sql文件，然后再将sql文件source到RDS中去：数据迁移至RDS-MySQL之使用MySQLdump工具，数据迁移至RDS-SQLserver之利用SQL Server客户端工具，这两种方法是最简单的方法，但是局限性也非常的多：用户的数据库太大了，逻辑sql导入的方式速度太慢了，严重影响停机时间；在导入的过程中报错很多，或者导入一半的过程中中断了，需要重新来过；在迁入RDS过程中，希望我的数据库还能能正常提供服务；大量的用户入云全部堵在迁移数据上面，用户与RDS的缘分就差么这临门一脚。工欲善必先利其器，为了更好的帮助用户入云,RDS对现有的用户入云迁移方式进行改进，帮助用户快速稳定迁移入云，分别为用户提供了mysql和sqlserver两套改良迁移工具:mysql迁移工具支持在线迁移，用户可以不中断业务的情况下把数据迁移到RDS中来;sqlserver的迁移工具采用物理备份的方法，将用户的物理备份上传到FTP中后还原到RDS，提升迁移的速度;这两套工具目前都已经集成到了RDS的控制台中，可以参考：数据迁移至RDS-MySQL之使用阿里云控制台和数据迁移至RDS-SQLserveru阿里云控制台很多用户在控制台上看到的只是一个黑盒子，在工单中多次咨询迁移的原理，在这里大致讲一下这两个工具的迁移实现：Mysql在线迁移的原理：第一步:预检查，主要是验证用户网络的通畅性，账号和环境的检查；第二步:全量备份，该步骤会把用户的数据全量的dump出一份出来，然后还原到RDS；第三步:增量迁移，该步骤会解析用户全量期间以及后续产生的binlog应用到RDS；第四步:切换，当RDS的数据完全追上用户的数据库后，用户就可以开始进行切换了；Mysql的在线迁移工具目前还有一些限制，比如：mysql 50只支持全量迁移，不支持增量迁移；不支持mysql56的迁移；不支持存储过程，触发器的迁移；迁移过程中如果有ddl发生则会导致增量迁移失败；SQLSERVER工具迁移的原理：第一步:备份用户对本地数据库进行物理备份;第二步:备份上传至RDS提供的ftp服务器上(ftp地址支持私网和公网上传);第三步:RDS扫描校验用户上传备份文件通过后,恢复至用户RDS;第四步:用户切换应用至RDS;由于sqlserver目前还没有开放日志接口,所以RDS目前还不能支持在线迁移；RDS目前不支持master库的导入。希望这篇文章对你使用RDS有帮助。

用户在购买完RDS后，接下来就可以开始往RDS迁入数据了。在RDS刚刚对外提供服务的时候，用户只能通过将自己的数据库dump成为sql文件，然后再将sql文件source到RDS中去：数据迁移至RDS-MySQL之使用MySQLdump工具，数据迁移至RDS-SQLserver之利用SQL Server客户端工具，这两种方法是最简单的方法，但是局限性也非常的多：

用户的数据库太大了，逻辑sql导入的方式速度太慢了，严重影响停机时间；

在导入的过程中报错很多，或者导入一半的过程中中断了，需要重新来过；

在迁入RDS过程中，希望我的数据库还能能正常提供服务；

大量的用户入云全部堵在迁移数据上面，用户与RDS的缘分就差么这临门一脚。工欲善必先利其器，为了更好的帮助用户入云,RDS对现有的用户入云迁移方式进行改进，帮助用户快速稳定迁移入云，分别为用户提供了mysql和sqlserver两套改良迁移工具:

mysql迁移工具支持在线迁移，用户可以不中断业务的情况下把数据迁移到RDS中来;

sqlserver的迁移工具采用物理备份的方法，将用户的物理备份上传到FTP中后还原到RDS，提升迁移的速度;

这两套工具目前都已经集成到了RDS的控制台中，可以参考：数据迁移至RDS-MySQL之使用阿里云控制台和数据迁移至RDS-SQLserveru阿里云控制台

很多用户在控制台上看到的只是一个黑盒子，在工单中多次咨询迁移的原理，在这里大致讲一下这两个工具的迁移实现：

Mysql在线迁移的原理：

第一步:预检查，主要是验证用户网络的通畅性，账号和环境的检查；

第二步:全量备份，该步骤会把用户的数据全量的dump出一份出来，然后还原到RDS；

第三步:增量迁移，该步骤会解析用户全量期间以及后续产生的binlog应用到RDS；

第四步:切换，当RDS的数据完全追上用户的数据库后，用户就可以开始进行切换了；

Mysql的在线迁移工具目前还有一些限制，比如：

mysql 50只支持全量迁移，不支持增量迁移；

不支持mysql56的迁移；不支持存储过程，触发器的迁移；

迁移过程中如果有ddl发生则会导致增量迁移失败；

SQLSERVER工具迁移的原理：

第一步:备份用户对本地数据库进行物理备份;

第二步:备份上传至RDS提供的ftp服务器上(ftp地址支持私网和公网上传);

第三步:RDS扫描校验用户上传备份文件通过后,恢复至用户RDS;

第四步:用户切换应用至RDS;

由于sqlserver目前还没有开放日志接口,所以RDS目前还不能支持在线迁移；

RDS目前不支持master库的导入。

用户可以使用不同的数据库客户端或命令行语句访问RDS数据库。下面分别介绍MySQL和SQL Server的访问方法。

一、提供3种访问MySQL数据库方法

点击了解如何提升RDS响应速度

方法1：客户端：Mysql-Front

首先，启动Mysql-Front后会有一个添加对话的对话框d出，在名称处可输入任意名称。

其次，点击“连接”选项卡。

在服务器处：填写RDS的数据实例链接名（如example201108mysqlalibabalabscom）。

在端口处：3306。

然后，点击注册选项卡，在用户和密码处输入申请数据库时填写的数据库用户名和密码后，点击下图箭头所示的小方框，就可以选取要连接的数据库

最后，d出数据库登录的对话框时，请继续点击确定按钮。便可链接并使用RDS数据库。

方法2：Navicat_mysql

在连接输入框中输入数据实例链接地址，端口（默认3306），数据库用户名和数据库密码后，点击确定即可。

方法3：Mysql命令登录

用户安装MySQL客户端后，可进入命令行方式链接数据库。

命令格式：mysql -u user_name -h examplemysqlalibabalabscom -P3306 -pxxxx

其中，-u 指定的是用户名， -h指定的是主机名， -P指定的是端口， -p指定的是密码。

二、访问SQL Server数据库方法

使用SQL Server Management Studio访问RDS SQL Server数据，输入RDS实例连接地址，端口号，数据库用户名和密码。链接端口号请输入3433