系统方案 - 设计一个 URL 短链服务

系统方案 - 设计一个 URL 短链服务,第1张

短链接,通俗来说,就是将长的URL网址,通过程序计算等方式,转换为简短的网址字符串

微博和Twitter都有140字数的限制,如果分享一个长网址,很容易就超出限制。

营销短信,字数的限制,当字数过长: 1.不美观 2.超出字符额外收费。

生成二维码的原始链接,当原始链接过长时,生成的二维码过于复杂,导致一些像素较低的手机无法扫描.

功能要求:

非功能性要求:

扩展要求:

可以使用 REST API 来公开我们服务的功能。以下可能是用于创建和删除 URL 的 API 的定义:

createURL (api_dev_key, original_url, custom_alias=None, user_name=None, expire_date=None)

参数:

api_dev_key(string):注册账号的API开发者密钥。除其他外,这将用于根据分配的配额限制用户。

original_url(字符串):要缩短的原始 URL。

custom_alias(字符串):URL 的可选自定义键。

user_name(字符串):在编码中使用的可选用户名。

expire_date (string): 缩短 URL 的可选过期日期。

返回 :(字符串)

成功插入会返回缩短的 URL;否则,它会返回错误代码。

deleteURL (api_dev_key, url_key)

其中“url_key”是一个字符串,表示要检索的缩短的 URL;成功删除会返回“已删除 URL”。

如何发现和防止滥用?恶意用户可以通过使用当前设计中的所有 URL 密钥使我们破产。为了防止滥用,我们可以通过他们的 api_dev_key 限制用户。每个 api_dev_key 可以限制为每个时间段内特定数量的 URL 创建和重定向(每个开发者密钥可以设置为不同的持续时间)。

结合储存数据设计:

数据库架构:

我们需要两张表:一张用于存储有关 URL 映射的信息,另一张用于创建短链接的用户数据。

应该使用什么样的数据库?由于我们预计存储数十亿行,并且我们不需要使用对象之间的关系——NoSQL 选择更容易扩展

在第 1 节的示例中,缩短的 URL 是“https://tinyurl.com/vzet59pa”。这个 URL 的最后八个字符构成了我们要生成的短链。讨论以下两种解决方案: 摘要算法、自增序列算法

方案一:摘要算法

这种算法,虽然会生成4个,但是仍然存在重复几率

方案二: 自增序列算法

设置 id 自增,一个 10进制 id 对应一个 62进制的数值,1对1,也就不会出现重复的情况。这个利用的就是低进制转化为高进制时,字符数会减少的特性。

第一种算法的好处就是简单好理解,永不重复。但是短码的长度不固定,随着 id 变大从一位长度开始递增。如果非要让短码长度固定也可以就是让 id 从指定的数字开始递增就可以了。百度短网址用的这种算法。

为了扩展我们的数据库,我们需要对其进行分区,以便它可以存储有关数十亿个 URL 的信息。因此,我们需要开发一种分区方案,将我们的数据划分并存储到不同的数据库服务器中。

一个基于范围的分区: 我们可以根据哈希键的第一个字母将 URL 存储在单独的分区中。因此,我们将所有以字母“A”(和“a”)开头的 URL 哈希键保存在一个分区中,将那些以字母“B”开头的 URL 哈希键保存在另一个分区中,依此类推。这种方法称为基于范围的分区。我们甚至可以将某些不太频繁出现的字母组合到一个数据库分区中。因此,我们应该开发一种静态分区方案,以始终以可预测的方式存储/查找 URL。

这种方法的主要问题是它可能导致数据库服务器不平衡。例如,我们决定将所有以字母“E”开头的 URL 放入 DB 分区,但后来我们意识到我们有太多以字母“E”开头的 URL。

另外基于散列的分区: 在这个方案中,我们获取我们正在存储的对象的散列。然后我们根据哈希计算要使用的分区。在我们的例子中,我们可以使用“键”或短链接的哈希值来确定我们存储数据对象的分区。

我们的散列函数会将 URL 随机分布到不同的分区中(例如,我们的散列函数总是可以将任何“键”映射到 [1…256] 之间的数字)。这个数字将代表我们存储对象的分区。

这种方法仍然会导致分区过载,这可以使用一致哈希解决。

可以缓存经常访问的 URL,结合缓存中间件例如 Memcached、redis,它可以存储完整的 URL 及其各自的哈希值。因此,应用服务器在访问后端存储之前,可以快速检查缓存是否具有所需的 URL。

我们应该有多少缓存内存? 我们可以从每天 20% 的流量开始,根据客户的使用模式,我们可以调整我们需要多少缓存服务器。如上所述,我们需要 170GB 的内存来缓存 20% 的日常流量。由于现代服务器可以拥有 256GB 内存,我们可以轻松地将所有缓存放入一台机器中。或者,我们可以使用几个较小的服务器来存储所有这些热门 URL。

哪种缓存驱逐策略最适合我们的需求? 当缓存已满,并且我们想用更新/更热的 URL 替换链接时,我们将如何选择?最近最少使用 (LRU) 可能是我们系统的合理策略。根据此政策,会首先丢弃最近最少使用的 URL,可以使用 Linked Hash Map 或类似的数据结构来存储我们的 URL 和哈希,这也将跟踪最近访问过的 URL。

如何更新每个缓存副本? 每当缓存未命中时,我们的服务器就会访问后端数据库。每当发生这种情况时,我们都可以更新缓存并将新条目传递给所有缓存副本。每个副本都可以通过添加新条目来更新其缓存。如果副本已经有该条目,它可以简单地忽略它。

我们可以在系统的三个地方添加负载均衡层:

条目应该永远存在,还是应该被清除?如果达到用户指定的过期时间,链接会发生什么?

如果我们选择不断搜索过期链接来删除它们,这会给我们的数据库带来很大的压力。相反,我们可以慢慢删除过期链接并进行惰性清理。我们的服务会确保只删除过期的链接。

用户能否创建私有 URL 或允许一组特定用户访问 URL?

可以将权限级别(公共/私有)与数据库中的每个 URL 一起存储,还可以创建一个单独的表来存储有权查看特定 URL 的 UserID。如果用户没有权限并尝试访问 URL,可以发回错误 (HTTP 401)。鉴于我们将数据存储在像 Cassandra 这样的 NoSQL 宽列数据库中,表存储权限的键将是“哈希”(或 KGS 生成的“键”)。这些列将存储那些有权查看 URL 的用户的用户 ID。

现在网址缩短网站有很多了,就分析一下做得比较好的六度短网址6du.in短网址生成服务平台:

(1)将长网址md5生成32位签名串,分为4段,每段4个字节

对这4段循环处理,取4个字节(32位),将它看成16进制串与0x3fffffff(30位1)(2)与 *** 作,即超过30位的忽略处理

(3)这30位分成6段,每5位的数字作为字母表的索引取得特定字符,依次进行获得6位字符串

(4)总的md5串可以获得4个6位串,取里面的任意一个就可作为这个长url地址

(5)把数字和字符组合做一定的映射,就可以产生唯一的字符串,如第62个组合就是sssss9,第63个组合就是ssssba,再利用洗牌的算法,把原字符打乱后保存,那么对应位置的组合字符串就会是无序的组合。

(6)把长网址存入数据库,取返回的id,找出对应的字符串,例如返回id为1,那么对应上面的字符串组合就是aaa,同理id为2时,字符串组合为aaa,依次类推,直至到达62种组合后才会出现重复的可能,所以如果用上面的62个字符,任意取6个字符组合成字符串的话,你的数据存量达到500多亿后才会出现重复的可能。

数据库的设计简单说就是表的设计,满足一定范式要求即可,题目说得太简略了,我能考虑的一些属性就是:ID号、短信标题(如果有,没有表示该字段可为空)、短信内容、发送时间等,如果你要考虑后期的一些统计或者查询的话,还需要加入一些必要的功能字段。

类的设计:数据库连接类、 *** 作类基本就是你要实现什么功能,分得细点的话你准备做多少功能可以设计多少类出来,当然也可以通过重载的方式减少代码量


欢迎分享,转载请注明来源:内存溢出

原文地址: http://outofmemory.cn/sjk/6718962.html

(0)
打赏 微信扫一扫 微信扫一扫 支付宝扫一扫 支付宝扫一扫
上一篇 2023-03-27
下一篇 2023-03-27

发表评论

登录后才能评论

评论列表(0条)

保存