关于 QPS、TPS、PV、UV、GMV、IP、RPS 这些词语，看起来好像挺专业。但实际上，我认为是这是每个程序员必懂的知识点了，你可以搞不懂它们怎么计算的，但是你最少要了解它们分别代表什么意思。
2019年12月09日 - 初稿
阅读原文 - >1不管是大颗粒度（多接口事务构成一个事务型业务）还是单接口，目前系统的性能对应的tps就在那里，它是不变的
2 100的tps可以认为是100的并发数，可以用100个并发线程去压测，给几分钟的压测压力，让服务端真正能够达到每秒处理了100个并发请求；但是，更应该注意的是，并非必须用100个并发线程去压，你只要压测出最高的tps后，再根据你设定的最大响应时间，这个最大并发请求可以计算出来。比如你预计最大能接受的响应时间是4s，那么实际的并发数就是最大并发数的基础上乘以4所以如何选取压测的并发模拟线程，唯一的参考数据不断加压，加压到系统平均响应时间达到1s左右，这时候你就得到了系统最大tps了，那么真实的并发用户数是多少，再根据你定义的最大响应时间乘以这个数就行，它也可以是小于1s，也可以是大于1s
最大tps（每秒请求数）产品经理约定的最大响应时间=并发用户数
3:问题：
1万用户，并发度5%，得到最大要求的tps是500，最大响应时间要求是01s，那么初始定义压测线程是多少？
01 rt 表示 服务器每个线程需要执行的时间，tps表示每秒要处理的线程数，那么50001表示服务端每秒能够处理的线程数为50
小结：
1单接口最大tps，可以通过一个基本的线程数/响应时间得到，并不需要一定压到1s才能知道
2预定的tps和响应时间确定的话，那么给出的预压测线程可以轻易计算 =tps响应时间
本质上集群部署并没有提高性能，性能看起来提高只是附加属性。
集群的主要目的有两个：
避免单点问题
扩容
单点问题
假设没有集群部署，那么就是说只有一台Server对外提供服务，如果这个Server挂掉了，那么所有的客户端就没办法访问了。
如果进行了集群部署，假设两台，通过IPhash的方式进行负载均衡，那么当其中一台Server挂掉了，那么只有大概一半的客户端受到影响（如果所有客户端都恰巧hash到了挂掉的那个Server，那就没办法了）。
如果路由有故障转移机制，那么基本可以保证一台Server挂掉了，客户端没有影响。
扩容
再说扩容，一台Server能对外提供的最大负载是一定的。当客户端数量超过了Server的最大负载时，那么就可能导致Server挂掉，或者客户端响应缓慢甚至没有响应的问题。
通过集群部署，可以增加最大客户端数量。假设一台Server能同时支持1000个客户端访问，那两台Server理论就能支持2000个客户端同时访问。
性能
上面说了，集群部署并没有提高性能。集群只是多开通了通道。
举个例子，假如有个水池，原来一个水管向水池里注水，集群部署后就是多个水管向水池里注水。单个水管的速度并没有变化，但是流量变大了。
看起来性能提高的原因是，性能一般是通过TPS/QPS来定义的，也就是一秒内完成的请求数量。
集群后，因为流量大了，那么TPS肯定就高了。
但是，TPS/QPS计算的是系统的最大可运行负载。就是一个系统在这个负载下可以正常的长时间对外服务，超过了这个负载就可能导致响应变慢或没有响应、甚至导致服务器直接挂掉。而一般情况下都会做冗余，所以系统基本不会长时间运行在最大可运行负载下。
所以一般情况下集群对性能的影响有限，极端情况还可能降低性能。假设一台Server能支持1000个客户端，你部署了两台Server，而实际只有10个客户端进行访问，远达不到单台Server的负载，加上集群需要路由算法，可能性能上就比单台Server稍微慢了一点点。
原理：每天80%的访问集中在20%的时间里，这20%时间叫做峰值时间。
公式：(总PV数80%)/(每天秒数20%)=峰值时间每秒请求数(QPS)。
机器：峰值时间每秒QPS/单台机器的QPS=需要的机器。
每天300wPV的在单台机器上，这台机器需要多少QPS？
(300000008)/(8640002)=139(QPS)。
一般需要达到139QPS，因为是峰值。
QPS
每秒查询率QPS是对一个特定的查询服务器在规定时间内所处理流量多少的衡量标准。
每秒查询率
因特网上，经常用每秒查询率来衡量域名系统服务器的机器的性能，其即为QPS。
对应fetches/sec，即每秒的响应请求数，也即是最大吞吐能力。
计算机语言
一种计算机编程语言。用于数据分析和报表产出。运作的平台是MRDCL。支持的数据文件包括ASC格式和CSI格式。
其中CSI格式为QPS独有数据格式。是极其专业的用于数据分析、数据清理和报表产出的语言，目前应用最广的是市场调研行业。中国国内运用的相对比较少。
电子数据处理系统。
TPS的最初形式设计范围小，如订票系统、会计成本核算系统，其特点是处理问题的高度结构化，但功能单一，如库存物资统计系统、员工工资发放系统等。它所提供的信息是企业的实时信息，是对企业状况的直接反映。TPS的运行直接简化了人们的日常工作，提高了作业层管理者的工作效率。
扩展资料：
TPS是企业联系客户的纽带也是其他信息系统的基础。TPS存在于企业的各个职能部门，事务处理系统是进行日常业务处理，记录，汇总，综合，分类，并为组织的 *** 作层次服务的基本商务系统。事务处理系统可以帮助组织降低业务成本，提高信息准确度，提升业务服务水平。
在企业中主要表现了四种系统：市场营销，生产制造，财务会计，人力资源。
建立看板体系(Kanbansystem)就是重新改造流程，改变传统由前端经营者主导生产数量，重视后端顾客需求，后面的工程人员通过看板告诉前一项工程人员需求，比方零件需要多少，何时补货，亦即是“逆向”去控制生产数量的供应链模式，这种方式不仅能节省库存成本(达到零库存)，更重要是将流程效率化。
参考资料：
长连接，是指通信双方有数据交互时，就建立一个TCP连接，数据发送完成后，则断开此TCP连接。
聊天室或即时消息推送系统等，因为很多消息需要到产生时才推送给客户端，所以当没有消息产生时，就需要hold住客户端的连接，这样，当有大量的客户端时，要hold住大量的长连接。
在性能测试过程中，经常会接触到连接数相关的问题，有一个问题曾经困扰我好长时间，那就是一台服务器最多能支持多少链接数呢？
有的朋友可能会说是65535，因为 *** 作系统有65535个端口，那么这个答案准确吗？
首先先了解下如何标识一个链接（记住下面的概念，文章后面要用到）， *** 作系统是通过一个四元组来标识一个TCP链接：
{本地ip，本地port，远程ip，远程port}
这四个要素唯一确定一个TCP链接，任意一个要素不相同，就认为是一个不同的链接。
在Linux系统中，一切皆文件，每一个TCP链接都要占用一个文件句柄，系统允许创建的链接数取决于句柄数的上限。超过这个值再创建链接就会报这样的错误：“Can't open so many files"。
通过命令ulimit -n可以查看当前系统允许打开文件数量的上限，在Linux中这个值默认是1024，也就是说默认情况下，只能创建1024个链接。同时这个值也是可以修改的，通过修改/etc/security/limitsconf文件，可以把这个值改大，一般服务器都会改的很大，比如我们的服务器上一般设置为1000000。
那这么说是不是就意味着只要我改的很大，链接数可以无限大了？
其实也并不是这样，创建链接的时候，一般分为两个端， 即链接的发起端和链接接收端。
比如我们现在使用Jmeter进行压测，被测系统部署在Tomcat服务器10003上，使用的是8080端口。
如果我们用5个并发来进行压测的话，创建的链接如下图所示：
对于Jmeter来说，它是链接发起端，Jmeter创建了5个链接去连接服务端的8080端口，每个新建链接会占用了一个端口号，如图中的10001-10005。在 *** 作系统中，端口号的范围是0-65535，其中0-1024是预留端口号，不可使用，其他的端口都是可以使用的。也就是说， 在链接发起端，受端口号的限制理论上最多可以创建64000左右链接。
那么有没有办法超过这个限制呢，答案是肯定的！
通过TCP标识的四元组可以看到，对于链接发起端，影响链接数的是本地ip和port，端口号受限于65535，已经没办法增加了。那我们可以增加本地ip来达到这个目的。一般情况下，服务器的一个网卡上只绑定了一个ip，对外通信都使用这个ip进行。其实网卡是支持一个绑定多个IP的，当然必须确保ip是有效的且未使用的。
# ifconfig eth0:1 10005
以上命令可以在eth0网卡上增加一个ip 10005，服务器网卡每增加一个ip，就可以允许在这个ip上再创建65535左右的链接数。
曾经做过一个邮件网关的链接数测试，目的是为了测试网关服务器可以接收并且保持多少TCP长连接。正常情况下，受限于单台机器65535端口号的影响，客户端想创建25万TCP长连接，至少需要4台机器。通过对客户端网卡绑定多IP的方法，成功在一台机器上创建了25万个链接。
当然，这种手段只是一种非常规的 *** 作，只是为了进行某种特殊场景的测试。正常情况下不推荐网卡绑定多个IP。
对于Tomcat服务器来讲，它是链接接收端，它是不是也受限于65535呢？
并不是，从上面图中可以看到，Jmeter发起的所有链接都创建在Tomcat服务器的8080端口，也就是说对于链接接收端，所有的链接占用的是同一个端口。
根据TCP标识四元组可以分析出， 一个链接接收端，最大的TCP链接数=所有有效ip排列组合的数量端口数量64000 ，这个计算结果应该是一个天文数字。 因此链接接收端支持的链接数理论上可以认为是无限大的。
上面介绍的一些数据都是理论上单台机器可以支持的TCP链接数， 实际情况下，每创建一个链接需要消耗一定的内存，大概是4-10kb，所以链接数也受限于机器的总内存。
链接发起端,活力全开才64000左右链接，内存最多才占用640M，一般客户端都能 满足，内存限制主要还是考虑服务器端。
虽然现在的集群，分布式技术可以为我们将并发负载分担在多台服务器上，那我们只需要扩展出数十台电脑就可以解决问题，但是我们更希望能更大的挖掘单台服务器的资源，先努力垂直扩展，再进行水平扩展，这样可以有效的节省服务器相关的开支（硬件资源、机房、运维人力、电力其实也是一笔不小的开支）。
首先需要考虑文件句柄的限制。在Linux下编写网络服务器程序的朋友肯定都知道每一个tcp连接都要占一个文件描述符，一旦这个文件描述符使用完了，新的连接到来返回给我们的错误是“Socket/File:Can't open so many files”。这时你需要明白 *** 作系统对可以打开的最大文件数的限制。
我们可以通过ulimit -n命令、/etc/security/limitsconf 文件 以及 /etc/sysctlconf 文件等来修改文件句柄数。
其次要考虑的是端口范围的限制， *** 作系统上端口号1024以下是系统保留的，从1024-65535是用户使用的。
由于每个TCP连接都要占一个端口号，所以我们最多可以有60000多个并发连接。我想有这种错误思路朋友不在少数吧？
面试官也比较喜欢在这里引导挖坑，类似的问题还有：一个UDP连接可以复用已经被TCP连接占用的端口嘛？
如何标识一个TCP连接？
系统使用一个4四元组来唯一标识一个TCP连接：
本地端口号 local port、本地IP地址 local ip、远端端口号 remote port、远端IP地址 remote ip。
server通常固定在某个本地端口上监听，等待client的连接请求。不考虑地址重用（unix的SO_REUSEADDR选项）的情况下，即使server端有多个ip，本地监听端口也是独占的，因此server端tcp连接4元组中只有remote ip（也就是client ip）和remote port（客户端port）是可变的，因此最大tcp连接为客户端ip数×客户端port数，对IPV4，不考虑ip地址分类等因素，最大tcp连接数约为2的32次方（ip数）×2的16次方（port数），也就是server端单机最大tcp连接数约为2的48次方。
上面给出的结论都是理论上的单机TCP并发连接数，实际上单机并发连接数肯定要受硬件资源（内存）、网络资源（带宽）的限制。
单台服务器最大支持多少连接数
>
欢迎分享，转载请注明来源：内存溢出
微信扫一扫
支付宝扫一扫
评论列表（0条）