高并发架构技术解决方案？

高并发架构的难点是什么？
高并发架构最大问题主要是由于网站PV访问量大，单台服务器承载大量访问所带来的压力，所以会采用多台服务器进行分流，采用服务器集群技术，对于每个请求访问会被 发送到不同的服务器。
这样架构的难点就在管理、维护、监控、负载等等都面临很大的技术问题，同时还需要应对某些业务的突发流量，像秒杀、促销等场景化使用什么技术解决高并发？
互联网分布式架构设计，提高系统并发能力的方式，方法论上主要有两种：垂直扩展（Scale Up）与水平扩展（Scale Out）。
垂直扩展：提升单机处理能力。垂直扩展的方式又有两种：
（1）增强单机硬件性能，例如：增加CPU核数如32核，升级更好的网卡如万兆，升级更好的硬盘如SSD，扩充硬盘容量如2T，扩充系统内存如128G；
（2）提升单机架构性能，例如：使用Cache来减少IO次数，使用异步来增加单服务吞吐量，使用无锁数据结构来减少响应时间；
在互联网业务发展非常迅猛的早期，如果预算不是问题，强烈建议使用“增强单机硬件性能”的方式提升系统并发能力，因为这个阶段，公司的战略往往是发展业务抢时间，而“增强单机硬件性能”往往是最快的方法。
不管是提升单机硬件性能，还是提升单机架构性能，都有一个致命的不足：单机性能总是有极限的。所以互联网分布式架构设计高并发终极解决方案还是水平扩展。
水平扩展：只要增加服务器数量，就能线性扩充系统性能。水平扩展对系统架构设计是有要求的，如何在架构各层进行可水平扩展的设计，以及互联网公司架构各层常见的水平扩展实践。
水平扩展要怎么来做？首先是软件服务拆分到不同的服务器进行部署，全部堆积在一台上性能将会受限。例如：Redis 就只是部署在独立的服务器上，其它软件都在这服务器上出现增加各个软件服务部署的服务后，采用技相关技术手段分担到各个服务器上。nginx反向代理层可以通过“DNS轮询”的方式来进行水平扩展。dns-server对于一个域名配置了多个解析ip，每次DNS解析请求来访问dns-server，会轮询返回这些ip。PHP站点层可以通过修改nginxconf实现负载均衡机制来进行水平扩展。从而设置多个web后端。服务层可以通过服务连接池来进行水平扩展；这里一部需要实现服务化，PHP像swoole tarsphp等数据库可以按照数据范围，或者数据哈希的方式来进行水平扩展；那高并发架构是什么样的？
常见互联网分布式架构如上，分为：
（1）客户端层：典型调用方是浏览器browser或者手机应用APP
（2）反向代理层：系统入口，反向代理
（3）站点应用层：实现核心应用逻辑，返回html或者json数据
（4）服务层：服务化，例如像Swoole
（5）数据-缓存层：缓存加速访问存储
（6）数据-数据库层：数据库固化数据存储

并发在24000左右，已经相当高了。在以往，这种必须的四路服务器或者双路服务器集群才可以搞定。但是现在用最新SNB-E的双路八核超线程的服务器也可以支持了。

你可以看看国产品牌正睿的这款双路八核服务器，标配一个Xeon E5-2650八核心十六线程处理器、16G DDR3 REG ECC容错校验内存，SAS 300G 15000转高速企业级硬盘，2U热插拔机构，可以在不关机的情况下增加或更换硬盘，四个千兆网卡。如果以后随着业务量的增长，觉得性能不够用了，还可以扩展到两颗处理器，达成16颗处理核心32条计算线程（任务管理器那里可以看到32个处理器格子，相当恐怖- -~），最大支持512GB DDR3 REG ECC高速容错校验内存，怎么也够用了。
产品型号：I22S2-8888HV
产品类型：双路八核机架式服务器
处 理 器：Xeon E5-2650
内 存：16G DDR3 REG ECC
硬 盘：SAS 300G
机 构：2U机架式
价 格：￥24900

银牌服务
全国三年免费上门售后服务，关键部件三年以上免费质保。

建议你升级到2个CPU，达成物理16核心，32个计算线程，内存升级到32G DDR3 REG ECC，3个SAS 300G硬盘做RAID5阵列，总价大约在35000左右搞定。

给你推荐的是国产品牌正睿的服务器产品，他们的产品性价比很高，做工很专业，兼容性，质量之类的都有保障，售后也很完善，3年免费质保，3年免费上门售后服务，在业界口碑很不错。

您好楼主希望对您有帮助高并发对后台开发同学来说，既熟悉又陌生。熟悉是因为面试和工作经常会提及它。陌生的原由是服务器因高并发导致出现各位问题的情况少之又少。同时，想收获这方面的经验也是摸着石头过河，需要大量学习理论知识，再去探索。

如果是客户端开发的同学，字典中是没有“高并发”这个名词。这验证一句老话，隔行如隔山。客户端开发，特别是手机应用开发，更多地是考虑如何优化应用的性能，降低App的卡顿率

在这个“云”的时代，提高分布式系统并发能力的方式，方法论上主要有两种：垂直扩展（ScaleUp）与水平扩展（ScaleOut）。

1)垂直扩展

提升单机处理能力。垂直扩展的方式又有两种：

增强单机硬件性能，例如：增加CPU核数如32核，升级更好的网卡如万兆，升级更好的硬盘如SSD，扩充硬盘容量如2T，扩充系统内存如128G；

提升单机架构性能，例如：使用Cache来减少I/O次数，使用异步来增加单服务吞吐量，使用无锁数据结构来减少响应时间；

2)水平扩展

只要增加服务器数量，就能线性扩充系统性能。虚拟化技术的出现，让水平扩展变得轻松且简单。现在的云主机几乎是虚拟主机，而不是物理主机。这样的话，线性扩充也就是分分钟的事，前提是要有足够的物理主机支撑。

Web框架层

Web框架层就是我们开发出来的DjangoWeb应用程序。它负责处理>

WSGI层

WSGI不是用于与程序交互的API，也不是真实的代码，WSGI只是一种接口。它只适用于Python语言，其全称为WebServerGatewayInterface。其定义了web服务器和web应用之间的接口规范。

Web服务器层

Web服务层作用是主要是接收>

特别是Nginx,它的出现是为了解决C10K问题。Nginx依靠异步事件驱动架构来帮助其处理大量的并发会话，由于其对资源的轻量利用和伸缩自如的特性，它成为了广受欢迎的web服务器。

Django框架注重的数据交互。所以考虑的问题是Django适不适合于高并发的场景。

它是一个经过大型网站规模验证的框架。Instagram支撑上亿日活，所以Django能适用于高并发场景。所以不是想着Django框架能支撑到多大的并发量，而是我们想要抗住很大的并发量，怎么优化现有框架。总之这个问题不是这么简单的活到老学到老多看看技术类书籍结合自己的能力在进行改进

根据实地观察，单台mqtt服务如果并发达到5w以上，就经常出故障；在2w左右内网访问服务器就比较卡了。
注：配置是4核 16G内存，虚机。配置有点差。对CPU的消耗比较高，内存基本没啥消耗，所以建议把CPU整好点。

2000。
单台服务器最高并发数2000，这是业内的大牛通过各种架构/优化和技术实现的，销量好，每秒交易量约2000当然普通的机构没这么多。同时单个请求的处理时间, 理论上的极值为70ms。

做网站的话，服务器要分前端和后端的，还有cache、负载平衡、网络带宽和存储系统等问题要考虑，不是单讲一台服务器就能说清楚的。
只讨论一台服务器的话，3650双路加4G内存支持到5万并发是容易达到的，即使针对业务流比较复杂的情况，也能满足很大程度的需要。
但是考虑到存储子系统，比如4块sas硬盘raid0，可能只能达到5000数量级的并发请求。如果是以另外的光纤盘阵来支持存储则可以显著提高硬盘传输带宽的性能。
最后还要考虑到你的网络带宽，对大多数网站来说，通常这才是最大的瓶颈所在。也就是说即使你的cpu、内存、硬盘都没问题，也会因为租用的网络带宽限制而影响最大的并发数。
还有一点，经过优化的网站程序对结果也有很大影响。事实上很多网站的访问体验很糟糕，其实不是因为硬件的原因，而是程序写的太烂。
很抱歉我本想以单台服务器来讲，但是说着说着又变成讲网站架构了。不如举个例子吧，如果你在这台服务器上运行discuz或动网之类的服务，在没有特别高峰的情况下，5万并发是没有问题的。

---