如何控制web程序中的并发行为

1、提供HTML静态访问
web界面上最快的访问速度是什么？当然是最原始的HTML文件访问,对于其他语言 比如 jsp ,asp,php等等,他们首先要通过服务器解析成html之后在返回给访问者，如果我们能提供全部是htm来的页面，那么就能大大的降低服务器和数据库资源的利用和提高网站的并发，所以我们尽可能使我们的网站上的页面采用静态页面来实现，这个最简单的方法其实也是最有效的方法。当然实现这种方式大家比较了解的就是信息发布系统CMS,信息发布系统可以实现最简单的信息录入自动生成静态页面，还能具备频道管理、权限管理、自动抓取等功能，对于一个大型网站来说，拥有一套高效、可管理的CMS是必不可少的。
在后续的文章中我们会单独的使用jsp + servlet实现一个简单的信息发布系统
2、使用独立的服务器
为什么要把单独设置一个服务器？对于Web服务器来说，消耗的服务器资源是最多的，如果能把所有的资源放到一个单独的服务器中进行处理的话，可以降低提供页面访问请求的服务器系统压力，从而能进一步的提高web程序的并发所以在有条件的情况下最好能把放置到一个单独的服务器中
3、配置多台数据库服务器，多个数据库集群
集群（Cluster）技术是使用特定的连接方式，将价格相对较低的硬件设备结合起来，同时也能提供高性能相当的任务处理能力。
越是大型高并发的应用，数据库的压力就会越大，如果数据库 *** 作很频繁，数据库的瓶颈很快就能显现出来，这时一台数据库将很快无法满足应用，于是我们需要使用数据库集群。
数据库集群就是使用多个数据库服务器分担请求的压力，达到快速响应的目的
4、使用缓存
所谓的缓存就是把数据咱是放置到内存中，前台在请求的时候直接从内存中读取数据，而不需要去查询数据库或者读取文件等，这样就能做到最快的响应。网站架构和网站开发中的缓存是非常重要的。
目前有很多开源的缓冲实现方案，APC，File，SQLite，Memcache等等各种类库实现着不同的缓存方式，只有通过了解他们的实现方式，根据具体应用具体选择，才会使缓存系统发挥出最大的性能。
对于java开发来说，大名顶顶的 分布式缓存系统Memcache 可能是最好的选择，他提供一个基于Socket的访问方式，使得该缓存系统支持远程读写访问。尽管这个缓存的内容可能是存在内存中，也可能是存在文件内。

一开始我无法理解，单机怎么可能实现百万并发连接，因为系统可用端口数只有：65535 - 1024 = 64511，每个TCP连接需要占用一个独立的端口，那最多也只能做到6W多并发连接。然而我忽视了一个很基本的问题，端口号在同一个IP下不能重复，但我们可以给一个网卡绑定多个IP地址，如果单机要主动发起100万并发连接，我们最少需要使用17个IP地址。

TCP服务器监听在指定端口接收客户端连接后，创建一个新的socket用于同客户端进行读写数据，但该socket并不需要也不会绑定一个新的端口，所以对于TCP服务器来说，不存在端口不够用的情况，TCP服务器能够保持多少个并发连接取决于服务器性能、内存大小、带宽大小以及服务器端设置（例如：进程能打开的文件数等）。以100W连接数为例，所需要总内存大小大约为：1,000,000 20K = 20G, 广播一个1KB的消息需要占用的带宽：1,000,000 1K = 1000M，所需打开文件描述符1,000,000个。

对于TCP服务器连接数压力测试来说，瓶颈在客户端，因为每个客户端要连接到TCP服务端需要使用一个本地端口，而对于一个IP地址来说，端口范围就是：0-65536，其中还要一些端口被系统或其他程序使用。所以从一台主机单个IP上发起同TCP服务器的连接数理论最大值为65535，当然我们可以给该主机绑定N个IP地址，同时从多个IP发起连接，所以理论上客户端可以发起的连接数为：IP数65535，这时客户端的CPU、内存和带宽以及文件句柄资源就是限制。

　对于大流量、大并发量的网站系统架构来说，除了硬件上使用高性能的服务器、负载均衡、CDN等之外，在软件架构上需要重点关注下面几个环节：使用高性能的 *** 作系统（OS）、高性能的网页服务器（Web Server）、高性能的数据库（Databse）、高效率的编程语言等。下面我将从这几点对其一一讨论。
*** 作系统
Linux *** 作系统有很多个不同的发行版，如Red Hat Enterprise Linux、SUSE Linux Enterprice、Debian、Ubuntu、CentOS等，每一个发行版都有自己的特色，比如RHEL的稳定，Ubuntu的易用，基于稳定性和性能的考虑， *** 作系统选择CentOS（Community ENTerprise Operating System）是一个理想的方案。
CentOS（Community ENTerprise Operating System）是Linux发行版之一，是RHEL/Red Hat Enterprise Linux的精简免费版，和RHEL为同样的源代码，不过，RHEL和SUSE LE等企业版，提供的升级服务均是收费升级，无法免费在线升级，因此要求免费的高度稳定性的服务器可以用CentOS替代Red Hat Enterprise Linux使用。
LAMP网站架构图
Web服务器、缓存和PHP加速
Apache是LAMP架构最核心的Web Server，开源、稳定、模块丰富是Apache的优势。但Apache的缺点是有些臃肿，内存和CPU开销大，性能上有损耗，不如一些轻量级的Web服务器（例如nginx）高效，轻量级的Web服务器对于静态文件的响应能力来说远高于Apache服务器。
Apache做为Web Server是负载PHP的最佳选择，如果流量很大的话，可以采用nginx来负载非PHP的Web请求。nginx是一个高性能的>