当前使用以下规则集确定给定实例是否可以接受新请求:
if processing more than N concurrent requests (today N=10): falseelif exceeding the soft memory limit: falseelif exceeding the instance class CPU limit: falseelif warming up: falseelse true
以下总的CPU /核心限制目前适用于每个实例类:
CLASS 1: 600MHz 1 coreCLASS 2: 1.2GHz 1 coreCLASS 4: 2.4GHz 1 coreCLASS 8: 4.8GHz 2 core
因此,只有一个
B8实例可以并行处理最多2个完全由CPU绑定的请求。
为实例类<8设置
threadsafe:true(Python)或
<threadsafe>true</threadsafe>(Java)将不允许在单个实例上并行处理多个CPU绑定请求。
如果您不完全受CPU约束或不进行I / O,Python和Java运行时将生成新线程以处理新请求,最多可处理10个并发请求。
threadsafe:true
还要注意,即使Go运行时是单线程的,它也支持并发请求:它将为每个请求生成1个goroutine,并在goroutine执行I /
O时在goroutine之间进行控制。
欢迎分享,转载请注明来源:内存溢出
评论列表(0条)