使用队列进行削峰?把请求放入队列?如何实操?
这得用异步编程模式了吧!因为服务器收到一个请求后,需要异步等待队列执行的结果,有结果后,再返回response。如果用户量大了,响应会变慢,但是服务器不会挂掉
如果你对这篇内容有疑问,欢迎到本站社区发帖提问 参与讨论,获取更多帮助,或者扫码二维码加入 Web 技术交流群。
绑定邮箱获取回复消息
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
这得用异步编程模式了吧!因为服务器收到一个请求后,需要异步等待队列执行的结果,有结果后,再返回response。如果用户量大了,响应会变慢,但是服务器不会挂掉
由于您还没有绑定你的真实邮箱,如果其他用户或者作者回复了您的评论,将不能在第一时间通知您!
接受
或继续使用网站,即表示您同意使用 Cookies 和您的相关数据。
发布评论
评论(3)
你的提问提出的是实操,那就主要描述具体操作
第一种: 异步操作
也即是当流量高峰的时候,用户发出请求,服务器立即响应,同时执行过程丢入异步队列中,在php中,我们可以使用redis 或者 swoole 队列来实现
参考消费者模式
创建一个消费者进行脚本,从队列中读取数据处理接收到的数据
客户端交互过程:客户端 -> 服务器接收到数据 -> 塞入数据到队列中 -> 响应给客户端
服务端消费者过程: 检查数据是否在 -> 接收到数据 -> 检查当前处理是否满足条件(处理的数据量太大) -> 丢弃 或者 处理
例如参见的 根据 Kafka、rembqq都是干消费者的
第二种: 建立分布式服务
举个例子: 当前有1000个数据,当请求过程中,可以使用nginx等进行负载均衡到各个服务器中进行处理,从而达到处理平均
第三种: 直接干掉多余的流量
例如漏桶算法,多出来的流量直接丢弃,不进行处理。例如服务端已经有200个数据了,但是只能荷载150个人。当201个数据或者151个数据请求的时候,直接return,客户端返回对应的提示即可
例如 目前人数过多啥的,这就是流量被丢弃的提示
服务器会不会挂掉?
建议你根据你预期的流量,提前做好准备,随时扩容或者计算好流量顶峰数量,随时丢弃多余流量就不会有很大影响,只是损失用户体验
队列削峰的意思是:有一些非及时的接口可以让他慢慢处理。但是绝大部分情况下,接口肯定需要马上返回的,不需要用队列。比如:有些场景的秒杀,通知等
想让服务器在极限负载的时候不至于崩溃,用到的是网关,进行接口限流。
你可收到 request 后,起一个 队列,然后response,这样这个请求就结束了。
另一个程序去消费你的队列,处理你要的业务即可。