百度360必应搜狗淘宝本站头条
当前位置:网站首页 > 技术文章 > 正文

websocket连接太多导致服务器卡顿怎么办?一招轻松实现横向扩展

zhezhongyun 2025-01-14 19:05 39 浏览

前言

项目中有即时聊天的需求,经过调研我们采用了socket.io自己实现了一个聊天服务器。

开始的一段时间由于用户不是很多,消息的发送接收都还算流畅,最近随着在线用户数量飙升,每过一段时间就会发生发送消息卡顿和接收消息延时的问题,最后只能通过重启socket服务来暂时解决问题。

那有没有办法从根本上解决这个问题呢?

目录

  1. 什么是socket.io
  2. socket.io实现一个简易的即时聊天应用
  3. socket.io支持分布式部署吗?
  4. 总结

什么是socket.io?

在介绍什么是socket.io之前,不得不先提一下WebSocket

我们都知道HTTP协议是一种单向的网络通信协议,服务端只能被动响应来自客户端的请求,却不能主动向客户端推送数据。

WebSocket技术没有出现之前,如果要开发一个需要实时获取服务端数据的Web应用,常见有以下两种方式:ajax轮询Long Polling。

  • ajax轮询的原理其实很简单,就是让客户端每隔一小段时间就主动向服务端发送一次请求,如果有新数据客户端就把它显示出来。
  • 可以看出不管有没有新数据,ajax轮询都会定时向服务端发起请求,这会导致服务端不必要的性能消耗,Long Polling就是对ajax轮询的一种改进。客户端向服务端发送请求,服务端不会立即就响应客户端而是会先保持住此次连接,直到有新的数据时才会返回,客户端接收到数据之后再立即发送一个新的请求给服务端,并不断得重复这一过程。

可以看出这两种方式都需要不断的建立连接,但是建立连接是一个比较消耗性能的操作,这个时候如果有一个新的通信协议可以支持客户端和服务端双向通信就好了,所以WebSocket应运而生。

WebSocket是HTML5新增的一种通信协议。WebSocket协议是一种支持双向通信的协议,它和HTTP协议一样通过TCP来进行数据传输,但是WebSocket又不同于HTTP:

  • WebSocket是一种支持双向通信的协议,双方在建立连接后都能主动向对方发送或接收数据。
  • 客户端和服务端要想进行WebSocket通信必须先握手交换信息,成功之后才能进行通信。

说了这么多,那么WebSocket跟socket.io又是什么关系呢?

一直以来我都以为socket.io只是WebSocket协议的一种实现而已,深入之后才发现这种观点不完全正确。

socket.io是一个基于Node.js技术和WebSocket协议开发的实时的,可双向通信的和基于事件的的开源通信框架

WebSocke是HTML5新推出的协议,主流浏览器对它的支持还不是很完善,所以socket.io不仅仅实现了WebSocket协议,除此之外它还支持一些其他的通信方式,比如前面我们提到的ajax轮询和Long Polling等,可以根据浏览器的支持程度切换不同的通信方式。

用socket.io实现一个简易的即时聊天应用

接下来我们就是使用socket.io来实现一个简易的即时聊天的web应用。

先来看一下效果:

下面简单介绍一下实现方式,主要分为客户端和服务端两个部分。

服务端核心代码:

服务端主要定义了3个监听事件,分别用来监听客户端的加入群聊、发送消息和离开群聊事件,服务端在监听到事件后会再通过broadcast.emit方法将消息向全体用户广播。

客户端核心代码:

主要流程:

  1. 向socket服务端请求连接;
  2. 自己向服务端发送加入群聊请求;
  3. 监听服务端广播的其他用户加入群聊消息;
  4. 监听服务端广播的用户聊天信息;
  5. 监听服务端广播的用户离开群聊消息;

socket.io支持分布式部署吗?

socket服务端维护连接是一个十分消耗性能的操作,那么大量的连接必然会给服务器带来非常大的性能压力,当单台socket服务器支撑不了时该怎么办呢?

解决方案其实也很简单:分而治之,我们可以将多个socket服务端组成负载均衡集群,再将连接平均分配到每个服务端。

有人也许会提出疑问:多个socket服务端之间怎么通信?比如用户1连接到了socket服务端1,用户2连接到了socket服务端2,那么用户1发的消息怎么广播到socket服务端2呢?

这里就需要提一下Redis了,对你没看错,就是那个用作缓存的Redis。

其实Redis除了当作缓存使用之外,它还有一个非常厉害的功能:发布/订阅

Redis的发布订阅机制包括三个部分:发布者、订阅者和频道。 发布者将消息发送到某个频道,那么Redis服务器就会主动将消息推送到订阅了这个频道的所有订阅者。

socket.io正式利用Redis的发布订阅机制来支持分布式部署的:

当客户端1通过emit触发了一个事件到socket服务端1,socket服务端1将这个消息发送到Redis的某个频道,订阅了这个频道的socket服务端2就会收到这个消息,socket服务端2再向连接它的用户广播就行了。

代码增加reidssocket.io-redis模块:

总结

socket.io是一个基于Node.js技术和WebSocket协议开发的实时的,可双向通信的和基于事件的的开源通信框架。除此之外它还兼容ajax轮询和Long Polling等前后端通信方式,我们可以根据浏览器的支持程度进行自由切换。

socket.io非常适合客户端和服务端需要进行实时通信的场景,它利用Redis的发布订阅机制可以实现分布式部署,这让socket服务端横向扩展变得很加容易。

“分享知识,收获快乐”

我是一名程序员,喜欢我的文章欢迎 关注 及 转发,我会经常与大家分享一些工作当中的编程技巧与经验。

相关推荐

JPA实体类注解,看这篇就全会了

基本注解@Entity标注于实体类声明语句之前,指出该Java类为实体类,将映射到指定的数据库表。name(可选):实体名称。缺省为实体类的非限定名称。该名称用于引用查询中的实体。不与@Tab...

Dify教程02 - Dify+Deepseek零代码赋能,普通人也能开发AI应用

开始今天的教程之前,先解决昨天遇到的一个问题,docker安装Dify的时候有个报错,进入Dify面板的时候会出现“InternalServerError”的提示,log日志报错:S3_USE_A...

用离散标记重塑人体姿态:VQ-VAE实现关键点组合关系编码

在人体姿态估计领域,传统方法通常将关键点作为基本处理单元,这些关键点在人体骨架结构上代表关节位置(如肘部、膝盖和头部)的空间坐标。现有模型对这些关键点的预测主要采用两种范式:直接通过坐标回归或间接通过...

B 客户端流RPC (clientstream Client Stream)

客户端编写一系列消息并将其发送到服务器,同样使用提供的流。一旦客户端写完消息,它就等待服务器读取消息并返回响应gRPC再次保证了单个RPC调用中的消息排序在客户端流RPC模式中,客户端会发送多个请...

我的模型我做主02——训练自己的大模型:简易入门指南

模型训练往往需要较高的配置,为了满足友友们的好奇心,这里我们不要内存,不要gpu,用最简单的方式,让大家感受一下什么是模型训练。基于你的硬件配置,我们可以设计一个完全在CPU上运行的简易模型训练方案。...

开源项目MessageNest打造个性化消息推送平台多种通知方式

今天介绍一个开源项目,MessageNest-可以打造个性化消息推送平台,整合邮件、钉钉、企业微信等多种通知方式。定制你的消息,让通知方式更灵活多样。开源地址:https://github.c...

使用投机规则API加快页面加载速度

当今的网络用户要求快速导航,从一个页面移动到另一个页面时应尽量减少延迟。投机规则应用程序接口(SpeculationRulesAPI)的出现改变了网络应用程序接口(WebAPI)领域的游戏规则。...

JSONP安全攻防技术

关于JSONPJSONP全称是JSONwithPadding,是基于JSON格式的为解决跨域请求资源而产生的解决方案。它的基本原理是利用HTML的元素标签,远程调用JSON文件来实现数据传递。如果...

大数据Doris(六):编译 Doris遇到的问题

编译Doris遇到的问题一、js_generator.cc:(.text+0xfc3c):undefinedreferenceto`well_known_types_js’查找Doris...

网页内嵌PDF获取的办法

最近女王大人为了通过某认证考试,交了2000RMB,官方居然没有给线下教材资料,直接给的是在线教材,教材是PDF的但是是内嵌在网页内,可惜却没有给具体的PDF地址,无法下载,看到女王大人一点点的截图保...

印度女孩被邻居家客人性骚扰,父亲上门警告,反被围殴致死

微信的规则进行了调整希望大家看完故事多点“在看”,喜欢的话也点个分享和赞这样事儿君的推送才能继续出现在你的订阅列表里才能继续跟大家分享每个开怀大笑或拍案惊奇的好故事啦~话说只要稍微关注新闻的人,应该...

下周重要财经数据日程一览 (1229-0103)

下周焦点全球制造业PMI美国消费者信心指数美国首申失业救济人数值得注意的是,下周一希腊还将举行第三轮总统选举需要谷歌日历同步及部分智能手机(安卓,iPhone)同步日历功能的朋友请点击此链接,数据公布...

PyTorch 深度学习实战(38):注意力机制全面解析

在上一篇文章中,我们探讨了分布式训练实战。本文将深入解析注意力机制的完整发展历程,从最初的Seq2Seq模型到革命性的Transformer架构。我们将使用PyTorch实现2个关键阶段的注意力机制变...

聊聊Spring AI的EmbeddingModel

序本文主要研究一下SpringAI的EmbeddingModelEmbeddingModelspring-ai-core/src/main/java/org/springframework/ai/e...

前端分享-少年了解过iframe么

iframe就像是HTML的「内嵌画布」,允许在页面中加载独立网页,如同在画布上叠加另一幅动态画卷。核心特性包括:独立上下文:每个iframe都拥有独立的DOM/CSS/JS环境(类似浏...