如何实现单服务器300万个长连接的
答案:1 悬赏:40 手机版
解决时间 2021-11-21 17:55
- 提问者网友：留有余香
- 2021-11-20 18:53
如何实现单服务器300万个长连接的
最佳答案
- 五星知识达人网友：零点过十分
- 2021-11-20 19:41
不是吹牛，理论上完全可以达到。
（以下参考值皆是Linux平台上）
1，Linux单个进程可以维持的连接数(fd)理论值是通过ulimit -a设置，或在server内使用setrlimit()设置，具体最大是多少？我看我的64机上是64bits的一个数值，所以，权且认为理论上是2^64-1。 anyway，几百万不是问题。
2，TCP连接数。因为是Server端，不用向系统申请临时端口，只占fd资源。所以tcp连接数不受限制。
3，维持连接当然需要内存消耗，假如每个连接（fd），我们为其分配5k字节（应该足够了，就存放一些用户信息之类的）。这样是5k*3000000=15G。 文中有24G内存，应该也足够了。
================================
下面我们说下文中提及的 多消息循环、异步非阻塞。
先说异步和非阻塞吧。权且认为这俩是一个概念。都是指的IO的异步和非阻塞。
1，异步+非阻塞的话，Linux上必然是epoll了。
原理上简而言之吧，异步就是基于事件的读写，epoll同时监听所有的tcp连接（fd），当有哪些连接上有了事件（读、写、错误），就返回有事件的连接集合，然后处理这个集合里的需要处理的连接事件。这儿就是基于事件的异步IO。
非阻塞。 在得到有事件的tcp连接集合之后，逐一进行读（写）。分开来说，需要读的fd，其实数据已经到OS的tcp buffer里了，读完直接返回，CPU不等待。（返回EAGAIN，其实就进行了几次memcpy）； 需要写的连接，同样，其实是把数据写到了OS的tcp buffer里，写满为止。。不会等待对方发来ACK再返回。这样，其实这里CPU基本上只进行了一些memcpy的操作。。即便同时几十万连接有事件，也是瞬间处理完的事。。。然后，CPU再进行异步io等待（epoll_wait()）。
当然这儿要充分利用多核，最好将io线程和work线程分开。
2，多消息循环。。这个应该是他们内部的概念。我个人猜测是异步的消息协议。
举例子，传统的TCP连接是一问一答，如HTTP。
（以下参考值皆是Linux平台上）
1，Linux单个进程可以维持的连接数(fd)理论值是通过ulimit -a设置，或在server内使用setrlimit()设置，具体最大是多少？我看我的64机上是64bits的一个数值，所以，权且认为理论上是2^64-1。 anyway，几百万不是问题。
2，TCP连接数。因为是Server端，不用向系统申请临时端口，只占fd资源。所以tcp连接数不受限制。
3，维持连接当然需要内存消耗，假如每个连接（fd），我们为其分配5k字节（应该足够了，就存放一些用户信息之类的）。这样是5k*3000000=15G。 文中有24G内存，应该也足够了。
================================
下面我们说下文中提及的 多消息循环、异步非阻塞。
先说异步和非阻塞吧。权且认为这俩是一个概念。都是指的IO的异步和非阻塞。
1，异步+非阻塞的话，Linux上必然是epoll了。
原理上简而言之吧，异步就是基于事件的读写，epoll同时监听所有的tcp连接（fd），当有哪些连接上有了事件（读、写、错误），就返回有事件的连接集合，然后处理这个集合里的需要处理的连接事件。这儿就是基于事件的异步IO。
非阻塞。 在得到有事件的tcp连接集合之后，逐一进行读（写）。分开来说，需要读的fd，其实数据已经到OS的tcp buffer里了，读完直接返回，CPU不等待。（返回EAGAIN，其实就进行了几次memcpy）； 需要写的连接，同样，其实是把数据写到了OS的tcp buffer里，写满为止。。不会等待对方发来ACK再返回。这样，其实这里CPU基本上只进行了一些memcpy的操作。。即便同时几十万连接有事件，也是瞬间处理完的事。。。然后，CPU再进行异步io等待（epoll_wait()）。
当然这儿要充分利用多核，最好将io线程和work线程分开。
2，多消息循环。。这个应该是他们内部的概念。我个人猜测是异步的消息协议。
举例子，传统的TCP连接是一问一答，如HTTP。
我要举报
如以上回答内容为低俗、色情、不良、暴力、侵权、涉及违法等信息，可以点下面链接进行举报！
点此我要举报以上问答信息
大家都在看
推荐资讯