nginx健康检测失效(nginx和haproxy的健康检查)

nginx和haproxy的健康检查

基本可以替代。

TCP代理：两个都有。

HTTP代理：两个都有。

这两个的差别主要在于：Haproxy会对后端服务器一直做健康检测，NG没有。

后端机器故障发生在请求还没到来的时候：

haproxy：会将这台故障机切掉，但如果后端机器故障发生在请求到达期间，那么前端访问会有异常。也就是说HAProxy会把请求转到后端的这台故障机上，并经过多次探测后才会把这台机器切掉，并把请求发给其他正常的后端机，这势必会造成一小段时间内前端访问失败。

Nginx：在请求过来的时候，分发还是会正常进行分发，只是请求不到数据的时候，它会再转向好的后端机器进行请求，直到请求正常为止。也就是说Nginx请求转到后端一台不成功的机器的话，还会再转向另外一台服务器，这对前端访问没有什么影响。

所以在高并发的情况下，Haproxy会比nginx略差。

nginx 健康检测

Nginx有自带的健康检查参数max_fails和fail_timeout可以判断节点是否挂掉，如果挂了就自动过滤掉该节点

nginx后端健康检查

1、作为Web服务器，Nginx处理静态文件、索引文件，自动索引的效率非常高

2、作为代理服务器，Nginx可以实现无缓存的反向代理加速，提高网站运行速度

3、作为负载均衡服务器，Nginx既可以在内部直接支持Rails和PHP，也可以支持HTTP代理服务器对外进行服务，同时还支持简单的容错和利用算法进行负载均衡

4、在性能方面，Nginx是专门为性能优化而开发的，实现上非常注重效率。它采用内核Poll模型，可以支持更多的并发连接，最大可以支持对5万个并发连接数的响应，而且只占用很低的内存资源

5、在稳定性方面，Nginx采取了分阶段资源分配技术，使得CPU与内存的占用率非常低。Nginx官方表示，Nginx保持1万个没有活动的连接，而这些连接只占用2.5MB内存，因此，类似DOS这样的攻击对Nginx来说基本上是没有任何作用的

6、在高可用性方面，Nginx支持热部署，启动速度特别迅速，因此可以在不间断服务的情况下，对软件版本或者配置进行升级，即使运行数月也无需重新启动，几乎可以做到7x24小时不间断地运行

7、内置的健康检查功能：如果有一个服务器宕机，会做一个健康检查，再发送的请求就不会发送到宕机的服务器了。重新将请求提交到其他的节点上。

nginx配置健康检查

1、 智能分发

抖音系统对于新发布的视频或直播间通常会给予四部分的流量推荐：

首先是分发给该账号的关注粉丝，因为关注的粉丝与账号之间具有最强的关系链接；

其次是通讯录好友或者可能认识的人，这里有个前提是需要授予APP调用手机通讯录的权限，并且在APP中开启通讯录好友可见；

然后是同城推荐，对于处于成长初期的账号而言，同城推荐是第一波推送；

最后则是相关标签用户，系统会先将每个账号和内容进行打标签处理，然后把视频或直播间推荐给系统标签相同或相似的账号，在小范围的流量池内进行扩散。

2、 流量池

上述智能分发中提到的前三点，不管是粉丝，还是通讯录好友，与平台上亿的DAU相比，数量上简直可以忽略不计。而且，系统能推荐的同城流量也相当有限。那么，想要获取平台更多的免费流量，流量池推荐则至关重要。

如上所说，对于新发布的视频或直播间，平台会先提供一个基于标签的小流量池，把内容推荐给可能会感兴趣的人群进行测试。测试过程中，系统会根据视频或直播间在这个流量池内扩散产生的反馈数据进行评估，如果数据反馈不错，说明内容质量优良，用户喜欢，那么接下来系统会将推荐的流量池扩大，内容也就能得到更多平台推荐的流量。如果第一波流量池反馈的用户数据不好，那么系统则不会继续下一层流量的推荐。

那么更重要的问题，流量池测试评估的数据维度有哪些，主要包括以下几个：

点赞量、评论量、转发量、关注量、视频完播率

知道了这几个评估标准，我们就要在一开始内容发出来的时候，想办法去提升点赞、评论、转发、关注，让用户把视频播放完，在直播间停留观看的时间尽可能久一点。发布内容的互动率高，播放观看数据好，这样才会被系统判定为优质内容，才有机会持续加持流量。

3、 去中心化

所谓的去中心化，是对于平台而言，维持整个生态持续健康均衡的发展是最为重要的事情。所以从平台角度出发不希望看到所有流量聚集在少数的大V账号，平台会在一定程度上限制大V账号新流量的分配，把更多流量红利分到新的高质量账号上。

这种去中心化的平衡机制不会让平台生态失衡，并且对新入局的创作者来说是很大的吸引，会吸引更多的人参与到内容生态的建设当中。当然最重要的还是高质的内容创作。

nginx健康检查,自动切换

以Nginx对OpenSSL的使用为入口，来分析OpenSSL的API的模型。OpenSSL是两个库，如果以握手为目的只会使用libssl.so这个库，但是如果有加密的需求，会使用libcrypto.so这个库。Nginx中对于OpenSSL的使用大部分是直接使用的libssl.so的接口API的，但是仍然会有少部分使用libcrypto.so。除了Nginx，本章还会分析一个s_server程序，通过这个程序的设计，能够对OpenSSL的内部架构有一个初探。

Nginx的Stream中SSL的实现

Nginx的Stream Proxy中有对于SSL的Terminator的支持。这个终端的意思是可以在Nginx层面把SSL解掉，然后把明文传输给后端。也就是说支持SSL的Nginx的Stream模块实际上是一个TLS的握手代理，将TLS信道在本地解了再发送到后端，所以整个过程是一个纯粹的握手过程，至于ALPN这种功能就需要后端与TLS的配合才可以，所以这种行为在stream 的SSL中是不能支持的。

这是一个Nginx的Stream SSL模块相关的函数列表，主要的Stream模块特有的功能也都就在这个列表里了。可以看到除去配置和模块的整体初始化函数，只剩下一个连接初始化，ssl的入口handler和握手的handler。显然握手的handler是入口handler的深入部分。鉴于Nginx的异步模型，可以很容易的想到是Nginx在收到一个连接的时候首先使用ssl_handler作为通用入口，在确定是SSL连接之后就会切换到handshaker_handler作为后续的握手handler函数。

但是Nginx在支持SSL的时候并不是这样的轻松，因为大量的SSL相关函数在ngx_event_openssl.c文件里，这个文件里的函数被HTTP模块和Stream模块或者其他需要SSL支持的模块共同使用。包括Session Cache等Nginx重新实现的OpenSSL功能。通过这个例子可以看到如果要自己实现一个SSL支持，我们需要两个东西，一个是SSL的用户端的接口封装库（ngx_event_openssl.c），一个是如何把封装库的逻辑嵌入到我们的代码流程的逻辑。Nginx作为一个强大的负载均衡设备，这一部分的接口嵌入应该是要追求的最小化实现的。也就是说Stream模块相关的代码越少越好（ngx_stream_ssl_module.c）。所以我们可以看到几乎就几个钩子函数的定义。

无论是Stream还是HTTP模式，整个TLS握手的核心函数都是ngx_ssl_handshake函数。我们看这个函数就能看到一个企业级的握手接口的使用案例。以下是一个简化版的函数流程：

以上是一个同步版本的大体逻辑，异步版本的就没有显示。可以看到主要的SSL握手的入口函数是SSL_do_handshake。如果握手正常，函数返回1之后，使用SSL_get_current_cipher或得到服务器根据客户端发来的密码学参数的列表选择得到的密码学套件。这里会返回服务器选择的那个，如果返回为空，那么就代表了服务器没有找到匹配的套件，连接就不能继续。SSL_CIPHER_description函数输入活的指针，返回一个字符串格式的套件的描述信息，Nginx这里使用了这个信息，最后一步就是查找当前的Session Cache中是否有可以复用的逻辑。这里只是一个查询，并不是就是复用的决定。因为是否复用是在连接建立之前由配置决定的，如果Nginx配置了不使用OpenSSL的Session Cache，这个查询就会一直返回0，表示没有被复用。而且这里查询的OpenSSL中是否有复用，并不代表Nginx内部是否有复用，Nginx内部还有一套自己的Session Cache实现，但是使用SSL_开头的API函数都是OpenSSL的接口。

这个简单的接口可以看出对OpenSSL的API的使用的一些端倪。OpenSSL提供的API非常多，我们写一个简单的示例程序仅仅会用到几个最简单的接口，例如SSL_new等。但是一个正式的项目，会用到很多细节的API接口。由于OpenSSL只会暴露他认为应该暴露的API函数出来给调用者使用，其他的函数调用者是用不到的，并且OpenSSL内部的结构体外部也是不能使用的，所以使用者所有的行为都是要基于API进行设计。

OpenSSL分为libcrypto.so和libssl.so两个库。在使用TLS握手的时候，主要的调用API都位于ssl.h文件中定义，都是SSL_开头的API。但是这并不意味着只能调用libssl.so的接口，高级的用户并不是想要使用OpenSSL的TLS握手功能，完全可以直接调用libcrypto.so里面的各种各样的密码学库。总的来说libssl.so是一个TLS握手库，而libcrypto.so是一个通用的密码学的库。只是libssl.so的握手使用的密码学是完全依赖libcryto.so中提供的。也就是因此，在使用TLS握手的时候，是基本上不会直接用到libcrypto.so中的API的。

s_server

openssl s_server是一个简单的SSL服务器，虽然说是简单，但是其中包含了大部分用户SSL编程需要考虑的东西。证书，密码，过期校验，密码学参数定制，随机数定制等等。这是一个功能性的程序，用于验证openssl内部的各项SSL握手服务器的功能是否能够正常使用，并不能用于直接服务于线上业务。

s_server程序启动的第一步是解析各种参数，在正常运作的时候，第一步是加载key。

我们看到OpenSSL内部调用的函数和在使用OpenSSL库接口的时候是不一样的，OpenSSL的子程序会调用一些内部的接口。比如这里使用了ENGINE_init，直接初始化了底层的引擎系统。ENGINE系统是OpenSSL为了适配下层不同的数据引擎设计的封装层。有对应的一系列API，所有的ENGINE子系统的API都是ENGINE_开头的。一个引擎代表了一种数据计算方式，比如内核的密码学套件可以有一个专门的OpenSSL引擎调用到内核的密码学代码，QAT硬件加速卡也会有一个专门的引擎，OpenSSL自己的例如RSA等加密算法的实现本身也是一个引擎。这里在加载key的时候直接初始化一个引擎，这个引擎在init之前还要先调用一个setup_engine函数，这个函数能够设置这个将要被初始化的引擎的样子。s_server之所以要自己用引擎的API接口是因为它支持从命令行输入引擎的参数，指定使用的引擎。

可以看到，如果指定了auto，就会加载所有默认的引擎。如果指定了特定ID的引擎，就只会加载特定的引擎。一个引擎下面是所有相关的密码学的实现，加载key就是一个密码学层面的操作，所以也要使用ENGINE提供的接口。事实上，最后都是分别调用了对应的ENGINE的具体实现，这中间都是通过方法表的指针的方式完成的。ENGINE定义的通用的接口还有很多，这里只是用到了加载密钥。

表内都是对不同的EVP_CIPHER和EVP_MD的接口的定义。

我们回到加载key的函数，继续阅读发现一个 key = bio_open_default(file, 'r', format); 这个key是一个BIO类型的指针，这个BIO类型的指针就是另外一个OpenSSL的子系统，所有的IO操作都会被封装到这个子系统之下。例如这里使用的文件IO，用于从文件中读取key的结果。BIO被设计为一个管道式的系统，类似于Shell脚本中见到的管道的效果。有两种类型的BIO，一种是source/sink类型的，就是我们最常见的读取文件或者Socket的方式。另外一种是管道BIO，就是两个BIO可以通过一个管道BIO连接起来，形成一个数据流。所以BIO的方式是一个很重量级的IO系统的实现，只是目前只是被OpenSSL内部使用的比较多。

继续向下阅读加载密钥的函数，会发现PEM_read_bio_PrivateKey函数，这一步就是实际的从一个文件中读取密钥了。我们现在已经有了代表文件读写的BIO，代表密码学在程序中的封装EVP，中间缺的桥梁就是文件中密钥存储的格式。这里的以PEM_开头的函数就代表了PEM格式的API。PEM是密码学的存储格式，PEM_开头的API就是解析或者生成这种格式的API，当然它需要从文件中读取，所以参数中也会有BIO的结构体，PEM模块使用BIO模块提供的文件服务按照定义的格式将密钥加载到内存。

OpenSSL的所有apps都会共享一些函数，这些函数的实现都在一个apps.c文件中，以上的加载密钥的函数也是其中的一个。s_server程序在调用完load_key之后会继续调用load_cert来加载证书。load_cert使用的子系统与load_key非常类似，类似的还有后面的load_crl函数，CRL（Certificate revocation lists）是CA吊销的证书列表，这项技术已经基本被OCSP淘汰。OpenSSL还提供一个随机数文件的功能，可以从文件中加载随机数。

s_server在加载完相关的密码学相关参数后，就会开始创建上下文，SSL_CTX_new函数的调用就代表了上下文的创建。这个上下文是后面所有SSL连接的母板，对SSL的配置设置都会体现在这个上下文的设置中。随后，s_server会开始设置OpenSSL服务器支持的TLS握手版本范围，分别调用SSL_CTX_set_min_proto_version和SSL_CTX_set_max_proto_version两个函数完成所有操作。

OpenSSL在共享TLS握手的Session时，需要生成一个Session ID，默认的情况，OpenSSL会在内部决定Session ID怎么生成。但是也提供了用户设置这个生成算法的API。s_server程序调用SSL_CTX_set_generate_session_id函数设置一个自己的回调函数，在这个回调函数中就可以完成Session ID的设置，从而取代掉OpenSSL自带的内部Session ID的生成器。OpenSSL在证书协商的时候还会允许外部的库使用者动态的修改采用的证书，这个机制是通过SSL_CTX_set_cert_cb来设置证书回调函数实现的。s_server也有这个函数的设置。程序走到这里，基本能看到OpenSSL的一个很大的特性，就是大部分的内部流程都会提供一个回调函数给使用者来注册，使用者可以按照自己的需求取代掉或者修改OpenSSL内部的功能。显然这个s_server程序是一个功能展示的程序，会用上大量的函数回调点。比如紧接着调用的SSL_CTX_set_info_callback函数就是在生成SSL的时候调用的，可以用于使用者获得状态。不但OpenSSL外部的机制可以在用户端设置，用户甚至可以设置加密算法的参数。例如s_server就会接下来根据用户是否提供DH参数来设置内部的参数。如果调用了SSL_CTX_set_dh_auto就意味着参数是使用内部的机制生成，这也是默认的行为。但是仍然可以提前提供，主要是为了性能的考虑，比如提前提供DH的大素数，DH算法在运算的过程中需要一个取模操作，这个取模是对一个大素数进行取模的，而这个大素数默认是在运行的时候动态生成的，但是我们可以提供这个素数，从而以牺牲一定的安全性为代价换来性能的提高。

s_server在设置完整个上下文之后，就会进入Socket监听和处理的模式。由于BIO框架包含了Socket的能力，所以这一步本质上就是调用BIO的接口。

这是一个典型的OpenSSL的Socket逻辑。BIO_sock_init这个函数在Linux下就是空函数，没有意义。BIO_lookup是一个通用的获取地址的方法，对于Socket就是IP:PORT的字符串，对于文件是文件的目录。BIO_socket意思就相当于在使用Socket变成的socket函数。BIO_listen也就自然对应listen函数，BIO_accept_ex和BIO_closesocket也是类似的意思。整个流程其实就与一个普通的Socket流程没有太大区别，只是BIO多了一层封装。因为OpenSSL是个跨平台的库，这层封装更多的意义在于用在跨平台的应用上的。

通过一个简单的s_server程序的分析可以看到整个OpenSSL的主要设计思路。它对外封装了不同的模块，例如ENGINE，EVP，BIO之类的封装。在大部分的流程上都提供了回调函数API，使用者可以用回调函数来修改OpenSSL原来的逻辑或者获得其他的信息。在使用OpenSSL的时候一般需要遵循类似的流程，就是创建上下文，然后配置上下文，然后运行服务。