Nginx memcached回退到远程服务

1. 499码

HTTP 499是nginx’自定义代码,表示客户端在接收响应之前终止连接(http://lxr.nginx.org/source/src/http/ngx_http_request.h#0120)

我们可以轻松地重现它

nc -k -l 172.17.0.6 172.17.0.6:11211

并卷曲你的资源 – curl将挂起一段时间,然后按Ctrl C – 你将在访问日志中显示此消息

2.上游服务器在连接上游时暂时禁用

这意味着nginx无法访问您的memcached并将其从上游池中删除.我只关闭两个memcached服务器,你会不断在错误日志中看到它(我每次都会看到error_log … info).
正如您所看到的那样,您认为nginx可以与memcached服务器自由通信的假设似乎并非如此.

考虑明确设置http://nginx.org/en/docs/http/ngx_http_memcached_module.html#memcached_bind
并使用-b选项与telnet确保您通过telnet客户端正确测试memcached服务器的可用性

3. nginx可以成功到达memcached但无法写入或读取

Nginx只能通过其内置模块从memcached中读取
(http://nginx.org/en/docs/http/ngx_http_memcached_module.html)：

The?ngx_http_memcached_module?module is used to obtain responses from
a memcached server. The key is set in the?$memcached_key?variable. A
response should be put in memcached in advance by means external to
nginx.

4.整体架构

从您的问题中不完全清楚整体架构应该如何工作.

> nginx的上游默认使用weighted round-robin.
这意味着您的memcached服务器将随机查询一次.
您可以通过设置memcached_next_upstream not_found来更改它,以便将缺少的密钥视为错误,并且将轮询所有服务器.对于一个拥有2台服务器的农场来说,它可能还可以,但不太可能是你想要的20台服务器
>对于memcached客户端库通常也是如此 – 他们根据某些哈希方案=>从池中挑选服务器.所以你的密钥最终只能在池外的1台服务器上运行

5.做什么

我已经设法在我的本地盒子上在10分钟内设置了类似的配置 – 它按预期工作.为了减轻调试,我将摆脱docker容器以避免网络过度复杂,在单线程模式下使用-vv选项在不同端口上运行2个memcached服务器,以查看请求何时到达它们(memcached -p 11211 -U o -vv)然后玩尾巴-f和卷曲,看看你的情况真的发生了什么.

6.工作方案

nginx配置：

这里没有使用https和http / 1.1,但没关系

upstream http_memcached {                                                       
    server 127.0.0.1:11211;                                                     
    server 127.0.0.1:11212;                                                     
}                                                                               

upstream remote {                                                               
    server 127.0.0.1:8080;                                                      
}                                                                               

server {                                                                        
    listen 80;                                                                  
    server_name server.lan;                                                     
    access_log /var/log/nginx/server.access.log;                                
    error_log /var/log/nginx/server.error.log info;                             

    location / {                                                                
        set $memcached_key "$uri?$args";                                        
        memcached_next_upstream not_found;                                      
        memcached_pass http_memcached;                                          
        error_page     404 = @remote;                                           
    }                                                                           

    location @remote {                                                          
        internal;                                                               
        access_log /var/log/nginx/server.fallback.access.log;                   
        proxy_pass http://remote;                                               
        proxy_set_header Connection "";                                         
    }                                                                           
}            

server.py：

这是我的虚拟服务器(python)：

from random import randint

from flask import Flask
app = Flask(__name__)

@app.route('/')
def hello_world():
    return 'Hello: {}n'.format(randint(1,100000))

这是如何运行它(只需要先安装烧瓶)

FLASK_APP=server.py [flask][2] run -p 8080    

填写我的第一个memcached服务器：

$telnet 127.0.0.1 11211
Trying 127.0.0.1...
Connected to 127.0.0.1.
Escape character is '^]'.
set /? 0 900 5
cache
STORED
quit
Connection closed by foreign host.

检查：

请注意,尽管我们存储了数据,但每次都会得到一个结果
仅在第一台服务器上

$curl http://server.lan && echo                                  
cache

$curl http://server.lan  && echo                                 
cache

$curl http://server.lan && echo                                  
cache

这个不在缓存中,所以我们将从server.py获得响应

$curl http://server.lan/?q=1 && echo
Hello: 32337

全貌：

右边的2个窗口

memcached -p 11211 -U o -vv

和

memcached -p 11212 -U o -vv