当前位置 : 首页 > 徐州软件开发技术论坛 > 利用ngx_http_mirror_module实现流量镜像

利用ngx_http_mirror_module实现流量镜像

作者:徐州软件公司  文章来源:徐州软件公司   阅读次数:454 次
2017-08-21

此文章是徐州软件公司整理的技术资料,由徐州软件公司总务部发布,邮箱:zongwu@xuzhousoft.com

江苏徐软信息科技有限公司江苏徐软信息科技有限公司

背景

最近 Nginx 官网发布了 Nginx 1.13.4,Nginx 1.13.4 中新增了一个 ngx_http_mirror_module 模块。通过 mirror 模块,可实现对原始请求创建后台镜像,镜像子请求的输出会被忽略。

利用这一功能徐州软件开发公司徐州徐软信息科技有限公司就可以将线上实时访问流量拷贝至其它环境,基于这些流量可以做版本发布前的预先验证或者进行流量放大后的压测等等。

mirror 模块配置

在这之前与这一功能类似的软件有:TCPCopy等,Nginx 自身支持后使用起来就更加方便了。下面我们来看看具体的如何配置:

编译安装 Nginx

mirror 模块在 Nginx 1.13.4中默认是启用的,如果要禁用这个功能可在编译时加上 --without-http_mirror_module参数。

$   apt-get install libreadline-dev libncurses5-dev libpcre3-dev libssl-dev perl make build-essential
$   wget http://nginx.org/download/nginx-1.13.4.tar.gz
$   tar xzvf nginx-1.13.4.tar.gz
$   cd nginx-1.13.4/
$   ./configure
$   make && make install

mirror 模块配置分为两部分:源地址和镜像地址配置。配置位置可以为 Nginx 配置文件的 http, server, location的上下文中,配置示例为:

# original配置
location / {
    mirror /mirror;
    mirror_request_body off;
    proxy_pass http://127.0.0.1:9502;
}

# mirror配置
location /mirror {
    internal;
    proxy_pass http://127.0.0.1:8081$  request_uri;
    proxy_set_header X-Original-URI $  request_uri;
}

在这个示例中我们配置了两组后台服务器,http://127.0.0.1:9502 指向生产服务器, http://127.0.0.1:8081指向测试服务器。用户访问生产服务器的同时,请求会被 Nginx 复制发送给测试服务器,需要注意的一点是 mirror 不会输出 http 返回内容。

original 配置说明

指定了源 uri 为 /

指定镜像 uri 为 /mirror

指定是否镜像请求 Body 部分,此选项与proxy_request_bufferingfastcgi_request_bufferingscgi_request_bufferinguwsgi_request_buffering冲突,一旦开启mirror_request_body为 on,则请求自动缓存。

指定上游 Server 的地址。

mirror 配置说明

指定此 location 只能被内部的请求调用,外部的调用请求会返回 Not found (404)。

指定上游 Server 的地址。

设置镜像流量的头部。

验证

镜像

按照上述配置,搭建了上图所示的验证环境,各个模块均部署在本机,由curl发起请求:

$   curl 127.0.0.1

original 和 mirror 均为上游 Server PHP 脚本,其中 original 返回响应 response to client。 抓包结果如下图:

Nginx

分析抓包结果,整个请求流程为:

由此可见,在整个流程中 Nginx 将请求转发送至 original 和 mirror,然后等待响应。几乎不会对正常请求造成影响,整个处理过程是完全异步的。

mirror 模块实现

static ngx_int_t
ngx_http_mirror_handler_internal(ngx_http_request_t *r)
{
    ngx_str_t                   *name;
    ngx_uint_t                   i;
    ngx_http_request_t          *sr;
    ngx_http_mirror_loc_conf_t  *mlcf;

    mlcf = ngx_http_get_module_loc_conf(r, ngx_http_mirror_module);

    name = mlcf->mirror->elts;

    for (i = 0; i < mlcf->mirror->nelts; i++) {
        if (ngx_http_subrequest(r, &name[i], &r->args, &sr, NULL,
                                NGX_HTTP_SUBREQUEST_BACKGROUND)
            != NGX_OK)
        {
            return NGX_HTTP_INTERNAL_SERVER_ERROR;
        }

        sr->header_only = 1;
        sr->method = r->method;
        sr->method_name = r->method_name;
    }

    return NGX_DECLINED;
}

Nginx 有关 mirror 的代码位于文件 src/http/modules/ngx_http_mirror_module.c 文件,上述为文件中的 ngx_http_mirror_handler_internal 函数。在开启了 mirror 之后此函数会被执行,可见其内部主要通过 ngx_http_subrequest 发起 http 子请求来实现的。

通过代码可见,Nginx 支持配置多个 mirror uri,示例为:

location / {
    mirror /mirror;
    mirror /mirror2;
    mirror_request_body off;
    proxy_pass http://127.0.0.1:9502;
}

location /mirror {
    internal;
    proxy_pass http://127.0.0.1:8081$  request_uri;
}

location /mirror2 {
    internal;
    proxy_pass http://127.0.0.1:8081$  request_uri;
}

参考文档

http://www.google.com

http://blog.csdn.net/xhjcehust/article/details/77093074

http://nginx.org/en/docs/http/ngx_http_mirror_module.html

江苏徐软信息科技有限公司(简称徐州软件公司)是徐州软件公司中成立时间最长、技术能力最强、经济实力最雄厚的徐州软件开发公司之一,专业的徐州软件开发团队,从事徐州软件开发10年,一直保持着徐州软件开发行业排头兵的地位。徐州软件公司徐州软件开发行业内的众多徐州软件开发公司保持着良好的合作关系,是徐州软件开发行业的领航者之一。徐州软件公司立足徐州软件开发市场,主攻徐州软件开发徐州APP开发徐州软件公司徐州ERP软件开发徐州OA软件开发徐州CRM软件开发等领域拥有大量经典案例。更多信息请访问徐州软件公司官方网站:

徐软com:http://www.xuzhousoft.com  徐软cn:http://www.xuzhousoft.com.cn
徐软app:http://app.xuzhousoft.com  淮北徐软:http://huaibei.xuzhousoft.com.cn
济宁徐软:http://jining.xuzhousoft.com.cn  亳州徐软:http://bozhou.xuzhousoft.com.cn
菏泽徐软:http://heze.xuzhousoft.com.cn  宿州徐软:http://suzhou.xuzhousoft.com.cn
枣庄徐软:http://zaozhuang.xuzhousoft.com.cn  宿迁徐软:http://suqian.xuzhousoft.com.cn
商丘徐软:http://shangqiu.xuzhousoft.com.cn  连云港徐软:http://lianyungang.xuzhousoft.com.cn
莱芜徐软:http://laiwu.xuzhousoft.com.cn  泰安徐软:http://taian.xuzhousoft.com.cn
日照徐软:http://rizhao.xuzhousoft.com.cn  开封徐软:http://kaifeng.xuzhousoft.com.cn
周口徐软:http://zhoukou.xuzhousoft.com.cn  盐城徐软:http://yancheng.xuzhousoft.com.cn
淮安徐软:http://huaian.xuzhousoft.com.cn  阜阳徐软:http://fuyang.xuzhousoft.com.cn
蚌埠徐软:http://bengbu.xuzhousoft.com.cn  临沂徐软:http://linyi.xuzhousoft.com.cn
邳州徐软:http://pizhou.xuzhousoft.com.cn  新沂徐软:http://xinyi.xuzhousoft.com.cn
沛县徐软:http://peixian.xuzhousoft.com.cn  睢宁徐软:http://suining.xuzhousoft.com.cn
丰县徐软:http://fengxian.xuzhousoft.com.cn  萧县徐软:http://xiaoxian.xuzhousoft.com.cn
砀山徐软:http://dangshan.xuzhousoft.com.cn  微山徐软:http://weishan.xuzhousoft.com.cn
永城徐软:http://yongcheng.xuzhousoft.com.cn  网络营销:http://www.f168yingxiao.com
徐州系统集成公司:http://www.0516app.com

关键字标签:徐州软件公司 徐州软件开发公司 徐州APP软件开发公司 徐州ERP软件开发公司 徐州CRM软件开发公司 徐州OA软件开发公司

下载DOC版 下载PDF版

* 以上内容由 徐州软件公司 整理


关于我们

    江苏徐软信息科技有限公司(简称徐州软件)位于国家大学科技园内,成立于2005年,注册资金1000万元,是徐州地区最具实力的集软件开发、电子商务技术服务、门户网站建设、系统集成、网络工程为一体的高科技IT技术公司之一。

技术支持

  • 售后服务电话:0516-83003411
  • 售后服务QQ:412110939
  • 售后服务邮箱:
    service@xuzhousoft.com
  • 售后投诉电话:18795428064
徐州软件公司
    扫描微信二维码即可获得
    免费信息化咨询服务

Copyright© 2005 江苏徐软信息科技有限公司 All Rights Reserved.
苏公网安备 32030302000144号  苏ICP备11059116号-5

地址:江苏省徐州市云龙区和平路57号江苏师范大学科技园4F  徐州软件公司
电话:0516-83737996 邮箱:sales@xuzhousoft.com

江苏徐软信息科技有限公司地图
江苏徐软信息科技有限公司地图
点这里关闭本窗口
×