Nginx 又一牛X的功能!流量拷贝

八股文背诵
• 阅读 2722

1. 需求

将生产环境的流量拷贝到预上线环境或测试环境,这样做有很多好处,比如:

  • 可以验证功能是否正常,以及服务的性能;
  • 用真实有效的流量请求去验证,又不用造数据,不影响线上正常访问;
  • 这跟灰度发布还不太一样,镜像流量不会影响真实流量;
  • 可以用来排查线上问题;
  • 重构,假如服务做了重构,这也是一种测试方式;

 为了实现流量拷贝,Nginx提供了ngx_http_mirror_module模块

2. 安装Nginx

首页,设置yum仓库。为此,创建一个文件/etc/yum.repos.d/nginx.repo

将以下内容写入文件

[nginx-stable]
name=nginx stable repobaseurl=http://nginx.org/packages/centos/$releasever/$basearch/
gpgcheck=1
enabled=1
gpgkey=https://nginx.org/keys/nginx_signing.key
module_hotfixes=true

[nginx-mainline]
name=nginx mainline repobaseurl=http://nginx.org/packages/mainline/centos/$releasever/$basearch/
gpgcheck=1
enabled=0
gpgkey=https://nginx.org/keys/nginx_signing.key
module_hotfixes=true

yum安装nginx

yum install nginx -y

默认情况下,nginx配置文件是nginx.conf

一般情况下,nginx.conf文件在 /usr/local/nginx/conf  或者 /etc/nginx  或者 /usr/local/etc/nginx 目录下

为了启动nginx,直接在命令行里输入nginx回车即可

# 启动nginx
nginx
# fast shutdown
nginx -s stop
# graceful shutdown
nginx -s quit
# reloading the configuration file
nginx -s reload
# reopening the log files
nginx -s reopen
# list of all running nginx 
processesps -ax | grep nginx

Nginx 又一牛X的功能!流量拷贝

Nginx 又一牛X的功能!流量拷贝

一旦master进程接收到重新加载配置的信号,它将检查新配置文件的语法是否正确,并尝试应用其中提供的配置。如果成功,master进程将启动新的worker进程,并发送消息给旧的worker进程,要求他们shutdown。否则,master进程将回滚所做的更改,并继续使用旧配置。旧的worker进程在接收到关闭命令后,停止接受新的连接,直到所有之前已经接受的连接全部处理完为止。之后,旧的worker进程退出。

nginx的master进程的进程ID,默认情况下,放在nginx.pid文件中,该文件所在的目录一般是/usr/local/nginx/logs 或者 /var/run。

还可以这样停止nginx

kill -s QUIT 3997

初始配置文件长这样:

user  nginx;
worker_processes  1;
error_log  /var/log/nginx/error.log warn;
pid        /var/run/nginx.pid;

events {    
worker_connections  1024;
}

http {   
include       /etc/nginx/mime.types; 
default_type  application/octet-stream;    
log_format  main '$remote_addr - $remote_user [$time_local] "$request" '                      
                  '$status $body_bytes_sent "$http_referer" '                      
                 '"$http_user_agent" "$http_x_forwarded_for"';    

access_log  /var/log/nginx/access.log main;    

sendfile        on;    
#tcp_nopush on;   

keepalive_timeout  65;    

#gzip on;    

include /etc/nginx/conf.d/*.conf;

}

3. ngx_http_mirror_module

The ngx_http_mirror_module module (1.13.4) implements mirroring of an original request by creating background mirror subrequests. Responses to mirror subrequests are ignored.

我是这样理解的,这里,mirror本意是镜子、镜像,这里可以理解就像一个镜像站点一样,将所有的请求都收集起来,这个镜像就代表了所有真实有效的原始请求。有了这个镜像,后续我们才可能用这个镜像去做一些事情,比如重现一下所有的请求,这就实现了把线上的流程复制到别的地方。

官网给出的示例倒是很简单,如下:

location / {   
mirror /mirror;    
proxy_pass http://backend;
}

location = /mirror {    
internal;    
proxy_pass http://test_backend$request_uri;
}

如果请求体被镜像,那么在创建子请求之前会先读取请求体。

location / {    
mirror /mirror;    
mirror_request_body off;    
proxy_pass http://backend;
}

location = /mirror {  
internal;    
proxy_pass http://log_backend;    
proxy_pass_request_body off;    
proxy_set_header Content-Length "";    
proxy_set_header X-Original-URI $request_uri;
}

前面我们安装了Nginx,但是里面没有包含我们所需的ngx_http_mirror_module模块,因此,真正要使用的时候最好还是采用自定义安装,即从源码构建。

首先,下载源码  http://nginx.org/en/download....

接下来,编译安装,例如:

./configure    
--sbin-path=/usr/local/nginx/nginx    
--conf-path=/usr/local/nginx/nginx.conf    
--pid-path=/usr/local/nginx/nginx.pid    
--with-http_ssl_module    
--without-http_limit_req_module    
--without-http_mirror_module    
--with-pcre=../pcre-8.43    
--with-zlib=../zlib-1.2.11    
--add-module=/path/to/ngx_devel_kit    
--add-module=/path/to/lua-nginx-module

make & make install

配置

upstream api.abc.com {  
server 127.0.0.1:8080;
}

upstream tapi.abc.com {    
server 127.0.0.1:8081;
}

server {    
listen 80;   
# 源站点    
location /api {        
proxy_pass http://api.cjs.com;        
proxy_set_header Host $host;        
proxy_set_header X-Real-IP $remote_addr;        
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;        

# 流量复制  
mirror /newapi;  
mirror /mirror2;  
mirror /mirror3;  
# 复制请求体  
mirror_request_body on;   
}    

# 镜像站点    
location /tapi {       
proxy_pass http://tapi.cjs.com$request_uri;        
proxy_pass_request_body on;        
proxy_set_header Host $host;        
proxy_set_header X-Real-IP $remote_addr;        
proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;    
}
}

4. 文档

Nginx文档

http://nginx.org/en/docs/

http://nginx.org/en/docs/http...

http://nginx.org/en/docs/begi...

http://nginx.org/en/docs/http... 

http://nginx.org/en/docs/conf...

第三方模板 

http://luajit.org/

https://www.nginx.com/resourc...

https://www.nginx.com/resourc...

https://www.nginx.com/resourc...

https://github.com/openresty/... 

补充

# 查看进程运行时间
ps -eo pid,user,lstart,etime,cmd | grep nginx

# 查看已经建立连接的数量
netstat -an | grep ESTABLISHED | wc -l

# 查看80端口的连接数
netstat -an | grep ":80" | wc -l
原文:https://www.cnblogs.com/cjsbl...
作者:废物大师兄
点赞
收藏
评论区
推荐文章
美凌格栋栋酱 美凌格栋栋酱
6个月前
Oracle 分组与拼接字符串同时使用
SELECTT.,ROWNUMIDFROM(SELECTT.EMPLID,T.NAME,T.BU,T.REALDEPART,T.FORMATDATE,SUM(T.S0)S0,MAX(UPDATETIME)CREATETIME,LISTAGG(TOCHAR(
皕杰报表之UUID
​在我们用皕杰报表工具设计填报报表时,如何在新增行里自动增加id呢?能新增整数排序id吗?目前可以在新增行里自动增加id,但只能用uuid函数增加UUID编码,不能新增整数排序id。uuid函数说明:获取一个UUID,可以在填报表中用来创建数据ID语法:uuid()或uuid(sep)参数说明:sep布尔值,生成的uuid中是否包含分隔符'',缺省为
Stella981 Stella981
3年前
Linux网络流量监控工具
前言我们的很多服务大都是部署在Linux服务器上的,我们在生产中可能会遇见很多问题,如网络慢,访问卡等,那么就需要对Linux的机器的网络流量进行监控,这样我们才能分析排查问题。接下来介绍几个比较好用的小工具,iftop和nethogs,用于排查linux机器的网络问题。iftopiftop用于网卡机器级别的流量监控
Wesley13 Wesley13
3年前
DDOS防护原理
1.常见DDoS攻击分类DDoS粗略分类为流量型攻击和CC攻击。流量型攻击主要是通过发送报文侵占正常业务带宽,甚至堵塞整个数据中心的出口,导致正常用户访问无法达到业务服务器。CC攻击主要是针对某些业务服务进行频繁访问,重点在于通过精心选择访问的服务,激发大量消耗资源的数据库查询、文件IO等,导致业务服务器CPU、内存或者IO出现瓶颈,无法正常提供服务。比
浅谈Redis - 热点key问题 | 京东云技术团队
热key问题就是突然有几十万的请求去访问redis上的某个特定key,那么这样会造成流量过于集中,达到物理网卡上限,从而导致这台redis服务器直接宕机。
Web应用防火墙--规则防护 | 京东云技术团队
Web应用防火墙对网站、APP的业务流量安全及合规性保护,对业务流量的识别恶意特征提取、分析识别出恶意流量并进行处理,将正常安全的流量回源到业务服务器,保护网站核心业务和数据安全。
全场景流量验证系统 | 京东物流技术团队
本文介绍了一种基于线上流量实现对重构系统进行功能和性能验证的实践方案。针对线上流量如何拦截、如何录制、如何存储、如何回放以及如何发压均作了详细说明,为具有类似需求的读者提供了一种可供参考的思路。1业务背景随着百川项目的启动,中台需要对订单流量收口,将ECL
关于自动限流的思考 | 京东云技术团队
目标保证系统不因流量过载而挂。现状:人工限流正常的微服务限流工具都需要人工配置:支持应用负责人事先配置限流规则(接口调用方限流阈值),流量在阈值以下可以正常响应,超过阈值的流量会快速失败。这种方案存在如下问题:问题1\.接口多,无法全面覆盖要想保证系统
增长实验室-ab分流的流量保护功能介绍 | 京东云技术团队
介绍ab分流的流量保护功能之前,先普及一下ab分流的一些概念和术语名词解释:实验:用来验证某个决定请求处理方式的功能或策略的一部分流量,通常用来验证某个功能或策略对系统指标(如PV/UV,CRT,下单转化率等)的影响。流量:指所有访问用户的请求Hash因子
想天浏览器 想天浏览器
1年前
公域流量和私域流量该如何选择?
很多客户在做品牌推广的时候,都会犹豫应该把精力投放到公域流量还是做自己的私域流量。特别是现在流量为王的时代,大部分客户都在布局做公域流量,砸钱推广,直播带货各种形式进行曝光。在无论是线上还是线下的公共领域,单靠公共领域的经营往往面临困难重重的局面。我们分析
Java服务总在半夜挂,背后的真相竟然是... | 京东云技术团队
最近有用户反馈测试环境Java服务总在凌晨00:00左右挂掉,用户反馈Java服务没有定时任务,也没有流量突增的情况,Jvm配置也合理,莫名其妙就挂了