Nginx access.log日志详解及统计分析

一、nginx的a***ess.log

1.日志文件一般存放在 /var/log/nginx 下，若是docker启动则可以使用主机挂载位置，直接使用 tail -f命令即可查看a***ess日志。

2.a***ess.log具体每项的含义：

参数  说明  示例
$remote_addr   客户端地址   172.17.0.1
$remote_user   客户端用户名称 --
$time_local    访问时间和时区 [29/Dec/2022:10:17:14 +0000]
$request   请求的URI和HTTP协议   "GET /test/nginx/proxy HTTP/1.1"
$http_host 请求地址，即浏览器中你输入的地址（IP或域名） 10.1.7.33
$status    HTTP请求状态    200
$upstream_status   upstream状态  200
$body_bytes_sent   发送给客户端文件内容大小    38
$http_referer  url跳转来源 - 
$http_user_agent   用户终端浏览器等信息  "Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/108.0.0.0 Safari/537.36"
$http_cookie	用户cookie信息  "grafana_session=73d13d456cb4363f8a48f5501348669e"
$ssl_protocol  SSL协议版本 TLSv1
$ssl_cipher    交换数据中的算法    RC4-SHA
$upstream_addr 后台upstream的地址，即真正提供服务的主机地址  "10.1.7.33:8102"
$request_time  整个请求的总时间    0.012
$upstream_response_time    请求过程中，upstream响应时间  0.012

3.a***ess.log 的格式是可以自己自定义，输出的信息格式在nginx.conf中设置

可以在location中增加header，输出用户代理服务器地址

location /test/ {
	#limit_req zone=allips burst=1 nodelay;
 
	proxy_pass http://myServer/test/;
	proxy_set_header Host $host;
	proxy_set_header X-Real-IP $remote_addr;
	proxy_set_header REMOTE-HOST $remote_addr;
	#代理服务器地址
	proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
	client_max_body_size 8m;
}

二、日志流量统计

Nginx: PV、UV、独立IP
做网站的都知道，平常经常要查询下网站PV、UV等网站的访问数据，当然如果网站做了CDN的话，nginx本地的日志就没什么意义了，下面就对nginx网站的日志访问数据做下统计；

• UV(Unique Visitor)：独立访客，将每个独立上网电脑（以cookie为依据）视为一位访客，一天之内（00:00-24:00），访问您网站的访客数量。一天之内相同cookie的访问只被计算1次
• PV(Page View)：访问量，即页面浏览量或者点击量，用户每次对网站的访问均被记录1次。用户对同一页面的多次访问，访问量值累计
• 统计独立IP：00:00-24:00内相同IP地址只被计算一次,做网站优化的朋友最关心这个

日志统计分析，日志内容如下：

root@DESKTOP-0NVFL1I:/home/volumes/nginx_vts/log# tail -f a***ess.log
172.17.0.1 - [30/Dec/2022:02:17:19 +0000] "GET /test/nginx/proxy HTTP/1.1" "10.1.7.33" 200 200 38 "-" "grafana_session=73d13d456cb4363f8a48f5501348669e" "-" "10.1.7.33:8101" 0.008 0.008
172.17.0.1 - [30/Dec/2022:02:17:20 +0000] "GET /test/nginx/proxy HTTP/1.1" "10.1.7.33" 200 200 38 "-" "grafana_session=73d13d456cb4363f8a48f5501348669e" "-" "10.1.7.33:8102" 0.016 0.016
172.17.0.1 - [30/Dec/2022:02:19:55 +0000] "GET /test/nginx/proxy HTTP/1.1" "10.1.7.33" 200 200 38 "-" "grafana_session=73d13d456cb4363f8a48f5501348669e" "-" "10.1.7.33:8101" 0.010 0.010
172.17.0.1 - [30/Dec/2022:02:19:56 +0000] "GET /test/nginx/proxy HTTP/1.1" "10.1.7.33" 200 200 38 "-" "grafana_session=73d13d456cb4363f8a48f5501348669e" "-" "10.1.7.33:8102" 0.011 0.011

统计接口地址访问量

grep /test a***ess.log | wc -l

PV统计

awk '{print $6}' a***ess.log | wc -l

UV统计

awk '{print $13}' a***ess.log | sort -r |uniq -c |wc -l

独立IP统计

awk '{print $1}' a***ess.log | sort -r |uniq -c | wc -l

三、配置a***ess.log按天生成

1.nginx.conf配置文件http代码块中修改成如下代码

#配置按天生成a***ess.log日志文件
map $time_iso8601 $logdate {
   		'~^(?<ymd>\d{4}-\d{2}-\d{2})' $ymd;
   		default    'date-not-found';
}
#a***ess_log  /var/log/nginx/a***ess.log  main;
a***ess_log /var/log/nginx/a***ess-$logdate.log main;
error_log  /var/log/nginx/error.log;

2.重启nginx，再次访问接口，并查看日志，日志按天生成

root@DESKTOP-0NVFL1I:/home/volumes/nginx_vts/log# ll
-rwxrwxrwx 1 buckletime buckletime   744 Dec 30 11:14 a***ess-2022-12-30.log
-rwxrwxrwx 1 buckletime buckletime   744 Dec 30 10:19 a***ess.log
-rw-r--r-- 1 root       root       12586 Dec 30 10:14 error.log

若权限不够则，修改日志文件权限

chmod -R 777 /var/log/nginx/

四、nginx.conf配置

附上完整的nginx.conf配置

user  nginx;
worker_processes  auto;

error_log  /var/log/nginx/error.log warn;
pid        /var/run/nginx.pid;


events {
    worker_connections  1024;
}


http {
	#开启nginx监控模块
	vhost_traffic_status_zone;
    include       /etc/nginx/mime.types;
    default_type  application/octet-stream;

    log_format  main  '$remote_addr $remote_user [$time_local] "$request" '
					  '"$http_host" $status $upstream_status '
                      '$body_bytes_sent "$http_referer" '
                      '"$http_cookie" "$http_x_forwarded_for" '
					  '"$upstream_addr" $request_time $upstream_response_time';

    #配置按天生成日志文件
	map $time_iso8601 $logdate {
    		'~^(?<ymd>\d{4}-\d{2}-\d{2})' $ymd;
    		default    'date-not-found';
	}
 
    #a***ess_log  /var/log/nginx/a***ess.log  main;
    a***ess_log /var/log/nginx/a***ess-$logdate.log main;
    error_log  /var/log/nginx/error.log;

    sendfile        on;
    #tcp_nopush     on;

    keepalive_timeout  65;

    #gzip  on;

    #include /etc/nginx/conf.d/*.conf;
	
	upstream myServer{
		server  10.1.7.33:8101;
		server  10.1.7.33:8102;
	}
	
	server {
        listen       80;
        server_name  10.1.7.33;
		
		root         /usr/share/nginx/html;
		
		location /test/ {
			#limit_req zone=allips burst=1 nodelay;
	  
			proxy_pass http://myServer/test/;
			proxy_set_header Host $host;
			#用户的真实ip
			proxy_set_header X-Real-IP $remote_addr;
			proxy_set_header REMOTE-HOST $remote_addr;
			proxy_set_header Cookie $http_cookie;
			#用户的真实ip和经过的每一层代理服务器的ip
			proxy_set_header X-Forwarded-For $proxy_add_x_forwarded_for;
			client_max_body_size 8m;
		}
		
		#nginx状态监控接口
		#location /status {
		#	vhost_traffic_status_display;
        #   vhost_traffic_status_display_format html;
		#}

	}
}