CentOS下Nginx配置Web访问日志并结合Shell脚本定时切割

在一个成熟的WEB系统里，没有日志管理是不可以的，有了日志，可以帮助你得到用户地域来源、跳转来源、使用终端、某个URL访问量等相关信息；通过错误日志，你可以得到系统某个服务或server的性能瓶颈等。因此，将日志好好利用，你可以得到很多有价值的信息。

日志格式及定义

（1）log_format
log_format用来设置日志格式，也就是日志文件中每条日志的格式，具体如下：
log_format name(格式名称) type(格式样式)

log_format main '$server_name $remote_addr - $remote_user [$time_local] "$request" '
'$status $uptream_status $body_bytes_sent "$http_referer" '
'"$http_user_agent" "$http_x_forwarded_for" '
'$ssl_protocol $ssl_cipher $upstream_addr $request_time $upstream_response_time';

参数说明：

$server_name：虚拟主机名称。
$remote_addr：远程客户端的IP地址。
-：空白，用一个“-”占位符替代，历史原因导致还存在。
$remote_user：远程客户端用户名称，用于记录浏览者进行身份验证时提供的名字，如登录百度的用户名scq2099yt，如果没有登录就是空白。
[$time_local]：访问的时间与时区，比如18/Jul/2012:17:00:01 +0800，时间信息最后的"+0800"表示服务器所处时区位于UTC之后的8小时。
$request：请求的URI和HTTP协议，这是整个PV日志记录中最有用的信息，记录服务器收到一个什么样的请求
$status：记录请求返回的http状态码，比如成功是200。
$uptream_status：upstream状态，比如成功是200.
$body_bytes_sent：发送给客户端的文件主体内容的大小，比如899，可以将日志每条记录中的这个值累加起来以粗略估计服务器吞吐量。
$http_referer：记录从哪个页面链接访问过来的。
$http_user_agent：客户端浏览器信息
$http_x_forwarded_for：客户端的真实ip，通常web服务器放在反向代理的后面，这样就不能获取到客户的IP地址了，通过$remote_add拿到的IP地址是反向代理服务器的iP地址。反向代理服务器在转发请求的http头信息中，可以增加x_forwarded_for信息，用以记录原有客户端的IP地址和原来客户端的请求的服务器地址。
$ssl_protocol：SSL协议版本，比如TLSv1。
$ssl_cipher：交换数据中的算法，比如RC4-SHA。
$upstream_addr：upstream的地址，即真正提供服务的主机地址。
$request_time：整个请求的总时间。
$upstream_response_time：请求过程中，upstream的响应时间。

（2）access_log

access_log指令用来指定日志文件的存放路径（包含日志文件名）、格式和缓存大小，具体如下：
access_log path(存放路径) [format(自定义日志格式名称) [buffer=size | off]]
举例说明如下：
access_log logs/access.log main;
如果想关闭日志，可以如下：
access_log off;
能够使用access_log指令的字段包括：http、server、location。
需要注意的是：Nginx进程设置的用户和组必须对日志路径有创建文件的权限，否则，会报错。
小技巧：如果需要在access_log中记录post请求的参数，可以参考这里。
Nginx支持为每个location指定强大的日志记录。同样的连接可以在同一时间输出到不止一个的日志中，更多信息请查看这里，这里，还有这里。

下面拿我本地的虚拟机来简单配置一下日志，并获取日志信息。

日志生成的到Nginx根目录logs/access.log文件，默认使用“main”日志格式，也可以自定义格式。

在Nginx下配置的虚拟主机

server {
 listen 80;
 server_name mytest.com;
 location / {
    root /data/wwwroot/default/mytest;  //网站目录
    index index.html;
 }
 access_log  /data/wwwlogs/mytest_log/access_nginx.log main; //日志路径
 当然也可以配置错误日志路径error_log......

}

Nginx主配置文件的配置规则

http {
  include mime.types;
  log_format  main '$remote_addr - $remote_user  [$time_local]  "$request" '
                        '$status  $body_bytes_sent "http_referer" '
                        ' "$http_user_agent" "$http_x_forwarded_for" ';
......
}

记得配置完成先命令测试下是否OK，然后在重新加载配置文件

[root@localhost mytest_log]# nginx -tc /usr/local/nginx/conf/nginx.conf
nginx: the configuration file /usr/local/nginx/conf/nginx.conf syntax is ok
nginx: configuration file /usr/local/nginx/conf/nginx.conf test is successful

下面来说一下定时切割（虽然新版的Nginx已经支持）

根据上面的配置，确定了日志路径之后，我在/data/crontab目录下创建了一个脚本

#!/bin/bash
LOGPATH=/data/wwwlogs/mytest_log/access_nginx.log //nginx的日志路径
BAKPATH=/data/wwwlogs/bak  //要备份的路径
bak=$BAKPATH/$(date -d yesterday +%Y%m%d%H%M).mytest.access.log  //定义了的bak变量
echo $bak  //执行输出一下

[root@localhost crontab]# chmod 777 nginx_log.sh  //赋权限

[root@localhost crontab]# ./nginx_log.sh  //执行脚本
/data/wwwlogs/bak/201801101205.mytest.access.log //输出的格式

完整脚本如下

#!/bin/bash
#设置日志文件存放目录
LOGPATH=/data/wwwlogs/mytest_log/access_nginx.log
BAKPATH=/data/wwwlogs/bak
 #备分文件名称
bak=$BAKPATH/$(date -d yesterday +%Y%m%d%H%M).mytest.access.log
#echo $bak
 #重命名日志文件
mv $LOGPATH $bak
touch $LOGPATH
 #向nginx主进程发信号重新打开日志,确保nginx.pid路径正确
 #[root@localhost wwwlogs]# find / -name nginx.pid
 #/var/run/nginx.pid
kill -USR1 `cat  /var/run/nginx.pid`

然后创建定时器

01 00 * * * /data/crontab/nginx_log.sh  # 每天0时1分(建议在02-04点之间,系统负载小) 

查看一下/data/wwwlogs/bak就会有日志文件了