rsyslog详解

芝士年糕
• 阅读 597

这边使用的是3A服务器 一、日志介绍 日志概念

日志是系统用来记录系统及应用程序运行时的一些相关信息的文本文件

日志作用

日志是为了保存相关程序的运行状态、错误信息等,为了对系统进行分析、保存历史记录以及在出现错误时发现、分析错误使用

linux系统日志类型

内核信息

服务信息

应用程序信息

二、rsyslog 1、rsyslog介绍 rsyslog是linux系统中用来实现日志功能的服务。默认已经安装,并且自动启用。

作用:主要用来采集日志,不生产日志

其特性包括:

支持输出日志到各种数据库,如 MySQL,PostgreSQL,MongoDB ElasticSearch,等等;

通过 RELP + TCP 实现数据的可靠传输(基于此结合丰富的过滤条件可以建立一种 可靠的数据传输通道供其他应用来使用);

精细的输出格式控制以及对消息的强大 过滤能力;

高精度时间戳;队列操作(内存,磁盘以及混合模式等); 支持数据的加密和压缩传输等。

2、rsyslog概念 facility

设施,用来定义日志消息的来源,方便对日志进行分类

日志类型 日志内容 kern 内核信息 user 用户程序产生的相关信息 mail 邮件系统信息 daemon 守护进程产生的信息 auth pam认证系统信息 syslog 日志系统自身信息 authpriv ssh、ftp等登录信息 cron 系统执行定时任务产生的信息 lpr 打印相关信息 mark 服务内部的信息,时间标识 uucp Unix-to-Unix Copy 两个unix之间的相关通信 local0-local7 保留,本地使用 priority

日志级别,定义不同消息的级别

日志等级 说明(级别从低到高,记录信息越来越少) 0 debug 包含详细的开发情报的信息,通常只在调试一个程序时使用。 1 info 通用性信息,一般用来提供有用信息, 2 notice 正常信息,但是较为重要,可能需要处理 3 warning 警告信息 4 error/err 错误信息,某个功能或者模块不能正常工作的信息 5 crit 严重级别,系统或整个软件不能正常工作的信息,例如硬盘错误 6 alert 需要立刻修改的信息,如系统数据库被破坏,ISP连接丢失。 7 emerg 紧急情况,内核奔溃等重要信息 none 什么也不记录 日志设施的配置

符号 说明 . 比后面还要高的信息等级都会记录下来 .= 只有后面这个消息等级会被记录下来 .! 除了后面的消息等级,其他的都会被记录下来(注意前面需要先有其他过滤规则,否则什么不记录) 3、rsyslog配置 rsyslog.conf组成 modules,模块,配置加载的模块,如:ModLoad imudp.so配置加载UDP传输模块

global directives,全局配置,配置ryslog守护进程的全局属性,比如主信息队列大小(MainMessageQueueSize)

rules,规则(选择器+动作),每个规则行由两部分组成,selector部分和action部分,这两部分由一个或多个空格或tab分隔,selector部分指定源和日志等级,action部分指定对应的操作

模板(templates)

输出(outputs)

常用modules imudp,传统方式的UDP传输,有损耗 imtcp,基于TCP明文的传输,只在特定情况下丢失信息,并被广泛使用 imrelp,RELP传输,不会丢失信息,但只在rsyslogd 3.15.0及以上版本中可用 规则(rules) 规则选择器(selectors)

selector也由两部分组成,设施和优先级,由点号.分隔。

第一部分为消息源或称为日志设施,第二部分为日志级别。

多个选择器用;分隔,如:*.info;mail.none。

动作(action) action是规则描述的一部分,位于选择器的后面,规则用于处理消息

消息内容可以被写入到一个日志文件中,也可以写入到数据表表或转发到其他主机, 还可以发送给主机用户 (可以指定用户名,用 * 表示所有)

RULES配置示例 写入到本地文件中

facility.priority action

facility.priority 日志类型.级别 action 保存位置(文件、用户、日志服务器)

记录mail日志等级为error及以上日志 mail.err /var/log/mail_err.log

将mail的所有信息,除了info以外,其他的都写入/var/adm/mail mail.*;mail.!=info /var/adm/mail

紧急消息(emerg级别)将使用wall显示给当前所有登录的用户 *.=emerg *

该规则将所有alert以及更高级别的消息定向到操作员的终端,即登录的用户“root”和“joey”的终端。 *.alert root,joey

如果是日志服务器格式是: . @192.168.100.1 (使用UDP协议发送) . @@192.168.100.1 (使用TCP协议发送)

写入到mysql数据库中

modules, 要将日志写到mysql中需要加载ommysql模块 $ModLoad ommysql

rule, send to mysql #. :ommysql:database-server,database-name,database-userid,database-password . :ommysql:127.0.0.1,Syslog,syslogwriter,topsecret

模板(templates) 模板允许你指定日志信息格式

也可用于生成动态文件名,或在规则中使用

TEMPLATE_NAME:模板的名字;

PROPERTY:rsyslog本身支持的一些属性参数。 使用规则 $template TEMPLATE_NAME,"text %PROPERTY% more text", [OPTION]

以时间字符串开头的文件 $template DynamicFile,"/var/log/test_logs/%timegenerated%-test.log"

以年月日主机名为目录下的文件 $template DailyPerHostLogs,"/var/log/syslog/%$YEAR%/%$MONTH%/%$DAY%/%HOSTNAME%/messages.log"

自定义日志内容格式 $template LOGFMT,"%timegenerated% %FROMHOST-IP% %syslogtag% %msg%\n"

引用自定义的 动态文件名 中定义的内容 .info ?DailyPerHostLogs *. ?DynamicFile . /var/log/myinfo.log;LOGFMT —模板元素属性 属性 说明 msg 日志的信息内容,message hostname 打印该日志的主机名 source hostname属性的别名 fromhost 接收的信息来自哪个节点。这里是dns解析的名字 fromhost-ip 接收的信息来自哪个节点,这里是ip,本地是127.0.0.1 syslogtag 日志记录目标 timegenerated 高精度显示日志时间 timesteamp 同 timegenerated timereported 日志中的时间戳 syslogseverity 日志严重性等级,数字形式表示 syslogseverity-text 日志严重性等级,文本形式表示 jsonmesg 整个日志对象作为json表示。可能出现数据重复,譬如syslogtag包含着programname,但两者都会分别表示。所以这个属性有一些额外开销,建议只有在实际需要的时候再用。 修改模板日志

vim /etc/rsyslog.conf

创建一个名为cky_format的模板,其中 TIMESTAMP:8:15 表示timestamp属性值切片第八位到第十五位。 $template cky_format, "%$NOW% %TIMESTAMP:8:15% %hostname% %syslogseverity-text% %syslogtag% %msg%\n" $ActionFileDefaultTemplate cky_format

重启rsyslog systemctl restart rsyslog

日志格式效果

NOW | timestamp:8:15| hostname| syslogseverity-text | syslogtag | msg 2021-12-09 09:59:54 mycomputer info systemd: Started System Logging Service. 时间戳 | 主机名 | 日志等级 | 服务进程 | 日志内容

三、rsyslog远程传输 1、UDP传输 Server端配置 /etc/rsyslog.conf

Provides UDP syslog reception $ModLoad imudp $UDPServerRun 514 $AllowedSender UDP, 192.168.80.0/24

This one is the template to generate the log filename dynamically, depending on the client's IP address. 根据客户端的IP单独存放主机日志在不同目录,syslog需要手动创建 $template Remote,"/var/log/syslog/%fromhost-ip%/%fromhost-ip%_%$YEAR%-%$MONTH%-%$DAY%.log"

Log all messages to the dynamically formed file. :fromhost-ip, !isequal, "127.0.0.1" ?Remote 排除本地主机IP日志记录,只记录远程主机日志 注意此规则需要在其它规则之前,否则配置没有意义,远程主机的日志也会记录到Server的日志文件中 2、TCP传输 Server端配置

Provides TCP syslog reception $ModLoad imtcp $InputTCPServerRun 514 $AllowedSender TCP, 192.168.80.0/24

This one is the template to generate the log filename dynamically, depending on the client's IP address. $template Remote,"/var/log/syslog/%fromhost-ip%/%fromhost-ip%_%$YEAR%-%$MONTH%-%$DAY%.log"

Log all messages to the dynamically formed file.

:fromhost-ip, !isequal, "127.0.0.1" ?Remote

Client端配置

/etc/rsyslog.conf

. @@192.168.80.130

点赞
收藏
评论区
推荐文章
Easter79 Easter79
2年前
systemd的日志管理进程journald
使用Journalctl查看并操作Systemd日志systemd拥有强大的处理与系统日志记录功能。在使用其它工具时,日志往往被分散在多套系统当中,由不同的守护进程负责处理。Journal的实现归功于journald守护进程,其负责处理由内核、initrd以及服务等产生的信息。总体思路
Wesley13 Wesley13
2年前
JAVAEE——SpringBoot日志篇:日志框架SLF4j、日志配置、日志使用、切换日志框架
SpringBoot日志篇1、日志框架(故事引入)小张;开发一个大型系统;​1、System.out.println("");将关键数据打印在控制台;去掉?写在一个文件?​2、框架来记录系统的一些运行时信息;日志框架;zhanglogging.jar;​3、高大上的几
Stella981 Stella981
2年前
Linux日志管理
日志是用来记录系统运行状态的历史事件,主要记录特定时间发生的事件,同时根据日志级别,事件的关键性程序,通常叫作LogLevel.系统日志服务syslog:系统级别:syslogd内核级别:klogdrsyslog特点:多线程:UDP,TCP,SSL
Stella981 Stella981
2年前
Linux日志系统
一、Linux系统日志与分类内核及系统日志:这种日志数据由系统服务syslog统一管理,根据其主配置文件"/etc/syslog.conf"中的设置决定将内核消息及各种系统程序消息记录到什么位置。用户日志:这种日志数据用于记录Linux系统用户登录及退出系统的相关信息,包括用户名、登录的终端、登录
Wesley13 Wesley13
2年前
MySQL redo与undo日志解析
前言:前面文章讲述了MySQL系统中常见的几种日志,其实还有事务相关日志redolog和undolog没有介绍。相对于其他几种日志而言,redolog和undolog是更加神秘,难以观测的。本篇文章将主要介绍这两类事务日志的作用及运维方法。1.重做日志(redolog)我们都知道,事务的四大特性里面
Wesley13 Wesley13
2年前
2.MySQL日志
MySQL日志分类  MySQL日志主要包含:错误日志、查询日志、慢查询日志、重做日志、回滚日志、二进制日志错误日志:  用来记录MySQL服务器运行过程中的错误信息,比如,服务器启动关闭信息、运行错误信息、时间调度器运行一个事件时产生的信息、在服务器上启动进程产生的信息。  错误日志可以自己配置,lo
Wesley13 Wesley13
2年前
IP被攻击了怎么办
1、断开所有网络连接。服务器之所以被攻击是因为连接在网络上,因此在确认系统遭受攻击后,第一步一定要断开网络连接,即断开攻击。2、根据日志查找攻击者。根据系统日志进行分析,查看所有可疑的信息进行排查,寻找出攻击者。3、根据日志分析系统。根据系统日志进行分析,查看攻击者是通过什么方式入侵到服务器的,通过
人间小土豆 人间小土豆
2年前
请问日志审计什么意思呢?
这里的“日志”和我们日常生活中的理解大有不同。什么是日志?简单的说,日志就是计算机系统、设备、软件等在某种情况下记录的信息。具体内容取决于日志的来源。例如:unix操作系统会记录用户登录和注销等信息的日志防火墙会记录访问控制协议acl通过和拒绝等消息的日志有些系统在用户登录时或者在系统本身认为会发生一些故障时发出带有告警信息的日志有些产品会在本身存储不足时发
Wesley13 Wesley13
2年前
Java日志系统 Commons
如何记录日志?商业应用系统一般是混合使用业务操作日志记录到数据库中,因为可能需要分析统计一般系统运行及异常日志可以用日志文件,因为可能无法连接数据库重要系统运行、安全及异常日志可以用系统日志,方便系统管理员查看Commonslogging:apache最早提供的日志的门面接口。所谓门面日志系统,是指它们本身并不实现具体的
京东云开发者 京东云开发者
4个月前
日志框架简介-Slf4j+Logback入门实践 | 京东云技术团队
前言随着互联网和大数据的迅猛发展,分布式日志系统和日志分析系统已广泛应用,几乎所有应用程序都使用各种日志框架记录程序运行信息。因此,作为工程师,了解主流的日志记录框架非常重要。虽然应用程序的运行结果不受日志的有无影响,但没有日志的应用程序是不完整的,甚至可