logstash同步nginx日志到数据库
发表于:2026-11-01 作者:千家信息网编辑
千家信息网最后更新 2026年11月01日,本文参考:https://www.cnblogs.com/yanshicheng/articles/9436373.htmlhttps://www.cnblogs.com/fawaikuangtu12
千家信息网最后更新 2026年11月01日logstash同步nginx日志到数据库
本文参考:https://www.cnblogs.com/yanshicheng/articles/9436373.html
https://www.cnblogs.com/fawaikuangtu123/articles/10360264.html
1.logstash安装(jdk提前安装1.8)
rpm -ivh logstash-6.6.2.rpm
2.上传数据库驱动jar包
wget https://dev.mysql.com/get/Downloads/Connector-J/mysql-connector-java-5.1.48.tar.gz
mkdir -p /usr/share/logstash/vendor/jar/jdbccd /usr/share/logstash/vendor/jar/jdbc[root@localhost soft]# cd /usr/share/logstash/vendor/jar/jdbc[root@localhost jdbc]# lltotal 984-rw-r--r--. 1 logstash logstash 1006959 Jul 11 19:43 mysql-connector-java-5.1.48-bin.jar[root@localhost jdbc]#
3.数据库创建库 并授权用户
create database nginxlog;use nginxlog;CREATE TABLE `consumerlog` ( `client_ip` varchar(128) DEFAULT NULL, `log_time` timestamp NOT NULL DEFAULT CURRENT_TIMESTAMP, `status` int(6) DEFAULT NULL, `http_referer` text, `AgentVersion` varchar(512) DEFAULT NULL,) grant all on nginxlog.* to nginxlog@'%' identified by '123456';
4.安装 logstash-output-jdbc插件
vim /usr/share/logstash/Gemfile# source "https://rubygems.org" 将国外的源注释,换成国内的source "https://gems.ruby-china.com/"
/usr/share/logstash/bin/logstash-plugin install logstash-output-jdbcValidating logstash-output-jdbcInstalling logstash-output-jdbcInstallation successful /usr/share/logstash/bin/logstash-plugin list | grep jdbclogstash-input-jdbclogstash-output-jdbc
5.nginx日志格式设置
log_format access_log_json '{"client_ip":"$remote_addr","log_time":"$time_local","request":"$request","status":"$status","body_bytes_sent":"$body_bytes_sent","http_referer":"$http_referer","AgentVersion":"$http_user_agent","upstream_addr":"$upstream_addr","request_time":"$request_time","upstream_response_time":"$upstream_response_time"}';6.
[root@localhost conf.d]# cat consumer_log.conf
/etc/logstash/conf.d
input{ file{ path => "/usr/local/tengine-2.1.2/logs/sxt-consumer.log" start_position => "beginning" stat_interval => "2" codec => "json" } } filter { if [status] != "200" { drop{} }}output{ jdbc{ connection_string => "jdbc:mysql://192.168.14.61/nginxlog?user=nginxlog&password=123456&useUnicode=true&characterEncoding=UTF8" statement => ["insert into consumerlog(client_ip,status,http_referer,AgentVersion) VALUES(?,?,?,?)", "client_ip","status","http_referer","AgentVersion"] }}7.启动logstash
systemctl start logstash
8.验证数据
数据
数据库
日志
插件
格式
注释
用户
参考
驱动
验证
同步
数据库的安全要保护哪些东西
数据库安全各自的含义是什么
生产安全数据库录入
数据库的安全性及管理
数据库安全策略包含哪些
海淀数据库安全审计系统
建立农村房屋安全信息数据库
易用的数据库客户端支持安全管理
连接数据库失败ssl安全错误
数据库的锁怎样保障安全
亿人帮互联网科技有限公司
中关村互联网 科技集团
北京互联网科技
互联网科技媒体
金融科技和互联网金融
现代科技和互联网有关系吗
新华互联网科技2019
互联网科技寓意
互联网科技与管理
互联网科技和信息
科技大学互联网
上海钢联属于互联网科技股吗
江苏苏星互联网科技有限公司
江苏互联网智能科技软件
2021世界互联网领先科技成果发布
萌小萌互联网科技河南有限公司
互联网科技平台产品运营
互联网科技新闻
互联网金融金融科技
山东亿川互联网科技有限责任公司
碳银互联网科技
美国互联网黑科技
北京大学互联网科技怎么样
银川新华互联网科技职业技术培训学校图片
汽车互联网创新科技园
健康食品互联网创新科技园项目
广州新华互联网科技学校电竞方面
工业互联网等科技实现智能化赋能
互联网安防科技感
九思连强互联网电子科技有限公司