【云计算】Windows下搭建Logstash+Elasticsearch+Kibana日志分析系统
小标 2019-01-23 来源 : 阅读 995 评论 0

摘要:本文主要向大家介绍了【云计算】Windows下搭建Logstash+Elasticsearch+Kibana日志分析系统,通过具体的内容向大家展现,希望对大家学习云计算有所帮助。

本文主要向大家介绍了【云计算】Windows下搭建Logstash+Elasticsearch+Kibana日志分析系统,通过具体的内容向大家展现,希望对大家学习云计算有所帮助。

一、ELK简介


ElasticSearch是一个基于Lucene的搜索分布式服务器,便于存储和检索数据;


Logstash是一个开源的日志收集管理工具,用于往ES中写入数据;


Kibana是一个开源的分析与可视化平台,用于高级数据分析与可视化。


二、安装软件


搭建ELK环境前,需保证电脑中安装了Java环境,且Logstash需要JDK1.8。以下为相关软件下载地址:


1、Java JDK //www.oracle.com/technetwork/java/javase/downloads/jdk8-downloads-2133151.html


2、Logstash https://www.elastic.co/downloads


3、Elasticsearch https://www.elastic.co/downloads


4、Kibana https://www.elastic.co/downloads


JDK的安装方式在此不过多叙述,按需自行百度。ElasticSearch、Logstash、Kibana下载完后,均无需安装,直接解压即可。



三、ELK环境搭建


1. 配置elasticsearch


由于我们需要从本地文件导入数据,所以指定data的存放目录即可。进入到config目录下,修改elasticsearch.yml 文件:



点击D:\yuzhan\develop\elasticsearch-6.3.2\bin\elasticsearch.bat,启动elasticsearch,访问//localhost:9200/出现以下信息表示elasticsearch安装成功。



2. 配置logstash


Logstash 核心命令是 Input--->Filter--->Output,可通过命令方式输入配置,也可以通过加载.conf文件进行配置。本文使用文件加载配置。在bin目录中新建stdin.conf文件,输入以下信息:


input {
 file{
  path => "E:/yuzhan/workspace/ELK/tmp/*.csv"
  start_position => beginning
 }
 }  
  
filter {
 grok {
  patterns_dir => "patterns.txt"
  match =>{ "message" => "%{DATA:name},%{DATA:person_id},%{DATA:email},%{DATA:tel},%{DATA:adress},%{DATA:from}%{S}" }
  }
 mutate{
  remove_field => ["host","path","message","@timestamp","@version"]
}
}
  
output {  
 elasticsearch { hosts => ["localhost:9200"]    
     index => "sgdb"
     document_type =>"sgdb"
      }
 stdout { codec => rubydebug } 
}


其中,patterns.txt中记录的是模式,内容如下



S \s


E:/yuzhan/workspace/ELK/tmp/*.csv中存储的是需要读取的文件数据,本文格式如下:



Name,person_id,EMail,tell,Address,from


CMD进入D:\yuzhan\develop\logstash-6.3.2\bin中,执行以下命令



logstash.bat -f stdin.conf


如果出现以下情况,则表示logstash配置成功:



注意:logstash每次对某一文件处理后便不会处理,如需再次处理,需删除D:\yuzhan\develop\logstash-6.3.2\data\plugins\inputs\file下的文件。


3. 配置kibana


CMD进入D:\yuzhan\develop\kibana-6.3.2\bin,执行以下命令:



kibana.bat


访问//localhost:5601,出现以下情况,则表示kibana安装成功:



到此,ELK环境配置完成。


四、ELK实例


首先,Set up Index Patterns, 名称与stdin.conf文件中elasticsearch->index一致。



然后,点击Discover,即可查看刚导入的数据,并可对此进行检索和分析。



          

本文由职坐标整理并发布,希望对同学们有所帮助。了解更多详情请关注职坐标大数据云计算大数据安全频道!

本文由 @小标 发布于职坐标。未经许可,禁止转载。
喜欢 | 0 不喜欢 | 0
看完这篇文章有何感觉?已经有0人表态,0%的人喜欢 快给朋友分享吧~
评论(0)
后参与评论

您输入的评论内容中包含违禁敏感词

我知道了

助您圆梦职场 匹配合适岗位
验证码手机号,获得海同独家IT培训资料
选择就业方向:
人工智能物联网
大数据开发/分析
人工智能Python
Java全栈开发
WEB前端+H5

请输入正确的手机号码

请输入正确的验证码

获取验证码

您今天的短信下发次数太多了,明天再试试吧!

提交

我们会在第一时间安排职业规划师联系您!

您也可以联系我们的职业规划师咨询:

小职老师的微信号:z_zhizuobiao
小职老师的微信号:z_zhizuobiao

版权所有 职坐标-一站式AI+学习就业服务平台 沪ICP备13042190号-4
上海海同信息科技有限公司 Copyright ©2015 www.zhizuobiao.com,All Rights Reserved.
 沪公网安备 31011502005948号    

©2015 www.zhizuobiao.com All Rights Reserved