问题标签 [logstash-file]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
481 浏览

docker - 如何配置索引模式?

我有一个使用多个 docker 映像登录到 syslog-ng 的系统。Syslog-ng 配置为将来自其他容器的所有流写入文件。这部分运作良好,我得到这样的日志:

然后我尝试配置那个图像:

https://hub.docker.com/r/willdurand/elk/

我映射了日志路径并为logstash设置了这个配置:

然后我启动镜像,进入 Kibana 4 界面。我尝试了以下模式:

YYYY.MM.DD 和 YYYY-MM-DD 但我永远无法创建索引以开始使用 Kibana。

我对索引模式做错了什么?或者我错过了一些 docker 镜像配置?

0 投票
1 回答
82 浏览

logstash - 试图为我的日志创建 grok 模式,但不确定如何逃避特殊字符

我写了这样的模式

0 投票
1 回答
120 浏览

logstash - 将 Logstash 配置为在解析文件之前等待

我想知道您是否可以通过以下方式配置logstash:

背景资料:

  • 每天我都会收到一个 xml 文件推送到我的服务器,应该对其进行解析。

  • 为了指示之后的完整文件传输,我将一个空的 .ctl(自定义文件)传输到同一文件夹。

  • 这两个文件都具有以下名称架构'feedback_{year}{yearday}_UTC{hoursminutesseconds}_51.{extention}'(例如feedback_16002_UTC235953_51.xml)。因此它们具有相同的文件名,但一个是 .xml,另一个是 .ctl 文件。

问题:

有没有办法配置logstash等待解析xml文件,直到相应的.ctl文件出现?

编辑:有没有办法用filebeat来存档?

EDIT2:如果更容易的话,能够以一种在开始处理新文件之前等待 x 分钟的方式配置 logstash 也足够了。

感谢您提前提供任何帮助

0 投票
3 回答
3455 浏览

elasticsearch - 如何告诉 Elasticsearch 从文件的第一行获取列名?

我刚开始使用 Elasticsearch/logstash。

我有 3 个具有共同 id 的不同文件。每个文件的第一行包含列名,例如:

如何告诉 Elasticsearch 将第一行作为列名?

另外,我如何使用文件之间的公共 id 对 Elastic 进行一些研究,例如q:column=data group by id

0 投票
1 回答
2772 浏览

elasticsearch - logstash if field exists then grok

I'm trying to create a filter for logstash that will have "general" grok filter for all logs and if some field exists, then I want it to perform a different grok.

The first grok I'm using is

This is working great. But I want this to be able to filter even more if the "name" field is i.e "foo"

I tried this option but it didn't work. Any thoughts?

0 投票
1 回答
4275 浏览

logstash - Logstash 将字段与数字进行比较

我正在寻找一种将 Logstash 字段与条件语句中的数字进行比较的方法,但在文档中找不到任何内容。

例如这样的事情:

或者

谢谢。

0 投票
2 回答
2210 浏览

logstash - Logstash 不读取文件输入,不打印到控制台

Logstash 的新手。我正在尝试读取一个简单的输入并将其输出到命令窗口。

Logstash 版本:2.2.2

下面是我的 .conf 文件

下面是我的logstash-test-data.log

这是我在 --debug 和 --verbose 之后得到的输出

然后什么也没有发生。我希望日志显示在终端上。

编辑:这些是我的文件权限

0 投票
1 回答
576 浏览

logstash - Logstash csv 过滤器根据时间戳创建索引名称

我想根据日志文件中匹配的日期创建 ES 索引。我正在使用 logstash CSV 过滤器来处理日志。例如,日志数据如下所示

下面是logstash配置文件。显然,索引将创建为 testlog,但是,鉴于 YYYY.mm.dd 是索引日期的 logstash 首选格式,我希望将索引创建为 testlog-2016.02.21 和 testlog-2016.02.22。我已经用 grok 过滤器做到了这一点,我正在尝试用 csv 实现相同的效果,但这似乎不起作用。

我们在 Logstash 2.1.0、ES 2.1.0 和 Kibana 4.3.0 版本上

任何输入表示赞赏

0 投票
1 回答
46 浏览

logstash - 我怎样才能找到我生成的文件logstash?

我是 ELK 堆栈的初学者,所以我配置了 logstash,当我想用​​ ElasticSearch 搜索时,我没有结果,所以我应该得到结果,因为我在 grokdebug 上进行了解析,效果很好。我的研究如下:

" http://localhost:9200/logstash-2016.03.14/_search?q= *"

我想知道是否可以看到生成的 logstash 文件以及它是否生成了结果?

知道我尝试在 JSON 文件上搜索弹性搜索并且它有效。

问题出在 logstash 。

谢谢

0 投票
1 回答
1794 浏览

regex - 如何在logstash文件输入路径中包含正则表达式

我正在使用 logstash 将 tomcat 访问日志转换为 json 格式。访问日志名称采用以下格式

输入过滤器是:

它没有显示使用正则表达式的日志。我应该在这里使用什么正则表达式来仅选择这些文件?