问题标签 [logstash-file]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
155 浏览

windows - Logstash _grokparsefailure 错误窗口

新手警告!

我正在学习在 Windows 上使用 logstash 来向团队演示。请看以下配置和结果:

1)

配置文件:

我的命令行显示以下输出:

// 上面的输出中没有显示数据字段

2)输入文本的内容:789

配置2:

命令行输出:

我收到简单数字输入的解析错误。所以我想知道问题是否与 Windows .txt 文件和编码或其他问题有关,因为 grok 能够将其解析为 GREEDYDATA 但不能解析为 NUMBER。并且两个输出中都没有字段标签。请帮助我确定问题。

0 投票
1 回答
238 浏览

logstash - logstash 发送日志文件到 redis

我需要通过logstash将我的访问日志文件发送到redis。我的logstash在/usr/share/logstash下,配置文件在/etc/logstash/conf.d/test.conf下

测试.conf:

}

我运行它:

logstash 日志:

并且没有出现错误。但我没有得到访问列表的值。

我尝试通过logstash向redis发送简单的字符串,效果很好。问题是什么?

0 投票
1 回答
1333 浏览

elasticsearch - 如何使用 Logstash 加载二进制文件

如何使用 Logstash 加载二进制文件(pdf、xls、其他...)而不更改其内容。

目前我尝试加载

似乎多行过滤器会损坏二进制内容。

0 投票
0 回答
632 浏览

logstash - Logstash 正在发送两次日志。重复日志问题

我正在解析我的服务器文件的日志,并且只向我的 API 发送信息、警告和错误级别的日志,但问题是我收到了两次日志。在输出中,我将解析后的日志值映射到我的 JSON 字段,并将该 json 发送到我的 API,但我两次收到该 json 映射。

我正在分析我的 logstash 日志文件,但日志条目仅在日志文件中出现一次。

以下是我的配置。

需要帮忙。无法弄清楚为什么会发生这种情况的原因。

0 投票
0 回答
338 浏览

logstash - logstash 2.4.0 可以读取的最大文件大小

我正在尝试读取文件并通过logstash解析它并将我的输出写入另一个文件;

我的解析器运行良好,我在一个大约 1000 行的 txt 文件的示例文件上进行了测试。

问题是,一旦我用一个介于 200MB 和 1GB 之间的真实文件开始真正的测试,什么也没有发生。我没有输出,既没有标准输出也没有 txt 文件。

我质疑的最后一件事是输入文件的文件大小!

你能给我一些关于可能性的想法吗?或者如何更改输入文件的最大文件大小?

PS:我在 Windows 上进行测试。

编辑:它适用于 Logstash 5.5.1 !但是 V2.4.0 有什么问题?

非常感谢

0 投票
1 回答
90 浏览

logstash - 在修改输入文件之前,Logstash 不会启动

我有一个日志文件,路径在Logstash的配置文件中。问题是,当我启动 Logstash 时,在我修改文件(添加空格、添加一行等)之前什么都不会发生。请注意,我将文件复制到正确的路径中,然后启动 Logstash。我尝试在将文件复制到正确的路径之前启动 Logstash,同样的行为。

}

我想要做的是在文件已经在正确的文件夹中时启动 Logstash,并使 Logstash 直接开始分析它们。

0 投票
1 回答
228 浏览

elasticsearch - 如何在 logstash 中解析 tmx 文件(用于翻译数据的 xml 文件)

我使用 TMX 文件(用于翻译数据的 xml 文件)作为我在 Logstash 中的源来索引 Elasticsearch 中的数据。

示例 TMX 文件如下所示,

我在这里需要做的是将每个<tu>块作为一个事件访问,其中两个<tuv>块将用作数据字段。存储在第一个tuv块中的数据将在 ES 中作为源语言数据字段进行索引,而存储在第二个tuv块中的数据将作为目标语言数据字段。

一个 TMX 文档可以包含超过 10000tuv个块。

我在使用 xml 过滤器时遇到了麻烦,现在看起来像这样,

这是我的索引模板的一部分,

0 投票
0 回答
445 浏览

json - 如何使用 logstash 过滤器解析嵌套的 JSON 数据

我有一个 json 文件,其中包含这样的数据

我正在使用 logstash 过滤器,这给了我错误的结果

我怎样才能完成像 steps.response_time :100 steps.more_nested.hello : world 之类的事件。

我尝试使用红宝石,但没有工作。我正在使用 logstash 5.x 版本

0 投票
0 回答
29 浏览

json - 启动期间在logstash中触发日志解析

我在启动期间使用logstash解析日志时遇到了麻烦

一旦我在日志文件中添加了一个额外的行,它就会被过滤,输出成功地生成到文件中似乎只有在观察者发生变化时才会触发解析

1)输入有设置吗?我见过http轮询,但是对于文件而不是http请求,是否有一些轮询时间?

2)我确实有很多文件夹,每个文件夹包含 2 个文件。是否可以逐个文件夹解析并将这两个文件中的字段连接到signe json中?

Json 由 obs.out 的 name 字段和 log.out 的所有消息组成 所以这将是一个带有“name”的 JSON:来自 log.out 的所有消息

此致

0 投票
0 回答
529 浏览

ruby - 如何使用 Ruby 过滤器的 Event API 导航嵌套 JSON

我有一个 json 文件,我无法使用 logstash 5.0 导航到事件。

我想根据文档 event.get('[message][cars][name]') 使用 ruby​​ 的 get 和 set 方法从下面提取汽车的名称

这是我的conf文件

使用上面的配置文件,我得到 nil 值。请让我知道导航到路径的正确方法