问题标签 [fluentd]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
0 回答
395 浏览

logging - Fluentd 无法在每小时整点时将缓冲区文件上传到 s3

这是我流利的日志文件夹 这是我的流利的 conf 文件

大家好:我使用fluentd收集我的日志,这些日志是由我的python程序生成的,所以使用forward作为源参数。但是每小时每小时生成的文件会留在fluentd运行的机器上,有时会累积一些无法上传s3的文件。当我重新启动fluentd时,除了每小时生成的这些文件之外,这些文件都会继续上传到s3,那很好,但是我该如何处理这些未上传的文件呢?google了,没找到好的方法,谁能帮帮我,谢谢!

=================更新如果可能我想处理文件累积的问题,为什么他们不上传到s3,我使用AWS的EC2和S3相同区域和相同的 VPC。

0 投票
0 回答
254 浏览

fluentd - fluentd 写入日志文件的时间是多少

这是一条 fluentd 写入我在 hdfs 中的日志的记录:

第一个字段是来自 Fluentd 的时间键,但我不知道是记录存储在缓冲区中的时间还是写入日志文件的时间?

你能帮我回答这个问题吗?

谢谢 !

编辑:这是我的配置:

0 投票
1 回答
14332 浏览

environment-variables - 您可以在配置文件中使用 fluentd 的环境变量吗

我想知道如何在 Fluentd 配置中使用环境变量,我试过:

但它不起作用,你知道吗?

0 投票
2 回答
2533 浏览

log4j - Fluentd 读取多行的码头日志

我试图阅读码头日志的多行,对于来源现在有人怎么做?

有了这个,我无法获得所有线路的消息。

0 投票
1 回答
3672 浏览

json - 修改fluentd json输出

我们如何使用 fluentd( 和 plugins ) 像这样轻松转换

对此:

谢谢

0 投票
1 回答
55 浏览

logging - 从系统风格的客户那里收集日志

我正在尝试安全地获取日志。在公共领域中有一些机器我需要从中获取日志(windows / linux 风格),我打算使用像 Flume / FluentD 这样的框架。

知道这是否以安全的方式可行吗?

0 投票
1 回答
3564 浏览

timezone - 如何配置 Fluentd 的时区?

我的系统时间是:Tue Jan 6 09:44:49 CST 2015

td-agent.conf :

dir的时间是对的!

但是log的时间不对,不知道为什么?

0 投票
1 回答
1305 浏览

apache-kafka - 如何将日志文件从多个 Windows 服务器传输到中央服务器?

我有一个连续生成日志的 Tableau 服务器(Windows 平台)。我想将它流式传输到 apache spark 进行一些实时分析。我查看了以下解决方案,但似乎没有一个满足要求。

1) 使用 nxlog 代理。这是不可扩展的,因为将来日志可能来自多个 tableau 服务器。

2) fluented , flume 与 windows 不兼容。

3) Kafka 是毫无疑问的,因为它不跟踪日志文件。

什么是此类问题的可扩展解决方案?主要限制是 Tableau Server 在 Windows 上运行,

0 投票
1 回答
12322 浏览

elasticsearch - fluentd 丢失毫秒,现在日志消息在 elasticsearch 中乱序存储

我正在使用 fluentd 在 elasticsearch 中集中日志消息并使用 kibana 查看它们。当我查看日志消息时,同一秒内发生的消息是乱序的,@timestamp 中的毫秒数全为零

如何流利地存储毫秒?

0 投票
2 回答
2182 浏览

amazon-s3 - 更新后 td-agent 不工作

在 Amazon Linux 上进行 yum 更新后,Td-agent 不工作。

Td-agent 1.1.20-0 工作,但 1.1.21-0 不工作,s3 中没有日志数据。

错误信息是

和 td-agent.conf(整个配置)如下所示:

请告诉我如何解决