问题标签 [td-agent]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
0 回答
42 浏览

fluentd - Fluentd 更改源字段值

使用 fluentd 我想更改“源”字段值,但不知道如何去做。

目前它正在将容器 IP 地址作为“源”,但我需要将其作为自定义名称。

有任何想法吗?

编辑:

我尝试过的事情:

  1. 这是在 Fargate ECS 上运行的 Alpine 容器,因此在任务定义中设置主机名值。

Error: ClientException: hostname is not supported on container when networkMode=awsvpc.

  1. 使用记录转换器设置主机名/源。

记录完全没有变化,但我可以在日志中看到正在读取的过滤器和 gethostname 正在工作。

因此,进一步查看 record_transformer,我已经能够使用此配置编写一个新字段:

如何更改现有字段的内容?

  1. 这个怎么样:

“源”字段应该包含其内容应该替换为“foo-#{Socket.gethostname}”的任何内容,但它没有。

0 投票
1 回答
555 浏览

elasticsearch - Fluentd 无法将日志上传到 Elasticsearch

我已经在我的机器上下载了elasticsearch& 。它们都运行良好,我可以访问它们。下面是弹性搜索的详细信息:kibanaUbuntu18.04

我也安装了Fluentd,它的服务td-agent运行良好。

下面是我的td-agent.conf文件:

运行 td-agent 时,以下是它的日志:

我没有看到任何错误日志,但不确定为什么它无法上传数据。我尝试创建索引模式,它在 Kibana 上不匹配。谁能帮我调试这个问题。谢谢

添加调试后的日志

0 投票
1 回答
175 浏览

fluentd - 错误 = nil:NilClass> td-agent 的未定义方法“gsub”

我正在尝试使用@type record_transformer我的一些应用程序日志语句来屏蔽密码没有消息,因为这正在低于 td-agent 日志文件中的错误是否有任何解决此问题的方法。如果未找到消息字段,如何忽略此问题。

0 投票
1 回答
35 浏览

elasticsearch - 流利的:ignore_repeated_log_interval 和 ignore_same_log_interval

尝试使用 fluentd 系统指令 ignore_repeated_log_interval 和 ignore_same_log_interval 来抑制 fluentd 中的相同日志,但未观察到任何工作操作

我的流利的.conf

0 投票
1 回答
14 浏览

influxdb - Fluentd 不在 influxdbv2 上存储数据

我正在尝试使用 fluentd (td-agent) 将系统日志存储在 influxdbv2 上。td-agent的配置是:

*.* @127.0.0.1:42185在 rsyslog.conf 文件中添加了。所有数据似乎都正确到达,但在 influxDB 中什么都没有。有谁知道可能是什么问题?

0 投票
0 回答
19 浏览

fluentd - 如何在 TD Agent 中删除大尺寸日志?

我正在使用具有以下源配置的 TD Agent。

如果我发送大小约为 8 kb 的日志消息,它仍然有效。

谁能帮忙,如何配置以使更大尺寸(超过定义的阈值)的日志下降?

0 投票
1 回答
96 浏览

ruby-on-rails - 如何加密流利的 SQL 插件密码?

由于安全原因,我们不能保持纯文本的 SQL 身份验证,有没有办法隐藏或加密密码?

插件站点的不良文档和不良支持,我被卡住了,请帮助,请不要提及保留环境变量。

Github 链接: https ://github.com/fluent/fluent-plugin-sql

0 投票
0 回答
55 浏览

elasticsearch - Fluentd 抛出错误并且没有将数据上传到 Elastic

0 投票
0 回答
9 浏览

environment-variables - Fluentd 在实践中不评估环境变量,但在试运行中评估

这个一直让我发疯。

我在 Rocky Linux 8 上有一个新设置的 td-agent。当我尝试传递一个环境变量时,它会出现在空运行中,但不会出现在实际运行中。

该行是:

path "/logs/#{ENV['HOSTNAME']}/messages/"

运行 td-agent --dry-run 时,我得到:

path "/logs/localhost/messages/"

但是当正确执行程序时,我得到:

path "/logs//messages/"

我还使用 usermod -a -G root td-agent 将 td-agent 添加到 root 组,但没有帮助。有什么想法吗,大师们?