问题标签 [fluentd]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
1829 浏览

mongodb - 前端的弹性搜索压缩和性能

如果这听起来很幼稚,请提前道歉。我开始使用 Elastic Search,我每天有大约 10GB 的数据要存储在 Elastic Search 中,我读到 Elastic search 压缩到原始数据的 5%。我已经设置了基于来自 Elastic Search 的数据运行的仪表板,但我不确定压缩率是否太高会影响搜索性能,因此我的仪表板没有有效地显示基于时间的比较。

请随时问我的问题是否不清楚?我确实想知道 ES 压缩通常是多少,就像我想看到的示例一样,当我们有 Elastic Search 实例时,我们理想情况下使用它来存储多少最大空间?

提前致谢...

0 投票
1 回答
850 浏览

fluentd - fluentd 异常处理和转发到不同的实例

我面临的问题是,我没有使用在本地服务器上运行的 fluentd 实例。我只是通过连接到远程 fluentd 来通过 Java 代码推送一些数据。

示例:FluentLogger LOG = FluentLogger.getLogger(app, FLUENTD_ADDRESS, FLUENTD_PORT); 我像这样连接到远程流利的。并且只是使用地图推送一些数据。

这样我只连接到一个流利的远程实例。如果由于网络故障而无法连接怎么办。我的信息丢失了。有趣的是,如果未建立连接,我想捕获异常。如果未建立连接导致 Java 编译器不理解它,我将无法捕获异常。它只是在控制台中显示无法连接,但它不会捕获块。

如果您看到上面的连接语句,则从 LOG 中我无法查看连接是否打开 例如有 LOG.open() 我想将日志写回文件以防连接失败,但我找不到这样的方法去做。

您能否分享您对此的想法。

提前致谢。

0 投票
2 回答
5556 浏览

centos - CentOS 错误使用 "service td-agent status"

我在 CentOS 中使用 td-agent。

当我输入“service td-agent start”时,我看到“正在启动 td-agent:[OK]”。为了检查它,我输入了“service td-agent status”,但我看到“td-agent dead but pid file exists”。我不明白这个结果。请告诉我如何解决这个问题。

更多当我输入“service td-agent start”时,我看到了这条消息。

0 投票
2 回答
2543 浏览

logging - 用fluentd解析数据

我已经熟练地运行了 elasticsearch,并且我正在使用 rsyslog 转发来自几台 Unix 机器的日志(基本上是转发所有日志)。

它工作得很好,除了我对数据没有任何控制权。我想要的是能够标记某些值。现在,一切都在@message 中。假设我有来自 apache 的日志进入 fluentd。我想使用 Kibana 查看流量(每个 ip、每个文件类型、响应等)。

我不知道这是否可以直接在 Kibana 中完成,或者必须在 fluentd 中解析。我该怎么办?我已经看到了不同日志设置的示例,但是当涉及到 Web 服务器时,它们都会跟踪日志文件。我不能这样做,因为它是远程服务器。

另外,我有不同的服务,我想从(sql、web、mail...)中获取重要的统计信息。

注意:我正在使用 rsyslog 转发日志。

0 投票
2 回答
1965 浏览

windows - IIS 的 Fluentd 替代品

我正在分析我的网络服务器日志。我的 Linux+Apache 服务器一切正常,但我需要为我的 Windows+IIS 服务器做同样的事情。在 Fluentd 的常见问题解答中说不支持 Windows(http://docs.fluentd.org/articles/faq#does-fluentd-run-on-windows),所以我正在寻找替代方案。

你们能给我一些建议吗?

提前致谢。

0 投票
0 回答
660 浏览

mongodb - fluent / fluent-plugin-mongo mongo_tail 慢日志收集系统错误。分析

mongo_tail与正常的集合 Mongod 一起工作,但使用 Mongo 分析集合 system.profiling 时出现错误:

我该如何解决它,我想使用 fluent 将慢速 Mongodb 日志拉到其他地方。

0 投票
1 回答
677 浏览

node.js - NodeJS 在 ec2 上登录到 Redis

我在 ec2 上运行 nodejs 并将 nodejs stdout 和 sterr 重定向到文件 (>>) 这有以下潜在问题:

  1. EBS 故障可能会停止 nodejs 进程(我想日志记录是同步的)。众所周知,EBS 不如其他一些 AWS 服务可靠。
  2. EC2 实例可能会失败并且 EBS 会丢失(除非已附加)。
  3. EBS 上的日志文件不会跨可用区复制。
  4. 获取日志需要通过 SSH 连接到机器。

理想情况下,我希望将所有日志直接写入 Amazon ElasticCache for Redis,然后再写入 S3。最好的方法是什么?

0 投票
1 回答
1232 浏览

fluentd - Fluentd tail 插件:tail 目录中的所有文件

Fluentd 接受 CSV 文件名来记录。但这也意味着对文件名的先验知识。

是否有一个选项或黑客来做一些逻辑上等同于 -path /var/log/*.log

0 投票
1 回答
542 浏览

ruby - 命令 td-agent 不起作用

我尝试使用以下命令安装 Fluentd:

发生了一些错误。这是错误日志:

我的红宝石环境是:

  • 红宝石 -ruby 1.9.3p392
  • 宝石 -2.2.2

我希望 Fluentd 工作。

提前致谢。

0 投票
2 回答
766 浏览

elasticsearch - 作为 Web 服务公开的日志数据可以输入到 Elasticssearch 吗?

我有许多应用程序在不同的数据中心运行,由不同的供应商开发和维护。每个应用程序都有一个 Web 服务,用于公开为应用程序整合的相关日志数据(审计数据、安全数据、与成本计算相关的数据、性能数据……)。

我的任务是将来自每个系统的数据放入 Elasticsearch、Kibana 和 Logstash 的设置中,这样我就可以创建业务报告或以我想要的方式查看数据。

假设我有一个 JBoss 应用程序服务器用于集成到这些“公开日志”服务,那么提供 Elasticssearch 的最佳方式是什么?一些调用每个服务的 Logstash 插件?JBoss 使用一些 Logstash 插件?还是其他方式?