问题标签 [fluent-bit]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
0 回答
435 浏览

android - 从 Android 设备收集日志

我最近一直在阅读有关 Fluentd 和 Fluent-bit 作为日志统一和收集的工具。文档说它支持一些 Linux 发行版,但我找不到任何对 Android 的引用——无论是支持还是不支持。

知道 Fluent-bit 是否可以编译为在 Android 上运行?或者,是否有其他工具,例如适用于 Android 的 Fluent-bit?

谢谢

0 投票
1 回答
2028 浏览

elasticsearch - 无法通过 fluentd/elasticsearch 收集所有 kubernetes 容器/pod 日志

我是 fluentd/elasticsearch 堆栈的新手,我正在尝试将它部署在 kubernetes 上。虽然我设法做到了,但我遇到了一个问题,即并非所有 pod/容器日志都显示在 elasticsearch 上(我正在使用 Kibana 进行数据可视化)。换句话说,我可以看到来自“默认”kubernetes pod 的日志,比如 weave-net 和 elasticsearch 相关的 pod 日志(es-data、es-master 等),但不能从我的“自定义”pod 中看到我试图部署。

作为一个简单的测试,我在 fluentd/elasticsearch 所在的同一个 kube 命名空间中部署了 redis,redis 服务/部署如下所示:

当我检查来自 fluentd daemonpods 的日志时,我看到以下内容:

如果我是正确的,它应该给我一个 fluentd 正在获取 redis 容器日志的信息。但是,我无法看到存储在 elasticsearch 中的任何与 redis 相关的文档。

这就是 fluentd 的部分配置的样子(kubernetes.conf):

和流利的.conf:

任何提示都会非常有帮助。提前致谢。

0 投票
0 回答
344 浏览

kubernetes - EFK。未解析日志条目

我们使用 EFK-stack,其中 F 代表 fluent bit。在我的 kotlin spring boot 应用程序中,我使用 logback 和 logstash 配置日志记录如下

我们在 Kubernetes 中运行该应用程序。现在,有时对于非常冗长的异常,即以下情况,我们在 kibana 中看到未解析的日志条目。logger因此,kibana既没有检测到,也没有message,尽管这些字段在 json 中。

0 投票
2 回答
7127 浏览

parsing - Fluentbit 与 mycat 多行解析

我想通过EFK做一个日志管理系统。我正在尝试几天来让我的多行 mycat 日志解析器与 fluent-bit 一起使用。

我的流利的配置:

mycat.log 看起来像这样:

我想我现在很接近,但到目前为止还没有运气。

在我的 kibana 中。我得到以下结果: 在此处输入图像描述

我的多行错误日志丢失。但我在 rubular 中测试它正常解析 在此处输入图像描述

任何帮助,将不胜感激。

0 投票
0 回答
681 浏览

amazon-web-services - 使用 AWS EKS 集群和 ELK 的流利位

我是 Fluent Bit 的新手,很想得到你的帮助。

到目前为止,我尝试将 Fluent Bit 工具嵌入我的 AWS EKS 集群并收集服务日志(包括 AWS ELB 之上的 ingress-nginx),但均未成功。此外,我不想创建新的 ElasticSearch/Kibana 集群,因为我想使用我现有的 Apache Kafka 和 ELK 堆栈。

最近在我的 Kubernetes 集群上部署了什么

命名空间

服务帐号

角色

流利的卡夫卡

即使我已经部署了所有这些,日志还没有到达 ELK 的服务器。需要注意的是,我只是将这个filefluent-bit-configmap.yaml文件中的Brokers地址更改为我的 Apache Kafka 地址(存在服务器之间的通信)。

0 投票
1 回答
5224 浏览

java - 精通java

我正在尝试将日志从基本的 java maven 项目发送到远程机器上配置的 fluent-bit。Fluent-bit 然后将它们写入文件。这是我的基本 java 配置。

爪哇

和 logback.xml

流利位配置:

td-agent-bit.conf

解析器配置文件

应用程序运行时,我不断收到以下异常

[2018/09/27 08:29:13] [trace] [in_tcp] read()=74 pre_len=370 now_len=444

[2018/09/27 08:29:13] [debug] [in_serial] JSON 消息无效,跳过

但是当我尝试通过命令行测试配置时,它可以工作

我没有得到任何异常,并且输出文件具有所有权限。远程机器也是基于光子操作系统的系统。

任何想法将不胜感激。

0 投票
0 回答
231 浏览

elasticsearch - EFK Stack(Elasticsearch、Fluent-bit、Kibana)设置不显示 Kubernetes 字段

我已经按照文档在我的 Kubernetes 集群上进行了 EFK Stack 设置。

https://medium.com/@jbsazon/aggregated-kubernetes-container-logs-with-fluent-bit-elasticsearch-and-kibana-5a9708c5dd9a

默认情况下,fluent-bit 应该找到所有 kubernetes 字段并将其添加到每个日志条目中。但是,就我而言,我没有获得 Kubernetes 字段。仅获取以下字段。

我可以通过符号链接在“/var/log/containers”路径下的“/var/log/containers”路径下看到 fluent-bit 容器内部和容器外部的日志。

Kube 版本:1.8

Fluent-bit 配置图:https ://raw.githubusercontent.com/fluent/fluent-bit-kubernetes-logging/master/output/elasticsearch/fluent-bit-configmap.yaml

0 投票
2 回答
6331 浏览

elasticsearch - Fluentbit Kubernetes - 如何从现有日志中提取字段

我已经在我的 Kubernetes 集群上使用 Fluent-bit 配置了 EFK 堆栈。我可以在 Kibana 中看到日志。

我也部署了 nginx pod,我也可以在 Kibana 中看到这个 nginx pod 的日志。但是所有日志数据都发送到单个字段“日志”,如下所示。

在此处输入图像描述

如何将每个字段提取到单独的字段中。在这个问题中已经有一个 fluentd 的解决方案。Kibana - 如何从现有 Kubernetes 日志中提取字段

但是我怎样才能用 fluent-bit 达到同样的效果呢?

我已经通过在 Kubernetes 的默认 FILTER 部分下再添加一个 FILTER 部分来尝试以下操作,但它不起作用。

从这里(https://github.com/fluent/fluent-bit/issues/723),我可以看到 fluent-bit 没有 grok 支持。

0 投票
1 回答
173 浏览

fluentd - Fluent logger 记录到 Fluent Bit

Fluent logger可以远程登录到Fluent Bit吗?如果是,如何?

0 投票
1 回答
1493 浏览

fluentd - FluentD:转发与 TCP 输入

我是 fluentd/fluentbit 的新手,但无法理解forwardtcp输入之间的区别。在示例中,它们使用前向输入从应用程序发出日志

forward通过or进行日志记录到底有什么区别tcp?他们在我看来都一样。