问题标签 [elk]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
198 浏览

amazon-web-services - 如何将file.log注入logstash并通过kibana显示

我使用docker容器和docker-compose来创建ELK容器,在创建容器后我应该将文件注入logstash并通过docker显示

直到三天前我才在 docker 上工作,我在解决这个问题,浏览了至少 10 个网站 + youtube 并且无法理解我应该做什么。我成功创建了 docker 容器,安装/创建(不知道怎么说)docker-compose。我已经从 git 中提取了 docker-elk/,所以我已经为 docker-compose、logstash、kibana 和弹性搜索准备好了 yml 文件,我尝试将文件推送到 logstash,但如果我做得对,我无法获得,以及如何检查一下

我看到了一个选项来检查正在运行的容器的 IP 地址并通过 ip:5061, ip:9200 运行它,但没有任何效果

我已经安装了 docker 并拉了 docker elk

sudo amazon-linux-extras 安装 docker

下载 docker-elk:

git clone https://github.com/deviantony/docker-elk sudo curl -L

下载 docker compose

https://github.com/docker/compose/releases/download/1.22.0/docker-compose- $(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose sudo mv /usr/local/bin/docker-compose /usr/bin/docker-compose sudo chmod +x /usr/bin/docker-compose

并创建了麋鹿容器-我尝试了两个命令,第二个命令有效#better

sudo docker-compose -d sudo docker-compose -f /full addres/ docker-compose.yml up

我希望通过kibana图显示注入logstash日志文件

0 投票
1 回答
282 浏览

elasticsearch - 摄取管道中的文档字段的类型是什么?

我有一个 Docker -> Filebeat -> Elasticsearch 日志管道。

我正在使用 Elasticsearch 摄取管道来处理我的日志(在 Filebeat 发送它们之后)。

在我的日志中,有一个消息字段和有效负载字段。这是有趣的部分:

有效负载有时是对象,有时是字符串。

现在,ES 显然不允许这种类型在映射中发生冲突,所以每天首先进入我的索引的东西都会进入,而另一种类型将无效并引发错误。我想以下列方式处理这个问题:

  1. 检查有效载荷字段的类型
  2. 如果是字符串,则将其嵌套payload.text字段中

我不知道如何进行“嵌套”,也找不到对有效负载字段进行类型检查的方法。

这根本不支持吗?我是否必须为此添加 Logstash?还是可以在 Filebeat 端解决?

编辑:提到摄取管道

0 投票
1 回答
137 浏览

elasticsearch - Kibana 仅显示通过 Logstash 发送的 2 台服务器中的 1 台服务器日志

我有 2 台服务器上安装了 filebeat,在另一台服务器上我安装了 ELK 堆栈。

在 Logstash conf 目录下的 ELK 服务器上,我创建了代表 2 个服务器的 2 个文件

在两台服务器上 在 filebeat 配置文件中,我为每台服务器指定了不同的端口(Logstash 作为输出)

这是我的服务器 1 的 Logstash 文件,

这是我的服务器 2 的 Logstash 文件,

我的服务器 1 的 filebeat 文件

我的服务器 2 的 filebeat 文件

但是当我在 Kibana 中创建索引时,它只显示一个服务器日志,而不是另一台服务器(在 host.name 字段下)。

请提出一些建议。

0 投票
0 回答
44 浏览

elasticsearch - 在搜索字符串时,我无法检索由字符之间的符号 (.,& ) 组成的字符串

我正在使用弹性搜索 7.3,我的数据由以下字符串组成:K&S KS KS KS KS。当我搜索 KSI 时,没有得到任何 K&S 的结果。

我已经为这个问题尝试了归一化器,但仍然没有得到相关的结果。

这是索引定义:

这是我的查询结构:

结果必须包含有关 KS 的所有字符串。当我搜索 KS 时,结果应该是 K&S KS KS KS KS。

0 投票
0 回答
665 浏览

php - 在 Kibana 中接收从 Laravel 发送到 Logstash 的数据

我正在使用 Laravel 将我的日志发送到 Logstash,并且我想在 Kibana 中显示它们。这是我所做的:

logging.php

LogstashLogger课堂上:

当我运行这个命令时,在修补程序中:

我的日志中没有任何错误,我得到空值。这应该意味着数据已成功发送到 Logstash。我现在如何从 Logstash 获取数据并在 Kibana 中显示?当我想创建一个索引模式时,它不会接受任何名称。我不知道如何检查我是否在 Logstash 中收到了数据,或者如何在 Kibana 中显示它。

0 投票
1 回答
122 浏览

c# - 如何使用 Nest 从 Json ElasticSearch 获取 logType 和 level?

我正在尝试使用 Nest Code 从 ElasticSearch 的 json 日志下方获取 loglevel 和 logType 的值。LogLevel 应该是“ERROR” LogType 应该是“Response”。我该如何编写这个 Nest 查询。我认为Nest真的很难。

我怎么能用下面的json做到这一点?

我的索引地图:

0 投票
1 回答
5157 浏览

elasticsearch - 超过elasticsearch中字段的最大长度 - kibana中的错误

发现:[prod_logs] 索引的 [-CSnZmwB_xkQcDCOrP1V] doc 的 [message] 字段的长度已超过 [1000000] - 允许分析突出显示的最大值。可以通过更改 [index.highlight.max_analyzed_offset] 索引级别设置来设置此最大值。对于大文本,建议使用偏移量或术语向量进行索引!

我在 Kibana 中收到上述错误。我使用 ELK 版本 7.2.0。答案/建议是最受欢迎的。

0 投票
2 回答
9516 浏览

spring-boot - 将spring boot日志直接发送到logstash,没有文件

因此,我正在使用 Kubernetes 和 Spring Boot 构建一个完整的云解决方案。

我的 Spring Boot 应用程序部署到容器并直接在控制台上登录。由于容器是短暂的,我想将日志也发送到远程 logstash 服务器,以便它们可以被处理并发送到弹性。

通常我会在托管我的应用程序的服务器上安装一个 filebeat,我可以,但是没有任何内置方法可以让我避免在发送之前将日志写入文件吗?

目前我正在使用 log4j,但我认为切换到另一个记录器没有问题,只要它有一个“logbackappender”。

0 投票
0 回答
215 浏览

elasticsearch - 使用 ndjson 格式将文档索引到 elasticsearch

问题也在这里发布,

https://discuss.elastic.co/t/indexing-jupyter-notebooks/194639?u=venkateshreddypala

0 投票
1 回答
86 浏览

elasticsearch - ElasticSearch 如何处理包含 230m 条目的索引?

我正在查看 elasticsearch 并注意到您可以创建索引并批量添加项目。我目前有一系列包含 2.2 亿条目的平面文件。我正在使用 Logstash 来解析它们并将它们添加到 ElasticSearch,但我觉得它存在于 1 个索引下会很难查询。行数据最多不过1-3个属性。

在这种情况下,Elasticsearch 如何发挥作用?为了有效地查询这个索引,你是否只是向集群添加了额外的实例,它们将一起工作来处理集合?

我一直在浏览文档,它正在解释要做什么,但不一定总是解释它为什么要这样做。