问题标签 [elk]
For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.
amazon-web-services - 如何将file.log注入logstash并通过kibana显示
我使用docker容器和docker-compose来创建ELK容器,在创建容器后我应该将文件注入logstash并通过docker显示
直到三天前我才在 docker 上工作,我在解决这个问题,浏览了至少 10 个网站 + youtube 并且无法理解我应该做什么。我成功创建了 docker 容器,安装/创建(不知道怎么说)docker-compose。我已经从 git 中提取了 docker-elk/,所以我已经为 docker-compose、logstash、kibana 和弹性搜索准备好了 yml 文件,我尝试将文件推送到 logstash,但如果我做得对,我无法获得,以及如何检查一下
我看到了一个选项来检查正在运行的容器的 IP 地址并通过 ip:5061, ip:9200 运行它,但没有任何效果
我已经安装了 docker 并拉了 docker elk
sudo amazon-linux-extras 安装 docker
下载 docker-elk:
git clone https://github.com/deviantony/docker-elk sudo curl -L
下载 docker compose
https://github.com/docker/compose/releases/download/1.22.0/docker-compose- $(uname -s)-$(uname -m)" -o /usr/local/bin/docker-compose sudo mv /usr/local/bin/docker-compose /usr/bin/docker-compose sudo chmod +x /usr/bin/docker-compose
并创建了麋鹿容器-我尝试了两个命令,第二个命令有效#better
sudo docker-compose -d sudo docker-compose -f /full addres/ docker-compose.yml up
我希望通过kibana图显示注入logstash日志文件
elasticsearch - 摄取管道中的文档字段的类型是什么?
我有一个 Docker -> Filebeat -> Elasticsearch 日志管道。
我正在使用 Elasticsearch 摄取管道来处理我的日志(在 Filebeat 发送它们之后)。
在我的日志中,有一个消息字段和有效负载字段。这是有趣的部分:
有效负载有时是对象,有时是字符串。
现在,ES 显然不允许这种类型在映射中发生冲突,所以每天首先进入我的索引的东西都会进入,而另一种类型将无效并引发错误。我想以下列方式处理这个问题:
- 检查有效载荷字段的类型
- 如果是字符串,则将其嵌套到payload.text字段中
我不知道如何进行“嵌套”,也找不到对有效负载字段进行类型检查的方法。
这根本不支持吗?我是否必须为此添加 Logstash?还是可以在 Filebeat 端解决?
编辑:提到摄取管道
elasticsearch - Kibana 仅显示通过 Logstash 发送的 2 台服务器中的 1 台服务器日志
我有 2 台服务器上安装了 filebeat,在另一台服务器上我安装了 ELK 堆栈。
在 Logstash conf 目录下的 ELK 服务器上,我创建了代表 2 个服务器的 2 个文件
在两台服务器上 在 filebeat 配置文件中,我为每台服务器指定了不同的端口(Logstash 作为输出)
这是我的服务器 1 的 Logstash 文件,
这是我的服务器 2 的 Logstash 文件,
我的服务器 1 的 filebeat 文件
我的服务器 2 的 filebeat 文件
但是当我在 Kibana 中创建索引时,它只显示一个服务器日志,而不是另一台服务器(在 host.name 字段下)。
请提出一些建议。
elasticsearch - 在搜索字符串时,我无法检索由字符之间的符号 (.,& ) 组成的字符串
我正在使用弹性搜索 7.3,我的数据由以下字符串组成:K&S KS KS KS KS。当我搜索 KSI 时,没有得到任何 K&S 的结果。
我已经为这个问题尝试了归一化器,但仍然没有得到相关的结果。
这是索引定义:
这是我的查询结构:
结果必须包含有关 KS 的所有字符串。当我搜索 KS 时,结果应该是 K&S KS KS KS KS。
php - 在 Kibana 中接收从 Laravel 发送到 Logstash 的数据
我正在使用 Laravel 将我的日志发送到 Logstash,并且我想在 Kibana 中显示它们。这是我所做的:
在logging.php
:
在LogstashLogger
课堂上:
当我运行这个命令时,在修补程序中:
我的日志中没有任何错误,我得到空值。这应该意味着数据已成功发送到 Logstash。我现在如何从 Logstash 获取数据并在 Kibana 中显示?当我想创建一个索引模式时,它不会接受任何名称。我不知道如何检查我是否在 Logstash 中收到了数据,或者如何在 Kibana 中显示它。
c# - 如何使用 Nest 从 Json ElasticSearch 获取 logType 和 level?
我正在尝试使用 Nest Code 从 ElasticSearch 的 json 日志下方获取 loglevel 和 logType 的值。LogLevel 应该是“ERROR” LogType 应该是“Response”。我该如何编写这个 Nest 查询。我认为Nest真的很难。
我怎么能用下面的json做到这一点?
我的索引地图:
elasticsearch - 超过elasticsearch中字段的最大长度 - kibana中的错误
发现:[prod_logs] 索引的 [-CSnZmwB_xkQcDCOrP1V] doc 的 [message] 字段的长度已超过 [1000000] - 允许分析突出显示的最大值。可以通过更改 [index.highlight.max_analyzed_offset] 索引级别设置来设置此最大值。对于大文本,建议使用偏移量或术语向量进行索引!
我在 Kibana 中收到上述错误。我使用 ELK 版本 7.2.0。答案/建议是最受欢迎的。
spring-boot - 将spring boot日志直接发送到logstash,没有文件
因此,我正在使用 Kubernetes 和 Spring Boot 构建一个完整的云解决方案。
我的 Spring Boot 应用程序部署到容器并直接在控制台上登录。由于容器是短暂的,我想将日志也发送到远程 logstash 服务器,以便它们可以被处理并发送到弹性。
通常我会在托管我的应用程序的服务器上安装一个 filebeat,我可以,但是没有任何内置方法可以让我避免在发送之前将日志写入文件吗?
目前我正在使用 log4j,但我认为切换到另一个记录器没有问题,只要它有一个“logbackappender”。
elasticsearch - ElasticSearch 如何处理包含 230m 条目的索引?
我正在查看 elasticsearch 并注意到您可以创建索引并批量添加项目。我目前有一系列包含 2.2 亿条目的平面文件。我正在使用 Logstash 来解析它们并将它们添加到 ElasticSearch,但我觉得它存在于 1 个索引下会很难查询。行数据最多不过1-3个属性。
在这种情况下,Elasticsearch 如何发挥作用?为了有效地查询这个索引,你是否只是向集群添加了额外的实例,它们将一起工作来处理集合?
我一直在浏览文档,它正在解释要做什么,但不一定总是解释它为什么要这样做。