2

我正在尝试在我的 logstash 配置中使用 grok mutateclone将日志拆分为两个事件。我的堆栈是一个非常标准的ELK(Elasticsearch、Logstash、Kibana)。

我正在创建一个格式如下的日志:

timestamp float integer

例如 :

2015/01/19 21:48:12 24.7 32
2015/01/19 22:00:20 24.7 32
2015/01/19 22:01:11 24.7 32
2015/01/19 22:01:58 24.7 28
2015/01/19 22:02:28 23.7 28
(etc ...)

最终,我想要logstash中的两个事件,一个timestamp显然带有键,另一个带有相同的时间戳type=sensorA和and 。value=%{the value of the integer}value=%{value of the float}type=sensorB

到目前为止,我已经在以下配置中提供了此配置logstash.conf

1.我的日志type=sensor在我的输入中被标记:

  input {
    file {
      path => "/var/log/sensors.log"
      type => "sensor"
    }
  }

2.然后,我使用 grok、clone 和 mutate 来尝试拆分它们

if [type] == "sensor" {
  # Extracts the values
  grok { 
    match => { "message" => "(?<timestamp>%{YEAR}/%{MONTHNUM:month}/%{MONTHDAY:day} %{TIME}) %{NUMBER:sensorA:float} %{NUMBER:sensorB:int}" }
  }
  mutate {
    update => [ "type", "sensorA" ]
  }
  # Clones the event
  clone {
    clones => ["sensorB"]
  }
}
# So now I should have two events, 
# one with type sensorA and one with type sensorB, no ? :
if [type] == "sensorA" {
  mutate {
    add_field => { "value" => "%{sensorA}" }
    convert => ["value", "float"]
  }
}
if [type] == "sensorB" {
  mutate {
    add_field => { "value" => "%{sensorB}" }
    convert => ["value", "integer"]
  }
}

但这并没有真正起作用,因为即使我得到两个不同类型的事件,它们都具有相同的值(始终是 sensorB 的值)。

怎么会 ?我有一种感觉,logstash.conf 文件并没有真正以线性方式读取,但我找不到任何解决方案。

有什么提示吗?我在这里错过了一些非常明显的东西吗?非常感谢

4

1 回答 1

2

value您可以使用ruby插件来完成您需要的操作,而不是使用 mutate 将值转换为字段。

if [type] == "sensor" {
    # Extracts the values
    grok {
        match => { "message" => "(?<timestamp>%{YEAR}/%{MONTHNUM:month}/%{MONTHDAY:day} %{TIME}) %{NUMBER:sensorA:float} %{NUMBER:sensorB:int}" }
    }
    mutate {
        update => [ "type", "sensorA" ]
    }
    # Clones the event
    clone {
        clones => ["sensorB"]
    }
}
# So now I should have two events,
# one with type sensorA and one with type sensorB, no ? :
ruby {
    code => "
        if event['type'] == 'sensorA'
                event['value'] = event['sensorA']
        elsif event['type'] == 'sensorB'
                event['value'] = event['sensorB']
        end
    "
}

有了这个配置,我可以满足你的要求。希望这可以帮到你 :)

于 2015-01-22T01:11:16.330 回答