我们将审计日志存储在 GCS 存储桶中。我们希望在需要时(不定期)使用 filebeat 将它们摄取到 Elasticsearch。我已经检查了 S3 选项,它让我们使用 s3 like storages 作为输入,使用providers。
我正在使用以下配置,但它没有写入任何数据,但是当我测试 filebeat 配置时它很好,但是输入停止工作。
这是来自日志的警告
WARN [aws-s3] awss3/config.go:54 neither queue_url nor bucket_arn were provided, input aws-s3 will stop
INFO [crawler] beater/crawler.go:141 Starting input (ID: 17738867761700079737)
INFO [crawler] beater/crawler.go:108 Loading and starting Inputs completed. Enabled inputs: 1
INFO [input.aws-s3] compat/compat.go:111 Input aws-s3 starting {"id": "F62D1E3EA5C30879"}
INFO [input.aws-s3] compat/compat.go:124 Input 'aws-s3' stopped {"id": "F62D1E3EA5C30879"}
我怀疑我的输入配置在某种程度上是不正确的。请检查以下内容并帮助我了解问题所在
filebeat.inputs:
- type: aws-s3
non_aws_bucket_name: test-bucket
number_of_workers: 5
bucket_list_interval: 300s
access_key_id: xxxxx
secret_access_key: xxxxxxxx
endpoint: https://storage.googleapis.com
output.elasticsearch:
hosts: "https://es-test-xxx.aivencloud.com"
username: "avnadmin"
password: "xxxxx"
indices:
- index: 'restore-test'