2

我正在尝试使用 hdfs 接收器运行水槽。hdfs 在另一台机器上正常运行，我什至可以与水槽机器上的 hdfs 交互，但是当我运行水槽并向它发送事件时，我收到以下错误：

2013-05-26 14:22:11,399 (SinkRunner-PollingRunner-DefaultSinkProcessor) [WARN - org.apache.flume.sink.hdfs.HDFSEventSink.process(HDFSEventSink.java:456)] HDFS IO error
java.io.IOException: Callable timed out after 25000 ms
    at org.apache.flume.sink.hdfs.HDFSEventSink.callWithTimeout(HDFSEventSink.java:352)
    at org.apache.flume.sink.hdfs.HDFSEventSink.append(HDFSEventSink.java:727)
    at org.apache.flume.sink.hdfs.HDFSEventSink.process(HDFSEventSink.java:430)
    at org.apache.flume.sink.DefaultSinkProcessor.process(DefaultSinkProcessor.java:68)
    at org.apache.flume.SinkRunner$PollingRunner.run(SinkRunner.java:147)
    at java.lang.Thread.run(Thread.java:679)
Caused by: java.util.concurrent.TimeoutException
    at java.util.concurrent.FutureTask$Sync.innerGet(FutureTask.java:258)
    at java.util.concurrent.FutureTask.get(FutureTask.java:119)
    at org.apache.flume.sink.hdfs.HDFSEventSink.callWithTimeout(HDFSEventSink.java:345)
    ... 5 more

同样，连接性不是问题，因为我可以使用 hadoop 命令行与 hdfs 交互（水槽机器不是数据节点）。最奇怪的是，杀死水槽后，我可以看到 tmp 文件是在 hdfs 中创建的，但它是空的（并且 .tmp 扩展名仍然存在）。

关于为什么会发生这种情况的任何想法？非常感谢！

4

1 回答 1

2

检查 3 件事，如果您的防火墙已关闭，即应停止 iptables。其次，财产的价值agent.sinks.hdfs-sink.hdfs.path = hdfs://PUBLIC_IP:8020/user/hdfs/flume而不是私有IP。并更改 agent.sinks.hdfs-sink.hdfs.callTimeout = 180000，因为默认值为 10000 毫秒，这对于 HDFS 做出反应的时间非常短。

谢谢， 希尔帕

于 2017-01-06T23:57:06.237 回答