0

我已经设置了一个 Kestrel 服务器，并且能够通过 python pykestrel库设置和使用队列。

我们有一个场景，python 客户端写入 Kestrel 队列，Storm spout 需要从队列中读取。我尝试使用storm-kestrel 库，但遇到了问题。谷歌搜索似乎表明它不支持 memcache 端口（22133）。

我添加了此处提供的 Maven 绑定。没有使用 KestrelThriftSpout 喷口，而是使用 Kestrel.Client。编译很好，但在运行时出现 java.lang.NoClassDefFoundError 错误。

堆栈跟踪

1098 [main] ERROR org.apache.zookeeper.server.NIOServerCnxn  - Thread Thread[main,5,main] died
java.lang.NoClassDefFoundError: Lnet/lag/kestrel/thrift/Kestrel$Client;
    at java.lang.Class.getDeclaredFields0(Native Method)
    at java.lang.Class.privateGetDeclaredFields(Class.java:2397)
    at java.lang.Class.getDeclaredField(Class.java:1946)
    at java.io.ObjectStreamClass.getDeclaredSUID(ObjectStreamClass.java:1659)
    at java.io.ObjectStreamClass.access$700(ObjectStreamClass.java:72)
    at java.io.ObjectStreamClass$2.run(ObjectStreamClass.java:480)
    at java.io.ObjectStreamClass$2.run(ObjectStreamClass.java:468)
    at java.security.AccessController.doPrivileged(Native Method)
    at java.io.ObjectStreamClass.<init>(ObjectStreamClass.java:468)
    at java.io.ObjectStreamClass.lookup(ObjectStreamClass.java:365)
    at java.io.ObjectOutputStream.writeObject0(ObjectOutputStream.java:1133)
    at java.io.ObjectOutputStream.writeObject(ObjectOutputStream.java:347)
    at backtype.storm.utils.Utils.serialize(Utils.java:52)
    at backtype.storm.topology.TopologyBuilder.createTopology(TopologyBuilder.java:94)
    at com.rr.storm.ArticleTolopolgy.main(ArticleTolopolgy.java:35)
Caused by: java.lang.ClassNotFoundException: net.lag.kestrel.thrift.Kestrel$Client
    at java.net.URLClassLoader$1.run(URLClassLoader.java:366)
    at java.net.URLClassLoader$1.run(URLClassLoader.java:355)
    at java.security.AccessController.doPrivileged(Native Method)
    at java.net.URLClassLoader.findClass(URLClassLoader.java:354)
    at java.lang.ClassLoader.loadClass(ClassLoader.java:425)
    at sun.misc.Launcher$AppClassLoader.loadClass(Launcher.java:308)
    at java.lang.ClassLoader.loadClass(ClassLoader.java:358)
    ... 15 more

有人可以确认storm-kestrel是否可以在这种情况下使用吗？

如果没有，是否有另一个 kestrel 客户端库建议在风暴喷口中用于从 kestrel 队列中读取数据？

4

1 回答 1

1

抱歉更新晚了。

  • java.lang.NoClassDefFoundError 是因为一些 JAR 不在类路径中。涉及多个依赖项，因此我们通过将所有依赖项打包到一个 JAR 中来解决问题。有几个依赖冲突需要解决，尤其是。一个令人讨厌的涉及 AWS SQS 和风暴取决于不同的 httpclient 库。在发布时需要将 AWS SQS Java 开发工具包版本降级到 1.4.7，而不是最新的 1.7.2。

  • 它看起来不像风暴红隼库不再与kestrel 服务器一起使用，但如果理解错误，其他人可以纠正。

  • 将 pykestrel用于Python 客户端，效果很好。

  • 将 simple-kestrel-client用于Java kestrel 客户端（Storm spout），效果很好

  • 由于冲突，使用了适用于 AWS SQS 的 Java SDK v1.4.7 ，效果很好。

于 2014-03-07T04:34:01.653 回答