2

我正在寻找.net 分布式地图/减少框架。我打算将其用于实时数据查询并在多个节点上并行处理查询。我目前正在使用 WCF 进行 Web 层和应用层之间的通信。

例如,如果我有 5 个带有内存数据的节点。如果我将过滤器传递给 5 个节点。过滤器在节点拥有的数据块上执行,结果被还原为最终答案。

只是想知道是否已经有一个框架可以映射工作并减少结果。我看起来更像是风暴的雨云(Twitter 实时地图/减少)。由于许多并发症,不能使用 nimbus。而且 Zookeeper 的开销太大。

我正在尝试使用框架实现以下目标 1)将作业(主要是发送到所有可用节点的请求)映射到可用节点并减少结果。2) 在故障转移时,将作业映射到新节点。3) 管理集群。(如果节点已关闭,则将其从可用服务器列表中删除)

数据将在内存中,因此我不需要分布式文件系统。带有 WCF 作为底层通信的 .NET 将是理想的,但如果有其他框架(任何语言)请告诉我。

任何帮助(框架、代码项目、研究论文、实际代码:))将不胜感激。

4

1 回答 1

0

不确定您对 nimbus/zookeeper 的评论是什么意思,因为这些是管理组件。

Storm 听起来确实适合您的用例,但像 Hazelcast 这样的其他人也是如此。我需要有关您需求的更多信息,以查看哪些解决方案可能适合。

我想重要的问题之一是你对实时的意思。如果您只需要较短的响应时间并且需要处理大量数据,Hazelcast 可能会更好。如果您有非结构化数据需要解析/处理并快速提供给用户,那么 Storm 可能更适合。

于 2013-02-23T21:46:14.870 回答