cassandra - Cassandra 在高 IOPS 运行 5 分钟后抛出 NoHostAvailableException

Question

我正在使用 datastax cassandra 2.1 驱动程序并以约 8000 IOPS 的速率执行读/写操作。我使用池选项来配置我的会话，并使用单独的会话进行读取和写入，每个会话都连接到集群中的不同节点作为联系点。这可以正常工作 5 分钟，但之后我得到了很多异常，例如：

失败：com.datastax.driver.core.exceptions.NoHostAvailableException：所有主机尝试查询失败（尝试：/10.0.1.123:9042（com.datastax.driver.core.TransportException：[/10.0.1.123： 9042] 连接已关闭），/10.0.1.56:9042（com.datastax.driver.core.exceptions.DriverException：尝试获取可用连接时超时（您可能希望增加每个主机连接的驱动程序数量）） )

任何人都可以在这里帮助我解决可能的问题吗？

异常要求我增加每台主机的连接数，但我可以为这个参数设置多高的值？此外，我无法设置CoreConnectionsPerHost超过 2，因为它会抛出异常，说 2 是最大值。

这就是我创建每个读/写会话的方式。

   PoolingOptions poolingOpts = new PoolingOptions();
           poolingOpts.setCoreConnectionsPerHost(HostDistance.REMOTE, 2);
           poolingOpts.setMaxConnectionsPerHost(HostDistance.REMOTE, 200);
           poolingOpts.setMaxSimultaneousRequestsPerConnectionThreshold(HostDistance.REMOTE, 128);
           poolingOpts.setMinSimultaneousRequestsPerConnectionThreshold(HostDistance.REMOTE, 2);
           cluster = Cluster
             .builder()
             .withPoolingOptions( poolingOpts )
             .addContactPoint(ip)
             .withRetryPolicy( DowngradingConsistencyRetryPolicy.INSTANCE )
             .withReconnectionPolicy( new ConstantReconnectionPolicy( 100L ) ).build();
           Session s =  cluster.connect(keySpace);

score 6 · Accepted Answer

您的问题实际上可能不在您的代码或您的连接方式中。如果您说问题在几分钟后发生，那么可能只是您的集群在尝试处理数据摄取时变得超载而无法跟上。这种情况的典型迹象是，当您开始在 cassandra system.log 文件中看到 JVM 垃圾收集“GC”消息时，太多的小消息单独与大消息一起批处理可能意味着传入的客户端没有响应导致这种设想。在开始查看代码之前，请先确认您的日志中没有显示太多此类事件。这是大型 GC 事件的一个很好的示例：

INFO [ScheduledTasks:1] 2014-05-15 23:19:49,678 GCInspector.java (line 116) GC for ConcurrentMarkSweep: 2896 ms for 2 collections, 310563800 used; 最大值为 8375238656

连接到集群时有一些建议，其中之一是每个真实集群只有一个集群对象。根据我在下面链接的文章（如果您已经研究过，请道歉）：