6

Loggly 每秒可以处理多少个来自客户端的请求?我每秒只能处理大约 10-20 个请求,我想知道这是否正常。

4

3 回答 3

10

我刚刚运行了一堆测试,发现它不能真正通过使用 syslog-ng 的 tcp 连接来处理很多事情。

这是我的测试结果,供任何想尝试的人使用。为此,我使用了 balabit 的“loggen”程序,并将 200 字节的消息发送到 loggly 分配给我的 tcp 端口。请注意,尽管 syslog RFC(至少 3164)声明日志消息不应超过 1024 字节,但为了公平起见,我使用 200 字节数据包,因为许多消息都那么小。

注册了一个免费帐户。为测试配置了一个 TCP 连接。尝试发送各种金额,结果:

测试 1:失败

loggen -iS -r 6000  -s 200 -I 100 logs.loggly.com 16225
Send error Broken pipe, results may be skewed.      
average rate = 1392.13 msg/sec, count=18296, time=13.142, (average) msg size=200, bandwidth=271.74 kB/sec

测试 2:失败

loggen -iS -r 4000  -s 200 -I 100 logs.loggly.com 16225 
Send error Broken pipe, results may be skewed.       
average rate = 2767.16 msg/sec, count=121146, time=43.779, (average) msg size=200, bandwidth=540.15 kB/sec

测试 3:失败

loggen -iS -r 2500  -s 200 -I 100 logs.loggly.com 16225  
Send error Broken pipe, results may be skewed.      
average rate = 1931.27 msg/sec, count=85878, time=44.467, (average) msg size=200, bandwidth=376.98 kB/sec

测试 4:失败

loggen -iS -r 2000  -s 200 -I 100 logs.loggly.com 16225    
Send error Broken pipe, results may be skewed.      
average rate = 1617.72 msg/sec, count=83134, time=51.389, (average) msg size=200, bandwidth=315.78 kB/sec

测试 5:失败

loggen -iS -r 1000  -s 200 -I 100 logs.loggly.com 16225 
Send error Broken pipe, results may be skewed.      
average rate = 936.50 msg/sec, count=63331, time=67.624, (average) msg size=200, bandwidth=182.81 kB/sec

测试 6:通过配置的持续时间,失败 > 100 秒 - 参见测试 7

loggen -iS -r 500  -s 200 -I 100 logs.loggly.com 16225  
average rate = 325.00 msg/sec, count=32501, time=100.001, (average) msg size=200, bandwidth=63.44 kB/sec

测试 7:失败 - 以更长的时间在 500 EPS 下运行新测试,管道在 255 秒后破裂:

loggen -iS -r 500  -s 200 -I 10000 logs.loggly.com 16225
Send error Broken pipe, results may be skewed.     
average rate = 323.35 msg/sec, count=82642, time=255.577, (average) msg size=200, bandwidth=63.12 kB/sec

测试 8:失败(以 200 EPS 运行更长时间,但仍然失败)

loggen -iS -r 200  -s 200 -I 10000 logs.loggly.com 16225 
Send error Broken pipe, results may be skewed.      
average rate = 163.53 msg/sec, count=234090, time=1431.470, (average) msg size=200, bandwidth=31.92 kB/sec

测试 9:失败(再次,运行时间更长但仍然失败)

loggen -iS -r 50  -s 200 -I 10000 logs.loggly.com 16225    
Send error Broken pipe, results may be skewed.    
average rate = 47.36 msg/sec, count=89325, time=1886.014, (average) msg size=200, bandwidth=9.25 kB/sec

测试 10:失败?(结果相同,但又失去了联系。很难相信他们不能处理 10 eps?)

loggen -iS -r 10  -s 200 -I 10000 logs.loggly.com 16225 
Send error Broken pipe, results may be skewed.  
average rate = 9.94 msg/sec, count=1568, time=157.770, (average) msg size=200, bandwidth=1.94 kB/sec

是否进行了一些网络搜索以查看 loggly 实际可以做什么,但只有营销材料说它是可扩展的,而不是它的可扩展性。我确实找到了这个: http: //twitter.com/jordansissel/status/5948244626509824 每秒只有 22 个事件……</p>

完全披露:我是 LogZilla 的创始人,所以我正在测试竞争对手,因为我们正在推出基于云的 syslog 解决方案。我的测试表明,我们的软件每秒能够处理 2,000 到 12,000 个事件,具体取决于我们在云中使用的服务器。

于 2012-12-04T01:42:50.410 回答
2

我真的不知道,但我一直在寻找 node.js 的日志记录解决方案,但没有运气。

为什么?

因为我检查过的所有(没有检查所有)都在使用同步磁盘写入!......这完全降低了性能。

所以如果你问我——你应该重新考虑你的需求,只记录你真正需要的东西。

于 2012-10-23T10:54:37.300 回答
-1

我进行了类似于Clayton answer中的测试,因为他的结果让我担心如果我同时发送太多消息, Loggly会丢弃消息。我想看看克莱顿在 2012 年遇到的问题今天是否仍然存在。

也就是说,这是我发现运行 loggen 60 秒每秒生成 100,000 条消息的结果。

$ loggen -iS -r 100000 -s 200 -I 60 logs-01.loggly.com port
average rate = 34885.98 msg/sec, count=2093163, time=60.000, (average) msg size=200, bandwidth=6809.74 kB/sec

我也很好奇一些竞争对手会为类似的测试返回什么,我发现了以下内容:

纸迹

loggen -iS -D -r 100000 -s 200 -I 60 logs2.papertrailapp.com PORT
average rate = 24344.71 msg/sec, count=1461327, time=60.026, (average) msg size=200, bandwidth=4752.09 kB/sec

日志

$ loggen -iS -D -r 100000 -s 200 -I 60 api.logentries.com PORT
average rate = 14076.76 msg/sec, count=844609, time=60.000, (average) msg size=200, bandwidth=2747.78 kB/sec

显然,这些并不是随着系统随时间变化而始终不变的硬数字。这只是为我们提供了一个时间点参考,说明他们在我运行测试时如何响应。您的里程会有所不同!

更新:我对 Loggly 进行了更长的(近 3 小时)测试并收到以下信息:

loggen -iS -r 100000 -s 200 -I 10000 logs-01.loggly.com port 
average rate = 15869.22 msg/sec, count=158692177, time=10000.000, (average) msg size=200, bandwidth=3097.67 kB/sec
于 2015-01-22T18:27:45.673 回答