2

我创建了一个简单的 erlang 应用程序，它定期收集所需的数据并将其放入 riak 数据库中。

当我启动我的应用程序时，它运行顺利.. 但是一段时间后它卡住了，因为对 riak 数据库的 PUT 请求变得太慢了.. 它是来自我的应用程序的日志：

2013-06-26 12:44:09.090 [info] <0.60.0> data processed in [16476 ms]
2013-06-26 12:45:51.472 [info] <0.60.0> data processed in [18793 ms]
...
2013-06-26 12:57:28.138 [info] <0.60.0> data processed in [15135 ms]
2013-06-26 13:07:01.484 [info] <0.60.0> data processed in [488420 ms]
2013-06-26 14:03:11.561 [info] <0.60.0> data processed in [3370075 ms]

在 riak 崩溃日志中，我可以看到很多消息，例如

2013-06-26 17:06:20 =CRASH REPORT====
crasher:
initial call: riak_kv_index_hashtree:init/1
pid: <0.13660.7>
registered_name: []
exception exit: {{{badmatch,{error,{db_open,"IO error: ./data/anti_entropy/
    433883298582611803841718934712646521460354973696/MANIFEST-000004: 
    Cannot allocate memory"}}}, [{hashtree,new_segment_store,2,
    [{file,"src/hashtree.erl"},{line,499}]},
    {hashtree,new,2,[{file,"src/hashtree.erl"},{line,215}]},
    {riak_kv_index_hashtree,do_new_tree,2,
    [{file,"src/riak_kv_index_hashtree.erl"},
    {line,426}]},{lists,foldl,3,[{file,"lists.erl"},
    {line,1197}]},{riak_kv_index_hashtree,
    init_trees,2,[{file,"src/riak_kv_index_hashtree.erl"},
    {line,368}]},{riak_kv_index_hashtree,init,1,
    [{file,"src/riak_kv_index_hashtree.erl"},
    {line,225}]},{gen_server,init_it,6,[{file,"gen_server.erl"},{line,304}]},
    {proc_lib,init_p_do_apply,3,[{file,"proc_lib.erl"},{line,227}]}]},
    [{gen_server,init_it,6,[{file,"gen_server.erl"},{line,328}]},
    {proc_lib,init_p_do_apply,3,[{file,"proc_lib.erl"},{line,227}]}]}
ancestors: [<0.955.0>,riak_core_vnode_sup,riak_core_sup,<0.129.0>]
messages: []
links: []
dictionary: []
trap_exit: false
status: running
heap_size: 1597
stack_size: 24
reductions: 593
neighbours:

我可以在 Amazon AWS 和本地虚拟机上看到相同的行为。我的虚拟机很小，只有 512-1024 mb。AWS 是 Micro，所以它有相同的内存量。

目前没有集群。只是带有 Riak 和我的应用程序在其上运行的单个节点。

我检查了 riak 文档，他们建议做的基本事情是增加 ulimit 并更新 sysctl。因此，我的服务器 ulimit 显示： ulimit -n 65536 AND sysctl 按照建议更新。

我试过bitcask和eleveldb，但结果是一样的。

目前，我无法弄清楚发生了什么问题以及为什么 riak 无法分配内存.. 谢谢。

4

1 回答 1

7

1GB RAM 对于 Riak 节点来说是相当小的，而且当你在那里运行你的应用程序时更是如此。Riak 中的默认设置针对的是具有更多 RAM 和处理能力的环境，因此您需要调整默认设置才能使其正常工作。以下是一些可能会有所帮助的建议：

  1. 由于您只有一个节点，请通过设置 {anti_entropy, {off, []}}禁用 AAE 。
  2. 减小戒指尺寸。这将限制您向外扩展的能力，但很可能需要它才能使其正常工作。一个合适的起始值可能是 16，但也可能低至 8。
  3. 更改默认存储桶属性，以便将n_val、r、w、dw和rw全部设置为 1，否则您会将每条记录的多个副本写入磁盘。当您向外扩展并添加更多节点时，这些将需要增加。
  4. 由于 bitcask 要求所有密钥都保存在内存中，因此使用leveldb作为后端可能是个好主意。但是，您很可能需要显着减小写入缓冲区和缓存的大小。您可能需要尝试找到合适的级别。
  5. 由于这个环境很可能太小而无法在任何情况下运行 mapreduce，您还可以将map_js_vm_count和reduce_js_vm_count配置参数设置为 0，以节省一些额外的内存。
于 2013-06-27T18:38:46.923 回答