我正在设置一个mysql服务器来存储一些数据,但意识到(在这个周末读了一点之后)我可能无法及时上传数据。
我基本上有多个服务器生成每日数据,然后将其发送到共享队列进行处理/分析。数据大约有 50 亿行(尽管它的数据非常小,一列中有一个 ID 号,另一列中有一个整数字典)。我看到的大多数性能报告都显示插入速度为 60 到 100k/秒,这需要 10 多个小时。我们需要非常快的数据,这样我们就可以在那天处理它,然后我们可能会丢弃它(或者将表实现到 S3 或其他东西)。
我能做些什么?我有 8 台服务器可供我使用(除了数据库服务器),我可以使用它们来加快上传速度吗?起初我正在考虑使用它们同时将数据推送到服务器,但我也在想也许我可以将数据加载到每个服务器上,然后以某种方式尝试将所有分离的数据合并到一个服务器中?
我打算将 mysql 与 innodb 一起使用(我可以使用它有帮助的任何其他设置)但它没有最终确定,所以如果 mysql 不起作用,还有其他东西可以吗(我以前使用过 hbase,但首先在寻找 mysql 解决方案万一我遇到的问题似乎被更广泛地使用并且更容易获得帮助)?