问题标签 [s3ql]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
3319 浏览

ubuntu - 如何创建一个 s3ql 文件系统并在启动时自动挂载它?

我一直在 Ubuntu 10.04 上试验s3ql,用它来挂载 Amazon S3 存储桶。但是,我真的很想自动挂载它们。有谁知道这是怎么做到的吗?


解决方案:

感谢 s3ql 的Nikratio的帮助,我终于能够在系统启动时自动安装 S3 存储桶。您肯定会想看一下手册,但这里有一些基本的操作方法!

第一步是创建一个 authinfo 文件。该文件应放置在将要使用它的用户主目录中的 .s3ql 目录中。authinfo 文件包含允许 s3ql 在不提示的情况下挂载存储桶的登录信息。下面是您的 authinfo 文件应该是什么样子的示例。第一行包含您的 Amazon 安全凭证。第二个包含存储桶的位置和密码。如果需要,您可以向此文件添加多个存储桶行,但我在此示例中仅使用一个。此时,桶密码可以是任何东西。

存储桶名称必须是唯一的。没有两个用户可以拥有相同的存储桶名称,因此最好登录 Amazon Web Services 并尝试不同的名称,直到找到可用的名称。一旦你找到了,你需要删除它,因为 s3ql 在创建你的 s3ql 文件系统时会重新创建它。如果存储桶已存在,您将收到错误消息。

要创建文件系统,请使用以下命令:

它将提示您输入加密密码。这应该与 authinfo 文件中的存储桶密码相同。

现在您的文件系统已创建,您可以使用以下命令挂载它:

当然,您的存储桶名称和挂载点会有所不同。

现在,如果我们想在启动时自动挂载这个存储桶,我们需要在 /etc/init.d 中添加一个 upstart 脚本。幸运的是,s3ql 附带了一个 s3ql.conf。

我在 mount.s3ql 命令中添加了“--allow-other”,以允许 root 以外的用户访问挂载的存储桶。

添加此脚本后,理论上您应该能够重新启动并自动挂载您的存储桶,但这是我遇到的麻烦。我的没有安装。

我的问题是由于 upstart 以 root 身份运行脚本,但我以另一个用户身份创建了文件系统。一旦我从我登录到 /root 的用户的主目录复制了 .s3ql 目录,问题就解决了。

我希望这对其他人有帮助。虽然我已经很久没有使用我安装的 S3 存储桶了,但我对我的初始测试的进展印象深刻。

此外,这个答案是在找到解决方案大约一周后写的。我想我已经涵盖了所有内容,但是如果您发现我错过了一步,请告诉我,我会添加它。您还需要阅读手册,如果您打算使用 s3ql,它真的值得一读。

0 投票
1 回答
1553 浏览

postgresql - PostgreSQL 和 S3QL 用于存储/访问大量数据

我们目前在 Amazon 的 EC2 上使用 Postgres 9,对性能非常满意。现在我们正在考虑向 Postgres 添加约 2TB 的数据,这比我们的 EC2 小型实例可以容纳的要大。

我找到了 S3QL,并正在考虑将它与将 Postgres 数据目录移动到 S3 存储一起使用。有没有人有这样做的经验?我主要关心性能(频繁读取,写入频率较低)。欢迎任何建议,谢谢。

0 投票
1 回答
166 浏览

ubuntu - 如何使用 S3QL 在 aws s3 中列出对象

我正在按照本教程 [http://ubuntuservergui.com/ubuntu-server-guide/mount-s3-ubuntu-server] 安装我的 s3 存储桶,设置已经完成,但我不知道如何列出对象和还要别的吗。

在命令行我做 cd /mnt/s3

我只找到了丢失+找到的文件

任何人都可以帮助我吗?

0 投票
1 回答
134 浏览

fiware - 使用 FIWARE Object Storage GE (Openstack Swift) 设置 S3QL

我正在尝试使用 Object Storage GE 设置 S3QL,但似乎只缺少一条信息。

由于这个非常好的教程,我成功安装了 S3QL:https ://dmsimard.com/2014/09/29/s3ql-a-filesystem-over-http-with-swift/

现在,当我尝试挂载我在区域“Lannion2”中创建的对象容器“测试”时,我被卡住了。

URL 语法需要定义一个“区域”(swiftks://<hostname>[:<port>]/<region>:<container>),但我不知道它是如何映射到固件堆栈的。尝试以下命令时,s3ql 似乎可以成功连接 Keystone 并进行身份验证,但找不到该区域。

结果是:

不幸的是,响应中没有列出可用的地区。身份验证正常工作,因为输入错误的登录名或密码会导致身份验证错误。

有没有关于 keystone/fiware 云中区域命名的文档?

0 投票
0 回答
361 浏览

amazon-web-services - Ubuntu 16.04 - 在引导中挂载 S3 卷

我正在尝试使用 S3QL 在 Ubuntu 16.04 上使用 systemd 在启动时安装 AWS S3 卷。截至目前,我可以使用 mount.s3ql 手动成功挂载卷。

我还创建了一个 systemd serverice (s3ql.service) 并运行以下命令将挂载该卷:

重启后我得到

所以对我来说,看起来服务已加载,但已“完成”并停止。卷未安装。/etc/systemd/system/s3ql.service 的内容

我的假设是该语法有问题。

干杯JJ

0 投票
1 回答
4475 浏览

docker - 通过卷共享安装在 docker 容器中的 FUSE FS

我创建了一个 docker 容器,在其中安装了一个 fuse S3QL FS。这是有效的。

现在我希望能够与主机或其他容器共享这个挂载点,但它不起作用。

简而言之,我以这种方式运行容器:

docker exec myContainer ls /s3ql显示实际的 S3QL 内容,但/s3ql主机上为空。

关于我到目前为止在我的回购中所做的更多细节:https ://gitlab.com/Salokyn/docker-s3ql

你认为有可能做到这一点吗?

0 投票
0 回答
12 浏览

s3ql - s3ql 挂载的文件系统大小错误

我尝试了不同的解决方案来挂载 s3 文件系统。s3fs 非常不稳定,现在我使用 s3ql,它运行起来又快又好,但是挂载的文件系统的大小错误。知道出了什么问题吗?S3 存储目前有 300TB,挂载的文件系统只有 1TB。我跑了:

这是否意味着 s3ql 文件系统有一个独立于实际大小的固定大小,如果我们想扩展存储,是否意味着我们必须从头开始重新创建它?或者有没有办法增加(或减少)尺寸?

我在文档中找到了这个:

为什么 df 显示 1 TB 的可用空间?¶ S3QL 的文件系统大小是无限的。但是,大多数 Unix 实用程序(包括 df)没有无限大小的概念,因此 S3QL 必须提供一些数值。因此,S3QL 总是报告文件系统有 50% 可用,但它也报告至少 1 TB。这意味着,如果您存储 1.5 TB,您将有另外 1.5 TB 可用空间,但如果您仅存储 2 MB,您仍将有 TB 可用空间,而不仅仅是另外 2 MB。

我认为这解释了一切,但仅供参考,我将其留在这里。

0 投票
1 回答
8 浏览

s3ql - 如何限制 s3ql 的缓存目录大小?

我使用 s3ql 安装了一个远程 S3 兼容文件系统,并提供了一个缓存目录名称。它工作得很好,但是,缓存目录在我的本地机器上使用了越来越多的空间。有没有办法限制缓存目录中内容的大小?我现在是 256GB。如何将其限制为例如 100GB?