问题标签 [s3cmd]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
1 回答
1770 浏览

amazon-s3 - 大于 5 GB 的文件的 S3 错误,通过 s3cmd 1.1.0 beta 上传

我正在使用 s3cmd 1.1.0beta 将大于 5 GB 的文件上传到 Amazon S3。这是因为早于 1.1.0 的 s3cmd 无法上传大于 5 GB 的文件(亚马逊单部分上传限制),而最新的 beta 版本能够使用多部分上传将这些文件上传到 S3。

问题是:我无法对通过 s3cmd 1.1.0 上传的大于 5 GB 的文件执行任何操作。我怀疑这可能是因为 s3cmd 设置的 Etag 与亚马逊期望的 Etag 不匹配:

具体问题如下(均通过web控制台):

  1. 当我尝试将这些文件从一个存储桶复制到另一个存储桶时,Amazon S3 抱怨:“由于来自以下的错误,以下对象未被复制:”
  2. 当我尝试更改这些文件的任何属性时,S3 抱怨:“由于以下对象的错误,未启用或禁用附加属性:”

有什么方法可以修复大于 5 GB 文件中的 Etag,以便我能够对这些文件执行操作?

0 投票
3 回答
8728 浏览

amazon-s3 - 备份到 S3:符号链接

我现在正试图弄清楚如何将一些数据备份到 S3。

我们有一个使用 rsnapshot 实现的本地备份系统,并且运行良好。我们正在尝试使用带有 --sync 选项的 s3cmd 来模仿 rsync 来传输文件。

我们遇到的问题是符号链接不是作为符号链接创建的,它似乎是将它们解析为物理文件并上传。有人对为什么会发生这种情况有任何建议吗?

我想知道我是否遗漏了一些明显的东西,或者 S3 不适合这种操作。我可以设置一个 EC2 实例并附加一些 EBS,但最好使用 S3。

0 投票
2 回答
1295 浏览

amazon-s3 - 从 PHP 脚本运行 S3cmd 不起作用

我想s3cmd从我的 PHP 脚本中使用。一切都在 shell 中工作,但在我的 PHP 脚本中同样不起作用。

这不起作用,然后我给出了我的 s3cmd 安装的完整路径

不适用于 PHP 脚本,但同样适用于命令,

调用 shell_exec 的 PHP 文件位于 webroot 中。

可能是 s3cmd 被配置为 root 用户并且我从 www-data 的 PHP 运行的问题。如果这是问题,我该如何为 www-data 创建配置文件。

帮助我做错了什么。

谢谢

编辑 我正在使用 S3cmd。在我的 cron 脚本中运行命令。cron 脚本是一个 PHP 脚本。运行 cron 的用户是 web11,s3cmd 是使用 root 用户配置的。

因此,当我在 PHP 脚本中使用 shell_exec() 运行 s3cmd 时,它失败了。但是当我在 shell 中运行时,它工作正常。

s3cmd ls

这工作正常。因为我使用root用户登录。

我尝试使用 runuser 命令运行它

运行用户 -l root -c "s3cmd ls"

这工作正常并显示存储桶列表。但是当我使用

运行用户 -l root -c "s3cmd ls"

这不起作用。我尝试给出 s3cmd 的完整路径

/usr/bin/s3cmd ls

这适用于 shell,但不适用于我的 PHP 脚本。

我更改了 php 脚本的权限 777 并使 root 成为该用户的所有者。但仍然无法正常工作。

我如何从 PHP 脚本运行 s3cmd。? 我在亚马逊 Ec2 实例上。

0 投票
2 回答
1354 浏览

macos - Rackspace Cloud Files 是否有与 Amazon S3 的 s3cmd 同步的等效项?

我目前正在使用 Amazon S3 在我的网站上托管所有静态内容。该站点有很多静态文件,因此我需要一种自动方式将本地主机上的文件与远程文件同步。我目前使用 s3cmd 的同步功能来执行此操作,效果非常好。每当我运行部署脚本时,只会上传已更改的文件,并且已删除的所有文件也会在 S3 中删除。

我想试试 Rackspace CloudFiles;但是,我似乎找不到任何提供相同功能的东西。除了编写我自己的同步实用程序之外,还有什么方法可以在 Rackspace Cloud Files 上完成此任务?它需要有一个命令行界面并且可以在 OS X 上运行。

0 投票
2 回答
3087 浏览

amazon-s3 - S3cmd 同步返回“已终止”

我正在尝试在亚马逊 S3 上同步一些大存储桶。

当我运行我的 S3cmd sync --recursive 命令时,我得到一个回复​​说“被杀死”。

有谁知道这可能指的是什么?可以在 S3 中同步的文件数量是否有限制?

谢谢你的帮助

0 投票
1 回答
740 浏览

ruby-on-rails - S3cmd 在 ubuntu 中不起作用

我已经在我的机器上安装了 s3cmd,它是 ubuntu 11.10,当我尝试从 s3 下载一些数据时,它给了我这个错误,我还使用我拥有的访问密钥配置了 s3cmd(.s3cfg 文件在主文件夹中)

0 投票
1 回答
189 浏览

amazon-s3 - AWS EC2 S3 和数千个目录,每个 s3cmd 中有几个文件

我在非 AWS VPS 上有数以万计的目录,每个目录中都有几个文件(大约 1TB 的数据)。我想将它们全部移至 S3。

我可以将它们压缩成 7GB 的块,移动(wget 或其他)到 EC2(8GB Ubuntu),解压缩并将它们 s3cmd 到 S3。

或者

使用 s3cmd 同步目录从我的 VPS 直接进入 S3?

哪种方法最适合性能和可靠性?

谢谢

0 投票
1 回答
3652 浏览

shell - s3cmd Amazon s3 仅更新元数据

我在 S3 上有几 GB 的文件,我需要为所有这些文件批量更新元数据。我知道 s3cmd 可以在传输文件时更新元数据:

s3cmd -m text/html --add-header='Content-Encoding: gzip' put [files] s3://...

但是我不想将文件重新传输到 S3。s3cmd 可以更新密钥的元数据而不传输文件吗?

0 投票
1 回答
879 浏览

amazon-s3 - 来自 s3cmd 的 POST 或 PUSH 操作在某个 Internet 连接上失败

我目前正在自动化构建脚本以将资源推送到 Amazon s3 并使用http://s3tools.org/s3cmd(和https://github.com/s3tools/s3cmd),我理解这是正常/主命令行使用的工具。没什么太复杂的,而且我在办公室外完成了大部分测试,但是一旦我进入那里,整个事情就开始分崩离析,我很困惑为什么。

一个简单的命令,例如('mybucket' 存在于 s3 上,'file.ext' 存在于我运行命令的目录中),

都失败了

或者

我知道 s3 存在超过 5GB 大小的文件的问题,但这些文件远不及这个,它们小于 1MB,更不用说超过 1GB。真正奇怪的是,另一个程序http://www.bucketexplorer.com/运行良好,在同一个网络上执行完全相同的操作。

奇怪的是测试所有内容,我将笔记本电脑连接到手机的 3G 连接,立即一切正常,当我回到家,再次测试命令时,它再次完美运行。

关于使用 s3cmd 而不是 Bucket Explorer 在我们的工作网络上可能导致此错误的任何想法?

0 投票
1 回答
1002 浏览

shell - 如何使用用户数据将文件从 EC2 传递到 S3 和 S3 到 EC2

下面的代码是为使用用户数据创建新 AWS EC2 实例而创建的 shell 脚本文件。

在这段代码中,它创建新实例并执行 cd /home 并创建以 pravin 命名的目录。

但之后它既不会从 s3 下载文件,也不会上传到 S3。

该代码有什么问题(s3cmd 获取和放置代码)。

用于此的 AMI 预先配置了 AWS EC2 命令行 API 和 s3cmd。