11

有些文件每天都会上传到 FTP 服务器，我需要 Google Cloud Storage 下的这些文件。我不想让上传文件的用户安装任何其他软件并让他们继续使用他们的 FTP 客户端。有没有办法将 GCS 用作 FTP 服务器？如果没有，我如何创建一个定期从 FTP 位置获取文件并将它们放入 GCS 的作业？换句话说：最好和最简单的方法是什么？

4

4 回答 4

12

您可以自己编写一个上传到 GCS 的 FTP 服务器，例如基于pyftpdlib

定义一个自定义处理程序，在收到文件时存储到 GCS

import os
from pyftpdlib.handlers import FTPHandler
from pyftpdlib.servers import FTPServer
from pyftpdlib.authorizers import DummyAuthorizer
from google.cloud import storage

class MyHandler:
    def on_file_received(self, file):
        storage_client = storage.Client()
        bucket = storage_client.get_bucket('your_gcs_bucket')
        blob = bucket.blob(file[5:]) # strip leading /tmp/
        blob.upload_from_filename(file)
        os.remove(file)
    def on_... # implement other events

def main():
    authorizer = DummyAuthorizer()
    authorizer.add_user('user', 'password', homedir='/tmp', perm='elradfmw')

    handler = MyHandler
    handler.authorizer = authorizer
    handler.masquerade_address = add.your.public.ip
    handler.passive_ports = range(60000, 60999)

    server = FTPServer(("127.0.0.1", 21), handler)
    server.serve_forever()

if __name__ == "__main__":
    main()

我已经在 Google Container Engine 上成功运行了它（它需要一些努力才能让被动 FTP 正常工作），但在 Compute Engine 上应该很简单。按照上面的配置，在防火墙上打开21端口和60000-60999端口。

要运行它，python my_ftp_server.py- 如果你想监听 21 端口，你需要 root 权限。

于 2017-04-19T11:09:27.503 回答
3

我已经使用 Google Compute 中的 VM 中的 gcsfs 成功设置了到 GCS 的 FTP 代理（jkff在对我的问题的评论中提到），并附有以下说明：http: //ilyapimenov.com/blog/2015/01/19/ ftp-proxy-to-gcs.html

但是需要进行一些更改：

一些可能的问题：

  • 如果本地ip可以访问FTP服务器，远程ip不能访问，可能是你没有设置防火墙规则
  • 如果你可以访问 ftp 服务器，但无法写入，可能是因为你需要 write_enable=YES
  • 如果您想阅读在 /mnt 上创建的文件夹，但出现 I/O 错误，可能是因为 gcsfs_config 中的存储桶不正确。

此外，您的 ftp 客户端需要使用设置为“被动”的传输模式。

于 2017-04-24T00:53:20.333 回答
3

您可以使用gsutil rsync或开源rclone 工具在 FTP 服务器和 Google Cloud Storage 之间设置 cron 和rsync。

如果您不能定期在 FTP 服务器上运行这些命令，您可以将 FTP 服务器挂载为本地文件系统或驱动器（Linux、Windows）

于 2017-04-21T20:48:45.797 回答
2

在谷歌云中设置一个虚拟机，使用一些 *nix 风格。在其上设置 ftp，并将其指向文件夹 abc。使用 google fuse 将 abc 挂载为 GCS 存储桶。瞧——在 gcs / ftp 之间来回切换，无需编写任何软件。（小字：如果你推送太多数据，保险丝会卷起来并死掉，所以定期反弹它，每周一次或每天一次；你可能需要设置挂载或保险丝以允许所有用户的权限）

于 2018-10-27T13:30:56.770 回答