问题标签 [large-file-upload]

For questions regarding programming in ECMAScript (JavaScript/JS) and its various dialects/implementations (excluding ActionScript). Note JavaScript is NOT the same as Java! Please include all relevant tags on your question; e.g., [node.js], [jquery], [json], [reactjs], [angular], [ember.js], [vue.js], [typescript], [svelte], etc.

0 投票
0 回答
88 浏览

php - 未找到 Amazon S3 PHP SDK MultipartUploader 类

我可以使以下代码正常工作:

但是,当我尝试创建一个可用于我的所有脚本的 Multiuploader 通用方法时,我收到以下错误:

例如,我正在尝试做这样的事情,但它给出了上述错误!

functions.php 看起来像这样:

我假设它是一个范围的事情,但此刻我对我做错了什么感到困惑......

0 投票
0 回答
17 浏览

html - 将大文件从 html 上传到 nodejs 后端服务

从我到目前为止的所有研究中,我得出的结论是,要上传大文件,我们必须将文件分成块并为每个块向后端服务发出多个 HTTP 请求,后端服务将负责收集所有这些块并附加它们到一个文件。

我的问题是,是否有必要进行多个 http 请求?这不能通过 readstreams(类似于我们在 nodejs 中的)来完成,然后在一个 http 调用中我们可以将数据流式传输到服务器吗?

0 投票
1 回答
69 浏览

azure-functions - 从 Web 浏览器上传 5GB 文件到 Blob 存储

我有点情况。我有一个顽固的客户,他想从网络浏览器上传大约 5gb 的 csv 文件。该文件的最终目标是访问 SQL Server,但我决定先将其放入 blob,然后有一个进程从 Blob 读取它并将其写入表。

更复杂的是,在开始将文件上传到 blob 之前,我需要验证文件结构(即文件格式、列数等)是否准确。如果这些不正确,我必须让用户知道文件上传无法完成。

要达到这些要求:

  1. 用户将从 UI 上传文件,我们的代码首先检查文件格式(列名、文件扩展名等)是否正确,然后将文件流式传输到 blob 存储。

  2. 一旦将文件上传到 blob,我正在考虑使用 azure 函数,该函数将读取每 10K 行并通过转到表 A 来验证数据是否正确,然后将数据插入表 B。如果某些数据是不准确,它会将数据行写入 blob 中的另一个目录中供用户下载。我将重复此过程,直到将整个文件存储到表 B 中。

但是,我很困惑是采用上述 2 方法还是使用第 3 方法

  1. 使用 Azure 数据工厂并创建管道以从 blob 获取文件并将其放入临时表中。一旦它在暂存表中可用,我需要通过使用另一个表验证数据来验证数据,然后将有效记录插入到目标表中。最后,无效记录将被写入第三张表(错误表),并将端点提供给用户下载表的内容。

我很困惑是使用第二种方法还是第三种方法。请建议哪一个可能很快或不太可能出现性能问题。

如果您可以分享对整体方法的评论,那就太好了。

太感谢了

0 投票
1 回答
36 浏览

git - 远程设置 git-LFS

我的同事刚刚离开了他的职位,在他离开之前,他在没有使用 git-LFS 的情况下为我们的 GitLab 团队创建了一个包含大量二进制数据(10GB 的 Unix 可执行文件)的 repo。当我尝试克隆 repo 时,克隆需要很长时间。我对设置 git-LFS 进行了一些研究,大多数文章都向我展示了如何在克隆 repo 后在本地设置 LFS。有没有办法在克隆之前远程设置 git-LFS?

0 投票
0 回答
165 浏览

javascript - 如何在javascript和laravel中实现可恢复的大文件上传

我正在尝试使用 resumable.js 和 laravel-chunk-upload 实现大文件上传。一切正常,即我能够正确上传大文件,但问题是,如果上传时网络连接发生任何问题,则上传无法正常完成。一大块得到错误。错误是:

没有权限问题,因为在没有网络问题的情况下,同样的功能可以正常工作。

当前的javascript代码:

Laravel 服务端代码:

我是这方面的初学者,所以在寻找解决方案方面不太好。尽我所能,但找不到任何解决方案。如果您能提供帮助,那就太好了。

谢谢..

0 投票
0 回答
49 浏览

c# - Asp.Net Core 通过 DMZ API 端点将大文件流式传输到面向内部的 API,无需缓冲

我正在寻找有关如何从面向外部的 Angular 应用程序到面向外部的 Asp 执行非缓冲大文件(千兆字节+)上传的建议。Net 5.0 Web API 端点,然后到面向内部的 Asp。网络 Web API 端点。使用ASP.Net Core 中上传文件的指导,我从 Angular 到面向外部的 API 的第一跳工作正常,但这仅提供了一半的解决方案。我能够在不消耗太多内存的情况下将 2-gig 文件上传到第一个端点(我看到消耗了大约 300MB,这有点令人担忧,但我稍后会处理)。当我尝试流式传输到内部端点时,我得到了Unexpected end of Stream,内容可能已被另一个组件读取。当我尝试处理流并写入磁盘时。

本质上,我正在寻找一种让 DMZ 充当某种传递或代理的方法,以便我可以将文件安全地流式传输并存储到内部文件存储中,而不会耗尽服务器内存资源。

下面是我的 Angular 到 DMZ 端点流程的 C#、html 和 Typescript——我不知道从那里去哪里。关于如何在不消耗太多内存或 CPU 的情况下完成这项工作的任何建议?

我的客户端代码目前非常简单

HTML

打字稿

C#

这是我的 DMZ 端点 C# 代码。注意我试图在一个请求中支持多个文件。

内部 API C#

我的内部 API 本质上是相同的 C#,但不是发布到端点,而是将流写入磁盘文件共享。

0 投票
1 回答
35 浏览

java - 在spring boot webapp中将文件与FileSystemResource一起使用后无法删除?

在将文件上传到云存储位置后,我试图通过在标题中附加文件来删除文件。(上传过程成功)。但是上传成功后我无法删除文件。有什么办法可以通过休息后调用上传一个大文件(最大 150 MB),然后我需要删除该文件。

这是一个生产应用程序,所以我需要选择一个最佳解决方案。我正在使用上述方法,并且还考虑使用另一种方法进行测试 - 将文件转换为 MultipartFile,然后将其上传到云端。然后删除文件和 MultipartFile。

使用上面的代码它在这一行失败并出现 IO 异常(猜测 fileSystemResource 没有释放文件的锁定)

例外:

0 投票
1 回答
22 浏览

vb.net - 如何使用 Microsoft Graph API 通过 VB.Net 将大文件上传到 Sharepoint 驱动器?

我正在尝试使用 VB.Net 和 Microsoft Graph API 将一个大文件 (> 4 MB) 上传到 Sharepoint 驱动器。出于测试目的,我的目标是驱动器的根。稍后我将指定一个子文件夹。这是我使用的代码:

不幸的是,Await largeFileUpload.UploadAsync() 发生错误。当我查看错误消息时,它没有多大意义:

最重要的是,堆栈跟踪也对我没有任何帮助。

问题是我可以上传一个较小的文件(使用 PutAsync)或做其他事情(创建文件夹,列出文件夹内容,...)。因此,我确定 GraphClient 的身份验证设置正常。

我究竟做错了什么?有人可以帮忙吗?

斯特凡

0 投票
1 回答
27 浏览

asp.net-core - Net core api 上传 1GB 大小的 csv 文件

我有以下代码段,它适用于小文件。但是,如果文件较大,则应用程序正在加载很长时间并收到请求的资源上不存在“Access-Control-Allow-Origin”标头。