InfoQ

File Mover Express: AWS Releases Open-Source Tool for S3 File Transfers

8.5内容质量
File Mover Express: AWS Releases Open-Source Tool for S3 File Transfers

TL;DR · AI 摘要

AWS发布开源工具File Mover Express,优化S3大文件传输效率,支持跨平台并行传输与自动调优。

核心要点

  • File Mover Express支持macOS/Windows/Linux,使用Go+TypeScript开发,实现分块上传与自动调优。
  • 工具通过daemon引擎解耦传输过程,支持断开后继续传输,避免传统工具中断问题。
  • 提供GUI和CLI双模式,集成OIDC认证与AI助手,降低云传输成本与复杂度。

结构提纲

按章节快速跳转。

  1. AWS为解决媒体团队大文件传输痛点,推出开源工具File Mover Express。

  2. 支持跨平台并行传输、自动调优、断点续传及文件完整性校验。

  3. 采用Go构建传输引擎,TypeScript+Angular开发GUI,集成MCP与OIDC认证。

  4. 满足媒体行业TB级资产传输需求,替代商业工具的高成本方案。

思维导图

用一张图看清主题之间的关系。

查看大纲文本(无障碍 / 无 JS 友好)
  • File Mover Express
    • 核心功能
      • 并行传输
      • 断点续传
      • 自动调优
    • 技术架构
      • Go传输引擎
      • TypeScript GUI
      • OIDC认证
    • 应用场景
      • 媒体资产传输
      • 云迁移方案

金句 / Highlights

值得收藏与分享的关键句。

  • File Mover Express通过分块上传和自动调优,实现接近网络带宽极限的传输速度。

    — 第3段

    ⬇︎ 下载 PNG𝕏 分享到 X
  • Daemon引擎可在工作站、EC2实例等任意机器运行,独立于用户桌面会话。

    — 第4段

    ⬇︎ 下载 PNG𝕏 分享到 X
  • 相比传统工具,File Mover Express断开后可继续传输,避免数据丢失和流程中断。

    — 第5段

    ⬇︎ 下载 PNG𝕏 分享到 X
#AWS#S3#开源工具#文件传输#Go
打开原文

File Mover Express:AWS 发布用于 S3 文件传输的开源工具 - InfoQ

InfoQ 首页 News File Mover Express:AWS 发布用于 S3 文件传输的开源工具

云

InfoQ 认证高绩效团队计划(在线,11 月 17 日):为您的团队构建更清晰的运营模型。

File Mover Express:AWS 发布用于 S3 文件传输的开源工具

2026 年 11 月 1 日 2 分钟阅读

作者:

  • Renato Losio

#### 关注我们

YouTube

232K 粉丝

LinkedIn

26K 粉丝

Instagram

新

RSS

19K 读者

X

57.1k 粉丝

Facebook

21K 点赞

Bluesky

收听本文 -

0:00

音频准备播放

您的浏览器不支持音频元素。

正常

1.25x

1.5x

喜欢

新下拉阅读列表

  • 阅读列表

AWS 最近发布了 File Mover Express,这是一个基于 Apache 2.0 许可证的开源应用程序,用于在本地系统和 Amazon S3 之间传输大文件。该工具支持 macOS、Windows 和 Linux,具备并行传输、自动性能调优、重试、暂停和恢复以及文件完整性验证功能。

File Mover Express 的设计目标是“以线速将媒体传输到 S3”,支持自动调优的并行传输、暂停和恢复功能、桌面图形用户界面(GUI)、可脚本化的命令行界面(CLI),以及从监控文件夹自动上传文件。

该项目主要使用 Go 语言开发传输引擎,使用 TypeScript 和 Angular 开发图形界面。它还支持通过 MCP 与 AI 助手集成,并通过基于 OIDC 的身份提供商进行身份验证。AWS 高级解决方案架构师 Provanshu Dey、AWS 高级软件工程师 Asbjorn Kjaer、AWS 解决方案架构师 Matthew Muccio 和 AWS 高级客户解决方案经理 Ross Dickson 解释道:

File Mover Express 的核心是一个基于守护进程的传输引擎,该引擎将传输过程与桌面会话解耦。守护进程可以运行在您选择的任何设备上,无论是您的工作站、数据中心的服务器,还是 Amazon 弹性计算云(Amazon EC2)实例,而您可以通过加密且密码保护的连接,通过拖放式图形用户界面(GUI)或可脚本化的命令行界面(CLI)进行控制。

媒体团队经常需要在本地存储和云之间传输数以太字节的资产。这些传输通常涉及紧迫的截止日期,且在发起用户或机器断开连接后仍需继续执行。传统的传输客户端可能在桌面会话结束时停止,而商业替代方案可能会引入许可成本、专有协议或第三方基础设施。File Mover Express 支持上传和下载,使团队能够将大文件传输到 Amazon S3,并从中检索文件进行编辑、审核或恢复。

来源:GitHub 项目

File Mover Express 将大文件分割成块,并通过多部分上传并行上传。在自动调优模式下,它会调整并行流的数量和块大小,以优化可用连接的吞吐量。传输还支持可配置的重试和文件级别的暂停与恢复。Dey、Kjaer、Muccio 和 Dickson 补充道:

File Mover Express 提供包括飞行中文件加密、静止文件加密和控制平面加密在内的安全功能。所有传输均使用 HTTPS,对您的 S3 存储桶的访问由 AWS 身份和访问管理(IAM)控制,并采用有文档记录的最小权限策略 (...) 对于集中管理身份的团队,File Mover Express 支持通过 OpenID Connect (OIDC) 实现单点登录。

File Mover Express 在后台计算校验和,并在文件未更改时本地缓存以供重复使用。它支持 MD5、XXHash、XXHash64 和 XXH3,提供兼容性与哈希性能之间的选择。对于传输到远程存储桶的场景,用户可以启用 S3 Transfer Acceleration,同时带宽限制有助于控制网络使用。在 LinkedIn 上,Dickson 写道:

将大型媒体文件传输到云不应成为您工作日的瓶颈 :) 正因如此,我们 AWS 的一组人开发了 File Mover Express (...) 对于任何需要传输摄像机存储卡、每日素材或交付成果的媒体行业用户,它解决了常见的痛点。

该项目的源代码可在 GitHub 上获取,并提供适用于 macOS、Windows 和 Linux 的预构建软件包。

main wrapper for authors section

关于作者

section title

main wrapper for each author

#### Renato Losio

显示更多

显示更少

#### 本内容属于云技术主题

##### 相关主题:

  • 开发
  • DevOps
  • 开源
  • 云
  • S3
  • 数据存储
  • 数据传输对象
  • Go 语言
  • AWS
  • 相关编辑内容
  • 相关赞助商 代理 AI 威胁:为什么您的 Java 补丁策略已不再足够
  • 相关赞助商 了解 Azul 如何帮助 Java 团队降低 JVM 漏洞风险,加强应用安全性,并为代理 AI 做好 Java 环境准备。发现保障 Java 工作负载安全的同时保持性能和可靠性的实用策略。了解更多。

InfoQ 新闻通讯

每周五汇总 InfoQ 最新内容,每 Tuesday 发送。加入超过 250,000 名高级开发者的社区。查看示例

我们保护您的隐私。