File Mover Express: AWS Releases Open-Source Tool for S3 File Transfers

TL;DR · AI 摘要
AWS发布开源工具File Mover Express,优化S3大文件传输效率,支持跨平台并行传输与自动调优。
核心要点
- File Mover Express支持macOS/Windows/Linux,使用Go+TypeScript开发,实现分块上传与自动调优。
- 工具通过daemon引擎解耦传输过程,支持断开后继续传输,避免传统工具中断问题。
- 提供GUI和CLI双模式,集成OIDC认证与AI助手,降低云传输成本与复杂度。
结构提纲
按章节快速跳转。
AWS为解决媒体团队大文件传输痛点,推出开源工具File Mover Express。
支持跨平台并行传输、自动调优、断点续传及文件完整性校验。
满足媒体行业TB级资产传输需求,替代商业工具的高成本方案。
思维导图
用一张图看清主题之间的关系。
查看大纲文本(无障碍 / 无 JS 友好)
- File Mover Express
- 核心功能
- 并行传输
- 断点续传
- 自动调优
- 技术架构
- Go传输引擎
- TypeScript GUI
- OIDC认证
- 应用场景
- 媒体资产传输
- 云迁移方案
金句 / Highlights
值得收藏与分享的关键句。
File Mover Express通过分块上传和自动调优,实现接近网络带宽极限的传输速度。
Daemon引擎可在工作站、EC2实例等任意机器运行,独立于用户桌面会话。
相比传统工具,File Mover Express断开后可继续传输,避免数据丢失和流程中断。
File Mover Express:AWS 发布用于 S3 文件传输的开源工具 - InfoQ
InfoQ 首页 News File Mover Express:AWS 发布用于 S3 文件传输的开源工具
云
InfoQ 认证高绩效团队计划(在线,11 月 17 日):为您的团队构建更清晰的运营模型。
File Mover Express:AWS 发布用于 S3 文件传输的开源工具
2026 年 11 月 1 日 2 分钟阅读
作者:
- Renato Losio
#### 关注我们
YouTube
232K 粉丝
26K 粉丝
新
RSS
19K 读者
X
57.1k 粉丝
21K 点赞
Bluesky
收听本文 -
0:00
音频准备播放
您的浏览器不支持音频元素。
正常
1.25x
1.5x
喜欢
新下拉阅读列表
- 阅读列表
AWS 最近发布了 File Mover Express,这是一个基于 Apache 2.0 许可证的开源应用程序,用于在本地系统和 Amazon S3 之间传输大文件。该工具支持 macOS、Windows 和 Linux,具备并行传输、自动性能调优、重试、暂停和恢复以及文件完整性验证功能。
File Mover Express 的设计目标是“以线速将媒体传输到 S3”,支持自动调优的并行传输、暂停和恢复功能、桌面图形用户界面(GUI)、可脚本化的命令行界面(CLI),以及从监控文件夹自动上传文件。
该项目主要使用 Go 语言开发传输引擎,使用 TypeScript 和 Angular 开发图形界面。它还支持通过 MCP 与 AI 助手集成,并通过基于 OIDC 的身份提供商进行身份验证。AWS 高级解决方案架构师 Provanshu Dey、AWS 高级软件工程师 Asbjorn Kjaer、AWS 解决方案架构师 Matthew Muccio 和 AWS 高级客户解决方案经理 Ross Dickson 解释道:
File Mover Express 的核心是一个基于守护进程的传输引擎,该引擎将传输过程与桌面会话解耦。守护进程可以运行在您选择的任何设备上,无论是您的工作站、数据中心的服务器,还是 Amazon 弹性计算云(Amazon EC2)实例,而您可以通过加密且密码保护的连接,通过拖放式图形用户界面(GUI)或可脚本化的命令行界面(CLI)进行控制。
媒体团队经常需要在本地存储和云之间传输数以太字节的资产。这些传输通常涉及紧迫的截止日期,且在发起用户或机器断开连接后仍需继续执行。传统的传输客户端可能在桌面会话结束时停止,而商业替代方案可能会引入许可成本、专有协议或第三方基础设施。File Mover Express 支持上传和下载,使团队能够将大文件传输到 Amazon S3,并从中检索文件进行编辑、审核或恢复。
来源:GitHub 项目
File Mover Express 将大文件分割成块,并通过多部分上传并行上传。在自动调优模式下,它会调整并行流的数量和块大小,以优化可用连接的吞吐量。传输还支持可配置的重试和文件级别的暂停与恢复。Dey、Kjaer、Muccio 和 Dickson 补充道:
File Mover Express 提供包括飞行中文件加密、静止文件加密和控制平面加密在内的安全功能。所有传输均使用 HTTPS,对您的 S3 存储桶的访问由 AWS 身份和访问管理(IAM)控制,并采用有文档记录的最小权限策略 (...) 对于集中管理身份的团队,File Mover Express 支持通过 OpenID Connect (OIDC) 实现单点登录。
File Mover Express 在后台计算校验和,并在文件未更改时本地缓存以供重复使用。它支持 MD5、XXHash、XXHash64 和 XXH3,提供兼容性与哈希性能之间的选择。对于传输到远程存储桶的场景,用户可以启用 S3 Transfer Acceleration,同时带宽限制有助于控制网络使用。在 LinkedIn 上,Dickson 写道:
将大型媒体文件传输到云不应成为您工作日的瓶颈 :) 正因如此,我们 AWS 的一组人开发了 File Mover Express (...) 对于任何需要传输摄像机存储卡、每日素材或交付成果的媒体行业用户,它解决了常见的痛点。
该项目的源代码可在 GitHub 上获取,并提供适用于 macOS、Windows 和 Linux 的预构建软件包。
main wrapper for authors section
关于作者
section title
main wrapper for each author
#### Renato Losio
显示更多
显示更少
#### 本内容属于云技术主题
##### 相关主题:
- 开发
- DevOps
- 开源
- 云
- S3
- 数据存储
- 数据传输对象
- Go 语言
- AWS
- 相关编辑内容
- 相关赞助商 代理 AI 威胁:为什么您的 Java 补丁策略已不再足够
- 相关赞助商 了解 Azul 如何帮助 Java 团队降低 JVM 漏洞风险,加强应用安全性,并为代理 AI 做好 Java 环境准备。发现保障 Java 工作负载安全的同时保持性能和可靠性的实用策略。了解更多。
InfoQ 新闻通讯
每周五汇总 InfoQ 最新内容,每 Tuesday 发送。加入超过 250,000 名高级开发者的社区。查看示例
我们保护您的隐私。