Agents Prompt People: Using Agents for Long-Horizon Financial Work

Latent Space2026年10月31日

8.5内容质量

TL;DR · AI 摘要

Arca公司利用AI代理处理长期金融任务，但人类顾问保留最终决策权，确保安全与合规。

按章节快速跳转。

用一张图看清主题之间的关系。

查看大纲文本（无障碍 / 无 JS 友好）

值得收藏与分享的关键句。

#AI代理#金融技术#Arca#OpenAI#安全架构

在本月的AI工程师纽约峰会上，我们与Arca公司的首席AI工程师Aman Singh进行了对话。Arca是一家“原生AI”公司，提供财富管理服务。

我们发现，尽管代理在公司中承担了大部分后台工作，但仍有安全机制确保人类顾问做出最终决策。目标是让AI引导流程；正如Singh所说：“代理更多地引导人类，而非人类引导代理。”

播放视频

在YouTube上打开视频 ↗

Arca最近在由General Catalyst领投的融资中筹集了4850万美元，Index Ventures和Venrock也参与了本轮投资。

Singh解释了在金融服务中使用AI的一个特点：通常是长期工作，但并非长时间运行。在他的AIE演讲中，Singh指出Arca的代理任务可能需要长达十天。“这非常断断续续，中间有许多参与者、许多决策点和许多交接环节，”他说。

因此，Arca开发了内部记忆系统。

“我们为每位客户都建立了这种持久性，”Singh在我们的播客讨论中说道。“到目前为止发生了什么？我们接下来在追踪什么？接下来几天需要立即完成什么？我们长期在追踪什么？哪位个人负责哪项行动？所有这些都由我们的记忆系统进行追踪，这些系统由我们的代理贡献数据。”

Arca使用来自Anthropic和OpenAI等前沿实验室的模型，其中Claude是其主要模型提供商。公司开发了自己的控制框架，该框架根据公司内部基准自动选择最适合特定任务的模型。

拥有自主控制框架而非使用托管代理框架，也意味着Arca可以根据需要灵活更换模型提供商。

安全性对于金融服务显然至关重要。Singh指出，尽管代理完成大部分工作，但代理的角色仅限于分析和提出解决方案。交易和任何其他资金流动均由人类顾问处理。

“我们的所有安全限制都是完全确定性的，”他说。“它们将决策权从代理手中移除。”

换句话说，代理可以自行执行某些工具和任务——但不包括可能对客户造成风险的操作。Arca还会对已知的AI安全问题（如提示注入）进行验证检查。

赞助

您的赞助广告在此处

接触正在构建未来的技术的AI工程师。

潜在空间由正在部署代理、模型和基础设施的工程师阅读。咨询赞助此位置。

Arca的代理本身并未被沙盒隔离，但它确实使用沙盒进行计算。Singh解释说，他们甚至采取了额外的安全措施来处理敏感数据。

“我们构建了系统，使沙盒内的代码可以安全访问我们的数据，”他说。“因此我们有这样一个机制，将代理编写的代码转换为严格格式，丢弃原始代码，并在到达后端之前对该格式安装防护措施。我们允许代理使用代码查询我们的数据，这意味着他们可以汇总数据、处理数据，并根据需要对其进行操作以生成财务计划等结果。”

Arca 实施的另一个有趣流程是结合人工顾问的反馈与代理的追踪记录，以优化框架。一个“元代理”会分析所有这些数据，并向框架提出改进建议。

/think