Building trade assistant: How Jefferies optimized front office trading operations with AI

构建交易助手：Jefferies如何利用AI优化前台交易运营 | 人工智能

构建交易助手：Jefferies如何利用AI优化前台交易运营

如果你管理着投资银行的前台交易台，你一定了解这个挑战：交易员需要从海量数据中实时洞察客户行为、交易模式和市场趋势，以做出千分之一秒的决策。然而，他们通常没有时间在白天构建和维护能够提供这些洞察的系统，也缺乏相应的编程能力。面对数百万行数据分散在多个可视化工具中的现状，实现端到端的可视性十分困难。传统方法迫使交易员依赖领域专家进行分析，并与IT团队协作构建定制仪表板，整个过程可能需要数天甚至数周。最终导致可用数据与应据此做出的决策之间出现越来越大的鸿沟。

作为全球领先的全服务投资银行，Jefferies将这一挑战视为应用自主AI优化股票交易台运营的机遇。通过在AWS上构建自主AI交易助手，Jefferies实现了将实时数据分析能力直接交到交易员手中，无需编程、无需等待IT队列，且不影响准确性。

在本文中，我们将探讨Jefferies如何通过基于Strands Agents（一个用于构建可推理、规划和行动的AI代理的代理框架SDK）的解决方案克服这些挑战。该方案整合了大型语言模型（LLMs）、Amazon Bedrock和Amazon Bedrock知识库，同时采用Model Context Protocol（MCP）——一种开放式标准，帮助AI代理通过统一接口安全连接到各种数据源和工具。我们将介绍解决方案概览、技术选型的考量依据、经验教训，以及该方案在Jefferies产生的业务影响。

解决方案概览

前台交易助手标志着资本市场前台股票交易员与数据交互方式的转变。该方案的核心是一个领域专用代理，通过自然语言文本与交易员进行对话。一套MCP工具使代理能够连接数据源，包括交易数据仓库、金融信息交换（FIX）消息文件和内存数据库。当交易员向交易助手提交查询时，Amazon Bedrock会调用LLM（Anthropic Claude）来解析自然语言意图，生成相应的SQL语句，并在底层数据源上执行以呈现响应。该方案提供对话式界面，允许交易员深入探讨主题并以对话方式探索数据洞察。解决方案在整个会话生命周期中维护对话上下文，以提供相关洞察和建议，支持更深入的分析。

该解决方案通过以下架构图中所示的八步流程与Jefferies现有的交易基础设施集成。从安全角度来看，该解决方案使用Amazon Bedrock Guardrails实现内容审核、个人身份信息（PII）过滤以符合Jefferies的政策，并通过智能访问控制实现行级数据权限，帮助防止意外访问客户敏感数据。它还使用对话日志进行审计跟踪以满足合规要求。

用户交互从Jefferies的前端交易界面开始，该界面现在包含一个嵌入式AI助手小部件。当交易员提出问题时，请求会通过精心编排的工作流程进行处理。

• UI小部件：首先，交易员使用凭证登录Jefferies本地部署的商业智能系统Global Flow Monitor（GFM）。一旦交易员登录GFM，他们就可以通过UI小部件与Trade Assistant Agent进行交互。

• 认证服务使用亚马逊弹性Kubernetes服务（Amazon EKS）。该服务验证只有被授权的交易员才能访问敏感交易数据。

• Bot服务构建和管理用户会话，在多个查询之间保持上下文。

• 查询代理（Strands）作为解决方案的智能编排层。当交易员提出自然语言问题时，代理首先查询Amazon Bedrock知识库，该知识库使用Amazon Titan Embeddings进行语义检索，以提取相关的数据库模式、表关系和查询模式。有了这些上下文，Claude Sonnet会分析交易员的意图并生成语法正确的SQL查询。然后，代理评估其可用的模型上下文协议（MCP）工具，以确定正确的数据源进行执行，无论是用于实时持仓的内存网格，还是用于时间序列分析的历史数据存储。

• Amazon Bedrock为查询代理提供访问LLM（大语言模型）以规划和执行代理步骤的权限。LLM的高级推理能力实现了自然语言理解、SQL生成和多步骤工具编排。团队还选择Amazon Bedrock是因为其灵活性，可以根据交易助手的演进选择不同的LLM。

• Amazon Bedrock知识库提供一个托管的检索增强生成（RAG）流水线，存储底层数据模型元数据（表模式、列定义和查询模式）的嵌入表示。当查询代理收到交易员的问题时，它会从知识库中检索相关的模式上下文，以指导准确的SQL构建。

• 查询执行器在查询代理确定正确的数据源并创建SQL查询后，查询底层数据。查询执行器拦截用户请求并注入SQL过滤器，以提供数据访问的行级安全性。LLM选择要显示的可视化效果，我们使用了一个markdown UI库来渲染这些可视化效果。

• 数据存储：查询执行器实际查询的数据源，包括内存数据、SQL数据库以及包含底层交易和执行数据的FIX消息。

让我们探讨选择Strands Agents和基于MCP工具架构的决策依据。

Strands Agents

Strands Agents 是一个开源代理开发套件，采用模型驱动的方法，仅需几行代码即可构建和运行 AI 代理。Strands 能够从简单的代理使用场景扩展到复杂的场景，从本地开发环境扩展到生产环境部署。它通过充分利用大语言模型（LLM）的规划能力、思维链能力、工具调用能力和反思能力，简化了代理开发流程。使用 Strands，开发者只需在代码中定义提示词和工具列表即可构建代理，然后本地测试并部署到云端。Strands 通过模型的高级推理能力规划代理的下一步操作并执行工具。对于更复杂的代理使用场景，开发者可以在 Strands 中自定义代理行为。例如，可以指定工具的选择方式、自定义上下文管理方式、选择会话状态和记忆的存储位置，并构建多代理应用程序。

模型-上下文-协议（MCP）工具

该方案实现了基于模型-上下文-协议（MCP）工具的架构，其中每个数据源都作为 Strands Agents 可调用的独立工具进行暴露。这种设计带来了三个优势，为系统的长期成功奠定了基础。首先，该架构通过将新数据源作为附加工具进行扩展，而无需重构核心架构，这一设计选择是团队有意为之，以适应未来的功能扩展。其次，它通过将与每个特定系统交互的逻辑封装在各自的工具中，实现了职责分离，使整体架构更易于维护和测试。第三，该设计通过允许 Strands 代理根据每个查询动态选择使用哪些工具，提供了灵活性，从而支持跨多个数据源的工作流程。

多源数据处理

该方案提供了直观的用户体验。交易员可以像屏幕上的示例一样输入问题：“请提供美国交易的行业细分情况。”在后台，助手使用大语言模型（LLM）生成适当的 SQL 查询，然后在我们内存数据网格中托管的相关数据源上执行该查询，并立即检索结果。

交易助手的功能不仅限于简单数据检索。它能够生成动态可视化图表，将文本查询转换为生成带有图表和图形的可视化故事的 SQL。当交易员需要比较今天的行业交易与昨天的活动时，助手会自动生成带有彩色图例的饼图，使交易员能够快速识别趋势和异常。

经验总结

在交付前台交易助手代理的过程中，Jefferies 团队总结出了一些关键经验，这些经验塑造了其企业级 AI 战略和实施路线图。这些洞察为资本市场的组织在大规模构建代理 AI 应用程序提供了宝贵的指导。

首先，团队通过刻意避免依赖大语言模型（LLM）生成可视化图表，降低了幻觉风险。相反，他们采用了一种混合方法，其中 LLM 负责自然语言理解和查询生成，而专门的可视化引擎负责实际生成图表和图形。这种职责分离在保持数据准确性的同时，保留了交易员期望的对话式界面。

第三，团队学会了预期用户行为的演变。实际使用情况证明了用户行为的动态性。交易员以意想不到的方式与系统交互，且其行为模式会随时间发生变化。投资于可观测性与用户反馈循环对于快速适应这些变化至关重要。最后，团队采用了明确的语言策略。鉴于Python在人工智能和机器学习（AI/ML）领域拥有丰富的生态系统，他们使用Python处理LLM交互和快速实验。同时，他们使用Java实现复杂的业务处理，以利用其性能特性进行高吞吐量数据处理，并与现有交易系统集成。

业务影响

自推出以来，交易助手解决方案在全球销售和交易运营中实现了可衡量的效率提升，使交易员能够将更多时间投入到客户关系维护和战略决策中，而非手动处理数据。这些效率提升直接转化为竞争优势，因为交易部门现在可以投入更多资源用于客户拓展和深化现有关系。该解决方案通过MCP工具访问结构化、非结构化和内存数据源，根据每个客户的查询动态生成图表和图表，从而提供个性化体验。除了交易部门，该解决方案显著减少了IT团队在重复性仪表板创建上耗费的时间和精力，使技术团队能够专注于更高价值的战略计划。最值得注意的是，通过自然语言安全查询数百万行股票交易数据的能力，使数据访问实现了民主化。这促进了以数据驱动的文化，使决策基于实时分析而非直觉或延迟报告。

未来展望

Jefferies的路线图表明了这种智能体AI方法的可扩展性和雄心。团队计划将交易助手全球推广至多种产品类型和交易台，通过使用自然语言处理（NLP）的代码生成工具增强审计能力，并将其企业AI系统与Amazon Bedrock AgentCore功能集成。这些投资表明了扩大组织内AI能力的承诺。与现有股票业务智能（BI）应用的集成，以及查询多种结构化、非结构化和内存数据源的能力，使Jefferies处于AI驱动交易创新的前沿。

结论

在本文中，我们介绍了Jefferies与AWS如何合作构建了一个自主代理AI交易助手，该系统彻底改变了交易员在全球销售和交易运营中与股票数据交互的方式。Jefferies股票交易助手完美诠释了自主代理AI如何通过将每位交易员转变为能够通过简单对话提取复杂洞见的数据科学家，重塑资本市场格局。这些自主代理AI系统作为智能协作伙伴，能够理解上下文、从交互中学习，并主动引导用户达成更优结果。从被动数据检索向主动智能的转变标志着交易运营进入了一个新时代。随着这项技术在全球范围和各类资产类别中的扩展，它将在未来多年重新定义前台运营的竞争优势。

如需开始构建自己的自主代理AI应用，可探索Strands Agents，深入了解本方案中使用的MCP集成模式，或联系您的AWS账户团队讨论针对您使用场景的定制化合作方案。

About the authors

'"`