Gallup scales real-time coaching for thousands with Amazon Bedrock

Gallup借助Amazon Bedrock为数千人扩展实时辅导 | AWS架构博客

Gallup借助Amazon Bedrock为数千人扩展实时辅导

Gallup如何将90年的职场科学转化为AI助手，通过Amazon Bedrock实现秒级个性化指导。

Gallup提供分析和建议，帮助领导者和组织解决最紧迫的问题。拥有90多年的经验和全球影响力，Gallup对职场行为和绩效形成了独特的深刻理解。

然而，这些知识并未实现集中化或场景化交付。领导者需要在多个资源中搜索相关洞察，然后在没有指导的情况下将其转化为行动。缺乏实时个性化建议导致职场挑战往往被被动应对而非主动预防。

Gallup需要将数十年的专有研究转化为实时个性化指导，使领导者能够在现有工作流程中即时获取。

在本文中，我们将展示Gallup如何构建Gallup AI，这是一个由Amazon Bedrock驱动的生成式AI助手。它将数十年的专有职场研究转化为实时个性化辅导，直接集成在Gallup Access应用程序中。

为何选择Amazon Bedrock

Gallup评估了多种构建生成式AI助手的方法。团队选择Amazon Bedrock基于三个原因：

• 无需管理基础设施即可访问Claude等领先基础模型。
• 通过Amazon Bedrock知识库实现内置的检索增强生成（RAG），该全托管RAG能力使响应基于验证研究。
• 原生防护机制可大规模实施内容安全策略。

这种组合使Gallup能够在数周内从原型过渡到生产环境，而无需组建专门的机器学习（ML）运维团队。

注意：Amazon Bedrock上的Anthropic Claude模型目前仅在部分AWS区域提供。有关当前模型和区域可用性，请参阅Amazon Bedrock的《按区域划分的支持模型》。

实施方法：将智能融入日常流程

Gallup构建了Gallup AI，这是一个直接集成在Gallup Access中的生成式AI助手。统一的应用程序使管理者能够查看参与度结果、制定行动计划、探索CliftonStrengths洞察，并访问精选内容以更好地支持团队。

该解决方案使用Amazon Bedrock和Anthropic的Claude模型，提供基于Gallup专有研究的对话式洞察。Amazon Bedrock知识库和Amazon Kendra检索相关研究和组织数据，旨在使响应基于验证的职场科学。Amazon Bedrock防护机制实施内容安全策略，而结合FastAPI的AWS Lambda实现自然流畅的实时流式响应。

架构采用无服务器设计，可同时支持多个组织。Amazon ElastiCache Serverless提供亚毫秒级对话历史响应时间。Amazon RDS for MySQL作为持久化系统记录。Amazon Data Firehose将使用指标流式传输至Amazon S3，用于成本管理和性能优化。

解决方案工作原理

下图展示了Gallup Access AI应用程序架构。

图1：Gallup Access AI 应用架构

该架构通过以下阶段处理请求：

Gallup 的专有职场研究涵盖了数十年的员工敬业度研究、绩效数据和组织洞察。这些内容存储在 Amazon S3 中，并导入到 Amazon Bedrock 知识库。该应用还会持续爬取 Gallup 官方网站，获取最新的研究出版物、文章和洞察，并通过 Amazon Kendra 进行索引，实现即时检索。这种双重方法使 AI 助手能够同时访问历史研究档案和当前职场科学知识，提供基于经过验证的最新知识的响应，而非泛泛的建议。

当领导者向 Gallup AI 提问时，系统会从 Amazon Bedrock 知识库和 Amazon Kendra 中检索相关研究。系统根据置信度阈值对文档进行评分、过滤和整合后，将结果发送至 Amazon Bedrock 中的 Claude 模型。

对话流程通过 AWS Lambda 处理程序进行管理，同时支持实时流式传输（面向网页客户端）和同步请求（面向后端服务）。Amazon ElastiCache Serverless 缓存最近的对话历史以实现即时检索，而 Amazon RDS for MySQL 则作为持久化存储层，记录结构化的对话、提示、响应和来源引用。

Amazon Bedrock 防护机制在生成过程中应用内容安全策略，若检测到策略违规，可随时介入干预。在流式传输开始前，交互内容会先持久化存储，即使连接中断也能保持事务完整性。

AWS Systems Manager Parameter Store 作为应用的集中配置中心，管理 AI 模型设置、内容安全策略和性能阈值。这使团队能够即时调整应用行为，无需重新部署代码或中断用户服务。

Amazon DynamoDB 为产品特定洞察和上下文数据提供快速灵活的存储，使应用能够根据用户角色和工作流程提供个性化体验。

包括 I/O 令牌、缓存令牌、首次字节响应时间（TTFB）和停止原因在内的全面指标通过 Amazon Data Firehose 传输至 Amazon S3，提供应用在成本、性能和使用模式方面的可视化数据。

Gallup 已实现的成果

Gallup 将数十年的职场研究转化为智能助手，为数千家企业提供可衡量的价值。过去需要查阅报告、文章和工具才能完成的任务，现在只需一次对话交互即可解决。从手动研究到实时 AI 指导的洞察获取时间从数小时缩短至数秒内。该应用通过生产交互处理数十亿个令牌，所有响应均基于经过验证的职场科学知识。

自2024年6月推出以来，采用率和参与度迅速增长：

| 指标 | 结果 | |--------------|------------------| | 提示次数 | 增加约7倍 | | 对话次数 | 增加约4.5倍 | | 活跃用户数 | 增加约5.5倍 | | 参与深度 | 每次对话平均提示次数增加约55%，表明持续的多轮交互 | | 响应延迟 | 流式传输响应的首次字节响应时间（TTFB）低于1秒。通过 Amazon ElastiCache Serverless 实现亚毫秒级会话检索 |

客户评价

Gallup 产品总监反思这一转变对领导者获取职场科学的影响：

“Gallup AI 代表了领导者获取职场科学方式的根本性转变。几十年来，我们的研究帮助组织做出更明智的决策，但通常需要领导者自行搜索、解读并应用这些洞察。通过构建于 Amazon Bedrock 之上，我们将基于科学依据的指导直接嵌入到工作流程中，为管理者提供实时的个性化且可操作的支持。”

——Gallup 产品总监 Andrew Bridger

在此基础上，Gallup 正专注于扩展该应用的未来功能。

未来规划

Gallup 的路线图重点在于使其专业知识更易于获取、更具操作性，并深度嵌入日常工作流程。一项关键举措是开发一个由 AI 策划的提示库，收录管理者和领导者最常提出的问题。该库将帮助用户通过基于职场研究的经过验证的高价值提示，快速与 Gallup AI 进行互动。

此外，Gallup 正引入围绕结构化对话流程构建的引导式辅导体验。这些引导提示通过将提示和回应编排成有目的、以结果为导向的互动，帮助管理者逐步完成明确的辅导场景，例如提升参与度、解决团队挑战或培养员工。

Gallup 正基于 Amazon Bedrock AgentCore 构建一个基于代理的架构。这使 Gallup AI 能够超越面向用户的助手角色。通过以编程方式呈现工具、工作流程和专有知识，该系统不仅能够支持终端用户，还能支持应用内的其他系统和集成。

结论

通过结合 Amazon Bedrock 的生成式 AI 能力与 Gallup 的专有职场研究，领导者现在可以在需要时即时获取基于科学依据的指导。无服务器架构使应用能够可靠地扩展，同时提供低延迟流式响应和全面的可观测性。

要构建自己的生成式 AI 应用，请从 Amazon Bedrock 开始。若想了解如何基于自己的数据构建响应，请探索 Amazon Bedrock 知识库。

进一步阅读

• AWS 指导原则：RAG 应用的最佳实践编写指南：优化知识源以提高 AI 检索和响应质量。

• 像专家一样构建安全的生成式 AI 应用：使用 Amazon Bedrock 防护措施的最佳实践：在生产环境中配置和部署 AI 安全防护措施。

• Well-Architected Framework，生成式 AI 镜像：在 AWS 上应用生成式 AI 工作负载的经过验证的最佳实践。

作者简介