How Cara pioneers domain-specific AI for enterprise insurance brokerages with AWS

Cara 如何借助 AWS 为大型保险经纪公司开创领域专用 AI | 人工智能

保险是一个价值 8 万亿美元的全球行业，受到手动流程和日益加剧的人才短缺的困扰。Cara 在 AWS 上提供一个原生 AI 解决方案，为保险经纪公司自动化后台流程。

保险代理人员经常花费数小时处理重复性任务。这些任务包括完成申请、分析保单保障范围、在不同系统中重新输入数据，以及在客户和保险公司之间传递信息。随着行业面临持续的人才短缺，经纪公司需要在不按比例增加员工数量的情况下扩大收入。

在本文中，我们将探讨 Cara 如何与 AWS 合作，解决这些挑战。我们将介绍 Cara 的技术设计决策以及支持该解决方案的 AWS 服务。我们还将分享 Cara 为大型经纪公司带来的可衡量成果。

挑战：为什么通用 AI 在保险领域表现不足

保险经纪公司在一个高度监管的环境中运营。每笔交易都需要精确性、可审计性和合规性。涉及的数据包括敏感的个人身份信息（PII）、财务记录和承保细节。

通用 AI 工具并未针对这种复杂性进行设计。有效的保险 AI 必须理解特定领域的数据模型和经纪工作流程。它还必须处理特定保险公司的要求和监管限制，同时满足企业安全标准。

Cara 的创始团队亲身经历了这些差距。Vic Yeh、Nikhil Kansal 和 Jon Patel 之前创办了一家数字保险经纪公司。他们将其扩展并出售给 The McGowan Companies，这是美国最大的私营保险公司之一。

在那段经历中，团队构建了一个由大型语言模型（LLMs）驱动的内部 AI 助手。该助手减少了处理时间，提高了数据准确性，并简化了代理的工作流程。受到强烈采用的鼓励，他们将这一概念扩展为一个独立产品：Cara。

架构概述

Cara 基于 AWS 服务构建，这些服务以可靠性、可扩展性和安全性著称。图 1 展示了 Cara 生产部署的高层次组件。

Cara 在 AWS 上的架构

计算与编排

Cara 在 Amazon Elastic Kubernetes Service（Amazon EKS）上运行，用于跨多个可用区的容器编排。EKS 管理 Cara 的微服务，包括数据摄入管道、工作流引擎和推理层。

这种架构支持弹性扩展，以应对续保和客户服务高峰期的需求。它支持每个经纪公司数千个并发用户和工作流。每个组织的工作负载在隔离的命名空间中运行，以实现租户隔离。

AI 与推理

Cara 的 AI 能力由 Amazon Bedrock 上托管的大型语言模型（LLMs）提供支持。Amazon Bedrock 通过完全托管的 API 提供对基础模型的访问。这使得 Cara 可以在不管理 GPU 基础设施的情况下运行推理。Cara 使用 Amazon Bedrock 实现以下核心功能：

• 保障和报价智能 – 比较保险公司报价，总结保障差异，并突出显示排除项或缺口。

• 申请和表单自动化 – 使用源文档、之前的提交和代理指南，跨填写 ACORD 和补充表单。

• 提案和续保生成 – 生成带有品牌标识、可直接提供给客户的提案和续保表格。

• 以知识驱动的工作流程 – 引用特定代理机构的指南、承保商的偏好和历史安排，以指导决策。

安全性和数据隔离

数据保护是保险组织的基本要求。Cara 的架构在 AWS 上使用特定账户的部署。每个经纪公司的数据和工作流程都在专用、安全的工作空间中进行隔离。这种设计支持符合行业法规，并在组织层面提供可审计性。

集成

Cara 与领先的代理机构管理系统（AMS）和客户关系管理（CRM）工具集成。它可以同步账户、保单和文档，以减少重复的数据输入。由人工智能驱动的工作流程直接在现有的经纪技术栈中运行。这种设计有助于最大限度地减少对其代理人员已使用的系统的更改。

部署和运营特性

Cara 的设计目标之一是实现快速的价值实现。企业经纪公司可以在数小时内完成上线，并在数天内启动定制的工作流程。Cara 在 EKS 上的部署为每个新租户使用参数化模板。它为每个租户提供隔离的命名空间、存储和推理端点，而无需手动设置。

在生产环境中，Cara 在 AWS 上的基础设施提供以下功能：

• 高可用性 – 在 EKS 上的多可用区部署，具有自动故障转移功能。

• 弹性扩展 – Kubernetes 水平 Pod 自动扩展器根据实时需求调整容量。这支持在高峰期同时处理数千名用户。

• 企业级安全 – 每个租户的数据隔离、静态和传输中的加密，以及与 AWS 身份和访问管理（AWS IAM）的集成。

可衡量的结果

Cara 的人工智能驱动的工作流程为企业保险经纪公司带来了可量化的成果：

| 指标 | 结果 | |------|------| | 每用户节省的时间 | 每周通过工作流程自动化和上下文知识检索节省约 10 小时 | | 上线速度 | 企业经纪公司可在数小时内完成上线，定制工作流程可在数天内启动 | | 同时处理能力 | 每家经纪公司可同时处理数千名用户和工作流程 | | 使用情况 | 被数百家领先的保险代理机构和经纪公司使用 |

这些成果来自于针对组织特定的工作流程自动化和上下文知识检索。它们依赖于 Cara 的领域特定人工智能以及 AWS 提供的可扩展、安全的基础设施。

展望未来

保险行业仍处于人工智能采用的早期阶段。随着企业需求的增长，Cara 继续在销售、服务和运营方面扩展其人工智能驱动的工作流程。

“我们非常高兴能够与 AWS 一起，在现实世界的保险用例中推动领域特定人工智能的边界，”Cara 的首席执行官 Vic Yeh 表示。“我们的目标是帮助保险专业人士回到我们行业的核心：关系。”

结论

在本文中，我们展示了 Cara 如何使用 Amazon EKS 和 Amazon Bedrock 为保险经纪公司构建了一个领域特定的人工智能解决方案。该架构提供了租户隔离、弹性扩展的工作空间。它在满足保险行业安全和合规要求的同时，支持数千名用户同时在线。

作者简介

'"`