AWS Machine Learning Blog

Introducing Claude Haiku 5.5 on AWS

6.9内容质量
Introducing Claude Haiku 5.5 on AWS

TL;DR · AI 摘要

Introducing Claude Haiku 5.5 on AWS Artificial Intelligence Introducing Claude Haiku 5.5 on AWS Today, we’re excited to...

核心要点

  • 主题聚焦:Introducing Claude Haiku 5.5 on AWS
  • 来源:AWS Machine Learning Blog,建议结合原文判断细节。
  • AI 分析暂不可用,本条为保底评分与摘要。
#AI#编程#后端#云计算#安全
打开原文

在 AWS 上推出 Claude Haiku 5.5 | 人工智能

在 AWS 上推出 Claude Haiku 5.5

今天,我们激动地宣布 Claude Haiku 5.5 现已通过 Amazon Bedrock 和 AWS 上的 Claude 平台提供使用。根据 Anthropic 的说法,Claude Haiku 5.5 是 Claude 5.5 系列中速度最快、效率最高的模型,专为子代理和高吞吐量、成本敏感型工作负载而设计。对于大多数任务,其成本比 Claude Haiku 4.5 降低了约 75%。

Amazon Bedrock 在确保数据保留在 AWS 基础设施内(通过区域数据驻留功能)的同时,为您提供 Haiku 5.5 的能力。它与您团队已经在使用的 AWS 控制功能无缝集成,包括用于访问管理的 AWS Identity and Access Management (IAM)、用于审计的 AWS CloudTrail、用于监控的 Amazon CloudWatch 以及 Amazon Bedrock Guardrails。使用情况将显示在您的 AWS 账单中。

AWS 上的 Claude 平台通过 AWS 管理控制台为您提供直接访问 Anthropic 原生平台体验和功能的途径。您可以使用与直接与 Anthropic 合作时相同的 API、功能和控制台体验进行构建、测试和部署,并与 AWS 的计费和身份验证系统无缝整合。

本文将介绍 Claude Haiku 5.5 的改进之处,提供选择 Haiku 5.5 的实用指南,并说明如何在 Amazon Bedrock 上开始使用。

使 Claude Haiku 5.5 独特的功能

Claude Haiku 5.5 是 Anthropic 目前最强大的 Haiku 模型,在编码、工具使用、计算机操作和代理任务方面表现突出。它也是首个支持努力控制的 Haiku 模型,因此您可以针对每个任务调整成本与智能之间的平衡,而无需为整个工作负载选择单一设置。

这些改进在大规模快速重复性工作中尤为显著。在编码任务中,它可以作为子代理路由请求、审查代码并分类长文档。在知识型工作中,Haiku 5.5 可从中小型文档中提取关键信息,执行初步扫描,并快速回答知识库中的问题。在交互式应用中,它能够以足够快的速度响应,使简单对话能够迅速提供有用答案。它还能以生产功能所需的大规模和成本处理传统自然语言处理(NLP)任务,如分类、摘要和文本生成。

Haiku 5.5 支持代理编码和多步骤工具使用,并支持高分辨率图像。作为子代理,Haiku 5.5 可以以可扩展的成本处理重复的浏览器和桌面任务。在开发流程中,它适合快速迭代 UI 和 UX 更改,并在多个文件中进行小范围、具体的代码库修改。

  • Claude Haiku 5.5 负责子代理的快速层。它处理需要快速完成且数据量大的任务,例如请求路由、分类和摘要、长文档重写,以及在多个文件中进行小范围的特定修改。作为审查子代理,它可以快速检查操作顺序和高层方向,这样 Opus 5.5 就可以将计算资源集中在最复杂的推理任务上。由于其速度和成本效益,可以并行运行多个 Haiku 子代理。

在 Amazon Bedrock 上开始使用 Claude Haiku 5.5

要尝试 Haiku 5.5,请打开 Amazon Bedrock 控制台,选择「测试」,然后进入「沙盒」,选择 Haiku 5.5 作为模型。从那里,你可以直接向该模型发送提示。

图 1:在 Amazon Bedrock 控制台沙盒中选择 Anthropic Claude 模型

通过编程方式,你可以使用 Anthropic SDK 通过 bedrock-runtime 调用 Anthropic Messages API 来调用该模型。你也可以通过 AWS 命令行界面(AWS CLI)和 AWS SDK 使用 bedrock-runtime 上的 Invoke 和 Converse API。

先决条件

你必须满足以下先决条件:

  • 拥有具有 Amazon Bedrock 访问权限的活动 AWS 账户。
  • 已安装并配置 AWS 命令行界面(AWS CLI)。
  • Python 3.10+。
  • 已安装 Boto3:pip install boto3。
  • 已安装 Anthropic SDK:pip install anthropic。
  • 已安装用于 Amazon Bedrock 身份验证的 Amazon Bedrock Token Generator:pip install aws_bedrock_token_generator。
  • AWS 身份和访问管理(IAM)权限:bedrock:InvokeModel、bedrock:InvokeModelWithResponseStream。

以下是使用 AWS SDK for Python(Boto3)和 InvokeModel API 的快速示例:

code
import boto3
import json

# 创建 Bedrock Runtime 客户端
bedrock_runtime = boto3.client(
    service_name="bedrock-runtime",
    region_name="us-east-1"
)

# 调用 Claude Haiku 5.5
response = bedrock_runtime.invoke_model(
    modelId="global.anthropic.claude-haiku-5-5",
    contentType="application/json",
    accept="application/json",
    body=json.dumps({
        "anthropic_version": "bedrock-2023-05-31",
        "max_tokens": 4096,
        "messages": [
            {
                "role": "user",
                "content": "Can you explain the features of Amazon Bedrock?"
            }
        ]
    })
)

result = json.loads(response["body"].read())
# Haiku 5.5 可能在文本块之前返回一个思考块,
# 因此选择文本块而不是固定索引。
print(next(b["text"] for b in result["content"] if b["type"] == "text"))

你也可以使用 Amazon Bedrock Converse API 来获得统一的多模型体验:

code
import boto3

# 创建 Bedrock Runtime 客户端
bedrock_runtime = boto3.client(
    service_name="bedrock-runtime",
    region_name="us-east-1"
)

# 调用 Claude Haiku 5.5
response = bedrock_runtime.converse(
    modelId="global.anthropic.claude-haiku-5-5",
    messages=[
        {
            "role": "user",
            "content": [
                {
                    "text": "Can you explain the features of Amazon Bedrock?"
                }
            ]
        }
    ],
    inferenceConfig={
        "maxTokens": 4096
    }
)

if 'output' in response:
    blocks = response['output']['message']['content']
    print('\n'.join(b.get('text', '') for b in blocks if 'text' in b))

你也可以通过 anthropic SDK 包中的 Anthropic Messages API 获得更流畅的体验:

code
from anthropic import Anthropic
from aws_bedrock_token_generator import provide_token

token = provide_token(region="us-east-1")

client = Anthropic(
    base_url="https://bedrock-runtime.us-east-1.amazonaws.com/anthropic",
    api_key=token,
)

# 调用 Claude Haiku 5.5
response = client.messages.create(
    model="global.anthropic.claude-haiku-5-5",
    max_tokens=1024,
    messages=[{"role": "user", "content": "Can you explain the features of Amazon Bedrock?"}],
)
print(response)

您可以通过入门笔记本查看更多示例。您可以使用 Amazon CloudWatch 和 AWS Cost Explorer 监控使用情况、性能和成本,从而根据需求增长扩展应用程序。

可用性

Claude Haiku 5.5 今天已在 Amazon Bedrock 上通过以下推理配置文件提供:美国地理 CRIS(us.)、欧洲地理 CRIS(eu.)、澳大利亚地理 CRIS(au.)、日本地理 CRIS(jp.)和全球 CRIS(global.)的 bedrock-runtime。在 AWS GovCloud(美国),它同时在 bedrock-runtime 和 bedrock-mantle 端点提供。

有关支持的完整 AWS 区域列表,请参阅 Amazon Bedrock 文档。有关定价信息,请参阅 Amazon Bedrock 定价。它也通过 Claude 平台在北美地区提供。

您可以在 Amazon Bedrock 控制台、AWS 上的 Claude 平台或 GitHub 上的入门笔记本中尝试 Claude Haiku 5.5。

作者简介

'"`