Baseten's Mammoth-1 and Elephant-1 now available on AI Gateway for free

Baseten 的 Mammoth-1 和 Elephant-1 现在可通过 AI Gateway 免费使用 - Vercel

Baseten 的 Mammoth-1 和 Elephant-1 现在可在 AI Gateway 免费使用一周。免费访问权限持续至 10 月 27 日。这些决策模型可对文本进行分类、路由请求，并根据您定义的标准对内容进行评分。

Mammoth-1 是较大的 27B 模型，Elephant-1 是较小的 9B 选项。Mammoth-1 在 Jev Decision Index 中排名第一，Elephant-1 在 Artificial Analysis Decision Index 中并列第一。

两者均支持 16k-token 上下文窗口，并返回选择项、概率和评分。在一个请求中可以针对同一输入提出多个问题：通过选择题选择支持团队，通过布尔问题检查退款请求，或通过评分问题评估紧急程度。您的应用程序可选择概率阈值以自动执行操作或发送结果进行审核。

使用 baseten/mammoth-1 或 baseten/elephant-1 作为模型名称：

AI SDK

Decisions API

TypeSafe-compat

1
import
{
experimental_decide
as
decide
}
from
'ai'
;
2
3
const
result
=
await
decide
(
{
4
model
:
'baseten/mammoth-1'
,
5
state
:
'I was charged twice. Please refund the duplicate.'
,
6
questions
:
{
7
refund
:
{
8
type
:
'boolean'
,
9
instructions
:
'Is the customer asking for a refund?'
,
10
}
,
11
}
,
12
}
)
;
13
14
console
.
log
(
result
.
answers
.
refund
)
;

复制给代理

查看模型详情

↗

查看决策模型文档以获取问题类型和更多使用细节。

AI Gateway 提供统一的 API 用于访问模型并跟踪使用情况和成本。决策调用会出现在日志中，并与其他模型请求一起计入预算。

浏览 AI Gateway 上所有可用的决策模型。 /think