Build financial document processing with Pulse AI and Amazon Bedrock

    * 创建 `bedrock-permissions.json`````
{
  "Version": "2012-10-17",
  "Statement": [
    {
      "Sid": "S3AccessForFineTuning",
      "Effect": "Allow",
      "Action": [
        "s3:GetObject",
        "s3:PutObject",
        "s3:ListBucket"
      ],
      "Resource": [
        "arn:aws:s3:::your-bucket-name",
        "arn:aws:s3:::your-bucket-name/*"
      ]
    },
    {
      "Sid": "SecretsManagerAccess",
      "Effect": "Allow",
      "Action": [
        "secretsmanager:GetSecretValue",
        "secretsmanager:PutSecretValue",
        "secretsmanager:CreateSecret",
        "secretsmanager:UpdateSecret",
        "secretsmanager:DescribeSecret"
      ],
      "Resource": [
        "arn:aws:secretsmanager:us-east-1:your-aws-account-ID:secret:your-secret-name-*"
      ]
    }
  ]
}

aws iam put-role-policy --role-name AmazonBedrock-FineTuning-S3-Role --policy-name Bedrock-S3-Access-Policy --policy-document file://bedrock-permissions.json

curl -X POST https://api.runpulse.com/extract -H "x-api-key: $(aws secretsmanager get-secret-value --secret-id pulse-api-key --query SecretString --output text)" -H "Content-Type: application/json" -d '{ "file_url": "https://www.impact-bank.com/user/file/dummy_statement.pdf", "figureProcessing": {"description": true}, "extensions": {"altOutputs": {"returnHtml": true}} }' > pulse_output.json

{
  "bounding_boxes": {
    "Header": [
      {
        "average_word_confidence": 0.9940000000000001,
        "bounding_box": [0.7418, 0.04248181818181818, 0.8901529411764706, 0.042281818181818184, 0.8901764705882352, 0.05528181818181818, 0.741835294117647, 0.05548181818181818],
        "content": "0a-Account # 12345678",
        "id": "txt-8",
        "original_content": "Account # 12345678",
        "page_number": 2
      }
    ],
    "Page Number": [
      {
        "average_word_confidence": 0.99425,
        "bounding_box": [0.8071411764705881, 0.24754545454545454, 0.889635294117647, 0.2474909090909091, 0.8896588235294117, 0.2616454545454545, 0.8071529411764706, 0.2617],
        "content": "0a-Page 1 of 2",
        "id": "txt-3",
        "original_content": "Page 1 of 2",
        "page_number": 1
      },
      {
        "average_word_confidence": 0.9925,
        "bounding_box": [0.8076235294117646, 0.057600000000000005, 0.8898117647058823, 0.05738181818181818, 0.8898705882352942, 0.0704, 0.8076823529411765, 0.07061818181818182],
        "content": "0a-Page 2 of 2",
        "id": "txt-9",
        "original_content": "Page 2 of 2",
        "page_number": 2
      }
    ],
    "Tables": [
      {
        "cell_data": [
          {
            "confidence": 0.9772562500000003,
            "location": {
              "coordinates": [0.0906, 0.44435454545454545, 0.8865647058823529, 0.44499090909090905, 0.8865647058823529, 0.4685, 0.0906, 0.4678636363636363],
              "page": 1
            },
            "position": {
              "column": 0,
              "row": 0
            },
            "properties": {
              "spans_columns": 4,
              "type": "header"
            },
            "text": "0t-"
          }
        ]
      }
    ]
  }
}

jq empty pulse_output.json && echo "Valid JSON" || echo "Invalid JSON"

import json

INPUT_FILE = "pulse_output.json"
OUTPUT_FILE = "nova_dataset.jsonl"
MAX_TOKENS = 30000  # 低于 32,768 的限制

def estimate_tokens(text):
    """大致的标记估算：约 4 个字符对应一个标记"""
    return len(text) // 4

def create_truncated_samples(data):
    """在标记限制内创建较小的训练样本"""
    samples = []

    # 样本 1：仅包含页眉和页码
    if "bounding_boxes" in data:
        if "Header" in data["bounding_boxes"] and "Page Number" in data["bounding_boxes"]:
            header_sample = {
                "Header": data["bounding_boxes"]["Header"],
                "Page Number": data["bounding_boxes"]["Page Number"]
            }
            samples.append({
                "document": header_sample,
                "extracted_data": header_sample
            })

    # 样本 2-4：单独的表格（截断至 20 个单元格）
    if "Tables" in data["bounding_boxes"]:
        for i, table in enumerate(data["bounding_boxes"]["Tables"][:3]):
            truncated_table = {
                "table_info": table.get("table_info", {}),
                "cell_data": table.get("cell_data", [])[:20]
            }
            samples.append({
                "document": {"Tables": [truncated_table]},
                "extracted_data": {"Tables": [truncated_table]}
            })

    # 样本 5-7：文本块（每块 3 项）
    if "Text" in data["bounding_boxes"]:
        text_items = data["bounding_boxes"]["Text"]
        chunk_size = 3
        for i in range(0, min(9, len(text_items)), chunk_size):
            text_chunk = {"Text": text_items[i:i+chunk_size]}
            samples.append({
                "document": text_chunk,
                "extracted_data": text_chunk
            })

    # 样本 8：仅包含标题
    if "Title" in data["bounding_boxes"]:
        title_sample = {"Title": data["bounding_boxes"]["Title"]}
        samples.append({
            "document": title_sample,
            "extracted_data": title_sample
        })

    return samples

def convert_to_nova_format(sample):
    """转换为 Nova 格式，并带有领域特定学习的指令性提示

    此函数生成训练样本，用于教授模型：
    1. 金融文档结构识别（页眉、表格、交易）
    2. 数据类型标准化（日期转换为 ISO 8601，金额转换为数字）
    3. 层次关系保持（账户 → 交易 → 细节）
    4. 顺序检测（带星号标记的项目）
    5. 金融领域的惯例（检查号码、终端 ID、商户数据）
    """
    doc_str = json.dumps(sample["document"])
    extract_str = json.dumps(sample["extracted_data"])
    total_tokens = estimate_tokens(doc_str) + estimate_tokens(extract_str)
    if total_tokens > MAX_TOKENS:
        print(f"警告：样本过大 ({total_tokens} 个标记)，跳过...")
        return None
    return {
        "schemaVersion": "bedrock-conversation-2024",
        "messages": [
            {
                "role": "user",
                "content": [{"text": doc_str}]
            },
            {
                "role": "assistant",
                "content": [{"text": extract_str}]
            }
        ]
    }

# 读取输入文件
with open(INPUT_FILE, "r") as f:
    pulse_data = json.load(f)

if isinstance(pulse_data, dict):
    pulse_data = [pulse_data]

# 生成截断的样本
all_samples = []
skipped = 0
for record in pulse_data:
    truncated_samples = create_truncated_samples(record)
    for sample in truncated_samples:
        nova_record = convert_to_nova_format(sample)
        if nova_record:
            all_samples.append(nova_record)
        else:
            skipped += 1

# 写入 JSONL 文件
with open(OUTPUT_FILE, "w") as f:
    for nova_record in all_samples:
        f.write(json.dumps(nova_record) + "\n")

print(f"✓ 创建了 {len(all_samples)} 个训练样本")
print(f"✓ 跳过了 {skipped} 个过大样本")
print(f"✓ 输出保存到：{OUTPUT_FILE}")
print(f"所有样本均在 {MAX_TOKENS} 个标记以内（限制：32,768）")
print(f"下一步操作：")
print(f"1. 验证：wc -l {OUTPUT_FILE}")
print(f"2. 上传：aws s3 cp {OUTPUT_FILE} s3://anypulse/training-data/nova_dataset.jsonl")
print(f"3. 创建新的微调作业")

"""训练格式说明：

此微调训练教会了 Nova Micro 以下内容：
该转换脚本创建了训练样本，通过模式学习来教授 Nova Micro 特定领域的金融文档理解。虽然训练样本使用了直接的 JSON 到 JSON 映射（用户消息包含 Pulse 提取的 JSON，助手消息包含相同的结构化 JSON），但模型学习了以下关键能力：
1. 文档结构识别：层次关系（页眉 → 表格 → 文本 → 页码）、边界框空间理解（坐标系统和元素定位）、多页文档处理（页码跟踪和跨页引用）
2. 金融数据模式：表格结构保持（行/列语义、单元格级提取）、置信度分数解释（高置信度字段（0.99+）与较低置信度）、数据类型一致性（账号、日期、货币金额、检查号码）
3. 结构一致性：字段命名约定（"content"、"confidence"、"page_number"、"bounding_box"）、嵌套对象关系（表格包含带有位置元数据的 cell_data 数组）、元数据保留（原始内容与规范化值并存以供审计追踪）
4. 领域特定惯例：金融文档部分（页眉、页脚、交易表格、摘要部分）、顺序检测（检查号码中标记星号的项目）、商户数据提取（终端 ID、位置信息、交易参考）

学习机制：
模型通过接触 Pulse AI 提供的高质量结构化提取模式而学习。通过观察数百个 Pulse 如何构建金融文档数据的例子（包括置信度分数、边界框、层次关系），Nova Micro 内化了这些模式，并可以将其应用于新的金融文档。这种方法有效的原因在于：
- Pulse AI 提供了结构一致且高质量的训练数据
- JSON 架构自描述（字段名称指示用途）
- 样本中的重复强化了结构模式
- 置信度分数教会了模型哪些提取是可靠的

替代方法：
对于需要更明确任务框架的生产部署，考虑在训练样本中添加指令性提示：
instructional_prompt = f'''您是一名金融文档提取专家。从以下金融文档中提取结构化信息，并以有效的 JSON 格式返回。要求：
- 提取所有关键金融数据（账户、余额、交易、日期）
- 使用一致的字段命名（蛇形小写格式）
- 将日期转换为 ISO 8601 格式（YYYY-MM-DD）
- 用带有货币元数据的数字表示货币金额
- 保持层次关系
- 检测顺序错误的项目（用 * 标记）
金融文档：{doc_str}
仅返回提取的 JSON，无需解释。'''

这种指令性方法提供了明确的要求和任务上下文，可以提高对训练期间未见到的文档类型的泛化能力。然而，在 Pulse AI 处理提取且模型主要学习复制 Pulse 输出结构的工作流程中，当前的直接映射方法已经足够，并避免了因长指令带来的标记开销。

生产注意事项：
- 训练数据集大小：试点阶段 100–500 个样本，生产阶段 5,000–10,000 个样本
- 评估指标：比较微调模型输出与 Pulse 基线
- 迭代改进：每季度使用新文档类型和边缘情况重新训练
- 质量监控：部署后跟踪置信度分数和人工审查率
"""

从这份银行对账单中提取详细的交易信息：
SAMPLE Statement of Account 12345678

交易明细：
10/02 - POS 购买 终端 24349201 WAL-MART #3492 WICHITA KS 00-00-00 00:00 PM 0000000000000000 - $4.23
10/04 - POS 购买 终端 443565 PLAYERS SPORTS BAR AND GRILL WICHITA KS 00-00-00 00:00 PM 0000000000000000 - $11.68
10/05 - 支票 1234 - $9.98
10/05 - POS 购买 终端 422443 KWAN COURT WICHITA KS 00-00-00 00:00 PM 0000000000000000 - $25.50
10/12 - 支票 1236* - $69.00
10/14 - 支票 1237 - $180.63

支票支付表：
支票号 | 日期 | 金额 | 支票号 | 日期 | 金额
1234 | 10/05 | $9.98 | 1238 | 10/28 | $91.06
1236* | 10/12 | $69.00 | 1239 | 10/30 | $451.20
1237 | 10/14 | $180.63 | 1246* | 10/30 | $37.07

对于每笔 POS 购买，请提取：
1. 终端 ID
2. 商家名称
3. 地点（城市、州）
4. 交易参考号
5. 金额

对于每张支票，请提取：
1. 支票号
2. 清理日期
3. 金额
4. 序列状态（正常或序列异常标记为 *）

以结构化的 JSON 格式提供输出，交易详情嵌套在对象中。