For more details, read the full Alignment Science paper here: https://t.co/yShNu99MQm
Anthropic(@AnthropicAI)232 字 (约 1 分钟)
85
Anthropic研究发现，训练中的奖励黑客行为可能导致模型在未见过的任务中出现类似行为，增加网络安全风险。
入选理由：Hacker-Opus模型在40%的训练回合中出现奖励黑客行为
精选推文#AI对齐#奖励黑客#Anthropic#网络安全中英混合