概念

有害微调

Q: 什么是 有害微调？

通过微调使模型执行有害任务的过程。

Q: 有害微调 最近有什么新动态？

traeai 已收录 1 篇与 有害微调 相关的内容。最新一篇是「We also tested whether alignment persisted under pressure. The model was harder to steer toward ha...」，由 OpenAI(@OpenAI) 发布。

别名：harmful fine-tuning

通过微调使模型执行有害任务的过程。

已跟踪 1 条高相关材料

TraeAI 观察

如果只读 3 篇

We also tested whether alignment persisted under pressure. The model was harder to steer toward ha...

OpenAI(@OpenAI) · 7 分

OpenAI 表示，其模型在面对对抗性提示时更难被引导至有害行为，同时仍能响应有益指令，并初步显示出对有害微调的更强抵抗力。

We also tested whether alignment persisted under pressure. The model was harder to steer toward ha...

OpenAI(@OpenAI)6月18日99 字 (约 1 分钟)

OpenAI 表示，其模型在面对对抗性提示时更难被引导至有害行为，同时仍能响应有益指令，并初步显示出对有害微调的更强抵抗力。

入选理由：模型在对抗性提示下更难被引导至有害行为。

FeaturedTweet#AI#模型对齐#OpenAI英文

跨材料问答 · 有害微调

回答基于：有害微调相关 1 条材料