概念

对抗性提示

Q: 什么是 对抗性提示？

用于测试模型在面对恶意输入时的行为。

Q: 对抗性提示 最近有什么新动态？

traeai 已收录 1 篇与 对抗性提示 相关的内容。最新一篇是「We also tested whether alignment persisted under pressure. The model was harder to steer toward ha...」，由 OpenAI(@OpenAI) 发布。

别名：adversarial prompts

用于测试模型在面对恶意输入时的行为。

已跟踪 1 条高相关材料

TraeAI 观察

如果只读 3 篇

We also tested whether alignment persisted under pressure. The model was harder to steer toward ha...

OpenAI(@OpenAI) · 7 分

OpenAI 表示，其模型在面对对抗性提示时更难被引导至有害行为，同时仍能响应有益指令，并初步显示出对有害微调的更强抵抗力。

We also tested whether alignment persisted under pressure. The model was harder to steer toward ha...

OpenAI(@OpenAI)6月18日99 字 (约 1 分钟)

OpenAI 表示，其模型在面对对抗性提示时更难被引导至有害行为，同时仍能响应有益指令，并初步显示出对有害微调的更强抵抗力。

入选理由：模型在对抗性提示下更难被引导至有害行为。

FeaturedTweet#AI#模型对齐#OpenAI英文

跨材料问答 · 对抗性提示

回答基于：对抗性提示相关 1 条材料