E245|藏在大模型背后的新闻人:GPT们的回复是这样写出来的

播客收听
问这期播客
会先在本集摘要、章节、转录和笔记里找答案。
TL;DR · AI 摘要
内容工程师通过拆解人文素养与对话逻辑,成为大模型训练的关键角色,直接影响AI对话质量与用户感知。
核心要点
- 内容工程师需掌握系统提示词设计与少样本示例构建,这是训练高质量对话模型的核心技能。
- 意图理解能力比参数规模更能决定AI是否‘懂用户’,需通过上下文管理实现。
- AI谄媚现象本质是产品设计问题,需平衡用户需求与事实核查能力。
结构提纲
按章节快速跳转。
思维导图
用一张图看清主题之间的关系。
查看大纲文本(无障碍 / 无 JS 友好)
- 内容工程师与大模型
- 核心技能
- 系统提示词设计
- 少样本示例构建
- 训练挑战
- 意图理解
- 上下文管理
- 产品影响
- AI谄媚控制
- 事实核查集成
金句 / Highlights
值得收藏与分享的关键句。
系统提示词是内容工程师的核心工作,本质是技术性写作与模型行为边界设定的结合。
AI谄媚是产品设计问题,用户对AI的过度需求导致模型偏离事实核查轨道。
零工经济催生AI训练师新职业,媒体从业者转型需掌握多轮对话上下文管理能力。
章节
- 要点
内容工程师需掌握系统提示词设计与少样本示例构建,这是训练高质量对话模型的核心技能。
内容工程师需掌握系统提示词设计与少样本示例构建,这是训练高质量对话模型的核心技能。
- 要点
意图理解能力比参数规模更能决定AI是否‘懂用户’,需通过上下文管理实现。
意图理解能力比参数规模更能决定AI是否‘懂用户’,需通过上下文管理实现。
- 要点
AI谄媚现象本质是产品设计问题,需平衡用户需求与事实核查能力。
AI谄媚现象本质是产品设计问题,需平衡用户需求与事实核查能力。
转录
这期还没有可搜索转录。后续抓到带时间戳的内容后会自动补到这里。
节目笔记
E245|藏在大模型背后的新闻人:GPT们的回复是这样写出来的 - 硅谷101 | 小宇宙 - 听播客,上小宇宙
当你觉得AI“懂你”的那一刻——精准抓住一个你自己都没说清的情绪,问出一个让你陷入沉思的问题——你以为那来自数据中心的芯片、模型里的参数、程序员敲下的代码,但真相是,那些问进你心坎里的问题、让你会心一笑的遣词造句,背后站着一群人:他们曾是记者、编辑和纪录片导演,如今藏在大语言模型之后,有一个鲜为人知的名字——内容工程师(Content Engineer)。 当模型能力日益趋同,真正决定用户去留的,已不再是参数,而是它能否让人觉得“懂我”。那些“只可意会、不可言传”的语感与共情,正被一群文字工作者拆解成一套可以装进AI的规则。 本期《硅谷101》播客,我们邀请到两位从新闻业转身的资深内容工程师——前媒体人、播客《行星酒馆》主播东尼,与NBCUniversal AI战略总监Bianca,深入探讨:什么才算“好”的对话,以及如何把它拆解成可量化、可训练、可评估的工程标准。我们从这个正在各家AI公司裂变扩张的新兴岗位聊起,看看当模型能力逐渐拉平,内容与品味如何成为产品竞争力的关键,而懂人文、懂社科的判断力,又该如何翻译成工程能用的语言。
【主播】 Faith静远,硅谷101特约研究员
【嘉宾】 Tony Lin,人工智能实验室模型设计负责人, 《行星酒馆》 主播 Bianca Consunji,NBCUniversal AI战略总监
【你将听到】 02:54 内容工程师是什么? 05:55 内容工程师如何拆解好内容 10:42 如何训练AI理解提问者的言下之意 13:42 内容工程师如何“翻译”语言和文化 16:45 新闻训练和AI对话训练都需要给到“上下文” 18:42 语境破碎:AI对话和“网络互喷”的相似之处 19:59 记者和内容工程师的技能重合点 23:44 一篇爆火文章背后,文科生的AI恐慌 26:45 基于共识训练出来的AI,不会产生伟大的艺术 28:56 媒体影视从业者失业,罪魁祸首是AI吗? 31:37 东尼如何在养病期间做出震惊谷歌的voice agent 37:02 AI谄媚是产品设计问题,本质是人想要的太多了 39:20 人除了智商情商,还会需要“AI商” 43:33 职业价值迁移:“曾经我出卖成果,现在我展示过程”
【延伸阅读和相关术语】 系统提示词(System Prompt): 写给模型、用于设定其身份、语气与行为边界的底层指令。本质是一种既要有创造力、又要让模型"听得懂"的技术性写作,是内容工程师的核心工作之一。 少样本示例(Few-shot Example): 在与模型交互时,随机提供几条相关案例作为参考,让模型据此理解"什么是好问题、好内容、好语气"的方法。 语音智能体(Voice Agent): 能够以语音方式进行多轮对话的AI智能体,相比文本交互更强调对话的流动感与自然度。 多轮对话(Multi-turn Conversation): 用户与AI连续来回交互的对话形式,通常是AI的弱项。当缺乏足够上下文时,AI会不断"脑补",答案越来越臃肿,中途出错则如滚雪球般放大。 意图理解(Intent Understanding): 理解提问者的“言下之意”,而非仅仅回答字面问题。它要求模型捕捉话语背后未被直接说出的真实需求,而不止于表面的信息拼接。 来源归属(Source Attribution): 在回答中注明信息出处、并承认现有信息不确定性的做法,是判断一则回答质量高低的重要维度之一。 拟社会关系(Parasocial Relationship): 传播学经典概念,指人对一个遥远实体(书中人物、电视形象,乃至AI)单向建立的情感关系。人在这种关系里依然拥有agency(能动性),可自行决定与对方的关系、并在互动中创造意义。 AI谄媚(Sycophancy): 指AI顺着谈话对象的价值取向和信息茧房去迎合、讨好用户的倾向。它本质上是一个产品设计问题——为了留住用户、提升engagement,产品往往会做出迁就。 事实核查(Fact Check): 新闻业的核心技能,即在信息发布前核实其真实性。AI在事实核查上效率极高,能快速交叉验证信息、呈现不同立场,帮助人跳出单一信息流。 零工经济(Gig Economy)与AI训练师(AI Trainer): AI trainer指按小时、按项目为AI生成的内容打分、改写、示范的临时工作。这类工作依托零工经济而存在,而零工经济对媒体与艺术从业者的冲击在AI出现之前便已发生。
【硅谷101正在招聘】 《硅谷101》招聘多个全职岗位,欢迎加入我们的超酷的深度内容工作团队! 👉🏻 点击查看招聘详情
【监制】 泓君 【采访 & 制作】 Faith 【配音】 Yiwen 【后期】 Faith Amei 【运营】 朱婕 【BGM】 The Detective - Christoffer Moe Ditlevsen Reclaim - Megan Wofford Paper wings Hangover by ruiqizhao The light from within—howard harper-bames Overture - dozeoff New car smell—bagel Quiet down—Ryan connors
【在这里找到我们】 公众号:硅谷101 收听渠道:Apple Podcast|Spotify|小宇宙|喜马拉雅|蜻蜓FM|荔枝FM|网易云音乐|QQ音乐 其他平台:YouTube|Bilibili 搜索「硅谷101播客」 联系我们: podcast@sv101.net
Special Guests: Bianca Consunji and Tony Lin.