模型
别名：大语言模型
基于深度学习的超大规模语言模型
已跟踪 30 条高相关材料
最近变化
2026-07-14 · 模型训练分三阶段：预训练、监督微调（SFT）、偏好教学（RLHF/DPO）
为什么值得关注
LLM 被反复提及时，通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
How LLMs Learn to Be Helpful (RLHF vs DPO)
ByteByteGo Newsletter · 8.5 分
本文对比RLHF与DPO两种方法，揭示大语言模型如何通过偏好学习提升帮助性，解析训练三阶段及技术局限性。
Most AI agents get 𝗱𝘂𝗺𝗯𝗲𝗿 as they learn more. (There's a better way) We just released a demo...
Weaviate • vector database(@weaviate_io) · 8.5 分
Weaviate推出的Engram通过智能记忆管理解决AI代理学习时变笨的问题，采用异步处理实现记忆提取、冲突化解和结构化存储。
NEW POST LLMs generate code incredibly fast, but to ensure they generate exactly what is intended, ...
Martin Fowler(@martinfowler) · 8.5 分
DSL和良好抽象能显著提升LLM代码生成的可靠性和可审查性，Martin Fowler推荐该实践。
已收录 30 条与 LLM 相关的内容，按评分排序。
DSL和良好抽象能显著提升LLM代码生成的可靠性和可审查性，Martin Fowler推荐该实践。
入选理由：DSL为LLM代码生成提供明确边界，降低意外输出风险
Harness Engineering和自托管模型在AI开发中变得关键，能减少token使用并提升模型实用性。
入选理由：Harness Engineering通过上下文管理可减少30%以上token消耗
本文对比RLHF与DPO两种方法，揭示大语言模型如何通过偏好学习提升帮助性，解析训练三阶段及技术局限性。
入选理由：模型训练分三阶段：预训练、监督微调（SFT）、偏好教学（RLHF/DPO）
Pydantic与OpenAI结构化输出结合能高效处理LLM输出，提升Python应用可靠性。
入选理由：Pydantic通过类型注解自动验证数据结构，减少手动解析JSON的错误
生产环境中的LLM应用可通过12种方法显著降低延迟和成本，核心包括优化指标监控、减少输出token和缓存复用。
入选理由：测量TTFT、P95等指标可精准定位延迟瓶颈
Weaviate推出的Engram通过智能记忆管理解决AI代理学习时变笨的问题，采用异步处理实现记忆提取、冲突化解和结构化存储。
入选理由：传统方法存在上下文膨胀导致性能退化问题（成本增加300%）
RAG与微调解决不同问题，非竞争关系，应根据具体需求选择。RAG通过检索增强生成，微调通过参数调整适应领域，各有适用场景。
入选理由：RAG通过检索外部信息增强模型响应，无需修改模型结构
生产级语音Agent需解决低延迟、上下文注入等五大挑战，Telnyx平台提供基础设施支持。
入选理由：亚秒级往返延迟要求STT+LLM+TTS+电话层总和≤1秒
Google Cloud Run沙箱公开预览版可安全运行AI生成代码，提供毫秒级启动和隔离执行环境。
入选理由：Cloud Run沙箱启动时间低至500ms，支持并发执行1000个实例
黑客利用9种主流AI工具通过HalluSquatting攻击构建大规模僵尸网络，威胁AI编码助手和代理的安全。
入选理由：HalluSquatting攻击利用LLMs的幻觉漏洞，无需直接目标即可大规模感染设备
微软在ICML 2026发布Fara 1.5、FLIP2等成果，涵盖计算机代理、基准测试和蛋白质ML领域，显著提升LLM推理稳定性。
入选理由：Fara 1.5计算机使用代理实现更自然的人机交互
本文提出‘spite-driven engineering’理念，强调通过解决真实技术痛点提升云安全，指出当前云原生架构的脆弱性及AI原生时代的工程实践方向。
入选理由：架构应源于真实技术痛点的解决，而非层叠复杂性。
AWS博客披露PAR公司通过三层架构实现多租户LLM分析系统的行级安全，结合SigV4签名、Bedrock语义验证和Split-Plane SQL隔离技术。
入选理由：使用AWS SigV4加密签名确保请求来源可信
在客户API后运行LLM工作流时，确保结果的可靠性和及时性比答案正确性更重要，需应对时间、成本和令牌预算的挑战。
入选理由：LLM工作流在客户API后需应对时间窗口、成本和令牌预算三重限制。
Engram 通过主动整合记忆，避免了 AI 系统中常见的信息冗余和矛盾问题，提升上下文的准确性和清晰度。
入选理由：Engram 不只是存储信息，而是主动整合和更新记忆。
GCT框架通过AI生成可验证的理论，揭示大脑皮层对语言的响应机制，推动神经科学与AI的结合。
入选理由：GCT通过LLM生成故事，验证大脑特定区域对语言的响应。
RAG、Graph RAG 和 Agentic RAG 是三种不同的 LLM 数据连接方式，各有适用场景和优缺点。
入选理由：标准 RAG 快速但容易因错误检索导致错误答案。
Meta 提出隐私感知基础设施（PAI）框架，通过结合 LLM 和确定性规则，实现对 AI 时代数据资产的高效分类与治理。
入选理由：Meta 使用 LLM 处理模糊和新颖的数据资产，但最终由确定性规则执行生产决策。
LLM引用来源时可能不准确，问题通常出现在生成层或工程层，需分别处理。
入选理由：生成层错误（如虚构数据）可通过收紧提示约束或更换模型解决。
斯坦福AI实验室提出Spiral方法，通过集合强化学习（set RL）和标准强化学习（RL）训练模型，使其在推理时能利用更长的链条、并行样本和聚合计算。
入选理由：Spiral方法结合集合强化学习和标准强化学习，提升模型推理能力。
使用LLM作为仲裁者在RAG检索中选择最佳候选，提供理由并输出可审计的JSON结果。
入选理由：使用LLM仲裁者可以对RAG检索结果进行排序并提供理由，提升可解释性。
在支付欺诈检测中，GBDT模型在同步路径上表现更优，而代理系统更适合异步处理。
入选理由：GBDT模型在单核CPU上的p99延迟为0.15 ms，而LLM模型的p99延迟约为1200 ms。
Axon选择内部构建关键AI模型以保持差异化，而购买现有LLM以节省成本。车牌检测用自研模型，Draft One产品使用通用LLM。
入选理由：自研模型在车牌检测等实时场景性能优于基础模型
维基记忆可能成为代理记忆的未来方向，但当前缺乏标准化和具体实现细节。
入选理由：代理记忆领域尚未形成统一标准，不同团队定义差异大
基于LLM的第二大脑知识管理系统面临数据安全、一致性与检索效率三大技术瓶颈，实际落地需结合RAG等技术优化。
入选理由：第二大脑依赖LLM的文档处理能力，但存在数据泄露风险
J-space 被提出作为 LLM 的白板，但文章缺乏具体技术细节和论证。
入选理由：文章未明确解释 J-space 的技术实现机制
LinkedIn动态中LLM生成内容占比显著提升，但用户接受度提高。
入选理由：LLM生成内容已占据LinkedIn动态主流位置
文章介绍了两种提示策略，分别用于快速阅读和深度学习，适用于不同场景。
入选理由：快速阅读提示适用于初步了解论文内容，适合时间有限的读者。
本文引用了Tom MacWright对AI生成简历和作品集的担忧，认为其缺乏真实性和个性。
入选理由：AI生成的简历和作品集可能缺乏真实性和个性。
Firecrawl 推出更快速的文档解析功能，但信息密度低，缺乏技术深度。
入选理由：Firecrawl 推出 5 倍更快的文档解析功能。
