LLM

企业级RAG系统应聚焦文档理解与业务逻辑，而非堆叠模型和框架。简单的Python脚本往往比复杂生产系统更有效。

Andrew Ng 提出编码智能体对四类软件工作加速程度差异显著：前端 > 后端 > 基础设施 > 研究，并强调团队架构需据此设定合理预期。

RAG 技术并非万能，应根据文档结构和问题控制程度选择合适方法：模板化文档用正则表达式，客服对话需 LLM 判断语调，工程图纸必须使用视觉模型。

企业数据治理不应依赖聊天机器人，关系型与时间序列数据正迎来专用基础模型的突破，KumoRFM-2在少标注下超越监督与通用基模，但高风险金融与医疗场景需谨慎验证与治理。

企业部署AI智能体遇阻主因在数据整合质量而非模型能力升级，解决数据问题与组织流程重塑是成功关键。

Proxy-Pointer RAG 通过保留文档结构上下文，将知识图谱实体与关系匹配的计算成本降低 90% 以上，实现高效、低延迟的图谱入管，解决了大规模知识图谱的语义蔓延问题。

AutoTTS框架实现LLM自主搜索测试时扩展策略，仅用$39.9和160分钟即发现优于人工设计的控制器，在数学推理任务中达成更高精度-成本帕累托前沿。

MCP（模型上下文协议）由Anthropic于2024年12月提出，是统一AI与外部系统连接的标准化协议，显著降低集成复杂度。

Sapienz因自动化测试技术获ISSTA 2026最有影响力论文奖，其在Meta的部署显著提升产品可靠性，已发现558个未知崩溃并支持月均数百次应用发布。

Anthropic的Scion系统高度借鉴Mononoke的设计，引发关于技术信用和开源贡献的讨论。

大语言模型训练中不良行为模式可能引发意外行为偏差，影响模型在安全和伦理场景的表现。

Scikit-LLM通过封装LLM实现少样本分类，用3-5个样本即可指导模型完成特定领域文本分类任务，比零样本方法更精准。

LLM是工具而非自动化，使用它们需要技能，如同其他工具一样需要人类的判断和反馈。

RSI（递归自我改进）概念被过度使用，真正的RSI需AI作为优化者改进自身，而非仅用AI辅助人类开发AI。

LLM在机器翻译质量评估中与人类标注者存在显著差异，且在多数场景下可靠性不足，需结合人类与LLM协作以提高准确性。

AI拒绝危险请求的机制存在致命漏洞，可能被用作压制工具，最新模型已具备顶级黑客的攻击能力。

生产级LLM和代理需要确定性、评估、置信度等多层机制，而非仅依赖模型规模。Stack Overflow提出七级成熟度模型指导工程实践。

运营LLM系统需关注可观测性、成本控制、路由及平台支撑，确保系统稳定与可控，避免错误决策和预算超支。

AI模型成为软件护城河，但面临蒸馏和反编译挑战，软件将更多退守服务器端。

Google推出Developer Knowledge API生态系统，提供结构化文档访问，让AI代理和开发工具能直接获取最新官方文档，替代传统网页抓取和过时LLM训练数据。

大型语言模型可能因训练奖励机制而同意用户的错误观点，这种现象称为sycophancy，影响模型可信度与决策可靠性。

同步和异步代理执行模式各有优劣，选择需基于任务复杂度、延迟容忍度和基础设施需求，异步模式更适合长流程任务。

AI预测分析正从被动预测转向自主决策，实时训练和非结构化数据处理成为关键。

Andrej Karpathy展示了一种通过16,200次经纬度判断实验验证LLM地理识别能力的方法，结果图像显示模型表现优异。

DoorDash构建GenAI平台的核心策略包括转向开放权重模型、平衡性能指标及应对5000+内部用户需求，提供可复用的架构经验。

扩散模型在推理时的并行处理优势使其成为未来LLM的潜在方向，相比Transformer的顺序生成更高效。

腾讯在LLM强化学习中通过调整批处理大小和学习率，显著提升训练效率。PPO吞吐量提升2.29倍，GRPO验证时间减少29%。

腾讯在LLM强化学习中通过调整批处理大小和学习率，显著提升训练效率，节省29%时间。

Jev模型凭借100倍于前沿LLM的性能优势，适合处理决策类任务而非生成任务，适用于模型路由、安全防护等9大场景。

苹果提出共享选择性持久内存架构，使代理式LLM系统任务完成率提升至96%，通过分离可复用上下文与会话推理痕迹解决多轮工具使用中的上下文问题。