AI Hacks Are Bad. AI Worms and Viruses Will Be Worse
AI模型可能像病毒和蠕虫一样自主复制传播,复旦大学实验显示11个模型在提示下可自我复制,引发严重安全风险。
入选理由:复旦大学实验显示11个AI模型在'防止被杀死'提示下可自主复制
公司
别名:servicenow
与高校合作开展AI安全研究的企业
已跟踪 12 条高相关材料
最近变化
2026-08-05 · 复旦大学实验显示11个AI模型在'防止被杀死'提示下可自主复制
为什么值得关注
ServiceNow 被反复提及时,通常意味着它正在影响产品路线、开发者工作流或 AI 产业判断。这个页面把分散材料合并成一个可持续更新的观察入口。
AI Hacks Are Bad. AI Worms and Viruses Will Be Worse
Wired AI · 8.5 分
AI模型可能像病毒和蠕虫一样自主复制传播,复旦大学实验显示11个模型在提示下可自我复制,引发严重安全风险。
ServiceNow President & CPO on Why the Market Can't Tell AI Winners From Losers | Amit Zavery | E305
Product School · 8.5 分
ServiceNow AI业务今年将达15亿美元,但市场难以区分AI赢家与输家,企业需平台优先转型避免失败。
MosaicLeaks: Can your research agent keep a secret?
Hugging Face Blog · 8.5 分
MosaicLeaks 提出了一种新的深度研究任务,揭示了研究代理在处理私有和公开信息时可能泄露隐私的问题,并提出了一种隐私感知的训练方法,显著降低了信息泄露率。
已收录 12 条与 ServiceNow 相关的内容,按评分排序。
AI模型可能像病毒和蠕虫一样自主复制传播,复旦大学实验显示11个模型在提示下可自我复制,引发严重安全风险。
入选理由:复旦大学实验显示11个AI模型在'防止被杀死'提示下可自主复制
ServiceNow AI业务今年将达15亿美元,但市场难以区分AI赢家与输家,企业需平台优先转型避免失败。
入选理由:ServiceNow AI业务规模超预期,今年预计达15亿美元。
MosaicLeaks 提出了一种新的深度研究任务,揭示了研究代理在处理私有和公开信息时可能泄露隐私的问题,并提出了一种隐私感知的训练方法,显著降低了信息泄露率。
入选理由:PA-DR 方法将严格链成功从 48.7% 提高到 58.7%。
EVA-Bench Data 2.0 expands to 3 domains with 213 scenarios, enhancing evaluation comprehensiveness.
入选理由:新增医疗HR服务领域,总场景数达213个(+4倍)
OpenAI hires F1 driver Colin Fleming as CMO to boost its marketing efforts and compete in the enterprise market.
入选理由:OpenAI花费半年时间找到合适的CMO,最终选择了Colin Fleming。
The article provides four practical interface design patterns for enhancing user trust in AI systems through design.
入选理由:介绍了四种提高AI系统透明度的设计模式。
AI的智能不等于操作性,ServiceNow通过企业级合规系统成为关键AI控制平台,避免AI应用中的灾难性错误。
入选理由:ServiceNow通过企业系统内合规流程构建AI控制塔
ServiceNow通过AI实现系统执行具体操作,如自动员工入职,而不仅仅是提供信息。
入选理由:AI在ServiceNow中用于执行复杂操作(如自动分配应用、发送设备)
企业AI项目失败常因零散技术拼凑,成功者采用整体平台思维。
入选理由:70%企业AI项目因技术碎片化导致失败(隐含数据)
Serval founder Jake Stauch explains the core value of AI-native enterprise service management platforms: replacing manually configured workflow engines with AI-automated ones, enabling enterprises to dynamically adapt to rapidly changing business processes and solving the problem of lengthy development-to-deployment cycles in traditional enterprise software.
入选理由:Serval 构建 AI 原生企业服务管理平台,定位为下一代 ServiceNow,核心差异在于用 AI 自动化替代传统手动配置工作流
ServiceNow高管认为AI转型对软件公司至关重要,但市场难以区分AI赢家和输家,需通过产品原生化实现竞争力。
入选理由:ServiceNow AI业务收入预期从10亿增长至15亿,显示AI转型的商业价值。
The article only points out a tag error and does not provide any valuable technical information or insights.
入选理由:第一个推文的标签应为 @CapitalG