OpenAI 迈向前沿 AI 训练的安全论证
OpenAI 提出面向前沿 AI 训练安全论证的早期指南，覆盖技术防护措施、运营实践和错位事件调查。
#OpenAI
#OpenAI
今日 1 条OpenAI NewsAI 评分2626
Hugging Face BlogAI 评分5252 ALTK-Evolve探讨智能体实际需要多少记忆
ALTK-Evolve在AppWorld test_normal上对照八个模型发现，自蒸馏记忆的合适剂量取决于模型能力。强模型DeepSeek-V3.2注入全量指南后TGC提升9.5个百分点，弱模型gpt-oss-120b用精选检索提升16.1个百分点且token仅增5%，饱和模型GLM-5增益为0。这些指南从智能体过往轨迹蒸馏，推理时注入，不更新模型权重，也不需要人工标注。
Google Research精选AI 评分6060 Google Research 指出前沿大语言模型事实性瓶颈在于召回而非编码
Google Research 提出知识画像，发现前沿大语言模型的许多事实错误是召回失败，而不是事实未被编码。基于 2,150 条维基事实的 WikiProfile 显示，Gemini-3-Pro 和 GPT-5 已编码 95–98% 的事实，但仍有 26–34% 无法直接召回，开启思考后失败比例为 11–12%。
推荐理由：用知识画像同时衡量事实的编码和召回后，前沿模型的事实性短板更集中于已经写入参数却难以稳定取出的知识。
Import AIAI 评分5757 Import AI 467：自复制AI蠕虫原型、放缓进展请求与创造力不足
多伦多大学等机构用可装入单块80GB A100的开源权重LLM，做出自我复制的AI蠕虫原型，完整攻击成功率约37%。约1337名来自OpenAI、Anthropic、Google DeepMind、Meta等机构的人士请求美国政府支持国际努力，开发有意放缓自动化AI研发前沿所需的技术与治理工具。