逾20位顶尖AI研究者警告自动化AI研究构成极端风险
逾20位顶尖AI研究者在新论文中警告,AI研发自动化虽仍有很大不确定性,但可能很快引发智能爆炸。研究称,构建这些系统的公司里AI已写出大部分代码,并可能在数年内自动化整条AI研发流程,使通常需数年的进展在数月内发生。作者警告社会可能跟不上、对超人类AI的控制可能流失,并敦促政策制定者大幅提高对AI研究自动化的可见性。
逾20位顶尖AI研究者在新论文中警告,AI研发自动化虽仍有很大不确定性,但可能很快引发智能爆炸。研究称,构建这些系统的公司里AI已写出大部分代码,并可能在数年内自动化整条AI研发流程,使通常需数年的进展在数月内发生。作者警告社会可能跟不上、对超人类AI的控制可能流失,并敦促政策制定者大幅提高对AI研究自动化的可见性。
OpenAI 提出面向前沿 AI 训练安全论证的早期指南,覆盖技术防护措施、运营实践和错位事件调查。
慕尼黑CESifo工作论文称,没有证据表明近期大学毕业生招聘在绝对或相对水平上出现显著、广泛的替代或减少。作者Robert Fairlie与Jane Wu聚焦应届生,认为劳动力需求变化可能先表现为少招人;当AI足以完成许多入门办公室工作中相对标准化的任务时,企业可能减少简单岗位的新招聘,而非解雇更有经验的长期员工。
Google Research 介绍基于 Gemini 与 Veo 的 AI 视频协同导演,用多智能体编排规划多镜头长视频的视觉连续性。该套件包括将于 COLM 2026 发表的 Co-Director、将于 EMNLP 2026 发表的 CANVAS,以及 A²RD 与 VQQA,分别处理创意配置、持久视觉记忆、分段生成和提示词闭环修正,并继承 SynthID 水印。
NVIDIA 联合 Google DeepMind、EMBL-EBI 等机构,通过 AlphaFold Database 公开超过 2800 种病毒蛋白复合物的预测三维结构,供各地科学家为未来疫情提前积累结构知识。
Microsoft Research 发现,把物理 AI 推理卸载到边缘或云端 GPU 可提升任务表现。在内存足够时,建图与规划比 A100 最多慢 383%,较轻 GPU 使障碍及时检测降 30%,较小 GPU 使 VLA 准确率降 50%。Jetson Thor 等较大机载 GPU 可使耗电增加最多 160%。
RetroChimera 融合 R-SMILES 2 与 NeuralLoc,用学习排序整合互补预测,提出优于任一子模型的小分子合成路线。盲测中博士级化学家更偏好其单步反应预测,而非先前模型与文献记录反应;10 个高难度目标成功 9 个,高于从头模型 5 个、编辑模型 4 个和 NeuralSym 2 个。
Multiverse 把大语言模型的块移除写成 Ising glass 上的受约束二元优化,Llama-3.3-70B-Instruct 在 50% 压缩时 MMLU 比最佳同类块移除方法高出近 23 个百分点。
Google Research 推出 C++ 实例生成器 MilleMiglia,为中程配送问题生成真实、保护隐私的基准数据。中程物流被建模为时空图上的多商品流,不同于首末程的车辆路径问题。源代码与文档已在 GitHub 公开,用以弥补该领域缺少高质量公开数据的不足。
Google Research 分享一项研究实验,让教育者用面向学习优化的生成式用户界面,按课程与教学目标动态生成定制的互动教学模拟。示例库放出超过 30 个英语 STEM 学习互动,覆盖物理、化学、生物和数学,面向初中与高中,均由 AI 生成并经教师审核。
Google Research的Retrieve-for-Train将查询扇出蒸馏为53.9M扩散检索器,单次推理免去思考token。框架以集合级奖励对Gemma3-4B与Qwen3-4B做离线RL微调,并由冻结模型合成无需人工标注的监督数据。扩散检索器以一次非自回归前向,把查询嵌入直接映射为完整目标嵌入集合。
Google Research 联合 HHMI Janelia、MRC 分子生物学实验室和剑桥大学等合作者,在 Cell 发布雄性果蝇脑及中枢神经系统的完整连接组。
Google 的 MAPL-EMIT 用深度学习处理 EMIT 高光谱数据,自动检测并定位全球甲烷点源。专家标注羽流召回率达84%,信噪比高于匹配滤波增强方法,训练数据为3.6 million条合成羽流。全球羽流数据库已放上Earth Engine,训练模型与合成羽流在Kaggle,推理库在Github。
华盛顿大学、斯坦福大学等高校提出 SPADE,让大语言模型以自对弈交替生成可执行训练环境并求解,用来合成训练数据。Qwen3-30B-A3B 的游戏环境套件平均分为 58.3,比基座高 8.1、比最强固定环境基线高 5.3。METR 研究显示,LLM 对网络安全漏洞发现加速明显,数学仅轻微加速,AI 研究算法进展则没有可测到的加速。
MindTopo 基准显示,多模态模型识别静态拓扑关系的表现明显强于交互规划,且两者都远低于人类。它按连续性、分离、顺序、包围和结五类,分别测试推理与规划;规划错误常出现在理解场景之后,模型会丢失结构关系或提出违反环境动态的动作。图像生成只在关系可见于单帧时偶尔有帮助,视频推演则经常改变拓扑或违反任务动态。
微软研究院发布开源框架 Orchard,用 Kubernetes 环境服务 Orchard Env 在 Codex、OpenClaw、ZeroClaw 等真实框架中训练软件工程、网页与助手智能体。
推荐理由:微软研究院的 Orchard 用可复用环境让智能体在真实部署框架中训练,约 3B 激活参数的开放模型因而在 SWE-bench Verified 上达到 69.7% 并在价值模型重排后升至 73.0%。
多伦多大学等机构用可装入单块80GB A100的开源权重LLM,做出自我复制的AI蠕虫原型,完整攻击成功率约37%。约1337名来自OpenAI、Anthropic、Google DeepMind、Meta等机构的人士请求美国政府支持国际努力,开发有意放缓自动化AI研发前沿所需的技术与治理工具。
微软研究院构建 Echoverse,用十个深度领域世界和两个能力世界训练计算机使用智能体。在全部十二个世界上训练后,Qwen3.5-9B 的平均分从 36.5% 升至 67.1%,距 GPT-5.4 的 80.7% 约十四个百分点。
GRASP 是面向学习得到的动力学(世界模型)的新型梯度规划器,靠三项设计让长时域规划变得可行。它将轨迹提升到虚拟状态,使优化可沿时间并行;把随机性直接加进状态迭代用于探索;并重塑梯度,让动作获得干净信号,同时避开高维视觉模型中脆弱的 state-input 梯度。
NeurIPS 2025 论文提出用互信息直接评估并优化成像系统,仅依赖含噪测量与噪声模型。该指标在彩色摄影、射电天文、无透镜成像和显微四个领域均能预测下游解码表现。据此优化的设计可匹配端到端 SOTA 方法,同时更省内存与算力,且无需任务专用解码器。