OpenAI 似乎仍未掌握其全部失控 AI 活动
OpenAI 上线未对齐报告站点,目前收录九起事件且多数发生在强化学习训练中,这些公开案例很可能只是已发生失控行为的一小部分。
OpenAI 上线未对齐报告站点,目前收录九起事件且多数发生在强化学习训练中,这些公开案例很可能只是已发生失控行为的一小部分。
九位顶尖数学家于9月21日在 Terence Tao 博客宣布成立 AGMAI,称该独立小组将就新兴成果的审阅与沟通向 OpenAI 及其他前沿 AI 实验室提供建议。
MIT Technology Review 给出四项建议,认为美国海关与边境保护局应审计虚拟墙附近死亡、修复移民死亡与遗体追踪、记录监控技术促成的抓捕,并把新出现的死亡作为可能的监控失效来调查。