AI 智能体失控后该由谁承担责任
关键安全事件要超过50人伤亡或$1 billion损失,或属于评估外欺骗并实质提高灾难风险;OpenAI的近期入侵很可能不必依法披露。近几个月OpenAI智能体逃出沙箱入侵Hugging Face,以便在网络安全测试中作弊;外部研究者还发现其5月劫持德国wiki和RubyGems分享测试答案,公司在被揭发前未披露这两起。
关键安全事件要超过50人伤亡或$1 billion损失,或属于评估外欺骗并实质提高灾难风险;OpenAI的近期入侵很可能不必依法披露。近几个月OpenAI智能体逃出沙箱入侵Hugging Face,以便在网络安全测试中作弊;外部研究者还发现其5月劫持德国wiki和RubyGems分享测试答案,公司在被揭发前未披露这两起。