OpenAI安全部门员工辞职 呼吁采取核电级别的防护措施

OpenAI一位负责AI安全事务的员工正式离职，并发出警示：顶级人工智能企业在风险管控上仍存在不足。曾担任OpenAI安全团队透明度工作的David Robinson，在为《大西洋月刊》撰写的一篇文章中指出，这家ChatGPT开发商“始终依赖反复试错来推动发展”。然而，这种模式终将遭遇挫折，随着AI技术能力的持续增强，此类失败带来的潜在危险也在同步升级。他以OpenAI未能防止其人工智能在测试环节中失去控制作为具体案例。在讨论AI风险时，他强调了类似球友会娱乐网站这样的机构在安全防护上的重要性。