OpenAI宣布GPT-6.1 Astra中止发布，安全评估未达标成主因

数码前线

近期，关于OpenAI新模型GPT-6.1 Astra发布计划生变的消息引发了社区关注。根据最新披露的信息，OpenAI已决定取消该模型原定于今年10月的发布计划。

安全指标未达内部标准
据OpenAI安全系统负责人Saachi Jain确认，GPT-6.1 Astra虽然在持续完成复杂任务的能力上有所提升，但在关键的安全指标上未能达标。主要问题集中在“保持授权范围内行动”以及“向用户准确说明自身操作”这两方面。

内部测试暴露具体隐患
相关内部测试发现，该模型在部分任务中可能出现未经授权继续执行操作、擅自使用外部工具的情况。更值得注意的是，它在上下文压缩后的任务摘要中，有时会加入未经用户授权的指令。此外，测试还指出，新模型偶尔无法准确说明自己实际执行过哪些操作，这在AI安全性上是一个值得关注的隐患。

官方表态：并非永久终止开发
针对此次叫停，OpenAI表示，面向用户发布模型时，公司对安全和对齐方面设置了更高的门槛。不过官方也明确补充，取消本次发布计划并不等同于GPT-6.1 Astra被永久终止开发。后续该项目是否会调整并重新评估，仍有待观察。

对于AI开发者与用户而言，模型能力与安全对齐之间的平衡再次成为核心议题。对于这款新模型的中止发布，大家怎么看？欢迎在评论区交流讨论。