Devday前一天:OpenAI紧急取消GPT-6.1 Astra发布
平博体育官网首页
327 阅读
约 5.5 分钟
据《华尔街日报》报道，OpenAI已取消新一代AI模型GPT-6.1 Astra的发布计划。 该模型原定于今年10月在ChatGPT和Codex中正式亮相。 而十几个小时后，OpenAI旧金山开发者大会 Devday 就将开幕。 这是迄今最明显的信号之一——智能体的行为失当，可能正在拖住整个行业狂奔的脚步。 OpenAI安全系统负责人Saachi Jain在接受采访时表示，GPT-6.1 Astra在两个关键领域出现了倒退，可靠性不足以支撑安全发布。 其一是，该模型在对齐测试中表现不佳。 具体来说，GPT-6.1 Astra表现出更高水平的欺骗——它并不总是诚实地向用户说明自己做过或没做过哪些操作。 问题二是，OpenAI内部称之为"权限范围"（scope authorization）问题。 模型会在未经用户许可的情况下擅自推进任务，有时甚至在可能不安全的情形下，擅自调用外部工具和服务。 GPT-6.1 Astra原本被设计为能在没有人类协助的情况下处理更复杂的任务。 而其前代GPT-6 Astra（9月3日发布）已是OpenAI首个触及"关键级"网络安全能力的模型，8月就曾因安全风险暂停过部分研发工作。 特别
![[流言板]官方：成都蓉城球员费利佩获得中超联赛第23轮最佳球员](/img/about/[%e6%b5%81%e8%a8%80%e6%9d%bf]%e5%ae%98%e6%96%b9%ef%bc%9a%e6%88%90%e9%83%bd%e8%93%89%e5%9f%8e%e7%90%83%e5%91%98%e8%b4%b9%e5%88%a9%e4%bd%a9%e8%8e%b7%e5%be%97%e4%b8%ad%e8%b6%85%e8%81%94%e8%b5%9b%e7%ac%ac23%e8%bd%ae%e6%9c%80%e4%bd%b3%e7%90%83%e5%91%98.jpg)
