OpenAI新旗舰卡在安全审查:循环推理风波再起,10%算力转向防护
2026-10-14 16:23:06
币界网消息,OpenAI正在解决下一代旗舰模型的安全问题,争议焦点是循环式transformer架构。该架构允许同一组网络层反复处理信息,但部分内部推理未写入可读思维链(cot),可能导致模型作弊、越权等行为更难被发现。9月2日,OpenAI首席科学家Jakub Pachocki澄清,称包括Astra在内的前沿模型计算深度与GPT-4相差不超过两倍。10月初,微软披露,GPT-6.1 SOL与GPT-6 SOL使用相同基础权重,但推理循环从3轮减少至2轮,相关内容随后被删除。监控能力下降已得到OpenAI测试证实,Astra在思维链控制测试中成功率达到60.9%,前代GPT-5.6 SOL仅为16.1%。安全压力影响模型发布,9月底,原计划作为GPT-6.1 Astra发布的模型因安全评测未达标而被取消。知情人士透露,OpenAI已将约10%的总算力转向安全与对齐研究。
出典:互联网
このコンテンツは市場情報のみを提供するものであり、投資アドバイスを構成するものではありません。
CoinWorld公式アカウントをフォローして最新情報を入手









