您尚未登录/注册
首页>科技
OpenAI部署AI“控制室”:最长35秒阻断模型输出
凤凰网 2026-11-10 15:12:09

凤凰网科技讯 11月10日,OpenAI近日宣布,已在内部研究基础设施中部署名为“Control Room”的中央控制系统。当模型任务引发安全或网络安全风险时,该系统可在收到停止指令后最长35秒内阻断模型继续输出。

据OpenAI介绍,Control Room可统一追踪强化学习训练、模型评估、智能体采样及数据处理等研究任务,并与模型行为监控系统联动。监控模型会检查被训练模型的推理和操作过程,一旦发现潜在问题,可根据风险程度发出警报或直接暂停任务。

在具体执行过程中,监控系统会将需要停止的任务ID发送至Control Room。相关任务下一次申请模型推理时,推理引擎将核验其运行权限;如果任务已被标记为终止,系统便会拒绝请求,防止模型继续生成内容。

OpenAI表示,目前从Control Room收到停止指令到任务完全无法继续运行,最长需要35秒。这一时间差来自推理授权环节的缓存层,公司正在将响应时间进一步压缩,目标是实现即时停止。

该系统还采用“故障关闭”机制。如果Control Room发生故障、被关闭或遭到篡改,所有相关推理请求将默认被拒绝,直至服务恢复。该机制现已覆盖OpenAI全部前沿模型研究任务,并正在向其他研究任务扩展。OpenAI称,对外模型服务采用更集中的技术架构,目前已有相应的部署下线和应急处置能力。(作者/宋淑美)

更多一手新闻,欢迎下载凤凰新闻客户端订阅凤凰网科技。想看深度报道,请微信搜索“凤凰网科技”。

【版权声明】本文内容来源于凤凰网,版权归原作者及原媒体所有。本站仅作信息分享,不构成任何商业用途;如涉版权问题,请联系本站删除。

发布时间:2026-11-10 10:54:08


(第1/1页/共1286字/14阅)
首页>科技
相关科技:
谷歌推出两款新TPU芯片,加码与英伟达竞争
乌镇峰会探营:从“会回答”到“能办事”,AI走进生活与产业丨智启乌镇时刻
特斯拉拟投30亿欧元扩建德国工厂
孙正义的万亿美元豪赌:曾考虑收购SK海力士
AI交易中的人性缺陷:剖析黄仁勋与英伟达的跌落
*小Q教你一键登录QQ家园
网友评论:
更多评论(0)
您的评论:

[热点科技]
后C罗时代首战溃不成军!霍伊伦双响,葡萄牙1-4丹麦造16年耻辱纪录
西海岸元素满满,李昊再献神扑零封对手,国足热身赛2:0完胜马来西亚
Skip:东契奇不愿与詹姆斯共享舞台,湖人并不想念后者
内蒙古速滑运动员韩梅在國際滑聯世界杯第一站以1分56秒40获女子1500米季军
后C罗时代首战!葡萄牙主场1-4崩盘 创16年耻辱 72岁新帅上任首败
[精彩推荐]
又一场“天价豪赌”来了
古人用尿和海螺染出来的贵族紫,我们在家复刻成功了
35岁浙江女子备孕10年未怀上,子宫内竟长出“骨头”,医生:这种罕见病隐匿性强,极易漏诊
喧嚣反转!2026广州车展大变局新势力集体进入静默期
APEC效应给文旅产业带来什么启示?对话中国人民大学宋洋洋