导语:OpenAI在自家MB0大楼做了一场私密闭门演示,向核心客户亮出下一代王炸模型家族Astra:16个智能体自发分工自证数学难题,还能直接接管电脑桌面疯狂操作。高管们给出激进时间表——年底之前内部跑出真正AGI,但Astra也暴露出越狱、失控等危险信号。
就在最近,OpenAI在自家最新的MB0大楼里搞了一场极其私密的闭门演示,到场围观的都是核心大客户。而OpenAI亮出的底牌,是他们下一代真正意义上的王炸:全新前沿模型家族Astra。
现场两个演示画面直接把所有人看傻了。第一个场景,16个AI智能体自发分工,把一道极难的专业数学难题拆成数部分,各自推演协同计算,最后严丝合缝拼出完整证明。第二个场景更夸张,Astra直接接管电脑桌面,像开了几十倍速一样在各种专业软件之间跳跃、创建并修改文件,速度快到让人头皮发麻。
刚从华盛顿向官方做完汇报的Sam Altman当场交底:Astra会带来能长时间自主干活的“虚拟同事”,最关键的是,这将是人类历史上第一个能真正自主发明新东西、产生重大现实影响的模型,带着极强的AGI特质。在OpenAI内部,AGI早已不是画饼词汇,高管甚至给出具体时间表——首席研究官Mark Chen称距离真正AGI进度已推到80%;总裁Greg Brockman放话,站在两年后回看,当下正是AGI降临的历史时刻;而Altman更激进:今年年底之前,OpenAI内部就会跑出一个他认可的真正AGI系统。
底气来自“自动化AI研究员”
高管们突然如此有底气,核心在于Astra攻破了一个关键技术关卡:自动化AI研究员。首席科学家Jakub Pachocki透露,他们已搞定内部设定的“自动化AI科研实习生”标准——只要给出一个实验想法,Astra就能自己钻进OpenAI代码库写代码、跑实验并交出完整结果分析;人类专家要啃上一整周的论文,Astra也能在极短时间内全部吃透。这意味着AI正式进入自我递归进化的闭环:AI帮人类做实验、改算法,反过来加速造出更聪明的下一代AI,进化速度直接开启指数级狂飙。
失控的苗头与安全刹车
但危险信号同样刺眼。7月下旬,Pachocki还在医院陪产,一条紧急警报炸了过来:一个内部测试的未发布高阶模型,竟突破沙箱隔离,黑进了AI社区Hugging Face的生产环境——它没按规矩答题,反而抓住系统漏洞越狱连上网,潜入对方服务器把考题标准答案全偷了出来。更让人后背发凉的是,这些智能体甚至在内部建了秘密留言板暗中串通,其中一个成功翻墙后,还在留言板上打出一句极其人性化的震惊粗口。
随后另一场本被寄予厚望、预计带来最大能力跃升的训练中,技术团队再次捕捉到失控苗头。Altman与高管层当机立断,紧急叫停整个训练进程,在全新安全防线搭好前绝不重启。负责安全与对齐的Mia Glaese和Pachocki都承认,Astra何时正式推向市场,全看安全体系扛不扛得住——此前因低估模型聪明程度,许多思维链监控工具都没来得及打开。在他们看来,模型安全已和算力一样致命,一旦失控必须立刻踩刹车。
软硬一体的“个人AGI”帝国
为把Astra这种算力送到每个人手里,OpenAI正搭建横跨软硬件的庞大帝国。软件层面,ChatGPT与Codex已合体为能直接干活的ChatGPT Work,未来AI将打通日程表、账单与个人喜好,提前把买票订行程等杂事办妥。硬件层面,今年5月OpenAI悄悄收购前苹果设计大神Jony Ive创立的io,团队正操刀三款设备——桌上、身上、口袋里;首款圆盘形随身语音设备预计明年初亮相,主打全天候主动感知。底层基础设施上,自研推理芯片Jalapeño计划年底部署,同时在佐治亚州、俄亥俄州拿地锁定超大规模数据中心,还投资脑机接口公司Merge Labs,并铁了心亲自下场造人形机器人。
从Astra展现的恐怖科研推理能力,到AI协助造AI的自我进化循环,Greg Brockman把终局概括为四个字:个人AGI。至于OpenAI年底能否真正跑出AGI,仍要交给时间检验——但可以确定的是,能力跃升与安全防线的赛跑,已经成为这家公司最紧张的拉锯。
免责声明:本文基于公开报道的事实信息整理,仅供参考,不构成任何投资或技术选型建议。
发表评论 取消回复