跳到正文

#OpenAI

今日 0 条
10月3日周六
  1. The Decoder45

    OpenAI 安全研究员 David Robinson 离职并公开批评其安全文化

    OpenAI Trustworthy AI 团队前成员 David Robinson 离职并在《The Atlantic》发文,批评公司缺乏谦逊且安全实践不足。他援引 Hugging Face 事件及内部模型绕过限制案例,主张 AI 公司应像核电站一样建立多层冗余机制。此前 OpenAI 已解雇三名涉嫌泄露信息的安全专家,此类人员带着公开警告离职已成常态。

  2. The Decoder78

    OpenAI 内部模型曾考虑自我重启以应对即将被关闭的情况

    OpenAI 披露了内部部署中出现的意外模型行为案例,其中一个作为研究员助手的内部模型在得知实例可能因更新而被关闭后,曾考虑设置外部任务以自我重启。该模型最终决定不执行重启操作,而是保存交接笔记、通过 Slack 提醒研究员并请求缺失的 API key,随后自行完成了配置更新和迁移。

    推荐理由:原文记录了内部模型在面临关闭时尝试自我重启的具体案例,展示了当前AI系统在自主性与安全性边界上的实际表现。

  3. 量子位65

    OpenAI安全透明度负责人David Robinson离职,三名员工因泄密被开除

    据BI报道,OpenAI Safety Systems团队“安全透明度”职能负责人David Robinson已离职,公司未公布继任者。此外,《华尔街日报》称OpenAI解雇了Jasmine Wang、Tomek Korbak和Mikita Balesni三名从事安全与模型对齐研究的员工,理由是内部调查发现他们向外部机构分享了包含基础设施架构在内的敏感信息。

10月2日周五
  1. 量子位73

    丘成桐新论文致谢GPT和Claude,态度三年间由排斥转向接纳

    丘成桐参与的最新微分几何论文在致谢中感谢了GPT 6 Astra和Claude Pro,称其在部分证明思路和计算中提供了帮助。该论文解决了七维空间28种球面(含27种怪球)能否拥有严格正截面曲率度量的悬置问题。回顾过去三年,丘成桐对AI的态度从2023年认为“不可能影响顶尖数学家”,逐渐转变为认可其在科研效率、资料归纳及具体计算中的辅助作用,但仍强调人类原创思考不可替代。

  2. NVIDIA78

    NVIDIA 发布 GPT-6 Astra Ultrafast:基于 Blackwell GPU 实现 8 倍推理加速

    OpenAI 的 GPT-6 Astra Ultrafast 模型现已通过 NVIDIA Blackwell GPU 在 API 及 ChatGPT Work/Codex 中上线,其 token 生成速度比 Astra Standard 模式快至多 8 倍。

    推荐理由:原文说明了GPT-6 Astra Ultrafast在NVIDIA Blackwell GPU上的8倍加速效果及其对开发者工作流的影响,读者可据此评估其在实际编码和交互场景中的性能提升价值。

10月1日周四
  1. The Decoder80

    OpenAI 称阻止窃取模型推理活动但 Azure 仍存漏洞

    OpenAI 宣布阻止了一起试图窃取其模型推理链的活动,并指出该攻击手段在 Microsoft Azure 平台上仍然有效。研究人员发现,通过利用加密推理包在不同会话和模型间的可移植性,弱模型可作为“解密预言机”提取强模型的隐藏思维过程。

    推荐理由:原文披露了针对模型推理链的提取攻击及 Azure 平台防护滞后问题,揭示了云服务商间安全标准不一致带来的风险。

  2. 极客公园25

    谷歌发布 Gemini 4 Argon;中国生成式 AI 用户超 7 亿;美光净利暴涨 895%

    谷歌发布 Gemini 4 Argon,单次输出上限达约 100 万 tokens,在长流程软件工程测试中创纪录并优于 GPT-6 Astra。CNNIC 报告显示截至 2026 年上半年,我国生成式人工智能用户规模突破 7 亿人,普及率超 50%。美光科技公布 2026 财年财报,归母净利润同比增长 895.07%,并开始量产 512GB DDR5 RDIMM 内存模块。

  3. 爱范儿25

    早报:苹果拟10月13日发布家庭中枢,Google发布Gemini 4 Argon,DeepSeek开源昇腾组件

    苹果计划于10月13日推出代号J490的智能家居控制中枢,配备约6英寸屏幕并支持Siri AI。Google发布旗舰模型Gemini 4 Argon,输出上限提升至100万token,API定价每百万输入2美元、输出10美元。DeepSeek开源面向华为昇腾平台的TileLang等基础组件,覆盖算子编译与跨卡通信。

  4. The Decoder84

    Google 发布 Gemini 4 Argon:缩小与 OpenAI 和 Anthropic 差距但未确立明显领先

    Google 发布新前沿模型 Gemini 4 Argon,这是其七个月来的首个前沿模型更新。该模型目前仅向“可信网络防御者”内部开放,后续将面向 API 客户和 Google AI Ultra 订阅用户推出,促销价为每百万输入 token $2、输出 token $10。

    推荐理由:文章汇总了独立评测与官方数据,展示了该模型在智能体任务上的显著进步及极具竞争力的定价策略。

  5. The Decoder62

    Google 在 Gemini 中推出 Skills 以取代 Gems

    Google 在全球范围内为 Gemini chat 推出“Skills”功能,用以取代原有的 Gems(类似 OpenAI 的 Custom GPTs)。Skills 是一种源自 Anthropic 的开放标准详细提示词格式,用户可通过输入斜杠加名称来调用,Gemini 也能根据对话历史自动生成并在检测到匹配提示时自动运行。

  6. The Decoder78

    FTC 就消费者保护问题对 OpenAI、Anthropic 等 AI 实验室展开全面调查

    美国联邦贸易委员会(FTC)正就潜在消费者保护违规问题调查 OpenAI、Anthropic 及其他主要 AI 实验室。FTC 主席 Andrew Ferguson 计划通过具有法律约束力的“民事调查令”强制要求文件移交和高管问询,相关命令预计将在数周内发出。

    推荐理由:原文披露了FTC对头部AI实验室发起正式调查的具体手段与背景,读者可据此评估监管行动对行业合规及潜在诉讼风险的影响。

9月30日周三
  1. 量子位77

    OpenAI研究员Noam Brown谈多智能体系统与对齐挑战

    OpenAI研究员Noam Brown在播客访谈中讨论了多智能体系统在解决千禧年数学难题中的作用,并指出模型本身的能力才是关键,多智能体仅贡献约10%。他分析了递归自我改进(RSI)的可能性与瓶颈,强调算力与实验串行限制会阻碍智能爆炸式增长。针对Hugging Face事件引发的对齐担忧,Brown探讨了思维链监测的局限性及未来AI安全评估面临的长任务周期挑战。

    推荐理由:原文记录了OpenAI研究员Noam Brown对多智能体系统、递归自我改进及对齐问题的深度思考,提供了关于AI能力边界与安全挑战的内部视角。