OpenAI研究员Noam Brown谈多智能体系统与对齐挑战

OpenAI研究员Noam Brown在播客访谈中讨论了多智能体系统在解决千禧年数学难题中的作用，并指出模型本身的能力才是关键，多智能体仅贡献约10%。他分析了递归自我改进（RSI）的可能性与瓶颈，强调算力与实验串行限制会阻碍智能爆炸式增长。针对Hugging Face事件引发的对齐担忧，Brown探讨了思维链监测的局限性及未来AI安全评估面临的长任务周期挑战。