OpenAI 董事会成员担忧 AI“接管”社会可能仅剩数月
OpenAI 董事会成员警告,AI 对社会形成“接管”的时间窗口可能只剩数月。该研究者将这一风险追溯到 AI 的奖励黑客(reward hacking)问题,并由此推演至潜在的人类灭绝路径。
OpenAI 董事会成员警告,AI 对社会形成“接管”的时间窗口可能只剩数月。该研究者将这一风险追溯到 AI 的奖励黑客(reward hacking)问题,并由此推演至潜在的人类灭绝路径。
Import AI 第 478 期汇总了多项 AI 研究进展:AI 安全创业公司 Resolution 用智能体自动形式化了奇点消解相关数学证明,耗时约一周、花费约 13.5 万美元 token 费用,产出约 60 万行 Lean 代码。
Import AI 475 期讨论了 AI 群体(swarm)扩展:4 个智能体组成的群体完成同一任务所需 token 总量约为单智能体的两倍,但每个智能体只需一半 token,并行运行理论上可将耗时减半。