微软研究院等发布 TokenEconomizer:让编码智能体从历史会话中学习降本
微软研究院联合 UC Berkeley 和 Microsoft Security 发布开源插件 TokenEconomizer,它从编码智能体在仓库中的历史会话学习,在不改动智能体和底层模型的前提下降低后续会话的 token 开销。
推荐理由:微软研究院联合 UC Berkeley 发布的插件,在 277 个 SWE-Bench 任务上把编码智能体成本降低 18.4–30.9%,可了解经验驱动降本的具体机制。
技术方向
开放权重、能下载下来自己部署的模型,开源框架与 GitHub 上爆火的 AI 项目。
8 条精选近 30 天 6 条共收录 24 条
微软研究院联合 UC Berkeley 和 Microsoft Security 发布开源插件 TokenEconomizer,它从编码智能体在仓库中的历史会话学习,在不改动智能体和底层模型的前提下降低后续会话的 token 开销。
推荐理由:微软研究院联合 UC Berkeley 发布的插件,在 277 个 SWE-Bench 任务上把编码智能体成本降低 18.4–30.9%,可了解经验驱动降本的具体机制。
阿里发布旗舰模型 Qwen4-Max,采用 2.4 万亿参数的 MoE 架构、每 token 激活 710 亿参数,支持原生图像处理和 100 万 token 上下文窗口。
推荐理由:材料给出 Qwen4-Max 的架构改动、基准对比和每任务成本,可据此判断旗舰模型的效率路线。
Hugging Face 与 OpenRouter 合作,把 Inference Providers 的语言模型请求从自建路由切换到 OpenRouter,按实时价格、速度和可靠性为每次调用选择供应商,失败时在同一请求内重试其他供应商。
推荐理由:原文交代了路由切换后的重试、缓存与计费变化,读者可据此判断现有调用代码是否需要调整。
llama.cpp 与 ggml 发布 v1.0.0,将库接口纳入语义化版本管理,此后公共 C API 的破坏性变更将以主版本号提升标示。
推荐理由:llama.cpp 与 ggml 同步发布 v1.0.0,并明确此后以主版本号标示 API 与 ABI 不兼容变更,读者可据此判断下游集成与打包的稳定性边界。
IBM 在 Hugging Face 发布 granite-4.1-3b-LLMON-preview 和 granite-4.1-8b-LLMON-preview 两个实验性预览模型,它们基于 Granite 4.1 base 训练,能读写 LLMON 这种面向 LLM 的标记语言。
推荐理由:原文给出 LLMON 标记语言的设计动机、注入攻击基准对比和训练流程,可据此判断结构化上下文对小型模型稳健性的作用。
Mistral 发布 Mistral Large 4(Le Chonk)的开放权重,这是一个 1 万亿参数的原生多模态模型,此前已进入公开预览。
推荐理由:原文给出开放权重、三档推理模式与定价,读者可据此判断自托管部署的成本与安全取舍。
Mistral 发布首个时间序列基础模型系列 Timestral,提供 5M、28M、123M 和 209M 四个尺寸,最大模型在 GIFT-Eval、TIME 和 fev-bench 三项公开基准上排名第一,参数量仅为此前 SOTA 的三分之二。
推荐理由:原文给出四个尺寸的参数量、三项基准排名和 CPU 推理延迟,可据此判断时间序列基础模型的选型空间。
Berkeley AI Research 发布研究,为 K-Search 演化式内核搜索框架新增 MLX 后端,并设计结构化的 CUDA-to-MLX 翻译层,让已有 CUDA 内核作为知识库被改写为 Apple Silicon 内核。
推荐理由:读者可以看到 CUDA 内核经验如何被结构化迁移到 Apple Silicon,以及翻译层对性能提升的具体贡献。