中文大模型TOP50榜单来了：Qwen3.6登顶，DeepSeek\/智谱\/小米进前十
原本以为今天的 AI 新闻又是模型发布和参数表，结果发现真正有意思的变化，已经悄悄挪到两个地方：模型开始往手机里塞，Agent 开始补自己的失败记录。
今天的内容不硬凑数量。新闻部分挑了 Bonsai 27B、Agnost AI、三层 Agent 循环和一组关于格式敏感度的研究；GitHub 这边只留下近期仍在快速迭代、而且定位说得清楚的项目。
今天先看这三件事
1. Bonsai 27B 把 27B 级多模态模型压到 3.9GB 的 1-bit 版本，官方称可放进 iPhone 17 Pro 级别的内存预算。
2. Agent 评测之外，Agnost AI 盯生产对话里的“卡住”和“反复改写”，把真实失败变成待审核的修复项。
3. Comet、Needle、Cangjie Skill 这类项目，开始把重点放到状态、工具调用、验证和知识复用，而不是单纯换一个更大的模型。
一、手机里终于能跑大一点的模型了
PrismML 在 7 月 14 日公布 Bonsai 27B。官方公告的核心信息很简单：它基于 Qwen3.6 27B，是多模态模型，支持多步推理、结构化工具调用、视觉任务和 computer-use agentic loop。普通 16-bit 权重大约要 54GB，4-bit 版本也约 18GB；Bonsai 试图用低比特权重把体积压下来。
它给了两个版本：三值权重版本约 5.9GB，偏质量；1-bit 版本约 3.9GB，偏体积。官方还写了 262K 上下文、视觉塔和 speculative decoding。这里要把边界说清楚：这些是 PrismML 的公告口径，不是我拿手机独立跑出来的 benchmark。真实可用速度、散热和续航，还得看具体设备。
但方向已经很明确了。端侧模型不再只追求“能聊天”，而是开始把看截图、读文档、调工具这些动作一起塞进设备。对隐私敏感、网络不稳定，或者只是想让个人 Agent 少把数据送上云的人来说，这比又多一个聊天机器人更值得盯。
二、Agent 的问题，不只在模型答错
Agnost AI 的切入点很实际：它不先问你的 eval 分数多高，而是去读生产环境里的 agent 对话，看用户有没有反复换说法、对着机器人发火、卡在同一个步骤，或者聊到一半就不转化。官网说，它会把这些模式整理成团队可以审核的修复项，并且支持任意 LLM 和框架。
这件事让我想到真实工作流里的一个老问题：我们通常只保存“成功回答”，很少保存“用户为什么连续问了三遍”。结果就是离线测试看起来不错，一上线还是有人被卡住。生产对话不是干净的 benchmark，它里面有口误、情绪、上下文缺失，也有产品本身没有覆盖的需求。
所以 Agent 的可观测性不能只看延迟和 token。至少还要看失败发生在哪个环节：模型没理解，工具没执行，状态没保存，还是产品根本没有给用户出口。Agnost AI 的价值，暂时更像把这类信号捞出来，而不是替你自动证明“修完就一定变好”。
三、Agent 不是一个循环，是三层循环套在一起
Bobby Tables 的文章把 Agent 拆成三层：推理循环负责调用模型、维护消息历史；工具循环负责执行工具、把结果放回上下文；任务循环负责目标、重试、停止条件和更长时间的状态。这个拆法不花哨，但很适合拿来排错。
我自己看 Agent 报错时，最容易把三件事混成一件：模型没有输出，等于工具坏了；工具返回了，等于任务完成；任务没完成，等于模型不够聪明。实际上，很多“模型不行”的现场，问题在任务循环没有定义什么时候停，或者工具结果没有被稳定写回。
这也是今天几篇内容能放在一起看的原因：Needle 在做更小的工具调用模型，Comet 在做可恢复的工作流，Agnost AI 在看生产失败，三者解决的不是同一个层面，但都在把 Agent 从一句 prompt 拉回到一套可检查的系统。
四、今天筛出的 3 个 GitHub 项目
GitHub Trending 的 NEW 不等于“今天新建”。脚本实际给出 18 个 NEW，但里面混着十万星的老项目和总星排序项目。我又查了创建时间、最近 push 和 README，只留下下面三个；星数是 2026-07-15 GitHub API 快照，会继续变化。
| 项目 | API 快照 | 我为什么留它 |
|---|---|---|
| cactus-compute/needle | 3,097 stars 2026-02-24 创建 | 2,600 万参数，面向本地工具调用 |
| rpamis/comet | 2,270 stars 2026-05-14 创建 | 可恢复长任务、阶段守卫和 Skill 评估 |
| kangarooking/cangjie-skill | 2,899 stars 2026-04-16 创建 | 把长内容蒸馏成可调用、可测试的 Skill |
Needle 的 README 说，它把 Gemini 3.1 蒸馏成 2,600 万参数的 Simple Attention Network，提供 playground、工具调用和 finetune CLI；官方同时提醒这是实验性项目，小模型在通用对话上不一定占优。
Comet 的 README 定位更像“工作流运行时”：把 OpenSpec、Superpowers、Skill 创建、评估和发布串成闭环。0.4.0-beta.1 已转成纯 Node runtime，不过 beta 就是 beta，真正部署前要看自己的项目是否接受它的状态机和阶段约束。
Cangjie Skill 做的是知识复用。它的 RIA-TV++ 流水线会从书、视频、播客里抽候选方法论，再做交叉验证、边界补全和压力测试。它不是把长文压缩成摘要，而是试图产出能被 Agent 调用的 skill 包。这个方向和“收藏了很多内容但用不起来”的真实痛点更贴。
五、还有几条值得记下来的信号
Format Sensitivity Index 论文做了 14 万次 OpenRouter 生成，研究 prompt wrapper 只改格式时，准确率和答案可解析性会怎么变化。这个提醒很重要：模型分数不只由“模型是谁”决定，包装方式也可能把 leaderboard 结论推来推去。
另一篇 relay 研究把消息在多个 Agent 之间传递 6 跳，比较自然语言、JSON、三元组和 key-value 等格式，关注的是复制保真，不是单轮生成。换句话说，单个 Agent 会答，不代表一串 Agent 接力后还记得原话。
还有一篇关于 Godot 游戏生成的论文，把“生成项目能不能无头启动”作为硬门槛。14B 模型在特定 GameCraft-Bench 任务里，clean generation 从 8.8% 升到 42.2%。这个数字很漂亮，但只能说明在那套任务、模型和训练流程里有效，不能外推成所有代码 Agent 都会这样。
六、我今天的判断
今天几条新闻放在一起，主线不是“又有一个模型变强了”。更像是两边同时在补课：模型侧把能力压到端上，工程侧把状态、工具和失败信号补齐。只有这两件事一起发生，Agent 才可能从演示里的聪明，变成真实 workflow 里的可靠。
我更愿意把 Needle 当作端侧工具调用的实验样本，把 Comet 当作长任务控制面的样本，把 Agnost AI 当作生产反馈面的样本。它们都还不能替你省掉验证，但至少把“哪里可能出问题”说得比一句“模型再大一点”具体。
如果你主要写小工具和本地模型，先看 Needle 的 playground 和工具调用示例，别一上来就把它当通用聊天模型。
如果你在搭 Agent 工作流，把推理循环、工具循环、任务循环拆开，先找状态和停止条件的问题。
如果你想看清 Agent 到底哪里会坏，别只跑离线 eval，留一份生产对话里的真实失败记录。
六六爸比，本文作者，85后科技IT爱好者。
这篇内容写的是公开资料和当天 API 快照，项目版本、星数和论文结果都可能继续变化。遇到真正要部署的项目，先读 README，再自己跑一遍。