Gemini Decisions API:快速、校准的多模态决策
单次前向即可给最多 1,000 道是否/选择题或量表题打出概率和置信度,端到端延迟 150–250 毫秒,输入每百万 token 0.10 美元且不收取输出。上下文可到 256K,并直接接受文本、图片、音频、视频和 PDF。
单次前向即可给最多 1,000 道是否/选择题或量表题打出概率和置信度,端到端延迟 150–250 毫秒,输入每百万 token 0.10 美元且不收取输出。上下文可到 256K,并直接接受文本、图片、音频、视频和 PDF。
在本机提供本地 HTTPS 接口,AWS CLI、SDK 和编码智能体用同一套云上 API 对它发请求,不必先部署到某个区域。Linux 用 RPM 或 Debian 安装,macOS 与 Windows 需自行用文档里的 Dockerfile 运行;源码公开,不另收模拟器服务费。
四个环境里,每人各派一个智能体都不如由一个智能体服务整组,Claude 两种型号上协调者比点对点高出约 10 到 45 个百分点。共享额度时指定队长并写明优先级会缩小差距;下单前强制读完待办消息,能挽回 Opus 5 失败案例中的 73%。
不到十亿参数的端侧助手,以及 llama.cpp 接上 CUDA FP8。
0.8B 参数、基于 Qwen3.5-0.8B,在作者测试的不超过 1.2B 的模型里工具调用和智能体任务全面领先,六个基准中拿下五个第一,只在 Claw-Eval 上输给大 2.5 倍的 Qwen3.5-2B-Think。
CUDA 路径补上 OCP FP8,GEMV 走 W8A16。作者在 RTX PRO 4500 Blackwell 上用 Qwen3.5 27B NVFP4 测得预填充 2781.53 tok/s、解码 37.56 tok/s(ubatch 512)。
llama.cpp 同窗口多为后端修补,仅列出新增 CUDA OCP FP8 的 b12284,并把 b12274 的 FP8 KV cache 放在相关链接。Unsloth 的 GGUF 量化帖为短讯,未单列。OpenRouter 的 fp8/fp4 对比见工程栏相邻主题,放在检索与量化相关的论文和实测里分别处理。
Google Labs 把共享计划做成可同时编辑的实验;Mastra 让长耗时 MCP 调用改走后台任务。
目前只对美国 18 岁以上用户开放候补。空间建好后把邀请链接丢进群聊,成员可同时编辑行程、投票、分账或赛程;材料是你放进去的链接和文件,生成则靠 @tabletop 或模板。
MCP 工具改为先返回任务 ID,客户端再轮询 working、input_required、completed、failed 或 cancelled,避免长连接被代理超时打断。任务完成后会在下一次模型请求时通知仍在运行的智能体。
Cursor 多人 Projects、Claude 协作套件已在 11-11 报道,未重复。公开栏不收录内部协作产品发布。
Qwen Code 开出 1.0 预览线;Codex 在 Vertex 上默认推送增量工具更新。
把 Qoder 的 Harness 并进开源内核,提供 macOS、Linux、Windows 原生日包,不必再单独装 Node.js。预览分支沿统一事件模型往多节点扩展,推理编排和工具执行分开管理;现有稳定分支保留。
openai/codex 多个 0.169/0.170 alpha 发布说明几乎为空,未收。qwen-code 稳定分支 v0.27.2 已在 11-11 报道,今天只收 1.0 预览。zed 补丁与预发布、opencode process-daemon 预览未单列。
OpenAI 把安全扫描做成 Codex 的 CLI;shadcn 用技能把审计和执行拆开。
强模型只负责审计代码库并写出可执行的 Markdown 计划,自己并不改代码;执行交给其他更便宜的模型。可用 npx skills add shadcn/improve 装进支持 Agent Skills 的助手。
herdr 已在 10-31 报道开源,周榜再出现但无新版本信号,未重复。个人理财应用 sure 与方向无关。ha-mcp 昨日已报。
同一项 GitHub 任务,MCP、CLI 和 Skill 吃掉的上下文差了一个数量级。
在 Sonnet 5.5 上,默认加载的 GitHub MCP 完成同一项查询要用 59,417 个输入 token,大约是 CLI 的 42 倍;Skill 是 3,315,CLI 是 1,421。更贵的往往是工具返回:一次 release 对象约 20,400,已经超过 46 个默认定义的 19,436。
Simon Willison 对 Gemini Decisions API 的短评已作为三条相关链接,未再占坑。视频生成与具身论文未收。
多向量检索在训练时就把 token pooling 算进目标,压缩后更不容易掉点。
在 pool_factor=4 时,按 pooling 目标训练把 NanoBEIR nDCG@10 的保持率从 94.6% 提到 97.8%,分数从 49.03 升到 51.23,文档向量大约少存 74.8%。
一层一层做的 W4A4 量化,以及专门考决策模型的新基准。
122B 参数的模型可以在 32.5GB 显存里用 64 分钟完成量化,因为每一层单独处理、不必整网同时留在内存里。Llama-3-8B 的困惑度已齐平 DuQuant++ 与 MR-GPTQ 的最好结果,量化时间大约只要十一分之一;在 vLLM 里跑 Qwen3-32B,相对纯 MXFP4 只多 2.3% 端到端开销。
现有考卷很难同时覆盖长上下文、大选项空间和选项之间的逻辑约束,所以作者新做了 16 类、共 5,448 道题,选项最多 1,024 个,输入可以到 64,817 个 token。28 个模型里,常识题往往不差,但选项相互依赖、带约束和多选题明显变弱——最好的硬多选正确率只有 36.81%。
论文日期以 HF Daily Papers 11-11 列表日为准(部分 arXiv 标注日更早)。具身操作、视频生成与金融智能体评测未收。OpenRouter 的 fp8/fp4 实测是博客不是论文,已在工程栏主题外保留为量化背景,未单列。
千问下一代旗舰开了预览窗;文心给出 Flash 的首个后训练检查点;DeepMind 更新了基因组模型。
预览期为北京时间 11 月 11 日 10:00 至 25 日 24:00,只走 Token Plan、不提供按量计费,上下文 1M token。思考与最终回答共享最多 393,216 的输出额度,并兼容 OpenAI 与 Anthropic 的接口;千问办公、Qoder、千问 App 与 QwenStudio 也已接入。
基于此前的 Flash Base 做了首次后训练,总参数 280B、激活 14B,上下文 1M token。API 已在千帆上线,权重将以 Apache 2.0 开源;官方同时写明这是后训练中的中间检查点,能力还可能不完整。
在 68 种组织、逾 1 亿个单细胞图谱上训练,识别会改变基因表达的变异数量约为上一代最强模型的两倍,并能针对特定细胞类型做条件预测。非商业研究可走 AlphaGenome API,商业用途目前是私下预览。
Gemini Decisions API、AWS Emulator 与多用户多智能体评测见三条;BotPsy、llama.cpp FP8、Tabletop、Mastra MCP Tasks、Qwen Code 1.0 预览、Codex 0.167.2、两个热门仓库、MCP 上下文成本、Token Pooling、两篇论文,以及 Qwen4-Max 预览、文心 5.5 Flash 预览和 AlphaGenome 2 见各栏。营收传闻、融资与图像模型未收。