大多数选法是凭印象
团队里常见两种浪费。一种一直用最贵的模型跑改名任务,另一种用最小的模型做架构改动,然后得出“agent 不行”的结论。两种都发生在看不见信息的时候。
Cetas 把信息放到选择动作的前面。
额度还剩多少,选之前就看见
/model quick-pick打开就是三组。Limit 是还剩窗口额度的供应商,按剩余排序,颜色标最差的那个窗口;Balance 是还剩余额的;Other 是两者都没有的。用完的沉底禁用,你选不到一个注定失败的模型。
数字是供应商自己报的,不做估算。哪家超时没读到,哪家就从列表里消失,宁可少显示一家,也不给一个猜出来的数。
哪个更划算,让数据说
/model openai pick它按实测的智能效率给这个供应商的模型排序:实测 IQ,减去每百万 token、每美元、每 10 分钟耗时三笔账,权重 1.0、2.0、0.5。候选至少要 30 次实测样本才入围,三项全不占优的直接淘汰。
没有数据的供应商它就不排,换完模型也会明说换到了哪。
平时在列表里挑,企业接网关
/model按供应商分页,打字就模糊搜索,选中后用左右键切推理档位。自建网关也一样:往 providers 里加一个 key,它就是一个普通页签,与 openai 同等对待。见自定义模型。
对话和决策,两本账
/model 管对话模型,/decision 管决策模型,后者给 permission auto 和需要判断的构建用。强模型对话,便宜模型判断,两笔账各自独立。/manager 还能在供应商集合和 Magpie 网关之间切换,两边各记各的选择 —— 从启动网关到验证可用,见接入 Magpie 网关。