随笔 / AI 与产品设计

用户不是来当算力调度员的

· AI产品 模型路由 产品设计 交互设计 Manus

每天打开 AI 工具,最先跳进视线的往往是顶部那个密密麻麻的下拉菜单。这个被各大产品放在核心交互区的模型选择器,表面上是把控制权还给用户,实际上却让普通使用者承担了沉重的操作税与认知税。下一代成熟产品的标志不是塞进四十个模型,而是系统敢于在主路径上基于粗粒度意图档位自动路由并为结果担责,只把显式覆盖留作专家的抽屉。

每天打开各种 AI 工具,最先跳进视线的往往不是输入框,而是顶部或者侧边那个显眼的下拉菜单。

过去几个月,在几乎所有涉及生产力工具的从业者群聊里,我们总能看到类似的选型讨论:写文案用哪个模型更自然,写代码到底切到哪个版本,复杂推理是不是必须开重思考模式,日常搜索又该选哪个轻量版本。大家像老派工匠盘点工具箱一样,认真比较着各个模型的上下文窗口、首字延迟和单价差异,甚至整理出密密麻麻的场景路由对照表。

作为每天高频使用这些工具的实操者,我常常觉得这种状态很荒谬。在敲下第一个字之前,用户居然必须先完成一次心理预判:眼下这个任务到底有多难?是否值得忍受十几秒的慢思考?选便宜的模型会不会把逻辑写崩?选昂贵的旗舰模型是不是又大材小用?

这个被各大产品堂而皇之地放在核心交互区的模型选择器,表面上是把控制权交还用户,实际上却让普通使用者承担了沉重的操作税与认知税。

插图:开工前被迫做复杂的算力与模型预判

但如果把这件事完全归咎为产品团队的懒惰,其实也不公允。因为在产品设计上,这个选择器并不是某个人拍脑袋拍出来的,而是一场长达两三年的产品实验与剧烈摇摆后的无奈妥协。

摆锤的两端:OpenAI 的历史纠结

要看清模型选择器的本质,必须回顾一下 OpenAI 在 ChatGPT 上走过的弯路。

在早期版本里,OpenAI 曾经把各种能力和模型直接平铺在前端:GPT-3.5、GPT-4、代码解释器、联网插件、DALL-E 画图,五花八门的模式塞满了菜单。当时社区里铺天盖地全是抱怨:普通用户根本不知道怎么选,一次对话里想既查资料又写代码,还要反复切换入口。

后来,OpenAI 尝试做了一次激进的减法:把所有插件和模型统统藏起来,对外只留一个统一的入口,让系统在后台全自动识别意图和路由模型。

结果,这次全自动化的尝试被用户骂得更惨。

核心原因在于,用户从来不是单一维度的群体,同一个用户在不同时刻的诉求也完全不同。一个人在排查复杂的线上代码崩溃时,愿意忍受二十秒的慢推理以换取逻辑的绝对严密;但当他在同一个窗口里顺手查一个英文单词的词源时,他只希望系统在半秒钟之内迅速吐出答案。

当系统试图用纯黑盒的自动路由来接管一切时,灾难就发生了:用户想画图,系统可能误判成写 prompt;用户需要大模型深度推理,平台出于综合成本考虑可能悄悄调用了轻量模型,输出了缺乏深度的平庸回答。这种不可预期的黑盒分流,直接摧毁了使用者对产品的信任感。

于是,摆锤又荡了回去。OpenAI 只能把模型选择器重新端回前台,GPT-4o、o1、o3-mini、GPT-4o mini 重新排成一列。然而,面对这一长串专业术语和版本后缀,新用户依然感到困惑,众口难调的根本矛盾依然没有被化解。

插图:平铺混乱与黑盒失控的左右两难

为什么现在的做法依然是操作税

理解了历史的纠结,并不意味着我们应该坦然接受现状。

今天大多数 AI 产品的做法,实际上是从全自动黑盒的极端,直接摆到了彻底放弃治理的另一个极端:既然自动路由搞不定所有人的喜好,那我就一口气接入三十个模型、五个推理档位、三个联网开关,把所有底层参数和技术名词毫无保留地甩在输入框旁边。

这种做法表面上赋予了用户无限的自由,但本质上依然是一种责任转嫁。

当系统把算力选型、成本权衡和上下文管理的复杂度直接推到前台,产品的责任边界就变了。一旦回答效果不好,平台很容易把原因归结为用户没有选对合适的模型;一旦推理耗时太长,平台又可以解释为用户滥用了深度思考模式。

我在《AI 产品最怕的不是功能少,是主路径失守》里曾讨论过,AI 产品的核心生命线是让价值交付的主路径保持极短且顺畅。传统软件的功能膨胀是界面债务,而 AI 产品的功能膨胀更像是智能债务。当团队无法在核心主路径上提炼出清晰的交互契约时,最容易走的路就是往界面上堆砌各种参数和开关,用界面的复杂性掩盖产品在意图抽象上的无力。

用户打开工具是为了完成具体的业务任务,而不是在每轮输入前兼职做一名算力调度员。

我眼中有分寸的解法:意图分档与高级抽屉

我自己作为一个多工具、多模型的重度使用者,同时也在团队里推进 Agent 落地。在我看来,跳出纯黑盒与全手动的非此即彼,真正有分寸的方案其实非常清晰:把技术细节收拢进意图档位,把微调控制权留给高级抽屉。

这里有个现成的优秀样本,就是前段时间引发广泛讨论的 Manus。

如果你去看 Manus 在后台的实际运转,它在解决一个复杂任务时,底层其实会根据不同步骤灵活调用各种模型:有的步骤需要轻量模型快速提取结构,有的步骤需要写代码并执行环境,有的步骤需要多模态理解,有的步骤需要大模型做高强度的逻辑规划。它背后的模型调用矩阵极其复杂,但在前端面对用户时,它并没有在输入框旁边挂出一排模型下拉菜单,让你去纠结这一步该用哪个模型。

它给用户的感知极其纯粹,就是清晰的 Lite 和 Pro 两个版本。

用户只需要根据自己手头任务的体量做选择:是个简单的日常任务,还是个需要调动深度算力、多步执行的复杂任务。至于任务执行过程中到底是调用了三个模型还是五个模型,系统在底盘里自己搞定,根本不需要用户操心。

插图:上层极简意图档位指挥底层多模型协同

基于这样的实践,我认为一套成熟的 AI 产品控制面应该清晰地分为两层:

第一层,是面向绝大多数日常场景的粗粒度意图分档。

在主交互界面上,彻底拿掉那些晦涩的模型代号。用户不需要去背诵 Sonnet 和 Opus 的区别,也不需要去猜 o3-mini 的推理步数。产品只需要提供两到三个符合人类直觉的意图档位:

一个是日常快速响应档(类似 Lite),追求极低的首字延迟和轻量算力,处理日常问答、短文本润色和快速事实检索;

一个是深度推理与复杂任务档(类似 Pro),专门处理长链条逻辑推导、跨文件代码重构和复杂商业分析,明确告知用户会有数秒的思考过程,但在输出深度上拉满;

如果涉及全网深度调研或海量文档分析,还可以扩展一个专项研究档。

系统把复杂的模型技术指标,翻译成了用户一眼就能看懂的业务场景。用户只需要按需表达意图,剩下的多模型调度、上下文剪裁以及失败重试,全部由系统在底层闭环完成。

第二层,是为专业场景保留的高级覆盖抽屉。

这并不意味着我们要彻底剥夺专家的控制权。当我们需要固定模型版本跑 Benchmark、做严格的可复现实验,或者在企业级合规场景下指定数据只能流向特定私有模型时,底层控制依然不可或缺。

但我坚信,这种控制力应该作为一个折叠的高级抽屉存在。在这个抽屉里,你可以随意指定特定的 API 版本号、微调温度系数、锁定随机种子、或者自选推理步数。它是专业用户的逃生通道与调试面板,但绝不能成为所有普通用户主操作链路上的拦路门槛。

我在《用户不再点功能的时候,AI Native 才开始》里写过,AI Native 的本质演进,是让用户从操作底层功能走向直接委托结果。把底层模型的几十个开关收敛为直观的意图档位,把复杂的调度留给系统,正是这种委托关系的理性落地。

结语

回顾工业设计的演进,几乎所有复杂技术走向大众普及,都走过相似的路径。

早期汽车的驾驶室里,司机必须时刻通过方向盘旁的手动拉杆调节阻风门和点火提前角。到了现代汽车,行车电脑接管了所有的进气与点火微调,但依然会在中控台上给驾驶员保留经济、舒适和运动三种驾驶模式。

插图:从复杂的机械拉杆到直观的驾驶模式

普通司机只需要根据路况选择是想省油还是想超车,行车电脑就会自动匹配对应的齿比和喷油逻辑;而真正需要下赛道的发烧友,依然可以长按关闭车身稳定系统,进入纯手动的赛道设置。

今天的模型选择器,正处于从早期机械拉杆向现代驾驶模式过渡的节点上。

一流的产品既不会傲慢地搞不可控的绝对黑盒,也不会偷懒地把几十个参数原样甩给用户。它们会耐心地把底层的技术碎片翻译成两三个清晰的意图阶梯,让复杂留在底盘,把从容还给使用者。

订阅 / 联系

下一篇继续从这里接上

新文章会同步到 RSS;也可以直接发邮件给我。