AI大家说 | 企业的Token成本在智能体时代会怎么变?
本文摘自新书《Token经济》,讨论了对企业负责人来说的一个现实问题:在Token成本变化的情况下,企业的AI支出会怎么变?又该如何规划?企业又如何把Token账单转化为可治理的智能预算?

Token的单价在持续下降,但企业的总支出却在飞涨,这源于企业面临的三重变化。
第一重:单价确实在降,但降的可能不是企业真正依赖的那个模型。
经济档模型的价格已经低到每百万Token不到0.3美元,但企业实际使用的往往是一个模型组合:关键任务用前沿旗舰,日常工作用中间档,批量处理用经济档。混合均价取决于任务组合,而非单一模型的定价趋势。
第二重:智能体时代的每个任务的Token消耗量在非线性膨胀。
这是企业成本增长最重要的驱动力。一个简单问答消耗500个Token,一个智能体完成复杂任务可能消耗10,000到100,000个Token,差两个数量级。而智能体的消耗天然不可预测:它取决于任务复杂度、工具调用次数、重试逻辑和智能体自主决策的路径长度。IDC对318名企业决策者的调研显示,92%表示AI智能体的实际成本高于预期。
第三重:成本的可预测性在变差。
传统IT支出是可预测的——服务器租金、SaaS订阅费、人力成本,每月波动在10%以内。Token支出完全不同:一次智能体工作流的异常重试就可能让当日成本翻10倍。企业面临的不再是“Token太贵”的问题,而是“不知道下个月账单是3位数还是5位数”的新挑战。
需要补充的是,谈论企业的Token成本会怎么变时,不能一概而论,因为它高度依赖任务的智力含量。按任务价值Token成本大致可以分成两类,走向却截然相反。一类是高智力依赖、强推理的任务,比如销售策略制定、高风险决策、面向科学发现的研究(AI for Science)。这类任务追求的是最高质量的Token,它会主动选用最强、最贵的模型,单位成本不仅不会趋向于零,反而可能越来越高,但它换来的价值也足够大,所以贵得其所。另一类是低智力依赖、高确定性的任务,比如日常的流程化“搬砖”工作。这类任务对智力水平要求不高,随着经济档模型的降价,其Token成本会迅速趋向于零,甚至在很多环节可以直接用确定性的脚本替代,根本不必动用模型。换句话说,单价下降的红利主要落在低智力任务上,而高智力任务的账单仍会随能力升级而抬高。企业真正要规划的,是这两类任务在自己业务里的比例。
这三重变化共同决定了Token账单金额不会因为单价下降而自动变小,能不能管好这笔预算,将直接决定AI投入是生产力投资还是新的成本黑洞。至于企业具体如何把Token账单治理成可控的智能预算——多模型路由、任务分级、缓存复用、智能体架构优化等——这是供给侧成本结构推到买方面前的新课题。
从Token账单到智能预算
不论卖方采用哪一种包装方式,到了买方企业内部,最终都要回到同一个问题:这笔智能预算是否换来了真实产出。Token账单表面上是技术支出费用,实质上是在记录一个组织购买了多少机器智力,以及把这些智力用在了哪些任务上。
企业过去经历过云预算管理、广告投放管理、人力预算管理,每一项都经历过从“先花起来”到精细治理的过程。Token预算正走在类似的路径上,只是它购买的对象更特殊,买的既非服务器,也非流量或人力时长,而是一种可调度的机器智力服务。正因为如此,它不会永远停留在IT部门或云资源池里,而会逐步拆到部门、团队和项目,甚至变成人均AI额度、项目AI额度和岗位AI额度。
这也是企业内部预算口径正在发生变化的地方,企业真正要管理的不是一张总调用账单,而是不同部门、不同任务到底应该购买哪一层智能。开发团队会为代码智能体设更高额度,客服团队按工单量和转人工率核算,法务、金融、医疗等高风险部门则把额度和复核责任绑定。智能预算的核心,不是简单压低Token消耗,而是让机器智力支出与任务价值、风险等级和责任边界对齐。
企业早期鼓励员工大量使用AI有合理性。员工多试、多用,企业才能找到真正有价值的场景。但用量上去之后,Token消耗量本身很容易变成一种形式主义。一些公司内部甚至开始出现“Token消耗排行榜”“Token传奇用户”“超长会话玩家”之类的非正式头衔,员工之间会比较谁调用的模型更强、上下文更长、智能体跑得更多。2026年Meta内部曾流出一个按Token消耗对员工进行排名的榜单;亚马逊内部也被曝出会统计员工AI工具调用情况,一些员工为了显得自己更“AI原生”,甚至会故意让智能体跑一些并不必要的任务。
Token形式主义更深层的原因是机制错位。Token成本由公司承担,产出归个人享有。个人多问一句、多跑一次智能体,收益立刻归自己,账单却由公司承担。经济学把这类问题称为“道德风险”,意思不是批评使用者不道德,而是说当使用者不直接承担成本时,行为会自然偏向过度消耗。公司账本上的Token开支膨胀,员工个人没有损失相反,烧得多还可能换来“AI原生”的名声。从短期看,这符合个人理性;从长期看,企业很难承受。
Token消耗量可以刷,产出不能刷。任何一个本来用于衡量结果的工具,一旦被当作结果本身,就会从工具变成表演。如果程序员比拼代码行数,代码就会越写越冗长;如果客服中心考核接线量,通话质量就可能下降;如果学术界只用论文数量衡量产出,灌水论文就会随之泛滥。Token消耗量如果被当成被考核的结果本身,同样也会滑向失真。企业真正应该鼓励的是更高质量的代码、更快的交付、更准确的分析、更低的客服转人工率,而不是只看谁消耗了更多Token。
要走出Token形式主义陷阱,需要引入一个新的治理概念:Token效率。它的重点在于让每一笔Token消耗账单、每一份智力服务匹配对应任务的价值。高价值任务可以多花,低价值任务不能乱花;复杂任务可以调用前沿模型,简单任务应交给轻量模型或端侧模型;重复上下文应通过缓存复用,不应每次重新计算。提升Token效率要解决的,是企业购买的智力服务如何和产出曲线重新对齐。
提升Token效率,企业可以从3个方向入手:任务分级、价格信号、模型路由。工程圈把这类实践称为“驾驭工程”,目的就是让AI能够有更确定的产出,实现可预期、可衡量、可持续。
首先是任务分级。企业不能把所有AI使用都看成同一类需求。写注释、改标题、翻译短句、总结会议纪要、写法律意见、生成代码架构、做投资判断,这些任务的价值密度和风险等级完全不同。任务分级至少可以按复杂度、风险等级、产出价值3个维度展开。简单补全、信息整理、结构化生成、复杂推理、跨系统执行,应该对应不同模型档;低风险文本处理,中风险业务建议,高风险法律、医疗、金融、安全判断,也应对应不同复核机制。
任务分级不是单纯的工程问题,也是一种组织能力。企业需要让员工知道哪些任务适合轻量模型,哪些任务必须调用高阶模型,哪些任务结果必须由人类复核。AI素养培训的重点从会不会提问,转向能不能判断一项任务该调用什么档次的智能。一个有AI素养的员工能用1000积分完成任务,一个缺乏AI素养的员工可能要烧5000积分,产出还更差。善于使用AI和不善于使用AI的员工之间,产出差距会比办公软件时代更大。
其次是价格信号。如果用户完全感受不到Token成本的差别,他就很难形成效率意识。但企业也不能让用户直接面对复杂的Token成本账单。比较可行的方式是用积分、额度、任务价格、部门预算和人均额度,把成本转化为用户能理解的信号。
价格信号有两个作用。一是约束浪费。用户看到不同模型、不同任务的消耗差异,会自然减少低价值场景调用最贵模型的情况。前文讲过的积分制,在卖方那里是定价包装,在买方这里就是预算管理工具。企业可以通过积分看不同团队、不同任务、不同项目的Token消耗结构,从而识别哪些是真实生产力,哪些只是Token形式主义。二是重塑用户使用心智。用户通过反复价格反馈,会逐渐意识到智能不是一种均质资源,它有层级、价差、适用场景。当用户第一次看到写一行注释和生成完整页面的积分消耗差了几十倍时,他就可以意识到这两件事对AI来说不是一类任务;当用户看到同一任务用前沿模型和普通模型消耗的积分差了5倍时,他就能理解模型档次差异并非营销话术。这种认知升级的价值不低于省钱本身,它会让用户从“AI就是那个最贵的模型”,过渡到“AI是一个有层次的系统,要看场景选择合适的那一层”。
最后是模型路由。这里的模型路由指的是企业内部的AI调度系统:用户只负责提请求,系统自动决定这次请求该交给哪个模型处理。一个普通员工不应该每次提问前都判断该用哪个模型。成熟的企业AI调度系统应该在后台做模型路由,根据任务类型、上下文长度、风险等级、实时性要求、成本预算,把用户请求自动送给最合适的模型。整个过程对使用者不可见,但Token消耗和成本都被显著优化。模型路由做得好的企业,能在不牺牲用户体验的情况下把Token成本压低一个数量级;模型路由做得差的企业,所有任务都被扔给最贵模型跑,账单金额膨胀不可避免。
上述3个方向彼此咬合:任务分级是前提,价格信号是反馈,模型路由是落地。只做模型路由而不给用户价格信号,用户永远不会形成分级直觉;只给价格信号而没有模型路由支撑,用户每次都要手动选模型;只谈任务分级而没有工程配套,这件事只能停留于口号。3个方向只有一起做到位,Token效率才会真正落到每一笔账单上。
因此,买方治理的终点不是少用Token,而是把Token账单变成智能预算:哪些任务值得用高阶模型,哪些任务应该交给轻量模型,哪些结果必须复核,哪些部门应该为调用负责。尤其当智力服务进入核心流程之后,企业还要知道这次调用用了哪一层模型,经过了怎样的路由,结果是否被采纳,出了错由谁负责。Token效率的本质,是让账本曲线、产出曲线和责任边界重新对齐。企业能否管理好这笔预算,将直接决定AI投入是生产力投资,还是新的成本黑洞。