TokenMaxxing:如何充分利用您的 AI 模型
Meta 员工在今年早些时候的 30 天内消耗了 60 万亿个 AI 代币,争夺一个名为 "Claudeonomics" 的内部排行榜上的位置。科技专栏作家 Gergely Orosz 估计,按照 Anthropic 的定价,这笔费用大约为 9 亿美元,尽管 Meta 实际支付的费用可能远低于此。
贝恩公司顾问王珏在这个浪费的现象中看到了更安静的版本:“这么多公司,这么多用户,默认使用 Opus 来做所有事情,包括生成电子邮件,”她在今年夏天对美联社表示,指的是 Anthropic 的高端模型。如果你也这样做,那就相当于雇用爱因斯坦来帮你在麦当劳算零钱。
Myriad: 哪家公司将拥有最佳的 AI 模型?点击进行预测。
你在 ChatGPT 或 Claude 中输入的每一个字,以及它写回的每一个字,都是以代币计量的,这些代币是平均约三分之一个单词的文本块。在 20 美元的订阅中,这个计量决定了你达到使用限制的速度。在 API 中,开发者使用按代币计费的访问权限将模型嵌入到自己的应用中,这决定了账单。
以下是 Anthropic 当前的价格列表,每百万个代币:
Haiku 的费率适用于少于 100,000 个代币的提示;更长的提示费用是其五倍。
顶级模型的费用是最小模型的 100 倍,而 OpenAI 自己的产品线也有相同的差距,从每百万个输入代币 10 美元到 0.10 美元。这些按代币计费的价格对实验室和你来说都迅速累积:Anthropic 的收入年化率从 2025 年底的约 90 亿美元增长到 5 月的超过 470 亿美元,而 OpenAI 正在进行价格战以跟上。
一些习惯可以大幅降低支出,以下前五个提示无需编码。
Tokenmaxxing 的含义(以及它应该意味着什么)
Tokenmaxxing 最初是硅谷的一种炫耀,类似于 Meta 的 Claudeonomics,微软、Shopify 和亚马逊也在类似的代币排行榜上对员工进行排名。Nvidia 首席执行官 Jensen Huang 在 3 月的 "All-In" 播客中表示,如果一名 50 万美元的工程师没有消耗至少 25 万美元的代币,他会感到 "深感不安",这进一步推动了这一现象。
而他们确实消耗了代币……用于愚蠢且无效的事情。
在亚马逊,员工承认通过在无关任务上运行内部 AI 工具来夸大他们的数字,直到一位高级副总裁告诉员工:“请不要仅仅为了使用 AI 而使用 AI。”
本指南使用的是工程师们现在推动的含义:最大化每个代币的价值,而不是你花费的数量。
三个概念解释了代币的去向,首先是代理循环。代理是可以使用工具的模型,因此它思考、搜索网络或运行代码、读取结果,然后再次进行,直到决定完成,每次循环都重新发送整个对话。
编排会增加成本:一个模型充当管理者,将你的请求拆分成多个部分,交给称为子代理的工作模型,并将它们的答案拼接在一起。每个工作者都有自己的循环和记忆,这就是为什么 Anthropic 表示在 Claude Code 中的代理团队在计划模式下运行时,使用的代币数量大约是标准会话的七倍,这种设置在下面的中级提示中有所介绍。
图表是开发者防止这些循环偏离的方式。像 LangGraph 这样的框架让你像绘制地铁图一样绘制工作流程,车站(节点)完成工作,轨道(边)决定下一步去哪里,因此模型遵循固定的路线,而不是循环直到耗尽想法或预算。
换句话说,循环帮助您自动化事务并提高质量,但您也会花费很多钱,因此高效性极为重要。以下是一些可能对您有所帮助的建议
初学者:小工作,小模型
1. 为工作选择合适的模型
如果您刚开始,您可能正在使用图形用户界面来运行您的 AI。
在您的聊天应用中点击模型名称(在 ChatGPT 聊天顶部,Claude 或 Hermes 的发送按钮旁边),切换到更小、更快的选项,以处理电子邮件、摘要和改写。保留顶级模型用于复杂推理和决策,因为细微的错误会造成实际损失。
并排运行上周的五个任务,看看小模型是否通过,如果通过,就保留它。在使用限制较大的订阅上,API 可以将账单削减多达 99%。
2. 写一个好的提示,而不是五个差的提示
三轮的“不是,只要总数”或“让这个更好更准确”每次都要重新发送整个聊天。一个清晰的提示明确说明了工作和答案的确切形式。像这样的提示可能有效:
从以下文本中提取发票号码、日期、供应商和总额。保持每个值的原样返回。每个字段返回一行,如果某个字段不存在,则写“缺失”。
OpenAI 自己的测试发现,简洁明了的提示在使用更少的令牌的同时得分更高。
3. 更换主题时开始新的聊天
每次您点击发送时,模型都会重新阅读整个对话,因此关于您假期的 50 条消息会让您的税务问题变得更昂贵且更愚蠢。
Anthropic 将这种衰减称为“上下文腐烂”。
所以,出于上帝的爱,每当主题改变时,请开始新的聊天。
4. 请求所需的大小
在 Anthropic 和 OpenAI 的顶级模型中,输出令牌的成本是输入的五倍。结束您的提示时加上类似“三个要点,少于 100 个字”或“仅更改的行”,这样模型就没有太多空间来填充。
如果模型在输出长度上有约束,它将节省令牌,尤其是在任务是创造性的(如写作或研究)而不是确定性的(如编码或解决数学问题)时。
5. 尝试免费服务再付费
OpenRouter 是一个通过一个帐户连接到数百个 AI 模型的网站,提供免费的路由器,将您的请求发送到大约 20 个无成本模型之一。您还可以在具有 8GB 显存的显卡或 Apple M 系列 Mac 上本地运行模型。
免费层可能会在一夜之间消失,因此不要在上面构建任何重要内容,并在粘贴任何敏感内容之前阅读数据政策。
也就是说,您可以通过使用免费优惠来最大化您的迭代。Hermes 提供了一系列不错的免费模型,可能满足您的需求,Nvidia 也是如此。调整一个免费的简单模型的提示总比为一个更快但做同样事情的高级模型付费要好。
额外的初学者提示
对于简单问题,跳过扩展思考,或者在较新的 Claude 模型上降低思考设置,因为思考无法关闭。Anthropic 将完整的思考过程计入输出,包括您从未看到的部分。
启用使用积分的 Claude Pro 和 Max 订阅者可以在设置下设置每月支出限制,然后是使用。
中级:您的代理阅读太多
从这里开始,示例使用 Claude Code,Anthropic 的代理,它在您的终端中运行并为您编辑文件;命令直接输入其聊天框。其他工具也会有类似的逻辑。
如果您只使用聊天应用,提示 8 在任何聊天窗口中也有效。
6. 先便宜,失败后升级
输入 /model 切换模型,保持 Sonnet 作为默认模型,仅在 Sonnet 在某些特定任务(如无法修复的错误)上失败时才切换到 Opus。对于简单的子代理任务,Anthropic 的文档建议在子代理的设置中将模型设置为 haiku。
7. 在任务之间清除
当你切换到不相关的任务时,输入 /clear,这不会产生任何费用并会删除旧的历史记录。使用 /compact 并附上需要保留的内容说明,例如 /compact keep the database decisions,仅在需要历史记录时使用,因为压缩本身就是一个大型请求。
8. 让代码处理繁琐的数学
将一个 5,000 行的电子表格粘贴到聊天中会使模型读取每一行,但它仍然可能会计算错误,因为语言模型无论你为其支付多少,都不是计算器。
相反,要求它提供一个公式或简短的脚本,自己运行,然后只将结果交给模型。
9. 精简你的工具
MCP 服务器是将模型连接到 GitHub 或 Google Drive 等应用程序的插件,每个插件都会在每个会话中添加工具名称和说明。
输入 /context 查看哪些内容占用了空间,输入 /mcp 禁用项目未使用的服务器。
额外的中级技巧
输入 /usage 查看你的令牌使用情况。保持你的 CLAUDE.md(或 Soul.md),即代理在每个会话开始时读取的指令文件,控制在 200 行以内。
对于更大的更改,按 Shift+Tab 切换到计划模式,在该模式下,代理会在修改文件之前提出计划供你批准,并在它走错方向时按 Esc。使用 /effort 将推理降低到简单任务,如重命名变量。
Anthropic 显示代理的令牌使用量从 150,000 令牌降至 2,000,当它仅加载所需的工具定义时,因此像 GitHub 的 gh 这样的命令行工具,在运行之前不收费,通常优于始终在线的插件。
-- 价格
高级:将保护措施构建到系统中
假设有一个开发者需要处理 1,000 张每张 2,000 令牌的发票,回答 200 令牌:这项工作在 Fable 5.1 上的成本约为 30 美元,而在 Haiku 5.5 上的成本约为 0.30 美元,未考虑以下任何技巧。
10. 缓存不变的部分
将稳定的指令放在前面,将变化的部分放在最后,并标记稳定的块以进行缓存。在 Anthropic 的 API 中,这是一个额外的字段:
"system": [{
"type": "text",
"text": "您的发票指令...",
"cache_control": {"type": "ephemeral"}
}
]
从缓存读取的成本仅为正常输入价格的一小部分,而写入默认的五分钟缓存则需要额外费用。检查每个响应中的 cache_read_input_tokens 字段;如果在第一次调用后仍然显示零,则缓存未正常工作。
11. 批量处理任何可以等待的任务
OpenAI 和 Anthropic 都以 50% 的折扣处理批量任务,OpenAI 承诺在 24 小时内提供结果。将 1,000 张发票作为一个批量文件上传,而不是进行 1,000 次实时调用,这样账单会大幅下降。
12. 给代理设定限制
为每个代理运行设置最大步骤数和美元上限,并在开始之前定义“完成”的标准。Claude Code 接受 --max-budget-usd 标志用于脚本运行,Shopify 使用电路断路器,如果开发者的支出在一天内激增,可以立即切断其访问权限,旨在捕捉失控的代理。
现在,正常的做法是让这些代理自由运行,直到结果被认为是完美的。如果你没有足够的资金,不要让你的代理决定什么是“完美”的或不是。
额外的高级技巧
将关键信息放在长提示的开头或结尾。斯坦福大学的一项研究发现,模型在这些位置使用信息的效果最好,而在中间埋藏的信息效果最差。
仅在错误代价高昂时,支付第二个模型来检查工作,例如合同条款或付款数字。在 OpenAI 的 API 上,为每个项目开启严格的支出限制,因为其支出警报仅会通知你,而不会停止流量。
从一个测试开始
将通过五项任务测试的最便宜模型作为默认设置使用一周,只有在它失败时才更换。然后将您的使用页面与上周进行比较;在发票工作中,仅路由就将账单从30美元削减到3.90美元,即使在支付Opus 5.5以重做300次失败后也是如此。
然而,便宜的代币并不能单独解决问题:根据硅谷数据的代币支出指数,自2023年以来,单个代币的价格已下降超过90%,但自2025年底以来,对大型语言模型的支出却翻了一番。
经济学家称之为杰文斯悖论,当一种资源变得如此便宜,以至于人们最终在其上花费更多。贝恩公司在6月的一份简报中发现了相同的模式,代币成本在2024年12月至2025年间减半,而消耗的代币数量增长了450%。
好消息是,当您停止无目的地消耗代币时,价格下降的趋势会立即对您有利:将它们与上述习惯结合,人工智能在变得更便宜的同时也会变得更好。
本内容仅供参考,不构成任何金融、投资、法律或税务建议。文中提及的任何活动、奖励、线上活动或相关信息,不应被视为对购买、出售或交易任何加密资产的推荐、招揽或邀请。加密资产具有高波动性,存在价值损失风险。WEEX服务、产品及相关活动的可用性可能因地区而异。用户在参与前有责任确保符合当地适用法律法规。
猜你喜欢

LayerZero 推出后量子签名聚合系统 Aerie,0.65 秒内聚合超 3.2 万个签名

Tether推出离线AI语音模型,用于智能眼镜和机器人

Solana 确定下一个重大升级的日期

FLock发布THIS/THAT模型,成功率87.8%

四年上涨 131%,美股牛市时候结束了吗?

Surf AI 在 Robinhood Chain 发行 6666 个 NFT

SWI集团筹集8亿欧元转型为人工智能数据中心

SWI获得8亿欧元的人工智能计算融资

WEEX Auto Earn 抽奖活动:转动转盘,赢取 iPhone 18 Pro Max 或 888 USDT
了解 WEEX Auto Earn 抽奖活动:最多可获得 6 次抽奖机会,赢取 iPhone 18 Pro Max、888 USDT 或 APR 加成。查看任务、参与资格和奖励规则。

Peter Thiel专访:停滞五十年,AI是文明最后的自救吗?

美元、出口和南方共同市场:弗拉维奥·博尔索纳罗在阿根廷的胜利可能产生的影响

Meta Muse在发布22天内突破500万下载

中国 AI 智能体出现欺骗与规避行为

迎战 Meta Muse,OpenAI 紧急推出个人助手,预计周二发布

美国加密税改加速!谁受益、谁受限?

维塔利克·布特林的本地人工智能推动:你的笔记本电脑能替代ChatGPT吗?

黑客入侵HBO Max Reddit账户以传播恶意软件

Crusoe与Perplexity签署多年云计算协议,提供Nvidia芯片算力

tZERO 完成新一轮融资,Marc 和 Max Cohodes 领投

WEEX推出合约交易挑战赛:日日有奖、直播开奖,交易赢iPhone Duo
用户报名并参与合约交易,即可角逐每日及累计交易量排名,每日瓜分 5,000 USDT 现金,并最终赢取 iPhone Duo、iPhone 18 Pro Max 等重磅奖品。

WEEX 2026年9月奖励活动:交易赢取 iPhone Duo

月之暗面Kimi K2.8 Preview模型上线,综合性能接近K3

iPhone 涨价如何不伤销量?摩根大通拆解苹果的「月供策略」

新款iPhone的比特币价格在八年内下降了10倍

苹果发布iPhone 18 Pro:摄像头、电池和Siri AI

FGS计划将抵押贷款增加至23%

Anthropic Max订阅诉讼曝新细节,宣传倍数存会话限制

乌克兰国家银行对乌克兰国油银行及其他四家金融机构处以罚款:最高罚款超过3000万格里夫纳

荷兰也将黄金移出纽约……动摇的‘美国安全资产’信任




