成本控制
“烧掉94亿个OpenAI Token后,这些经验帮我们省了43%的成本!”
作者分享了在一个月内消耗94亿Token的经验和优化策略,包括选对模型、用好提示词缓存、优化提示词结构减少输出Token数量、使用Batch API处理非实时任务等方法。这些经验帮助将成本降低了约43%。
Claude 4被曝发布在即!DeepSeek把大招都给逼出来了
Anthropic即将发布的新模型Claude 4融合了通用模型和推理模型,可以根据任务需求调整所需算力。它提供了更精细的控制权,用户可以自由设定每个问题需要思考推理的时间。