AI创企Cognition计划将Token消耗配额向最高效工程师倾斜

为控制AI相关开支，大型企业正在限制员工的使用额度、选用成本更低的小型模型，并借助路由调度器，只把难度最高的查询请求交由最贵的大模型处理。