不是所有任务都需要最强模型。用任务复杂度、调用量、延迟和容错率做分层选型。
模型选型最常见的两个极端:所有任务都用最强模型,或者为了省钱全部换成小模型。前者成本失控,后者效果不稳定。更合理的做法是按任务分层。
可以把文本任务粗略分为四层: