Sakana AI推出Fugu Max与Ultra v2:一个省钱,一个拼性能
据币界网报道,Sakana AI近日正式推出两款新产品——Fugu Max和Fugu Ultra v2。从本质上看,这两款产品均属于“模型调度器”,核心功能是依据具体任务需求,挑选最合适的模型进行分工协作与结果校验,并最终整合出答案。
其中,Fugu Max以降低成本为主要目标。它在模型池中引入了更多开放权重模型和专用模型,整体开销大约仅为顶级模型的二分之一至六分之一。而Fugu Ultra v2则专注于追求极致性能,在八项评测中,有五项拿下了第一或并列第一的成绩。
不过需要注意的是,多模型切换机制可能会削弱上下文缓存的复用效率,同时还会带来额外的编排token消耗。目前,Sakana尚未披露Fugu Max的缓存命中率以及单任务总token成本。
信息来源:www.qklw.com · 查看原文