UCloud AstraFlow星图全新推出Fusion混合推理功能

为了满足深度研究、商业分析、方案比较等复杂任务的需求,UCloud AstraFlow星图全新推出了Fusion混合推理功能。Fusion可组织多个异构模型围绕同一问题展开独立分析,再通过综合模型识别不同答案中的共识、冲突与遗漏,形成结构更完整的最终回答,为开发者提供一种兼顾多视角分析与交叉检查的全新推理方式。

点击进入:UCloud AstraFlow星图

不同模型各有所长,也有各自的能力边界。对于通用问答和实时交互,选择一个合适的模型通常已经足够;但在深度研究、方案比较和决策辅助等任务中,回答质量不仅取决于单点能力,也取决于能否覆盖不同视角、发现分歧并补足遗漏。基于这一需求,星图全新推出Fusion混合推理功能。

一次Fusion请求分为两个阶段:

UCloud

  • Panel多模型分析:多个异构模型同时、独立处理同一个问题。不同Panel Member根据预设侧重点生成候选答案,减少单一路径对最终结果的影响。
  • Synthesis统一综合:Synthesizer读取原始对话及全部有效候选答案,识别其中的共识、冲突与遗漏,并重新组织生成最终回答。

Fusion不是对候选答案进行简单投票,也不是将多段内容直接拼接。最终答案仍由Synthesizer结合原始问题和Panel分析结果统一生成。

当前Fusion模型组合由优刻得综合自建推理能力、模型稳定性和Benchmark结果进行选择,并持续维护和调优,暂不开放用户自定义。

UCloud AstraFlow星图Fusion混合推理功能测评

UCloud使用DRACO Benchmark,对当前Fusion组合与高性能单模型基线进行了测评对比。在成功完成并获得有效评分的回答中,两组结果处于相近水平,Fusion得分高出0.25分。

UCloud

本次结果显示,Fusion在评分与对照模型相近的同时,单题平均Token、首字时延和整体时延均明显增加;基于本次模型组合与测试时段价格估算,其调用成本约为对照模型的1/5。成本差异主要来自优刻得ModelVerse自建推理能力、国内模型组合及测试时采用的DeepSeek谷时价格。

注:以上数据用于说明当前测试条件下的效果、成本与时延关系,不代表线上服务等级承诺。

  • 表中得分仅统计成功完成并获得有效评分的回答。
  • 成本基于本次模型组合和测试时段价格估算,实际费用以ModelVerse账单为准。
  • 版本、Panel组合、提示词和上游负载变化均可能影响结果,UCloud将持续进行回归验证。

UCloud AstraFlow星图Fusion混合推理功能适用场景

Fusion更适合需要多视角分析、交叉检查和完整表达的任务,例如:

  • 深度分析与研究型任务:对已有材料进行归纳,核对不同观点,发现信息缺口并形成综合判断。
  • 商业分析与决策辅助:比较多个方案,梳理共识与分歧,识别潜在遗漏和执行风险。
  • 高价值内容生产:生成研报、解决方案、分析报告等对结构和完整性要求较高的长内容。

Fusion并不适合所有请求。对于简单问答、低时延交互,或对Token消耗敏感的批量任务,直接调用单模型或使用AUTO路由通常更合适。

快速接入UCloud AstraFlow星图Fusion

Fusion使用OpenAI-compatible Chat Completions接口。开发者无需调整现有调用结构,只需将模型名称设置为ucloud/fusion。

cURL

curl -N https://api.modelverse.cn/v1/chat/completions \  -H "Authorization: Bearer ${MODELVERSE_API_KEY}" \  -H "Content-Type: application/json" \  -d '{    "model""ucloud/fusion",    "messages": [      {        "role""user",        "content""分析一下 Fusion 混合推理适合哪些业务场景"      }    ],    "stream"true  }'

Python

from openai import OpenAI
base_url = "https://api.modelverse.cn/v1"api_key = "your api key"model = "ucloud/fusion"
client = OpenAI(    base_url=base_url,    api_key=api_key,)
res = client.chat.completions.create(    model=model,    messages=[        {            "role""user",            "content""分析一下 Fusion 混合推理适合哪些业务场景",        }    ],    stream=True,)
for chunk in res:    print(chunk.choices[0].delta.content or "", end="")

UCloud AstraFlow星图Fusion与AUTO功能对比

星图AUTO路由关注的是:当前请求更适合交给哪个模型?

Fusion关注的则是:对于一个复杂问题,能否让多个模型分别分析,再综合各自的判断?

UCloud

两项能力并非相互替代。AUTO更适合高频、通用的模型调用;Fusion则面向回答质量和信息覆盖优先的复杂任务。

从“选择一个合适的模型”,到“组织多个模型共同完成一次推理”,Fusion为复杂任务提供了新的调用方式。UCloud AstraFlow星图将持续优化模型组合、综合策略和评测体系,在效果、成本与时延之间建立更清晰的选择依据,帮助开发者把不同推理方式用在更合适的业务场景中。

服务商动态

关于Gname“周五转入特惠”活动上线公告

2026-9-9 14:35:43

服务商动态

百度智能云人工智能基础数据服务,第一!

2023-4-14 9:44:59

相关推荐