硅基流动亮相 AICC 2026 人工智能计算大会

企业动态
市场活动
作者:硅基流动

9 月 21 日,2026 人工智能计算大会(AICC 2026)在北京中关村国际创新中心举行。大会围绕智能体时代的芯片、系统、软件、模型与应用协同展开,设置 Token 工厂、AI 芯片、开放超节点、大模型、AI 软件栈等七场专题论坛,并开设 AI 计算创新实践展区。

已粘贴 2026-10-09 上午11.38.00.png

硅基流动亮相大会展区,集中展示大模型推理、异构算力适配和 Token 工厂相关能力,与来自 AI 计算产业链的技术专家、开发者及生态伙伴展开交流。

已粘贴 2026-10-09 上午11.38.09.png

随着 Agent 从问答走向多轮推理、长上下文、工具调用和自主执行,应用对底层计算的需求正在发生变化。聊天类场景更关注首字响应速度,舆情分析和文档处理等批量任务则更看重单位时间吞吐;在生产环境中,模型精度、工具调用成功率和服务稳定性也会直接影响任务能否完成。

这些差异最终落到同一个问题:如何把不同架构的算力,持续转化为高质量、可调用的 Token 服务。

在当天下午举行的 Token 工厂论坛上,硅基流动解决方案总监唐安波发表《从算力到 Token 生产力:大模型推理规模化的架构与运营实践》主题演讲,分享硅基流动在推理架构优化、异构算力适配和 Token 服务运营方面的实践。

已粘贴 2026-10-09 上午11.38.21.png

唐安波将 Token 生产力拆解为三个相互关联的变量:产能、利用率与交付质量。

其中,产能由芯片能力、模型适配与推理优化共同决定;利用率依靠弹性扩缩容、PD 分离、流量调度和缓存策略提升;交付质量则涵盖模型精度、结构化输出、Function Call 及 SLA 稳定性。围绕这三个变量,硅基流动通过自研算子库与通信能力,统一优化资源调度、PD 分离和 KV Cache 分级卸载,并以模型网关承接计量计费、模型路由与流量治理,将异构算力转化为统一的模型服务。

唐安波还分享了硅基流动与国产算力伙伴开展适配和联合优化的实践。面对不断迭代的模型架构和芯片体系,固定的一套部署方案很难覆盖所有场景。通过模型、芯片与负载的协同优化,推理平台可以根据聊天、Coding、文档分析等不同任务,在响应速度、吞吐与成本之间选择更合适的方案。

Token 工厂的价值,最终体现在每一次能够稳定完成业务任务的模型调用中。从异构算力纳管到推理优化,再到调度、路由和质量保障,硅基流动将不同架构的芯片接入同一条 Token 生产线,在波动的业务负载下持续交付可预期的模型服务,让 Agent 所需的 Token 既能高效生产,也能稳定使用。

相关资讯

硅基流动与中软国际达成战略合作,推出四大企业 AI 赋能平台

企业动态
2025-06-25

硅基流动与阿里云达成战略合作,共建大模型生态

企业动态
2025-06-18

硅基流动完成新一轮数亿元融资

企业动态
2025-06-09