关于 Token 服务数据安全的常见问题解答
企业AI实践
作者:硅基流动
在接入大模型 API 时,数据留存情况是是企业和开发者最关心的问题之一。以下是我们对相关问题的解答。
Q1:你们会留存用户数据吗?
A:除调用的模型名称、Token 消耗量、请求时间及请求状态码等运维原数据,我们不会长期存储您的任何业务输入与输出数据,亦不会将您的业务数据用于任何大模型的预训练、微调或其他商业用途。
Q2:用户的对话数据在你们平台如何流转?
A:对于您通过硅基流动 API 传输的业务数据(包括输入指令及生成的输出内容),在您的交互数据经由网关分发至我们的推理集群后,我们仅在提供当次推理计算的必要且短暂的时间内进行处理,推理计算完成后,相关业务数据将从我们的计算节点中销毁或不可恢复。
Q3:如果系统报错(如响应超时、模型幻觉),怎么帮我排查问题?
A:默认情况下,我们仅依靠上述运维元数据定位网络或性能故障。模型幻觉等质量问题,需要你提供 trace_id、发生时间、问题描述和复现输入,经过您的授权后排查问题。
Q4:如果我们的业务数据极其敏感,有没有更彻底的数据保护方案?
A:硅基流动提供从公有云 Serverless API 、专属实例到本地部署解决方案,数据安全逐级提升,您可以根据业务敏感度灵活选择。其中,专属实例为您提供物理资源独享的计算实例,适合对隔离性有较高要求的业务;本地部署解决方案可将整套推理引擎和算力编排系统直接部署在您企业自有的数据中心或私有算力环境中,交互数据不离开您的内网,从物理根源上杜绝了第三方接触,适合对数据出域有严苛要求的客户。