如题。千帆的老接口迁到 openai 兼容模式之后,system prompt 偶发性丢失(大概 20% 的请求)。
同一段代码打官方 openai 没这个问题。抓包看了,system 字段是发出去的。有人遇到类似情况吗?想知道是兼容层的锅还是参数配置问题。
如题。千帆的老接口迁到 openai 兼容模式之后,system prompt 偶发性丢失(大概 20% 的请求)。
同一段代码打官方 openai 没这个问题。抓包看了,system 字段是发出去的。有人遇到类似情况吗?想知道是兼容层的锅还是参数配置问题。