温馨提示：您尚未登录，请点 登陆 后下载，如果您还没有账户请点 注册 ，登陆完成后，请刷新本页查看技术详细信息。

本发明提供了一种大模型业务指标监控方法、装置和存储介质，涉及大模型技术领域，包括：将待监控的大模型部署在CGRA平台中；监控首个Token的生成时刻；监控Token的生成耗时；监控平均Token数量；监控每秒请求总数；监控请求的平均耗时；监...
该专利属于天开智算（天津）科技有限公司所有，仅供学习研究参考，未经过天开智算（天津）科技有限公司授权不得商用。

详细技术文档下载地址

温馨提示：您尚未登录，请点 登陆 后下载，如果您还没有账户请点 注册 ，登陆完成后，请刷新本页查看技术详细信息。