【技术实现步骤摘要】
本申请涉及电商，尤其涉及一种语言模型调用方法及其相应的装置、计算机设备、计算机可读存储介质。
技术介绍
1、外部服务商通常把自己实现的语言模型，分别部署及维护在多个机房，由机房提供调用语言模型的服务。
2、传统技术中，通常使用多个服务器独立地使用机房提供的服务。然而，当某个机房无法提供服务时，由于各个服务器相互之间不通信，导致每个服务器需自行使用到该机房提供的服务，方可知道无法使用该服务。可见，每个服务器在不知情的情况下，会向无法提供服务的机房发送请求，造成网络和服务器资源的浪费。而且，整体上看，在服务不可用的过程中经历了多次冗余的试错，严重降低了整体的运行效率。
3、鉴于传统做法的不足，本申请人长期从事相关领域的研究，为解决电商
业内难题，故另辟蹊径。
技术实现思路
1、本申请的首要目的在于解决上述问题至少之一而提供一种语言模型调用方法及其相应的装置、计算机设备、计算机程序产品。
2、为满足本申请的各个目的，本申请采用如下技术方案：
...
【技术保护点】
1.一种语言模型调用方法，其特征在于，包括如下步骤：
2.根据权利要求1所述的语言模型调用方法，其特征在于，根据调用异常时的时间和当前调用异常次数转换表示为第二时间戳，包括如下步骤：
3.根据权利要求1所述的语言模型调用方法，其特征在于，采用预设的指数退避算法根据所述调用异常时的时间和所述当前调用异常次数确定出第二时间戳的整数值，将当前调用异常次数作为该第二时间戳的小数值，构造出第二时间戳，包括如下步骤：
4.根据权利要求1所述的语言模型调用方法，其特征在于，调用集群中目标节点，包括如下步骤：
5.根据权利要求1所述的语...
【技术特征摘要】
1.一种语言模型调用方法，其特征在于，包括如下步骤：
2.根据权利要求1所述的语言模型调用方法，其特征在于，根据调用异常时的时间和当前调用异常次数转换表示为第二时间戳，包括如下步骤：
3.根据权利要求1所述的语言模型调用方法，其特征在于，采用预设的指数退避算法根据所述调用异常时的时间和所述当前调用异常次数确定出第二时间戳的整数值，将当前调用异常次数作为该第二时间戳的小数值，构造出第二时间戳，包括如下步骤：
4.根据权利要求1所述的语言模型调用方法，其特征在于，调用集群中目标节点，包括如下步骤：
5.根据权利要求1所述的语言模型调用方法，其特征在于，响应业务端发送的模型调用请求之前，包括如下步骤：
6.根据权利要求...
【专利技术属性】
技术研发人员：杨鹏，
申请(专利权)人：广州商耘网络科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。