北京英泰利智能科技有限公司专利技术

北京英泰利智能科技有限公司共有1项专利

  • 本申请提供了一种基于大型语言模型的推理过程监控与控制方法和装置,涉及人工智能技术领域。该方法包括:获取大型语言模型的推理序列中每个token的第一隐藏层表示向量,所述推理序列通过所述大型语言模型的显式推理标记来划分;计算各个token在...
1