本发明公开了一种指令缓存的性能验证方法、装置、设备及介质。包括：生成源码的中间表示，并根据中间表示分别生成第一可执行文件以及第二可执行文件；分别在第一可执行文件以及第二可执行文件中，删除无效函数，并对第二可执行文件进行函数排布调整；将优...

本发明公开了一种SDAA算子自动生成方法、装置、设备及介质。获取并根据各标准CUDA算子代码数据及各标准SDAA算子代码数据，通过算子代码功能描述生成方法，来确定各标准CUDA算子代码功能描述和各标准SDAA算子代码功能描述；通过平行语...

本发明实施例公开了一种异构融合内存系统、内存访问方法、装置、设备、介质及程序，其中，系统包括：Scale‑Up域、Scale‑Out域和融合代理网关，Scale‑Up域由通过第一互连的多个处理单元构成并具有统一的全局地址空间；Scale...

本发明公开了一种基于大语言模型的视频生成方法、装置、电子设备及存储介质，涉及生成式人工智能技术领域，包括：通过大语言模型对小说文本进行识别，得到角色初始形象信息、精彩场景信息和精彩片段信息；将角色初始形象信息输入至文生图模型，得到角色初...

本发明公开了一种大模型训练优化方法、装置、设备、介质及产品,该方法包括：在针对目标模型分片的目标前向计算阶段，根据产生的激活值构建卸载任务并加入本地卸载任务队列；顺序执行卸载任务，将卸载激活值发送至主计算核的系统内存存储，并删除本地设备...

本发明公开了一种数据的操作方法、装置、设备和存储介质，包括：通过存储器的指定操作接口接收数据操作信息；确定存储器缓存区中的当前操作指针，并根据当前操作指针和数据操作信息确定数据操作模式；以当前操作指针为起点参照数据操作模式在存储器缓存区...

本发明实施例公开了一种内存管理方法、装置、电子设备、存储介质及程序产品，包括：接收内存申请请求，并从内存申请请求中获取请求端所需的申请容量；当未在目标芯片的内存存储器内检索到与申请容量匹配的连续物理内存区域时，根据申请容量，从内存存储器...

本发明公开了一种基于分布式超时监控的故障定位系统、方法及介质。基于分布式超时监控的故障定位系统包括至少一个异常检测监控模块；每个异常检测监控模块分别用于接收至少一路被监控信号；各异常检测监控模块还用于接收时钟信号、复位信号和超时循环数；...

本发明公开了一种基于同标识请求的调度策略生成方法及系统。该方法包括：通过标识请求处理装置获取目标主设备对应的基础标识传输请求及当前标识传输需求，基于预设场景划分规则对当前标识传输需求进行场景匹配，确定目标场景类型；通过数据决策模块基于目...

本发明涉及人工智能技术领域，公开了一种缓存管理方法、设备、介质及程序产品。该方法包括：获取协处理器发送的超缓存行粒度的第一数据操作请求，并根据第一数据操作请求，获取当前存储器地址；在各候选探听过滤器中获取协处理器对应的目标探听过滤器，并...

本发明公开了一种地址锁结构、多核处理器系统及电子设备，地址锁结构包括阻塞控制模块和集中处理模块，集中处理模块，用于根据地址访问请求在访问悬挂表中新增地址访问记录；根据访问结果响应在访问悬挂表中删除地址访问记录；阻塞控制模块，用于根据自身...

本发明公开了一种芯片的性能监测方法、装置、设备及介质。该方法包括：响应于用户的触发操作，控制单元通过各性能监测单元向各目标监测探针发送目标配置指令；各目标监测探针响应于目标配置指令的接收以及目标芯片的使能操作，根据目标配置指令向各性能监...

本发明公开了一种大模型推理日志处理方法、装置、设备及存储介质。包括：获取用户请求和随机生成追踪标识符，根据用户请求与追踪标识符按请求处理阶段生成日志数据，并将日志数据异步写入至分布式消息队列集群Kafka；基于追踪标识符关联Kafka存...

本发明实施例公开了一种指令融合方法、装置、电子设备、存储介质及程序产品，包括：获取待优化程序；当确定待优化程序内所有指令均属于同一基本块，且待优化程序内有依赖关系的指令均相邻排布时，获取待优化程序内的各连续指令序列，在各连续指令序列中确...

本发明公开了一种多输入多输出的路由调度装置，该装置包括：输入端口模块，用于实时获取交易数据，通过对交易数据进行解析得到目的地址，根据所述交易数据的目的地址，将该交易数据缓存至对应的虚拟输出队列中，当任一虚拟输出队列中的缓存的交易数据量达...

本发明涉及人工智能技术领域，公开了一种模型推理方法、设备、介质及程序产品。该方法包括：获取当前算子对应的初始输入张量和高度维度参数；根据初始输入张量和高度维度参数，计算得到各计算核心对应的目标输出高度，并根据目标输出高度，获取各计算核心...

本发明公开了链接阶段的程序代码优化方法、装置、设备及存储介质，包括：对输入链接器的每个目标文件进行遍历，获取每个目标文件中的程序节；如果所述程序节为聚类基点函数，则创建所述聚类基点函数对应的核聚类实例，并根据所述核聚类实例对所述聚类基点...

本发明实施例公开了一种视频流并行处理方法、装置、电子设备、存储介质及程序，其中，方法应用于AI加速卡，AI加速卡包括多个计算核心；方法包括：获取多路视频流数据以及视频流数据的配置信息；根据所述视频流数据的配置信息确定每一路所述视频流数据...

本发明实施例公开了一种模型推理的计算加速方法、设备、介质及程序产品，包括：在模型推理的多头注意力处理中，根据处理器中的处理器核组数量将多头注意力处理中的头数划分至各处理器核组中；在处理器核组进行多头注意力处理中的查询向量与键向量之间的运...

本发明涉及计算机技术领域，公开了一种算子测试方法、装置、设备、介质及程序产品。该方法包括：获取待测算子对应的测试流程，并根据测试流程，获取待测算子对应的测试计算图，测试计算图的节点与测试任务一一对应；根据测试计算图进行任务调度，获取各测...