电子设备及模型加载方法技术

本申请公开了一种电子设备及模型加载方法，其中，电子设备包括：第一存储模块，用于存储第一模型；目标处理模块，用于获得电子设备的状态信息；响应于状态信息满足第一条件，使得第一模型以第一状态运行；响应于状态信息满足第二条件，使得第一模型以第二状态运行；其中，第一模型以第一状态运行包括：第一模型基于第一计算单元处于运行状态；或者，第一模型基于第二计算单元处于运行状态；第一模型以第二状态运行包括：第一模型的第一模型块基于第一计算单元处于运行状态，且第一模型的第二模型块基于第二计算单元处于运行状态；第一计算单元与第二计算单元能够通信，第一计算单元与目标处理模块相同或者不同。

【技术实现步骤摘要】

本申请涉及但不限于计算机，尤其涉及一种电子设备及模型加载方法。

技术介绍

1、随着人工智能(artificial intelligence，ai)技术的发展，各种用于实现ai功能的应用越来越多地出现在用户的日常生活和工作中。其中，生成式大模型，例如，文生文模型、文生图模型和图生图模型的特点是，其对目标文本或图像的生成速度取决于计算设备算力，而在满足生成式大模型所需的算力后，才能获得令人满意的生成速度。

2、目前如何在算力不足或者资源的计算机设备上高效使用大模型，成为亟需解决的问题。

技术实现思路

1、有鉴于此，本申请至少提供一种电子设备及模型加载方法。

2、本申请的技术方案是这样实现的：

3、一方面，本申请提供一种电子设备，包括：

4、第一存储模块，用于存储第一模型；

5、目标处理模块，用于获得电子设备的状态信息；响应于状态信息满足第一条件，使得第一模型以第一状态运行；响应于状态信息满足第二条件，使得第一模型以第二状态运行；>

6、其中，第本文档来自技高网...

【技术保护点】

1.一种电子设备，包括：

2.根据权利要求1所述的设备，所述状态信息包括所述电子设备能够提供的计算资源；所述第一条件表征所述计算资源不在预设计算资源范围内；所述第二条件表征所述计算资源在所述预设计算资源范围内；

3.根据权利要求1或2所述的设备，所述第二计算单元为设置在计算设备中的计算单元；所述计算设备与所述电子设备通信连接；

4.根据权利要求3所述的设备，所述目标处理模块，还用于：

5.根据权利要求3所述的设备，在使得所述第一模型以所述第一状态运行的情况下，所述目标处理模块，还用于：

6.根据权利要求3所述的设备，

...

【技术特征摘要】

1.一种电子设备，包括：

2.根据权利要求1所述的设备，所述状态信息包括所述电子设备能够提供的计算资源；所述第一条件表征所述计算资源不在预设计算资源范围内；所述第二条件表征所述计算资源在所述预设计算资源范围内；

3.根据权利要求1或2所述的设备，所述第二计算单元为设置在计算设备中的计算单元；所述计算设备与所述电子设备通信连接；

4.根据权利要求3所述的设备，所述目标处理模块，还用于：

5.根据权利要求3所述的设备，在使得所述第一模型以所述第一状态运行的情况下，所述...

【专利技术属性】
技术研发人员：李洪伟，沈星，
申请(专利权)人：联想北京有限公司，
类型：发明
国别省市：

全部详细技术资料下载 我是这个专利的主人