当前位置: 首页 > 专利查询>辉达公司专利>正文

独立地训练神经网络制造技术

技术编号:44414117 阅读:12 留言:0更新日期:2025-02-25 10:29
本发明专利技术公开了独立地训练神经网络,具体公开了用于训练神经网络的装置、系统和技术。在至少一个实施例中,第一神经网络被训练为基于例如生成第一神经网络的权重的第三神经网络独立于第二神经网络的输出来匹配第二神经网络的准确度。

【技术实现步骤摘要】

至少一个实施例涉及用于执行和促进人工智能的处理资源。例如,至少一个实施例涉及用于根据本文描述的各种新颖技术来训练神经网络的处理器或计算系统。


技术介绍

1、训练神经网络会使用大量的存储器、时间或计算资源。可以改善用于训练神经网络的存储器、时间或计算资源的量。


技术实现思路

【技术保护点】

1.一种处理器,包括:

2.如权利要求1所述的处理器,其中所述一个或更多个电路进一步用于使用一个或更多个第三神经网络以至少部分地基于所述第二神经网络的一个或更多个第二权重来生成所述第一神经网络的一个或更多个第一权重。

3.如权利要求1所述的处理器,其中所述一个或更多个电路进一步用于:

4.如权利要求1所述的处理器,其中所述一个或更多个电路进一步用于使得一个或更多个第三神经网络:

5.如权利要求1所述的处理器,其中所述一个或更多个电路进一步用于生成学习的转换,所述学习的转换将所述第二神经网络的具有第二维度的层投影到所述第一神经网络的具有第一维...

【技术特征摘要】

1.一种处理器,包括:

2.如权利要求1所述的处理器,其中所述一个或更多个电路进一步用于使用一个或更多个第三神经网络以至少部分地基于所述第二神经网络的一个或更多个第二权重来生成所述第一神经网络的一个或更多个第一权重。

3.如权利要求1所述的处理器,其中所述一个或更多个电路进一步用于:

4.如权利要求1所述的处理器,其中所述一个或更多个电路进一步用于使得一个或更多个第三神经网络:

5.如权利要求1所述的处理器,其中所述一个或更多个电路进一步用于生成学习的转换,所述学习的转换将所述第二神经网络的具有第二维度的层投影到所述第一神经网络的具有第一维度的层。

6.如权利要求1所述的处理器,其中所述第二神经网络是能够执行两个或更多个任务的经训练的神经网络,并且所述第一神经网络将被训练以执行所述两个或更多个任务中的一个或更多个任务。

7.如权利要求1所述的处理器,其中所述第二神经网络中的权重的数量大于所述第一神经网络中的权重的数量。

8.一种系统,包括:

9.如权利要求8所述的系统,其中所述一个或更多个处理器进一步用于使用一个或更多个第三神经网络以至少部分地基于所述第二神经网络的一个或更多个第二权重来生成所述第一神经网络的一个或更多个第一权重。

10.如权利要求8所述的系统,其中所述一个或更多个处理器进一步用于:

【专利技术属性】
技术研发人员:S·图鲁维克雷·斯里尼瓦斯D·科热克瓦
申请(专利权)人:辉达公司
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1