本公开涉及应用于训练元优化函数以计算针对设计公司函数的参数的协作学习。提供了用于在设计公司间创建和共享知识的系统和方法。特别地，本公开技术的示例利用元优化和协作学习的概念来减少由如下个体设计公司所承担的计算负担，该个体设计公司使用逆向设计技术以保护知识产权敏感信息的方式寻找最优设计。示例可以在针对不同(但相关)设计任务的设计公司间共享中央元优化器(即局部元优化器)的版本。可以训练局部元优化器以通过计算针对设计公司的私有优化函数的超参数来间接地优化设计任务。私有优化函数可能正在使用逆向设计技术来为设计任务寻找最佳设计。这可以对应于使用梯度下降技术或更高级的全局优化技术寻找成本函数的全局最小值。成本函数的全局最小值。成本函数的全局最小值。
【技术实现步骤摘要】
应用于训练元优化函数以计算针对设计公司函数的参数的协作学习
技术介绍
[0001]逆向设计是一种反向类型的优化问题，其从期望的性能目标开始，并且寻找实现性能目标的最优设计。例如，设计公司(例如光子设计公司)可以为特定设计任务(例如设计光栅耦合器)指定所期望的性能目标(例如特定带宽或插入损耗)。设计公司可以使用逆向设计技术(诸如使用伴随方法的梯度下降)来寻找实现性能目标的最佳设计。
[0002]元优化(也被称为元学习)是使用一种优化方法/函数来调整另一种优化方法/函数。例如，可以训练一个元优化函数来调整另一个优化函数的参数。
[0003]协作学习(诸如联合学习或群体学习)涉及两个或更多个实体(例如人、机器、机器学习模型等)试图一起学习某些东西。例如，协作学习可以涉及学习方从事类似任务并且创建和彼此分享知识的方法。
附图说明
[0004]根据一个或多个不同的示例，参考以下附图详细描述了本公开。提供附图仅用于说明目的并且仅描绘示例。
[0005]图1图示了设计公司的私有优化函数可能会寻求最小化的示例成本函数
[0006]图2图示了根据本公开技术的示例的用于协作优化的示例架构。
[0007]图3图示了根据本公开技术的各种示例的顺序学习方法，两个或更多个设计公司可以通过该方法来创建和共享知识。
[0008]图4图示了根据本公开技术的各种示例的联合学习方法，两个或更多个设计公司可以通过该方法创建和共享知识。
[0009]图5图示了根据本公开技术的各种示例的群体学习方法，两个或更多个设计公司可以通过该方法创建和共享知识。
[0010]图6图示了根据各种示例的可以被用来实现协作学习方法的示例计算组件，一个或多个设计公司可以通过该方法创建和共享知识。
[0011]图7图示了根据各种示例的可以被用来实现协作学习方法的另一示例计算组件，一个或多个设计公司可以通过该方法创建和共享知识。
[0012]图8图示了根据各种示例的可以被用来实现群体学习方法的示例计算组件，一个或多个设计公司可以通过该方法创建和共享知识。
[0013]图9是可以被用来实现本公开中描述的示例的各种特征的示例计算组件。
[0014]附图不是详尽的并且不将本公开限制为所公开的精确形式。
具体实施方式
[0015]如上所述，逆向设计是一种反向类型的优化问题，它从期望的性能目标开始，并且确定实现性能目标的最优设计(本文中使用的术语“优化”、“最优”等可以被用来意指实现或达成尽可能有效或完美的表现)。在一些情况下，最优设计可以对应于成本函数的全局最
小值，并且某些次优设计可以对应于成本函数的局部最小值。逆向设计的一个挑战是，在许多情况下，寻找全局最小值(而不是潜在的许多局部最小值中的一个局部最小值)需要运行大量的现场仿真。因此，逆向设计技术(诸如使用伴随方法的梯度下降)对于采用它们的设计公司来说可能是计算密集型的。
[0016]在此背景下，本公开技术的示例利用元优化和协作学习的概念来减少个体设计公司使用逆向设计技术来寻找最优设计所承担的计算负担。这种计算负担的减少可以对应于减少设计公司(例如光子设计公司或模拟集成电路设计公司)运行以寻找最佳设计(例如光栅耦合器或模拟集成电路)的现场仿真的数目。
[0017]示例可以在针对不同(但相关的)设计任务的设计公司之间共享中央元优化器(即局部元优化器)的版本。可以训练局部元优化器以通过计算设计公司的私有优化函数的超参数来间接地优化设计任务。私有优化函数可能正在使用逆向设计技术来为设计任务寻找最佳设计。如上所述，这可以对应于使用梯度下降技术寻找成本函数的全局最小值。
[0018]在一些示例中，中央中介可以接收与一个或多个局部元优化器的训练相关联的信息。例如，中央中介可以接收以下内容中的任何一个或组合：(a)局部元优化器的参数，(b)与被指派给私有优化函数的设计任务相关联的信息，以及(c)与局部元优化器
‑
私有优化函数组合的性能相关联的信息(例如，寻找全局最小值所需的现场仿真的数目)。基于该信息，中央中介可以确定以改进/优化局部元优化器
‑
私有优化函数组合的性能的方式来修改中央元优化器的参数(例如，减少寻找全局最小/最优设计所需的仿真数目)。因此，这种修改后的中央元优化器的版本(即新的/改进的局部元优化器)可以被分发给设计公司以用于未来的训练集。通过这种方式，本公开技术的示例可以创建和共享知识，这提高了参与设计公司的私有优化函数的效率和有效性。这反过来又可以减少寻找最佳设计所需的现场仿真的数目。换句话说，可以减少由参与的设计公司所承担的计算负担。
[0019]通过其独特的架构，本公开技术的示例以保护参与设计公司的专有信息/数据的方式来创建和共享知识。在某种程度上，这是通过利用元优化的概念来为知识产权(IP)敏感应用定制常规的协作学习方法来实现的。
[0020]例如，使用一种常规的协作学习方法，可以通过让设计公司共享他们寻找到的最优设计来在竞争的设计公司之间共享知识。然而，由于这些优化设计对每个设计公司都具有巨大的专有价值，因此这种方法在商业上是不可行的。另一种常规的协作学习方法可以涉及设计公司共享其私有优化函数的参数。然而，这些私有优化函数对每个设计公司也具有重要的专有价值。因此，通过这种方法进行协作学习在商业上是不可行的。
[0021]使用另一种协作学习方法，可以在若干设计公司之间分发中央模型(例如中央优化函数)的局部版本。然后可以训练模型的局部版本以优化设计公司的特定任务。因此，中央模型的中介(broker)可以接收与局部训练相关联的信息(例如中央模型的局部版本的参数)，并且相应地更新中央模型的参数。这种方法的第一个缺陷是，参与的设计公司的专有信息(例如完全现场仿真数据、设备/电路/网络参数、所获得的设备/电路/网络参数的梯度和Hessian矩阵等)可能会间接地被暴露，因为共享模型将直接在设计公司的数据/任务上进行训练。这种方法的另一缺陷是，由于模型的局部版本正在学习以优化不同的设计任务，因此它们所获取的知识可能无法转移到其他设计任务。
[0022]对照而言，本公开技术的示例通过共享元优化器(与主要优化器相反)的版本来隔
离设计公司的专有数据。如上所述，可以训练局部元优化器来调整/优化设计公司的私有优化函数的超参数。换句话说，局部元优化器是从设计公司的敏感专有数据中被移除的一个优化函数。因此，可以提高私有优化函数的性能，同时设计公司的专有数据和私有优化参数与竞争的设计公司保持隔离。类似地，因为局部元优化器是特定设计任务之上的一个抽象层次，所以训练知识可能比直接在设计任务上训练局部元优化器的情况下更具可转移性。
[0023]图1图示了设计公司的私有优化函数可能会寻求最小化(即寻求找到其全局最小值)的示例成本函数。如上所述，成本函数的全局最小值可以对应于针对特定设计任务的最优设计。换句话说，给定特定的物理约束和期望的性能目标，私有优化函数可以使用逆向设计技术本文档来自技高网...
【技术保护点】
【技术特征摘要】
1.一种方法，包括：接收局部元优化器；训练所述局部元优化器以计算针对私有优化函数的参数；以及向中央中介提供与训练所述局部元优化器相关联的信息，其中：与训练所述局部元优化器相关联的所述信息包括所述局部元优化器的参数；并且所述中央中介根据所述局部元优化器的所述参数来修改所述中央元优化器的参数。2.根据权利要求1所述的方法，其中所述局部元优化器是所述中央元优化器的一个版本。3.根据权利要求2所述的方法，还包括：训练所述私有优化函数以优化针对设计任务的设计。4.根据权利要求3所述的方法，其中训练所述私有优化函数以优化针对所述设计任务的所述设计包括：训练所述私有优化函数以寻找成本函数的全局最小值。5.根据权利要求4所述的方法，其中训练所述私有优化函数以寻找所述成本函数的所述全局最小值包括：运行现场仿真以及应用梯度下降技术。6.根据权利要求5所述的方法，其中训练所述局部元优化器以计算针对所述私有优化函数的参数包括：训练所述局部元优化器以计算针对所述私有优化函数的、减少优化针对所述设计任务的所述设计所需的现场仿真的数目的参数。7.根据权利要求6所述的方法，其中根据所述局部元优化器的所述参数确定是否修改所述中央元优化器的参数包括：确定由所述私有优化函数运行的所述现场仿真是否满足已定义的标准；以及响应于所述已定义的标准被满足，根据所述局部元优化器的所述参数来修改所述中央元优化器的所述参数。8.根据权利要求5所述的方法，其中：训练所述私有优化函数以优化针对所述设计任务的所述设计包括：使用强化学习；并且根据所述局部元优化器的所述参数确定是否修改所述中央元优化器的参数包括：响应于所述私有优化函数获得超过阈值的累积奖励，根据所述局部元优化器的所述参数来修改所述中央元优化器的所述参数。9.一种系统，包括：至少一个处理器；以及存储指令的存储器，所述指令在由所述至少一个处理器执行时，使所述系统执行方法，所述方法包括：为一个或多个设计公司提供局部元优化器以用于训练；接收与由所述一个或多个设计公司训练一个或多个局部元优化器相关联的信息，所述信息包括所述一个或多个局部元优化器的参数；以及修改所述中央元优化器的参数。10.根据权利要求9所述的系统，其中修改所述中央元优化器的参数包括：根据所述一个或多个局部元优化器的所述参数来修改所述中央元优化器的参数。11.根据权利要求10所述的系统，其中根据所述一个或多个局部元优化器的所述参数
来修改所述中央元优化器的参数包括：确定由给定设计公司运行的现场仿真是否满足已定义的标准；...
【专利技术属性】
技术研发人员：T，
申请(专利权)人：慧与发展有限责任合伙企业，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。