AI模型的监管方法、系统、服务器及存储介质技术方案

本发明专利技术实施例公开了一种AI模型的监管方法、系统、服务器及存储介质，包括：获取待监管的AI模型的开发所需信息；根据所述AI模型的开发所需信息进行模型开发以得到所述AI模型；将所述AI模型记录至区块链上。本发明专利技术实施例还公开了一种AI模型的监管方法，包括：获取待监管的AI模型的使用信息；将所述AI模型的使用信息记录至区块链上。采用该手段，可以实现AI模型各生命周期中关键信息的可信、透明监管。同时，可实现对于AI模型相关信息进行监控、追溯。

Supervision method, system, server and storage medium of AI model

【技术实现步骤摘要】
AI模型的监管方法、系统、服务器及存储介质
本专利技术涉及计算机
，尤其涉及一种AI模型的监管方法、系统、服务器及存储介质。
技术介绍
人工智能：即ArtificialIntelligence，简称AI。其为通过计算机系统模拟人类智能的方法、技术、软硬件及系统的泛称。通常情况下，AI模型的全生命周期包含模型开发、模型交付和模型服务三个阶段。现有AI模型管理系统对AI模型的开发、交付和服务普遍采用中心化方式进行集中管理。由于采用中心化的方式进行集中管理，因此现有手段对于模型监管不能做到可信化、透明化。
技术实现思路
本申请实施例提供一种AI模型的监管方法、系统、服务器及存储介质，能够实现AI模型全生命周期中相关信息的可信、透明监管。本申请实施例的第一方面提供了一种AI模型的监管方法，包括：获取待监管的AI模型的开发所需信息；根据所述AI模型的开发所需信息进行模型开发以得到所述AI模型；将所述AI模型记录至区块链上。其中，所述将所述AI模型记录至区块链上，可包括将所述模型开发中产出的开发信息以及所得到的AI模型均记录至区块链上。可选的，所述根据所述AI模型的开发所需信息进行模型开发之前，包括：获取所述AI模型的训练数据，并对所述训练数据进行第一哈希算法处理以得到所述训练数据的第一哈希值；从所述区块链上获取所述训练数据的第二哈希值；确认所述训练数据的第一哈希值和第二哈希值之间的误差是否在预设范围内；若是，则确认所述训练数据可信。可选的，所述根据所述AI模型的开发所需信息进行模型开发以得到所述AI模型，包括：获取与所述AI模型对应的AI算法；根据所述AI算法以及所述训练数据对所述AI模型进行训练，以得到所述AI模型的静态信息和动态信息。可选的，所述将所述AI模型记录至区块链上，包括：根据模型信息与分数之间的映射关系，分别获取所述AI模型的静态信息和动态信息对应的分数；获取超出阈值的分数所对应的信息，并记为第一信息；获取与所述第一信息对应的上链方式，按照所述上链方式将所述第一信息记录至区块链上。可选的，所述按照所述上链方式将所述第一信息记录至区块链上，具体包括：对所述第一信息进行处理以得到与所述上链方式对应的处理后的第一信息；对所述处理后的第一信息进行加密，以得到加密后的第一信息；将所述加密后的第一信息记录至区块链上。进一步地，所述方法还包括：获取所述AI模型交付信息，并将所述AI模型交付信息记录至所述区块链上。可选的，所述获取所述AI模型交付信息，包括：分别获取交付的AI模型与记录在区块链上的AI模型的数字身份签名；确认所述交付的AI模型的数字身份签名是否与所述记录在区块链上的AI模型的数字身份签名一致；若一致，则确认所述AI模型为正确的。可选的，所述方法包括：获取所述AI模型的静态信息和所述AI模型的运行结果；分别对所述静态信息、所述运行结果进行第二哈希算法处理，以得到所述静态信息、所述运行结果分别对应的哈希值；对所述静态信息、所述运行结果分别对应的哈希值进行第三哈希算法处理，以得到所述AI模型的数字身份签名。本申请实施例的第二方面提供了一种AI模型的监管方法，包括：获取待监管的AI模型的使用信息；将所述AI模型的使用信息记录至区块链上。进一步地，所述方法还包括：获取运行所述AI模型的使用者的身份信息；从所述区块链上获取所述AI模型的使用权信息；确认所述AI模型的使用权信息是否包含所述使用者的身份信息；若是，则确认所述使用者具备使用权限。可选的，所述方法包括：获取所述AI模型的静态信息和所述AI模型的运行结果；分别对所述静态信息、所述运行结果进行第二哈希算法处理，以得到所述静态信息、所述运行结果分别对应的哈希值；对所述静态信息、所述运行结果分别对应的哈希值进行第三哈希算法处理，以得到所述AI模型的数字身份签名。所述方法还包括：从所述区块链上获取与所述AI模型的数字身份签名对应的AI模型的权能构成加密信息和/或权利变更加密信息；对所述权能构成加密信息和/或权利变更加密信息进行解密以得到权能构成信息和/或权利变更信息；从所述权能构成信息和/或权利变更信息中提取所述AI模型的使用权信息。本申请实施例的第三方面提供了一种AI模型的监管系统，包括：获取模块，用于获取待监管的AI模型的开发所需信息；开发模块，用于根据所述AI模型的开发所需信息进行模型开发以得到所述AI模型；记录模块，用于将所述AI模型记录至区块链上；其中，所述开发模块，用于：获取与所述AI模型对应的AI算法；根据所述AI算法以及训练数据对所述AI模型进行训练，以得到所述AI模型的静态信息和动态信息；所述记录模块，具体用于：根据模型信息与分数之间的映射关系，分别获取所述AI模型的静态信息和动态信息对应的分数；获取超出阈值的分数所对应的信息，并记为第一信息；获取与所述第一信息对应的上链方式，按照所述上链方式将所述第一信息记录至区块链上。本申请实施例的第四方面提供了一种AI模型的监管系统，包括：第一获取模块，用于获取AI模型的开发所需信息进行模型开发以得到所述AI模型；第一记录模块，用于将所述AI模型记录至区块链上；第二获取模块，用于获取待监管的AI模型的使用信息；第二记录模块，用于将所述AI模型的使用信息记录至区块链上；其中，所述第一获取模块，具体用于：获取与所述AI模型对应的AI算法；根据所述AI算法以及训练数据对所述AI模型进行训练，以得到所述AI模型的静态信息和动态信息；所述第一记录模块，具体用于：根据模型信息与分数之间的映射关系，分别获取所述AI模型的静态信息和动态信息对应的分数；获取超出阈值的分数所对应的信息，并记为第一信息；获取与所述第一信息对应的上链方式，按照所述上链方式将所述第一信息记录至所述区块链上。本申请实施例的第五方面提供了一种AI模型的监管服务器，包括处理器、输入设备、输出设备和存储器，所述处理器、输入设备、输出设备和存储器相互连接，其中，所述存储器用于存储计算机程序，所述计算机程序包括程序指令，所述处理器被配置用于调用所述程序指令，执行所述的方法。本申请实施例的第六方面提供了一种计算机可读存储介质，所述计算机可读存储介质存储有计算机程序，所述计算机程序被处理器执行以实现所述的方法。实施本申请实施例，至少具有如下有益效果：通过本申请实施例，通过获取待监管的AI模型的开发所需信息，然后根据所述AI模型的开发所需信息进行模型开发以得到该AI模型；最后将所述AI模型记录至区块链上。采用该手段，可以实现AI模型各生命本文档来自技高网...

【技术保护点】
1.一种AI模型的监管方法，其特征在于，包括：/n获取待监管的AI模型的开发所需信息；/n根据所述AI模型的开发所需信息进行模型开发以得到所述AI模型；/n将所述AI模型记录至区块链上；/n其中，所述根据所述AI模型的开发所需信息进行模型开发以得到所述AI模型，包括：/n获取与所述AI模型对应的AI算法；/n根据所述AI算法以及训练数据对所述AI模型进行训练，以得到所述AI模型的静态信息和动态信息；/n所述将所述AI模型记录至区块链上，包括：/n根据模型信息与分数之间的映射关系，分别获取所述AI模型的静态信息和动态信息对应的分数；/n获取超出阈值的分数所对应的信息，并记为第一信息；/n获取与所述第一信息对应的上链方式，按照所述上链方式将所述第一信息记录至区块链上。/n

【技术特征摘要】
1.一种AI模型的监管方法，其特征在于，包括：
获取待监管的AI模型的开发所需信息；
根据所述AI模型的开发所需信息进行模型开发以得到所述AI模型；
将所述AI模型记录至区块链上；
其中，所述根据所述AI模型的开发所需信息进行模型开发以得到所述AI模型，包括：
获取与所述AI模型对应的AI算法；
根据所述AI算法以及训练数据对所述AI模型进行训练，以得到所述AI模型的静态信息和动态信息；
所述将所述AI模型记录至区块链上，包括：
根据模型信息与分数之间的映射关系，分别获取所述AI模型的静态信息和动态信息对应的分数；
获取超出阈值的分数所对应的信息，并记为第一信息；
获取与所述第一信息对应的上链方式，按照所述上链方式将所述第一信息记录至区块链上。


2.根据权利要求1所述的方法，其特征在于，所述根据所述AI模型的开发所需信息进行模型开发之前，包括：
获取所述AI模型的训练数据，并对所述训练数据进行第一哈希算法处理以得到所述训练数据的第一哈希值；
从所述区块链上获取所述训练数据的第二哈希值；
确认所述训练数据的第一哈希值和第二哈希值之间的误差是否在预设范围内；
若是，则确认所述训练数据可信。


3.根据权利要求2所述的方法，其特征在于，所述按照所述上链方式将所述第一信息记录至区块链上，具体包括：
对所述第一信息进行处理以得到与所述上链方式对应的处理后的第一信息；
对所述处理后的第一信息进行加密，以得到加密后的第一信息；
将所述加密后的第一信息记录至区块链上。


4.根据权利要求1至3任一项所述的方法，其特征在于，所述方法还包括：
获取所述AI模型交付信息，并将所述AI模型交付信息记录至所述区块链上。


5.根据权利要求4所述的方法，其特征在于，所述获取所述AI模型交付信息，包括：
分别获取交付的AI模型与记录在区块链上的AI模型的数字身份签名；
确认所述交付的AI模型的数字身份签名是否与所述记录在区块链上的AI模型的数字身份签名一致；
若一致，则确认所述AI模型为正确的。


6.根据权利要求5所述的方法，其特征在于，包括：
获取所述AI模型的静态信息和所述AI模型的运行结果；
分别对所述静态信息、所述运行结果进行第二哈希算法处理，以得到所述静态信息、所述运行结果分别对应的哈希值；
对所述静态信息、所述运行结果分别对应的哈希值进行第三哈希算法处理，以得到所述AI模型的数字身份签名。


7.一种AI模型的监管方法，其特征在于，包括：
获取AI模型的开发所需信息进行模型开发以得到所述AI模型，并将所述AI模型记录至区块链上；
获取待监管的AI模型的使用信息；
将所述AI模型的使用信息记录至区块链上；
其中，所述获取AI模型的开发所需信息进行模型开发以得到所述AI模型，包括：
获取与所述AI模型对应的AI算法；
根据所述AI算法以及训练数据对所述AI模型进行训练，以得到所述AI模型的静态信息和动态信息；
所述将所述AI模型记录至区块链上，包括：
根据模型信息与分数之间的映射关系，分别获取所述AI模型的静态信息和动态信息对应的分数；
获取超出阈值的分数所对应的信息，并记为第一信息；
获取与所述第一信息对应的上链方式，按照所述上链方式将所述第一信息记录至所述区块链上。


8.根据权利要求7所述的方法，其特征在于，所述方法还包括：
获取运行所述AI模型的使用者的身份信息；
从所述区块链上获取所述AI模型的使用权信息；
确认所述AI模型的使用权信息是否包含所述使用者的身份信息；
若是，则确认所述使用者具备使用权限。


9.根据权利要求7所述的方法，其特征在于，所述方法包括：
获取所述AI模型的静态信息和所述AI模型的运行结果；
分别对所述静态信息、所述运行结果进行第二哈希算法处理，以得到所述静态信息、所述运行结果分别对应的哈希值；
对所述静态信息、所述运行结果分别对应的哈希值进行第三哈希算法处理，以得到所述AI模型的数字身份签名。


10.根据权利要求9所述的方法，其特征在于，所述方法还包括：
从所述区块链上获取与所述AI模型的数字身份签名对应的AI模型的权能构成加密信息和/或权利变更加密信息；
对所述权能构成加密信息和/或权利变更加密信息进行解密以得到权能构成信息和/或权利变更信息；
从所述权能构成信息和/或权利变更信息中提取所述AI模型的使用权信息。


11.一种AI模型的监管系统，其特征在于，包括：
获取模块，用于获取待监管的AI模型的开发所需信息；
开发模块，用于根据所述AI模型的开发所需信息进行模型开发以得到所述AI模型；
记录模块，用于将所述AI模型记录至区...

【专利技术属性】
技术研发人员：林俊杰，周胜平，吴栋，梁乔忠，仲景武，
申请(专利权)人：阿尔法云计算深圳有限公司，
类型：发明
国别省市：广东;44