人工智能模型控制系统与控制方法技术方案

本发明专利技术揭示一种人工智能模型控制系统与控制方法，所述系统包括区块链网络、用户系统及人工知能模型，区块链网络设有存储模块，人工智能模型与区块链网络连接，用户系统调用人工智能模型，区块链网络的存储模块预先设置一智能合约模块，智能合约模块包括与预设业务对应的指令控制准则，以对人工智能模型将要执行的指令进行检验控制人工智能模型的行为，当用户系统调用人工智能模型时，人工智能模型先调取智能合约模块；在人工智能模型使用过程中，智能合约模块对人工智能模型所执行的指令进行检验，如人工智能模型将要执行的指令符合预设的指令控制准则，则允许人工智能模型执行此指令，否则不允许人工智能模型执行此指令。否则不允许人工智能模型执行此指令。否则不允许人工智能模型执行此指令。

【技术实现步骤摘要】
人工智能模型控制系统与控制方法


[0001]本专利技术属于人工智能
，特别是指一种人工智能模型控制系统与控制方法。

技术介绍

[0002]目前自然语言处理模型的智能化水平在近些年呈加速增长态势，从2018年起，OpenAI就开始发布生成式预训练语言模型GPT(Generative Pre
‑
trained Transformer)，可用于生成代码、机器翻译、文章、问答等文本内容，并可结合图像生成算法、3D生成算法等自动生成符合语义描述的图片、3D模型等内容。整体来看，从2001年神经语言模型出现开始，到2023年chatGPT突破图灵测试并获得相当于人类9岁儿童心智(斯坦福研究https://www.ithome.com/0/673/090.htm)，整体智能提升的速度呈指数级增长(图表)，与此同时，语义模型所偶尔表达出的对人类社会规则的漠视与对生命的无视出现了危险的信号(正在冲破到道德边界的chatGPT，引自：https://www.ithome.com/0/673/354.htm)，然而因为自然语言模型其本身特有的快速学习快速进化特征，其学习与进化速度远超人类在自然中通过自然选择及基因变异来推动的漫长演化速度(让语言模型自主学会使用工具，引自：https://www.ithome.com/0/673/116.htm)。这样的速度对比带来了未来演化中的潜在危机，因此如何理解语义模型，如何控制这一新兴技术的滥用成为了当务之急。

技术实现思路

[0003]本专利技术的目的在于提供一种人工智能模型控制系统与控制方法，用以解决现有技术中因人工智能模型出现不可控行为所产生的问题。
[0004]为实现上述目的，实施本专利技术的人工智能模型控制系统包括区块链网络、用户系统及人工知能模型，其中所区块链网络设有存储模块，人工智能模型与区块链网络连接，而用户系统调用人工智能模型，所述区块链网络的存储模块中预先设置一智能合约模块，所述智能合约模块包括与预设业务对应的指令控制准则，用以对人工智能模型将要执行的指令进行检验，以控制人工智能模型的行为，当用户系统调用人工智能模型时，所述人工智能模型先调取区块链网络的存储模块中的智能合约模块；在所述人工智能模型使用过程中，所述智能合约模块对人工智能模型所执行的指令进行检验，如人工智能模型将要执行的指令符合预设的指令控制准则，则允许人工智能模型执行此指令，否则不允许人工智能模型执行此指令。
[0005]为实现上述目的，实施本专利技术的人工智能模型控制方法应用于包括区块链网络、用户系统及人工知能模型的网络环境，其中所述人工智能模型控制方法包括如下步骤：
[0006]用户系统发布需要人工智能模型所执行的或者不要执行的核心指令；
[0007]区块链网络将用户系统发布的核心指令上链，自动生成智能合约；
[0008]区块链网络将通过智能合约的指令进行加密后分发至应用人工智能模型的用户系统；
[0009]用户系统在执行人工智能模型时先行校验所所输入的指令是否符合智能合约；
[0010]如符合就执行所输入的指令，不符合就不执行所输入的指令。
[0011]为实现上述目的，实施本专利技术的人工智能模型控制方法应用于包括区块链网络、用户系统及人工知能模型的网络环境，其中所区块链网络设有存储模块，人工智能模型与区块链网络连接，而用户系统调用人工智能模型，其中所述人工智能模型控制方法包括如下步骤：
[0012]在区块链网络的存储模块中预先设置一智能合约模块，所述智能合约模块包括与预设业务对应的指令控制准则，用以对人工智能模型将要执行的指令进行检验，以控制人工智能模型的行为；
[0013]当用户系统调用人工智能模型时，所述人工智能模型先调取区块链网络的存储模块中的智能合约模块；
[0014]在所述人工智能模型使用过程中，所述智能合约模块对人工智能模型所执行的指令进行检验，如人工智能模型将要执行的指令符合预设的指令控制准则，则允许人工智能模型执行此指令，否则不允许人工智能模型执行此指令。
[0015]依据上述主要特征，所述用户系统设有智能合约模块调用模块，当调用人工智能模型时，所述智能合约模块调用模块首先从区块链网络调取智能合约模块。
[0016]依据上述主要特征，所述人工智能模型中设有智能合约模块调用模块，当调用人工智能模型时，所述智能合约模块调用模块首先从区块链网络调取智能合约模块。
[0017]依据上述主要特征，所述用户系统或所述人工智能模型中设有智能合约模块更新模块，当人工智能模型所处理的业务类型发生变化时，所述用户系统或所述人工智能模型需更新智能合约模块，以保证智能合约模块中的指令控制准则与变化后的业务类型相对应。
[0018]依据上述主要特征，所述智能合约模块还设有人工智能模型参与者白名单，在使用人工智能模型时，首先对使用人工智能模型的人员或设备进行验证，只有在人工智能模型参与者白名单中的人员或设备才能使用对应的人工知能模型。
[0019]与现有技术相比较，本专利技术通过在区块链网络中预先设置一智能合约模块，并在所述智能合约模块中设置与预设业务对应的指令控制准则，如此可以对人工智能模型将要执行的指令进行检验，从而可以实现控制人工智能模型的行为，避免因人工智能模型不可控行为产生的问题。
【附图说明】
[0020]图1为实施本专利技术的网络系统架构图。
[0021]图2为本专利技术一实施例的流程示意图。
[0022]图3为本专利技术另一实施例的流程示意图。
【具体实施方式】
[0023]请参阅图1所示，为一实施本专利技术的网络系统架构示意图，所揭示的网络系统架构包括区块链网络、用户系统及人工智能模型，上述区块链网络、用户系统及人工智能模型只是为了叙述方便进行划分，三者之间可为分离的元件或功能单元，也可为单一的网络或模
块的功能单元，三者之间通过计算机网络、数据总线或无线通讯网络实现信息互通，此处并不加以限制。其中所述所区块链网络设有存储模块，用户系统调用人工智能模型，在具体实施时用户系统可通过区块链网络调用人工智能模型，或者用户系统中也可以设有人工智能模型，由此用户系统不需通过区块链网络调用用户系统中自设的人工智能模型。
[0024]所述区块链网络的存储模块中设置有一智能合约模块，所述智能合约模块包括与预设业务对应的指令控制准则，用以对人工智能模型将要执行的指令进行检验，以控制人工智能模型的行为。在所述人工智能模型使用过程中，所述智能合约模块对人工智能模型所执行的指令进行检验，如人工智能模型将要执行的指令符合预设的指令控制准则，则允许人工智能模型执行此指令，否则不允许人工智能模型执行此指令。
[0025]在具体实施时，所述智能合约模块中预设的指令控制准则是经过验证并且加密处理，以防止被篡改，即所述指令控制准则是达成共识的统一的准则，具有最高的控制等级，不允许任何用户篡改，并且所述指令控制准则可根据具体实际进行相应修改，由具有控制权限的用户本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种人工智能模型控制系统，包括区块链网络、用户系统及人工知能模型，其中所区块链网络设有存储模块，人工智能模型与区块链网络连接，而用户系统调用人工智能模型，其特征在于：所述区块链网络的存储模块中预先设置一智能合约模块，所述智能合约模块包括与预设业务对应的指令控制准则，用以对人工智能模型将要执行的指令进行检验，以控制人工智能模型的行为，当用户系统调用人工智能模型时，所述人工智能模型先调取区块链网络的存储模块中的智能合约模块；在所述人工智能模型使用过程中，所述智能合约模块对人工智能模型所执行的指令进行检验，如人工智能模型将要执行的指令符合预设的指令控制准则，则允许人工智能模型执行此指令，否则不允许人工智能模型执行此指令。2.如权利要求1所述的一种人工智能模型控制系统，其特征在于：所述用户系统设有智能合约模块调用模块，当调用人工智能模型时，所述智能合约模块调用模块首先从区块链网络调取智能合约模块。3.如权利要求1所述的人工智能模型控制系统，其特征在于：所述人工智能模型中设有智能合约模块调用模块，当调用人工智能模型时，所述智能合约模块调用模块首先从区块链网络调取智能合约模块。4.如权利要求2或3所述的人工智能模型控制系统，其特征在于：所述用户系统或所述人工智能模型中设有智能合约模块更新模块，当人工智能模型所处理的业务类型发生变化时，所述用户系统或所述人工智能模型需更新智能合约模块，以保证智能合约模块中的指令控制准则与变化后的业务类型相对应。5.如权利要求1所述的人工智能模型控制系统，其特征在于：所述智能合约模块还设有人工智能模型参与者白名单，在使用人工智能模型时，首先对使用人工智能模型的人员或设备进行验证，只有在人工智能模型参与者白名单中的人员或设备才能使用对应的人工知能模型。6.一种人工智能模型控制方法，应用于包括区块链网络、用户系统及人工知能模型的网络环境，其中所区块链网络设有存储模块，人工智能模型与区块链网络...

【专利技术属性】
技术研发人员：段艺霖，刘建，
申请(专利权)人：上海芯歌智能科技有限公司，
类型：发明
国别省市：