【技术实现步骤摘要】
本专利技术属于人工智能，尤其是涉及一种安全大模型、电子设备及计算机可读存储介质。
技术介绍
1、近年来，大语言模型发展越来越快，尤其是国外公司openai推出的chatgpt，其生成能力令人震撼，随之国内也掀起了“百模大战”，不仅是互联网大厂不断发布新的大模型，同时也崛起了一些大模型创业公司，如百川，智谱，面壁和澜舟，他们不断的迭代并开源了公司的大模型。在大模型技术方向中，推理技术一直是备受关注，也是至关重要的一环，因为它直接的效果不仅影响准确性，解码速度影响用户体验，整个语言风格是否对用户胃口，现有的推理优化技术均在优化以上描述的问题。
2、现有技术都忽略了大模型推理安全问题，推理安全主要的场景是，用户直接向对话系统明文暴露了自己所输入的提示语言(prompt)，模型服务方在日志后台可以直接看到这些文本，并用于后期模型的迭代训练。在这些prompts中包含了用户隐私信息，用户偏好，或者是他人隐私信息。在解决这个隐私问题方面，目前的大模型产品都缺少安全推理的方法和机制。
技术实现思路
1、针对现有技术中存在的问题，本专利技术提供了一种安全大模型、电子设备及计算机可读存储介质，至少部分的解决现有技术中存在的用户隐私泄露的问题。
2、第一方面，本公开实施例提供了一种安全大模型，包括：推理模块和协议簇，所述协议簇包含多种计算协议，所述推理模块包括多个层，当推理模块接收到词向量后，依次经过各个层完成推理，在推理过程中各个层对信息进行处理时调用协议簇的计算协议。>
3、可选的，所述计算协议包括，softmax安全计算协议、矩阵安全乘法计算协议和gelu安全计算协议。
4、可选的，所述推理模块包括掩码多头自注意力层、层归一化层和前向全连接层，所述词向量依次经多头自注意力层、层归一化层、前向全连接层和层归一化层完成推理。
5、可选的，所述掩码多头自注意力层调用矩阵安全乘法计算协议和softmax安全计算协议，所述层归一化层调用矩阵安全乘法计算协议和gelu安全计算协议，所述前向全连接层调用矩阵安全乘法计算协议。
6、可选的，所述softmax安全计算协议、矩阵安全乘法计算协议和gelu安全计算协议，采用rlwe同态加密算法和安全多方计算。
7、可选的，所述词向量为用户基于接收的模型结构m、词表v和位置编码p生成；
8、用户基于接收的模型结构m、词表v和位置编码p生成词向量包括，根据服务方模型结构m、词表v和位置编码p将输入文本转换为词向量。
9、可选的，根据服务方模型结构m、词表v和位置编码p将输入文本转换为词向量的步骤后，还包括使用生成的秘钥对中的公钥对词向量进行加密。
10、可选的，所述位置编码采用正弦编码。
11、第二方面，本公开实施例还提供了一种电子设备，该电子设备包括：
12、至少一个处理器；以及，
13、与所述至少一个处理器通信连接的存储器；其中，
14、所述存储器存储有能被所述至少一个处理器执行的指令，所述指令被所述至少一个处理器执行，以使所述至少一个处理器能够执行第一方面任一所述的安全大模型。
15、第三方面，本公开实施例还提供了一种计算机可读存储介质，该计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行第一方面任一所述的安全大模型。
16、本专利技术提供的安全大模型、电子设备及计算机可读存储介质。其中该安全大模型，通过设置包含多种计算协议的协议簇，在大模型推理过程中通过调用协议簇中计算协议，从而对输入的明文进行处理，使得其它方无法获得用户输入的明文，达到保护用户隐私安全的目的。
本文档来自技高网...【技术保护点】
1.一种安全大模型，其特征在于，包括：推理模块和协议簇，所述协议簇包含多种计算协议，所述推理模块包括多个层，当推理模块接收到词向量后，依次经过各个层完成推理，在推理过程中各个层对信息进行处理时调用协议簇的计算协议。
2.根据权利要求1所述的安全大模型，其特征在于，所述计算协议包括，Softmax安全计算协议、矩阵安全乘法计算协议和GELU安全计算协议。
3.根据权利要求2所述的安全大模型，其特征在于，所述推理模块包括掩码多头自注意力层、层归一化层和前向全连接层，所述词向量依次经多头自注意力层、层归一化层、前向全连接层和层归一化层完成推理。
4.根据权利要求3所述的安全大模型，其特征在于，所述掩码多头自注意力层调用矩阵安全乘法计算协议和Softmax安全计算协议，所述层归一化层调用矩阵安全乘法计算协议和GELU安全计算协议，所述前向全连接层调用矩阵安全乘法计算协议。
5.根据权利要求2所述的安全大模型，其特征在于，所述Softmax安全计算协议、矩阵安全乘法计算协议和GELU安全计算协议，采用RLWE同态加密算法和安全多方计算。>
6.根据权利要求1所述的安全大模型，其特征在于，所述词向量为用户基于接收的模型结构M、词表V和位置编码P生成；
7.根据权利要求6所述的安全大模型，其特征在于，根据服务方模型结构M、词表V和位置编码P将输入文本转换为词向量的步骤后，还包括使用生成的秘钥对中的公钥对词向量进行加密。
8.根据权利要求6所述的安全大模型，其特征在于，所述位置编码采用正弦编码。
9.一种电子设备，其特征在于，所述电子设备包括：
10.一种计算机可读存储介质，其特征在于，该计算机可读存储介质存储计算机指令，该计算机指令用于使计算机执行权利要求1-8任一所述的安全大模型。
...【技术特征摘要】
1.一种安全大模型，其特征在于，包括：推理模块和协议簇，所述协议簇包含多种计算协议，所述推理模块包括多个层，当推理模块接收到词向量后，依次经过各个层完成推理，在推理过程中各个层对信息进行处理时调用协议簇的计算协议。
2.根据权利要求1所述的安全大模型，其特征在于，所述计算协议包括，softmax安全计算协议、矩阵安全乘法计算协议和gelu安全计算协议。
3.根据权利要求2所述的安全大模型，其特征在于，所述推理模块包括掩码多头自注意力层、层归一化层和前向全连接层，所述词向量依次经多头自注意力层、层归一化层、前向全连接层和层归一化层完成推理。
4.根据权利要求3所述的安全大模型，其特征在于，所述掩码多头自注意力层调用矩阵安全乘法计算协议和softmax安全计算协议，所述层归一化层调用矩阵安全乘法计算协议和gelu安全计算协议，所述前向全连接层调用矩阵安全乘法...
【专利技术属性】
技术研发人员：裴吉，
申请(专利权)人：北京开放传神科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。