信息的处理方法、装置和系统制造方法及图纸

本发明专利技术涉及一种信息的处理方法、装置和系统。该方法包括：接收文本信息；使用第一模型对文本信息进行计算得到文本信息对应的公众敏感权重值；判断公众敏感权重值是否大于第一预设门限值，如果是，则显示文本信息包含敏感信息的第一处理提示信息，根据接收到的第一处理提示信息对应的处理指令对文本信息进行回复；如果否，则使用第二模型对文本信息进行计算得到文本信息对应的个体敏感权重值；判断个体敏感权重值是否大于第二预设门限值，如果是，则显示文本信息包含敏感信息的第二处理提示信息，根据接收到的第二处理提示信息对应的处理指令对文本信息进行回复。本发明专利技术实现了终端自动检测文本信息是否涉及敏感信息，提高了众包应用的安全性。

【技术实现步骤摘要】

本专利技术涉及信息处理领域，尤其涉及一种信息的处理方法、装置和系统。
技术介绍
众包技术是一个公司或机构把过去由员工执行的工作任务，以自由自愿的形式外包给非特定的(而且通常是大型的)大众网络的一种技术。随着众包技术的发展，众包的应用范围也越来越广泛，比如维基百科、百度百科等众包产品的应用越来越普及。众包技术迅速发展的同时，也带来了众包用户的信息容易泄漏的问题。在现有技术下，众包用户在向网络服务器提交任务时，为了保证用户的信息不被窃取，通常采用匿名的方式发布任务，而由网络服务器侧保证用户的隐私安全。但是，现有的众包应用存在以下缺点：在用户向网络服务器侧提交任务时，无法保证任务在传输过程中不被非法用户拦截或者篡改；用户可能由于误操作，将敏感信息发送至网络服务器侧，而网络服务器侧可能泄漏用户的敏感信息。
技术实现思路
本专利技术实施例提供了一种信息的处理方法、装置和系统，以实现终端在接收到文本类信息时自动检测文本信息是否涉及敏感信息，并实现对涉及敏感信息的文本类信息进行安全回复处理，提高了众包应用的安全性。第一方面，本专利技术实施例提供了一种信息的处理方法，所述方法包括：接收文本信息；使用第一模型对所述文本信息进行计算，得到所述文本信息对应的公众敏感权重值，其中，所述第一模型是根据网络服务器发送的公众模型参数构建得到；判断所述公众敏感权重值是否大于第一预设门限值，如果是，则显示所r>述文本信息包含敏感信息的第一处理提示信息，根据接收到的所述第一处理提示信息对应的处理指令对所述文本信息进行回复处理；如果否，则使用第二模型对所述文本信息进行计算，得到所述文本信息对应的个体敏感权重值，其中，所述第二模型是根据用户历史行为信息和网络服务器发送的个体模型参数构建得到；判断所述个体敏感权重值是否大于第二预设门限值，如果是，则显示所述文本信息包含敏感信息的第二处理提示信息，根据接收到的所述第二处理提示信息对应的处理指令对所述文本信息进行回复处理。在第一种可能的实现方式中，所述判断所述个体敏感权重值是否大于第二预设门限值之后，还包括：如果所述个体敏感权重值不大于所述第二预设门限值，则显示所述文本信息不包含敏感信息的第三处理提示信息，根据接收到的所述第三处理提示信息对应的处理指令对所述文本信息进行回复处理。结合第一方面，在第二种可能的实现方式中，所述使用第一模型对所述文本信息进行计算，得到所述文本信息对应的公众敏感权重值具体包括：使用第一模型计算所述文本信息内容的敏感权重，以及所述文本信息的来源对应的敏感权重，所述文本信息内容的敏感权重是根据所述文本信息中公众敏感词语对应的敏感权重计算得到；根据所述第一模型计算出的所述文本信息内容的敏感权重以及所述文本信息的来源对应的敏感权重，计算所述文本信息对应的公众敏感权重值。结合第一方面，在第三种可能的实现方式中，所述用户历史行为信息包括以下信息中的一项或者任意项的组合：历史文本信息的内容、历史文本信息的来源、历史回复文本信息的内容、执行接收历史文本信息的操作与对所述历史文本信息执行回复处理的操作之间的时间差、所述历史回复文本信息的内容输入速率；所述第二模型具体通过以下步骤获得：收集所述用户历史行为信息；对所述用户历史行为信息进行分析和训练，根据训练结果以及所述网络服务器发送的个体模型参数获取个体敏感词语以及所述个体敏感词语对应的敏感权重，得到所述第二模型。结合第一方面的第三种可能的实现方式，在第四种可能的实现方式中，所述使用第二模型对所述文本信息进行计算，得到所述文本信息对应的个体敏感权重值具体包括：使用所述第二模型计算所述文本信息内容对应的敏感权重以及所述文本信息的来源对应的敏感权重，所述文本信息内容对应的敏感权重是根据所述文本信息中个体敏感词语对应的敏感权重计算得到；根据所述第二模型计算出的所述文本信息内容对应的敏感权重以及所述文本信息的来源对应的敏感权重，计算所述文本信息对应的个体敏感权重值。第二方面，本专利技术实施例提供了一种信息的处理装置，所述装置包括：接收单元，用于接收文本信息，将所述文本信息传输至公众敏感权重值计算单元；公众敏感权重值计算单元，用于接收所述接收单元传输的所述文本信息，使用第一模型对所述文本信息进行计算，得到所述文本信息对应的公众敏感权重值，其中，所述第一模型是根据网络服务器发送的公众模型参数构建得到，将所述公众敏感权重值传输至处理单元；处理单元，用于接收所述公众敏感权重值计算单元传输的所述公众敏感权重值，判断所述公众敏感权重值是否大于第一预设门限值，如果是，则显示所述文本信息包含敏感信息的第一处理提示信息，根据接收到的所述第一处理提示信息对应的处理指令对所述文本信息进行回复处理；如果否，则使用第二模型对所述文本信息进行计算，得到所述文本信息对应的个体敏感权重值，其中，所述第二模型是根据用户历史行为信息和网络服务器发送的个体模型参数构建得到，将所述个体敏感权重值传输至回复单元；回复单元，用于接收所述处理单元传输的所述个体敏感权重值，判断所述个体敏感权重值是否大于第二预设门限值，如果是，则显示所述文本信息包含敏感信息的第二处理提示信息，根据接收到的所述第二处理提示信息对应的处理指令对所述文本信息进行回复处理。在第一种可能的实现方式中，所述回复单元还用于：如果所述个体敏感权重值不大于所述第二预设门限值，则显示所述文本信息不包含敏感信息的第三处理提示信息，根据接收到的所述第三处理提示信息对应的处理指令对所述文本信息进行回复处理。结合第二方面，在第二种可能的实现方式中，所述公众敏感权重值计算单元具体用于：使用第一模型计算所述文本信息内容的敏感权重，以及所述文本信息的来源对应的敏感权重，所述文本信息内容的敏感权重是根据所述文本信息中公众敏感词语对应的敏感权重计算得到；根据所述第一模型计算出的所述文本信息内容的敏感权重的敏感权重以及所述文本信息的来源对应的敏感权重，计算所述文本信息对应的公众敏感权重值。结合第二方面，在第三种可能的实现方式中，所述用户历史行为信息包括以下信息中的一项或者任意项的组合：历史文本信息的内容、历史文本信息的来源、历史回复文本信息的内容、执行接收历史文本信息的操作与对所述历史文本信息执行回复处理的操作之间的时间差、所述历史回复文本信息的内容输入速率；所述装置还包括收集单元、模型生成单元：收集单元，用于收集所述用户历本文档来自技高网...

【技术保护点】
一种信息的处理方法，其特征在于，所述方法包括：接收文本信息；使用第一模型对所述文本信息进行计算，得到所述文本信息对应的公众敏感权重值，其中，所述第一模型是根据网络服务器发送的公众模型参数构建得到；判断所述公众敏感权重值是否大于第一预设门限值，如果是，则显示所述文本信息包含敏感信息的第一处理提示信息，并根据接收到的所述第一处理提示信息对应的处理指令对所述文本信息进行回复处理；如果否，则使用第二模型对所述文本信息进行计算，得到所述文本信息对应的个体敏感权重值，其中，所述第二模型是根据用户历史行为信息和网络服务器发送的个体模型参数构建得到；判断所述个体敏感权重值是否大于第二预设门限值，如果是，则显示所述文本信息包含敏感信息的第二处理提示信息，并根据接收到的所述第二处理提示信息对应的处理指令对所述文本信息进行回复处理。

【技术特征摘要】
1.一种信息的处理方法，其特征在于，所述方法包括：
接收文本信息；
使用第一模型对所述文本信息进行计算，得到所述文本信息对应的公众
敏感权重值，其中，所述第一模型是根据网络服务器发送的公众模型参数构
建得到；
判断所述公众敏感权重值是否大于第一预设门限值，如果是，则显示所
述文本信息包含敏感信息的第一处理提示信息，并根据接收到的所述第一处
理提示信息对应的处理指令对所述文本信息进行回复处理；如果否，则使用
第二模型对所述文本信息进行计算，得到所述文本信息对应的个体敏感权重
值，其中，所述第二模型是根据用户历史行为信息和网络服务器发送的个体
模型参数构建得到；
判断所述个体敏感权重值是否大于第二预设门限值，如果是，则显示所
述文本信息包含敏感信息的第二处理提示信息，并根据接收到的所述第二处
理提示信息对应的处理指令对所述文本信息进行回复处理。
2.根据权利要求1所述的信息的处理方法，其特征在于，所述判断所述
个体敏感权重值是否大于第二预设门限值之后，还包括：如果所述个体敏感
权重值不大于所述第二预设门限值，则显示所述文本信息不包含敏感信息的
第三处理提示信息，并根据接收到的所述第三处理提示信息对应的处理指令
对所述文本信息进行回复处理。
3.根据权利要求1所述的信息的处理方法，其特征在于，所述使用第一
模型对所述文本信息进行计算，得到所述文本信息对应的公众敏感权重值具
体包括：
使用第一模型计算所述文本信息内容的敏感权重，以及所述文本信息的
来源对应的敏感权重，所述文本信息内容的敏感权重是根据所述文本信息中
公众敏感词语对应的敏感权重计算得到；
根据所述第一模型计算出的所述文本信息内容的敏感权重以及所述文本
信息的来源对应的敏感权重，计算所述文本信息对应的公众敏感权重值。
4.根据权利要求1所述的信息的处理方法，其特征在于，所述用户历史
行为信息包括以下信息中的一项或者任意项的组合：历史文本信息的内容、
历史文本信息的来源、历史回复文本信息的内容、执行接收历史文本信息的
操作与对所述历史文本信息执行回复处理的操作之间的时间差、所述历史回
复文本信息的内容输入速率；
所述第二模型具体通过以下步骤获得：
收集所述用户历史行为信息；
对所述用户历史行为信息进行分析和训练，根据训练结果以及所述网络
服务器发送的个体模型参数获取个体敏感词语以及所述个体敏感词语对应的
敏感权重，得到所述第二模型。
5.根据权利要求4所述的信息的处理方法，其特征在于，所述使用第二
模型对所述文本信息进行计算，得到所述文本信息对应的个体敏感权重值具
体包括：
使用所述第二模型计算所述文本信息内容对应的敏感权重以及所述文本
信息的来源对应的敏感权重，所述文本信息内容对应的敏感权重是根据所述
文本信息中个体敏感词语对应的敏感权重计算得到；
根据所述第二模型计算出的所述文本信息内容对应的敏感权重以及所述
文本信息的来源对应的敏感权重，计算所述文本信息对应的个体敏感权重值。
6.一种信息的处理装置，其特征在于，所述装置包括：
接收单元，用于接收文本信息，将所述文本信息传输至公众敏感权重值
计算单元；
公众敏感权重值计算单元，用于接收所述接收单元传输的所述文本信息，
使用第一模型对所述文本信息进行计算，得到所述文本信息对应的公众敏感
权重值，其中，所述第一模型是根据网络服务器发送的公众模型参数构建得

\t到，将所述公众敏感权重值传输至处理单元；
处理单元，用于接收所述公众敏感权重值计算单元传输的所述公众敏感
权重值，判断所述公众敏感权重值是否大于第一预设门限值，如果是，则显
示所述文本信息包含敏感信息的第一处理提示信息，根据接收到的所述第一
处理提示信息对应的处理指令对所述文本信息进行回复处理；如果否，则使
用第二模型对所述文本信息进行计算，得到所述文本信息对应的个体敏感权
重值，其中，所述第二模型是根据用户历史行为信息和网络服务器发送的个
体模型参数构建得到，将所述个体敏感权重值传输至回复单元；
回复单元，用于接收所述处理单元传输的所述个体敏感权重值，判断所
述个体敏感权重值是否大于第二预设门限值，如果是，则显示所述文本信息
包含敏感信息的第二处理提示信息，根据接收到的所述第二处理提示信息对
应的处理指令对所述文本信息进行回复处理。
7.根据权利要求6所述的信息的处理装置，其特征在于，所述回复单元
还用于：如果所述个体敏感权重值不大于所述第二预设门限值，则显示所述
文本信息不包含敏感信息的第三处理提示信息，根据接收到的所述第三处理
提示信息对应的处理指令对所述文本信息进行回复处理。
8.根据权利要求6所述的信息的处理装置，其特征在于，所述公众敏感
权重值计算单元具体用于：
使用第一模型计算所述文本信息内容的敏感权重，以及所述文本信息的

【专利技术属性】
技术研发人员：臧文阳，张轶博，
申请(专利权)人：华为技术有限公司，
类型：发明
国别省市：广东;44