System.ArgumentOutOfRangeException: 索引和长度必须引用该字符串内的位置。 参数名: length 在 System.String.Substring(Int32 startIndex, Int32 length) 在 zhuanliShow.Bind()
【技术实现步骤摘要】
本申请涉及推荐系统领域,特别是涉及实体推荐公平性度量方法、装置、设备及存储介质。
技术介绍
1、随着深度学习技术的发展,其带来的公平性问题逐渐受到人们的关注。其中包括大语言模型在实体推荐中的公平性问题。
2、通常,预训练语料库中的偏差会导致大语言模型存在公平性问题。在现有的公平性研究中,一部分研究旨在减少大语言模型的不公平性。例如,人类反馈强化学习(rlhf)和ai反馈强化学习(rlaif)用于防止强化现有的刻板印象和产生贬低性描述。此外,自然语言处理(nlp)界的另一个新兴研究领域侧重于通过提出新的基准来更好地评估大语言模型的不公正性。尽管在自然语言处理领域已有关于大语言模型公平性的研究,但目前还没有关于大语言模型与推荐系统结合的公平性的相关研究。
3、现有的推荐公平性工作关注于传统推荐中的公平性,主要分为两个方面:用户侧和物品侧。现有的用户侧公平主要可以分为两个方面:个体公平和群体公平。个体公平考虑每个个体都需要被公平对待,群体公平则考虑所有群体都要被公平对待。但是现有的用户侧公平都是在传统的推荐系统框架下进行考量,没有考虑到大语言模型推荐中的公平性。比如,面对具有不同特征的用户群体,大语言模型可能会给出不同质量的推荐结果。因此,有必要对大语言模型的实体推荐公平性进行度量,判断其是否可以公平地向不同特征的用户群体给出实体推荐结果。但是目前还缺乏有效地针对大语言模型的实体推荐公平性度量方法。
4、针对相关技术中还缺乏有效地针对大语言模型的实体推荐公平性度量方法的问题,目前还没有提出有效的解决
技术实现思路
1、在本实施例中提供了一种实体推荐公平性度量方法、装置、设备及存储介质,以解决相关技术中还缺乏有效地针对大语言模型的实体推荐公平性度量方法的问题。
2、第一个方面,在本专利技术中提供了一种实体推荐公平性度量方法,所述方法包括:
3、获取中性指令模板和多个敏感指令模板;其中,多个所述敏感指令模板分别含有不同的目标用户特征,所述中性指令模板不含有所述目标用户特征,多个所述目标用户特征属于同一维度;
4、通过大语言模型分别依据所述中性指令模板和多个所述敏感指令模板向用户进行实体推荐,对应得到中性推荐结果和多个敏感推荐结果;
5、分别确定多个所述敏感推荐结果和所述中性推荐结果之间的相似度,根据多个所述相似度确定所述大语言模型对不同所述目标用户特征的推荐公平性。
6、在其中的一些实施例中,所述分别确定多个所述敏感推荐结果和所述中性推荐结果之间的相似度包括:
7、分别确定多个所述敏感推荐结果和所述中性推荐结果之间的集合相似度。
8、在其中的一些实施例中,所述分别确定多个所述敏感推荐结果和所述中性推荐结果之间的相似度包括:
9、分别确定多个所述敏感推荐结果和所述中性推荐结果之间的集合相似度和排序相似度。
10、在其中的一些实施例中,所述根据多个所述相似度确定所述大语言模型对不同所述目标用户特征的实体推荐公平性,包括:
11、根据多个所述相似度中的极差确定所述大语言模型对不同所述目标用户特征的实体推荐公平性;其中,所述实体推荐公平性和所述极差呈正相关。
12、在其中的一些实施例中,所述根据多个所述相似度确定所述大语言模型对不同所述目标用户特征的实体推荐公平性,包括:
13、根据多个所述相似度中的方差确定所述大语言模型对不同所述目标用户特征的实体推荐公平性;其中,所述实体推荐公平性和所述方差呈正相关。
14、在其中的一些实施例中,所述目标用户特征的维度至少不包括如下之一:
15、年龄、国籍、性别、洲属、职业和体型。
16、在其中的一些实施例中,所述方法在获取中性指令模板和多个敏感指令模板之前还包括:
17、确定属于同一维度的多个不同的所述目标用户特征;
18、构造多个分别含有不同所述目标用户特征的所述敏感指令模板,以及构造不含有所述目标用户特征的所述中性指令模板。
19、第二个方面,在本专利技术中提供了一种实体推荐公平性度量装置。
20、在其中的一些实施例中,所述装置包括:
21、模板获取模块,用于获取中性指令模板和多个敏感指令模板;其中,多个所述敏感指令模板分别含有不同的目标用户特征,所述中性指令模板不含有所述目标用户特征,多个所述目标用户特征属于同一维度;
22、结果确定模块,用于通过大语言模型分别依据所述中性指令模板和多个所述敏感指令模板向用户进行实体推荐,对应得到中性推荐结果和多个敏感推荐结果;
23、公平度量模块,用于分别确定多个所述敏感推荐结果和所述中性推荐结果之间的相似度,根据多个所述相似度确定所述大语言模型对不同所述目标用户特征的实体推荐公平性。
24、第三个方面,在本专利技术中提供了一种电子设备,包括存储器、处理器以及存储在所述存储器上并可在所述处理器上运行的计算机程序,所述处理器执行所述计算机程序时实现上述第一个方面所述的实体推荐公平性度量方法。
25、第四个方面,在本专利技术中提供了一种存储介质,其上存储有计算机程序,该程序被处理器执行时实现上述第一个方面所述的实体推荐公平性度量方法。
26、与相关技术相比,在本专利技术中提供的面向大语言模型的推荐公平性度量方法,通过确定多个敏感属性推荐结果和中性推荐结果之间的相似度,根据多个相似度确定大语言模型对不同用户特征的推荐公平性,解决相关技术中还缺乏有效地针对大语言模型的实体推荐公平性度量方法的问题,实现提高大语言模型对不同敏感属性群体的公平性。
27、本申请的一个或多个实施例的细节在以下附图和描述中提出,以使本申请的其他特征、目的和优点更加简明易懂。
本文档来自技高网...【技术保护点】
1.一种实体推荐公平性度量方法,其特征在于,所述方法包括:
2.根据权利要求1所述的实体推荐公平性度量方法,其特征在于,所述分别确定多个所述敏感推荐结果和所述中性推荐结果之间的相似度包括:
3.根据权利要求1所述的实体推荐公平性度量方法,其特征在于,所述分别确定多个所述敏感推荐结果和所述中性推荐结果之间的相似度包括:
4.根据权利要求1所述的实体推荐公平性度量方法,其特征在于,所述根据多个所述相似度确定所述大语言模型对不同所述目标用户特征的实体推荐公平性,包括:
5.根据权利要求1所述的实体推荐公平性度量方法,其特征在于,所述根据多个所述相似度确定所述大语言模型对不同所述目标用户特征的实体推荐公平性,包括:
6.根据权利要求1所述的实体推荐公平性度量方法,其特征在于,所述目标用户特征的维度至少包括如下之一:
7.根据权利要求1所述的实体推荐公平性度量方法,其特征在于,所述方法在获取中性指令模板和多个敏感指令模板之前还包括:
8.一种实体推荐公平性度量装置,其特征在于,所述装置包括:
9
10.一种计算机可读存储介质,其上存储有计算机程序,其特征在于,所述计算机程序被处理器执行时实现权利要求1至7中任一项所述的实体推荐公平性度量方法的步骤。
...【技术特征摘要】
1.一种实体推荐公平性度量方法,其特征在于,所述方法包括:
2.根据权利要求1所述的实体推荐公平性度量方法,其特征在于,所述分别确定多个所述敏感推荐结果和所述中性推荐结果之间的相似度包括:
3.根据权利要求1所述的实体推荐公平性度量方法,其特征在于,所述分别确定多个所述敏感推荐结果和所述中性推荐结果之间的相似度包括:
4.根据权利要求1所述的实体推荐公平性度量方法,其特征在于,所述根据多个所述相似度确定所述大语言模型对不同所述目标用户特征的实体推荐公平性,包括:
5.根据权利要求1所述的实体推荐公平性度量方法,其特征在于,所述根据多个所述相似度确定所述大语言模型对不同所述目标用户特征的实体推荐公平性,包括:
【专利技术属性】
技术研发人员:冯福利,张及之,何向南,鲍克勤,蔡仕豪,
申请(专利权)人:中国科学技术大学,
类型:发明
国别省市:
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。