下载语言任务的对比预训练的技术资料

文档序号:33428270

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。

提供了通过对比学习任务的使用来训练机器学习语言编码模型的系统和方法。特别地,本公开描述了对比学习任务,其中编码器学习将输入词元与看似合理的替代物区分开。在一些实现中,在每个训练示例上,所提出的方法掩蔽掉原始输入词元的部分子集(例如,15%)...
该专利属于谷歌有限责任公司所有,仅供学习研究参考,未经过谷歌有限责任公司授权不得商用。

详细技术文档下载地址

温馨提示:您尚未登录,请点 登陆 后下载,如果您还没有账户请点 注册 ,登陆完成后,请刷新本页查看技术详细信息。