离线机器翻译程序加速处理装置、方法及系统制造方法及图纸

技术编号:37394554 阅读:38 留言:0更新日期:2023-04-27 07:31
本发明专利技术属于机器翻译处理技术领域,特别涉及一种离线机器翻译程序加速处理装置、方法及系统,利用与用户端主机Thunderbolt接口连接的GPU扩展坞接收用户端主机传送的计算参数,并依据计算参数来执行离线机器翻译程序中的模型计算;并利用与用户端主机USB接口连接的USB存储设备来预置固化离线机器翻译程序、依赖类库和模型。本发明专利技术将机器翻译系统中的模型计算部分从CPU转移至外接的GPU设备,利用USB接口外接存储设备,将翻译程序依赖的模型、类库和执行步骤固化,能够实现整个离线机器翻译程序的高效、便捷部署安装,机器翻译执行和处理效率可以成倍的提升,且根据实际应用可适合扩展到其他需要大量计算的系统中,具有较好的应用前景。应用前景。应用前景。

【技术实现步骤摘要】
离线机器翻译程序加速处理装置、方法及系统


[0001]本专利技术属于机器翻译处理
,特别涉及一种离线机器翻译程序加速处理装置、方法及系统。

技术介绍

[0002]神经网络机器翻译系统,在翻译过程中伴随着大量计算,传统CPU已经无法很好满足计算需求。便携式笔记本受工艺、成本等因素制约,一般都不集成GPU或者集成入门版的GPU,但是大部分都搭载有Thunderbolt接口和USB接口。在便携式笔记本上部署离线神经网络机器翻译系统进行翻译应用中,处理效率低下、步骤复杂一直为人诟病。为此,亟需设置一种能够将神经网络机器翻译系统在便携式笔记本进行高效部署和运行方案,以提升神经网络机器翻译系统的实际应用。

技术实现思路

[0003]为此,本专利技术提供一种离线机器翻译程序加速处理装置、方法及系统,解决便携式笔记本部署离线神经网络机器翻译系统处理效率低和步骤复杂等问题。
[0004]按照本专利技术所提供的设计方案,提供一种离线机器翻译程序加速处理装置,包含如下内容:
[0005]与用户端主机Thunderbolt接口连接本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种离线机器翻译程序加速处理装置,其特征在于,包含:与用户端主机Thunderbolt接口连接的GPU扩展坞,用于接收用户端主机传送的计算参数,并依据计算参数来执行离线机器翻译程序中的模型计算;通过USB接口与用户端主机连接的USB存储设备,用于预置固化离线机器翻译程序、依赖类库和模型。2.根据权利要求1所述的离线机器翻译程序加速处理装置,其特征在于,所述GPU扩展坞通过数据连接线与用户端主机Thunderbolt接口连接。3.根据权利要求2所述的离线机器翻译程序加速处理装置,其特征在于,所述数据连接线采用Thunderbolt连接线。4.根据权利要求1或2或3所述的离线机器翻译程序加速处理装置,其特征在于,所述用户端主机上设置有CUDA并行计算平台,利用该CUDA并行计算平台通过调用用户端主机操作系统中的硬件驱动程序来检测GPU扩展坞状态,并将加载的模型及计算参数通过用户端主机Thunderbolt接口传送至GPU扩展坞,以利用GPU扩展坞来并行执行离线机器翻译程序中的模型计算。5.一种离线机器翻译程序加速处理方法,其特征在于,基于权利要求1所述的装置实现,包含如下内容:利用用户端主机将目标文件转换为文本序列数据流,并依据文本序列数据流获取与翻译字典对照的文本序列索引;通过用户端主机的Thunderbolt接口将离线机器翻译程序中的深度学习模型及计算参数传送至GPU扩展坞;利用GPU扩展坞并行执行离线及其翻译程序中的模型计算;用户端主机接收GPU扩展坞的模型计算结果,并通过将计算结果映射到翻译字典来获取最终输出的可读翻译文本。6.根据权利要求5所述的离线机器翻译程序加速处理方法,其特征...

【专利技术属性】
技术研发人员:屈丹何振华闫红刚李真谢超杰张昊胡恒博
申请(专利权)人:郑州信大先进技术研究院
类型:发明
国别省市:

网友询问留言 已有0条评论
  • 还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。

1