离线机器翻译程序加速处理装置、方法及系统制造方法及图纸

本发明专利技术属于机器翻译处理技术领域，特别涉及一种离线机器翻译程序加速处理装置、方法及系统，利用与用户端主机Thunderbolt接口连接的GPU扩展坞接收用户端主机传送的计算参数，并依据计算参数来执行离线机器翻译程序中的模型计算；并利用与用户端主机USB接口连接的USB存储设备来预置固化离线机器翻译程序、依赖类库和模型。本发明专利技术将机器翻译系统中的模型计算部分从CPU转移至外接的GPU设备，利用USB接口外接存储设备，将翻译程序依赖的模型、类库和执行步骤固化，能够实现整个离线机器翻译程序的高效、便捷部署安装，机器翻译执行和处理效率可以成倍的提升，且根据实际应用可适合扩展到其他需要大量计算的系统中，具有较好的应用前景。应用前景。应用前景。

【技术实现步骤摘要】
离线机器翻译程序加速处理装置、方法及系统


[0001]本专利技术属于机器翻译处理
，特别涉及一种离线机器翻译程序加速处理装置、方法及系统。

技术介绍

[0002]神经网络机器翻译系统，在翻译过程中伴随着大量计算，传统CPU已经无法很好满足计算需求。便携式笔记本受工艺、成本等因素制约，一般都不集成GPU或者集成入门版的GPU，但是大部分都搭载有Thunderbolt接口和USB接口。在便携式笔记本上部署离线神经网络机器翻译系统进行翻译应用中，处理效率低下、步骤复杂一直为人诟病。为此，亟需设置一种能够将神经网络机器翻译系统在便携式笔记本进行高效部署和运行方案，以提升神经网络机器翻译系统的实际应用。

技术实现思路

[0003]为此，本专利技术提供一种离线机器翻译程序加速处理装置、方法及系统，解决便携式笔记本部署离线神经网络机器翻译系统处理效率低和步骤复杂等问题。
[0004]按照本专利技术所提供的设计方案，提供一种离线机器翻译程序加速处理装置，包含如下内容：
[0005]与用户端主机Thunderbolt接口连接的GPU扩展坞，用于接收用户端主机传送的计算参数，并依据计算参数来执行离线机器翻译程序中的模型计算；
[0006]通过USB接口与用户端主机连接的USB存储设备，用于预置固化离线机器翻译程序、依赖类库和模型。
[0007]作为本专利技术中离线机器翻译程序加速处理装置，进一步地，所述GPU扩展坞通过数据连接线与用户端主机Thunderbolt接口连接。
[0008]作为本专利技术中离线机器翻译程序加速处理装置，进一步地，所述数据连接线采用Thunderbolt连接线。
[0009]作为本专利技术中离线机器翻译程序加速处理装置，进一步地，所述用户端主机上设置有CUDA并行计算平台，利用该CUDA并行计算平台通过调用用户端主机操作系统中的硬件驱动程序来检测GPU扩展坞状态，并将加载的模型及计算参数通过用户端主机Thunderbolt接口传送至GPU扩展坞，以利用GPU扩展坞来并行执行离线机器翻译程序中的模型计算。
[0010]进一步地，基于上述的装置，本专利技术还提供一种离线机器翻译程序加速处理方法，包含：
[0011]利用用户端主机将目标文件转换为文本序列数据流，并依据文本序列数据流获取与翻译字典对照的文本序列索引；
[0012]通过用户端主机的Thunderbolt接口将离线机器翻译程序中的深度学习模型及计算参数传送至GPU扩展坞；
[0013]利用GPU扩展坞并行执行离线及其翻译程序中的模型计算；
[0014]用户端主机接收GPU扩展坞的模型计算结果，并通过将计算结果映射到翻译字典来获取最终输出的可读翻译文本。
[0015]作为本专利技术离线机器翻译程序加速处理方法，进一步地，依据文本序列数据流获取与翻译字典对照的文本序列索引，包含：首先对文本序列数据流进行分词，接着，对分词进行编码处理，获取与编码字典一一映射的文本序列索引。
[0016]作为本专利技术离线机器翻译程序加速处理方法，进一步地，通过用户端主机的Thunderbolt接口将离线机器翻译程序中的深度学习模型及计算参数传送至GPU扩展坞，包含：首先，用户端主机利用CUDA并行计算平台加载离线机器翻译程序的深度学习模型，并利用CUDA并行计算平台调用硬件驱动程序检测GPU扩展坞状态；然后，将深度学习模型及计算参数通过Thunderbolt接口传送至GPU扩展坞。
[0017]进一步地，基于上述的方法，本专利技术还提供一种离线机器翻译程序加速处理系统，包含：文件解析模块、数据传送模块、并行计算模块和数据输出模块，其中，
[0018]文件解析模块，用于利用用户端主机将目标文件转换为文本序列数据流，并依据文本序列数据流获取与翻译字典对照的文本序列索引；
[0019]数据传送模块，用于通过用户端主机的Thunderbolt接口将离线机器翻译程序中的深度学习模型及计算参数传送至GPU扩展坞；
[0020]并行计算模块，用于利用GPU扩展坞并行执行离线及其翻译程序中的模型计算；
[0021]数据输出模块，用于用户端主机接收GPU扩展坞的模型计算结果，并通过将计算结果映射到翻译字典来获取最终输出的可读翻译文本。
[0022]本专利技术的有益效果：
[0023]本专利技术利用Thunderbolt接口来在便携式笔记本上外接高性能GPU计算设备，将机器翻译系统中的模型计算部分从CPU转移至外接的GPU设备，利用USB接口外接存储设备，将翻译程序依赖的模型、类库和执行步骤固化，能够实现整个离线机器翻译程序的高效、便捷部署，处理效率可以成倍的提升，适合扩展到其他需要大量计算的系统中，具有较好的应用前景。
附图说明：
[0024]图1为实施例中离线机器翻译程序加速处理装置硬件结构连接示意；
[0025]图2为实施例中离线机器翻译程序加速处理流程示意。
具体实施方式：
[0026]为使本专利技术的目的、技术方案和优点更加清楚、明白，下面结合附图和技术方案对本专利技术作进一步详细的说明。
[0027]本专利技术实施例，提供一种离线机器翻译程序加速处理装置，包含：与用户端主机Thunderbolt接口连接的GPU扩展坞，用于接收用户端主机传送的计算参数，并依据计算参数来执行离线机器翻译程序中的模型计算；通过USB接口与用户端主机连接的USB存储设备，用于预置固化离线机器翻译程序、依赖类库和模型。
[0028]现有Thunderbolt连接技术融合PCI Express数据传输技术和DisplayPort显示技术，可以同时对数据和视频信号进行传输，并且每条通道都提供双向10Gbps带宽。
Thunderbolt接口的物理外观和原有Mini DsiplayPort接口相同，能够适用于各种轻型、小型各类设备，兼容DisplayPort接口的显示设备、Mini DP接口的显示器以及Mini DP至HDMI/DVI/VGA等接口的转接头，在Thunderbolt接口上正常使用时可传输1080p乃至超高清视频和最多八声道音频。因此，为解决现有便携式笔记本部署离线神经网络机器翻译系统处理效率低和步骤复杂等的问题，本案实施例中，参见图1所述，将便携式笔记本作为用户端主机，通过在外接存储设备上预置固化的翻译程序，并利用USB接口外接存储设备，能够自动在便携式笔记本上安装部署翻译程序，并使用便携式笔记本上现有的Thunderbolt接口来扩展外接GPU设备，加速便携式笔记本的离线机器翻译系统的部署速度和处理效率，提升离线机器翻译系统在便携式笔记本上的实际应用效果。
[0029]作为优选实施例，进一步地，所述GPU扩展坞通过数据连接线与用户端主机Thunderbolt接口连接。可采用Thunderbolt连接线，将Thunderbolt连接线一头接便携式笔记本端口，另一头接外接GPU扩展坞。具体地，Thunderbolt连接线可采用铜芯线缆或光线线缆本文档来自技高网...

【技术保护点】

【技术特征摘要】
1.一种离线机器翻译程序加速处理装置，其特征在于，包含：与用户端主机Thunderbolt接口连接的GPU扩展坞，用于接收用户端主机传送的计算参数，并依据计算参数来执行离线机器翻译程序中的模型计算；通过USB接口与用户端主机连接的USB存储设备，用于预置固化离线机器翻译程序、依赖类库和模型。2.根据权利要求1所述的离线机器翻译程序加速处理装置，其特征在于，所述GPU扩展坞通过数据连接线与用户端主机Thunderbolt接口连接。3.根据权利要求2所述的离线机器翻译程序加速处理装置，其特征在于，所述数据连接线采用Thunderbolt连接线。4.根据权利要求1或2或3所述的离线机器翻译程序加速处理装置，其特征在于，所述用户端主机上设置有CUDA并行计算平台，利用该CUDA并行计算平台通过调用用户端主机操作系统中的硬件驱动程序来检测GPU扩展坞状态，并将加载的模型及计算参数通过用户端主机Thunderbolt接口传送至GPU扩展坞，以利用GPU扩展坞来并行执行离线机器翻译程序中的模型计算。5.一种离线机器翻译程序加速处理方法，其特征在于，基于权利要求1所述的装置实现，包含如下内容：利用用户端主机将目标文件转换为文本序列数据流，并依据文本序列数据流获取与翻译字典对照的文本序列索引；通过用户端主机的Thunderbolt接口将离线机器翻译程序中的深度学习模型及计算参数传送至GPU扩展坞；利用GPU扩展坞并行执行离线及其翻译程序中的模型计算；用户端主机接收GPU扩展坞的模型计算结果，并通过将计算结果映射到翻译字典来获取最终输出的可读翻译文本。6.根据权利要求5所述的离线机器翻译程序加速处理方法，其特征...

【专利技术属性】
技术研发人员：屈丹，何振华，闫红刚，李真，谢超杰，张昊，胡恒博，
申请(专利权)人：郑州信大先进技术研究院，
类型：发明
国别省市：