【技术实现步骤摘要】
本专利技术涉及数据转换，尤其涉及一种数据格式转换方法、装置、数据格式转换设备及介质。
技术介绍
1、目前的主流深度学习算法普遍支持混合精度的训练和推理模式，为了提升硬件吞吐率和算力，在输入和输出时使用低精度数据格式，如fp8、int8等，而在内部进行累加时，往往使用高精度数据格式，如fp32等。为了将高精度的内部数据格式输出为低精度的外部数据格式，需要使用数据格式转换单元进行格式转换。
2、现有的技术方案中，为了支持从预设的多种数据格式转换为多种目标格式，采用了中间数据格式，中间数据格式为了能够同时兼容预设的多种数据格式，需要使用较大的位宽，例如，如果预设的多种数据格式为fp32和int32，则中间数据格式的位宽为41bits，大于预设数据格式的位宽，增加了额外的芯片面积。
3、在实际的人工智能应用中往往只需要把输入的浮点数据格式转换为输出的浮点数据格式，或把输入的整数数据格式转换为输出的整数数据格式，而不需要进行浮点与整数或整数到浮点的格式转换。
技术实现思路
1...
【技术保护点】
1.一种数据格式转换方法，由数据格式转换设备执行，其特征在于，包括：
2.根据权利要求1所述的方法，其特征在于，根据所述舍入模式、第二浮点数据格式以及数据格式转换设备支持的各标准输出数据格式，将输入操作数转换为输出操作数，包括：
3.根据权利要求2所述的方法，其特征在于，将所述输入操作数进行拆分，获取输入操作数的符号、第一指数、第一尾数以及特殊值检测结果，包括：
4.根据权利要求2所述的方法，其特征在于，根据所述第一浮点数据格式以及所述第二浮点数据格式，对所述第一指数进行纠偏，获取纠偏后的第二指数，并根据所述第二指数、第二浮点数据格...
【技术特征摘要】
1.一种数据格式转换方法，由数据格式转换设备执行，其特征在于，包括：
2.根据权利要求1所述的方法，其特征在于，根据所述舍入模式、第二浮点数据格式以及数据格式转换设备支持的各标准输出数据格式，将输入操作数转换为输出操作数，包括：
3.根据权利要求2所述的方法，其特征在于，将所述输入操作数进行拆分，获取输入操作数的符号、第一指数、第一尾数以及特殊值检测结果，包括：
4.根据权利要求2所述的方法，其特征在于，根据所述第一浮点数据格式以及所述第二浮点数据格式，对所述第一指数进行纠偏，获取纠偏后的第二指数，并根据所述第二指数、第二浮点数据格式以及输出最大尾数位宽，计算尾数移位值，包括：
5.根据权利要求2所述的方法，其特征在于，根据所述舍入模式以及输出最大尾数位宽，对第二尾数进行舍...
【专利技术属性】
技术研发人员：汪鹏，李萌，肖潇，丁耀鑫，
申请(专利权)人：太初无锡电子科技有限公司，
类型：发明
国别省市：
还没有人留言评论。发表了对其他浏览者有用的留言会获得科技券。