tensorflow定点运算

Question

老师，关于你提到的tensorflow 模型量化层的内容，在tensorflow中，将浮点数定点化做完运算后，然后再通过一定的处理将定点数还原到原来的浮点数作为输出的这步操作有些不明白。为什么还要将定点数还原到浮点数呢？

Answer 1

会写代码的好厨师 2019-08-06 14:38:32

tensorflow的定点化分成两种，一直是训练后定电化，这种只是对参数做了量化，再实际运算的时候需要先转成浮点数再运算，所以用训练后量化模型大小会变小，但是计算时间不会节省。还有一种是加在训练过程中的，属于全量化，全量化才是真正意义上的量化，运算时间和参数大小都是成倍减少