摘要:随着深度神经网络在计算机视觉领域的广泛应用, 后训练量化已成为其在资源受限设备上高效部署的关键技术. 针对现有混合精度后训练量化方法在低比特量化时计算最优位宽耗时较长, 以及由于校准样本有限而导致测试精度下降的问题, 提出了一种基于Fisher信息引导的混合精度后训练量化算法. 首先从Kullback-Leibler散度出发, 使用Fisher信息矩阵的平均迹快速计算各层的量化敏感度, 并构建融合量化误差与敏感度的扰动代价矩阵, 使用整数线性规划求解最优位宽分配问题. 此外, 在后训练过程中提出一种特征分布泛化的逐块重建方法, 使用全精度模型批归一化层中的统计信息重构输入特征, 增加重建过程中特征分布的多样性, 同时结合随机均匀特征混合机制丰富量化误差, 缓解有限校准数据条件下的泛化能力不足问题. 在ImageNet数据集上对多种主流卷积神经网络架构的实验结果表明, 所提方法能够在较短时间内完成混合精度位宽搜索, 并有效提升低比特量化模型的准确率.