本发明公开了面向嵌入式系统的多值量化深度神经网络压缩方法及系统，包括：根据嵌入式系统的可用存储资源确定需要量化的等级M；将卷积神经网络中每一个卷积层的权重划分到M个区间中；根据每一个卷积层的每一个区间大小来约束当前层的权重；重训练被约束的卷积神经网络，更新权重；实现区间移动和区间收缩来更新每一个区间；重复根据每一个卷积层的每一个区间大小来约束各区间的权重，重训练权重被约束的卷积神经网络，更新权重，实现区间移动和区间收缩来更新每一个区间步骤，直到每一个区间聚合，也就是权重共享；权重共享后，继续进行重训练以获得更高的性能。使得压缩后的网络能够部署在嵌入式系统和移动平台上，一方面降低网络的存储空间，另一方面保持网络的识别精度。