边缘部署中的模型优化

边缘部署需要在模型大小、延迟、功耗和准确率之间取舍。量化、蒸馏和缓存策略可以共同降低实际运行成本。