B站：啥都会一点的研究生
公众号试读：啥都会一点的研究生
目录
说说你知道的模型压缩方法？
模型压缩是指利用数据集对已经训练好的深度模型进行精简，进而得到一个轻量且准确率相当的网络，压缩后的网络具有更小的结构和更少的参数，可以有效降低计算和存储开销，便于部署再受限的硬件环境中。
1.低秩近似
2.剪枝与稀疏约束
3.参数量化
4.二值网络
5.知识蒸馏
6.紧凑的网络结构
说说模型压缩的作用与意义？
对于在线学习和增量学习等实时应用而言，如何减少含有大量层级及结点的大型神经网络所需要的内存和计算量显得极为重要。
模型的参数在一定程度上能够表达其复杂性，相关研究表明，并不是所有参数都在模型中发挥作用，部分参数作用有限、表达冗余，甚至会降低模型的性能。
高额的存储空间、计算资源消耗是使复杂模型难以有效应用在各硬件平台上的重要原因。
智能设备的流行提供了内存、CPU、能耗和宽带等资源，使得深度学习模型部署在智能移动设备上变
原文链接：https://blog.csdn.net/zzh516451964zzh/article/details/123444667?ops_request_misc=%257B%2522request%255Fid%2522%253A%2522171851498716800184179110%2522%252C%2522scm%2522%253A%252220140713.130102334.pc%255Fblog.%2522%257D&request_id=171851498716800184179110&biz_id=0&utm_medium=distribute.pc_search_result.none-task-blog-2~blog~first_rank_ecpm_v1~times_rank-8-123444667-null-null.nonecase&utm_term=AI%E9%9D%A2%E8%AF%95
