matlab十进制数据8bit量化,matlab 定点量化
转自http://hsanyi.blog.163.com/blog/static/5502232520111194658521/浮点转换为定点的过程在Matlab中称为量化,使用quantizer和quantize两个函数完成。(1)、quantizer用于定义数据的量化属性(2)、quantize则按照quantizer定义的量化属性量化浮点数据。下面举一个例子:x = [3.5 1.5 6 2
转自http://hsanyi.blog.163.com/blog/static/5502232520111194658521/
浮点转换为定点的过程在Matlab中称为量化,使用quantizer和quantize两个函数完成。
(1)、quantizer用于定义数据的量化属性
(2)、quantize则按照quantizer定义的量化属性量化浮点数据。
下面举一个例子:
x = [3.5 1.5 6 20.8 -128.25 127.75];
qpath = quantizer('fixed','round','saturate',[10,2]);
fix_x = quantize(qpath,x);
运行后fix_x结果为:
fix_x =
3.5000 1.5000 6.0000 20.7500 -128.0000 127.7500
其中-128.25溢出了,这里设置溢出后为饱和输出,所以为-128。
具体关于quantizer和quantize函数的使用说明请参考Matlab的help文件。
假如一个浮点数为10.765,我们用一个总位宽为8bit,小数位宽为3bit的有符号数进行表示那么对应的最接近的二进制数为01010.110,对应的十进制数为10.75,量化误差为0.015。当然小数位宽越宽,对应的小数部分精度就越高。
对于一个数据总位宽为10bit,小数位为2bit。则量化的范围为:-128.0 ~ 128.75,量化的最小精度为0.25。
小数部分位数的选取时通过对比定点仿真与浮点仿真的结果得出的,一般最大设置为12bit即可,精度可以达到0.000244140625。
魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐



所有评论(0)