matlab比特按位取反,matlab菜鸟冲冲冲:取补码后转换为16进制——计算机判断正负数的一场误会...
在处理一个很大的数组的时候,需要使用matlab将该数组中的全部元素取补码后转化成16进制。原码取补码的最传统的方法是:正数不变,负数按位取反(最高位符号位不取反),然后加1;当然还有另一种方法:正数不变,负数则将其加上模值。其中的模的大小等于2的n次方(n为表示位数,含符号位)。举例来说:用四位表示的-3,其补码就等于模值16加上-3,等于13。于是我就用第二种方法的思路写了下面一段代码:fun
在处理一个很大的数组的时候,需要使用matlab将该数组中的全部元素取补码后转化成16进制。
原码取补码的最传统的方法是:正数不变,负数按位取反(最高位符号位不取反),然后加1;
当然还有另一种方法:正数不变,负数则将其加上模值。其中的模的大小等于2的n次方(n为表示位数,含符号位)。举例来说:用四位表示的-3,其补码就等于模值16加上-3,等于13。
于是我就用第二种方法的思路写了下面一段代码:
function hexval=Compldec2hex(decval)
if(decval>=0)
res = decval;
else
res = 2048 + decval;
end
hexval = dec2hex(res);
注:我用11位二进制数表示decval,所以模是2^11=2048,遇到正数不变,遇到负数就用模去加,即可得补码。
用这个函数Compl去计算单个的数值,没问题,、
如:
>> Compldec2hex(120)
ans =
78
但是在计算一个很大的数组的时候出现了问题,经过观察发现:在数组含有负数的前提下,正数在转换的时候出现问题,比如:
>> Compldec2hex([-140,120,-130])
ans =
774
878
77E
正数120被转换为878,与正确值相差0x800,也就是十进制下的2048,也就说明在数组中有负数的情况下,数组中的正数也被当作负数处理,具体原因应该是计算机默认存储数据的位宽是32位,十进制数120转化成二进制数是111 1000。若数组中不出现负数,计算机认为存储无符号数,将111 1000左补0充满32位;若数组中出现负数,计算机认为存储有符号数,将111 1000的向左扩充满32位并将最高位1扩展为第32位,即1000 0000 0111 1000,而计算机辨认一个数的正负是看其最高位(符号位)的,因为其符号位是1,所以就把120认为是负数了。一场意料之外又是情理之中的误会。
那么,怎么“冰释”这场误会呢?我想了以下几种方法:
1、 限定位宽,在这个具体问题里面就限制11位,但是会发现111 1000还是会被计算机符号位左扩展的,所以行不通;
2、 多加一句if(res>2048) res=res-2048,但是由于res>2048不能被满足,所以也行不通;
3、 加一句res = bitand(res,2047),表示将最后的结果与011 1111 1111按位相与,即将11位置0,结果显示可行。

魔乐社区(Modelers.cn) 是一个中立、公益的人工智能社区,提供人工智能工具、模型、数据的托管、展示与应用协同服务,为人工智能开发及爱好者搭建开放的学习交流平台。社区通过理事会方式运作,由全产业链共同建设、共同运营、共同享有,推动国产AI生态繁荣发展。
更多推荐
所有评论(0)