AutoCAD 3DMAX C语言 Pro/E UG JAVA编程 PHP编程 Maya动画 Matlab应用 Android
Photoshop Word Excel flash VB编程 VC编程 Coreldraw SolidWorks A Designer Unity3D
 首页 > 汇编语言

masm中宏指令的bug

51自学网 http://www.51zixue.net

我打个比喻
当使用GetCaretPos获得当前的光标位置后,假设它为负数,我需要知道它是否小于0,结果:
.if p.y<0
... ... ;1
.elseif p.y>eax
... ... ;2
.endif

结果你猜怎么样?;1段永远不会执行,因为编译器编译时把.if p.y<=0编译成了:
cmp p.y,0
jb xxx
结果可想而知,p.y是负数,按照无符号数来对待就成了正数了,比如-100,成了65435,自然出错。这是masm的一个bug.

所以,提醒大家,在碰到有符号数的判断时,尽量使用负数比较,或者自己写判断代码,如负数比较:
.if p.y<=-1 等价于 .if p.y<0
上述代码编译器会自动选择jge/jle/jl/jg系列指令。

自己判断:
cmp eax,0
jle xxx
... ...
jmp @F
xxx:
cmp p.y,eax
jle @F
... ...
@@:
同时,其它宏指令如.while也有这个出错的bug。

记得有符号数处理时要注意就行了,否则会出现莫名其妙的错误,却找不到哪里出错。

纠正:
这不能算是一个bug,一位论坛的网友提醒了我,其实,在做这种比较时,可以把它临时当成有符号数以便让masm选择,如:
.if SDWORD ptr p.y<0
... ...
就可以了。类似的可以转换成SWORD SBYTE,前面的s表示有符号。

 

 

 
上一篇:数据转换操作  下一篇:移位指令在Win32消息处理中的一些问题