我打个比喻
当使用GetCaretPos获得当前的光标位置后，假设它为负数，我需要知道它是否小于0，结果:
.if p.y<0
... ... ;1
.elseif p.y>eax
... ... ;2
.endif
结果你猜怎么样？;1段永远不会执行，因为编译器编译时把.if p.y<=0编译成了:
cmp p.y,0
jb xxx
结果可想而知，p.y是负数，按照无符号数来对待就成了正数了,比如-100，成了65435,自然出错。这是masm的一个bug.
所以，提醒大家，在碰到有符号数的判断时，尽量使用负数比较，或者自己写判断代码，如负数比较：
.if p.y<=-1 等价于 .if p.y<0
上述代码编译器会自动选择jge/jle/jl/jg系列指令。
自己判断:
cmp eax,0
jle xxx
... ...
jmp @F
xxx:
cmp p.y,eax
jle @F
... ...
@@:
同时，其它宏指令如.while也有这个出错的bug。
记得有符号数处理时要注意就行了，否则会出现莫名其妙的错误，却找不到哪里出错。
纠正：
这不能算是一个bug,一位论坛的网友提醒了我，其实，在做这种比较时，可以把它临时当成有符号数以便让masm选择，如：
.if SDWORD ptr p.y<0
... ...
就可以了。类似的可以转换成SWORD SBYTE,前面的s表示有符号。
|
