]> granicus.if.org Git - libvpx/commitdiff
vp8/encoder/vp8_quantize: fix int sanitizer warnings
authorHien Ho <hienho@google.com>
Tue, 13 Aug 2019 23:32:23 +0000 (16:32 -0700)
committerHien Ho <hienho@google.com>
Tue, 27 Aug 2019 19:05:53 +0000 (19:05 +0000)
 implicit conversion from type 'int' of value 65536
 (32-bit, signed) to type 'short' changed the value to 0 (16-bit, signed)

 BUG=webm:1615

Change-Id: I6a04e57bd3272934de9c75fab60a1620ff6c3636

vp8/encoder/vp8_quantize.c

index ff6e04eaada4fc55c29cc1194488693b05449589..5b8955510819ad2cfc5eb7198f59e510601db0a2 100644 (file)
@@ -174,8 +174,6 @@ static void invert_quant(int improved_quant, short *quant, short *shift,
   } else {
     *quant = (1 << 16) / d;
     *shift = 0;
-    /* use multiplication and constant shift by 16 */
-    *shift = 1 << (16 - *shift);
   }
 }