]> granicus.if.org Git - libvpx/commitdiff
Fix block size computation in coeff token packing
authorJingning Han <jingning@google.com>
Mon, 2 Nov 2015 22:54:08 +0000 (14:54 -0800)
committerJingning Han <jingning@google.com>
Mon, 2 Nov 2015 22:55:55 +0000 (14:55 -0800)
Correctly compute the block size in bit-stream coefficient token
packing. This fixes an enc/dec mismatch at very high bit-rates.

Change-Id: I37bf084731dc660df0c695cad406ddcd0f9eb904

vp10/encoder/bitstream.c

index c944a89eeadb97a32610830ce8a085f9dfe841ec..a24738188d44ac67d67b67b775122de7ced3f4c6 100644 (file)
@@ -326,7 +326,7 @@ static void pack_mb_tokens(vpx_writer *w,
   TOKENEXTRA *p = *tp;
 #if CONFIG_VAR_TX
   int count = 0;
-  const int seg_eob = 16 << (1 << tx);
+  const int seg_eob = 16 << (tx << 1);
 #endif
 #if !CONFIG_MISC_FIXES
   (void) tx;