]> granicus.if.org Git - libvpx/commitdiff
Bug fix in vp8_estimate_entropy_savings()
authorPaul Wilkins <paulwilkins@google.com>
Thu, 1 Mar 2012 01:41:19 +0000 (01:41 +0000)
committerPaul Wilkins <paulwilkins@google.com>
Thu, 1 Mar 2012 01:42:02 +0000 (01:42 +0000)
Incorrect scaling of savings for t8x8.

Change-Id: If01e08f8c73faa73afc3c70e501e6acc54d7e26f

vp8/encoder/bitstream.c

index 8a5a6cdf962007f3fabfe877280ec823dd2e190e..5be404167c95b6c419b3be58d5197e8db1299bf5 100644 (file)
@@ -1765,6 +1765,7 @@ int vp8_estimate_entropy_savings(VP8_COMP *cpi)
     /* do not do this if not evena allowed */
     if(cpi->common.txfm_mode == ALLOW_8X8)
     {
+        int savings8x8 = 0;
         do
         {
             int j = 0;
@@ -1803,7 +1804,7 @@ int vp8_estimate_entropy_savings(VP8_COMP *cpi)
                         const int s = old_b - new_b - update_b;
 
                         if (s > 0)
-                            savings += s;
+                            savings8x8 += s;
 
 
                     }
@@ -1816,6 +1817,8 @@ int vp8_estimate_entropy_savings(VP8_COMP *cpi)
             while (++j < COEF_BANDS);
         }
         while (++i < BLOCK_TYPES);
+
+        savings += savings8x8 >> 8;
     }
 #endif