]> granicus.if.org Git - libvpx/commitdiff
Bug fix in rd_pick_inter_mode_sb_
authorJingning Han <jingning@google.com>
Thu, 6 Jun 2013 17:02:08 +0000 (10:02 -0700)
committerJingning Han <jingning@google.com>
Thu, 6 Jun 2013 17:04:26 +0000 (10:04 -0700)
Fix the calculation of step size in height.

Change-Id: I0e0c0175f141f5a41214ae51cef233d13942d3c5

vp9/encoder/vp9_rdopt.c

index 1dde0de35245fd9303d76805291347ff7b19b5e9..b5b968bdadae5559f363efb0e94a848a0607d0be 100644 (file)
@@ -2552,7 +2552,7 @@ int64_t vp9_rd_pick_inter_mode_sb(VP9_COMP *cpi, MACROBLOCK *x,
   PARTITION_INFO best_partition;
   int bwsl = b_width_log2(bsize);
   int bws = (1 << bwsl) / 4;  // mode_info step for subsize
-  int bhsl = b_width_log2(bsize);
+  int bhsl = b_height_log2(bsize);
   int bhs = (1 << bhsl) / 4;  // mode_info step for subsize
 
   for (i = 0; i < 4; i++) {