]> granicus.if.org Git - libvpx/commitdiff
Add bsize check condition in nonrd_use_partition
authorJingning Han <jingning@google.com>
Fri, 2 Jan 2015 18:10:49 +0000 (10:10 -0800)
committerJingning Han <jingning@google.com>
Fri, 2 Jan 2015 18:12:37 +0000 (10:12 -0800)
Check if block size is below 8x8 for rectangular block coding. It
is added to support 4x8 and 8x4 block coding for RTC mode.

Change-Id: I760b328f45b98ae48adc45ed5a39fb643cd8aebd

vp9/encoder/vp9_encodeframe.c

index 89486f0407202619379a795c3d1ee512e8fbb1db..6784d0164a733d96150d3c813272f48aa1662040 100644 (file)
@@ -3227,7 +3227,7 @@ static void nonrd_use_partition(VP9_COMP *cpi,
       pc_tree->vertical[0].skip = x->skip;
       encode_b_rt(cpi, td, tile_info, tp, mi_row, mi_col, output_enabled,
                   subsize, &pc_tree->vertical[0]);
-      if (mi_col + hbs < cm->mi_cols) {
+      if (mi_col + hbs < cm->mi_cols && bsize > BLOCK_8X8) {
         pc_tree->vertical[1].pred_pixel_ready = 1;
         nonrd_pick_sb_modes(cpi, tile_data, x, mi_row, mi_col + hbs,
                             dummy_cost, subsize, &pc_tree->vertical[1]);
@@ -3248,7 +3248,7 @@ static void nonrd_use_partition(VP9_COMP *cpi,
       encode_b_rt(cpi, td, tile_info, tp, mi_row, mi_col, output_enabled,
                   subsize, &pc_tree->horizontal[0]);
 
-      if (mi_row + hbs < cm->mi_rows) {
+      if (mi_row + hbs < cm->mi_rows && bsize > BLOCK_8X8) {
         pc_tree->horizontal[1].pred_pixel_ready = 1;
         nonrd_pick_sb_modes(cpi, tile_data, x, mi_row + hbs, mi_col,
                             dummy_cost, subsize, &pc_tree->horizontal[1]);