]> granicus.if.org Git - libvpx/commitdiff
Change tx_size_search_method setting for non-rd speed 5.
authorMarco <marpan@google.com>
Fri, 15 May 2015 18:08:24 +0000 (11:08 -0700)
committerMarco <marpan@google.com>
Fri, 15 May 2015 18:12:47 +0000 (11:12 -0700)
Use the same settting as in speed >=6.
This will use same logic for tx_size selecton as in speed >=6,
which limits the transform size and reduces ringing artifact.
Also metrics go up on average with this change: ~2% for PSNR, ~10% for SSIM.

Change-Id: Ia2d50db236ae1cc72f742bfa6c9ec5ea50ff0e0a

vp9/encoder/vp9_speed_features.c

index 4f93578326beab8ee8b9a5dfffbe33dc03f51d61..61c066e5dba94e95370f5e756ec969ea942551d1 100644 (file)
@@ -337,6 +337,7 @@ static void set_rt_speed_feature(VP9_COMP *cpi, SPEED_FEATURES *sf,
     sf->coeff_prob_appx_step = 4;
     sf->use_fast_coef_updates = is_keyframe ? TWO_LOOP : ONE_LOOP_REDUCED;
     sf->mode_search_skip_flags = FLAG_SKIP_INTRA_DIRMISMATCH;
+    sf->tx_size_search_method = is_keyframe ? USE_LARGESTALL : USE_TX_8X8;
 
     if (!is_keyframe) {
       int i;
@@ -360,7 +361,6 @@ static void set_rt_speed_feature(VP9_COMP *cpi, SPEED_FEATURES *sf,
     // Turn on this to use non-RD key frame coding mode.
     sf->use_nonrd_pick_mode = 1;
     sf->mv.search_method = NSTEP;
-    sf->tx_size_search_method = is_keyframe ? USE_LARGESTALL : USE_TX_8X8;
     sf->mv.reduce_first_step_size = 1;
     sf->skip_encode_sb = 0;
   }