granicus.if.org Git - libvpx/blob - vp9/encoder/vp9_aq_complexity.c

   1 /*
   2  *  Copyright (c) 2014 The WebM project authors. All Rights Reserved.
   3  *
   4  *  Use of this source code is governed by a BSD-style license
   5  *  that can be found in the LICENSE file in the root of the source
   6  *  tree. An additional intellectual property rights grant can be found
   7  *  in the file PATENTS.  All contributing project authors may
   8  *  be found in the AUTHORS file in the root of the source tree.
   9  */
  10
  11 #include <limits.h>
  12 #include <math.h>
  13
  14 #include "vp9/encoder/vp9_aq_variance.h"
  15 #include "vp9/encoder/vp9_encodeframe.h"
  16 #include "vp9/common/vp9_seg_common.h"
  17 #include "vp9/encoder/vp9_segmentation.h"
  18
  19 #define AQ_C_SEGMENTS  3
  20 #define AQ_C_STRENGTHS  3
  21 static const int aq_c_active_segments[AQ_C_STRENGTHS] = {1, 2, 3};
  22 static const double aq_c_q_adj_factor[AQ_C_STRENGTHS][AQ_C_SEGMENTS] =
  23   {{1.0, 1.0, 1.0}, {1.0, 2.0, 1.0}, {1.0, 1.5, 2.5}};
  24 static const double aq_c_transitions[AQ_C_STRENGTHS][AQ_C_SEGMENTS] =
  25   {{1.0, 1.0, 1.0}, {1.0, 0.25, 0.0}, {1.0, 0.5, 0.25}};
  26 static const double aq_c_var_thresholds[AQ_C_SEGMENTS] = {100.0, 12.0, 10.0};
  27
  28 static int get_aq_c_strength(int q_index, vpx_bit_depth_t bit_depth) {
  29   // Approximate base quatizer (truncated to int)
  30   const int base_quant = vp9_ac_quant(q_index, 0, bit_depth) / 4;
  31   return (base_quant > 20) + (base_quant > 45);
  32 }
  33
  34 void vp9_setup_in_frame_q_adj(VP9_COMP *cpi) {
  35   VP9_COMMON *const cm = &cpi->common;
  36   struct segmentation *const seg = &cm->seg;
  37
  38   // Make SURE use of floating point in this function is safe.
  39   vp9_clear_system_state();
  40
  41   if (cm->frame_type == KEY_FRAME ||
  42       cpi->refresh_alt_ref_frame ||
  43       (cpi->refresh_golden_frame && !cpi->rc.is_src_frame_alt_ref)) {
  44     int segment;
  45     const int aq_strength = get_aq_c_strength(cm->base_qindex, cm->bit_depth);
  46     const int active_segments = aq_c_active_segments[aq_strength];
  47
  48     // Clear down the segment map.
  49     vpx_memset(cpi->segmentation_map, 0, cm->mi_rows * cm->mi_cols);
  50
  51     // Clear down the complexity map used for rd.
  52     vpx_memset(cpi->complexity_map, 0, cm->mi_rows * cm->mi_cols);
  53
  54     vp9_clearall_segfeatures(seg);
  55
  56     // Segmentation only makes sense if the target bits per SB is above a
  57     // threshold. Below this the overheads will usually outweigh any benefit.
  58     if (cpi->rc.sb64_target_rate < 256) {
  59       vp9_disable_segmentation(seg);
  60       return;
  61     }
  62
  63     vp9_enable_segmentation(seg);
  64
  65     // Select delta coding method.
  66     seg->abs_delta = SEGMENT_DELTADATA;
  67
  68     // Segment 0 "Q" feature is disabled so it defaults to the baseline Q.
  69     vp9_disable_segfeature(seg, 0, SEG_LVL_ALT_Q);
  70
  71     // Use some of the segments for in frame Q adjustment.
  72     for (segment = 1; segment < active_segments; ++segment) {
  73       int qindex_delta =
  74           vp9_compute_qdelta_by_rate(&cpi->rc, cm->frame_type, cm->base_qindex,
  75                                      aq_c_q_adj_factor[aq_strength][segment],
  76                                      cm->bit_depth);
  77
  78       // For AQ complexity mode, we dont allow Q0 in a segment if the base
  79       // Q is not 0. Q0 (lossless) implies 4x4 only and in AQ mode 2 a segment
  80       // Q delta is sometimes applied without going back around the rd loop.
  81       // This could lead to an illegal combination of partition size and q.
  82       if ((cm->base_qindex != 0) && ((cm->base_qindex + qindex_delta) == 0)) {
  83         qindex_delta = -cm->base_qindex + 1;
  84       }
  85       if ((cm->base_qindex + qindex_delta) > 0) {
  86         vp9_enable_segfeature(seg, segment, SEG_LVL_ALT_Q);
  87         vp9_set_segdata(seg, segment, SEG_LVL_ALT_Q, qindex_delta);
  88       }
  89     }
  90   }
  91 }
  92
  93 // Select a segment for the current SB64 block.
  94 // The choice of segment for a block depends on the ratio of the projected
  95 // bits for the block vs a target average.
  96 // An "aq_strength" value determines how many segments are supported,
  97 // the set of transition points to use and the extent of the quantizer
  98 // adjustment for each segment (configured in vp9_setup_in_frame_q_adj()).
  99 void vp9_select_in_frame_q_segment(VP9_COMP *cpi, BLOCK_SIZE bs,
 100                                    int mi_row, int mi_col,
 101                                    int output_enabled, int projected_rate) {
 102   VP9_COMMON *const cm = &cpi->common;
 103
 104   const int mi_offset = mi_row * cm->mi_cols + mi_col;
 105   const int bw = num_8x8_blocks_wide_lookup[BLOCK_64X64];
 106   const int bh = num_8x8_blocks_high_lookup[BLOCK_64X64];
 107   const int xmis = MIN(cm->mi_cols - mi_col, bw);
 108   const int ymis = MIN(cm->mi_rows - mi_row, bh);
 109   int complexity_metric = 64;
 110   int x, y;
 111
 112   unsigned char segment;
 113
 114   if (!output_enabled) {
 115     segment = 0;
 116   } else {
 117     // Rate depends on fraction of a SB64 in frame (xmis * ymis / bw * bh).
 118     // It is converted to bits * 256 units.
 119     const int target_rate = (cpi->rc.sb64_target_rate * xmis * ymis * 256) /
 120                             (bw * bh);
 121     const int aq_strength = get_aq_c_strength(cm->base_qindex, cm->bit_depth);
 122     const int active_segments = aq_c_active_segments[aq_strength];
 123     double logvar;
 124
 125     vp9_setup_src_planes(&cpi->mb, cpi->Source, mi_row, mi_col);
 126     logvar = vp9_log_block_var(cpi, &cpi->mb, bs);
 127
 128     // The number of segments considered and the transition points used to
 129     // select them is determined by the "aq_strength" value.
 130     // Currently this loop only supports segments that reduce Q (i.e. where
 131     // there is undershoot.
 132     // The loop counts down towards segment 0 which is the default segment
 133     // with no Q adjustment.
 134     segment = active_segments - 1;
 135     while (segment > 0) {
 136       if ((projected_rate <
 137           target_rate * aq_c_transitions[aq_strength][segment]) &&
 138           (logvar < aq_c_var_thresholds[segment])) {
 139         break;
 140       }
 141       --segment;
 142     }
 143
 144     if (target_rate > 0) {
 145       complexity_metric =
 146         clamp((int)((projected_rate * 64) / target_rate), 16, 255);
 147     }
 148   }
 149
 150   // Fill in the entires in the segment map corresponding to this SB64.
 151   for (y = 0; y < ymis; y++) {
 152     for (x = 0; x < xmis; x++) {
 153       cpi->segmentation_map[mi_offset + y * cm->mi_cols + x] = segment;
 154       cpi->complexity_map[mi_offset + y * cm->mi_cols + x] =
 155         (unsigned char)complexity_metric;
 156     }
 157   }
 158 }