]> granicus.if.org Git - libvpx/commit
Non-uniform quantization experiment
authorDeb Mukherjee <debargha@google.com>
Wed, 4 Mar 2015 22:04:11 +0000 (14:04 -0800)
committerDeb Mukherjee <debargha@google.com>
Wed, 18 Mar 2015 04:42:55 +0000 (21:42 -0700)
commitc8ed36432e09f7bca39550b773145f46987e491e
tree0545efa02372cef55c7401fc20e8d3a39b89469a
parent9a92891ac4c69e7af95a35a749c1e7357c4aa3e5
Non-uniform quantization experiment

This framework allows lower quantization bins to be shrunk down or
expanded to match closer the source distribution (assuming a generalized
gaussian-like central peaky model for the coefficients) in an
entropy-constrained sense. Specifically, the width of the bins 0-4 are
modified as a factor of the nominal quantization step size and from 5
onwards all bins become the same as the nominal quantization step size.
Further, different bin width profiles as well as reconstruction values
can be used based on the coefficient band as well as the quantization step
size divided into 5 ranges.

A small gain currently on derflr of about 0.16% is observed with the
same paraemters for all q values.
Optimizing the parameters based on qstep value is left as a TODO for now.

Results on derflr with all expts on is +6.08% (up from 5.88%).

Experiments are in progress to tune the parameters for different
coefficient bands and quantization step ranges.

Change-Id: I88429d8cb0777021bfbb689ef69b764eafb3a1de
14 files changed:
configure
vp9/common/vp9_blockd.h
vp9/common/vp9_onyxc_int.h
vp9/common/vp9_quant_common.c
vp9/common/vp9_quant_common.h
vp9/common/vp9_rtcd_defs.pl
vp9/decoder/vp9_decodeframe.c
vp9/decoder/vp9_detokenize.c
vp9/encoder/vp9_block.h
vp9/encoder/vp9_encodemb.c
vp9/encoder/vp9_encodemb.h
vp9/encoder/vp9_quantize.c
vp9/encoder/vp9_quantize.h
vp9/encoder/vp9_rdopt.c