]> granicus.if.org Git - libvpx/commit
Refinements on modelcoef expt to reduce storage
authorDeb Mukherjee <debargha@google.com>
Mon, 20 May 2013 20:54:39 +0000 (13:54 -0700)
committerDeb Mukherjee <debargha@google.com>
Tue, 21 May 2013 17:06:56 +0000 (10:06 -0700)
commit07443f1589805074b58b04bb551cba3bdb9d169e
tree49aad0b1eaa81cdb7074d10abe87e96ceecb0a07
parent39a90bc8e879738c336304960dfcee6a17fee057
Refinements on modelcoef expt to reduce storage

Uses more aggrerssive interpolation to reduce storage for the
model tables by almost more than half. Only 48 lists of probs are
stored (as opposed to 128 before), corresponding to ONE_NODE
probabilities of:
1,
3, 7, 11, ..., 115, 119,
127, 135, ..., 247, 255.

Besides, only 1 table is used as opposed to 2 before. So the overall
memory needed for the tables is just 48 * 8 = 384 bytes.

The table currently used is based on a new Pareto distribution with
heavier tail than a generalized Gaussian - which improves results on
derf by about 0.1% over a single table Generaized Gaussian.

Results overall on derfraw300 is -0.14%.

Change-Id: I19bd03559cbf5894a9f8594b8023dcc3e546f6bd
vp9/common/vp9_entropy.c
vp9/common/vp9_entropy.h