]> granicus.if.org Git - libvpx/commit
Subpel search cleanups and enhancements
authorDeb Mukherjee <debargha@google.com>
Tue, 7 Oct 2014 09:48:08 +0000 (02:48 -0700)
committerDeb Mukherjee <debargha@google.com>
Thu, 9 Oct 2014 06:59:43 +0000 (23:59 -0700)
commitd78dbff09a1b3166fdd5be07b5227179e6e2dfcb
treef8675eb56407fc7be659112f2cb9b53c6e94577b
parentcfc337aae8dabc2e4e1af28506d58230dc9de5c3
Subpel search cleanups and enhancements

- Some fixes to surface fit.
- Returns variance function as cost rather than sad in the
  pattern search and diamond search functions. Only
  vp9_pattern_search_sad function used in bigdia search
  uses sad as integer 1-away costs.
- Deploys SUBPEL_TREE_PRUNED_MORE for speed 4+.

Results:
derf [Speed 3]: About +0.036% in coding efficiency without any
discernible speed loss.
derf [Speed 4]: About 2-3% faster at -0.199% loss in coding efficiency.
derf [Speed 5]: About 3-4% faster at -0.149% loss in coding efficiency.

Change-Id: I8462f94f6adb46966ca964f2bd0400977357fd63
vp9/encoder/vp9_encoder.h
vp9/encoder/vp9_mbgraph.c
vp9/encoder/vp9_mcomp.c
vp9/encoder/vp9_mcomp.h
vp9/encoder/vp9_pickmode.c
vp9/encoder/vp9_rdopt.c
vp9/encoder/vp9_speed_features.c
vp9/encoder/vp9_speed_features.h
vp9/encoder/vp9_temporal_filter.c