]> granicus.if.org Git - libvpx/commit
Change to use correct check for halfpel
authorYaowu Xu <yaowu@google.com>
Wed, 11 May 2016 20:52:59 +0000 (13:52 -0700)
committerYaowu Xu <yaowu@google.com>
Wed, 11 May 2016 20:52:59 +0000 (13:52 -0700)
commit17fae3ad0afbffb473b709ba36669b1b92833a5d
tree1e0729d271f1b031e0789c51b1052270a189682b
parenta45596cff7bce21db776dbae8df88844db46c0e8
Change to use correct check for halfpel

In motion estimation stage for subpel motion, subpel variance is
computed use bilinear interpolation. The motion vector precision
used is at 1/8 pel and three bits are used to represent the x and y
subpel offsets. Based on this, the half pel check should be against
4, not 8.

Change-Id: I1f56fa1fa3f2f5e19a20d27983efe628557f170e
vpx_dsp/x86/subpel_variance_sse2.asm