]> granicus.if.org Git - libvpx/commit
Don't expand to Q register for 4x4 intrapred
authorJohann <johannkoenig@google.com>
Wed, 27 Jul 2016 21:24:14 +0000 (14:24 -0700)
committerJohann Koenig <johannkoenig@google.com>
Thu, 4 Aug 2016 18:51:46 +0000 (18:51 +0000)
commitdf69c751a7552fa162fbcf64da14830c753342f3
tree4ca4b359153fd5633fc48eb97fa41fb43670ad7c
parent7a79fa136228b349b202b9d5bae2b4f95d1ef517
Don't expand to Q register for 4x4 intrapred

The code was expanding to Q registers so that vqrshn could be used, for
vector quad round shift and narrow. If 4 values are added together,
there is a shift by 2. If 8 values, a shift by 3. Since this accounts
for any possibility of overflow, we can skip the narrowing shift.

This allows keeping the values in D registers and casting the 16 bit
value to 8 bits.

Change-Id: I8d9cfa07176271f492c116ffa6a7b351af0b8751
vpx_dsp/arm/intrapred_neon.c