]> granicus.if.org Git - libvpx/commitdiff
Fix the C version of column vector projection
authorJingning Han <jingning@google.com>
Wed, 18 Mar 2015 01:50:53 +0000 (18:50 -0700)
committerJingning Han <jingning@google.com>
Wed, 18 Mar 2015 01:50:53 +0000 (18:50 -0700)
Make the C and SSE2 versions consistent.

Change-Id: I03c405d22a36bd1a97480efb96dc5af230667424

vp9/encoder/vp9_avg.c

index 90d113c325143b3d2ddef08649d43cc85ce6e108..dc5cfe268633e22fb7e1afb29351295984506c78 100644 (file)
@@ -46,10 +46,9 @@ void vp9_int_pro_row_c(int16_t *hbuf, uint8_t const *ref,
 int16_t vp9_int_pro_col_c(uint8_t const *ref, const int width) {
   int idx;
   int16_t sum = 0;
-  const int norm_factor = MAX(8, width >> 1);
   for (idx = 0; idx < width; ++idx)
     sum += ref[idx];
-  return sum / norm_factor;
+  return sum;
 }
 
 int vp9_vector_var_c(int16_t const *ref, int16_t const *src,