]> granicus.if.org Git - libvpx/commitdiff
Change C/MSA post proc to match SSE2.
authorJerome Jiang <jianj@google.com>
Sat, 19 Nov 2016 01:11:59 +0000 (17:11 -0800)
committerJerome Jiang <jianj@google.com>
Wed, 23 Nov 2016 18:42:11 +0000 (10:42 -0800)
BUG=webm:1321

Change-Id: I719023375dc48cf7d8ed72188853f0f1ccc4ad7f

test/pp_filter_test.cc
vpx_dsp/deblock.c
vpx_dsp/mips/deblock_msa.c

index 0175bb909de00809ed73c93c3f5bd500ea82baf9..1fccb9249bbec916897b8c5f5c6b5c0e454f4aa5 100644 (file)
@@ -177,7 +177,7 @@ TEST_P(VpxMbPostProcAcrossIpTest, CheckLowFilterOutput) {
   delete[] expected_output;
 }
 
-TEST_P(VpxMbPostProcAcrossIpTest, DISABLED_CheckMediumFilterOutput) {
+TEST_P(VpxMbPostProcAcrossIpTest, CheckMediumFilterOutput) {
   const int rows = 16;
   const int cols = 16;
   const int src_left_padding = 8;
@@ -227,7 +227,7 @@ TEST_P(VpxMbPostProcAcrossIpTest, CheckHighFilterOutput) {
   delete[] src;
 }
 
-TEST_P(VpxMbPostProcAcrossIpTest, DISABLED_CheckCvsAssembly) {
+TEST_P(VpxMbPostProcAcrossIpTest, CheckCvsAssembly) {
   const int rows = 16;
   const int cols = 16;
   const int src_left_padding = 8;
@@ -379,7 +379,7 @@ TEST_P(VpxMbPostProcDownTest, CheckHighFilterOutput) {
   delete[] c_mem;
 }
 
-TEST_P(VpxMbPostProcDownTest, DISABLED_CheckMediumFilterOutput) {
+TEST_P(VpxMbPostProcDownTest, CheckMediumFilterOutput) {
   const int rows = 16;
   const int cols = 16;
   const int src_pitch = cols;
@@ -441,7 +441,7 @@ TEST_P(VpxMbPostProcDownTest, CheckLowFilterOutput) {
   delete[] expected_output;
 }
 
-TEST_P(VpxMbPostProcDownTest, DISABLED_CheckCvsAssembly) {
+TEST_P(VpxMbPostProcDownTest, CheckCvsAssembly) {
   const int rows = 16;
   const int cols = 16;
   const int src_pitch = cols;
index b2d94795d1eecdf610cabbe4180c509d0d606b76..6c27484979aa716ddcc11098873aafc4953ca303 100644 (file)
@@ -117,7 +117,7 @@ void vpx_mbpost_proc_across_ip_c(unsigned char *src, int pitch, int rows,
   unsigned char d[16];
 
   for (r = 0; r < rows; r++) {
-    int sumsq = 0;
+    int sumsq = 16;
     int sum = 0;
 
     for (i = -8; i < 0; i++) s[i] = s[0];
index ba52e809534985aceea0a8a9a8053b411c438781..e33ea740a9eb4953a4625dcd29e1f944ebf9757b 100644 (file)
@@ -459,7 +459,7 @@ void vpx_mbpost_proc_across_ip_msa(uint8_t *src_ptr, int32_t pitch,
 
   flimit_vec = __msa_fill_w(flimit);
   for (row = rows; row--;) {
-    int32_t sum_sq = 0;
+    int32_t sum_sq;
     int32_t sum = 0;
     src0 = (v16u8)__msa_fill_b(src_dup[0]);
     ST8x1_UB(src0, (src_dup - 8));
@@ -474,7 +474,7 @@ void vpx_mbpost_proc_across_ip_msa(uint8_t *src_ptr, int32_t pitch,
     ILVRL_B2_UH(zero, src, src_r_h, src_l_h);
     src_r_w = __msa_dotp_u_w(src_r_h, src_r_h);
     src_r_w += __msa_dotp_u_w(src_l_h, src_l_h);
-    sum_sq = HADD_SW_S32(src_r_w);
+    sum_sq = HADD_SW_S32(src_r_w) + 16;
     sum_h = __msa_hadd_u_h(src, src);
     sum = HADD_UH_U32(sum_h);
     {