]> granicus.if.org Git - libvpx/commitdiff
warning: pointer targets differ in signedness
authorJohann <johannkoenig@google.com>
Thu, 27 Jan 2011 16:50:29 +0000 (11:50 -0500)
committerJohann <johannkoenig@google.com>
Thu, 27 Jan 2011 16:53:26 +0000 (11:53 -0500)
vp8/encoder/rdopt.c:728: warning: pointer targets in passing argument 3
of 'macro_block_yrd' differ in signedness
vp8/encoder/rdopt.c:541: note: expected 'int *' but argument is of type
'unsigned int *'

distortion is signed when calling macro_block_yrd is both other cases,
as well as for RDCOST

Change-Id: I5e22358b7da76a116f498793253aac8099cb3461

vp8/encoder/rdopt.c

index d1745bbcacca49653357b6038fe2a6a391fb7fec..950c029971a3576f2d5c883e1ac409505fec8e45 100644 (file)
@@ -708,7 +708,7 @@ int vp8_rd_pick_intra16x16mby_mode(VP8_COMP *cpi,
     MB_PREDICTION_MODE mode;
     MB_PREDICTION_MODE UNINITIALIZED_IS_SAFE(mode_selected);
     int rate, ratey;
-    unsigned int distortion;
+    int distortion;
     int best_rd = INT_MAX;
     int this_rd;
     int i;
@@ -737,7 +737,7 @@ int vp8_rd_pick_intra16x16mby_mode(VP8_COMP *cpi,
             best_rd = this_rd;
             *Rate = rate;
             *rate_y = ratey;
-            *Distortion = (int)distortion;
+            *Distortion = distortion;
         }
     }
 
@@ -2474,4 +2474,3 @@ int vp8_rd_pick_inter_mode(VP8_COMP *cpi, MACROBLOCK *x, int recon_yoffset, int
     return best_rd;
 }
 #endif
-