]> granicus.if.org Git - libvpx/commitdiff
Fix ubsan warning: vp8/encoder/denoising.c
authorYaowu Xu <yaowu@google.com>
Thu, 16 Jun 2016 15:53:53 +0000 (08:53 -0700)
committerYaowu Xu <yaowu@google.com>
Thu, 16 Jun 2016 15:53:53 +0000 (08:53 -0700)
BUG=webm:1219

Change-Id: Iebdedfb27c70909c0849e169473a2a3ec9f58cc7

vp8/encoder/denoising.c

index cff99c0122925f0c0afb397ac63ebf9b59cda5a2..26ce120b4e233c9a23743d5a0d64a1761eaf8bdb 100644 (file)
@@ -529,7 +529,7 @@ void vp8_denoiser_denoise_mb(VP8_DENOISER *denoiser,
         // Bias on zero motion vector sse.
         const int zero_bias = denoiser->denoise_pars.denoise_mv_bias;
         zero_mv_sse = (unsigned int)((int64_t)zero_mv_sse * zero_bias / 100);
-        sse_diff = zero_mv_sse - best_sse;
+        sse_diff = (int)zero_mv_sse - (int)best_sse;
 
         saved_mbmi = *mbmi;