]> granicus.if.org Git - libvpx/commitdiff
deblock: annotate postproc parameters
authorJohann <johannkoenig@google.com>
Tue, 31 Jan 2017 23:05:51 +0000 (15:05 -0800)
committerJohann <johannkoenig@google.com>
Tue, 31 Jan 2017 23:58:57 +0000 (15:58 -0800)
Clears a clang static analyzer warning where 'cols' is assumed to be
less than 0, preventing the for loop from executing.

The assembly already requires that the size be 8 or 16 (U/V or Y plane)
and cols is a multiple of 8.

Change-Id: Ica4612690ead1638c94cfe56b306e87f8ce644f9

vpx_dsp/deblock.c

index 6c27484979aa716ddcc11098873aafc4953ca303..a0db1e40c98e87ecdfd3fb8d6d33485051bca995 100644 (file)
@@ -7,6 +7,7 @@
  *  in the file PATENTS.  All contributing project authors may
  *  be found in the AUTHORS file in the root of the source tree.
  */
+#include <assert.h>
 #include <stdlib.h>
 #include "vpx/vpx_integer.h"
 
@@ -48,6 +49,9 @@ void vpx_post_proc_down_and_across_mb_row_c(unsigned char *src_ptr,
   unsigned char v;
   unsigned char d[4];
 
+  assert(size >= 8);
+  assert(cols >= 8);
+
   for (row = 0; row < size; row++) {
     /* post_proc_down for one row */
     p_src = src_ptr;