]> granicus.if.org Git - libvpx/commitdiff
VP9: fix unsigned integer overflow in decoder.
authorJerome Jiang <jianj@google.com>
Thu, 24 May 2018 21:07:28 +0000 (14:07 -0700)
committerJerome Jiang <jianj@google.com>
Wed, 6 Jun 2018 17:46:42 +0000 (10:46 -0700)
The difference of two size_t variables.

Change-Id: I73f35cdafc2ba64a9ddaf855cc6a410cfb63b8da

vp9/decoder/vp9_decodeframe.c

index d0e896c13fce71743cbcd56b8143298b0d9ee888..4fba2e74104f8c96de752709a97b67b561ea0e5c 100644 (file)
@@ -1528,7 +1528,7 @@ static int tile_worker_hook(void *arg1, void *arg2) {
 static int compare_tile_buffers(const void *a, const void *b) {
   const TileBuffer *const buf1 = (const TileBuffer *)a;
   const TileBuffer *const buf2 = (const TileBuffer *)b;
-  return (int)(buf2->size - buf1->size);
+  return (int)((int64_t)buf2->size - buf1->size);
 }
 
 static const uint8_t *decode_tiles_mt(VP9Decoder *pbi, const uint8_t *data,