]> granicus.if.org Git - libvpx/commit
vp8 encoder: fix some integer overflows master
authorJames Zern <jzern@google.com>
Sat, 6 Nov 2021 17:42:46 +0000 (10:42 -0700)
committerJames Zern <jzern@google.com>
Tue, 9 Nov 2021 00:30:16 +0000 (16:30 -0800)
commit888bafc78d8bddb5cfc4262c93f456c812763571
tree544f04c67d2f0ece00ac527697933dc1cc796480
parent23796337ce5b0a2f58eb7386c9aded5e6a4b84f6
vp8 encoder: fix some integer overflows

cap the bitrate to 1000Mbps to avoid many instances of bitrate * 3 / 2
overflowing.

this adds coverage for 2048x2048 in the default test for VP8 with TODOs
for issues at that resolution for VP9 and at max resolution for both.

Bug: b/189602769
Bug: chromium:1264506
Bug: webm:1748
Bug: webm:1749
Bug: webm:1750
Bug: webm:1751
Change-Id: Iedee4dd8d3609c2504271f94d22433dfcd828429
test/realtime_test.cc
vp8/vp8_cx_iface.c