]> granicus.if.org Git - libvpx/commit
Fix a bug in HBD buffer size computation
authorYaowu Xu <yaowu@google.com>
Tue, 9 Feb 2016 02:31:30 +0000 (18:31 -0800)
committerYaowu Xu <yaowu@google.com>
Tue, 9 Feb 2016 02:52:08 +0000 (18:52 -0800)
commitbb5f9e431f3caec47c944fc55c594957698cce69
treee8d92ed7ff8f3b03a0a00fce5f4c51c71ee4c2cb
parentafd73539bb39405287fdba3ac199749526865839
Fix a bug in HBD buffer size computation

The value of use_highbitdepth flag is used for compute the size for
high bit depth buffer allocation, which should take value 0 or 1
depending on if the buffer is used for high bit depth or not.
Previously, the values is set to 8 or 0, this commit fixes the issue
and properly set the value for this flag to 1 or 0.

This cuts the size of highbitdepth buffer memory allocation to 2/9 of
the size prior to the fix.

Change-Id: I401518b5a6147e5d8a973e54f7ca6bc1892065e0
vp10/common/onyxc_int.h
vp10/encoder/encoder.c