Refines variance based partitioning search

Instead of using source variance, this patch uses variance of the
frame difference between the source and the current frame to make
fixed size partition decisions. Also disables adjusting partitioning
if variance based or fixed size partitioning is used.

The latter change improves the speed substantially for speed 6, so
that speed 7 is now less than 3x the speed of speed 6. But speed
6 is 48% better in psnr on the rtc set compared to speed 7.

As compared to speed 5,
speed 6 is -37% in psnr at about 2.5x the speed,
speed 7 is -55% in psnr at about 7x the speed.

Change-Id: If61d80431d3e04ed304ac05832e773cdb2c0a578

Merge "Adds variance based fixed size partitioning"

Adds variance based fixed size partitioning

Adds a method for determining a fixed size partition based on
variance of a 64x64 SB. This method is added to rtc speed 6.
Also fixes a bug in rtc_use_partition() and includes some
refactoring related to partitioning search, and some cosmetics.

Currently compared to speed 5, the coding efficiency of speed 6
is -19% and that of speed 7 is -55%, in cbr mode.

Change-Id: I057e04125a8b765906bb7d4bf7a36d1e575de7c6

Merge "Using vp9_subtract_plane instead of vp9_subtract_{sb, sby, sbuv}."

Merge "Consistent names for reference_mode functions."

Merge "Changing vp9_full_search_sad{, x3, x8} signatures."

Merge "Cleaning up vp9_refining_search_sad() function."

Merge "Change dx_time data type in vpxdec.c"

Merge "Trap request to display non-existant frame"

Merge "Disable adaptive pred filter for non-split mode"

Merge changes I7e96d619,I9a7631d5

* changes:
  normalize int64_t high value to INT64_MAX
  resolve issue with arm code failing unit test

normalize int64_t high value to INT64_MAX

Change-Id: I7e96d6199f882d35357f6a9a08c04ad0af5dc26e

resolve issue with arm code failing unit test

The optimizer did something funny with the code around
line 1412.  Before the call to encode_sb split_dist was
set properly but after it was adjusted and converted to
a negative.

https://code.google.com/p/webm/issues/detail?id=714

Change-Id: I9a7631d5325ade2dc28c1030653a23eecec8721b

Change dx_time data type in vpxdec.c

Change dx_time data type to int64_t to prevent
test time overflow when decoding long video.

Change-Id: I3dd5e324a246843e07e635fd25c50e71e385ed70
Signed-off-by: James Yu <james.yu@linaro.org>

vpx_temporal_scalable_patterns: fix to encoding_bitrate computation.

Change-Id: I56fcb82c4334c7591b765b55b3c2912778af6db5

Disable adaptive pred filter for non-split mode

If sf->disable_split_mask is DISABLE_ALL_SPLIT, disable
sf->adaptive_pred_interp_filter to avoid unnecessary operations.

Change-Id: Icb59174b2f4e9a3c3c16a696deb8018e5bd999eb

Merge "Adds an intermediate speed level for rtc"

Adds an intermediate speed level for rtc

Moves the existing speed 6 to speed 7 and adds an
intermediate level 6 which is roughly in between
speeds 6 and 7 in both speed and coding efficiency.
Also includes some minor fixes/adjustments.

Change-Id: I98befc4d82d750e79fe426c457c4a2571f6b6cc7

Trap request to display non-existant frame

If show_existing_frame indicates that the decoder should
display an existing (previously decoded) frame, add a
check to make sure that the signaled buffer does contain
a valid decoded frame.

Change-Id: Iac8c686b321827414d69a3f2d0467566911bcba2

added clamp of segment loop filter level

for ABSDATA mode, so segment loop filter level always fall in valid
range for both Absolute and delta modes.

Change-Id: If90df3411479533dbdab63f8ae088d2f5dd174a9

Merge "Added clamp of qindex to valid range"

fix vs9 build after obj_int_extract changes

broken since:
1d3ca08 obj_int_extract.bat: Pass obj_int_extract.exe path to obj_int_extract.bat.

Change-Id: Ic3de9f8c2b604e3aa9b905e1bc0b578963e01a4a

Merge "Combining if-else branches from different conditions."

Merge "Cleaning up vp9_mvref_common.{h, c}."

Added clamp of qindex to valid range

The qindex for a segment was not clamped in ABSDATA mode, which may
cause invalid memory access if an ill-formed stream has a negative
value in ABSDATA mode. This commit added clamp to make sure qindex
for a segment always fall into valid range.

Change-Id: I0a74d00f4ef40aec7edaeca1d03c8645e23ab08c

Merge "Periodically update mode and mv costs"

Merge "move nestegg to third_party"

Merge "gen_msvs_vcxproj.sh: Set TargetName instead of OutputFile."

Merge "tests: enable datarate_test based on CONFIG_ENCODERS"

Changed a constant array to static const type

Change-Id: I5b3918441f63ceb7889dcf546e9a2d781be4a3cb

Merge "Remove an unused variable"

tests: enable datarate_test based on CONFIG_ENCODERS

not just CONFIG_VP8_ENCODER; there's now VP9 code in the same file

Change-Id: I73d8b9141af1374b37480fb0495e17a7952eb4f9

Periodically update mode and mv costs

Skip coefficient cost update in non-RD mode decision setting. Allow
periodical mode and motion vector cost update. Currently every other
8 frames. The increment runtime is a constant number. Hence more
visible for CIF resolution, while negligible for 1080p.

Speed -6 compression performance for rtc set is improved by 4.5%.

Change-Id: I27e0ad7c521fcc2af1d825582cbdd1a27ac4c323

update gitignore

- update example paths
- add a few missing generated rtcd, dox files
+ sort

Change-Id: I7f4fbf53972d247e96f9c741ff039d244ceb6b2e

move vp9_spatial_scalable_encoder.c to examples/

Change-Id: Id5c889cb87ad33a21d83a415a23e957e8ee3218f

Merge "Refactor selected partition size coding for rtc"

move nestegg to third_party

Change-Id: Idf58109195a88dec66c5e1ea6a51c61e6c659ff1

Merge "update nestegg"

Merge "vp8cx.h: add brief desc. for VP9E_SET_SVC_LAYER_ID"

Merge "Stop gating non420 features with a configure flag."

Merge "Require an --experimental-bitstream flag at runtime for encoding profile 1."

Refactor selected partition size coding for rtc

This commit makes a refactoring of the rtc_use_partition. It allows
the encoder to take a preferred block size for non-RD mode decision.
The boundary blocks are handled such that smaller block sizes that
fit in the boundary size will be used instread.

In rtc mode, the coding performance of speed -6 for pedestrian_1080p
goes from
158980 b/f, 38.934 dB, 22721 ms to
159008 b/f, 40.064 dB, 23721 ms.

For rtc set, the speed -6 compression performance is improved by
26%. Still about 2dB behind speed -5 at this point.

Change-Id: If0944f0880eaf1ad340bc325d97cea8d0f9dd53f

Merge "vp9_rd_pick_inter_mode_sb() reorganization"

Stop gating non420 features with a configure flag.

Change-Id: I8cc38fdef6a2a0968af8dfe15e7c2b3c46c531ea

Require an --experimental-bitstream flag at runtime for encoding profile 1.

Change-Id: I73865bbbf6ea74434f15b73783ae97b4d273be80

update nestegg

+ prune some unused files

https://github.com/kinetiknz/nestegg.git

commit f46223191d8116a36bf299b5b9793fcb798417b1
Merge: 0851279 4b0190a
Author:     Matthew Gregan <kinetik@flim.org>
AuthorDate: Wed Nov 27 13:50:43 2013 -0800
Commit:     Matthew Gregan <kinetik@flim.org>
CommitDate: Wed Nov 27 13:50:43 2013 -0800

    Merge pull request #15 from shadone/master

    Fix compiler warning.

Change-Id: I59eecdd68fced1ef61b67d446735539628d81484

vp8cx.h: add brief desc. for VP9E_SET_SVC_LAYER_ID

fixes doxygen warning related to vpx_svc_layer_id

Change-Id: I365688133c1598182488501158de6af4b0f4c546

obj_int_extract.bat: Pass obj_int_extract.exe path to obj_int_extract.bat.

- Update the vcxproj generator to pass the path to the batch file.
- Update the batch file the take the path to obj_int_extract.exe as arg
  2.

Fixes this warning:
warning MSB8012: TargetPath does not match Linker's OutputFile property
value.

Change-Id: I5825f1d1d79f370aeb295bbd2aeb08b22c0e73ab

Merge "Enable reduced set of intra modes in rtc coding"

Merge "Added three test vectors with droppable frames"

vp9_rd_pick_inter_mode_sb() reorganization

* Reduce the number of short cirtcuit checks by pre-computing and combining like checks.
* Postpone non-trivial initializations until after the shortcircuits are evaluated.
* Add some consts and const pointers.

No change to the actual results of the call or output of the encoder.

Change-Id: Ie44c4702aec6e08cfe0b8b0ba3cd6b57206478d1

Enable reduced set of intra modes in rtc coding

This commit enables the use of DC, vertical, and horizontal intra
prediction mode in rtc non-RD mode decision. When the best cost value
of inter modes is above a given threshold, the encoder runs the
above three intra modes and selects the one that has minimum
prediction residual in terms of SAD.

This together with recent changes on non-RD mode decision and coding
control improves compression performance of speed -6 by
derf  91%
yt    61%
hd    46%
stdhd 52%

In terms of encoding speed, it is about 3 times faster than speed -5.

Change-Id: I6b483bfd0307e6482bb22a6676ae4e25a52b1310

Merge "Force alt reference frame off in rtc mode"

Added three test vectors with droppable frames

Change-Id: I70240e50927b4379603628f6349bf615f756b5a1

Merge "Test vectors for odd image width and height."

Merge "vp9_subpel_variance_impl_intrin_avx2.c: make some tables static"

Merge "vp9_subpixel_8t_intrin_ssse3.c: make some tables static"

Merge "vp9_subpixel_8t_intrin_avx2.c: make some tables static"

Force alt reference frame off in rtc mode

When non-RD coding decision is used in rtc mode, the alt reference
is not used for inter frame prediction. This commit disabled alt ref
option whenever speed -6 is used.

Change-Id: I0b33ca03661de1db2d9bef1bcbff848cd4c9396f

gen_msvs_vcxproj.sh: Set TargetName instead of OutputFile.

Set TargetName for library builds instead of changing the value of
OutputFile.

This fixes the following warnings:
warning MSB8012: TargetPath does not match Library's OutputFile property
value.

Change-Id: I4320b6d9ea922d3a15b9823c7c6694ee33edbf45

Remove an unused variable

Change-Id: I8eeec70a7d4403243762f14d0b560792801645e8

Test vectors for odd image width and height.

Change-Id: I39286df9fc76e3451f14ce2652d671e11b0c37bc

Merge "Rename vp8_cfg to vp9_cfg in vp9_cx_iface"

Merge "Use MI_BLOCK_SIZE in block coding loop"

Merge "Rework non-RD mode decision coding flow"

Merge "twopass_encoder.c: Silence MSVC data loss warnings."

Merge "vpx_temporal_scalable_patterns: set rc_target_bitrate correct."

Merge "Use fast HEX search in real time mode"

Merge "Only track mode_chosen_counts if CONFIG_INTERNAL_STATS."

vp9_encodeframe.c: Silence rdmult assignment warning with a cast.

Cast result of round() to int.

Change-Id: Ib708fddfadde4c765001ce9723fda113fd0f4bf6

Merge "vp9_vaq.c: Cast result of round() to int to silence warning caused by clamp() call."

vp9_encodeframe.c: Silence totalrate assignment warning with a cast.

Cast result of round() to int.

Change-Id: I4982886ad4e7657b4c40d21bd850d31690a68c28

vpx_temporal_scalable_patterns: set rc_target_bitrate correct.

Current setting was specific to 1 layer case.
rc_target_bitrate is total bitrate for whole stream,
so set it to ts_target_bitrate for highest/top temporal layer.

Change-Id: I83de73364956fa21c0a7c971c9f390d4840457e6

Condition alt-ref entropy context setting on svc.

Avoid special context setting for alt-ref in svc mode.

Change-Id: I5337d0739abe16aab7854bcaa3c8537191c4b60c

Merge "vp9_rdopt.c: Use int64_t for dist_sum and rate_sum in model_rd_for_sb()."

Merge "video_source.h: Minor clean up."

Merge "vp8_set_maps.c: Silence signed/unsigned mismatch MSVC warnings."

Merge "vp8cx_set_ref.c: Silence MSVC data loss warning."

Merge "Fixed compilation on mingw with secure APIs enabled by default."

Only track mode_chosen_counts if CONFIG_INTERNAL_STATS.

Change-Id: Ia9252ad0caa4d2bda529a3fe93efcb31e7eb2da0

vp8cx_set_ref.c: Silence MSVC data loss warning.

Change-Id: I1210ce23cf8f98950c445a17ef51a73c6852c89f

vp8_set_maps.c: Silence signed/unsigned mismatch MSVC warnings.

Use unsigned loop counters in set_roi_map() and set_active_map().

Change-Id: I9bbaed38b51ef73b82ba4ad4c4bc18ca5d2399f9

twopass_encoder.c: Silence MSVC data loss warnings.

Use unsigned int instead of uint64_t for duration and deadline
arguments to functions get_frame_stats() and encode_frame().

Change-Id: I1f26a7afc38ae89916b2c67415ced26fdc9d53e7

video_source.h: Minor clean up.

- Use size_t for frame_size() (fixes warnings elsewhere)
- Remove unnecessary use of const.

Change-Id: Id2cba182ac3fd2f67d25fd1db3a0bc3e1eda040b

Merge "decode_with_drops.c: Cast away MSVC data loss warning."

Merge "simple_decoder.c: Silence MSVC data loss warning."

Merge "postproc.c: Cast away MSVC data loss warning."

Rename vp8_cfg to vp9_cfg in vp9_cx_iface

This variable takes control parameters for vp9 encoder, hence
renamed vp9_cfg.

Change-Id: I9b253c41a06e44d97fe699f26005cd71e2eeb36c

Merge "Adding is_mv_valid() function."

Merge "Do not use the value of 'rate_mv' if uninitialized."

Merge "vpx_temporal_scalable_patterns.c: Silence MSVC warnings."

simple_decoder.c: Silence MSVC data loss warning.

Change-Id: I138d7f62ac7e905642405e60a49ac3d282695e3f

postproc.c: Cast away MSVC data loss warning.

Change-Id: Ib80d4f394692a981e369dc5fecd5432cbec488d1

decode_with_drops.c: Cast away MSVC data loss warning.

Change-Id: Ib8ee2b9a4cb785176ca1054489df5dced004837a

Merge "error_resilient.c: Cast away MSVC data loss warning."

Merge "decode_to_md5.c: Silence warning with cast."

Merge "force_keyframe.c: Cast away MSVC data loss warning."

Merge "vpx_frame_buffer.h: add doxygen \file block"

error_resilient.c: Cast away MSVC data loss warning.

Change-Id: I6d81f7d94cb724a9f5a302ca3551196f2d06f9b4

Merge "vp9: normalize DECLARE_ALIGNED use on global tables"