Merge "Disable adaptive pred filter for non-split mode"

Merge changes I7e96d619,I9a7631d5

* changes:
  normalize int64_t high value to INT64_MAX
  resolve issue with arm code failing unit test

normalize int64_t high value to INT64_MAX

Change-Id: I7e96d6199f882d35357f6a9a08c04ad0af5dc26e

resolve issue with arm code failing unit test

The optimizer did something funny with the code around
line 1412.  Before the call to encode_sb split_dist was
set properly but after it was adjusted and converted to
a negative.

https://code.google.com/p/webm/issues/detail?id=714

Change-Id: I9a7631d5325ade2dc28c1030653a23eecec8721b

vpx_temporal_scalable_patterns: fix to encoding_bitrate computation.

Change-Id: I56fcb82c4334c7591b765b55b3c2912778af6db5

Disable adaptive pred filter for non-split mode

If sf->disable_split_mask is DISABLE_ALL_SPLIT, disable
sf->adaptive_pred_interp_filter to avoid unnecessary operations.

Change-Id: Icb59174b2f4e9a3c3c16a696deb8018e5bd999eb

Merge "Adds an intermediate speed level for rtc"

Adds an intermediate speed level for rtc

Moves the existing speed 6 to speed 7 and adds an
intermediate level 6 which is roughly in between
speeds 6 and 7 in both speed and coding efficiency.
Also includes some minor fixes/adjustments.

Change-Id: I98befc4d82d750e79fe426c457c4a2571f6b6cc7

added clamp of segment loop filter level

for ABSDATA mode, so segment loop filter level always fall in valid
range for both Absolute and delta modes.

Change-Id: If90df3411479533dbdab63f8ae088d2f5dd174a9

Merge "Added clamp of qindex to valid range"

fix vs9 build after obj_int_extract changes

broken since:
1d3ca08 obj_int_extract.bat: Pass obj_int_extract.exe path to obj_int_extract.bat.

Change-Id: Ic3de9f8c2b604e3aa9b905e1bc0b578963e01a4a

Merge "Combining if-else branches from different conditions."

Merge "Cleaning up vp9_mvref_common.{h, c}."

Added clamp of qindex to valid range

The qindex for a segment was not clamped in ABSDATA mode, which may
cause invalid memory access if an ill-formed stream has a negative
value in ABSDATA mode. This commit added clamp to make sure qindex
for a segment always fall into valid range.

Change-Id: I0a74d00f4ef40aec7edaeca1d03c8645e23ab08c

Merge "Periodically update mode and mv costs"

Merge "move nestegg to third_party"

Merge "gen_msvs_vcxproj.sh: Set TargetName instead of OutputFile."

Merge "tests: enable datarate_test based on CONFIG_ENCODERS"

Changed a constant array to static const type

Change-Id: I5b3918441f63ceb7889dcf546e9a2d781be4a3cb

Merge "Remove an unused variable"

tests: enable datarate_test based on CONFIG_ENCODERS

not just CONFIG_VP8_ENCODER; there's now VP9 code in the same file

Change-Id: I73d8b9141af1374b37480fb0495e17a7952eb4f9

Periodically update mode and mv costs

Skip coefficient cost update in non-RD mode decision setting. Allow
periodical mode and motion vector cost update. Currently every other
8 frames. The increment runtime is a constant number. Hence more
visible for CIF resolution, while negligible for 1080p.

Speed -6 compression performance for rtc set is improved by 4.5%.

Change-Id: I27e0ad7c521fcc2af1d825582cbdd1a27ac4c323

update gitignore

- update example paths
- add a few missing generated rtcd, dox files
+ sort

Change-Id: I7f4fbf53972d247e96f9c741ff039d244ceb6b2e

move vp9_spatial_scalable_encoder.c to examples/

Change-Id: Id5c889cb87ad33a21d83a415a23e957e8ee3218f

Merge "Refactor selected partition size coding for rtc"

move nestegg to third_party

Change-Id: Idf58109195a88dec66c5e1ea6a51c61e6c659ff1

Merge "update nestegg"

Merge "vp8cx.h: add brief desc. for VP9E_SET_SVC_LAYER_ID"

Merge "Stop gating non420 features with a configure flag."

Merge "Require an --experimental-bitstream flag at runtime for encoding profile 1."

Refactor selected partition size coding for rtc

This commit makes a refactoring of the rtc_use_partition. It allows
the encoder to take a preferred block size for non-RD mode decision.
The boundary blocks are handled such that smaller block sizes that
fit in the boundary size will be used instread.

In rtc mode, the coding performance of speed -6 for pedestrian_1080p
goes from
158980 b/f, 38.934 dB, 22721 ms to
159008 b/f, 40.064 dB, 23721 ms.

For rtc set, the speed -6 compression performance is improved by
26%. Still about 2dB behind speed -5 at this point.

Change-Id: If0944f0880eaf1ad340bc325d97cea8d0f9dd53f

Merge "vp9_rd_pick_inter_mode_sb() reorganization"

Stop gating non420 features with a configure flag.

Change-Id: I8cc38fdef6a2a0968af8dfe15e7c2b3c46c531ea

Require an --experimental-bitstream flag at runtime for encoding profile 1.

Change-Id: I73865bbbf6ea74434f15b73783ae97b4d273be80

update nestegg

+ prune some unused files

https://github.com/kinetiknz/nestegg.git

commit f46223191d8116a36bf299b5b9793fcb798417b1
Merge: 0851279 4b0190a
Author:     Matthew Gregan <kinetik@flim.org>
AuthorDate: Wed Nov 27 13:50:43 2013 -0800
Commit:     Matthew Gregan <kinetik@flim.org>
CommitDate: Wed Nov 27 13:50:43 2013 -0800

    Merge pull request #15 from shadone/master

    Fix compiler warning.

Change-Id: I59eecdd68fced1ef61b67d446735539628d81484

vp8cx.h: add brief desc. for VP9E_SET_SVC_LAYER_ID

fixes doxygen warning related to vpx_svc_layer_id

Change-Id: I365688133c1598182488501158de6af4b0f4c546

obj_int_extract.bat: Pass obj_int_extract.exe path to obj_int_extract.bat.

- Update the vcxproj generator to pass the path to the batch file.
- Update the batch file the take the path to obj_int_extract.exe as arg
  2.

Fixes this warning:
warning MSB8012: TargetPath does not match Linker's OutputFile property
value.

Change-Id: I5825f1d1d79f370aeb295bbd2aeb08b22c0e73ab

Merge "Enable reduced set of intra modes in rtc coding"

Merge "Added three test vectors with droppable frames"

vp9_rd_pick_inter_mode_sb() reorganization

* Reduce the number of short cirtcuit checks by pre-computing and combining like checks.
* Postpone non-trivial initializations until after the shortcircuits are evaluated.
* Add some consts and const pointers.

No change to the actual results of the call or output of the encoder.

Change-Id: Ie44c4702aec6e08cfe0b8b0ba3cd6b57206478d1

Enable reduced set of intra modes in rtc coding

This commit enables the use of DC, vertical, and horizontal intra
prediction mode in rtc non-RD mode decision. When the best cost value
of inter modes is above a given threshold, the encoder runs the
above three intra modes and selects the one that has minimum
prediction residual in terms of SAD.

This together with recent changes on non-RD mode decision and coding
control improves compression performance of speed -6 by
derf  91%
yt    61%
hd    46%
stdhd 52%

In terms of encoding speed, it is about 3 times faster than speed -5.

Change-Id: I6b483bfd0307e6482bb22a6676ae4e25a52b1310

Merge "Force alt reference frame off in rtc mode"

Added three test vectors with droppable frames

Change-Id: I70240e50927b4379603628f6349bf615f756b5a1

Merge "Test vectors for odd image width and height."

Merge "vp9_subpel_variance_impl_intrin_avx2.c: make some tables static"

Merge "vp9_subpixel_8t_intrin_ssse3.c: make some tables static"

Merge "vp9_subpixel_8t_intrin_avx2.c: make some tables static"

Force alt reference frame off in rtc mode

When non-RD coding decision is used in rtc mode, the alt reference
is not used for inter frame prediction. This commit disabled alt ref
option whenever speed -6 is used.

Change-Id: I0b33ca03661de1db2d9bef1bcbff848cd4c9396f

gen_msvs_vcxproj.sh: Set TargetName instead of OutputFile.

Set TargetName for library builds instead of changing the value of
OutputFile.

This fixes the following warnings:
warning MSB8012: TargetPath does not match Library's OutputFile property
value.

Change-Id: I4320b6d9ea922d3a15b9823c7c6694ee33edbf45

Remove an unused variable

Change-Id: I8eeec70a7d4403243762f14d0b560792801645e8

Test vectors for odd image width and height.

Change-Id: I39286df9fc76e3451f14ce2652d671e11b0c37bc

Merge "Rename vp8_cfg to vp9_cfg in vp9_cx_iface"

Merge "Use MI_BLOCK_SIZE in block coding loop"

Merge "Rework non-RD mode decision coding flow"

Merge "twopass_encoder.c: Silence MSVC data loss warnings."

Merge "vpx_temporal_scalable_patterns: set rc_target_bitrate correct."

Merge "Use fast HEX search in real time mode"

Merge "Only track mode_chosen_counts if CONFIG_INTERNAL_STATS."

vp9_encodeframe.c: Silence rdmult assignment warning with a cast.

Cast result of round() to int.

Change-Id: Ib708fddfadde4c765001ce9723fda113fd0f4bf6

Merge "vp9_vaq.c: Cast result of round() to int to silence warning caused by clamp() call."

vp9_encodeframe.c: Silence totalrate assignment warning with a cast.

Cast result of round() to int.

Change-Id: I4982886ad4e7657b4c40d21bd850d31690a68c28

vpx_temporal_scalable_patterns: set rc_target_bitrate correct.

Current setting was specific to 1 layer case.
rc_target_bitrate is total bitrate for whole stream,
so set it to ts_target_bitrate for highest/top temporal layer.

Change-Id: I83de73364956fa21c0a7c971c9f390d4840457e6

Condition alt-ref entropy context setting on svc.

Avoid special context setting for alt-ref in svc mode.

Change-Id: I5337d0739abe16aab7854bcaa3c8537191c4b60c

Merge "vp9_rdopt.c: Use int64_t for dist_sum and rate_sum in model_rd_for_sb()."

Merge "video_source.h: Minor clean up."

Merge "vp8_set_maps.c: Silence signed/unsigned mismatch MSVC warnings."

Merge "vp8cx_set_ref.c: Silence MSVC data loss warning."

Merge "Fixed compilation on mingw with secure APIs enabled by default."

Only track mode_chosen_counts if CONFIG_INTERNAL_STATS.

Change-Id: Ia9252ad0caa4d2bda529a3fe93efcb31e7eb2da0

vp8cx_set_ref.c: Silence MSVC data loss warning.

Change-Id: I1210ce23cf8f98950c445a17ef51a73c6852c89f

vp8_set_maps.c: Silence signed/unsigned mismatch MSVC warnings.

Use unsigned loop counters in set_roi_map() and set_active_map().

Change-Id: I9bbaed38b51ef73b82ba4ad4c4bc18ca5d2399f9

twopass_encoder.c: Silence MSVC data loss warnings.

Use unsigned int instead of uint64_t for duration and deadline
arguments to functions get_frame_stats() and encode_frame().

Change-Id: I1f26a7afc38ae89916b2c67415ced26fdc9d53e7

video_source.h: Minor clean up.

- Use size_t for frame_size() (fixes warnings elsewhere)
- Remove unnecessary use of const.

Change-Id: Id2cba182ac3fd2f67d25fd1db3a0bc3e1eda040b

Merge "decode_with_drops.c: Cast away MSVC data loss warning."

Merge "simple_decoder.c: Silence MSVC data loss warning."

Merge "postproc.c: Cast away MSVC data loss warning."

Rename vp8_cfg to vp9_cfg in vp9_cx_iface

This variable takes control parameters for vp9 encoder, hence
renamed vp9_cfg.

Change-Id: I9b253c41a06e44d97fe699f26005cd71e2eeb36c

Merge "Adding is_mv_valid() function."

Merge "Do not use the value of 'rate_mv' if uninitialized."

Merge "vpx_temporal_scalable_patterns.c: Silence MSVC warnings."

simple_decoder.c: Silence MSVC data loss warning.

Change-Id: I138d7f62ac7e905642405e60a49ac3d282695e3f

postproc.c: Cast away MSVC data loss warning.

Change-Id: Ib80d4f394692a981e369dc5fecd5432cbec488d1

decode_with_drops.c: Cast away MSVC data loss warning.

Change-Id: Ib8ee2b9a4cb785176ca1054489df5dced004837a

Merge "error_resilient.c: Cast away MSVC data loss warning."

Merge "decode_to_md5.c: Silence warning with cast."

Merge "force_keyframe.c: Cast away MSVC data loss warning."

Merge "vpx_frame_buffer.h: add doxygen \file block"

error_resilient.c: Cast away MSVC data loss warning.

Change-Id: I6d81f7d94cb724a9f5a302ca3551196f2d06f9b4

Merge "vp9: normalize DECLARE_ALIGNED use on global tables"

force_keyframe.c: Cast away MSVC data loss warning.

Change-Id: Ibf09b76d5b8c8106b804354d9a7f007a0e3f6173

vpx_temporal_scalable_patterns.c: Silence MSVC warnings.

Change floats to doubles in RateControlMetrics, and make loop
counter signs agree.

Change-Id: I845cf268d9ce837a543d052d8d0f8dfd32bd9817

Use MI_BLOCK_SIZE in block coding loop

Change-Id: Ia70057e11c9b3d9d4bea6fbdd08839334ed02dce

Rework non-RD mode decision coding flow

In the first coding run of a 64x64 block, check the coding mode
for each 8x8 block. Will need a second annealing stage to decide
the partition size to be encoded.

Change-Id: Ida9417805ff3358979b0c0429d4099c023c88866

decode_to_md5.c: Silence warning with cast.

More size_t/unsigned int disagreement.

Change-Id: I2be01ee680f852f168f6fcac554a534ca3c83e5d

Cleaning up vp9_mvref_common.{h, c}.

Hiding vp9_find_mv_refs_idx() inside vp9_mvref_common.c, moving definition
of vp9_find_mv_refs() to vp9_mvref_common.c.

Change-Id: I0c9f34b03648785a7d18edf6d4fddd34e55dfcc5

Merge "Remove comment from calls to vp9_clear_system_state."

Adding is_mv_valid() function.

Change-Id: I9d036244b558765b252d8c6681b22721cb2e51bb

Cleaning up vp9_onyx_if.c.

Change-Id: I389790f1ad0dd40816a7ae1ddad4a5c46278cff3

Merge "Cleaning up pack_inter_mode_mvs() function."

Merge "Removing unused tree_update_hist[] array."