Separate super_block_yrd() into two functions

for inter and intra respectively

Change-Id: I7764d3af780072f7bd7bde201f454dcdd2816e76

Merge "Add consective frame loss to error_resilience test."

Merge "Use sub-pixel accuracy prediction non-RD mode"

Merge "Using clamp() for active_{best, worst}_quality."

Merge "Use dedicated variables to store the best mode"

Merge "Removing redundant vp9_clear_system_state() call."

Merge "Removing vp9_optimize_b() function."

Add consective frame loss to error_resilience test.

Modify existing test to also check the case of dropping
(i.e., skip decoding) a consecutive list of frames.

Change-Id: Ia8c1195559f952e86e6697996931d3a920c05ae3

Removing redundant vp9_clear_system_state() call.

This function is already called in vp9_initialize_rd_consts().

Change-Id: I88c0484a7274660287fa25fdf5cdb721d3284e01

Using clamp() for active_{best, worst}_quality.

Change-Id: Ia79f975f54829b8ae6b568ca5c05f4f1f541706f

Removing vp9_optimize_b() function.

Change-Id: If859c9d58a8fe3f478d409b9e9ca59bcee8fd35d

Use sub-pixel accuracy prediction non-RD mode

This commit builds the actual prediction block in sub-pixel accuracy
and uses which to calculate SAD for non-RD mode decision. In the trail
run on pedestrian_area at 1080p, rtc speed -7 runtime goes from
23495 ms -> 25107 ms (7% slower). The compression performance is
improved by 20.57% for rtc test set.

Change-Id: I438589cd103fe99f1b50c2d1939ac6ca43fa0157

Merge "VP8 for ARMv8 by using NEON intrinsics 02"

Merge "Shrink dct_value_cost[] to int16_t."

Use dedicated variables to store the best mode

Use a set of dedicated variables to buffer the current best mode
in non-RD mode decision. This allows to use mode_info for more
complicated test in the non-RD process.

Change-Id: I6024c9feb0662afd3eb29f7017f7b5a5446f303f

Merge "Adds variance based fixed size partitioning"

Shrink dct_value_cost[] to int16_t.

The largest value is 13358.

Change-Id: I7a6b024a92b6250933d9ebc0cad066b966c96bd4

Adds variance based fixed size partitioning

Adds a method for determining a fixed size partition based on
variance of a 64x64 SB. This method is added to rtc speed 6.
Also fixes a bug in rtc_use_partition() and includes some
refactoring related to partitioning search, and some cosmetics.

Currently compared to speed 5, the coding efficiency of speed 6
is -19% and that of speed 7 is -55%, in cbr mode.

Change-Id: I057e04125a8b765906bb7d4bf7a36d1e575de7c6

Merge "Using vp9_subtract_plane instead of vp9_subtract_{sb, sby, sbuv}."

Merge "Consistent names for reference_mode functions."

Merge "Changing vp9_full_search_sad{, x3, x8} signatures."

Merge "Cleaning up vp9_refining_search_sad() function."

Merge "Change dx_time data type in vpxdec.c"

Merge "Trap request to display non-existant frame"

Merge "Disable adaptive pred filter for non-split mode"

Merge changes I7e96d619,I9a7631d5

* changes:
  normalize int64_t high value to INT64_MAX
  resolve issue with arm code failing unit test

normalize int64_t high value to INT64_MAX

Change-Id: I7e96d6199f882d35357f6a9a08c04ad0af5dc26e

resolve issue with arm code failing unit test

The optimizer did something funny with the code around
line 1412.  Before the call to encode_sb split_dist was
set properly but after it was adjusted and converted to
a negative.

https://code.google.com/p/webm/issues/detail?id=714

Change-Id: I9a7631d5325ade2dc28c1030653a23eecec8721b

Change dx_time data type in vpxdec.c

Change dx_time data type to int64_t to prevent
test time overflow when decoding long video.

Change-Id: I3dd5e324a246843e07e635fd25c50e71e385ed70
Signed-off-by: James Yu <james.yu@linaro.org>

vpx_temporal_scalable_patterns: fix to encoding_bitrate computation.

Change-Id: I56fcb82c4334c7591b765b55b3c2912778af6db5

Disable adaptive pred filter for non-split mode

If sf->disable_split_mask is DISABLE_ALL_SPLIT, disable
sf->adaptive_pred_interp_filter to avoid unnecessary operations.

Change-Id: Icb59174b2f4e9a3c3c16a696deb8018e5bd999eb

Merge "Adds an intermediate speed level for rtc"

Adds an intermediate speed level for rtc

Moves the existing speed 6 to speed 7 and adds an
intermediate level 6 which is roughly in between
speeds 6 and 7 in both speed and coding efficiency.
Also includes some minor fixes/adjustments.

Change-Id: I98befc4d82d750e79fe426c457c4a2571f6b6cc7

Trap request to display non-existant frame

If show_existing_frame indicates that the decoder should
display an existing (previously decoded) frame, add a
check to make sure that the signaled buffer does contain
a valid decoded frame.

Change-Id: Iac8c686b321827414d69a3f2d0467566911bcba2

added clamp of segment loop filter level

for ABSDATA mode, so segment loop filter level always fall in valid
range for both Absolute and delta modes.

Change-Id: If90df3411479533dbdab63f8ae088d2f5dd174a9

Merge "Added clamp of qindex to valid range"

fix vs9 build after obj_int_extract changes

broken since:
1d3ca08 obj_int_extract.bat: Pass obj_int_extract.exe path to obj_int_extract.bat.

Change-Id: Ic3de9f8c2b604e3aa9b905e1bc0b578963e01a4a

Merge "Combining if-else branches from different conditions."

Merge "Cleaning up vp9_mvref_common.{h, c}."

VP8 for ARMv8 by using NEON intrinsics 02

Add copymem_neon.c
- vp8_copy_mem16x16_neon
- vp8_copy_mem8x8_neon
- vp8_copy_mem8x4_neon

vpxdec  --summary --noblit ../videos/tears_of_steel_1080p.webm
Before => After, 13.25 => 13.25 (fps)

Change-Id: Ib956b5a20522ff57dc8a580bf0aef7b252bddba6
Signed-off-by: James Yu <james.yu@linaro.org>

Added clamp of qindex to valid range

The qindex for a segment was not clamped in ABSDATA mode, which may
cause invalid memory access if an ill-formed stream has a negative
value in ABSDATA mode. This commit added clamp to make sure qindex
for a segment always fall into valid range.

Change-Id: I0a74d00f4ef40aec7edaeca1d03c8645e23ab08c

Merge "Periodically update mode and mv costs"

Merge "move nestegg to third_party"

Merge "gen_msvs_vcxproj.sh: Set TargetName instead of OutputFile."

Merge "tests: enable datarate_test based on CONFIG_ENCODERS"

Changed a constant array to static const type

Change-Id: I5b3918441f63ceb7889dcf546e9a2d781be4a3cb

Merge "Remove an unused variable"

tests: enable datarate_test based on CONFIG_ENCODERS

not just CONFIG_VP8_ENCODER; there's now VP9 code in the same file

Change-Id: I73d8b9141af1374b37480fb0495e17a7952eb4f9

Periodically update mode and mv costs

Skip coefficient cost update in non-RD mode decision setting. Allow
periodical mode and motion vector cost update. Currently every other
8 frames. The increment runtime is a constant number. Hence more
visible for CIF resolution, while negligible for 1080p.

Speed -6 compression performance for rtc set is improved by 4.5%.

Change-Id: I27e0ad7c521fcc2af1d825582cbdd1a27ac4c323

update gitignore

- update example paths
- add a few missing generated rtcd, dox files
+ sort

Change-Id: I7f4fbf53972d247e96f9c741ff039d244ceb6b2e

move vp9_spatial_scalable_encoder.c to examples/

Change-Id: Id5c889cb87ad33a21d83a415a23e957e8ee3218f

Merge "Refactor selected partition size coding for rtc"

move nestegg to third_party

Change-Id: Idf58109195a88dec66c5e1ea6a51c61e6c659ff1

Merge "update nestegg"

Merge "vp8cx.h: add brief desc. for VP9E_SET_SVC_LAYER_ID"

Merge "Stop gating non420 features with a configure flag."

Merge "Require an --experimental-bitstream flag at runtime for encoding profile 1."

Refactor selected partition size coding for rtc

This commit makes a refactoring of the rtc_use_partition. It allows
the encoder to take a preferred block size for non-RD mode decision.
The boundary blocks are handled such that smaller block sizes that
fit in the boundary size will be used instread.

In rtc mode, the coding performance of speed -6 for pedestrian_1080p
goes from
158980 b/f, 38.934 dB, 22721 ms to
159008 b/f, 40.064 dB, 23721 ms.

For rtc set, the speed -6 compression performance is improved by
26%. Still about 2dB behind speed -5 at this point.

Change-Id: If0944f0880eaf1ad340bc325d97cea8d0f9dd53f

Merge "vp9_rd_pick_inter_mode_sb() reorganization"

Stop gating non420 features with a configure flag.

Change-Id: I8cc38fdef6a2a0968af8dfe15e7c2b3c46c531ea

Require an --experimental-bitstream flag at runtime for encoding profile 1.

Change-Id: I73865bbbf6ea74434f15b73783ae97b4d273be80

update nestegg

+ prune some unused files

https://github.com/kinetiknz/nestegg.git

commit f46223191d8116a36bf299b5b9793fcb798417b1
Merge: 0851279 4b0190a
Author:     Matthew Gregan <kinetik@flim.org>
AuthorDate: Wed Nov 27 13:50:43 2013 -0800
Commit:     Matthew Gregan <kinetik@flim.org>
CommitDate: Wed Nov 27 13:50:43 2013 -0800

    Merge pull request #15 from shadone/master

    Fix compiler warning.

Change-Id: I59eecdd68fced1ef61b67d446735539628d81484

vp8cx.h: add brief desc. for VP9E_SET_SVC_LAYER_ID

fixes doxygen warning related to vpx_svc_layer_id

Change-Id: I365688133c1598182488501158de6af4b0f4c546

obj_int_extract.bat: Pass obj_int_extract.exe path to obj_int_extract.bat.

- Update the vcxproj generator to pass the path to the batch file.
- Update the batch file the take the path to obj_int_extract.exe as arg
  2.

Fixes this warning:
warning MSB8012: TargetPath does not match Linker's OutputFile property
value.

Change-Id: I5825f1d1d79f370aeb295bbd2aeb08b22c0e73ab

Merge "Enable reduced set of intra modes in rtc coding"

Merge "Added three test vectors with droppable frames"

vp9_rd_pick_inter_mode_sb() reorganization

* Reduce the number of short cirtcuit checks by pre-computing and combining like checks.
* Postpone non-trivial initializations until after the shortcircuits are evaluated.
* Add some consts and const pointers.

No change to the actual results of the call or output of the encoder.

Change-Id: Ie44c4702aec6e08cfe0b8b0ba3cd6b57206478d1

Enable reduced set of intra modes in rtc coding

This commit enables the use of DC, vertical, and horizontal intra
prediction mode in rtc non-RD mode decision. When the best cost value
of inter modes is above a given threshold, the encoder runs the
above three intra modes and selects the one that has minimum
prediction residual in terms of SAD.

This together with recent changes on non-RD mode decision and coding
control improves compression performance of speed -6 by
derf  91%
yt    61%
hd    46%
stdhd 52%

In terms of encoding speed, it is about 3 times faster than speed -5.

Change-Id: I6b483bfd0307e6482bb22a6676ae4e25a52b1310

Merge "Force alt reference frame off in rtc mode"

Added three test vectors with droppable frames

Change-Id: I70240e50927b4379603628f6349bf615f756b5a1

Merge "Test vectors for odd image width and height."

Merge "vp9_subpel_variance_impl_intrin_avx2.c: make some tables static"

Merge "vp9_subpixel_8t_intrin_ssse3.c: make some tables static"

Merge "vp9_subpixel_8t_intrin_avx2.c: make some tables static"

Force alt reference frame off in rtc mode

When non-RD coding decision is used in rtc mode, the alt reference
is not used for inter frame prediction. This commit disabled alt ref
option whenever speed -6 is used.

Change-Id: I0b33ca03661de1db2d9bef1bcbff848cd4c9396f

gen_msvs_vcxproj.sh: Set TargetName instead of OutputFile.

Set TargetName for library builds instead of changing the value of
OutputFile.

This fixes the following warnings:
warning MSB8012: TargetPath does not match Library's OutputFile property
value.

Change-Id: I4320b6d9ea922d3a15b9823c7c6694ee33edbf45

Remove an unused variable

Change-Id: I8eeec70a7d4403243762f14d0b560792801645e8

Test vectors for odd image width and height.

Change-Id: I39286df9fc76e3451f14ce2652d671e11b0c37bc

Merge "Rename vp8_cfg to vp9_cfg in vp9_cx_iface"

Merge "Use MI_BLOCK_SIZE in block coding loop"

Merge "Rework non-RD mode decision coding flow"

Merge "twopass_encoder.c: Silence MSVC data loss warnings."

Merge "vpx_temporal_scalable_patterns: set rc_target_bitrate correct."

Merge "Use fast HEX search in real time mode"

Merge "Only track mode_chosen_counts if CONFIG_INTERNAL_STATS."

vp9_encodeframe.c: Silence rdmult assignment warning with a cast.

Cast result of round() to int.

Change-Id: Ib708fddfadde4c765001ce9723fda113fd0f4bf6

Merge "vp9_vaq.c: Cast result of round() to int to silence warning caused by clamp() call."

vp9_encodeframe.c: Silence totalrate assignment warning with a cast.

Cast result of round() to int.

Change-Id: I4982886ad4e7657b4c40d21bd850d31690a68c28

vpx_temporal_scalable_patterns: set rc_target_bitrate correct.

Current setting was specific to 1 layer case.
rc_target_bitrate is total bitrate for whole stream,
so set it to ts_target_bitrate for highest/top temporal layer.

Change-Id: I83de73364956fa21c0a7c971c9f390d4840457e6

Condition alt-ref entropy context setting on svc.

Avoid special context setting for alt-ref in svc mode.

Change-Id: I5337d0739abe16aab7854bcaa3c8537191c4b60c

Merge "vp9_rdopt.c: Use int64_t for dist_sum and rate_sum in model_rd_for_sb()."

Merge "video_source.h: Minor clean up."

Merge "vp8_set_maps.c: Silence signed/unsigned mismatch MSVC warnings."

Merge "vp8cx_set_ref.c: Silence MSVC data loss warning."

Merge "Fixed compilation on mingw with secure APIs enabled by default."

Only track mode_chosen_counts if CONFIG_INTERNAL_STATS.

Change-Id: Ia9252ad0caa4d2bda529a3fe93efcb31e7eb2da0

vp8cx_set_ref.c: Silence MSVC data loss warning.

Change-Id: I1210ce23cf8f98950c445a17ef51a73c6852c89f

vp8_set_maps.c: Silence signed/unsigned mismatch MSVC warnings.

Use unsigned loop counters in set_roi_map() and set_active_map().

Change-Id: I9bbaed38b51ef73b82ba4ad4c4bc18ca5d2399f9

twopass_encoder.c: Silence MSVC data loss warnings.

Use unsigned int instead of uint64_t for duration and deadline
arguments to functions get_frame_stats() and encode_frame().

Change-Id: I1f26a7afc38ae89916b2c67415ced26fdc9d53e7

video_source.h: Minor clean up.

- Use size_t for frame_size() (fixes warnings elsewhere)
- Remove unnecessary use of const.

Change-Id: Id2cba182ac3fd2f67d25fd1db3a0bc3e1eda040b