Fix chroma intra analysis in 4:4:4 lossless mode

Fix use of uninitialized MVs in sub8x8 RDO

Fix detection of Alpha CPU arch on alphaev67

Optimize x86 asm for Intel macro-op fusion
That is, place all loop counter tests right before their conditional jumps.

CAVLC: clean up and restructure
Somewhat faster CAVLC and RD bit-counting.

CABAC: clean up and restructure
Somewhat faster CABAC and RD bit-counting.

Some initial 4:2:2 x86 asm

4:2:2 encoding support

SSSE3/SSE4 9-way fully merged i4x4 analysis (sad/satd_x9)

i4x4 analysis cycles (per partition):
penryn   sandybridge
184-> 75  157-> 54  preset=superfast (sad)
281->165  225->124  preset=faster    (satd with early termination)
332->165  263->124  preset=medium
379->165  297->124  preset=slower    (satd without early termination)

This is the first code in x264 that intentionally produces different behavior
on different cpus: satd_x9 is implemented only on ssse3+ and checks all intra
directions, whereas the old code (on fast presets) may early terminate after
checking only some of them. There is no systematic difference on slow presets,
though they still occasionally disagree about tiebreaks.

For ease of debugging, add an option "--cpu-independent" to disable satd_x9
and any analogous future code.

Faster intra_mbcmp_x3 for versions without dedicated asm
Select asm subroutines more intelligently in the wrapper functions.

Optimize x86 intra_predict_4x4 and 8x8

High bit depth Penryn, Sandybridge cycles:
4x4_ddl: 11->10,  9-> 8
4x4_ddr: 15->13, 12->11
4x4_hd:        , 15->12
4x4_hu:        , 14->13
4x4_vr:  15->14, 14->12
8x8_ddl: 32->19, 19->14
8x8_ddr: 42->19, 21->14
8x8_hd:        , 15->13
8x8_hu:  21->17, 16->12
8x8_vr:  33->19,

8-bit Penryn, Sandybridge cycles:
4x4_ddr: 24->15,
4x4_hd:  24->16,
4x4_hu:  23->15,
4x4_vr:  23->16,
4x4_vl:  10-> 9,
8x8_ddl: 23->15,
8x8_hd:        , 17->14
8x8_hu:        , 15->14
8x8_vr:  20->16, 17->13

Use realistic alignment for intra pred benchmarks in checkasm

Fix frame packing SEI with --frame-packing 0
According to the spec, when frame_packing_arrangement_type is equal to 0, quincunx_sampling_flag shall be equal to 1.

Fix install/uninstall shared libs if SYS is WINDOWS/CYGWIN

Add Hurd support to configure

Optimize x86 intra_satd_x3_*
~7% faster.

Optimize x86 intra_sa8d_x3_8x8
~40% faster.
Also some other minor asm cosmetics.

Scale interlaced refs/mvs for mvr predictors
Slightly improves compression and fixes a Valgrind error.

Optimize predict_8x8_filter and incidentally remove a valgrind false-positive

Don't override flat SSE2 dequant functions with non-flat AVX ones
Slightly faster.

Shut up some valgrind false-positives

Avoid some unnecessary allocations with B-frames/CABAC off

Fix typo in p8x8 RD analysis
Passed wrong idx to trellis.

Fix invalid memory accesses in x86 lowres_init when width <= 16

Fix intermediate conversion for YUVJ* pixfmts with 4:4:4 encoding

Fix pic_out returned by x264_encoder_encode with 4:4:4

Fix zeroing of mvr predictors in bskip blocks

Fix: chroma planes for weightp analysis were not initted if U early-terminates and V doesn't.

Expand borders before chroma weightp analysis
Prevents mc from using uninitialized source pixels.

Another 4:4:4 chroma weightp bug fix

Fix typo in help

Improve support for varying resolution between passes
Should give much better quality, but still doesn't support MB-tree yet.
Also check for the same interlaced options between passes.
Various minor ratecontrol cosmetics.

asm cosmetics: base-4 constants for shuffles

Enable some existing asm functions that were missing function pointers
pixel_ads1_avx, predict_8x8_hd_avxx
High bit depth mc_copy_w8_sse2, denoise_dct_avx, prefetch_fenc/ref, and several pixel*sse4.

Remove some unused, broken, and/or useless functions
Unused frame_sort.
Unused x86_64 dequant_4x4dc_mmx2, predict_8x8_vr_mmx2.
Unused and broken high_depth integral_init*h_sse4, optimize_chroma_*, dequant_flat_*, sub8x8_dct_dc_*, zigzag_sub_*.
Useless high_depth dequant_sse4, dequant_dc_sse4.

asm cosmetics: merge all the variants of ABS macros

asm cosmetics part 2
These changes were split out of the cpuflags commit because they change the output executable.

asm cosmetics: INIT_MMX/XMM/YMM now support a cpuflags argument

Reduces the number of macro args that need to be passed around.
Allows multiple implementations of a given macro (e.g. PALIGNR) to check
cpuflags at the location where the macro is defined, instead of having
to select implementations by %define at toplevel.
Remove INIT_AVX, as it's replaced by "INIT_XMM avx".

This commit does not change the stripped executable.

Import x86inc.asm patches from libav

Cosmetics: s/mmxext/mmx2/

Fix two bugs in 4:4:4 chroma weightp analysis
Caused slightly worse compression.

Fix "--asm avx"
Previously required "--asm sse2fast,fastshuffle,sse4.2,avx".

Re-add support for glibc <2.6, which doesn't have CPU_COUNT

Avoid using deprecated libavformat functions
Replace av_find_stream_info with avformat_find_stream_info.
Now requires libavformat 53.3.0 or newer.

Use assembly versions of some deblocking functions in MBAFF

Move X264_VERSION / X264_POINTVER from config.h to x264_config.h
This makes them available to external programs as part of the public API.

Fix padding bug in x264_expand_border_mbpair

Timecode parsing: Add missing initialization
Fix crash when failed to parse timecode file before malloc pts.
Fix detection of user timebase considered to be exceeding H.264 maximum.

Fix crash with high bitdepth 4:2:0 input

x86 asm cosmetics
Use FDEC_STRIDEB where appropriate.

Fix a bug in lossless sub-8x8 RD
Caused crashes in rare cases with lossless encoding.  Regression in 4:4:4.

Improved p8x4/4x8 search decision
Use the same thresholding as for p16x8/8x16.
Does p8x4/4x8 search more often, for a small compression improvement.

Add --subme 11, which disables all early terminations in analysis
Necessary for a future trellis mode decision/motion estimation patch.
Also add the slowest presets to the regression test.

Some trivial changes to RD thresholds
The output-changing portion of the next patch.

Allow setting a wider range of chroma QP offsets
This allows use of the full range of chroma QP offsets, even in combination with the automatic psy-based adjustments.

Optimize macroblock_deblock_strength, add more early terminations

Function-pointerify MBAFF deblocking functions

Clean up MBAFF deblocking code

Optimize frame_deblock_row

Shrink two arrays

Add support for the new (4:4:4) colorspaces to x264_picture_alloc

Various cosmetics

Improve configure help

Use $optarg for some configure options

Linux x264_cpu_num_processors(): use glibc macros
The cpu_set_t structure is considered opaque.
Also handle sched_getaffinity() error case if "cpusetsize is smaller than the size of the affinity mask used by the kernel."

Fix spurious "stream properties changed" with --seek option on some inputs

Fix use of deprecated libavcodec functions
Replace avcodec_open with avcodec_open2. Now requires libavcodec 53.6.0 or newer.

Fix nalu_process callback with HRD

Fix incorrect chroma swap for some input pixfmts

Problem occurred if pixfmt of lavf/ffms input was PIX_FMT_RGB24 or PIX_FMT_YUV444P.

Fix resize filter crash with YUVJ* input pixfmt

RGB encoding support
Much less efficient than YUV444, but easy to support using the YUV444 framework.

4:4:4 encoding support

Properly weight slice header lambda in chroma weightp analysis

Better x86 high bit depth predict_8x8c_p
Avoid the need to check for corner cases by reordering arithmetic.
Also make a minor optimization to high bit depth predict_16x16_p.

Eliminate extra layer of indirection for sps/pps references
Also remove poc type 1 support (it didn't work anyways) to reduce sps size.

Fix SSIM calculation with sliced threads

Avoid possible NaNs in B-frame output stats

ARM: do not override the toolchain default for FPU ABI

Fix link errors with libswscale/libavutil as shared libraries

Fix deprecation in libavformat usage
Replace av_open_input_file with avformat_open_input. Now requires libavformat 53.2.0 or newer.

Fix various issues with VBV+threads
Eliminate the race condition with interframe row predictors and threads.
Recalculate frame_size_estimated at the end of a frame, for improved update_vbv_plan.
Some cosmetics.

Fix MBAFF row VBV ratecontrol
Reverts most of r1984 and implements a much simpler solution.

Make ratecontrol_mb less slow

Resize filter updates
Fix use of deprecated sws_getContext.
Fix uses of sws_format_name.
Fix stream change warning not occurring on the first resolution change.
Drop cpu detection, as it is now performed internally by swscale.
Update swscale version requirements.

AVX mbtree_propagate
Up to ~20-30% faster than SSE2 on Sandy Bridge.

Use -vsync 0 with ffmpeg regression test

Inline emms instructions on x86 if possible

Make left_index_table const
Should allow for some missed compiler optimizations in macroblock_cache_load.

Make --profile main/baseline force off CQMfile

Fix VBV bug caused by zero i_row_satd value for first and last row

Fix crash with VBV + forced QP

Fix VBV bug with MinCR limit

Fix bitstream reallocation with slice-max-size + MBAFF

Improve build system capabilities
Make static lib and CLI optional.
Support linking CLI to system libx264.
Don't strip by default, to match GNU packaging guidelines.

Slightly speed up x86 CABAC asm
Also make some various cleanups.

Faster pixel_memset
~4x faster.
Also inline plane_expand_border for improved constant propagation.

Add checkasm tests for memcpy_aligned, memzero_aligned
Also make memcpy_aligned support sizes smaller than 64.

MBAFF: Add regularization to VSAD metric
Bias towards the MBAFF decisions made in neighboring mb pairs.
~2% better compression on a random 1080i HDTV source.

MBAFF: Improve handling of bottom row mod32 padding
Force skip on any MBs entirely outside the frame
If an mb pair in the bottom row is chosen to be progressive, re-pad the bottom rows progressively.

MBAFF: Add frame/field MB stats