Remove some unused, broken, and/or useless functions
Unused frame_sort.
Unused x86_64 dequant_4x4dc_mmx2, predict_8x8_vr_mmx2.
Unused and broken high_depth integral_init*h_sse4, optimize_chroma_*, dequant_flat_*, sub8x8_dct_dc_*, zigzag_sub_*.
Useless high_depth dequant_sse4, dequant_dc_sse4.

asm cosmetics: merge all the variants of ABS macros

asm cosmetics part 2
These changes were split out of the cpuflags commit because they change the output executable.

asm cosmetics: INIT_MMX/XMM/YMM now support a cpuflags argument

Reduces the number of macro args that need to be passed around.
Allows multiple implementations of a given macro (e.g. PALIGNR) to check
cpuflags at the location where the macro is defined, instead of having
to select implementations by %define at toplevel.
Remove INIT_AVX, as it's replaced by "INIT_XMM avx".

This commit does not change the stripped executable.

Import x86inc.asm patches from libav

Cosmetics: s/mmxext/mmx2/

Fix two bugs in 4:4:4 chroma weightp analysis
Caused slightly worse compression.

Fix "--asm avx"
Previously required "--asm sse2fast,fastshuffle,sse4.2,avx".

Re-add support for glibc <2.6, which doesn't have CPU_COUNT

Avoid using deprecated libavformat functions
Replace av_find_stream_info with avformat_find_stream_info.
Now requires libavformat 53.3.0 or newer.

Use assembly versions of some deblocking functions in MBAFF

Move X264_VERSION / X264_POINTVER from config.h to x264_config.h
This makes them available to external programs as part of the public API.

Fix padding bug in x264_expand_border_mbpair

Timecode parsing: Add missing initialization
Fix crash when failed to parse timecode file before malloc pts.
Fix detection of user timebase considered to be exceeding H.264 maximum.

Fix crash with high bitdepth 4:2:0 input

x86 asm cosmetics
Use FDEC_STRIDEB where appropriate.

Fix a bug in lossless sub-8x8 RD
Caused crashes in rare cases with lossless encoding.  Regression in 4:4:4.

Improved p8x4/4x8 search decision
Use the same thresholding as for p16x8/8x16.
Does p8x4/4x8 search more often, for a small compression improvement.

Add --subme 11, which disables all early terminations in analysis
Necessary for a future trellis mode decision/motion estimation patch.
Also add the slowest presets to the regression test.

Some trivial changes to RD thresholds
The output-changing portion of the next patch.

Allow setting a wider range of chroma QP offsets
This allows use of the full range of chroma QP offsets, even in combination with the automatic psy-based adjustments.

Optimize macroblock_deblock_strength, add more early terminations

Function-pointerify MBAFF deblocking functions

Clean up MBAFF deblocking code

Optimize frame_deblock_row

Shrink two arrays

Add support for the new (4:4:4) colorspaces to x264_picture_alloc

Various cosmetics

Improve configure help

Use $optarg for some configure options

Linux x264_cpu_num_processors(): use glibc macros
The cpu_set_t structure is considered opaque.
Also handle sched_getaffinity() error case if "cpusetsize is smaller than the size of the affinity mask used by the kernel."

Fix spurious "stream properties changed" with --seek option on some inputs

Fix use of deprecated libavcodec functions
Replace avcodec_open with avcodec_open2. Now requires libavcodec 53.6.0 or newer.

Fix nalu_process callback with HRD

Fix incorrect chroma swap for some input pixfmts

Problem occurred if pixfmt of lavf/ffms input was PIX_FMT_RGB24 or PIX_FMT_YUV444P.

Fix resize filter crash with YUVJ* input pixfmt

RGB encoding support
Much less efficient than YUV444, but easy to support using the YUV444 framework.

4:4:4 encoding support

Properly weight slice header lambda in chroma weightp analysis

Better x86 high bit depth predict_8x8c_p
Avoid the need to check for corner cases by reordering arithmetic.
Also make a minor optimization to high bit depth predict_16x16_p.

Eliminate extra layer of indirection for sps/pps references
Also remove poc type 1 support (it didn't work anyways) to reduce sps size.

Fix SSIM calculation with sliced threads

Avoid possible NaNs in B-frame output stats

ARM: do not override the toolchain default for FPU ABI

Fix link errors with libswscale/libavutil as shared libraries

Fix deprecation in libavformat usage
Replace av_open_input_file with avformat_open_input. Now requires libavformat 53.2.0 or newer.

Fix various issues with VBV+threads
Eliminate the race condition with interframe row predictors and threads.
Recalculate frame_size_estimated at the end of a frame, for improved update_vbv_plan.
Some cosmetics.

Fix MBAFF row VBV ratecontrol
Reverts most of r1984 and implements a much simpler solution.

Make ratecontrol_mb less slow

Resize filter updates
Fix use of deprecated sws_getContext.
Fix uses of sws_format_name.
Fix stream change warning not occurring on the first resolution change.
Drop cpu detection, as it is now performed internally by swscale.
Update swscale version requirements.

AVX mbtree_propagate
Up to ~20-30% faster than SSE2 on Sandy Bridge.

Use -vsync 0 with ffmpeg regression test

Inline emms instructions on x86 if possible

Make left_index_table const
Should allow for some missed compiler optimizations in macroblock_cache_load.

Make --profile main/baseline force off CQMfile

Fix VBV bug caused by zero i_row_satd value for first and last row

Fix crash with VBV + forced QP

Fix VBV bug with MinCR limit

Fix bitstream reallocation with slice-max-size + MBAFF

Improve build system capabilities
Make static lib and CLI optional.
Support linking CLI to system libx264.
Don't strip by default, to match GNU packaging guidelines.

Slightly speed up x86 CABAC asm
Also make some various cleanups.

Faster pixel_memset
~4x faster.
Also inline plane_expand_border for improved constant propagation.

Add checkasm tests for memcpy_aligned, memzero_aligned
Also make memcpy_aligned support sizes smaller than 64.

MBAFF: Add regularization to VSAD metric
Bias towards the MBAFF decisions made in neighboring mb pairs.
~2% better compression on a random 1080i HDTV source.

MBAFF: Improve handling of bottom row mod32 padding
Force skip on any MBs entirely outside the frame
If an mb pair in the bottom row is chosen to be progressive, re-pad the bottom rows progressively.

MBAFF: Add frame/field MB stats

MBAFF: Template direct spatial

MBAFF: Template cache_load and cache_load_neighbours

MBAFF: Make interlaced support a compile time option

MBAFF: Don't call zigzag_init for every mb

MBAFF: Modify ratecontrol to update every two rows

MBAFF: Add support for slice-max-size

Also add slice-max-size to the regression tests.

MBAFF: Add support for slice-max-mbs

MBAFF: Adaptive quantization

Compute energy for interlaced and progressive choices and pick the least.

MBAFF: Enable adaptive MBAFF with VSAD decision

MBAFF: Create a VSAD DSP function

x86 assembly by Fiona Glaser. This gives roughly 30x speed
increase over the C version.

MBAFF: Direct spatial

MBAFF: Direct temporal

MBAFF: Calculate bipred POCs

Need to calculate two tables for the cases where the current macroblock is
progressive or interlaced as refs are calculated differently for each.

MBAFF: Use both left macroblocks for ref_idx calculation

MBAFF: First edge deblocking

MBAFF: Implement left edge deblocking functions

MBAFF: Add extra data to the deblock strength structure

MBAFF: Deblocking support

MBAFF: Move common code from deblock functions

MBAFF: Add mbaff deblock strength calculation

Move call to deblock_strength to x264_macroblock_deblock_strength to
keep deblock strength calculation in one place.

MBAFF: Update x264_cabac_mvd_sum_mmxext to work with larger MVDs.

Author: Loren Merritt <pengvado@akuvian.org>

MBAFF: Clamp MVDs to 66 instead of 33

MBAFF: CABAC encoding of skips

MBAFF: Track what interlace decision the decoder is using

MBAFF: Fix mvy bounds

Fix MV clipping

MBAFF: Copy deblocked pixels to other plane

MBAFF: Disallow skip where predicted interlace flag would be wrong

MBAFF: Inter support

MBAFF: Neighbour calculation

Back up intra borders correctly and make neighbour calculation several times longer.

MBAFF: Store references to the two left macroblocks

MBAFF: Store left references in a table

MBAFF: Disable adaptive MBAFF when subme 0 is used

MBAFF: Save interlace decision for all macroblocks

Fix bug in NAL buffer resizing
Also properly terminate if NAL buffer resizing fails.