ppc: Use xxpermdi in sad_x3/x4 and use macros to avoid redundant code

ppc: Use the vec_xst_len for partial stores in mc

Around a ~1% speedup to the overall encoding for --slow.

ppc: Use vec_splats in mc

No overall speedup, just tidier code.

ppc: Use the vec_xst_len for partial stores

Seems to give about a 1-2% overall speedup on --slow.

ppc: Use xxpermdi in VEC_STORE8

Around a ~2% speedup to the overall encoding for --slow.

ppc: Use a single store to write the scores for sad_x4_8x8

Yet another use of xxpermdi, another 10% gain.

ppc: Use xxpermdi to halve the computation in sad_x4_8x8

About 20% faster.

ppc: Rework satd_4* likewise

Now 4x4 is as slow as C and 4x8 is a 2% faster than before.

ppc: Factor out the sum of absolute

And use it on the other satd > 8.

5-10% faster depending on the size.

ppc: Rework the adds in satd8x8

10% faster.

ppc: Add quant_4x4x4

4x faster than C.

ppc: Cleanup quant

x86: Always use PIC in x86-64 asm

Most x86-64 operating systems nowadays doesn't even allow .text relocations
in object files any more, and there is no measurable overall performance
difference from using RIP-relative addressing in x264 asm.

Enforcing PIC reduces complexity and simplifies testing.

x86: Fix integer overflow in intra_sa8d_x3_8x8_sse2

Check that mbtree settings are consistent between passes

Also check that CQP mode is not used with 2-pass.

Mark frame_size_estimated as volatile

Ensures that access is atomic and that other threads sees the actual
value of the variable.

Fix data race detected by ThreadSanitizer

Bug report by Daniel Deptford.

Fix XAVC with sliced-threads

Fix XAVC slice pattern

Eliminate the use of strtok()

Also fix the string parsing in param_apply_tune() to correctly compare
the entire string, not just the first N characters.

configure: Fix log2f misdetection on some systems

Bug report by Dirk Fieldhouse.

Fix ultrafast preset speed regression

--trellis 0 was missed for it during 8-bit and 10-bit unification.
Bug report by Aleksey Vasenev.

Fix --crop-rect top offset with --interlaced or --fake-interlaced

Bug report by Koby Shina.

Fix possible double transpose of custom CQM if --level is not set

Bug reported by Nicolas Gaullier

cli: Fix linking with --system-libx264 on x86

Fix CAVLC+RDO in 4:4:4

ppc: Optimize quant functions

1) using xxpermdi + merge instead of 2 merges improves quant_8x8
performance by 5%

2) use vec_splats instead of vec_splat

checkasm timings when compiled with gcc:
                  C:            AltiVec:
                                before: after:
quant_2x2_dc:      57            163      46
quant_4x4_dc:     141            162      57

dequant_4x4_cmp:  104            101      45
dequant_4x4_flat: 104            106      46
dequant_8x8_cmp:  412            208     147
dequant_8x8_flat: 414            212     149

ppc: Add support for Power9-only vec_absd

Increases overall encoding speed on POWER9 by 8%.

ppc: Optimize sub8x8_dct_dc

ppc: AltiVec add16x16_idct_dc

ppc: Optimize add8x8_idct_dc

ppc: Add compatibility macros for vec_xxpermdi

Prefer a monotonic clock source if available

Add Sony XAVC, a flavour of AVC-Intra

Cosmetics: Fix indentation for multiline function prototypes

It was broken in "Drop the x264 prefix" patch.

Cosmetics: Use consistent "inline" attribute position

Place it immediately after "static".

x86: AVX-512 plane_copy and plane_copy_swap

Avoid the scalar C wrapper by utilizing opmasks to prevent overreading the
input buffer.

4:0:0 (monochrome) encoding support

Virtually zero increase in compression efficiency compared to 4:2:0 with empty
chroma planes. Performance is better though, especially with fast settings.

Makefile improvements

 * Coalesce some install recipe lines

 * Remove empty addition of GPLed filters

 * Install libdir in recipes that directly require it

 * Coalesce etags/TAGS rules

 * Simplify fprofiled rule

x86inc: Improve SAVE/LOAD_MM_PERMUTATION macros

Use register numbers instead of copying the full register names. This makes it
possible to change register widths in the middle of a function and keep the
mmreg permutations intact which can be useful for code that only needs larger
vectors for parts of the function in combination with macros etc.

Also change the LOAD_MM_PERMUTATION macro to use the same default name as the
SAVE macro. This simplifies swapping from ymm to xmm registers or vice versa:

    SAVE_MM_PERMUTATION
    INIT_XMM <cpuflags>
    LOAD_MM_PERMUTATION

x86inc: Optimize VEX instruction encoding

Most VEX-encoded instructions require an additional byte to encode when src2
is a high register (e.g. x|ymm8..15). If the instruction is commutative we
can swap src1 and src2 when doing so reduces the instruction length, e.g.

    vpaddw xmm0, xmm0, xmm8 -> vpaddw xmm0, xmm8, xmm0

x86inc: Fix VEX -> EVEX instruction conversion

There's an edge case that wasn't properly handled.

configure: Fix required version checks for lavf and swscale

Fix float division by zero in weightp analysis

Fix undefined behavior of left shift for CAVLC encoding

Fix integer overflow in slicetype_path_cost

The path cost for high resolutions can exceed COST_MAX.

cli: Fix preset help listing

It was previously incorrect when --chroma-format or --bit-depth was
specified in configure.

ppc: Fix zigzag_interleave

The permv array has 3 elements

Fix clang stack alignment issues

Clang emits aligned AVX stores for things like zeroing stack-allocated
variables when using -mavx even with -fno-tree-vectorize set which can
result in crashes if this occurs before we've realigned the stack.

Previously we only ensured that the stack was realigned before calling
assembly functions that accesses stack-allocated buffers but this is
not sufficient. Fix the issue by changing the stack realignment to
instead occur immediately in all CLI, API and thread entry points.

Fix missing bs_flush in AUD writing

Fix possible undefined behavior of right shift

32-bit shifts are only defined for values in the range 0-31.

Make bs_align_10 imply bs_flush

Now behaves the same as bs_align_0 and bs_align_1.

Fix theoretically incorrect cost_mv_fpel free

configure: Fix ambiguous "$(("

Fix --qpmax default value in fullhelp

x86: Correctly use v-prefix for instructions with opmasks

This was always required, but accidentally happened to work correctly
in a few cases.

configure: Only use gas-preprocessor with armasm for compiler=CL

This picks the right assembler automatically for arm and aarch64
llvm-mingw targets.

This doesn't get the right assembler for clang setups when clang
acts like MSVC and uses MSVC headers though (where it perhaps
should use armasm as before), but that's probably an even more
obscure setup.

Remove ARRAY_SIZE macro which is identical to ARRAY_ELEMS

x86inc: Correctly set mmreg variables

.gitignore: Ignore TAGS file

Minor configure improvements

 * Drop empty addition of GPLed filters

 * Replace backticks with $()

Bump dates to 2018

Merge zero buffers

Improves cache efficiency.

rdo: Use ALIGNED_ARRAY for stack arrays

Correctly align buffers for AVX and AVX-512

Fixes segfaults on Windows where the stack is only 16-byte aligned.

Cosmetics

ppc: Add load_deinterleave_chroma_fenc_altivec

5x speed up vs C code.

Update to the latest upstream version of gas-preprocessor

This version supports converting aarch64 assembly for MS armasm64.exe.

input: Add a workaround for swscale overread bugs

swscale can read past the end of the input buffer, which may result in
crashes if such a read crosses a page boundary into an invalid page.

Work around this by adding some padding space at the end of the buffer when
using memory-mapped input frames. This may sometimes require copying the
last frame into a new buffer on Windows since the Microsoft memory-mapping
implementation has very limited capabilities compared to POSIX systems.

filters/resize: Upgrade to a newer libavutil API

Use the AVComponentDescriptor depth field instead of depth_minus1.

aarch64: Use ldurb/sturb for loads/stores with negative offsets

The assembler (both gas and clang/llvm) automatically fixes this,
armasm64 doesn't. We can fix it in gas-preprocessor, but we should
also be using the right instruction form.

configure: Add support for building with MSVC/armasm for ARM64

arm: Check for __ELF__ instead of !__APPLE__, for using .arch/.fpu

For windows, when building with armasm, we already filtered these out
with gas-preprocessor.

By filtering them out already in the source, we can also build directly
with clang for windows (which also require wrapping the assembler in
gas-preprocessor for converting instructions to thumb form, but
gas-preprocessor doesn't and shouldn't filter out them in the clang
configuration).

aarch64: Don't .set a symbol named st2

This confuses gas-preprocessor, which tries to replace actual
st2 instructions by the integer 1 or 2.

Shrink the i4x4_mode cost_table array

Only 17 elements are actually used. It was originally padded to 64 bytes to
avoid cache line splits in the x86 assembly, but those haven't really been
an issue on x86 CPU:s made in the past decade or so.

Benchmarking shows no performance impact from dropping the padding, so
might as well remove it and save some cache.

x86: Remove some legacy CPU detection hacks

Some ancient Pentium-M and Core 1 CPU:s had slow SSE units, and using MMX
was preferable. Nowadays many assembly functions in x264 completely lack MMX
implementations and falling back to C code will likely make things worse.

Some misconfigured virtualized systems could sometimes also trigger this code
path and cause assertions.

lavf: Upgrade to the new core decoding API

lavf: Upgrade to some newer API:s

 * Use the codec parameters API instead of the AVStream codec field.
 * Use av_packet_unref() instead of av_free_packet().
 * Use the AVFrame pts field instead of pkt_pts.

x86: AVX-512 load_deinterleave_chroma_fdec

x86: AVX-512 load_deinterleave_chroma_fenc

x86: AVX-512 mbtree_fix8_pack and mbtree_fix8_unpack

Takes advantage of opmasks to avoid having to use scalar code for the tail.

Also make some slight improvements to the checkasm test.

x86: Faster mbtree_fix8_unpack

Use a different multiplier in order to eliminate some shifts.

About 25% faster than before.

Don't force fast-intra for subme < 3

It have caused significant quality hit without any meaningful (if any) speed up.

Make ref and i4x4_mode costs global instead of static

Fixes some thread safety doubts and makes code cleaner.
Downside: slightly higher memory usage when calling multiple encoders from the same application.

Fix thread safety of x264_threading_init() and use of X264_PTHREAD_MUTEX_INITIALIZER with win32thread

configure: Improvements

Log result of pkg-config checks to config.log.
Fix lavf support detection for pkg-config fallback case.
Fix detection of linking dependencies errors for lavf/lsmash/gpac.
Cosmetics.

flv: Fix one frame video total duration

flv: Split FrameType and CodecID values

Support writing the alternative transfer SEI message

Support 04/2017 color matrix and transfer values

Unify 8-bit and 10-bit CLI and libraries

Add 'i_bitdepth' to x264_param_t with the corresponding '--output-depth' CLI
option to set the bit depth at runtime.

Drop the 'x264_bit_depth' global variable. Rather than hardcoding it to an
incorrect value, it's preferable to induce a linking failure. If applications
relies on this symbol this will make it more obvious where the problem is.

Add Makefile rules that compiles modules with different bit depths. Assembly
on x86 is prefixed with the 'private_prefix' define, while all other archs
modify their function prefix internally.

Templatize the main C library, x86/x86_64 assembly, ARM assembly, AARCH64
assembly, PowerPC assembly, and MIPS assembly.

The depth and cache CLI filters heavily depend on bit depth size, so they
need to be duplicated for each value. This means having to rename these
filters, and adjust the callers to use the right version.

Unfortunately the threaded input CLI module inherits a common.h dependency
(input/frame -> common/threadpool -> common/frame -> common/common) which
is extremely complicated to address in a sensible way. Instead duplicate
the module and select the appropriate one at run time.

Each bitdepth needs different checkasm compilation rules, so split the main
checkasm target into two executables.

Change default QP parameters initialization

qp is modified to require a valid value before use, while qp_max is set
to maximum allowable value (and clipped later on).

This is needed so that param functions do not depend on bit depth size.

aarch64: Set the function symbol prefix in a single location

arm: Set the function symbol prefix in a single location

Drop the x264 prefix from static functions and variables

configure: Check for strtok_r compiler support

cabac: Make the cabac_contexts array static

Also drop the x264 prefix from all static cabac arrays.

x86: AVX-512 pixel_satd_x3 and pixel_satd_x4

x86: Shrink the x86-64 cabac coeff_last tables

Use dword instead of qword entries. Cuts the size of the tables in half
which allows each table fit inside a single cache line.

When PIC is disabled dwords are enough to store absolute addresses.

When PIC is enabled we can store dword offsets relative to the start of
the table and simply add the address of the table to the offset in order
to calculate the full address. This approach also have the advantage of
eliminating a whole bunch of run-time .data relocations.

x86inc: Support creating global symbols from local labels

On ELF platforms such symbols needs to be flagged as functions with the
correct visibility to please certain linkers in some scenarios.