Fix undefined behavior: index out of bounds (one more)

last_non_b_pict_type is initialized to -1.
Bug report by Vitaly Buka.

Remove use of non-breaking spaces

Fix file encoding from Windows-1252 to UTF-8

Fix warning: comparison of integers of different signs [-Wsign-compare]

Fix error "invalid size of malloc" for 10-bit encodes at i686

Fix undefined behavior: shift exponent is negative

Fix undefined behavior: access within misaligned address

Fix undefined behavior: applying [non-]zero offset to null pointer

Fix undefined behavior: index out of bounds

Fix undefined behavior: division by zero

CI: Fix vlc-contrib URL for windows targets

Bump dates to 2020

Check support for force_align_arg_pointer attribute

Closes videolan/x264#9.

Fix float division by zero when encoding CRF+VBV

Bug report by Sam Panzer.

Limit maximum supported resolution

And other resolution dependent buffers checks.
Closes videolan/x264#10.

aarch64: Use HAVE_NEON define during CPU detection

aarch64: Fix compilation with disabled asm

Export symbols only when building shared library

Fix compilation of fprofiled shared build

Remove CRT objects use between DLL boundaries

Fix crash of MSVC builds compiled with --system-libx264 and /MT (default) CRT.

Fix MSVS build with ./configure --enable-shared --system-libx264

Mark explicitly DSO public API symbols and hide all other by -fvisibility=hidden

Removes need for -Bsymbolic during linking.

x86: Perform stack realignment in C instead of assembly

Simplifies a lot of code and avoids having to export public asm functions.

Note that the force_align_arg_pointer function attribute is broken in clang
versions prior to 6.0.1 which may result in crashes, so make sure to either
use a newer clang version or a different compiler.

Strip git-hash from version in x264.pc

pkg-config doesn't like spaces in version string.

Revert r2959: Signal Progressive and Constrained profiles

Some hardware decoders reject to decode streams with non-zero
constraint_set4_flag/constraint_set5_flag.

Fix x264_picture_alloc with X264_CSP_I400 colorspace

Shut up UBSan about uninitialized data read

Result was never used in that case.

Fix integer overflow detected by UBSan in --weightp analysis

Bug report by Xuezhi Yan.

checkasm: Fix heap-buffer-overflow read detected by ASan

Fix heap-buffer-overflow read detected by ASan with interlaced encoding

Bug report by Hongxu Chen.

CI: Bump macos target to darwin18

CI: Use a newer aarch64 image

It now includes pkg-config, so lavf can be detected.

Added gitlab CI

Supported targets:
 - debian amd64
 - debian aarch64
 - windows 32 bit
 - windows 64 bit
 - macos 64bit

The tests are ran on all supported targets (via wine on windows).

The release jobs are only available on master/stable branches in
videolan/x264 repository, and must be ran manually when a developer
wishes to upload the artifacts.

Fix warning in autocomplete.c when compiled with lavf

Remove compatibility workarounds

This will break decoding with older versions of FFmpeg/Libav.

Remove h->rc dereferencing where possible

x86inc: Add support for GFNI instructions

x86inc: Improve warnings for use of unsupported instructions

Warn when the following are used without the appropriate cpuflag:
 * YMM and ZMM registers
 * 'pextrw' with a memory operand
 * GPR instruction set extensions

x86inc: Support N_PEXT bit on Mach-O

Allows for marking symbols as having limited global scope, similar to
using 'hidden' symbol visibility on ELF.

x86inc: Make 'non-adjacent' default in the TAIL_CALL macro

x86inc: Add x86-32 PIC support macros

x86inc: Turn 'movsxd' into 'movifnidn' on x86-32

Bump dates to 2019

cli: Bash autocomplete support

Allows for automatic command line completion for both options and values.

Options such as --input-csp and --input-fmt will dynamically retrieve
supported values from libavformat when compiled with lavf support.

Execute 'source tools/bash-autocomplete.sh' in bash to enable.

Signal Progressive and Constrained profiles

Progressive High, Constrained High, and Progressive High 10.

Even in Main profile, constraint_set4_flag is now set to 1 if progressive,
and constraint_set5_flag is set to 1 if no B-slices are present.

ppc: Use xxpermdi in sad_x3/x4 and use macros to avoid redundant code

ppc: Use the vec_xst_len for partial stores in mc

Around a ~1% speedup to the overall encoding for --slow.

ppc: Use vec_splats in mc

No overall speedup, just tidier code.

ppc: Use the vec_xst_len for partial stores

Seems to give about a 1-2% overall speedup on --slow.

ppc: Use xxpermdi in VEC_STORE8

Around a ~2% speedup to the overall encoding for --slow.

ppc: Use a single store to write the scores for sad_x4_8x8

Yet another use of xxpermdi, another 10% gain.

ppc: Use xxpermdi to halve the computation in sad_x4_8x8

About 20% faster.

ppc: Rework satd_4* likewise

Now 4x4 is as slow as C and 4x8 is a 2% faster than before.

ppc: Factor out the sum of absolute

And use it on the other satd > 8.

5-10% faster depending on the size.

ppc: Rework the adds in satd8x8

10% faster.

ppc: Add quant_4x4x4

4x faster than C.

ppc: Cleanup quant

x86: Always use PIC in x86-64 asm

Most x86-64 operating systems nowadays doesn't even allow .text relocations
in object files any more, and there is no measurable overall performance
difference from using RIP-relative addressing in x264 asm.

Enforcing PIC reduces complexity and simplifies testing.

x86: Fix integer overflow in intra_sa8d_x3_8x8_sse2

Check that mbtree settings are consistent between passes

Also check that CQP mode is not used with 2-pass.

Mark frame_size_estimated as volatile

Ensures that access is atomic and that other threads sees the actual
value of the variable.

Fix data race detected by ThreadSanitizer

Bug report by Daniel Deptford.

Fix XAVC with sliced-threads

Fix XAVC slice pattern

Eliminate the use of strtok()

Also fix the string parsing in param_apply_tune() to correctly compare
the entire string, not just the first N characters.

configure: Fix log2f misdetection on some systems

Bug report by Dirk Fieldhouse.

Fix ultrafast preset speed regression

--trellis 0 was missed for it during 8-bit and 10-bit unification.
Bug report by Aleksey Vasenev.

Fix --crop-rect top offset with --interlaced or --fake-interlaced

Bug report by Koby Shina.

Fix possible double transpose of custom CQM if --level is not set

Bug reported by Nicolas Gaullier

cli: Fix linking with --system-libx264 on x86

Fix CAVLC+RDO in 4:4:4

ppc: Optimize quant functions

1) using xxpermdi + merge instead of 2 merges improves quant_8x8
performance by 5%

2) use vec_splats instead of vec_splat

checkasm timings when compiled with gcc:
                  C:            AltiVec:
                                before: after:
quant_2x2_dc:      57            163      46
quant_4x4_dc:     141            162      57

dequant_4x4_cmp:  104            101      45
dequant_4x4_flat: 104            106      46
dequant_8x8_cmp:  412            208     147
dequant_8x8_flat: 414            212     149

ppc: Add support for Power9-only vec_absd

Increases overall encoding speed on POWER9 by 8%.

ppc: Optimize sub8x8_dct_dc

ppc: AltiVec add16x16_idct_dc

ppc: Optimize add8x8_idct_dc

ppc: Add compatibility macros for vec_xxpermdi

Prefer a monotonic clock source if available

Add Sony XAVC, a flavour of AVC-Intra

Cosmetics: Fix indentation for multiline function prototypes

It was broken in "Drop the x264 prefix" patch.

Cosmetics: Use consistent "inline" attribute position

Place it immediately after "static".

x86: AVX-512 plane_copy and plane_copy_swap

Avoid the scalar C wrapper by utilizing opmasks to prevent overreading the
input buffer.

4:0:0 (monochrome) encoding support

Virtually zero increase in compression efficiency compared to 4:2:0 with empty
chroma planes. Performance is better though, especially with fast settings.

Makefile improvements

 * Coalesce some install recipe lines

 * Remove empty addition of GPLed filters

 * Install libdir in recipes that directly require it

 * Coalesce etags/TAGS rules

 * Simplify fprofiled rule

x86inc: Improve SAVE/LOAD_MM_PERMUTATION macros

Use register numbers instead of copying the full register names. This makes it
possible to change register widths in the middle of a function and keep the
mmreg permutations intact which can be useful for code that only needs larger
vectors for parts of the function in combination with macros etc.

Also change the LOAD_MM_PERMUTATION macro to use the same default name as the
SAVE macro. This simplifies swapping from ymm to xmm registers or vice versa:

    SAVE_MM_PERMUTATION
    INIT_XMM <cpuflags>
    LOAD_MM_PERMUTATION

x86inc: Optimize VEX instruction encoding

Most VEX-encoded instructions require an additional byte to encode when src2
is a high register (e.g. x|ymm8..15). If the instruction is commutative we
can swap src1 and src2 when doing so reduces the instruction length, e.g.

    vpaddw xmm0, xmm0, xmm8 -> vpaddw xmm0, xmm8, xmm0

x86inc: Fix VEX -> EVEX instruction conversion

There's an edge case that wasn't properly handled.

configure: Fix required version checks for lavf and swscale

Fix float division by zero in weightp analysis

Fix undefined behavior of left shift for CAVLC encoding

Fix integer overflow in slicetype_path_cost

The path cost for high resolutions can exceed COST_MAX.

cli: Fix preset help listing

It was previously incorrect when --chroma-format or --bit-depth was
specified in configure.

ppc: Fix zigzag_interleave

The permv array has 3 elements

Fix clang stack alignment issues

Clang emits aligned AVX stores for things like zeroing stack-allocated
variables when using -mavx even with -fno-tree-vectorize set which can
result in crashes if this occurs before we've realigned the stack.

Previously we only ensured that the stack was realigned before calling
assembly functions that accesses stack-allocated buffers but this is
not sufficient. Fix the issue by changing the stack realignment to
instead occur immediately in all CLI, API and thread entry points.

Fix missing bs_flush in AUD writing

Fix possible undefined behavior of right shift

32-bit shifts are only defined for values in the range 0-31.

Make bs_align_10 imply bs_flush

Now behaves the same as bs_align_0 and bs_align_1.

Fix theoretically incorrect cost_mv_fpel free

configure: Fix ambiguous "$(("

Fix --qpmax default value in fullhelp