10l in vbv + 2pass

git-svn-id: svn://svn.videolan.org/x264/trunk@465 df754926-b1dd-0310-bc7b-ec298dee348c

macroblock-level ratecontrol: improved vbv strictness, and improved quality when using vbv.

git-svn-id: svn://svn.videolan.org/x264/trunk@464 df754926-b1dd-0310-bc7b-ec298dee348c

keep transposed dct coefs. ~1% overall speedup.

git-svn-id: svn://svn.videolan.org/x264/trunk@463 df754926-b1dd-0310-bc7b-ec298dee348c

tweak rounding of 8x8dct

git-svn-id: svn://svn.videolan.org/x264/trunk@462 df754926-b1dd-0310-bc7b-ec298dee348c

cosmetics in makefile

git-svn-id: svn://svn.videolan.org/x264/trunk@461 df754926-b1dd-0310-bc7b-ec298dee348c

cosmetics: muxers -> muxers.c

git-svn-id: svn://svn.videolan.org/x264/trunk@460 df754926-b1dd-0310-bc7b-ec298dee348c

no --nr in intra blocks. intra prediction doesn't work well enough for the residual to be indicative of noise.

git-svn-id: svn://svn.videolan.org/x264/trunk@459 df754926-b1dd-0310-bc7b-ec298dee348c

10l in direct auto + multiref + 1pass

git-svn-id: svn://svn.videolan.org/x264/trunk@458 df754926-b1dd-0310-bc7b-ec298dee348c

--direct auto
selects direct mode per frame. works best in 2pass (enable in both passes).

git-svn-id: svn://svn.videolan.org/x264/trunk@457 df754926-b1dd-0310-bc7b-ec298dee348c

change default direct mode to spatial

git-svn-id: svn://svn.videolan.org/x264/trunk@456 df754926-b1dd-0310-bc7b-ec298dee348c

remove TODO. most of it is done, and the rest is out of date.

git-svn-id: svn://svn.videolan.org/x264/trunk@455 df754926-b1dd-0310-bc7b-ec298dee348c

more amd64 mmx intra prediction

git-svn-id: svn://svn.videolan.org/x264/trunk@454 df754926-b1dd-0310-bc7b-ec298dee348c

for i8x8 neighbors, don't assume a new slice starts at the edge of the frame

git-svn-id: svn://svn.videolan.org/x264/trunk@453 df754926-b1dd-0310-bc7b-ec298dee348c

  * common/i386/i386inc.asm: got PIC to work for real on OS X x86.

git-svn-id: svn://svn.videolan.org/x264/trunk@452 df754926-b1dd-0310-bc7b-ec298dee348c

  * common/i386/*.asm: don't use the "GLOBAL" reserved word, some versions
    NASM complain about it. Replaced it with "GOT_ebx".

git-svn-id: svn://svn.videolan.org/x264/trunk@451 df754926-b1dd-0310-bc7b-ec298dee348c

  * configure: activate minor nasm optimisations, such as assembling
    "add eax, 8" as "add eax, byte 8".

git-svn-id: svn://svn.videolan.org/x264/trunk@450 df754926-b1dd-0310-bc7b-ec298dee348c

  * common/i386: factored the .rodata section declaration into i386inc.asm.

git-svn-id: svn://svn.videolan.org/x264/trunk@449 df754926-b1dd-0310-bc7b-ec298dee348c

  * configure common/i386/i386inc.asm: got rid of -DFORMAT_* nasm flags
    and use built-in preprocessor tests instead.

git-svn-id: svn://svn.videolan.org/x264/trunk@448 df754926-b1dd-0310-bc7b-ec298dee348c

  * common/i386/i386inc.asm: tell the ELF linker about our stack properties
    so that it does not assume the stack has to be executable.

git-svn-id: svn://svn.videolan.org/x264/trunk@447 df754926-b1dd-0310-bc7b-ec298dee348c

10l in r443 (p4x4 chroma)

git-svn-id: svn://svn.videolan.org/x264/trunk@446 df754926-b1dd-0310-bc7b-ec298dee348c

copy current macroblock to a smaller buffer, to improve cache coherency and reduce stride computations.
part 3: asm

git-svn-id: svn://svn.videolan.org/x264/trunk@445 df754926-b1dd-0310-bc7b-ec298dee348c

copy current macroblock to a smaller buffer, to improve cache coherency and reduce stride computations.
part 2: intra prediction

git-svn-id: svn://svn.videolan.org/x264/trunk@444 df754926-b1dd-0310-bc7b-ec298dee348c

copy current macroblock to a smaller buffer, to improve cache coherency and reduce stride computations.
part 1: memory arrangement.

git-svn-id: svn://svn.videolan.org/x264/trunk@443 df754926-b1dd-0310-bc7b-ec298dee348c

h->mc.copy()

git-svn-id: svn://svn.videolan.org/x264/trunk@442 df754926-b1dd-0310-bc7b-ec298dee348c

lowres intra used wrong neighboring pixels

git-svn-id: svn://svn.videolan.org/x264/trunk@441 df754926-b1dd-0310-bc7b-ec298dee348c

trellis=2 slightly affected intra analysis even without subme=6

git-svn-id: svn://svn.videolan.org/x264/trunk@440 df754926-b1dd-0310-bc7b-ec298dee348c

  * encoder/ratecontrol.c: OS X support for exp2f and sqrtf.

git-svn-id: svn://svn.videolan.org/x264/trunk@439 df754926-b1dd-0310-bc7b-ec298dee348c

allow delta_qp > 26

git-svn-id: svn://svn.videolan.org/x264/trunk@438 df754926-b1dd-0310-bc7b-ec298dee348c

ratecontrol didn't always account for header bits, causing an undersize in multipass with --ratetol inf.

git-svn-id: svn://svn.videolan.org/x264/trunk@437 df754926-b1dd-0310-bc7b-ec298dee348c

-q0 --b-rdo wasn't lossless

git-svn-id: svn://svn.videolan.org/x264/trunk@436 df754926-b1dd-0310-bc7b-ec298dee348c

cosmetics

git-svn-id: svn://svn.videolan.org/x264/trunk@435 df754926-b1dd-0310-bc7b-ec298dee348c

allow ',' separator for --filter

git-svn-id: svn://svn.videolan.org/x264/trunk@434 df754926-b1dd-0310-bc7b-ec298dee348c

VfW: 10l in bime and refs

git-svn-id: svn://svn.videolan.org/x264/trunk@433 df754926-b1dd-0310-bc7b-ec298dee348c

more lowres mv clipping fixes

git-svn-id: svn://svn.videolan.org/x264/trunk@432 df754926-b1dd-0310-bc7b-ec298dee348c

VfW: cosmetics

git-svn-id: svn://svn.videolan.org/x264/trunk@431 df754926-b1dd-0310-bc7b-ec298dee348c

VfW: support trellis, brdo, nr, bime.
patch by Dan Nelson (dnelson at allantgroup dot com).

git-svn-id: svn://svn.videolan.org/x264/trunk@430 df754926-b1dd-0310-bc7b-ec298dee348c

amd64 mmx for some intra pred functions

git-svn-id: svn://svn.videolan.org/x264/trunk@429 df754926-b1dd-0310-bc7b-ec298dee348c

dequant_mmx made incorrect assumptions about extreme inputs. now uses 32bit in more cases.
patch by Christian Heine.

git-svn-id: svn://svn.videolan.org/x264/trunk@428 df754926-b1dd-0310-bc7b-ec298dee348c

lowres can reuse the normal mv cost table

git-svn-id: svn://svn.videolan.org/x264/trunk@427 df754926-b1dd-0310-bc7b-ec298dee348c

r422 broke x264_center_filter_mmxext

git-svn-id: svn://svn.videolan.org/x264/trunk@426 df754926-b1dd-0310-bc7b-ec298dee348c

  * configure: define FORMAT_ELF under Linux and FORMAT_AOUTB under *BSD.

git-svn-id: svn://svn.videolan.org/x264/trunk@425 df754926-b1dd-0310-bc7b-ec298dee348c

  * common/i386/i386inc.asm: support for ELF, a.out and Mach-O objects.

git-svn-id: svn://svn.videolan.org/x264/trunk@424 df754926-b1dd-0310-bc7b-ec298dee348c

  * configure: added a --enable-pic flag.

git-svn-id: svn://svn.videolan.org/x264/trunk@423 df754926-b1dd-0310-bc7b-ec298dee348c

  * Additional fixes to the PIC versions of assembly routines. They now pass
    all checkasm tests and output streams are bit-by-bit identical, which
    sounds good.

git-svn-id: svn://svn.videolan.org/x264/trunk@422 df754926-b1dd-0310-bc7b-ec298dee348c

  * tools/checkasm.c: print the random seed used for the test, to allow for
    replays. It looks like dequant_4x4 fails 1 time out of 600, with the
    following seeds for instance: 1423 1957 2149 2455 3385 3403 3724 4095.

git-svn-id: svn://svn.videolan.org/x264/trunk@421 df754926-b1dd-0310-bc7b-ec298dee348c

cosmetics in mc_chroma

git-svn-id: svn://svn.videolan.org/x264/trunk@420 df754926-b1dd-0310-bc7b-ec298dee348c

  * Oh, so what I thought was unused code was in fact used. This fixes my
    breakage but makes the code rather slow in PIC mode. I will fix it later.

git-svn-id: svn://svn.videolan.org/x264/trunk@419 df754926-b1dd-0310-bc7b-ec298dee348c

  * Support for x86 position-independent code (PIC), needed for dynamic libs
    on Mac OS X Intel. I tried to make this as little intrusive as possible.

git-svn-id: svn://svn.videolan.org/x264/trunk@418 df754926-b1dd-0310-bc7b-ec298dee348c

msvc: #define isfinite()

git-svn-id: svn://svn.videolan.org/x264/trunk@417 df754926-b1dd-0310-bc7b-ec298dee348c

x86 mmx for some intra pred functions

git-svn-id: svn://svn.videolan.org/x264/trunk@416 df754926-b1dd-0310-bc7b-ec298dee348c

cosmetics: reorganize intra prediction dsp

git-svn-id: svn://svn.videolan.org/x264/trunk@415 df754926-b1dd-0310-bc7b-ec298dee348c

too many systems don't have off_t; use uint64_t instead.

git-svn-id: svn://svn.videolan.org/x264/trunk@414 df754926-b1dd-0310-bc7b-ec298dee348c

fix order of frame evaluation in pre-me

git-svn-id: svn://svn.videolan.org/x264/trunk@413 df754926-b1dd-0310-bc7b-ec298dee348c

update AUTHORS

git-svn-id: svn://svn.videolan.org/x264/trunk@412 df754926-b1dd-0310-bc7b-ec298dee348c

fix a check for NaN in ratecontrol

git-svn-id: svn://svn.videolan.org/x264/trunk@411 df754926-b1dd-0310-bc7b-ec298dee348c

fix mv predictors in pre-me for b-adapt.

git-svn-id: svn://svn.videolan.org/x264/trunk@410 df754926-b1dd-0310-bc7b-ec298dee348c

print --nr in sei params. tweak ratecontrol param checking.

git-svn-id: svn://svn.videolan.org/x264/trunk@409 df754926-b1dd-0310-bc7b-ec298dee348c

I've moved

git-svn-id: svn://svn.videolan.org/x264/trunk@408 df754926-b1dd-0310-bc7b-ec298dee348c

write correct VUI timing info

git-svn-id: svn://svn.videolan.org/x264/trunk@407 df754926-b1dd-0310-bc7b-ec298dee348c

early termination in UMH search

git-svn-id: svn://svn.videolan.org/x264/trunk@406 df754926-b1dd-0310-bc7b-ec298dee348c

split mv_range enforcement from edge-of-frame clipping. fixes an occasional artifact with long mvs.

git-svn-id: svn://svn.videolan.org/x264/trunk@405 df754926-b1dd-0310-bc7b-ec298dee348c

cosmetics: suppress warning on unused variables

git-svn-id: svn://svn.videolan.org/x264/trunk@404 df754926-b1dd-0310-bc7b-ec298dee348c

cosmetics: simplify #includes

git-svn-id: svn://svn.videolan.org/x264/trunk@403 df754926-b1dd-0310-bc7b-ec298dee348c

  * configure: NSLU2 platform support (why oh why)

git-svn-id: svn://svn.videolan.org/x264/trunk@402 df754926-b1dd-0310-bc7b-ec298dee348c

 Re-enabled x86 optims on MacIntel, assume Nasm CVS is installed and
  -f macho -DPREFIX just seems to do the job

git-svn-id: svn://svn.videolan.org/x264/trunk@401 df754926-b1dd-0310-bc7b-ec298dee348c

 Quick compile fix for OS X / Intel
 Optimizations are disabled at the moment. In order to get them to
 work, we'd need either nasm to be able to output Mach-O object files,
 or we should convert the assembly code to something OS X can handle,
 like gas.

git-svn-id: svn://svn.videolan.org/x264/trunk@400 df754926-b1dd-0310-bc7b-ec298dee348c

cli: large file support

git-svn-id: svn://svn.videolan.org/x264/trunk@399 df754926-b1dd-0310-bc7b-ec298dee348c

dct-domain noise reduction (ported from lavc)

git-svn-id: svn://svn.videolan.org/x264/trunk@398 df754926-b1dd-0310-bc7b-ec298dee348c

early termination within large SADs. ~1% faster UMH, ~4% faster ESA.

git-svn-id: svn://svn.videolan.org/x264/trunk@397 df754926-b1dd-0310-bc7b-ec298dee348c

mkv: increase nalu size size to 4 bytes.
patch by Haali.

git-svn-id: svn://svn.videolan.org/x264/trunk@396 df754926-b1dd-0310-bc7b-ec298dee348c

less 64bit math: 12% faster trellis

git-svn-id: svn://svn.videolan.org/x264/trunk@395 df754926-b1dd-0310-bc7b-ec298dee348c

more error checking of input parameters

git-svn-id: svn://svn.videolan.org/x264/trunk@394 df754926-b1dd-0310-bc7b-ec298dee348c

always write sps.vui

git-svn-id: svn://svn.videolan.org/x264/trunk@393 df754926-b1dd-0310-bc7b-ec298dee348c

use some extra packing modes for CQM headers.
fix typo in --cqm4p[yc].

git-svn-id: svn://svn.videolan.org/x264/trunk@392 df754926-b1dd-0310-bc7b-ec298dee348c

MSVC compatibility fixes

git-svn-id: svn://svn.videolan.org/x264/trunk@391 df754926-b1dd-0310-bc7b-ec298dee348c

joint bidirectional motion refinement (--bime)

git-svn-id: svn://svn.videolan.org/x264/trunk@390 df754926-b1dd-0310-bc7b-ec298dee348c

fix some overflows in mp4 timestamps.
patch by Francesco Corriga.

git-svn-id: svn://svn.videolan.org/x264/trunk@389 df754926-b1dd-0310-bc7b-ec298dee348c

Successive elimination motion search: same as exhaustive search, but 2-3x faster.

git-svn-id: svn://svn.videolan.org/x264/trunk@388 df754926-b1dd-0310-bc7b-ec298dee348c

 Fixed cc_check on OS X (gcc -o /dev/null always fails)

git-svn-id: svn://svn.videolan.org/x264/trunk@387 df754926-b1dd-0310-bc7b-ec298dee348c

postpone pskip decision until after p16x16ref0 motion search.
reduces the number of erroneous pskips in low-detail regions.

git-svn-id: svn://svn.videolan.org/x264/trunk@386 df754926-b1dd-0310-bc7b-ec298dee348c

configure: autodetect gpac, avis, pthread, vfw

git-svn-id: svn://svn.videolan.org/x264/trunk@385 df754926-b1dd-0310-bc7b-ec298dee348c

--no-fast-pskip
patch by Alex Wright.

git-svn-id: svn://svn.videolan.org/x264/trunk@384 df754926-b1dd-0310-bc7b-ec298dee348c

cosmetics: config.h is now modified only by configure. make now calls configure if you haven't.

git-svn-id: svn://svn.videolan.org/x264/trunk@383 df754926-b1dd-0310-bc7b-ec298dee348c

MP4: set "track enabled" flag.
patch by Robert Swain.

git-svn-id: svn://svn.videolan.org/x264/trunk@382 df754926-b1dd-0310-bc7b-ec298dee348c

faster subpel motion search.
patch by Alex Wright.

git-svn-id: svn://svn.videolan.org/x264/trunk@381 df754926-b1dd-0310-bc7b-ec298dee348c

don't use gnu extensions to grep and sed.

git-svn-id: svn://svn.videolan.org/x264/trunk@380 df754926-b1dd-0310-bc7b-ec298dee348c

pkg-config: major.minor.patch version

git-svn-id: svn://svn.videolan.org/x264/trunk@379 df754926-b1dd-0310-bc7b-ec298dee348c

`make fprofiled` to automate gcc -fprofile-generate/use

git-svn-id: svn://svn.videolan.org/x264/trunk@378 df754926-b1dd-0310-bc7b-ec298dee348c

10l

git-svn-id: svn://svn.videolan.org/x264/trunk@377 df754926-b1dd-0310-bc7b-ec298dee348c

param.b_repeat_headers (not yet used)

git-svn-id: svn://svn.videolan.org/x264/trunk@376 df754926-b1dd-0310-bc7b-ec298dee348c

support pkg-config.
patch by Caro.

git-svn-id: svn://svn.videolan.org/x264/trunk@375 df754926-b1dd-0310-bc7b-ec298dee348c

write encoding options to the userdata SEI and to the 2pass statsfile.
check for incompatible options in the 2nd pass.

git-svn-id: svn://svn.videolan.org/x264/trunk@374 df754926-b1dd-0310-bc7b-ec298dee348c

change default level to "5.1"

git-svn-id: svn://svn.videolan.org/x264/trunk@373 df754926-b1dd-0310-bc7b-ec298dee348c

skip dequant+idct of decimated blocks.

git-svn-id: svn://svn.videolan.org/x264/trunk@372 df754926-b1dd-0310-bc7b-ec298dee348c

after a 1pass ABR, print the value of --crf which would result in the same bitrate.

git-svn-id: svn://svn.videolan.org/x264/trunk@371 df754926-b1dd-0310-bc7b-ec298dee348c

subpel search: always check mvp.

git-svn-id: svn://svn.videolan.org/x264/trunk@370 df754926-b1dd-0310-bc7b-ec298dee348c

faster b-rdo (skip RD of modes with bad SATD).
patch by Alex Wright.

git-svn-id: svn://svn.videolan.org/x264/trunk@369 df754926-b1dd-0310-bc7b-ec298dee348c

RD mode decision for B-frames (--b-rdo)
patch by Alex Wright.

git-svn-id: svn://svn.videolan.org/x264/trunk@368 df754926-b1dd-0310-bc7b-ec298dee348c

  * common/amd64/quant-a.asm: added missing GLOBAL flags that prevented PIC
    builds, thanks to Anssi Hannula.

git-svn-id: svn://svn.videolan.org/x264/trunk@367 df754926-b1dd-0310-bc7b-ec298dee348c

  * configure: added the Alpha platform.

git-svn-id: svn://svn.videolan.org/x264/trunk@366 df754926-b1dd-0310-bc7b-ec298dee348c