granicus.if.org Git - libvpx/blob - vpxenc.c

   1 /*
   2  *  Copyright (c) 2010 The WebM project authors. All Rights Reserved.
   3  *
   4  *  Use of this source code is governed by a BSD-style license
   5  *  that can be found in the LICENSE file in the root of the source
   6  *  tree. An additional intellectual property rights grant can be found
   7  *  in the file PATENTS.  All contributing project authors may
   8  *  be found in the AUTHORS file in the root of the source tree.
   9  */
  10
  11 #include "vpx_config.h"
  12
  13 #if defined(_WIN32) || defined(__OS2__) || !CONFIG_OS_SUPPORT
  14 #define USE_POSIX_MMAP 0
  15 #else
  16 #define USE_POSIX_MMAP 1
  17 #endif
  18
  19 #include <stdio.h>
  20 #include <stdlib.h>
  21 #include <stdarg.h>
  22 #include <string.h>
  23 #include <limits.h>
  24 #include <assert.h>
  25 #include "vpx/vpx_encoder.h"
  26 #if CONFIG_DECODERS
  27 #include "vpx/vpx_decoder.h"
  28 #endif
  29 #if USE_POSIX_MMAP
  30 #include <sys/types.h>
  31 #include <sys/stat.h>
  32 #include <sys/mman.h>
  33 #include <fcntl.h>
  34 #include <unistd.h>
  35 #endif
  36
  37 #if CONFIG_VP8_ENCODER || CONFIG_VP9_ENCODER
  38 #include "vpx/vp8cx.h"
  39 #endif
  40 #if CONFIG_VP8_DECODER || CONFIG_VP9_DECODER
  41 #include "vpx/vp8dx.h"
  42 #endif
  43
  44 #include "vpx_ports/mem_ops.h"
  45 #include "vpx_ports/vpx_timer.h"
  46 #include "tools_common.h"
  47 #include "y4minput.h"
  48 #include "libmkv/EbmlWriter.h"
  49 #include "libmkv/EbmlIDs.h"
  50 #include "third_party/libyuv/include/libyuv/scale.h"
  51
  52 /* Need special handling of these functions on Windows */
  53 #if defined(_MSC_VER)
  54 /* MSVS doesn't define off_t, and uses _f{seek,tell}i64 */
  55 typedef __int64 off_t;
  56 #define fseeko _fseeki64
  57 #define ftello _ftelli64
  58 #elif defined(_WIN32)
  59 /* MinGW defines off_t as long
  60    and uses f{seek,tell}o64/off64_t for large files */
  61 #define fseeko fseeko64
  62 #define ftello ftello64
  63 #define off_t off64_t
  64 #endif
  65
  66 #define LITERALU64(hi,lo) ((((uint64_t)hi)<<32)|lo)
  67
  68 /* We should use 32-bit file operations in WebM file format
  69  * when building ARM executable file (.axf) with RVCT */
  70 #if !CONFIG_OS_SUPPORT
  71 typedef long off_t;
  72 #define fseeko fseek
  73 #define ftello ftell
  74 #endif
  75
  76 /* Swallow warnings about unused results of fread/fwrite */
  77 static size_t wrap_fread(void *ptr, size_t size, size_t nmemb,
  78                          FILE *stream) {
  79   return fread(ptr, size, nmemb, stream);
  80 }
  81 #define fread wrap_fread
  82
  83 static size_t wrap_fwrite(const void *ptr, size_t size, size_t nmemb,
  84                           FILE *stream) {
  85   return fwrite(ptr, size, nmemb, stream);
  86 }
  87 #define fwrite wrap_fwrite
  88
  89
  90 static const char *exec_name;
  91
  92 #define VP8_FOURCC (0x30385056)
  93 #define VP9_FOURCC (0x30395056)
  94 static const struct codec_item {
  95   char const              *name;
  96   const vpx_codec_iface_t *(*iface)(void);
  97   const vpx_codec_iface_t *(*dx_iface)(void);
  98   unsigned int             fourcc;
  99 } codecs[] = {
 100 #if CONFIG_VP8_ENCODER && CONFIG_VP8_DECODER
 101   {"vp8", &vpx_codec_vp8_cx, &vpx_codec_vp8_dx, VP8_FOURCC},
 102 #elif CONFIG_VP8_ENCODER && !CONFIG_VP8_DECODER
 103   {"vp8", &vpx_codec_vp8_cx, NULL, VP8_FOURCC},
 104 #endif
 105 #if CONFIG_VP9_ENCODER && CONFIG_VP9_DECODER
 106   {"vp9", &vpx_codec_vp9_cx, &vpx_codec_vp9_dx, VP9_FOURCC},
 107 #elif CONFIG_VP9_ENCODER && !CONFIG_VP9_DECODER
 108   {"vp9", &vpx_codec_vp9_cx, NULL, VP9_FOURCC},
 109 #endif
 110 };
 111
 112 static void usage_exit();
 113
 114 #define LOG_ERROR(label) do \
 115   {\
 116     const char *l=label;\
 117     va_list ap;\
 118     va_start(ap, fmt);\
 119     if(l)\
 120       fprintf(stderr, "%s: ", l);\
 121     vfprintf(stderr, fmt, ap);\
 122     fprintf(stderr, "\n");\
 123     va_end(ap);\
 124   } while(0)
 125
 126 void die(const char *fmt, ...) {
 127   LOG_ERROR(NULL);
 128   usage_exit();
 129 }
 130
 131
 132 void fatal(const char *fmt, ...) {
 133   LOG_ERROR("Fatal");
 134   exit(EXIT_FAILURE);
 135 }
 136
 137
 138 void warn(const char *fmt, ...) {
 139   LOG_ERROR("Warning");
 140 }
 141
 142
 143 static void warn_or_exit_on_errorv(vpx_codec_ctx_t *ctx, int fatal,
 144                                    const char *s, va_list ap) {
 145   if (ctx->err) {
 146     const char *detail = vpx_codec_error_detail(ctx);
 147
 148     vfprintf(stderr, s, ap);
 149     fprintf(stderr, ": %s\n", vpx_codec_error(ctx));
 150
 151     if (detail)
 152       fprintf(stderr, "    %s\n", detail);
 153
 154     if (fatal)
 155       exit(EXIT_FAILURE);
 156   }
 157 }
 158
 159 static void ctx_exit_on_error(vpx_codec_ctx_t *ctx, const char *s, ...) {
 160   va_list ap;
 161
 162   va_start(ap, s);
 163   warn_or_exit_on_errorv(ctx, 1, s, ap);
 164   va_end(ap);
 165 }
 166
 167 static void warn_or_exit_on_error(vpx_codec_ctx_t *ctx, int fatal,
 168                                   const char *s, ...) {
 169   va_list ap;
 170
 171   va_start(ap, s);
 172   warn_or_exit_on_errorv(ctx, fatal, s, ap);
 173   va_end(ap);
 174 }
 175
 176 /* This structure is used to abstract the different ways of handling
 177  * first pass statistics.
 178  */
 179 typedef struct {
 180   vpx_fixed_buf_t buf;
 181   int             pass;
 182   FILE           *file;
 183   char           *buf_ptr;
 184   size_t          buf_alloc_sz;
 185 } stats_io_t;
 186
 187 int stats_open_file(stats_io_t *stats, const char *fpf, int pass) {
 188   int res;
 189
 190   stats->pass = pass;
 191
 192   if (pass == 0) {
 193     stats->file = fopen(fpf, "wb");
 194     stats->buf.sz = 0;
 195     stats->buf.buf = NULL,
 196                res = (stats->file != NULL);
 197   } else {
 198 #if 0
 199 #elif USE_POSIX_MMAP
 200     struct stat stat_buf;
 201     int fd;
 202
 203     fd = open(fpf, O_RDONLY);
 204     stats->file = fdopen(fd, "rb");
 205     fstat(fd, &stat_buf);
 206     stats->buf.sz = stat_buf.st_size;
 207     stats->buf.buf = mmap(NULL, stats->buf.sz, PROT_READ, MAP_PRIVATE,
 208                           fd, 0);
 209     res = (stats->buf.buf != NULL);
 210 #else
 211     size_t nbytes;
 212
 213     stats->file = fopen(fpf, "rb");
 214
 215     if (fseek(stats->file, 0, SEEK_END))
 216       fatal("First-pass stats file must be seekable!");
 217
 218     stats->buf.sz = stats->buf_alloc_sz = ftell(stats->file);
 219     rewind(stats->file);
 220
 221     stats->buf.buf = malloc(stats->buf_alloc_sz);
 222
 223     if (!stats->buf.buf)
 224       fatal("Failed to allocate first-pass stats buffer (%lu bytes)",
 225             (unsigned long)stats->buf_alloc_sz);
 226
 227     nbytes = fread(stats->buf.buf, 1, stats->buf.sz, stats->file);
 228     res = (nbytes == stats->buf.sz);
 229 #endif
 230   }
 231
 232   return res;
 233 }
 234
 235 int stats_open_mem(stats_io_t *stats, int pass) {
 236   int res;
 237   stats->pass = pass;
 238
 239   if (!pass) {
 240     stats->buf.sz = 0;
 241     stats->buf_alloc_sz = 64 * 1024;
 242     stats->buf.buf = malloc(stats->buf_alloc_sz);
 243   }
 244
 245   stats->buf_ptr = stats->buf.buf;
 246   res = (stats->buf.buf != NULL);
 247   return res;
 248 }
 249
 250
 251 void stats_close(stats_io_t *stats, int last_pass) {
 252   if (stats->file) {
 253     if (stats->pass == last_pass) {
 254 #if 0
 255 #elif USE_POSIX_MMAP
 256       munmap(stats->buf.buf, stats->buf.sz);
 257 #else
 258       free(stats->buf.buf);
 259 #endif
 260     }
 261
 262     fclose(stats->file);
 263     stats->file = NULL;
 264   } else {
 265     if (stats->pass == last_pass)
 266       free(stats->buf.buf);
 267   }
 268 }
 269
 270 void stats_write(stats_io_t *stats, const void *pkt, size_t len) {
 271   if (stats->file) {
 272     (void) fwrite(pkt, 1, len, stats->file);
 273   } else {
 274     if (stats->buf.sz + len > stats->buf_alloc_sz) {
 275       size_t  new_sz = stats->buf_alloc_sz + 64 * 1024;
 276       char   *new_ptr = realloc(stats->buf.buf, new_sz);
 277
 278       if (new_ptr) {
 279         stats->buf_ptr = new_ptr + (stats->buf_ptr - (char *)stats->buf.buf);
 280         stats->buf.buf = new_ptr;
 281         stats->buf_alloc_sz = new_sz;
 282       } else
 283         fatal("Failed to realloc firstpass stats buffer.");
 284     }
 285
 286     memcpy(stats->buf_ptr, pkt, len);
 287     stats->buf.sz += len;
 288     stats->buf_ptr += len;
 289   }
 290 }
 291
 292 vpx_fixed_buf_t stats_get(stats_io_t *stats) {
 293   return stats->buf;
 294 }
 295
 296 /* Stereo 3D packed frame format */
 297 typedef enum stereo_format {
 298   STEREO_FORMAT_MONO       = 0,
 299   STEREO_FORMAT_LEFT_RIGHT = 1,
 300   STEREO_FORMAT_BOTTOM_TOP = 2,
 301   STEREO_FORMAT_TOP_BOTTOM = 3,
 302   STEREO_FORMAT_RIGHT_LEFT = 11
 303 } stereo_format_t;
 304
 305 enum video_file_type {
 306   FILE_TYPE_RAW,
 307   FILE_TYPE_IVF,
 308   FILE_TYPE_Y4M
 309 };
 310
 311 struct detect_buffer {
 312   char buf[4];
 313   size_t buf_read;
 314   size_t position;
 315 };
 316
 317
 318 struct input_state {
 319   char                 *fn;
 320   FILE                 *file;
 321   off_t                 length;
 322   y4m_input             y4m;
 323   struct detect_buffer  detect;
 324   enum video_file_type  file_type;
 325   unsigned int          w;
 326   unsigned int          h;
 327   struct vpx_rational   framerate;
 328   int                   use_i420;
 329   int                   only_i420;
 330 };
 331
 332
 333 #define IVF_FRAME_HDR_SZ (4+8) /* 4 byte size + 8 byte timestamp */
 334 static int read_frame(struct input_state *input, vpx_image_t *img) {
 335   FILE *f = input->file;
 336   enum video_file_type file_type = input->file_type;
 337   y4m_input *y4m = &input->y4m;
 338   struct detect_buffer *detect = &input->detect;
 339   int plane = 0;
 340   int shortread = 0;
 341
 342   if (file_type == FILE_TYPE_Y4M) {
 343     if (y4m_input_fetch_frame(y4m, f, img) < 1)
 344       return 0;
 345   } else {
 346     if (file_type == FILE_TYPE_IVF) {
 347       char junk[IVF_FRAME_HDR_SZ];
 348
 349       /* Skip the frame header. We know how big the frame should be. See
 350        * write_ivf_frame_header() for documentation on the frame header
 351        * layout.
 352        */
 353       (void) fread(junk, 1, IVF_FRAME_HDR_SZ, f);
 354     }
 355
 356     for (plane = 0; plane < 3; plane++) {
 357       unsigned char *ptr;
 358       int w = (plane ? (1 + img->d_w) / 2 : img->d_w);
 359       int h = (plane ? (1 + img->d_h) / 2 : img->d_h);
 360       int r;
 361
 362       /* Determine the correct plane based on the image format. The for-loop
 363        * always counts in Y,U,V order, but this may not match the order of
 364        * the data on disk.
 365        */
 366       switch (plane) {
 367         case 1:
 368           ptr = img->planes[img->fmt == VPX_IMG_FMT_YV12 ? VPX_PLANE_V : VPX_PLANE_U];
 369           break;
 370         case 2:
 371           ptr = img->planes[img->fmt == VPX_IMG_FMT_YV12 ? VPX_PLANE_U : VPX_PLANE_V];
 372           break;
 373         default:
 374           ptr = img->planes[plane];
 375       }
 376
 377       for (r = 0; r < h; r++) {
 378         size_t needed = w;
 379         size_t buf_position = 0;
 380         const size_t left = detect->buf_read - detect->position;
 381         if (left > 0) {
 382           const size_t more = (left < needed) ? left : needed;
 383           memcpy(ptr, detect->buf + detect->position, more);
 384           buf_position = more;
 385           needed -= more;
 386           detect->position += more;
 387         }
 388         if (needed > 0) {
 389           shortread |= (fread(ptr + buf_position, 1, needed, f) < needed);
 390         }
 391
 392         ptr += img->stride[plane];
 393       }
 394     }
 395   }
 396
 397   return !shortread;
 398 }
 399
 400
 401 unsigned int file_is_y4m(FILE      *infile,
 402                          y4m_input *y4m,
 403                          char       detect[4]) {
 404   if (memcmp(detect, "YUV4", 4) == 0) {
 405     return 1;
 406   }
 407   return 0;
 408 }
 409
 410 #define IVF_FILE_HDR_SZ (32)
 411 unsigned int file_is_ivf(struct input_state *input,
 412                          unsigned int *fourcc) {
 413   char raw_hdr[IVF_FILE_HDR_SZ];
 414   int is_ivf = 0;
 415   FILE *infile = input->file;
 416   unsigned int *width = &input->w;
 417   unsigned int *height = &input->h;
 418   struct detect_buffer *detect = &input->detect;
 419
 420   if (memcmp(detect->buf, "DKIF", 4) != 0)
 421     return 0;
 422
 423   /* See write_ivf_file_header() for more documentation on the file header
 424    * layout.
 425    */
 426   if (fread(raw_hdr + 4, 1, IVF_FILE_HDR_SZ - 4, infile)
 427       == IVF_FILE_HDR_SZ - 4) {
 428     {
 429       is_ivf = 1;
 430
 431       if (mem_get_le16(raw_hdr + 4) != 0)
 432         warn("Unrecognized IVF version! This file may not decode "
 433              "properly.");
 434
 435       *fourcc = mem_get_le32(raw_hdr + 8);
 436     }
 437   }
 438
 439   if (is_ivf) {
 440     *width = mem_get_le16(raw_hdr + 12);
 441     *height = mem_get_le16(raw_hdr + 14);
 442     detect->position = 4;
 443   }
 444
 445   return is_ivf;
 446 }
 447
 448
 449 static void write_ivf_file_header(FILE *outfile,
 450                                   const vpx_codec_enc_cfg_t *cfg,
 451                                   unsigned int fourcc,
 452                                   int frame_cnt) {
 453   char header[32];
 454
 455   if (cfg->g_pass != VPX_RC_ONE_PASS && cfg->g_pass != VPX_RC_LAST_PASS)
 456     return;
 457
 458   header[0] = 'D';
 459   header[1] = 'K';
 460   header[2] = 'I';
 461   header[3] = 'F';
 462   mem_put_le16(header + 4,  0);                 /* version */
 463   mem_put_le16(header + 6,  32);                /* headersize */
 464   mem_put_le32(header + 8,  fourcc);            /* headersize */
 465   mem_put_le16(header + 12, cfg->g_w);          /* width */
 466   mem_put_le16(header + 14, cfg->g_h);          /* height */
 467   mem_put_le32(header + 16, cfg->g_timebase.den); /* rate */
 468   mem_put_le32(header + 20, cfg->g_timebase.num); /* scale */
 469   mem_put_le32(header + 24, frame_cnt);         /* length */
 470   mem_put_le32(header + 28, 0);                 /* unused */
 471
 472   (void) fwrite(header, 1, 32, outfile);
 473 }
 474
 475
 476 static void write_ivf_frame_header(FILE *outfile,
 477                                    const vpx_codec_cx_pkt_t *pkt) {
 478   char             header[12];
 479   vpx_codec_pts_t  pts;
 480
 481   if (pkt->kind != VPX_CODEC_CX_FRAME_PKT)
 482     return;
 483
 484   pts = pkt->data.frame.pts;
 485   mem_put_le32(header, (int)pkt->data.frame.sz);
 486   mem_put_le32(header + 4, pts & 0xFFFFFFFF);
 487   mem_put_le32(header + 8, pts >> 32);
 488
 489   (void) fwrite(header, 1, 12, outfile);
 490 }
 491
 492 static void write_ivf_frame_size(FILE *outfile, size_t size) {
 493   char             header[4];
 494   mem_put_le32(header, (int)size);
 495   (void) fwrite(header, 1, 4, outfile);
 496 }
 497
 498
 499 typedef off_t EbmlLoc;
 500
 501
 502 struct cue_entry {
 503   unsigned int time;
 504   uint64_t     loc;
 505 };
 506
 507
 508 struct EbmlGlobal {
 509   int debug;
 510
 511   FILE    *stream;
 512   int64_t last_pts_ms;
 513   vpx_rational_t  framerate;
 514
 515   /* These pointers are to the start of an element */
 516   off_t    position_reference;
 517   off_t    seek_info_pos;
 518   off_t    segment_info_pos;
 519   off_t    track_pos;
 520   off_t    cue_pos;
 521   off_t    cluster_pos;
 522
 523   /* This pointer is to a specific element to be serialized */
 524   off_t    track_id_pos;
 525
 526   /* These pointers are to the size field of the element */
 527   EbmlLoc  startSegment;
 528   EbmlLoc  startCluster;
 529
 530   uint32_t cluster_timecode;
 531   int      cluster_open;
 532
 533   struct cue_entry *cue_list;
 534   unsigned int      cues;
 535
 536 };
 537
 538
 539 void Ebml_Write(EbmlGlobal *glob, const void *buffer_in, unsigned long len) {
 540   (void) fwrite(buffer_in, 1, len, glob->stream);
 541 }
 542
 543 #define WRITE_BUFFER(s) \
 544   for(i = len-1; i>=0; i--)\
 545   { \
 546     x = (char)(*(const s *)buffer_in >> (i * CHAR_BIT)); \
 547     Ebml_Write(glob, &x, 1); \
 548   }
 549 void Ebml_Serialize(EbmlGlobal *glob, const void *buffer_in, int buffer_size, unsigned long len) {
 550   char x;
 551   int i;
 552
 553   /* buffer_size:
 554    * 1 - int8_t;
 555    * 2 - int16_t;
 556    * 3 - int32_t;
 557    * 4 - int64_t;
 558    */
 559   switch (buffer_size) {
 560     case 1:
 561       WRITE_BUFFER(int8_t)
 562       break;
 563     case 2:
 564       WRITE_BUFFER(int16_t)
 565       break;
 566     case 4:
 567       WRITE_BUFFER(int32_t)
 568       break;
 569     case 8:
 570       WRITE_BUFFER(int64_t)
 571       break;
 572     default:
 573       break;
 574   }
 575 }
 576 #undef WRITE_BUFFER
 577
 578 /* Need a fixed size serializer for the track ID. libmkv provides a 64 bit
 579  * one, but not a 32 bit one.
 580  */
 581 static void Ebml_SerializeUnsigned32(EbmlGlobal *glob, unsigned long class_id, uint64_t ui) {
 582   unsigned char sizeSerialized = 4 | 0x80;
 583   Ebml_WriteID(glob, class_id);
 584   Ebml_Serialize(glob, &sizeSerialized, sizeof(sizeSerialized), 1);
 585   Ebml_Serialize(glob, &ui, sizeof(ui), 4);
 586 }
 587
 588
 589 static void
 590 Ebml_StartSubElement(EbmlGlobal *glob, EbmlLoc *ebmlLoc,
 591                      unsigned long class_id) {
 592   /* todo this is always taking 8 bytes, this may need later optimization */
 593   /* this is a key that says length unknown */
 594   uint64_t unknownLen = LITERALU64(0x01FFFFFF, 0xFFFFFFFF);
 595
 596   Ebml_WriteID(glob, class_id);
 597   *ebmlLoc = ftello(glob->stream);
 598   Ebml_Serialize(glob, &unknownLen, sizeof(unknownLen), 8);
 599 }
 600
 601 static void
 602 Ebml_EndSubElement(EbmlGlobal *glob, EbmlLoc *ebmlLoc) {
 603   off_t pos;
 604   uint64_t size;
 605
 606   /* Save the current stream pointer */
 607   pos = ftello(glob->stream);
 608
 609   /* Calculate the size of this element */
 610   size = pos - *ebmlLoc - 8;
 611   size |= LITERALU64(0x01000000, 0x00000000);
 612
 613   /* Seek back to the beginning of the element and write the new size */
 614   fseeko(glob->stream, *ebmlLoc, SEEK_SET);
 615   Ebml_Serialize(glob, &size, sizeof(size), 8);
 616
 617   /* Reset the stream pointer */
 618   fseeko(glob->stream, pos, SEEK_SET);
 619 }
 620
 621
 622 static void
 623 write_webm_seek_element(EbmlGlobal *ebml, unsigned long id, off_t pos) {
 624   uint64_t offset = pos - ebml->position_reference;
 625   EbmlLoc start;
 626   Ebml_StartSubElement(ebml, &start, Seek);
 627   Ebml_SerializeBinary(ebml, SeekID, id);
 628   Ebml_SerializeUnsigned64(ebml, SeekPosition, offset);
 629   Ebml_EndSubElement(ebml, &start);
 630 }
 631
 632
 633 static void
 634 write_webm_seek_info(EbmlGlobal *ebml) {
 635
 636   off_t pos;
 637
 638   /* Save the current stream pointer */
 639   pos = ftello(ebml->stream);
 640
 641   if (ebml->seek_info_pos)
 642     fseeko(ebml->stream, ebml->seek_info_pos, SEEK_SET);
 643   else
 644     ebml->seek_info_pos = pos;
 645
 646   {
 647     EbmlLoc start;
 648
 649     Ebml_StartSubElement(ebml, &start, SeekHead);
 650     write_webm_seek_element(ebml, Tracks, ebml->track_pos);
 651     write_webm_seek_element(ebml, Cues,   ebml->cue_pos);
 652     write_webm_seek_element(ebml, Info,   ebml->segment_info_pos);
 653     Ebml_EndSubElement(ebml, &start);
 654   }
 655   {
 656     /* segment info */
 657     EbmlLoc startInfo;
 658     uint64_t frame_time;
 659     char version_string[64];
 660
 661     /* Assemble version string */
 662     if (ebml->debug)
 663       strcpy(version_string, "vpxenc");
 664     else {
 665       strcpy(version_string, "vpxenc ");
 666       strncat(version_string,
 667               vpx_codec_version_str(),
 668               sizeof(version_string) - 1 - strlen(version_string));
 669     }
 670
 671     frame_time = (uint64_t)1000 * ebml->framerate.den
 672                  / ebml->framerate.num;
 673     ebml->segment_info_pos = ftello(ebml->stream);
 674     Ebml_StartSubElement(ebml, &startInfo, Info);
 675     Ebml_SerializeUnsigned(ebml, TimecodeScale, 1000000);
 676     Ebml_SerializeFloat(ebml, Segment_Duration,
 677                         (double)(ebml->last_pts_ms + frame_time));
 678     Ebml_SerializeString(ebml, 0x4D80, version_string);
 679     Ebml_SerializeString(ebml, 0x5741, version_string);
 680     Ebml_EndSubElement(ebml, &startInfo);
 681   }
 682 }
 683
 684
 685 static void
 686 write_webm_file_header(EbmlGlobal                *glob,
 687                        const vpx_codec_enc_cfg_t *cfg,
 688                        const struct vpx_rational *fps,
 689                        stereo_format_t            stereo_fmt,
 690                        unsigned int               fourcc) {
 691   {
 692     EbmlLoc start;
 693     Ebml_StartSubElement(glob, &start, EBML);
 694     Ebml_SerializeUnsigned(glob, EBMLVersion, 1);
 695     Ebml_SerializeUnsigned(glob, EBMLReadVersion, 1);
 696     Ebml_SerializeUnsigned(glob, EBMLMaxIDLength, 4);
 697     Ebml_SerializeUnsigned(glob, EBMLMaxSizeLength, 8);
 698     Ebml_SerializeString(glob, DocType, "webm");
 699     Ebml_SerializeUnsigned(glob, DocTypeVersion, 2);
 700     Ebml_SerializeUnsigned(glob, DocTypeReadVersion, 2);
 701     Ebml_EndSubElement(glob, &start);
 702   }
 703   {
 704     Ebml_StartSubElement(glob, &glob->startSegment, Segment);
 705     glob->position_reference = ftello(glob->stream);
 706     glob->framerate = *fps;
 707     write_webm_seek_info(glob);
 708
 709     {
 710       EbmlLoc trackStart;
 711       glob->track_pos = ftello(glob->stream);
 712       Ebml_StartSubElement(glob, &trackStart, Tracks);
 713       {
 714         unsigned int trackNumber = 1;
 715         uint64_t     trackID = 0;
 716
 717         EbmlLoc start;
 718         Ebml_StartSubElement(glob, &start, TrackEntry);
 719         Ebml_SerializeUnsigned(glob, TrackNumber, trackNumber);
 720         glob->track_id_pos = ftello(glob->stream);
 721         Ebml_SerializeUnsigned32(glob, TrackUID, trackID);
 722         Ebml_SerializeUnsigned(glob, TrackType, 1);
 723         Ebml_SerializeString(glob, CodecID,
 724                              fourcc == VP8_FOURCC ? "V_VP8" : "V_VP9");
 725         {
 726           unsigned int pixelWidth = cfg->g_w;
 727           unsigned int pixelHeight = cfg->g_h;
 728           float        frameRate   = (float)fps->num / (float)fps->den;
 729
 730           EbmlLoc videoStart;
 731           Ebml_StartSubElement(glob, &videoStart, Video);
 732           Ebml_SerializeUnsigned(glob, PixelWidth, pixelWidth);
 733           Ebml_SerializeUnsigned(glob, PixelHeight, pixelHeight);
 734           Ebml_SerializeUnsigned(glob, StereoMode, stereo_fmt);
 735           Ebml_SerializeFloat(glob, FrameRate, frameRate);
 736           Ebml_EndSubElement(glob, &videoStart);
 737         }
 738         Ebml_EndSubElement(glob, &start); /* Track Entry */
 739       }
 740       Ebml_EndSubElement(glob, &trackStart);
 741     }
 742     /* segment element is open */
 743   }
 744 }
 745
 746
 747 static void
 748 write_webm_block(EbmlGlobal                *glob,
 749                  const vpx_codec_enc_cfg_t *cfg,
 750                  const vpx_codec_cx_pkt_t  *pkt) {
 751   unsigned long  block_length;
 752   unsigned char  track_number;
 753   unsigned short block_timecode = 0;
 754   unsigned char  flags;
 755   int64_t        pts_ms;
 756   int            start_cluster = 0, is_keyframe;
 757
 758   /* Calculate the PTS of this frame in milliseconds */
 759   pts_ms = pkt->data.frame.pts * 1000
 760            * (uint64_t)cfg->g_timebase.num / (uint64_t)cfg->g_timebase.den;
 761   if (pts_ms <= glob->last_pts_ms)
 762     pts_ms = glob->last_pts_ms + 1;
 763   glob->last_pts_ms = pts_ms;
 764
 765   /* Calculate the relative time of this block */
 766   if (pts_ms - glob->cluster_timecode > SHRT_MAX)
 767     start_cluster = 1;
 768   else
 769     block_timecode = (unsigned short)pts_ms - glob->cluster_timecode;
 770
 771   is_keyframe = (pkt->data.frame.flags & VPX_FRAME_IS_KEY);
 772   if (start_cluster || is_keyframe) {
 773     if (glob->cluster_open)
 774       Ebml_EndSubElement(glob, &glob->startCluster);
 775
 776     /* Open the new cluster */
 777     block_timecode = 0;
 778     glob->cluster_open = 1;
 779     glob->cluster_timecode = (uint32_t)pts_ms;
 780     glob->cluster_pos = ftello(glob->stream);
 781     Ebml_StartSubElement(glob, &glob->startCluster, Cluster); /* cluster */
 782     Ebml_SerializeUnsigned(glob, Timecode, glob->cluster_timecode);
 783
 784     /* Save a cue point if this is a keyframe. */
 785     if (is_keyframe) {
 786       struct cue_entry *cue, *new_cue_list;
 787
 788       new_cue_list = realloc(glob->cue_list,
 789                              (glob->cues + 1) * sizeof(struct cue_entry));
 790       if (new_cue_list)
 791         glob->cue_list = new_cue_list;
 792       else
 793         fatal("Failed to realloc cue list.");
 794
 795       cue = &glob->cue_list[glob->cues];
 796       cue->time = glob->cluster_timecode;
 797       cue->loc = glob->cluster_pos;
 798       glob->cues++;
 799     }
 800   }
 801
 802   /* Write the Simple Block */
 803   Ebml_WriteID(glob, SimpleBlock);
 804
 805   block_length = (unsigned long)pkt->data.frame.sz + 4;
 806   block_length |= 0x10000000;
 807   Ebml_Serialize(glob, &block_length, sizeof(block_length), 4);
 808
 809   track_number = 1;
 810   track_number |= 0x80;
 811   Ebml_Write(glob, &track_number, 1);
 812
 813   Ebml_Serialize(glob, &block_timecode, sizeof(block_timecode), 2);
 814
 815   flags = 0;
 816   if (is_keyframe)
 817     flags |= 0x80;
 818   if (pkt->data.frame.flags & VPX_FRAME_IS_INVISIBLE)
 819     flags |= 0x08;
 820   Ebml_Write(glob, &flags, 1);
 821
 822   Ebml_Write(glob, pkt->data.frame.buf, (unsigned long)pkt->data.frame.sz);
 823 }
 824
 825
 826 static void
 827 write_webm_file_footer(EbmlGlobal *glob, long hash) {
 828
 829   if (glob->cluster_open)
 830     Ebml_EndSubElement(glob, &glob->startCluster);
 831
 832   {
 833     EbmlLoc start;
 834     unsigned int i;
 835
 836     glob->cue_pos = ftello(glob->stream);
 837     Ebml_StartSubElement(glob, &start, Cues);
 838     for (i = 0; i < glob->cues; i++) {
 839       struct cue_entry *cue = &glob->cue_list[i];
 840       EbmlLoc start;
 841
 842       Ebml_StartSubElement(glob, &start, CuePoint);
 843       {
 844         EbmlLoc start;
 845
 846         Ebml_SerializeUnsigned(glob, CueTime, cue->time);
 847
 848         Ebml_StartSubElement(glob, &start, CueTrackPositions);
 849         Ebml_SerializeUnsigned(glob, CueTrack, 1);
 850         Ebml_SerializeUnsigned64(glob, CueClusterPosition,
 851                                  cue->loc - glob->position_reference);
 852         Ebml_EndSubElement(glob, &start);
 853       }
 854       Ebml_EndSubElement(glob, &start);
 855     }
 856     Ebml_EndSubElement(glob, &start);
 857   }
 858
 859   Ebml_EndSubElement(glob, &glob->startSegment);
 860
 861   /* Patch up the seek info block */
 862   write_webm_seek_info(glob);
 863
 864   /* Patch up the track id */
 865   fseeko(glob->stream, glob->track_id_pos, SEEK_SET);
 866   Ebml_SerializeUnsigned32(glob, TrackUID, glob->debug ? 0xDEADBEEF : hash);
 867
 868   fseeko(glob->stream, 0, SEEK_END);
 869 }
 870
 871
 872 /* Murmur hash derived from public domain reference implementation at
 873  *   http:// sites.google.com/site/murmurhash/
 874  */
 875 static unsigned int murmur(const void *key, int len, unsigned int seed) {
 876   const unsigned int m = 0x5bd1e995;
 877   const int r = 24;
 878
 879   unsigned int h = seed ^ len;
 880
 881   const unsigned char *data = (const unsigned char *)key;
 882
 883   while (len >= 4) {
 884     unsigned int k;
 885
 886     k  = data[0];
 887     k |= data[1] << 8;
 888     k |= data[2] << 16;
 889     k |= data[3] << 24;
 890
 891     k *= m;
 892     k ^= k >> r;
 893     k *= m;
 894
 895     h *= m;
 896     h ^= k;
 897
 898     data += 4;
 899     len -= 4;
 900   }
 901
 902   switch (len) {
 903     case 3:
 904       h ^= data[2] << 16;
 905     case 2:
 906       h ^= data[1] << 8;
 907     case 1:
 908       h ^= data[0];
 909       h *= m;
 910   };
 911
 912   h ^= h >> 13;
 913   h *= m;
 914   h ^= h >> 15;
 915
 916   return h;
 917 }
 918
 919 #include "math.h"
 920 #define MAX_PSNR 100
 921 static double vp8_mse2psnr(double Samples, double Peak, double Mse) {
 922   double psnr;
 923
 924   if ((double)Mse > 0.0)
 925     psnr = 10.0 * log10(Peak * Peak * Samples / Mse);
 926   else
 927     psnr = MAX_PSNR;      /* Limit to prevent / 0 */
 928
 929   if (psnr > MAX_PSNR)
 930     psnr = MAX_PSNR;
 931
 932   return psnr;
 933 }
 934
 935
 936 #include "args.h"
 937 static const arg_def_t debugmode = ARG_DEF("D", "debug", 0,
 938                                            "Debug mode (makes output deterministic)");
 939 static const arg_def_t outputfile = ARG_DEF("o", "output", 1,
 940                                             "Output filename");
 941 static const arg_def_t use_yv12 = ARG_DEF(NULL, "yv12", 0,
 942                                           "Input file is YV12 ");
 943 static const arg_def_t use_i420 = ARG_DEF(NULL, "i420", 0,
 944                                           "Input file is I420 (default)");
 945 static const arg_def_t codecarg = ARG_DEF(NULL, "codec", 1,
 946                                           "Codec to use");
 947 static const arg_def_t passes           = ARG_DEF("p", "passes", 1,
 948                                                   "Number of passes (1/2)");
 949 static const arg_def_t pass_arg         = ARG_DEF(NULL, "pass", 1,
 950                                                   "Pass to execute (1/2)");
 951 static const arg_def_t fpf_name         = ARG_DEF(NULL, "fpf", 1,
 952                                                   "First pass statistics file name");
 953 static const arg_def_t limit = ARG_DEF(NULL, "limit", 1,
 954                                        "Stop encoding after n input frames");
 955 static const arg_def_t skip = ARG_DEF(NULL, "skip", 1,
 956                                       "Skip the first n input frames");
 957 static const arg_def_t deadline         = ARG_DEF("d", "deadline", 1,
 958                                                   "Deadline per frame (usec)");
 959 static const arg_def_t best_dl          = ARG_DEF(NULL, "best", 0,
 960                                                   "Use Best Quality Deadline");
 961 static const arg_def_t good_dl          = ARG_DEF(NULL, "good", 0,
 962                                                   "Use Good Quality Deadline");
 963 static const arg_def_t rt_dl            = ARG_DEF(NULL, "rt", 0,
 964                                                   "Use Realtime Quality Deadline");
 965 static const arg_def_t quietarg         = ARG_DEF("q", "quiet", 0,
 966                                                   "Do not print encode progress");
 967 static const arg_def_t verbosearg       = ARG_DEF("v", "verbose", 0,
 968                                                   "Show encoder parameters");
 969 static const arg_def_t psnrarg          = ARG_DEF(NULL, "psnr", 0,
 970                                                   "Show PSNR in status line");
 971 enum TestDecodeFatality {
 972   TEST_DECODE_OFF,
 973   TEST_DECODE_FATAL,
 974   TEST_DECODE_WARN,
 975 };
 976 static const struct arg_enum_list test_decode_enum[] = {
 977   {"off",   TEST_DECODE_OFF},
 978   {"fatal", TEST_DECODE_FATAL},
 979   {"warn",  TEST_DECODE_WARN},
 980   {NULL, 0}
 981 };
 982 static const arg_def_t recontest = ARG_DEF_ENUM(NULL, "test-decode", 1,
 983                                                 "Test encode/decode mismatch",
 984                                                 test_decode_enum);
 985 static const arg_def_t framerate        = ARG_DEF(NULL, "fps", 1,
 986                                                   "Stream frame rate (rate/scale)");
 987 static const arg_def_t use_ivf          = ARG_DEF(NULL, "ivf", 0,
 988                                                   "Output IVF (default is WebM)");
 989 static const arg_def_t out_part = ARG_DEF("P", "output-partitions", 0,
 990                                           "Makes encoder output partitions. Requires IVF output!");
 991 static const arg_def_t q_hist_n         = ARG_DEF(NULL, "q-hist", 1,
 992                                                   "Show quantizer histogram (n-buckets)");
 993 static const arg_def_t rate_hist_n         = ARG_DEF(NULL, "rate-hist", 1,
 994                                                      "Show rate histogram (n-buckets)");
 995 static const arg_def_t *main_args[] = {
 996   &debugmode,
 997   &outputfile, &codecarg, &passes, &pass_arg, &fpf_name, &limit, &skip,
 998   &deadline, &best_dl, &good_dl, &rt_dl,
 999   &quietarg, &verbosearg, &psnrarg, &use_ivf, &out_part, &q_hist_n, &rate_hist_n,
1000   NULL
1001 };
1002
1003 static const arg_def_t usage            = ARG_DEF("u", "usage", 1,
1004                                                   "Usage profile number to use");
1005 static const arg_def_t threads          = ARG_DEF("t", "threads", 1,
1006                                                   "Max number of threads to use");
1007 static const arg_def_t profile          = ARG_DEF(NULL, "profile", 1,
1008                                                   "Bitstream profile number to use");
1009 static const arg_def_t width            = ARG_DEF("w", "width", 1,
1010                                                   "Frame width");
1011 static const arg_def_t height           = ARG_DEF("h", "height", 1,
1012                                                   "Frame height");
1013 static const struct arg_enum_list stereo_mode_enum[] = {
1014   {"mono", STEREO_FORMAT_MONO},
1015   {"left-right", STEREO_FORMAT_LEFT_RIGHT},
1016   {"bottom-top", STEREO_FORMAT_BOTTOM_TOP},
1017   {"top-bottom", STEREO_FORMAT_TOP_BOTTOM},
1018   {"right-left", STEREO_FORMAT_RIGHT_LEFT},
1019   {NULL, 0}
1020 };
1021 static const arg_def_t stereo_mode      = ARG_DEF_ENUM(NULL, "stereo-mode", 1,
1022                                                        "Stereo 3D video format", stereo_mode_enum);
1023 static const arg_def_t timebase         = ARG_DEF(NULL, "timebase", 1,
1024                                                   "Output timestamp precision (fractional seconds)");
1025 static const arg_def_t error_resilient  = ARG_DEF(NULL, "error-resilient", 1,
1026                                                   "Enable error resiliency features");
1027 static const arg_def_t lag_in_frames    = ARG_DEF(NULL, "lag-in-frames", 1,
1028                                                   "Max number of frames to lag");
1029
1030 static const arg_def_t *global_args[] = {
1031   &use_yv12, &use_i420, &usage, &threads, &profile,
1032   &width, &height, &stereo_mode, &timebase, &framerate,
1033   &error_resilient,
1034   &lag_in_frames, NULL
1035 };
1036
1037 static const arg_def_t dropframe_thresh   = ARG_DEF(NULL, "drop-frame", 1,
1038                                                     "Temporal resampling threshold (buf %)");
1039 static const arg_def_t resize_allowed     = ARG_DEF(NULL, "resize-allowed", 1,
1040                                                     "Spatial resampling enabled (bool)");
1041 static const arg_def_t resize_up_thresh   = ARG_DEF(NULL, "resize-up", 1,
1042                                                     "Upscale threshold (buf %)");
1043 static const arg_def_t resize_down_thresh = ARG_DEF(NULL, "resize-down", 1,
1044                                                     "Downscale threshold (buf %)");
1045 static const struct arg_enum_list end_usage_enum[] = {
1046   {"vbr", VPX_VBR},
1047   {"cbr", VPX_CBR},
1048   {"cq",  VPX_CQ},
1049   {NULL, 0}
1050 };
1051 static const arg_def_t end_usage          = ARG_DEF_ENUM(NULL, "end-usage", 1,
1052                                                          "Rate control mode", end_usage_enum);
1053 static const arg_def_t target_bitrate     = ARG_DEF(NULL, "target-bitrate", 1,
1054                                                     "Bitrate (kbps)");
1055 static const arg_def_t min_quantizer      = ARG_DEF(NULL, "min-q", 1,
1056                                                     "Minimum (best) quantizer");
1057 static const arg_def_t max_quantizer      = ARG_DEF(NULL, "max-q", 1,
1058                                                     "Maximum (worst) quantizer");
1059 static const arg_def_t undershoot_pct     = ARG_DEF(NULL, "undershoot-pct", 1,
1060                                                     "Datarate undershoot (min) target (%)");
1061 static const arg_def_t overshoot_pct      = ARG_DEF(NULL, "overshoot-pct", 1,
1062                                                     "Datarate overshoot (max) target (%)");
1063 static const arg_def_t buf_sz             = ARG_DEF(NULL, "buf-sz", 1,
1064                                                     "Client buffer size (ms)");
1065 static const arg_def_t buf_initial_sz     = ARG_DEF(NULL, "buf-initial-sz", 1,
1066                                                     "Client initial buffer size (ms)");
1067 static const arg_def_t buf_optimal_sz     = ARG_DEF(NULL, "buf-optimal-sz", 1,
1068                                                     "Client optimal buffer size (ms)");
1069 static const arg_def_t *rc_args[] = {
1070   &dropframe_thresh, &resize_allowed, &resize_up_thresh, &resize_down_thresh,
1071   &end_usage, &target_bitrate, &min_quantizer, &max_quantizer,
1072   &undershoot_pct, &overshoot_pct, &buf_sz, &buf_initial_sz, &buf_optimal_sz,
1073   NULL
1074 };
1075
1076
1077 static const arg_def_t bias_pct = ARG_DEF(NULL, "bias-pct", 1,
1078                                           "CBR/VBR bias (0=CBR, 100=VBR)");
1079 static const arg_def_t minsection_pct = ARG_DEF(NULL, "minsection-pct", 1,
1080                                                 "GOP min bitrate (% of target)");
1081 static const arg_def_t maxsection_pct = ARG_DEF(NULL, "maxsection-pct", 1,
1082                                                 "GOP max bitrate (% of target)");
1083 static const arg_def_t *rc_twopass_args[] = {
1084   &bias_pct, &minsection_pct, &maxsection_pct, NULL
1085 };
1086
1087
1088 static const arg_def_t kf_min_dist = ARG_DEF(NULL, "kf-min-dist", 1,
1089                                              "Minimum keyframe interval (frames)");
1090 static const arg_def_t kf_max_dist = ARG_DEF(NULL, "kf-max-dist", 1,
1091                                              "Maximum keyframe interval (frames)");
1092 static const arg_def_t kf_disabled = ARG_DEF(NULL, "disable-kf", 0,
1093                                              "Disable keyframe placement");
1094 static const arg_def_t *kf_args[] = {
1095   &kf_min_dist, &kf_max_dist, &kf_disabled, NULL
1096 };
1097
1098
1099 static const arg_def_t noise_sens = ARG_DEF(NULL, "noise-sensitivity", 1,
1100                                             "Noise sensitivity (frames to blur)");
1101 static const arg_def_t sharpness = ARG_DEF(NULL, "sharpness", 1,
1102                                            "Filter sharpness (0-7)");
1103 static const arg_def_t static_thresh = ARG_DEF(NULL, "static-thresh", 1,
1104                                                "Motion detection threshold");
1105 static const arg_def_t cpu_used = ARG_DEF(NULL, "cpu-used", 1,
1106                                           "CPU Used (-16..16)");
1107 static const arg_def_t token_parts = ARG_DEF(NULL, "token-parts", 1,
1108                                      "Number of token partitions to use, log2");
1109 static const arg_def_t tile_cols = ARG_DEF(NULL, "tile-columns", 1,
1110                                          "Number of tile columns to use, log2");
1111 static const arg_def_t tile_rows = ARG_DEF(NULL, "tile-rows", 1,
1112                                            "Number of tile rows to use, log2");
1113 static const arg_def_t auto_altref = ARG_DEF(NULL, "auto-alt-ref", 1,
1114                                              "Enable automatic alt reference frames");
1115 static const arg_def_t arnr_maxframes = ARG_DEF(NULL, "arnr-maxframes", 1,
1116                                                 "AltRef Max Frames");
1117 static const arg_def_t arnr_strength = ARG_DEF(NULL, "arnr-strength", 1,
1118                                                "AltRef Strength");
1119 static const arg_def_t arnr_type = ARG_DEF(NULL, "arnr-type", 1,
1120                                            "AltRef Type");
1121 static const struct arg_enum_list tuning_enum[] = {
1122   {"psnr", VP8_TUNE_PSNR},
1123   {"ssim", VP8_TUNE_SSIM},
1124   {NULL, 0}
1125 };
1126 static const arg_def_t tune_ssim = ARG_DEF_ENUM(NULL, "tune", 1,
1127                                                 "Material to favor", tuning_enum);
1128 static const arg_def_t cq_level = ARG_DEF(NULL, "cq-level", 1,
1129                                           "Constrained Quality Level");
1130 static const arg_def_t max_intra_rate_pct = ARG_DEF(NULL, "max-intra-rate", 1,
1131                                                     "Max I-frame bitrate (pct)");
1132 static const arg_def_t lossless = ARG_DEF(NULL, "lossless", 1, "Lossless mode");
1133 #if CONFIG_VP9_ENCODER
1134 static const arg_def_t frame_parallel_decoding  = ARG_DEF(
1135     NULL, "frame-parallel", 1, "Enable frame parallel decodability features");
1136 #endif
1137
1138 #if CONFIG_VP8_ENCODER
1139 static const arg_def_t *vp8_args[] = {
1140   &cpu_used, &auto_altref, &noise_sens, &sharpness, &static_thresh,
1141   &token_parts, &arnr_maxframes, &arnr_strength, &arnr_type,
1142   &tune_ssim, &cq_level, &max_intra_rate_pct,
1143   NULL
1144 };
1145 static const int vp8_arg_ctrl_map[] = {
1146   VP8E_SET_CPUUSED, VP8E_SET_ENABLEAUTOALTREF,
1147   VP8E_SET_NOISE_SENSITIVITY, VP8E_SET_SHARPNESS, VP8E_SET_STATIC_THRESHOLD,
1148   VP8E_SET_TOKEN_PARTITIONS,
1149   VP8E_SET_ARNR_MAXFRAMES, VP8E_SET_ARNR_STRENGTH, VP8E_SET_ARNR_TYPE,
1150   VP8E_SET_TUNING, VP8E_SET_CQ_LEVEL, VP8E_SET_MAX_INTRA_BITRATE_PCT,
1151   0
1152 };
1153 #endif
1154
1155 #if CONFIG_VP9_ENCODER
1156 static const arg_def_t *vp9_args[] = {
1157   &cpu_used, &auto_altref, &noise_sens, &sharpness, &static_thresh,
1158   &tile_cols, &tile_rows, &arnr_maxframes, &arnr_strength, &arnr_type,
1159   &tune_ssim, &cq_level, &max_intra_rate_pct, &lossless,
1160   &frame_parallel_decoding,
1161   NULL
1162 };
1163 static const int vp9_arg_ctrl_map[] = {
1164   VP8E_SET_CPUUSED, VP8E_SET_ENABLEAUTOALTREF,
1165   VP8E_SET_NOISE_SENSITIVITY, VP8E_SET_SHARPNESS, VP8E_SET_STATIC_THRESHOLD,
1166   VP9E_SET_TILE_COLUMNS, VP9E_SET_TILE_ROWS,
1167   VP8E_SET_ARNR_MAXFRAMES, VP8E_SET_ARNR_STRENGTH, VP8E_SET_ARNR_TYPE,
1168   VP8E_SET_TUNING, VP8E_SET_CQ_LEVEL, VP8E_SET_MAX_INTRA_BITRATE_PCT,
1169   VP9E_SET_LOSSLESS, VP9E_SET_FRAME_PARALLEL_DECODING,
1170   0
1171 };
1172 #endif
1173
1174 static const arg_def_t *no_args[] = { NULL };
1175
1176 static void usage_exit() {
1177   int i;
1178
1179   fprintf(stderr, "Usage: %s <options> -o dst_filename src_filename \n",
1180           exec_name);
1181
1182   fprintf(stderr, "\nOptions:\n");
1183   arg_show_usage(stderr, main_args);
1184   fprintf(stderr, "\nEncoder Global Options:\n");
1185   arg_show_usage(stderr, global_args);
1186   fprintf(stderr, "\nRate Control Options:\n");
1187   arg_show_usage(stderr, rc_args);
1188   fprintf(stderr, "\nTwopass Rate Control Options:\n");
1189   arg_show_usage(stderr, rc_twopass_args);
1190   fprintf(stderr, "\nKeyframe Placement Options:\n");
1191   arg_show_usage(stderr, kf_args);
1192 #if CONFIG_VP8_ENCODER
1193   fprintf(stderr, "\nVP8 Specific Options:\n");
1194   arg_show_usage(stderr, vp8_args);
1195 #endif
1196 #if CONFIG_VP9_ENCODER
1197   fprintf(stderr, "\nVP9 Specific Options:\n");
1198   arg_show_usage(stderr, vp9_args);
1199 #endif
1200   fprintf(stderr, "\nStream timebase (--timebase):\n"
1201           "  The desired precision of timestamps in the output, expressed\n"
1202           "  in fractional seconds. Default is 1/1000.\n");
1203   fprintf(stderr, "\n"
1204           "Included encoders:\n"
1205           "\n");
1206
1207   for (i = 0; i < sizeof(codecs) / sizeof(codecs[0]); i++)
1208     fprintf(stderr, "    %-6s - %s\n",
1209             codecs[i].name,
1210             vpx_codec_iface_name(codecs[i].iface()));
1211
1212   exit(EXIT_FAILURE);
1213 }
1214
1215
1216 #define HIST_BAR_MAX 40
1217 struct hist_bucket {
1218   int low, high, count;
1219 };
1220
1221
1222 static int merge_hist_buckets(struct hist_bucket *bucket,
1223                               int *buckets_,
1224                               int max_buckets) {
1225   int small_bucket = 0, merge_bucket = INT_MAX, big_bucket = 0;
1226   int buckets = *buckets_;
1227   int i;
1228
1229   /* Find the extrema for this list of buckets */
1230   big_bucket = small_bucket = 0;
1231   for (i = 0; i < buckets; i++) {
1232     if (bucket[i].count < bucket[small_bucket].count)
1233       small_bucket = i;
1234     if (bucket[i].count > bucket[big_bucket].count)
1235       big_bucket = i;
1236   }
1237
1238   /* If we have too many buckets, merge the smallest with an adjacent
1239    * bucket.
1240    */
1241   while (buckets > max_buckets) {
1242     int last_bucket = buckets - 1;
1243
1244     /* merge the small bucket with an adjacent one. */
1245     if (small_bucket == 0)
1246       merge_bucket = 1;
1247     else if (small_bucket == last_bucket)
1248       merge_bucket = last_bucket - 1;
1249     else if (bucket[small_bucket - 1].count < bucket[small_bucket + 1].count)
1250       merge_bucket = small_bucket - 1;
1251     else
1252       merge_bucket = small_bucket + 1;
1253
1254     assert(abs(merge_bucket - small_bucket) <= 1);
1255     assert(small_bucket < buckets);
1256     assert(big_bucket < buckets);
1257     assert(merge_bucket < buckets);
1258
1259     if (merge_bucket < small_bucket) {
1260       bucket[merge_bucket].high = bucket[small_bucket].high;
1261       bucket[merge_bucket].count += bucket[small_bucket].count;
1262     } else {
1263       bucket[small_bucket].high = bucket[merge_bucket].high;
1264       bucket[small_bucket].count += bucket[merge_bucket].count;
1265       merge_bucket = small_bucket;
1266     }
1267
1268     assert(bucket[merge_bucket].low != bucket[merge_bucket].high);
1269
1270     buckets--;
1271
1272     /* Remove the merge_bucket from the list, and find the new small
1273      * and big buckets while we're at it
1274      */
1275     big_bucket = small_bucket = 0;
1276     for (i = 0; i < buckets; i++) {
1277       if (i > merge_bucket)
1278         bucket[i] = bucket[i + 1];
1279
1280       if (bucket[i].count < bucket[small_bucket].count)
1281         small_bucket = i;
1282       if (bucket[i].count > bucket[big_bucket].count)
1283         big_bucket = i;
1284     }
1285
1286   }
1287
1288   *buckets_ = buckets;
1289   return bucket[big_bucket].count;
1290 }
1291
1292
1293 static void show_histogram(const struct hist_bucket *bucket,
1294                            int                       buckets,
1295                            int                       total,
1296                            int                       scale) {
1297   const char *pat1, *pat2;
1298   int i;
1299
1300   switch ((int)(log(bucket[buckets - 1].high) / log(10)) + 1) {
1301     case 1:
1302     case 2:
1303       pat1 = "%4d %2s: ";
1304       pat2 = "%4d-%2d: ";
1305       break;
1306     case 3:
1307       pat1 = "%5d %3s: ";
1308       pat2 = "%5d-%3d: ";
1309       break;
1310     case 4:
1311       pat1 = "%6d %4s: ";
1312       pat2 = "%6d-%4d: ";
1313       break;
1314     case 5:
1315       pat1 = "%7d %5s: ";
1316       pat2 = "%7d-%5d: ";
1317       break;
1318     case 6:
1319       pat1 = "%8d %6s: ";
1320       pat2 = "%8d-%6d: ";
1321       break;
1322     case 7:
1323       pat1 = "%9d %7s: ";
1324       pat2 = "%9d-%7d: ";
1325       break;
1326     default:
1327       pat1 = "%12d %10s: ";
1328       pat2 = "%12d-%10d: ";
1329       break;
1330   }
1331
1332   for (i = 0; i < buckets; i++) {
1333     int len;
1334     int j;
1335     float pct;
1336
1337     pct = (float)(100.0 * bucket[i].count / total);
1338     len = HIST_BAR_MAX * bucket[i].count / scale;
1339     if (len < 1)
1340       len = 1;
1341     assert(len <= HIST_BAR_MAX);
1342
1343     if (bucket[i].low == bucket[i].high)
1344       fprintf(stderr, pat1, bucket[i].low, "");
1345     else
1346       fprintf(stderr, pat2, bucket[i].low, bucket[i].high);
1347
1348     for (j = 0; j < HIST_BAR_MAX; j++)
1349       fprintf(stderr, j < len ? "=" : " ");
1350     fprintf(stderr, "\t%5d (%6.2f%%)\n", bucket[i].count, pct);
1351   }
1352 }
1353
1354
1355 static void show_q_histogram(const int counts[64], int max_buckets) {
1356   struct hist_bucket bucket[64];
1357   int buckets = 0;
1358   int total = 0;
1359   int scale;
1360   int i;
1361
1362
1363   for (i = 0; i < 64; i++) {
1364     if (counts[i]) {
1365       bucket[buckets].low = bucket[buckets].high = i;
1366       bucket[buckets].count = counts[i];
1367       buckets++;
1368       total += counts[i];
1369     }
1370   }
1371
1372   fprintf(stderr, "\nQuantizer Selection:\n");
1373   scale = merge_hist_buckets(bucket, &buckets, max_buckets);
1374   show_histogram(bucket, buckets, total, scale);
1375 }
1376
1377
1378 #define RATE_BINS (100)
1379 struct rate_hist {
1380   int64_t            *pts;
1381   int                *sz;
1382   int                 samples;
1383   int                 frames;
1384   struct hist_bucket  bucket[RATE_BINS];
1385   int                 total;
1386 };
1387
1388
1389 static void init_rate_histogram(struct rate_hist          *hist,
1390                                 const vpx_codec_enc_cfg_t *cfg,
1391                                 const vpx_rational_t      *fps) {
1392   int i;
1393
1394   /* Determine the number of samples in the buffer. Use the file's framerate
1395    * to determine the number of frames in rc_buf_sz milliseconds, with an
1396    * adjustment (5/4) to account for alt-refs
1397    */
1398   hist->samples = cfg->rc_buf_sz * 5 / 4 * fps->num / fps->den / 1000;
1399
1400   /* prevent division by zero */
1401   if (hist->samples == 0)
1402     hist->samples = 1;
1403
1404   hist->pts = calloc(hist->samples, sizeof(*hist->pts));
1405   hist->sz = calloc(hist->samples, sizeof(*hist->sz));
1406   for (i = 0; i < RATE_BINS; i++) {
1407     hist->bucket[i].low = INT_MAX;
1408     hist->bucket[i].high = 0;
1409     hist->bucket[i].count = 0;
1410   }
1411 }
1412
1413
1414 static void destroy_rate_histogram(struct rate_hist *hist) {
1415   free(hist->pts);
1416   free(hist->sz);
1417 }
1418
1419
1420 static void update_rate_histogram(struct rate_hist          *hist,
1421                                   const vpx_codec_enc_cfg_t *cfg,
1422                                   const vpx_codec_cx_pkt_t  *pkt) {
1423   int i, idx;
1424   int64_t now, then, sum_sz = 0, avg_bitrate;
1425
1426   now = pkt->data.frame.pts * 1000
1427         * (uint64_t)cfg->g_timebase.num / (uint64_t)cfg->g_timebase.den;
1428
1429   idx = hist->frames++ % hist->samples;
1430   hist->pts[idx] = now;
1431   hist->sz[idx] = (int)pkt->data.frame.sz;
1432
1433   if (now < cfg->rc_buf_initial_sz)
1434     return;
1435
1436   then = now;
1437
1438   /* Sum the size over the past rc_buf_sz ms */
1439   for (i = hist->frames; i > 0 && hist->frames - i < hist->samples; i--) {
1440     int i_idx = (i - 1) % hist->samples;
1441
1442     then = hist->pts[i_idx];
1443     if (now - then > cfg->rc_buf_sz)
1444       break;
1445     sum_sz += hist->sz[i_idx];
1446   }
1447
1448   if (now == then)
1449     return;
1450
1451   avg_bitrate = sum_sz * 8 * 1000 / (now - then);
1452   idx = (int)(avg_bitrate * (RATE_BINS / 2) / (cfg->rc_target_bitrate * 1000));
1453   if (idx < 0)
1454     idx = 0;
1455   if (idx > RATE_BINS - 1)
1456     idx = RATE_BINS - 1;
1457   if (hist->bucket[idx].low > avg_bitrate)
1458     hist->bucket[idx].low = (int)avg_bitrate;
1459   if (hist->bucket[idx].high < avg_bitrate)
1460     hist->bucket[idx].high = (int)avg_bitrate;
1461   hist->bucket[idx].count++;
1462   hist->total++;
1463 }
1464
1465
1466 static void show_rate_histogram(struct rate_hist          *hist,
1467                                 const vpx_codec_enc_cfg_t *cfg,
1468                                 int                        max_buckets) {
1469   int i, scale;
1470   int buckets = 0;
1471
1472   for (i = 0; i < RATE_BINS; i++) {
1473     if (hist->bucket[i].low == INT_MAX)
1474       continue;
1475     hist->bucket[buckets++] = hist->bucket[i];
1476   }
1477
1478   fprintf(stderr, "\nRate (over %dms window):\n", cfg->rc_buf_sz);
1479   scale = merge_hist_buckets(hist->bucket, &buckets, max_buckets);
1480   show_histogram(hist->bucket, buckets, hist->total, scale);
1481 }
1482
1483 #define mmin(a, b)  ((a) < (b) ? (a) : (b))
1484 static void find_mismatch(vpx_image_t *img1, vpx_image_t *img2,
1485                           int yloc[4], int uloc[4], int vloc[4]) {
1486   const unsigned int bsize = 64;
1487   const unsigned int bsizey = bsize >> img1->y_chroma_shift;
1488   const unsigned int bsizex = bsize >> img1->x_chroma_shift;
1489   const int c_w = (img1->d_w + img1->x_chroma_shift) >> img1->x_chroma_shift;
1490   const int c_h = (img1->d_h + img1->y_chroma_shift) >> img1->y_chroma_shift;
1491   unsigned int match = 1;
1492   unsigned int i, j;
1493   yloc[0] = yloc[1] = yloc[2] = yloc[3] = -1;
1494   for (i = 0, match = 1; match && i < img1->d_h; i += bsize) {
1495     for (j = 0; match && j < img1->d_w; j += bsize) {
1496       int k, l;
1497       int si = mmin(i + bsize, img1->d_h) - i;
1498       int sj = mmin(j + bsize, img1->d_w) - j;
1499       for (k = 0; match && k < si; k++)
1500         for (l = 0; match && l < sj; l++) {
1501           if (*(img1->planes[VPX_PLANE_Y] +
1502                 (i + k) * img1->stride[VPX_PLANE_Y] + j + l) !=
1503               *(img2->planes[VPX_PLANE_Y] +
1504                 (i + k) * img2->stride[VPX_PLANE_Y] + j + l)) {
1505             yloc[0] = i + k;
1506             yloc[1] = j + l;
1507             yloc[2] = *(img1->planes[VPX_PLANE_Y] +
1508                         (i + k) * img1->stride[VPX_PLANE_Y] + j + l);
1509             yloc[3] = *(img2->planes[VPX_PLANE_Y] +
1510                         (i + k) * img2->stride[VPX_PLANE_Y] + j + l);
1511             match = 0;
1512             break;
1513           }
1514         }
1515     }
1516   }
1517
1518   uloc[0] = uloc[1] = uloc[2] = uloc[3] = -1;
1519   for (i = 0, match = 1; match && i < c_h; i += bsizey) {
1520     for (j = 0; match && j < c_w; j += bsizex) {
1521       int k, l;
1522       int si = mmin(i + bsizey, c_h - i);
1523       int sj = mmin(j + bsizex, c_w - j);
1524       for (k = 0; match && k < si; k++)
1525         for (l = 0; match && l < sj; l++) {
1526           if (*(img1->planes[VPX_PLANE_U] +
1527                 (i + k) * img1->stride[VPX_PLANE_U] + j + l) !=
1528               *(img2->planes[VPX_PLANE_U] +
1529                 (i + k) * img2->stride[VPX_PLANE_U] + j + l)) {
1530             uloc[0] = i + k;
1531             uloc[1] = j + l;
1532             uloc[2] = *(img1->planes[VPX_PLANE_U] +
1533                         (i + k) * img1->stride[VPX_PLANE_U] + j + l);
1534             uloc[3] = *(img2->planes[VPX_PLANE_U] +
1535                         (i + k) * img2->stride[VPX_PLANE_V] + j + l);
1536             match = 0;
1537             break;
1538           }
1539         }
1540     }
1541   }
1542   vloc[0] = vloc[1] = vloc[2] = vloc[3] = -1;
1543   for (i = 0, match = 1; match && i < c_h; i += bsizey) {
1544     for (j = 0; match && j < c_w; j += bsizex) {
1545       int k, l;
1546       int si = mmin(i + bsizey, c_h - i);
1547       int sj = mmin(j + bsizex, c_w - j);
1548       for (k = 0; match && k < si; k++)
1549         for (l = 0; match && l < sj; l++) {
1550           if (*(img1->planes[VPX_PLANE_V] +
1551                 (i + k) * img1->stride[VPX_PLANE_V] + j + l) !=
1552               *(img2->planes[VPX_PLANE_V] +
1553                 (i + k) * img2->stride[VPX_PLANE_V] + j + l)) {
1554             vloc[0] = i + k;
1555             vloc[1] = j + l;
1556             vloc[2] = *(img1->planes[VPX_PLANE_V] +
1557                         (i + k) * img1->stride[VPX_PLANE_V] + j + l);
1558             vloc[3] = *(img2->planes[VPX_PLANE_V] +
1559                         (i + k) * img2->stride[VPX_PLANE_V] + j + l);
1560             match = 0;
1561             break;
1562           }
1563         }
1564     }
1565   }
1566 }
1567
1568 static int compare_img(vpx_image_t *img1, vpx_image_t *img2)
1569 {
1570   const int c_w = (img1->d_w + img1->x_chroma_shift) >> img1->x_chroma_shift;
1571   const int c_h = (img1->d_h + img1->y_chroma_shift) >> img1->y_chroma_shift;
1572   int match = 1;
1573   unsigned int i;
1574
1575   match &= (img1->fmt == img2->fmt);
1576   match &= (img1->w == img2->w);
1577   match &= (img1->h == img2->h);
1578
1579   for (i = 0; i < img1->d_h; i++)
1580     match &= (memcmp(img1->planes[VPX_PLANE_Y]+i*img1->stride[VPX_PLANE_Y],
1581                      img2->planes[VPX_PLANE_Y]+i*img2->stride[VPX_PLANE_Y],
1582                      img1->d_w) == 0);
1583
1584   for (i = 0; i < c_h; i++)
1585     match &= (memcmp(img1->planes[VPX_PLANE_U]+i*img1->stride[VPX_PLANE_U],
1586                      img2->planes[VPX_PLANE_U]+i*img2->stride[VPX_PLANE_U],
1587                      c_w) == 0);
1588
1589   for (i = 0; i < c_h; i++)
1590     match &= (memcmp(img1->planes[VPX_PLANE_V]+i*img1->stride[VPX_PLANE_U],
1591                      img2->planes[VPX_PLANE_V]+i*img2->stride[VPX_PLANE_U],
1592                      c_w) == 0);
1593
1594   return match;
1595 }
1596
1597
1598 #define NELEMENTS(x) (sizeof(x)/sizeof(x[0]))
1599 #define MAX(x,y) ((x)>(y)?(x):(y))
1600 #if CONFIG_VP8_ENCODER && !CONFIG_VP9_ENCODER
1601 #define ARG_CTRL_CNT_MAX NELEMENTS(vp8_arg_ctrl_map)
1602 #elif !CONFIG_VP8_ENCODER && CONFIG_VP9_ENCODER
1603 #define ARG_CTRL_CNT_MAX NELEMENTS(vp9_arg_ctrl_map)
1604 #else
1605 #define ARG_CTRL_CNT_MAX MAX(NELEMENTS(vp8_arg_ctrl_map), \
1606                              NELEMENTS(vp9_arg_ctrl_map))
1607 #endif
1608
1609 /* Configuration elements common to all streams */
1610 struct global_config {
1611   const struct codec_item  *codec;
1612   int                       passes;
1613   int                       pass;
1614   int                       usage;
1615   int                       deadline;
1616   int                       use_i420;
1617   int                       quiet;
1618   int                       verbose;
1619   int                       limit;
1620   int                       skip_frames;
1621   int                       show_psnr;
1622   enum TestDecodeFatality   test_decode;
1623   int                       have_framerate;
1624   struct vpx_rational       framerate;
1625   int                       out_part;
1626   int                       debug;
1627   int                       show_q_hist_buckets;
1628   int                       show_rate_hist_buckets;
1629 };
1630
1631
1632 /* Per-stream configuration */
1633 struct stream_config {
1634   struct vpx_codec_enc_cfg  cfg;
1635   const char               *out_fn;
1636   const char               *stats_fn;
1637   stereo_format_t           stereo_fmt;
1638   int                       arg_ctrls[ARG_CTRL_CNT_MAX][2];
1639   int                       arg_ctrl_cnt;
1640   int                       write_webm;
1641   int                       have_kf_max_dist;
1642 };
1643
1644
1645 struct stream_state {
1646   int                       index;
1647   struct stream_state      *next;
1648   struct stream_config      config;
1649   FILE                     *file;
1650   struct rate_hist          rate_hist;
1651   EbmlGlobal                ebml;
1652   uint32_t                  hash;
1653   uint64_t                  psnr_sse_total;
1654   uint64_t                  psnr_samples_total;
1655   double                    psnr_totals[4];
1656   int                       psnr_count;
1657   int                       counts[64];
1658   vpx_codec_ctx_t           encoder;
1659   unsigned int              frames_out;
1660   uint64_t                  cx_time;
1661   size_t                    nbytes;
1662   stats_io_t                stats;
1663   struct vpx_image         *img;
1664   vpx_codec_ctx_t           decoder;
1665   int                       mismatch_seen;
1666 };
1667
1668
1669 void validate_positive_rational(const char          *msg,
1670                                 struct vpx_rational *rat) {
1671   if (rat->den < 0) {
1672     rat->num *= -1;
1673     rat->den *= -1;
1674   }
1675
1676   if (rat->num < 0)
1677     die("Error: %s must be positive\n", msg);
1678
1679   if (!rat->den)
1680     die("Error: %s has zero denominator\n", msg);
1681 }
1682
1683
1684 static void parse_global_config(struct global_config *global, char **argv) {
1685   char       **argi, **argj;
1686   struct arg   arg;
1687
1688   /* Initialize default parameters */
1689   memset(global, 0, sizeof(*global));
1690   global->codec = codecs;
1691   global->passes = 0;
1692   global->use_i420 = 1;
1693   /* Assign default deadline to good quality */
1694   global->deadline = VPX_DL_GOOD_QUALITY;
1695
1696   for (argi = argj = argv; (*argj = *argi); argi += arg.argv_step) {
1697     arg.argv_step = 1;
1698
1699     if (arg_match(&arg, &codecarg, argi)) {
1700       int j, k = -1;
1701
1702       for (j = 0; j < sizeof(codecs) / sizeof(codecs[0]); j++)
1703         if (!strcmp(codecs[j].name, arg.val))
1704           k = j;
1705
1706       if (k >= 0)
1707         global->codec = codecs + k;
1708       else
1709         die("Error: Unrecognized argument (%s) to --codec\n",
1710             arg.val);
1711
1712     } else if (arg_match(&arg, &passes, argi)) {
1713       global->passes = arg_parse_uint(&arg);
1714
1715       if (global->passes < 1 || global->passes > 2)
1716         die("Error: Invalid number of passes (%d)\n", global->passes);
1717     } else if (arg_match(&arg, &pass_arg, argi)) {
1718       global->pass = arg_parse_uint(&arg);
1719
1720       if (global->pass < 1 || global->pass > 2)
1721         die("Error: Invalid pass selected (%d)\n",
1722             global->pass);
1723     } else if (arg_match(&arg, &usage, argi))
1724       global->usage = arg_parse_uint(&arg);
1725     else if (arg_match(&arg, &deadline, argi))
1726       global->deadline = arg_parse_uint(&arg);
1727     else if (arg_match(&arg, &best_dl, argi))
1728       global->deadline = VPX_DL_BEST_QUALITY;
1729     else if (arg_match(&arg, &good_dl, argi))
1730       global->deadline = VPX_DL_GOOD_QUALITY;
1731     else if (arg_match(&arg, &rt_dl, argi))
1732       global->deadline = VPX_DL_REALTIME;
1733     else if (arg_match(&arg, &use_yv12, argi))
1734       global->use_i420 = 0;
1735     else if (arg_match(&arg, &use_i420, argi))
1736       global->use_i420 = 1;
1737     else if (arg_match(&arg, &quietarg, argi))
1738       global->quiet = 1;
1739     else if (arg_match(&arg, &verbosearg, argi))
1740       global->verbose = 1;
1741     else if (arg_match(&arg, &limit, argi))
1742       global->limit = arg_parse_uint(&arg);
1743     else if (arg_match(&arg, &skip, argi))
1744       global->skip_frames = arg_parse_uint(&arg);
1745     else if (arg_match(&arg, &psnrarg, argi))
1746       global->show_psnr = 1;
1747     else if (arg_match(&arg, &recontest, argi))
1748       global->test_decode = arg_parse_enum_or_int(&arg);
1749     else if (arg_match(&arg, &framerate, argi)) {
1750       global->framerate = arg_parse_rational(&arg);
1751       validate_positive_rational(arg.name, &global->framerate);
1752       global->have_framerate = 1;
1753     } else if (arg_match(&arg, &out_part, argi))
1754       global->out_part = 1;
1755     else if (arg_match(&arg, &debugmode, argi))
1756       global->debug = 1;
1757     else if (arg_match(&arg, &q_hist_n, argi))
1758       global->show_q_hist_buckets = arg_parse_uint(&arg);
1759     else if (arg_match(&arg, &rate_hist_n, argi))
1760       global->show_rate_hist_buckets = arg_parse_uint(&arg);
1761     else
1762       argj++;
1763   }
1764
1765   /* Validate global config */
1766   if (global->passes == 0) {
1767     // Make default VP9 passes = 2 until there is a better quality 1-pass
1768     // encoder
1769     global->passes = (global->codec->iface == vpx_codec_vp9_cx ? 2 : 1);
1770   }
1771
1772   if (global->pass) {
1773     /* DWIM: Assume the user meant passes=2 if pass=2 is specified */
1774     if (global->pass > global->passes) {
1775       warn("Assuming --pass=%d implies --passes=%d\n",
1776            global->pass, global->pass);
1777       global->passes = global->pass;
1778     }
1779   }
1780 }
1781
1782
1783 void open_input_file(struct input_state *input) {
1784   unsigned int fourcc;
1785
1786   /* Parse certain options from the input file, if possible */
1787   input->file = strcmp(input->fn, "-") ? fopen(input->fn, "rb")
1788                 : set_binary_mode(stdin);
1789
1790   if (!input->file)
1791     fatal("Failed to open input file");
1792
1793   if (!fseeko(input->file, 0, SEEK_END)) {
1794     /* Input file is seekable. Figure out how long it is, so we can get
1795      * progress info.
1796      */
1797     input->length = ftello(input->file);
1798     rewind(input->file);
1799   }
1800
1801   /* For RAW input sources, these bytes will applied on the first frame
1802    *  in read_frame().
1803    */
1804   input->detect.buf_read = fread(input->detect.buf, 1, 4, input->file);
1805   input->detect.position = 0;
1806
1807   if (input->detect.buf_read == 4
1808       && file_is_y4m(input->file, &input->y4m, input->detect.buf)) {
1809     if (y4m_input_open(&input->y4m, input->file, input->detect.buf, 4,
1810                        input->only_i420) >= 0) {
1811       input->file_type = FILE_TYPE_Y4M;
1812       input->w = input->y4m.pic_w;
1813       input->h = input->y4m.pic_h;
1814       input->framerate.num = input->y4m.fps_n;
1815       input->framerate.den = input->y4m.fps_d;
1816       input->use_i420 = 0;
1817     } else
1818       fatal("Unsupported Y4M stream.");
1819   } else if (input->detect.buf_read == 4 && file_is_ivf(input, &fourcc)) {
1820     input->file_type = FILE_TYPE_IVF;
1821     switch (fourcc) {
1822       case 0x32315659:
1823         input->use_i420 = 0;
1824         break;
1825       case 0x30323449:
1826         input->use_i420 = 1;
1827         break;
1828       default:
1829         fatal("Unsupported fourcc (%08x) in IVF", fourcc);
1830     }
1831   } else {
1832     input->file_type = FILE_TYPE_RAW;
1833   }
1834 }
1835
1836
1837 static void close_input_file(struct input_state *input) {
1838   fclose(input->file);
1839   if (input->file_type == FILE_TYPE_Y4M)
1840     y4m_input_close(&input->y4m);
1841 }
1842
1843 static struct stream_state *new_stream(struct global_config *global,
1844                                        struct stream_state  *prev) {
1845   struct stream_state *stream;
1846
1847   stream = calloc(1, sizeof(*stream));
1848   if (!stream)
1849     fatal("Failed to allocate new stream.");
1850   if (prev) {
1851     memcpy(stream, prev, sizeof(*stream));
1852     stream->index++;
1853     prev->next = stream;
1854   } else {
1855     vpx_codec_err_t  res;
1856
1857     /* Populate encoder configuration */
1858     res = vpx_codec_enc_config_default(global->codec->iface(),
1859                                        &stream->config.cfg,
1860                                        global->usage);
1861     if (res)
1862       fatal("Failed to get config: %s\n", vpx_codec_err_to_string(res));
1863
1864     /* Change the default timebase to a high enough value so that the
1865      * encoder will always create strictly increasing timestamps.
1866      */
1867     stream->config.cfg.g_timebase.den = 1000;
1868
1869     /* Never use the library's default resolution, require it be parsed
1870      * from the file or set on the command line.
1871      */
1872     stream->config.cfg.g_w = 0;
1873     stream->config.cfg.g_h = 0;
1874
1875     /* Initialize remaining stream parameters */
1876     stream->config.stereo_fmt = STEREO_FORMAT_MONO;
1877     stream->config.write_webm = 1;
1878     stream->ebml.last_pts_ms = -1;
1879
1880     /* Allows removal of the application version from the EBML tags */
1881     stream->ebml.debug = global->debug;
1882   }
1883
1884   /* Output files must be specified for each stream */
1885   stream->config.out_fn = NULL;
1886
1887   stream->next = NULL;
1888   return stream;
1889 }
1890
1891
1892 static int parse_stream_params(struct global_config *global,
1893                                struct stream_state  *stream,
1894                                char **argv) {
1895   char                   **argi, **argj;
1896   struct arg               arg;
1897   static const arg_def_t **ctrl_args = no_args;
1898   static const int        *ctrl_args_map = NULL;
1899   struct stream_config    *config = &stream->config;
1900   int                      eos_mark_found = 0;
1901
1902   /* Handle codec specific options */
1903   if (0) {
1904 #if CONFIG_VP8_ENCODER
1905   } else if (global->codec->iface == vpx_codec_vp8_cx) {
1906     ctrl_args = vp8_args;
1907     ctrl_args_map = vp8_arg_ctrl_map;
1908 #endif
1909 #if CONFIG_VP9_ENCODER
1910   } else if (global->codec->iface == vpx_codec_vp9_cx) {
1911     ctrl_args = vp9_args;
1912     ctrl_args_map = vp9_arg_ctrl_map;
1913 #endif
1914   }
1915
1916   for (argi = argj = argv; (*argj = *argi); argi += arg.argv_step) {
1917     arg.argv_step = 1;
1918
1919     /* Once we've found an end-of-stream marker (--) we want to continue
1920      * shifting arguments but not consuming them.
1921      */
1922     if (eos_mark_found) {
1923       argj++;
1924       continue;
1925     } else if (!strcmp(*argj, "--")) {
1926       eos_mark_found = 1;
1927       continue;
1928     }
1929
1930     if (0);
1931     else if (arg_match(&arg, &outputfile, argi))
1932       config->out_fn = arg.val;
1933     else if (arg_match(&arg, &fpf_name, argi))
1934       config->stats_fn = arg.val;
1935     else if (arg_match(&arg, &use_ivf, argi))
1936       config->write_webm = 0;
1937     else if (arg_match(&arg, &threads, argi))
1938       config->cfg.g_threads = arg_parse_uint(&arg);
1939     else if (arg_match(&arg, &profile, argi))
1940       config->cfg.g_profile = arg_parse_uint(&arg);
1941     else if (arg_match(&arg, &width, argi))
1942       config->cfg.g_w = arg_parse_uint(&arg);
1943     else if (arg_match(&arg, &height, argi))
1944       config->cfg.g_h = arg_parse_uint(&arg);
1945     else if (arg_match(&arg, &stereo_mode, argi))
1946       config->stereo_fmt = arg_parse_enum_or_int(&arg);
1947     else if (arg_match(&arg, &timebase, argi)) {
1948       config->cfg.g_timebase = arg_parse_rational(&arg);
1949       validate_positive_rational(arg.name, &config->cfg.g_timebase);
1950     } else if (arg_match(&arg, &error_resilient, argi))
1951       config->cfg.g_error_resilient = arg_parse_uint(&arg);
1952     else if (arg_match(&arg, &lag_in_frames, argi))
1953       config->cfg.g_lag_in_frames = arg_parse_uint(&arg);
1954     else if (arg_match(&arg, &dropframe_thresh, argi))
1955       config->cfg.rc_dropframe_thresh = arg_parse_uint(&arg);
1956     else if (arg_match(&arg, &resize_allowed, argi))
1957       config->cfg.rc_resize_allowed = arg_parse_uint(&arg);
1958     else if (arg_match(&arg, &resize_up_thresh, argi))
1959       config->cfg.rc_resize_up_thresh = arg_parse_uint(&arg);
1960     else if (arg_match(&arg, &resize_down_thresh, argi))
1961       config->cfg.rc_resize_down_thresh = arg_parse_uint(&arg);
1962     else if (arg_match(&arg, &end_usage, argi))
1963       config->cfg.rc_end_usage = arg_parse_enum_or_int(&arg);
1964     else if (arg_match(&arg, &target_bitrate, argi))
1965       config->cfg.rc_target_bitrate = arg_parse_uint(&arg);
1966     else if (arg_match(&arg, &min_quantizer, argi))
1967       config->cfg.rc_min_quantizer = arg_parse_uint(&arg);
1968     else if (arg_match(&arg, &max_quantizer, argi))
1969       config->cfg.rc_max_quantizer = arg_parse_uint(&arg);
1970     else if (arg_match(&arg, &undershoot_pct, argi))
1971       config->cfg.rc_undershoot_pct = arg_parse_uint(&arg);
1972     else if (arg_match(&arg, &overshoot_pct, argi))
1973       config->cfg.rc_overshoot_pct = arg_parse_uint(&arg);
1974     else if (arg_match(&arg, &buf_sz, argi))
1975       config->cfg.rc_buf_sz = arg_parse_uint(&arg);
1976     else if (arg_match(&arg, &buf_initial_sz, argi))
1977       config->cfg.rc_buf_initial_sz = arg_parse_uint(&arg);
1978     else if (arg_match(&arg, &buf_optimal_sz, argi))
1979       config->cfg.rc_buf_optimal_sz = arg_parse_uint(&arg);
1980     else if (arg_match(&arg, &bias_pct, argi)) {
1981       config->cfg.rc_2pass_vbr_bias_pct = arg_parse_uint(&arg);
1982
1983       if (global->passes < 2)
1984         warn("option %s ignored in one-pass mode.\n", arg.name);
1985     } else if (arg_match(&arg, &minsection_pct, argi)) {
1986       config->cfg.rc_2pass_vbr_minsection_pct = arg_parse_uint(&arg);
1987
1988       if (global->passes < 2)
1989         warn("option %s ignored in one-pass mode.\n", arg.name);
1990     } else if (arg_match(&arg, &maxsection_pct, argi)) {
1991       config->cfg.rc_2pass_vbr_maxsection_pct = arg_parse_uint(&arg);
1992
1993       if (global->passes < 2)
1994         warn("option %s ignored in one-pass mode.\n", arg.name);
1995     } else if (arg_match(&arg, &kf_min_dist, argi))
1996       config->cfg.kf_min_dist = arg_parse_uint(&arg);
1997     else if (arg_match(&arg, &kf_max_dist, argi)) {
1998       config->cfg.kf_max_dist = arg_parse_uint(&arg);
1999       config->have_kf_max_dist = 1;
2000     } else if (arg_match(&arg, &kf_disabled, argi))
2001       config->cfg.kf_mode = VPX_KF_DISABLED;
2002     else {
2003       int i, match = 0;
2004
2005       for (i = 0; ctrl_args[i]; i++) {
2006         if (arg_match(&arg, ctrl_args[i], argi)) {
2007           int j;
2008           match = 1;
2009
2010           /* Point either to the next free element or the first
2011           * instance of this control.
2012           */
2013           for (j = 0; j < config->arg_ctrl_cnt; j++)
2014             if (config->arg_ctrls[j][0] == ctrl_args_map[i])
2015               break;
2016
2017           /* Update/insert */
2018           assert(j < ARG_CTRL_CNT_MAX);
2019           if (j < ARG_CTRL_CNT_MAX) {
2020             config->arg_ctrls[j][0] = ctrl_args_map[i];
2021             config->arg_ctrls[j][1] = arg_parse_enum_or_int(&arg);
2022             if (j == config->arg_ctrl_cnt)
2023               config->arg_ctrl_cnt++;
2024           }
2025
2026         }
2027       }
2028
2029       if (!match)
2030         argj++;
2031     }
2032   }
2033
2034   return eos_mark_found;
2035 }
2036
2037
2038 #define FOREACH_STREAM(func)\
2039   do\
2040   {\
2041     struct stream_state  *stream;\
2042     \
2043     for(stream = streams; stream; stream = stream->next)\
2044       func;\
2045   }while(0)
2046
2047
2048 static void validate_stream_config(struct stream_state *stream) {
2049   struct stream_state *streami;
2050
2051   if (!stream->config.cfg.g_w || !stream->config.cfg.g_h)
2052     fatal("Stream %d: Specify stream dimensions with --width (-w) "
2053           " and --height (-h)", stream->index);
2054
2055   for (streami = stream; streami; streami = streami->next) {
2056     /* All streams require output files */
2057     if (!streami->config.out_fn)
2058       fatal("Stream %d: Output file is required (specify with -o)",
2059             streami->index);
2060
2061     /* Check for two streams outputting to the same file */
2062     if (streami != stream) {
2063       const char *a = stream->config.out_fn;
2064       const char *b = streami->config.out_fn;
2065       if (!strcmp(a, b) && strcmp(a, "/dev/null") && strcmp(a, ":nul"))
2066         fatal("Stream %d: duplicate output file (from stream %d)",
2067               streami->index, stream->index);
2068     }
2069
2070     /* Check for two streams sharing a stats file. */
2071     if (streami != stream) {
2072       const char *a = stream->config.stats_fn;
2073       const char *b = streami->config.stats_fn;
2074       if (a && b && !strcmp(a, b))
2075         fatal("Stream %d: duplicate stats file (from stream %d)",
2076               streami->index, stream->index);
2077     }
2078   }
2079 }
2080
2081
2082 static void set_stream_dimensions(struct stream_state *stream,
2083                                   unsigned int w,
2084                                   unsigned int h) {
2085   if (!stream->config.cfg.g_w) {
2086     if (!stream->config.cfg.g_h)
2087       stream->config.cfg.g_w = w;
2088     else
2089       stream->config.cfg.g_w = w * stream->config.cfg.g_h / h;
2090   }
2091   if (!stream->config.cfg.g_h) {
2092     stream->config.cfg.g_h = h * stream->config.cfg.g_w / w;
2093   }
2094 }
2095
2096
2097 static void set_default_kf_interval(struct stream_state  *stream,
2098                                     struct global_config *global) {
2099   /* Use a max keyframe interval of 5 seconds, if none was
2100    * specified on the command line.
2101    */
2102   if (!stream->config.have_kf_max_dist) {
2103     double framerate = (double)global->framerate.num / global->framerate.den;
2104     if (framerate > 0.0)
2105       stream->config.cfg.kf_max_dist = (unsigned int)(5.0 * framerate);
2106   }
2107 }
2108
2109
2110 static void show_stream_config(struct stream_state  *stream,
2111                                struct global_config *global,
2112                                struct input_state   *input) {
2113
2114 #define SHOW(field) \
2115   fprintf(stderr, "    %-28s = %d\n", #field, stream->config.cfg.field)
2116
2117   if (stream->index == 0) {
2118     fprintf(stderr, "Codec: %s\n",
2119             vpx_codec_iface_name(global->codec->iface()));
2120     fprintf(stderr, "Source file: %s Format: %s\n", input->fn,
2121             input->use_i420 ? "I420" : "YV12");
2122   }
2123   if (stream->next || stream->index)
2124     fprintf(stderr, "\nStream Index: %d\n", stream->index);
2125   fprintf(stderr, "Destination file: %s\n", stream->config.out_fn);
2126   fprintf(stderr, "Encoder parameters:\n");
2127
2128   SHOW(g_usage);
2129   SHOW(g_threads);
2130   SHOW(g_profile);
2131   SHOW(g_w);
2132   SHOW(g_h);
2133   SHOW(g_timebase.num);
2134   SHOW(g_timebase.den);
2135   SHOW(g_error_resilient);
2136   SHOW(g_pass);
2137   SHOW(g_lag_in_frames);
2138   SHOW(rc_dropframe_thresh);
2139   SHOW(rc_resize_allowed);
2140   SHOW(rc_resize_up_thresh);
2141   SHOW(rc_resize_down_thresh);
2142   SHOW(rc_end_usage);
2143   SHOW(rc_target_bitrate);
2144   SHOW(rc_min_quantizer);
2145   SHOW(rc_max_quantizer);
2146   SHOW(rc_undershoot_pct);
2147   SHOW(rc_overshoot_pct);
2148   SHOW(rc_buf_sz);
2149   SHOW(rc_buf_initial_sz);
2150   SHOW(rc_buf_optimal_sz);
2151   SHOW(rc_2pass_vbr_bias_pct);
2152   SHOW(rc_2pass_vbr_minsection_pct);
2153   SHOW(rc_2pass_vbr_maxsection_pct);
2154   SHOW(kf_mode);
2155   SHOW(kf_min_dist);
2156   SHOW(kf_max_dist);
2157 }
2158
2159
2160 static void open_output_file(struct stream_state *stream,
2161                              struct global_config *global) {
2162   const char *fn = stream->config.out_fn;
2163
2164   stream->file = strcmp(fn, "-") ? fopen(fn, "wb") : set_binary_mode(stdout);
2165
2166   if (!stream->file)
2167     fatal("Failed to open output file");
2168
2169   if (stream->config.write_webm && fseek(stream->file, 0, SEEK_CUR))
2170     fatal("WebM output to pipes not supported.");
2171
2172   if (stream->config.write_webm) {
2173     stream->ebml.stream = stream->file;
2174     write_webm_file_header(&stream->ebml, &stream->config.cfg,
2175                            &global->framerate,
2176                            stream->config.stereo_fmt,
2177                            global->codec->fourcc);
2178   } else
2179     write_ivf_file_header(stream->file, &stream->config.cfg,
2180                           global->codec->fourcc, 0);
2181 }
2182
2183
2184 static void close_output_file(struct stream_state *stream,
2185                               unsigned int         fourcc) {
2186   if (stream->config.write_webm) {
2187     write_webm_file_footer(&stream->ebml, stream->hash);
2188     free(stream->ebml.cue_list);
2189     stream->ebml.cue_list = NULL;
2190   } else {
2191     if (!fseek(stream->file, 0, SEEK_SET))
2192       write_ivf_file_header(stream->file, &stream->config.cfg,
2193                             fourcc,
2194                             stream->frames_out);
2195   }
2196
2197   fclose(stream->file);
2198 }
2199
2200
2201 static void setup_pass(struct stream_state  *stream,
2202                        struct global_config *global,
2203                        int                   pass) {
2204   if (stream->config.stats_fn) {
2205     if (!stats_open_file(&stream->stats, stream->config.stats_fn,
2206                          pass))
2207       fatal("Failed to open statistics store");
2208   } else {
2209     if (!stats_open_mem(&stream->stats, pass))
2210       fatal("Failed to open statistics store");
2211   }
2212
2213   stream->config.cfg.g_pass = global->passes == 2
2214                               ? pass ? VPX_RC_LAST_PASS : VPX_RC_FIRST_PASS
2215                             : VPX_RC_ONE_PASS;
2216   if (pass)
2217     stream->config.cfg.rc_twopass_stats_in = stats_get(&stream->stats);
2218
2219   stream->cx_time = 0;
2220   stream->nbytes = 0;
2221   stream->frames_out = 0;
2222 }
2223
2224
2225 static void initialize_encoder(struct stream_state  *stream,
2226                                struct global_config *global) {
2227   int i;
2228   int flags = 0;
2229
2230   flags |= global->show_psnr ? VPX_CODEC_USE_PSNR : 0;
2231   flags |= global->out_part ? VPX_CODEC_USE_OUTPUT_PARTITION : 0;
2232
2233   /* Construct Encoder Context */
2234   vpx_codec_enc_init(&stream->encoder, global->codec->iface(),
2235                      &stream->config.cfg, flags);
2236   ctx_exit_on_error(&stream->encoder, "Failed to initialize encoder");
2237
2238   /* Note that we bypass the vpx_codec_control wrapper macro because
2239    * we're being clever to store the control IDs in an array. Real
2240    * applications will want to make use of the enumerations directly
2241    */
2242   for (i = 0; i < stream->config.arg_ctrl_cnt; i++) {
2243     int ctrl = stream->config.arg_ctrls[i][0];
2244     int value = stream->config.arg_ctrls[i][1];
2245     if (vpx_codec_control_(&stream->encoder, ctrl, value))
2246       fprintf(stderr, "Error: Tried to set control %d = %d\n",
2247               ctrl, value);
2248
2249     ctx_exit_on_error(&stream->encoder, "Failed to control codec");
2250   }
2251
2252 #if CONFIG_DECODERS
2253   if (global->test_decode != TEST_DECODE_OFF) {
2254     vpx_codec_dec_init(&stream->decoder, global->codec->dx_iface(), NULL, 0);
2255   }
2256 #endif
2257 }
2258
2259
2260 static void encode_frame(struct stream_state  *stream,
2261                          struct global_config *global,
2262                          struct vpx_image     *img,
2263                          unsigned int          frames_in) {
2264   vpx_codec_pts_t frame_start, next_frame_start;
2265   struct vpx_codec_enc_cfg *cfg = &stream->config.cfg;
2266   struct vpx_usec_timer timer;
2267
2268   frame_start = (cfg->g_timebase.den * (int64_t)(frames_in - 1)
2269                  * global->framerate.den)
2270                 / cfg->g_timebase.num / global->framerate.num;
2271   next_frame_start = (cfg->g_timebase.den * (int64_t)(frames_in)
2272                       * global->framerate.den)
2273                      / cfg->g_timebase.num / global->framerate.num;
2274
2275   /* Scale if necessary */
2276   if (img && (img->d_w != cfg->g_w || img->d_h != cfg->g_h)) {
2277     if (!stream->img)
2278       stream->img = vpx_img_alloc(NULL, VPX_IMG_FMT_I420,
2279                                   cfg->g_w, cfg->g_h, 16);
2280     I420Scale(img->planes[VPX_PLANE_Y], img->stride[VPX_PLANE_Y],
2281               img->planes[VPX_PLANE_U], img->stride[VPX_PLANE_U],
2282               img->planes[VPX_PLANE_V], img->stride[VPX_PLANE_V],
2283               img->d_w, img->d_h,
2284               stream->img->planes[VPX_PLANE_Y],
2285               stream->img->stride[VPX_PLANE_Y],
2286               stream->img->planes[VPX_PLANE_U],
2287               stream->img->stride[VPX_PLANE_U],
2288               stream->img->planes[VPX_PLANE_V],
2289               stream->img->stride[VPX_PLANE_V],
2290               stream->img->d_w, stream->img->d_h,
2291               kFilterBox);
2292
2293     img = stream->img;
2294   }
2295
2296   vpx_usec_timer_start(&timer);
2297   vpx_codec_encode(&stream->encoder, img, frame_start,
2298                    (unsigned long)(next_frame_start - frame_start),
2299                    0, global->deadline);
2300   vpx_usec_timer_mark(&timer);
2301   stream->cx_time += vpx_usec_timer_elapsed(&timer);
2302   ctx_exit_on_error(&stream->encoder, "Stream %d: Failed to encode frame",
2303                     stream->index);
2304 }
2305
2306
2307 static void update_quantizer_histogram(struct stream_state *stream) {
2308   if (stream->config.cfg.g_pass != VPX_RC_FIRST_PASS) {
2309     int q;
2310
2311     vpx_codec_control(&stream->encoder, VP8E_GET_LAST_QUANTIZER_64, &q);
2312     ctx_exit_on_error(&stream->encoder, "Failed to read quantizer");
2313     stream->counts[q]++;
2314   }
2315 }
2316
2317
2318 static void get_cx_data(struct stream_state  *stream,
2319                         struct global_config *global,
2320                         int                  *got_data) {
2321   const vpx_codec_cx_pkt_t *pkt;
2322   const struct vpx_codec_enc_cfg *cfg = &stream->config.cfg;
2323   vpx_codec_iter_t iter = NULL;
2324
2325   *got_data = 0;
2326   while ((pkt = vpx_codec_get_cx_data(&stream->encoder, &iter))) {
2327     static size_t fsize = 0;
2328     static off_t ivf_header_pos = 0;
2329
2330     switch (pkt->kind) {
2331       case VPX_CODEC_CX_FRAME_PKT:
2332         if (!(pkt->data.frame.flags & VPX_FRAME_IS_FRAGMENT)) {
2333           stream->frames_out++;
2334         }
2335         if (!global->quiet)
2336           fprintf(stderr, " %6luF", (unsigned long)pkt->data.frame.sz);
2337
2338         update_rate_histogram(&stream->rate_hist, cfg, pkt);
2339         if (stream->config.write_webm) {
2340           /* Update the hash */
2341           if (!stream->ebml.debug)
2342             stream->hash = murmur(pkt->data.frame.buf,
2343                                   (int)pkt->data.frame.sz,
2344                                   stream->hash);
2345
2346           write_webm_block(&stream->ebml, cfg, pkt);
2347         } else {
2348           if (pkt->data.frame.partition_id <= 0) {
2349             ivf_header_pos = ftello(stream->file);
2350             fsize = pkt->data.frame.sz;
2351
2352             write_ivf_frame_header(stream->file, pkt);
2353           } else {
2354             fsize += pkt->data.frame.sz;
2355
2356             if (!(pkt->data.frame.flags & VPX_FRAME_IS_FRAGMENT)) {
2357               off_t currpos = ftello(stream->file);
2358               fseeko(stream->file, ivf_header_pos, SEEK_SET);
2359               write_ivf_frame_size(stream->file, fsize);
2360               fseeko(stream->file, currpos, SEEK_SET);
2361             }
2362           }
2363
2364           (void) fwrite(pkt->data.frame.buf, 1, pkt->data.frame.sz,
2365                         stream->file);
2366         }
2367         stream->nbytes += pkt->data.raw.sz;
2368
2369         *got_data = 1;
2370 #if CONFIG_DECODERS
2371         if (global->test_decode != TEST_DECODE_OFF && !stream->mismatch_seen) {
2372           vpx_codec_decode(&stream->decoder, pkt->data.frame.buf,
2373                            pkt->data.frame.sz, NULL, 0);
2374           if (stream->decoder.err) {
2375             warn_or_exit_on_error(&stream->decoder,
2376                                   global->test_decode == TEST_DECODE_FATAL,
2377                                   "Failed to decode frame %d in stream %d",
2378                                   stream->frames_out + 1, stream->index);
2379             stream->mismatch_seen = stream->frames_out + 1;
2380           }
2381         }
2382 #endif
2383         break;
2384       case VPX_CODEC_STATS_PKT:
2385         stream->frames_out++;
2386         stats_write(&stream->stats,
2387                     pkt->data.twopass_stats.buf,
2388                     pkt->data.twopass_stats.sz);
2389         stream->nbytes += pkt->data.raw.sz;
2390         break;
2391       case VPX_CODEC_PSNR_PKT:
2392
2393         if (global->show_psnr) {
2394           int i;
2395
2396           stream->psnr_sse_total += pkt->data.psnr.sse[0];
2397           stream->psnr_samples_total += pkt->data.psnr.samples[0];
2398           for (i = 0; i < 4; i++) {
2399             if (!global->quiet)
2400               fprintf(stderr, "%.3f ", pkt->data.psnr.psnr[i]);
2401             stream->psnr_totals[i] += pkt->data.psnr.psnr[i];
2402           }
2403           stream->psnr_count++;
2404         }
2405
2406         break;
2407       default:
2408         break;
2409     }
2410   }
2411 }
2412
2413
2414 static void show_psnr(struct stream_state  *stream) {
2415   int i;
2416   double ovpsnr;
2417
2418   if (!stream->psnr_count)
2419     return;
2420
2421   fprintf(stderr, "Stream %d PSNR (Overall/Avg/Y/U/V)", stream->index);
2422   ovpsnr = vp8_mse2psnr((double)stream->psnr_samples_total, 255.0,
2423                         (double)stream->psnr_sse_total);
2424   fprintf(stderr, " %.3f", ovpsnr);
2425
2426   for (i = 0; i < 4; i++) {
2427     fprintf(stderr, " %.3f", stream->psnr_totals[i] / stream->psnr_count);
2428   }
2429   fprintf(stderr, "\n");
2430 }
2431
2432
2433 static float usec_to_fps(uint64_t usec, unsigned int frames) {
2434   return (float)(usec > 0 ? frames * 1000000.0 / (float)usec : 0);
2435 }
2436
2437
2438 static void test_decode(struct stream_state  *stream,
2439                         enum TestDecodeFatality fatal,
2440                         const struct codec_item *codec) {
2441   vpx_image_t enc_img, dec_img;
2442
2443   if (stream->mismatch_seen)
2444     return;
2445
2446   /* Get the internal reference frame */
2447   if (codec->fourcc == VP8_FOURCC) {
2448     struct vpx_ref_frame ref_enc, ref_dec;
2449     int width, height;
2450
2451     width = (stream->config.cfg.g_w + 15) & ~15;
2452     height = (stream->config.cfg.g_h + 15) & ~15;
2453     vpx_img_alloc(&ref_enc.img, VPX_IMG_FMT_I420, width, height, 1);
2454     enc_img = ref_enc.img;
2455     vpx_img_alloc(&ref_dec.img, VPX_IMG_FMT_I420, width, height, 1);
2456     dec_img = ref_dec.img;
2457
2458     ref_enc.frame_type = VP8_LAST_FRAME;
2459     ref_dec.frame_type = VP8_LAST_FRAME;
2460     vpx_codec_control(&stream->encoder, VP8_COPY_REFERENCE, &ref_enc);
2461     vpx_codec_control(&stream->decoder, VP8_COPY_REFERENCE, &ref_dec);
2462   } else {
2463     struct vp9_ref_frame ref;
2464
2465     ref.idx = 0;
2466     vpx_codec_control(&stream->encoder, VP9_GET_REFERENCE, &ref);
2467     enc_img = ref.img;
2468     vpx_codec_control(&stream->decoder, VP9_GET_REFERENCE, &ref);
2469     dec_img = ref.img;
2470   }
2471   ctx_exit_on_error(&stream->encoder, "Failed to get encoder reference frame");
2472   ctx_exit_on_error(&stream->decoder, "Failed to get decoder reference frame");
2473
2474   if (!compare_img(&enc_img, &dec_img)) {
2475     int y[4], u[4], v[4];
2476     find_mismatch(&enc_img, &dec_img, y, u, v);
2477     stream->decoder.err = 1;
2478     warn_or_exit_on_error(&stream->decoder, fatal == TEST_DECODE_FATAL,
2479                           "Stream %d: Encode/decode mismatch on frame %d at"
2480                           " Y[%d, %d] {%d/%d},"
2481                           " U[%d, %d] {%d/%d},"
2482                           " V[%d, %d] {%d/%d}",
2483                           stream->index, stream->frames_out,
2484                           y[0], y[1], y[2], y[3],
2485                           u[0], u[1], u[2], u[3],
2486                           v[0], v[1], v[2], v[3]);
2487     stream->mismatch_seen = stream->frames_out;
2488   }
2489
2490   vpx_img_free(&enc_img);
2491   vpx_img_free(&dec_img);
2492 }
2493
2494
2495 static void print_time(const char *label, int64_t etl) {
2496   int hours, mins, secs;
2497
2498   if (etl >= 0) {
2499     hours = etl / 3600;
2500     etl -= hours * 3600;
2501     mins = etl / 60;
2502     etl -= mins * 60;
2503     secs = etl;
2504
2505     fprintf(stderr, "[%3s %2d:%02d:%02d] ",
2506             label, hours, mins, secs);
2507   } else {
2508     fprintf(stderr, "[%3s  unknown] ", label);
2509   }
2510 }
2511
2512 int main(int argc, const char **argv_) {
2513   int                    pass;
2514   vpx_image_t            raw;
2515   int                    frame_avail, got_data;
2516
2517   struct input_state       input = {0};
2518   struct global_config     global;
2519   struct stream_state     *streams = NULL;
2520   char                   **argv, **argi;
2521   uint64_t                 cx_time = 0;
2522   int                      stream_cnt = 0;
2523   int                      res = 0;
2524
2525   exec_name = argv_[0];
2526
2527   if (argc < 3)
2528     usage_exit();
2529
2530   /* Setup default input stream settings */
2531   input.framerate.num = 30;
2532   input.framerate.den = 1;
2533   input.use_i420 = 1;
2534   input.only_i420 = 1;
2535
2536   /* First parse the global configuration values, because we want to apply
2537    * other parameters on top of the default configuration provided by the
2538    * codec.
2539    */
2540   argv = argv_dup(argc - 1, argv_ + 1);
2541   parse_global_config(&global, argv);
2542
2543   {
2544     /* Now parse each stream's parameters. Using a local scope here
2545      * due to the use of 'stream' as loop variable in FOREACH_STREAM
2546      * loops
2547      */
2548     struct stream_state *stream = NULL;
2549
2550     do {
2551       stream = new_stream(&global, stream);
2552       stream_cnt++;
2553       if (!streams)
2554         streams = stream;
2555     } while (parse_stream_params(&global, stream, argv));
2556   }
2557
2558   /* Check for unrecognized options */
2559   for (argi = argv; *argi; argi++)
2560     if (argi[0][0] == '-' && argi[0][1])
2561       die("Error: Unrecognized option %s\n", *argi);
2562
2563   /* Handle non-option arguments */
2564   input.fn = argv[0];
2565
2566   if (!input.fn)
2567     usage_exit();
2568
2569 #if CONFIG_NON420
2570   /* Decide if other chroma subsamplings than 4:2:0 are supported */
2571   if (global.codec->fourcc == VP9_FOURCC)
2572     input.only_i420 = 0;
2573 #endif
2574
2575   for (pass = global.pass ? global.pass - 1 : 0; pass < global.passes; pass++) {
2576     int frames_in = 0, seen_frames = 0;
2577     int64_t estimated_time_left = -1;
2578     int64_t average_rate = -1;
2579     off_t lagged_count = 0;
2580
2581     open_input_file(&input);
2582
2583     /* If the input file doesn't specify its w/h (raw files), try to get
2584      * the data from the first stream's configuration.
2585      */
2586     if (!input.w || !input.h)
2587       FOREACH_STREAM( {
2588       if (stream->config.cfg.g_w && stream->config.cfg.g_h) {
2589         input.w = stream->config.cfg.g_w;
2590         input.h = stream->config.cfg.g_h;
2591         break;
2592       }
2593     });
2594
2595     /* Update stream configurations from the input file's parameters */
2596     if (!input.w || !input.h)
2597       fatal("Specify stream dimensions with --width (-w) "
2598             " and --height (-h)");
2599     FOREACH_STREAM(set_stream_dimensions(stream, input.w, input.h));
2600     FOREACH_STREAM(validate_stream_config(stream));
2601
2602     /* Ensure that --passes and --pass are consistent. If --pass is set and
2603      * --passes=2, ensure --fpf was set.
2604      */
2605     if (global.pass && global.passes == 2)
2606       FOREACH_STREAM( {
2607       if (!stream->config.stats_fn)
2608         die("Stream %d: Must specify --fpf when --pass=%d"
2609         " and --passes=2\n", stream->index, global.pass);
2610     });
2611
2612     /* Use the frame rate from the file only if none was specified
2613      * on the command-line.
2614      */
2615     if (!global.have_framerate)
2616       global.framerate = input.framerate;
2617
2618     FOREACH_STREAM(set_default_kf_interval(stream, &global));
2619
2620     /* Show configuration */
2621     if (global.verbose && pass == 0)
2622       FOREACH_STREAM(show_stream_config(stream, &global, &input));
2623
2624     if (pass == (global.pass ? global.pass - 1 : 0)) {
2625       if (input.file_type == FILE_TYPE_Y4M)
2626         /*The Y4M reader does its own allocation.
2627           Just initialize this here to avoid problems if we never read any
2628            frames.*/
2629         memset(&raw, 0, sizeof(raw));
2630       else
2631         vpx_img_alloc(&raw,
2632                       input.use_i420 ? VPX_IMG_FMT_I420
2633                       : VPX_IMG_FMT_YV12,
2634                       input.w, input.h, 32);
2635
2636       FOREACH_STREAM(init_rate_histogram(&stream->rate_hist,
2637                                          &stream->config.cfg,
2638                                          &global.framerate));
2639     }
2640
2641     FOREACH_STREAM(setup_pass(stream, &global, pass));
2642     FOREACH_STREAM(open_output_file(stream, &global));
2643     FOREACH_STREAM(initialize_encoder(stream, &global));
2644
2645     frame_avail = 1;
2646     got_data = 0;
2647
2648     while (frame_avail || got_data) {
2649       struct vpx_usec_timer timer;
2650
2651       if (!global.limit || frames_in < global.limit) {
2652         frame_avail = read_frame(&input, &raw);
2653
2654         if (frame_avail)
2655           frames_in++;
2656         seen_frames = frames_in > global.skip_frames ?
2657                           frames_in - global.skip_frames : 0;
2658
2659         if (!global.quiet) {
2660           float fps = usec_to_fps(cx_time, seen_frames);
2661           fprintf(stderr, "\rPass %d/%d ", pass + 1, global.passes);
2662
2663           if (stream_cnt == 1)
2664             fprintf(stderr,
2665                     "frame %4d/%-4d %7"PRId64"B ",
2666                     frames_in, streams->frames_out, (int64_t)streams->nbytes);
2667           else
2668             fprintf(stderr, "frame %4d ", frames_in);
2669
2670           fprintf(stderr, "%7"PRId64" %s %.2f %s ",
2671                   cx_time > 9999999 ? cx_time / 1000 : cx_time,
2672                   cx_time > 9999999 ? "ms" : "us",
2673                   fps >= 1.0 ? fps : 1000.0 / fps,
2674                   fps >= 1.0 ? "fps" : "ms/f");
2675           print_time("ETA", estimated_time_left);
2676           fprintf(stderr, "\033[K");
2677         }
2678
2679       } else
2680         frame_avail = 0;
2681
2682       if (frames_in > global.skip_frames) {
2683         vpx_usec_timer_start(&timer);
2684         FOREACH_STREAM(encode_frame(stream, &global,
2685                                     frame_avail ? &raw : NULL,
2686                                     frames_in));
2687         vpx_usec_timer_mark(&timer);
2688         cx_time += vpx_usec_timer_elapsed(&timer);
2689
2690         FOREACH_STREAM(update_quantizer_histogram(stream));
2691
2692         got_data = 0;
2693         FOREACH_STREAM(get_cx_data(stream, &global, &got_data));
2694
2695         if (!got_data && input.length && !streams->frames_out) {
2696           lagged_count = global.limit ? seen_frames : ftello(input.file);
2697         } else if (input.length) {
2698           int64_t remaining;
2699           int64_t rate;
2700
2701           if (global.limit) {
2702             int frame_in_lagged = (seen_frames - lagged_count) * 1000;
2703
2704             rate = cx_time ? frame_in_lagged * (int64_t)1000000 / cx_time : 0;
2705             remaining = 1000 * (global.limit - global.skip_frames
2706                                 - seen_frames + lagged_count);
2707           } else {
2708             off_t input_pos = ftello(input.file);
2709             off_t input_pos_lagged = input_pos - lagged_count;
2710             int64_t limit = input.length;
2711
2712             rate = cx_time ? input_pos_lagged * (int64_t)1000000 / cx_time : 0;
2713             remaining = limit - input_pos + lagged_count;
2714           }
2715
2716           average_rate = (average_rate <= 0)
2717               ? rate
2718               : (average_rate * 7 + rate) / 8;
2719           estimated_time_left = average_rate ? remaining / average_rate : -1;
2720         }
2721
2722         if (got_data && global.test_decode != TEST_DECODE_OFF)
2723           FOREACH_STREAM(test_decode(stream, global.test_decode, global.codec));
2724       }
2725
2726       fflush(stdout);
2727     }
2728
2729     if (stream_cnt > 1)
2730       fprintf(stderr, "\n");
2731
2732     if (!global.quiet)
2733       FOREACH_STREAM(fprintf(
2734                        stderr,
2735                        "\rPass %d/%d frame %4d/%-4d %7"PRId64"B %7lub/f %7"PRId64"b/s"
2736                        " %7"PRId64" %s (%.2f fps)\033[K\n", pass + 1,
2737                        global.passes, frames_in, stream->frames_out, (int64_t)stream->nbytes,
2738                        seen_frames ? (unsigned long)(stream->nbytes * 8 / seen_frames) : 0,
2739                        seen_frames ? (int64_t)stream->nbytes * 8
2740                        * (int64_t)global.framerate.num / global.framerate.den
2741                        / seen_frames
2742                        : 0,
2743                        stream->cx_time > 9999999 ? stream->cx_time / 1000 : stream->cx_time,
2744                        stream->cx_time > 9999999 ? "ms" : "us",
2745                        usec_to_fps(stream->cx_time, seen_frames));
2746                     );
2747
2748     if (global.show_psnr)
2749       FOREACH_STREAM(show_psnr(stream));
2750
2751     FOREACH_STREAM(vpx_codec_destroy(&stream->encoder));
2752
2753     if (global.test_decode != TEST_DECODE_OFF) {
2754       FOREACH_STREAM(vpx_codec_destroy(&stream->decoder));
2755     }
2756
2757     close_input_file(&input);
2758
2759     if (global.test_decode == TEST_DECODE_FATAL) {
2760       FOREACH_STREAM(res |= stream->mismatch_seen);
2761     }
2762     FOREACH_STREAM(close_output_file(stream, global.codec->fourcc));
2763
2764     FOREACH_STREAM(stats_close(&stream->stats, global.passes - 1));
2765
2766     if (global.pass)
2767       break;
2768   }
2769
2770   if (global.show_q_hist_buckets)
2771     FOREACH_STREAM(show_q_histogram(stream->counts,
2772                                     global.show_q_hist_buckets));
2773
2774   if (global.show_rate_hist_buckets)
2775     FOREACH_STREAM(show_rate_histogram(&stream->rate_hist,
2776                                        &stream->config.cfg,
2777                                        global.show_rate_hist_buckets));
2778   FOREACH_STREAM(destroy_rate_histogram(&stream->rate_hist));
2779
2780 #if CONFIG_INTERNAL_STATS
2781   /* TODO(jkoleszar): This doesn't belong in this executable. Do it for now,
2782    * to match some existing utilities.
2783    */
2784   FOREACH_STREAM({
2785     FILE *f = fopen("opsnr.stt", "a");
2786     if (stream->mismatch_seen) {
2787       fprintf(f, "First mismatch occurred in frame %d\n",
2788               stream->mismatch_seen);
2789     } else {
2790       fprintf(f, "No mismatch detected in recon buffers\n");
2791     }
2792     fclose(f);
2793   });
2794 #endif
2795
2796   vpx_img_free(&raw);
2797   free(argv);
2798   free(streams);
2799   return res ? EXIT_FAILURE : EXIT_SUCCESS;
2800 }