granicus.if.org Git - libvpx/blob - vpx_dsp/vpx_dsp_rtcd_defs.pl

   1 sub vpx_dsp_forward_decls() {
   2 print <<EOF
   3 /*
   4  * DSP
   5  */
   6
   7 #include "vpx/vpx_integer.h"
   8 #include "vpx_dsp/vpx_dsp_common.h"
   9
  10 EOF
  11 }
  12 forward_decls qw/vpx_dsp_forward_decls/;
  13
  14 # functions that are 64 bit only.
  15 $mmx_x86_64 = $sse2_x86_64 = $ssse3_x86_64 = $avx_x86_64 = $avx2_x86_64 = '';
  16 if ($opts{arch} eq "x86_64") {
  17   $mmx_x86_64 = 'mmx';
  18   $sse2_x86_64 = 'sse2';
  19   $ssse3_x86_64 = 'ssse3';
  20   $avx_x86_64 = 'avx';
  21   $avx2_x86_64 = 'avx2';
  22 }
  23
  24 #
  25 # Intra prediction
  26 #
  27
  28 add_proto qw/void vpx_d207_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  29 specialize qw/vpx_d207_predictor_4x4 sse2/;
  30
  31 add_proto qw/void vpx_d45_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  32 specialize qw/vpx_d45_predictor_4x4 neon sse2/;
  33
  34 add_proto qw/void vpx_d45e_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  35
  36 add_proto qw/void vpx_d63_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  37 specialize qw/vpx_d63_predictor_4x4 ssse3/;
  38
  39 add_proto qw/void vpx_d63e_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  40
  41 add_proto qw/void vpx_h_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  42 specialize qw/vpx_h_predictor_4x4 neon dspr2 msa sse2/;
  43
  44 add_proto qw/void vpx_he_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  45
  46 add_proto qw/void vpx_d117_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  47
  48 add_proto qw/void vpx_d135_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  49 specialize qw/vpx_d135_predictor_4x4 neon/;
  50
  51 add_proto qw/void vpx_d153_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  52 specialize qw/vpx_d153_predictor_4x4 ssse3/;
  53
  54 add_proto qw/void vpx_v_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  55 specialize qw/vpx_v_predictor_4x4 neon msa sse2/;
  56
  57 add_proto qw/void vpx_ve_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  58
  59 add_proto qw/void vpx_tm_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  60 specialize qw/vpx_tm_predictor_4x4 neon dspr2 msa sse2/;
  61
  62 add_proto qw/void vpx_dc_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  63 specialize qw/vpx_dc_predictor_4x4 dspr2 msa neon sse2/;
  64
  65 add_proto qw/void vpx_dc_top_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  66 specialize qw/vpx_dc_top_predictor_4x4 msa neon sse2/;
  67
  68 add_proto qw/void vpx_dc_left_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  69 specialize qw/vpx_dc_left_predictor_4x4 msa neon sse2/;
  70
  71 add_proto qw/void vpx_dc_128_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  72 specialize qw/vpx_dc_128_predictor_4x4 msa neon sse2/;
  73
  74 add_proto qw/void vpx_d207_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  75 specialize qw/vpx_d207_predictor_8x8 ssse3/;
  76
  77 add_proto qw/void vpx_d45_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  78 specialize qw/vpx_d45_predictor_8x8 neon sse2/;
  79
  80 add_proto qw/void vpx_d63_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  81 specialize qw/vpx_d63_predictor_8x8 ssse3/;
  82
  83 add_proto qw/void vpx_h_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  84 specialize qw/vpx_h_predictor_8x8 neon dspr2 msa sse2/;
  85
  86 add_proto qw/void vpx_d117_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  87
  88 add_proto qw/void vpx_d135_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  89 specialize qw/vpx_d135_predictor_8x8 neon/;
  90
  91 add_proto qw/void vpx_d153_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  92 specialize qw/vpx_d153_predictor_8x8 ssse3/;
  93
  94 add_proto qw/void vpx_v_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  95 specialize qw/vpx_v_predictor_8x8 neon msa sse2/;
  96
  97 add_proto qw/void vpx_tm_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  98 specialize qw/vpx_tm_predictor_8x8 neon dspr2 msa sse2/;
  99
 100 add_proto qw/void vpx_dc_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 101 specialize qw/vpx_dc_predictor_8x8 dspr2 neon msa sse2/;
 102
 103 add_proto qw/void vpx_dc_top_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 104 specialize qw/vpx_dc_top_predictor_8x8 neon msa sse2/;
 105
 106 add_proto qw/void vpx_dc_left_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 107 specialize qw/vpx_dc_left_predictor_8x8 neon msa sse2/;
 108
 109 add_proto qw/void vpx_dc_128_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 110 specialize qw/vpx_dc_128_predictor_8x8 neon msa sse2/;
 111
 112 add_proto qw/void vpx_d207_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 113 specialize qw/vpx_d207_predictor_16x16 ssse3/;
 114
 115 add_proto qw/void vpx_d45_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 116 specialize qw/vpx_d45_predictor_16x16 neon ssse3/;
 117
 118 add_proto qw/void vpx_d63_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 119 specialize qw/vpx_d63_predictor_16x16 ssse3/;
 120
 121 add_proto qw/void vpx_h_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 122 specialize qw/vpx_h_predictor_16x16 neon dspr2 msa sse2/;
 123
 124 add_proto qw/void vpx_d117_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 125
 126 add_proto qw/void vpx_d135_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 127 specialize qw/vpx_d135_predictor_16x16 neon/;
 128
 129 add_proto qw/void vpx_d153_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 130 specialize qw/vpx_d153_predictor_16x16 ssse3/;
 131
 132 add_proto qw/void vpx_v_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 133 specialize qw/vpx_v_predictor_16x16 neon msa sse2/;
 134
 135 add_proto qw/void vpx_tm_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 136 specialize qw/vpx_tm_predictor_16x16 neon msa sse2/;
 137
 138 add_proto qw/void vpx_dc_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 139 specialize qw/vpx_dc_predictor_16x16 dspr2 neon msa sse2/;
 140
 141 add_proto qw/void vpx_dc_top_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 142 specialize qw/vpx_dc_top_predictor_16x16 neon msa sse2/;
 143
 144 add_proto qw/void vpx_dc_left_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 145 specialize qw/vpx_dc_left_predictor_16x16 neon msa sse2/;
 146
 147 add_proto qw/void vpx_dc_128_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 148 specialize qw/vpx_dc_128_predictor_16x16 neon msa sse2/;
 149
 150 add_proto qw/void vpx_d207_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 151 specialize qw/vpx_d207_predictor_32x32 ssse3/;
 152
 153 add_proto qw/void vpx_d45_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 154 specialize qw/vpx_d45_predictor_32x32 neon ssse3/;
 155
 156 add_proto qw/void vpx_d63_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 157 specialize qw/vpx_d63_predictor_32x32 ssse3/;
 158
 159 add_proto qw/void vpx_h_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 160 specialize qw/vpx_h_predictor_32x32 neon msa sse2/;
 161
 162 add_proto qw/void vpx_d117_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 163
 164 add_proto qw/void vpx_d135_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 165 specialize qw/vpx_d135_predictor_32x32 neon/;
 166
 167 add_proto qw/void vpx_d153_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 168 specialize qw/vpx_d153_predictor_32x32 ssse3/;
 169
 170 add_proto qw/void vpx_v_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 171 specialize qw/vpx_v_predictor_32x32 neon msa sse2/;
 172
 173 add_proto qw/void vpx_tm_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 174 specialize qw/vpx_tm_predictor_32x32 neon msa sse2/;
 175
 176 add_proto qw/void vpx_dc_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 177 specialize qw/vpx_dc_predictor_32x32 msa neon sse2/;
 178
 179 add_proto qw/void vpx_dc_top_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 180 specialize qw/vpx_dc_top_predictor_32x32 msa neon sse2/;
 181
 182 add_proto qw/void vpx_dc_left_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 183 specialize qw/vpx_dc_left_predictor_32x32 msa neon sse2/;
 184
 185 add_proto qw/void vpx_dc_128_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 186 specialize qw/vpx_dc_128_predictor_32x32 msa neon sse2/;
 187
 188 # High bitdepth functions
 189 if (vpx_config("CONFIG_VP9_HIGHBITDEPTH") eq "yes") {
 190   add_proto qw/void vpx_highbd_d207_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 191
 192   add_proto qw/void vpx_highbd_d45_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 193   specialize qw/vpx_highbd_d45_predictor_4x4 neon/;
 194
 195   add_proto qw/void vpx_highbd_d63_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 196
 197   add_proto qw/void vpx_highbd_h_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 198   specialize qw/vpx_highbd_h_predictor_4x4 neon/;
 199
 200   add_proto qw/void vpx_highbd_d117_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 201
 202   add_proto qw/void vpx_highbd_d135_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 203   specialize qw/vpx_highbd_d135_predictor_4x4 neon/;
 204
 205   add_proto qw/void vpx_highbd_d153_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 206
 207   add_proto qw/void vpx_highbd_v_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 208   specialize qw/vpx_highbd_v_predictor_4x4 neon sse2/;
 209
 210   add_proto qw/void vpx_highbd_tm_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 211   specialize qw/vpx_highbd_tm_predictor_4x4 neon sse2/;
 212
 213   add_proto qw/void vpx_highbd_dc_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 214   specialize qw/vpx_highbd_dc_predictor_4x4 neon sse2/;
 215
 216   add_proto qw/void vpx_highbd_dc_top_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 217   specialize qw/vpx_highbd_dc_top_predictor_4x4 neon/;
 218
 219   add_proto qw/void vpx_highbd_dc_left_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 220   specialize qw/vpx_highbd_dc_left_predictor_4x4 neon/;
 221
 222   add_proto qw/void vpx_highbd_dc_128_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 223   specialize qw/vpx_highbd_dc_128_predictor_4x4 neon/;
 224
 225   add_proto qw/void vpx_highbd_d207_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 226
 227   add_proto qw/void vpx_highbd_d45_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 228   specialize qw/vpx_highbd_d45_predictor_8x8 neon/;
 229
 230   add_proto qw/void vpx_highbd_d63_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 231
 232   add_proto qw/void vpx_highbd_h_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 233   specialize qw/vpx_highbd_h_predictor_8x8 neon/;
 234
 235   add_proto qw/void vpx_highbd_d117_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 236
 237   add_proto qw/void vpx_highbd_d135_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 238   specialize qw/vpx_highbd_d135_predictor_8x8 neon/;
 239
 240   add_proto qw/void vpx_highbd_d153_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 241
 242   add_proto qw/void vpx_highbd_v_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 243   specialize qw/vpx_highbd_v_predictor_8x8 neon sse2/;
 244
 245   add_proto qw/void vpx_highbd_tm_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 246   specialize qw/vpx_highbd_tm_predictor_8x8 neon sse2/;
 247
 248   add_proto qw/void vpx_highbd_dc_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 249   specialize qw/vpx_highbd_dc_predictor_8x8 neon sse2/;
 250
 251   add_proto qw/void vpx_highbd_dc_top_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 252   specialize qw/vpx_highbd_dc_top_predictor_8x8 neon/;
 253
 254   add_proto qw/void vpx_highbd_dc_left_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 255   specialize qw/vpx_highbd_dc_left_predictor_8x8 neon/;
 256
 257   add_proto qw/void vpx_highbd_dc_128_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 258   specialize qw/vpx_highbd_dc_128_predictor_8x8 neon/;
 259
 260   add_proto qw/void vpx_highbd_d207_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 261
 262   add_proto qw/void vpx_highbd_d45_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 263   specialize qw/vpx_highbd_d45_predictor_16x16 neon/;
 264
 265   add_proto qw/void vpx_highbd_d63_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 266
 267   add_proto qw/void vpx_highbd_h_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 268   specialize qw/vpx_highbd_h_predictor_16x16 neon/;
 269
 270   add_proto qw/void vpx_highbd_d117_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 271
 272   add_proto qw/void vpx_highbd_d135_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 273   specialize qw/vpx_highbd_d135_predictor_16x16 neon/;
 274
 275   add_proto qw/void vpx_highbd_d153_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 276
 277   add_proto qw/void vpx_highbd_v_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 278   specialize qw/vpx_highbd_v_predictor_16x16 neon sse2/;
 279
 280   add_proto qw/void vpx_highbd_tm_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 281   specialize qw/vpx_highbd_tm_predictor_16x16 neon sse2/;
 282
 283   add_proto qw/void vpx_highbd_dc_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 284   specialize qw/vpx_highbd_dc_predictor_16x16 neon sse2/;
 285
 286   add_proto qw/void vpx_highbd_dc_top_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 287   specialize qw/vpx_highbd_dc_top_predictor_16x16 neon/;
 288
 289   add_proto qw/void vpx_highbd_dc_left_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 290   specialize qw/vpx_highbd_dc_left_predictor_16x16 neon/;
 291
 292   add_proto qw/void vpx_highbd_dc_128_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 293   specialize qw/vpx_highbd_dc_128_predictor_16x16 neon/;
 294
 295   add_proto qw/void vpx_highbd_d207_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 296
 297   add_proto qw/void vpx_highbd_d45_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 298   specialize qw/vpx_highbd_d45_predictor_32x32 neon/;
 299
 300   add_proto qw/void vpx_highbd_d63_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 301
 302   add_proto qw/void vpx_highbd_h_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 303   specialize qw/vpx_highbd_h_predictor_32x32 neon/;
 304
 305   add_proto qw/void vpx_highbd_d117_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 306
 307   add_proto qw/void vpx_highbd_d135_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 308   specialize qw/vpx_highbd_d135_predictor_32x32 neon/;
 309
 310   add_proto qw/void vpx_highbd_d153_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 311
 312   add_proto qw/void vpx_highbd_v_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 313   specialize qw/vpx_highbd_v_predictor_32x32 neon sse2/;
 314
 315   add_proto qw/void vpx_highbd_tm_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 316   specialize qw/vpx_highbd_tm_predictor_32x32 neon sse2/;
 317
 318   add_proto qw/void vpx_highbd_dc_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 319   specialize qw/vpx_highbd_dc_predictor_32x32 neon sse2/;
 320
 321   add_proto qw/void vpx_highbd_dc_top_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 322   specialize qw/vpx_highbd_dc_top_predictor_32x32 neon/;
 323
 324   add_proto qw/void vpx_highbd_dc_left_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 325   specialize qw/vpx_highbd_dc_left_predictor_32x32 neon/;
 326
 327   add_proto qw/void vpx_highbd_dc_128_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 328   specialize qw/vpx_highbd_dc_128_predictor_32x32 neon/;
 329 }  # CONFIG_VP9_HIGHBITDEPTH
 330
 331 #
 332 # Sub Pixel Filters
 333 #
 334 add_proto qw/void vpx_convolve_copy/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 335 specialize qw/vpx_convolve_copy neon dspr2 msa sse2/;
 336
 337 add_proto qw/void vpx_convolve_avg/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 338 specialize qw/vpx_convolve_avg neon dspr2 msa sse2/;
 339
 340 add_proto qw/void vpx_convolve8/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 341 specialize qw/vpx_convolve8 sse2 ssse3 avx2 neon dspr2 msa/;
 342
 343 add_proto qw/void vpx_convolve8_horiz/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 344 specialize qw/vpx_convolve8_horiz sse2 ssse3 avx2 neon dspr2 msa/;
 345
 346 add_proto qw/void vpx_convolve8_vert/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 347 specialize qw/vpx_convolve8_vert sse2 ssse3 avx2 neon dspr2 msa/;
 348
 349 add_proto qw/void vpx_convolve8_avg/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 350 specialize qw/vpx_convolve8_avg sse2 ssse3 neon dspr2 msa/;
 351
 352 add_proto qw/void vpx_convolve8_avg_horiz/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 353 specialize qw/vpx_convolve8_avg_horiz sse2 ssse3 neon dspr2 msa/;
 354
 355 add_proto qw/void vpx_convolve8_avg_vert/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 356 specialize qw/vpx_convolve8_avg_vert sse2 ssse3 neon dspr2 msa/;
 357
 358 add_proto qw/void vpx_scaled_2d/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 359 specialize qw/vpx_scaled_2d ssse3/;
 360
 361 add_proto qw/void vpx_scaled_horiz/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 362
 363 add_proto qw/void vpx_scaled_vert/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 364
 365 add_proto qw/void vpx_scaled_avg_2d/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 366
 367 add_proto qw/void vpx_scaled_avg_horiz/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 368
 369 add_proto qw/void vpx_scaled_avg_vert/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 370
 371 if (vpx_config("CONFIG_VP9_HIGHBITDEPTH") eq "yes") {
 372   #
 373   # Sub Pixel Filters
 374   #
 375   add_proto qw/void vpx_highbd_convolve_copy/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h, int bps";
 376   specialize qw/vpx_highbd_convolve_copy sse2 avx2 neon/;
 377
 378   add_proto qw/void vpx_highbd_convolve_avg/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h, int bps";
 379   specialize qw/vpx_highbd_convolve_avg sse2 avx2 neon/;
 380
 381   add_proto qw/void vpx_highbd_convolve8/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h, int bps";
 382   specialize qw/vpx_highbd_convolve8 neon/, "$sse2_x86_64";
 383
 384   add_proto qw/void vpx_highbd_convolve8_horiz/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h, int bps";
 385   specialize qw/vpx_highbd_convolve8_horiz neon/, "$sse2_x86_64";
 386
 387   add_proto qw/void vpx_highbd_convolve8_vert/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h, int bps";
 388   specialize qw/vpx_highbd_convolve8_vert neon/, "$sse2_x86_64";
 389
 390   add_proto qw/void vpx_highbd_convolve8_avg/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h, int bps";
 391   specialize qw/vpx_highbd_convolve8_avg neon/, "$sse2_x86_64";
 392
 393   add_proto qw/void vpx_highbd_convolve8_avg_horiz/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h, int bps";
 394   specialize qw/vpx_highbd_convolve8_avg_horiz neon/, "$sse2_x86_64";
 395
 396   add_proto qw/void vpx_highbd_convolve8_avg_vert/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h, int bps";
 397   specialize qw/vpx_highbd_convolve8_avg_vert neon/, "$sse2_x86_64";
 398 }  # CONFIG_VP9_HIGHBITDEPTH
 399
 400 #
 401 # Loopfilter
 402 #
 403 add_proto qw/void vpx_lpf_vertical_16/, "uint8_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh";
 404 specialize qw/vpx_lpf_vertical_16 sse2 neon dspr2 msa/;
 405
 406 add_proto qw/void vpx_lpf_vertical_16_dual/, "uint8_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh";
 407 specialize qw/vpx_lpf_vertical_16_dual sse2 neon dspr2 msa/;
 408
 409 add_proto qw/void vpx_lpf_vertical_8/, "uint8_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh";
 410 specialize qw/vpx_lpf_vertical_8 sse2 neon dspr2 msa/;
 411
 412 add_proto qw/void vpx_lpf_vertical_8_dual/, "uint8_t *s, int pitch, const uint8_t *blimit0, const uint8_t *limit0, const uint8_t *thresh0, const uint8_t *blimit1, const uint8_t *limit1, const uint8_t *thresh1";
 413 specialize qw/vpx_lpf_vertical_8_dual sse2 neon dspr2 msa/;
 414
 415 add_proto qw/void vpx_lpf_vertical_4/, "uint8_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh";
 416 specialize qw/vpx_lpf_vertical_4 sse2 neon dspr2 msa/;
 417
 418 add_proto qw/void vpx_lpf_vertical_4_dual/, "uint8_t *s, int pitch, const uint8_t *blimit0, const uint8_t *limit0, const uint8_t *thresh0, const uint8_t *blimit1, const uint8_t *limit1, const uint8_t *thresh1";
 419 specialize qw/vpx_lpf_vertical_4_dual sse2 neon dspr2 msa/;
 420
 421 add_proto qw/void vpx_lpf_horizontal_16/, "uint8_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh";
 422 specialize qw/vpx_lpf_horizontal_16 sse2 avx2 neon dspr2 msa/;
 423
 424 add_proto qw/void vpx_lpf_horizontal_16_dual/, "uint8_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh";
 425 specialize qw/vpx_lpf_horizontal_16_dual sse2 avx2 neon dspr2 msa/;
 426
 427 add_proto qw/void vpx_lpf_horizontal_8/, "uint8_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh";
 428 specialize qw/vpx_lpf_horizontal_8 sse2 neon dspr2 msa/;
 429
 430 add_proto qw/void vpx_lpf_horizontal_8_dual/, "uint8_t *s, int pitch, const uint8_t *blimit0, const uint8_t *limit0, const uint8_t *thresh0, const uint8_t *blimit1, const uint8_t *limit1, const uint8_t *thresh1";
 431 specialize qw/vpx_lpf_horizontal_8_dual sse2 neon dspr2 msa/;
 432
 433 add_proto qw/void vpx_lpf_horizontal_4/, "uint8_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh";
 434 specialize qw/vpx_lpf_horizontal_4 sse2 neon dspr2 msa/;
 435
 436 add_proto qw/void vpx_lpf_horizontal_4_dual/, "uint8_t *s, int pitch, const uint8_t *blimit0, const uint8_t *limit0, const uint8_t *thresh0, const uint8_t *blimit1, const uint8_t *limit1, const uint8_t *thresh1";
 437 specialize qw/vpx_lpf_horizontal_4_dual sse2 neon dspr2 msa/;
 438
 439 if (vpx_config("CONFIG_VP9_HIGHBITDEPTH") eq "yes") {
 440   add_proto qw/void vpx_highbd_lpf_vertical_16/, "uint16_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh, int bd";
 441   specialize qw/vpx_highbd_lpf_vertical_16 sse2 neon/;
 442
 443   add_proto qw/void vpx_highbd_lpf_vertical_16_dual/, "uint16_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh, int bd";
 444   specialize qw/vpx_highbd_lpf_vertical_16_dual sse2 neon/;
 445
 446   add_proto qw/void vpx_highbd_lpf_vertical_8/, "uint16_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh, int bd";
 447   specialize qw/vpx_highbd_lpf_vertical_8 sse2 neon/;
 448
 449   add_proto qw/void vpx_highbd_lpf_vertical_8_dual/, "uint16_t *s, int pitch, const uint8_t *blimit0, const uint8_t *limit0, const uint8_t *thresh0, const uint8_t *blimit1, const uint8_t *limit1, const uint8_t *thresh1, int bd";
 450   specialize qw/vpx_highbd_lpf_vertical_8_dual sse2 neon/;
 451
 452   add_proto qw/void vpx_highbd_lpf_vertical_4/, "uint16_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh, int bd";
 453   specialize qw/vpx_highbd_lpf_vertical_4 sse2 neon/;
 454
 455   add_proto qw/void vpx_highbd_lpf_vertical_4_dual/, "uint16_t *s, int pitch, const uint8_t *blimit0, const uint8_t *limit0, const uint8_t *thresh0, const uint8_t *blimit1, const uint8_t *limit1, const uint8_t *thresh1, int bd";
 456   specialize qw/vpx_highbd_lpf_vertical_4_dual sse2 neon/;
 457
 458   add_proto qw/void vpx_highbd_lpf_horizontal_16/, "uint16_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh, int bd";
 459   specialize qw/vpx_highbd_lpf_horizontal_16 sse2 neon/;
 460
 461   add_proto qw/void vpx_highbd_lpf_horizontal_16_dual/, "uint16_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh, int bd";
 462   specialize qw/vpx_highbd_lpf_horizontal_16_dual sse2 neon/;
 463
 464   add_proto qw/void vpx_highbd_lpf_horizontal_8/, "uint16_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh, int bd";
 465   specialize qw/vpx_highbd_lpf_horizontal_8 sse2 neon/;
 466
 467   add_proto qw/void vpx_highbd_lpf_horizontal_8_dual/, "uint16_t *s, int pitch, const uint8_t *blimit0, const uint8_t *limit0, const uint8_t *thresh0, const uint8_t *blimit1, const uint8_t *limit1, const uint8_t *thresh1, int bd";
 468   specialize qw/vpx_highbd_lpf_horizontal_8_dual sse2 neon/;
 469
 470   add_proto qw/void vpx_highbd_lpf_horizontal_4/, "uint16_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh, int bd";
 471   specialize qw/vpx_highbd_lpf_horizontal_4 sse2 neon/;
 472
 473   add_proto qw/void vpx_highbd_lpf_horizontal_4_dual/, "uint16_t *s, int pitch, const uint8_t *blimit0, const uint8_t *limit0, const uint8_t *thresh0, const uint8_t *blimit1, const uint8_t *limit1, const uint8_t *thresh1, int bd";
 474   specialize qw/vpx_highbd_lpf_horizontal_4_dual sse2 neon/;
 475 }  # CONFIG_VP9_HIGHBITDEPTH
 476
 477 #
 478 # Encoder functions.
 479 #
 480
 481 #
 482 # Forward transform
 483 #
 484 if (vpx_config("CONFIG_VP9_ENCODER") eq "yes") {
 485 if (vpx_config("CONFIG_VP9_HIGHBITDEPTH") eq "yes") {
 486   add_proto qw/void vpx_fdct4x4/, "const int16_t *input, tran_low_t *output, int stride";
 487   specialize qw/vpx_fdct4x4 sse2/;
 488
 489   add_proto qw/void vpx_fdct4x4_1/, "const int16_t *input, tran_low_t *output, int stride";
 490   specialize qw/vpx_fdct4x4_1 sse2/;
 491
 492   add_proto qw/void vpx_fdct8x8/, "const int16_t *input, tran_low_t *output, int stride";
 493   specialize qw/vpx_fdct8x8 neon sse2/;
 494
 495   add_proto qw/void vpx_fdct8x8_1/, "const int16_t *input, tran_low_t *output, int stride";
 496   specialize qw/vpx_fdct8x8_1 neon sse2/;
 497
 498   add_proto qw/void vpx_fdct16x16/, "const int16_t *input, tran_low_t *output, int stride";
 499   specialize qw/vpx_fdct16x16 sse2/;
 500
 501   add_proto qw/void vpx_fdct16x16_1/, "const int16_t *input, tran_low_t *output, int stride";
 502   specialize qw/vpx_fdct16x16_1 sse2/;
 503
 504   add_proto qw/void vpx_fdct32x32/, "const int16_t *input, tran_low_t *output, int stride";
 505   specialize qw/vpx_fdct32x32 sse2/;
 506
 507   add_proto qw/void vpx_fdct32x32_rd/, "const int16_t *input, tran_low_t *output, int stride";
 508   specialize qw/vpx_fdct32x32_rd sse2/;
 509
 510   add_proto qw/void vpx_fdct32x32_1/, "const int16_t *input, tran_low_t *output, int stride";
 511   specialize qw/vpx_fdct32x32_1 sse2/;
 512
 513   add_proto qw/void vpx_highbd_fdct4x4/, "const int16_t *input, tran_low_t *output, int stride";
 514   specialize qw/vpx_highbd_fdct4x4 sse2/;
 515
 516   add_proto qw/void vpx_highbd_fdct8x8/, "const int16_t *input, tran_low_t *output, int stride";
 517   specialize qw/vpx_highbd_fdct8x8 sse2/;
 518
 519   add_proto qw/void vpx_highbd_fdct8x8_1/, "const int16_t *input, tran_low_t *output, int stride";
 520
 521   add_proto qw/void vpx_highbd_fdct16x16/, "const int16_t *input, tran_low_t *output, int stride";
 522   specialize qw/vpx_highbd_fdct16x16 sse2/;
 523
 524   add_proto qw/void vpx_highbd_fdct16x16_1/, "const int16_t *input, tran_low_t *output, int stride";
 525
 526   add_proto qw/void vpx_highbd_fdct32x32/, "const int16_t *input, tran_low_t *output, int stride";
 527   specialize qw/vpx_highbd_fdct32x32 sse2/;
 528
 529   add_proto qw/void vpx_highbd_fdct32x32_rd/, "const int16_t *input, tran_low_t *output, int stride";
 530   specialize qw/vpx_highbd_fdct32x32_rd sse2/;
 531
 532   add_proto qw/void vpx_highbd_fdct32x32_1/, "const int16_t *input, tran_low_t *output, int stride";
 533 } else {
 534   add_proto qw/void vpx_fdct4x4/, "const int16_t *input, tran_low_t *output, int stride";
 535   specialize qw/vpx_fdct4x4 sse2 msa/;
 536
 537   add_proto qw/void vpx_fdct4x4_1/, "const int16_t *input, tran_low_t *output, int stride";
 538   specialize qw/vpx_fdct4x4_1 sse2/;
 539
 540   add_proto qw/void vpx_fdct8x8/, "const int16_t *input, tran_low_t *output, int stride";
 541   specialize qw/vpx_fdct8x8 sse2 neon msa/, "$ssse3_x86_64";
 542
 543   add_proto qw/void vpx_fdct8x8_1/, "const int16_t *input, tran_low_t *output, int stride";
 544   specialize qw/vpx_fdct8x8_1 sse2 neon msa/;
 545
 546   add_proto qw/void vpx_fdct16x16/, "const int16_t *input, tran_low_t *output, int stride";
 547   specialize qw/vpx_fdct16x16 sse2 msa/;
 548
 549   add_proto qw/void vpx_fdct16x16_1/, "const int16_t *input, tran_low_t *output, int stride";
 550   specialize qw/vpx_fdct16x16_1 sse2 msa/;
 551
 552   add_proto qw/void vpx_fdct32x32/, "const int16_t *input, tran_low_t *output, int stride";
 553   specialize qw/vpx_fdct32x32 sse2 avx2 msa/;
 554
 555   add_proto qw/void vpx_fdct32x32_rd/, "const int16_t *input, tran_low_t *output, int stride";
 556   specialize qw/vpx_fdct32x32_rd sse2 avx2 msa/;
 557
 558   add_proto qw/void vpx_fdct32x32_1/, "const int16_t *input, tran_low_t *output, int stride";
 559   specialize qw/vpx_fdct32x32_1 sse2 msa/;
 560 }  # CONFIG_VP9_HIGHBITDEPTH
 561 }  # CONFIG_VP9_ENCODER
 562
 563 #
 564 # Inverse transform
 565 if (vpx_config("CONFIG_VP9") eq "yes") {
 566 if (vpx_config("CONFIG_VP9_HIGHBITDEPTH") eq "yes") {
 567   # Note as optimized versions of these functions are added we need to add a check to ensure
 568   # that when CONFIG_EMULATE_HARDWARE is on, it defaults to the C versions only.
 569   add_proto qw/void vpx_iwht4x4_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 570
 571   add_proto qw/void vpx_iwht4x4_16_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 572   specialize qw/vpx_iwht4x4_16_add sse2/;
 573
 574   add_proto qw/void vpx_highbd_idct4x4_1_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 575   specialize qw/vpx_highbd_idct4x4_1_add neon/;
 576
 577   add_proto qw/void vpx_highbd_idct8x8_1_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 578   specialize qw/vpx_highbd_idct8x8_1_add neon/;
 579
 580   add_proto qw/void vpx_highbd_idct16x16_1_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 581   specialize qw/vpx_highbd_idct16x16_1_add neon/;
 582
 583   add_proto qw/void vpx_highbd_idct32x32_1024_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 584
 585   add_proto qw/void vpx_highbd_idct32x32_34_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 586
 587   add_proto qw/void vpx_highbd_idct32x32_1_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 588   specialize qw/vpx_highbd_idct32x32_1_add neon sse2/;
 589
 590   add_proto qw/void vpx_highbd_iwht4x4_1_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 591
 592   add_proto qw/void vpx_highbd_iwht4x4_16_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 593
 594   # Force C versions if CONFIG_EMULATE_HARDWARE is 1
 595   if (vpx_config("CONFIG_EMULATE_HARDWARE") eq "yes") {
 596     add_proto qw/void vpx_idct4x4_16_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 597
 598     add_proto qw/void vpx_idct4x4_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 599
 600     add_proto qw/void vpx_idct8x8_64_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 601
 602     add_proto qw/void vpx_idct8x8_12_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 603
 604     add_proto qw/void vpx_idct8x8_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 605
 606     add_proto qw/void vpx_idct16x16_256_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 607
 608     add_proto qw/void vpx_idct16x16_38_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 609
 610     add_proto qw/void vpx_idct16x16_10_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 611
 612     add_proto qw/void vpx_idct16x16_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 613
 614     add_proto qw/void vpx_idct32x32_1024_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 615
 616     add_proto qw/void vpx_idct32x32_135_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 617
 618     add_proto qw/void vpx_idct32x32_34_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 619
 620     add_proto qw/void vpx_idct32x32_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 621
 622     add_proto qw/void vpx_highbd_idct4x4_16_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 623
 624     add_proto qw/void vpx_highbd_idct8x8_64_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 625
 626     add_proto qw/void vpx_highbd_idct8x8_12_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 627
 628     add_proto qw/void vpx_highbd_idct16x16_256_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 629
 630     add_proto qw/void vpx_highbd_idct16x16_38_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 631
 632     add_proto qw/void vpx_highbd_idct16x16_10_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 633
 634     add_proto qw/void vpx_highbd_idct32x32_1024_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 635
 636     add_proto qw/void vpx_highbd_idct32x32_135_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 637
 638     add_proto qw/void vpx_highbd_idct32x32_34_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 639   } else {
 640     add_proto qw/void vpx_idct4x4_16_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 641     specialize qw/vpx_idct4x4_16_add neon sse2/;
 642
 643     add_proto qw/void vpx_idct4x4_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 644     specialize qw/vpx_idct4x4_1_add neon sse2/;
 645
 646     add_proto qw/void vpx_idct8x8_64_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 647     specialize qw/vpx_idct8x8_64_add neon sse2 ssse3/;
 648
 649     add_proto qw/void vpx_idct8x8_12_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 650     specialize qw/vpx_idct8x8_12_add neon sse2 ssse3/;
 651
 652     add_proto qw/void vpx_idct8x8_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 653     specialize qw/vpx_idct8x8_1_add neon sse2/;
 654
 655     add_proto qw/void vpx_idct16x16_256_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 656     specialize qw/vpx_idct16x16_256_add neon sse2/;
 657
 658     add_proto qw/void vpx_idct16x16_38_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 659     specialize qw/vpx_idct16x16_38_add neon sse2/;
 660     $vpx_idct16x16_38_add_sse2=vpx_idct16x16_256_add_sse2;
 661
 662     add_proto qw/void vpx_idct16x16_10_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 663     specialize qw/vpx_idct16x16_10_add neon sse2/;
 664
 665     add_proto qw/void vpx_idct16x16_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 666     specialize qw/vpx_idct16x16_1_add neon sse2/;
 667
 668     add_proto qw/void vpx_idct32x32_1024_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 669     specialize qw/vpx_idct32x32_1024_add neon sse2 ssse3/;
 670
 671     add_proto qw/void vpx_idct32x32_135_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 672     specialize qw/vpx_idct32x32_135_add neon sse2 ssse3/;
 673     # Need to add 135 eob idct32x32 implementations.
 674     $vpx_idct32x32_135_add_sse2=vpx_idct32x32_1024_add_sse2;
 675
 676     add_proto qw/void vpx_idct32x32_34_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 677     specialize qw/vpx_idct32x32_34_add neon sse2 ssse3/;
 678
 679     add_proto qw/void vpx_idct32x32_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 680     specialize qw/vpx_idct32x32_1_add neon sse2/;
 681
 682     add_proto qw/void vpx_highbd_idct4x4_16_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 683     specialize qw/vpx_highbd_idct4x4_16_add neon sse2/;
 684
 685     add_proto qw/void vpx_highbd_idct8x8_64_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 686     specialize qw/vpx_highbd_idct8x8_64_add neon sse2/;
 687
 688     add_proto qw/void vpx_highbd_idct8x8_12_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 689     specialize qw/vpx_highbd_idct8x8_12_add neon sse2/;
 690
 691     add_proto qw/void vpx_highbd_idct16x16_256_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 692     specialize qw/vpx_highbd_idct16x16_256_add neon sse2/;
 693
 694     add_proto qw/void vpx_highbd_idct16x16_38_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 695     specialize qw/vpx_highbd_idct16x16_38_add neon sse2/;
 696     $vpx_highbd_idct16x16_38_add_sse2=vpx_highbd_idct16x16_256_add_sse2;
 697
 698     add_proto qw/void vpx_highbd_idct16x16_10_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 699     specialize qw/vpx_highbd_idct16x16_10_add neon sse2/;
 700
 701     add_proto qw/void vpx_highbd_idct32x32_1024_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 702     specialize qw/vpx_highbd_idct32x32_1024_add neon/;
 703
 704     add_proto qw/void vpx_highbd_idct32x32_135_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 705     specialize qw/vpx_highbd_idct32x32_135_add neon/;
 706
 707     add_proto qw/void vpx_highbd_idct32x32_34_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 708     specialize qw/vpx_highbd_idct32x32_34_add neon/;
 709   }  # CONFIG_EMULATE_HARDWARE
 710 } else {
 711   # Force C versions if CONFIG_EMULATE_HARDWARE is 1
 712   if (vpx_config("CONFIG_EMULATE_HARDWARE") eq "yes") {
 713     add_proto qw/void vpx_idct4x4_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 714
 715     add_proto qw/void vpx_idct4x4_16_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 716
 717     add_proto qw/void vpx_idct8x8_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 718
 719     add_proto qw/void vpx_idct8x8_64_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 720
 721     add_proto qw/void vpx_idct8x8_12_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 722
 723     add_proto qw/void vpx_idct16x16_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 724
 725     add_proto qw/void vpx_idct16x16_256_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 726
 727     add_proto qw/void vpx_idct16x16_38_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 728
 729     add_proto qw/void vpx_idct16x16_10_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 730
 731     add_proto qw/void vpx_idct32x32_1024_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 732
 733     add_proto qw/void vpx_idct32x32_135_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 734
 735     add_proto qw/void vpx_idct32x32_34_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 736
 737     add_proto qw/void vpx_idct32x32_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 738
 739     add_proto qw/void vpx_iwht4x4_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 740
 741     add_proto qw/void vpx_iwht4x4_16_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 742   } else {
 743     add_proto qw/void vpx_idct4x4_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 744     specialize qw/vpx_idct4x4_1_add sse2 neon dspr2 msa/;
 745
 746     add_proto qw/void vpx_idct4x4_16_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 747     specialize qw/vpx_idct4x4_16_add sse2 neon dspr2 msa/;
 748
 749     add_proto qw/void vpx_idct8x8_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 750     specialize qw/vpx_idct8x8_1_add sse2 neon dspr2 msa/;
 751
 752     add_proto qw/void vpx_idct8x8_64_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 753     specialize qw/vpx_idct8x8_64_add sse2 ssse3 neon dspr2 msa/;
 754
 755     add_proto qw/void vpx_idct8x8_12_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 756     specialize qw/vpx_idct8x8_12_add sse2 ssse3 neon dspr2 msa/;
 757
 758     add_proto qw/void vpx_idct16x16_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 759     specialize qw/vpx_idct16x16_1_add sse2 neon dspr2 msa/;
 760
 761     add_proto qw/void vpx_idct16x16_256_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 762     specialize qw/vpx_idct16x16_256_add sse2 neon dspr2 msa/;
 763
 764     add_proto qw/void vpx_idct16x16_38_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 765     specialize qw/vpx_idct16x16_38_add sse2 neon dspr2 msa/;
 766     $vpx_idct16x16_38_add_sse2=vpx_idct16x16_256_add_sse2;
 767     $vpx_idct16x16_38_add_dspr2=vpx_idct16x16_256_add_dspr2;
 768     $vpx_idct16x16_38_add_msa=vpx_idct16x16_256_add_msa;
 769
 770     add_proto qw/void vpx_idct16x16_10_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 771     specialize qw/vpx_idct16x16_10_add sse2 neon dspr2 msa/;
 772
 773     add_proto qw/void vpx_idct32x32_1024_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 774     specialize qw/vpx_idct32x32_1024_add sse2 ssse3 neon dspr2 msa/;
 775
 776     add_proto qw/void vpx_idct32x32_135_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 777     specialize qw/vpx_idct32x32_135_add sse2 ssse3 neon dspr2 msa/;
 778     $vpx_idct32x32_135_add_sse2=vpx_idct32x32_1024_add_sse2;
 779     $vpx_idct32x32_135_add_dspr2=vpx_idct32x32_1024_add_dspr2;
 780     $vpx_idct32x32_135_add_msa=vpx_idct32x32_1024_add_msa;
 781
 782     add_proto qw/void vpx_idct32x32_34_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 783     specialize qw/vpx_idct32x32_34_add sse2 ssse3 neon dspr2 msa/;
 784
 785     add_proto qw/void vpx_idct32x32_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 786     specialize qw/vpx_idct32x32_1_add sse2 neon dspr2 msa/;
 787
 788     add_proto qw/void vpx_iwht4x4_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 789     specialize qw/vpx_iwht4x4_1_add msa/;
 790
 791     add_proto qw/void vpx_iwht4x4_16_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 792     specialize qw/vpx_iwht4x4_16_add msa sse2/;
 793   }  # CONFIG_EMULATE_HARDWARE
 794 }  # CONFIG_VP9_HIGHBITDEPTH
 795 }  # CONFIG_VP9
 796
 797 #
 798 # Quantization
 799 #
 800 if (vpx_config("CONFIG_VP9_ENCODER") eq "yes") {
 801   add_proto qw/void vpx_quantize_b/, "const tran_low_t *coeff_ptr, intptr_t n_coeffs, int skip_block, const int16_t *zbin_ptr, const int16_t *round_ptr, const int16_t *quant_ptr, const int16_t *quant_shift_ptr, tran_low_t *qcoeff_ptr, tran_low_t *dqcoeff_ptr, const int16_t *dequant_ptr, uint16_t *eob_ptr, const int16_t *scan, const int16_t *iscan";
 802   specialize qw/vpx_quantize_b sse2/, "$ssse3_x86_64", "$avx_x86_64";
 803
 804   add_proto qw/void vpx_quantize_b_32x32/, "const tran_low_t *coeff_ptr, intptr_t n_coeffs, int skip_block, const int16_t *zbin_ptr, const int16_t *round_ptr, const int16_t *quant_ptr, const int16_t *quant_shift_ptr, tran_low_t *qcoeff_ptr, tran_low_t *dqcoeff_ptr, const int16_t *dequant_ptr, uint16_t *eob_ptr, const int16_t *scan, const int16_t *iscan";
 805   specialize qw/vpx_quantize_b_32x32/, "$ssse3_x86_64", "$avx_x86_64";
 806
 807   if (vpx_config("CONFIG_VP9_HIGHBITDEPTH") eq "yes") {
 808     add_proto qw/void vpx_highbd_quantize_b/, "const tran_low_t *coeff_ptr, intptr_t n_coeffs, int skip_block, const int16_t *zbin_ptr, const int16_t *round_ptr, const int16_t *quant_ptr, const int16_t *quant_shift_ptr, tran_low_t *qcoeff_ptr, tran_low_t *dqcoeff_ptr, const int16_t *dequant_ptr, uint16_t *eob_ptr, const int16_t *scan, const int16_t *iscan";
 809     specialize qw/vpx_highbd_quantize_b sse2/;
 810
 811     add_proto qw/void vpx_highbd_quantize_b_32x32/, "const tran_low_t *coeff_ptr, intptr_t n_coeffs, int skip_block, const int16_t *zbin_ptr, const int16_t *round_ptr, const int16_t *quant_ptr, const int16_t *quant_shift_ptr, tran_low_t *qcoeff_ptr, tran_low_t *dqcoeff_ptr, const int16_t *dequant_ptr, uint16_t *eob_ptr, const int16_t *scan, const int16_t *iscan";
 812     specialize qw/vpx_highbd_quantize_b_32x32 sse2/;
 813   }  # CONFIG_VP9_HIGHBITDEPTH
 814 }  # CONFIG_VP9_ENCODER
 815
 816 if (vpx_config("CONFIG_ENCODERS") eq "yes") {
 817 #
 818 # Block subtraction
 819 #
 820 add_proto qw/void vpx_subtract_block/, "int rows, int cols, int16_t *diff_ptr, ptrdiff_t diff_stride, const uint8_t *src_ptr, ptrdiff_t src_stride, const uint8_t *pred_ptr, ptrdiff_t pred_stride";
 821 specialize qw/vpx_subtract_block neon msa sse2/;
 822
 823 #
 824 # Single block SAD
 825 #
 826 add_proto qw/unsigned int vpx_sad64x64/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 827 specialize qw/vpx_sad64x64 avx2 neon msa sse2/;
 828
 829 add_proto qw/unsigned int vpx_sad64x32/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 830 specialize qw/vpx_sad64x32 avx2 msa sse2/;
 831
 832 add_proto qw/unsigned int vpx_sad32x64/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 833 specialize qw/vpx_sad32x64 avx2 msa sse2/;
 834
 835 add_proto qw/unsigned int vpx_sad32x32/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 836 specialize qw/vpx_sad32x32 avx2 neon msa sse2/;
 837
 838 add_proto qw/unsigned int vpx_sad32x16/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 839 specialize qw/vpx_sad32x16 avx2 msa sse2/;
 840
 841 add_proto qw/unsigned int vpx_sad16x32/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 842 specialize qw/vpx_sad16x32 msa sse2/;
 843
 844 add_proto qw/unsigned int vpx_sad16x16/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 845 specialize qw/vpx_sad16x16 neon msa sse2/;
 846
 847 add_proto qw/unsigned int vpx_sad16x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 848 specialize qw/vpx_sad16x8 neon msa sse2/;
 849
 850 add_proto qw/unsigned int vpx_sad8x16/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 851 specialize qw/vpx_sad8x16 neon msa sse2/;
 852
 853 add_proto qw/unsigned int vpx_sad8x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 854 specialize qw/vpx_sad8x8 neon msa sse2/;
 855
 856 add_proto qw/unsigned int vpx_sad8x4/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 857 specialize qw/vpx_sad8x4 msa sse2/;
 858
 859 add_proto qw/unsigned int vpx_sad4x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 860 specialize qw/vpx_sad4x8 msa sse2/;
 861
 862 add_proto qw/unsigned int vpx_sad4x4/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 863 specialize qw/vpx_sad4x4 neon msa sse2/;
 864
 865 #
 866 # Avg
 867 #
 868 if (vpx_config("CONFIG_VP9_ENCODER") eq "yes") {
 869   add_proto qw/unsigned int vpx_avg_8x8/, "const uint8_t *, int p";
 870   specialize qw/vpx_avg_8x8 sse2 neon msa/;
 871
 872   add_proto qw/unsigned int vpx_avg_4x4/, "const uint8_t *, int p";
 873   specialize qw/vpx_avg_4x4 sse2 neon msa/;
 874
 875   add_proto qw/void vpx_minmax_8x8/, "const uint8_t *s, int p, const uint8_t *d, int dp, int *min, int *max";
 876   specialize qw/vpx_minmax_8x8 sse2 neon msa/;
 877
 878   if (vpx_config("CONFIG_VP9_HIGHBITDEPTH") eq "yes") {
 879     add_proto qw/void vpx_hadamard_8x8/, "const int16_t *src_diff, int src_stride, tran_low_t *coeff";
 880     specialize qw/vpx_hadamard_8x8 sse2 neon vsx/, "$ssse3_x86_64";
 881
 882     add_proto qw/void vpx_hadamard_16x16/, "const int16_t *src_diff, int src_stride, tran_low_t *coeff";
 883     specialize qw/vpx_hadamard_16x16 sse2 neon vsx/;
 884
 885     add_proto qw/int vpx_satd/, "const tran_low_t *coeff, int length";
 886     specialize qw/vpx_satd sse2 neon/;
 887   } else {
 888     add_proto qw/void vpx_hadamard_8x8/, "const int16_t *src_diff, int src_stride, int16_t *coeff";
 889     specialize qw/vpx_hadamard_8x8 sse2 neon msa vsx/, "$ssse3_x86_64";
 890
 891     add_proto qw/void vpx_hadamard_16x16/, "const int16_t *src_diff, int src_stride, int16_t *coeff";
 892     specialize qw/vpx_hadamard_16x16 sse2 neon msa vsx/;
 893
 894     add_proto qw/int vpx_satd/, "const int16_t *coeff, int length";
 895     specialize qw/vpx_satd sse2 neon msa/;
 896   }
 897
 898   add_proto qw/void vpx_int_pro_row/, "int16_t *hbuf, const uint8_t *ref, const int ref_stride, const int height";
 899   specialize qw/vpx_int_pro_row sse2 neon msa/;
 900
 901   add_proto qw/int16_t vpx_int_pro_col/, "const uint8_t *ref, const int width";
 902   specialize qw/vpx_int_pro_col sse2 neon msa/;
 903
 904   add_proto qw/int vpx_vector_var/, "const int16_t *ref, const int16_t *src, const int bwl";
 905   specialize qw/vpx_vector_var neon sse2 msa/;
 906 }  # CONFIG_VP9_ENCODER
 907
 908 add_proto qw/unsigned int vpx_sad64x64_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 909 specialize qw/vpx_sad64x64_avg avx2 msa sse2/;
 910
 911 add_proto qw/unsigned int vpx_sad64x32_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 912 specialize qw/vpx_sad64x32_avg avx2 msa sse2/;
 913
 914 add_proto qw/unsigned int vpx_sad32x64_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 915 specialize qw/vpx_sad32x64_avg avx2 msa sse2/;
 916
 917 add_proto qw/unsigned int vpx_sad32x32_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 918 specialize qw/vpx_sad32x32_avg avx2 msa sse2/;
 919
 920 add_proto qw/unsigned int vpx_sad32x16_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 921 specialize qw/vpx_sad32x16_avg avx2 msa sse2/;
 922
 923 add_proto qw/unsigned int vpx_sad16x32_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 924 specialize qw/vpx_sad16x32_avg msa sse2/;
 925
 926 add_proto qw/unsigned int vpx_sad16x16_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 927 specialize qw/vpx_sad16x16_avg msa sse2/;
 928
 929 add_proto qw/unsigned int vpx_sad16x8_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 930 specialize qw/vpx_sad16x8_avg msa sse2/;
 931
 932 add_proto qw/unsigned int vpx_sad8x16_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 933 specialize qw/vpx_sad8x16_avg msa sse2/;
 934
 935 add_proto qw/unsigned int vpx_sad8x8_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 936 specialize qw/vpx_sad8x8_avg msa sse2/;
 937
 938 add_proto qw/unsigned int vpx_sad8x4_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 939 specialize qw/vpx_sad8x4_avg msa sse2/;
 940
 941 add_proto qw/unsigned int vpx_sad4x8_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 942 specialize qw/vpx_sad4x8_avg msa sse2/;
 943
 944 add_proto qw/unsigned int vpx_sad4x4_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 945 specialize qw/vpx_sad4x4_avg msa sse2/;
 946
 947 #
 948 # Multi-block SAD, comparing a reference to N blocks 1 pixel apart horizontally
 949 #
 950 # Blocks of 3
 951 add_proto qw/void vpx_sad64x64x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
 952 specialize qw/vpx_sad64x64x3 msa/;
 953
 954 add_proto qw/void vpx_sad32x32x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
 955 specialize qw/vpx_sad32x32x3 msa/;
 956
 957 add_proto qw/void vpx_sad16x16x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
 958 specialize qw/vpx_sad16x16x3 sse3 ssse3 msa/;
 959
 960 add_proto qw/void vpx_sad16x8x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
 961 specialize qw/vpx_sad16x8x3 sse3 ssse3 msa/;
 962
 963 add_proto qw/void vpx_sad8x16x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
 964 specialize qw/vpx_sad8x16x3 sse3 msa/;
 965
 966 add_proto qw/void vpx_sad8x8x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
 967 specialize qw/vpx_sad8x8x3 sse3 msa/;
 968
 969 add_proto qw/void vpx_sad4x4x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
 970 specialize qw/vpx_sad4x4x3 sse3 msa/;
 971
 972 # Blocks of 8
 973 add_proto qw/void vpx_sad64x64x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
 974 specialize qw/vpx_sad64x64x8 msa/;
 975
 976 add_proto qw/void vpx_sad32x32x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
 977 specialize qw/vpx_sad32x32x8 msa/;
 978
 979 add_proto qw/void vpx_sad16x16x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
 980 specialize qw/vpx_sad16x16x8 sse4_1 msa/;
 981
 982 add_proto qw/void vpx_sad16x8x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
 983 specialize qw/vpx_sad16x8x8 sse4_1 msa/;
 984
 985 add_proto qw/void vpx_sad8x16x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
 986 specialize qw/vpx_sad8x16x8 sse4_1 msa/;
 987
 988 add_proto qw/void vpx_sad8x8x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
 989 specialize qw/vpx_sad8x8x8 sse4_1 msa/;
 990
 991 add_proto qw/void vpx_sad8x4x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
 992 specialize qw/vpx_sad8x4x8 msa/;
 993
 994 add_proto qw/void vpx_sad4x8x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
 995 specialize qw/vpx_sad4x8x8 msa/;
 996
 997 add_proto qw/void vpx_sad4x4x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
 998 specialize qw/vpx_sad4x4x8 sse4_1 msa/;
 999
1000 #
1001 # Multi-block SAD, comparing a reference to N independent blocks
1002 #
1003 add_proto qw/void vpx_sad64x64x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1004 specialize qw/vpx_sad64x64x4d avx2 neon msa sse2/;
1005
1006 add_proto qw/void vpx_sad64x32x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1007 specialize qw/vpx_sad64x32x4d msa sse2/;
1008
1009 add_proto qw/void vpx_sad32x64x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1010 specialize qw/vpx_sad32x64x4d msa sse2/;
1011
1012 add_proto qw/void vpx_sad32x32x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1013 specialize qw/vpx_sad32x32x4d avx2 neon msa sse2/;
1014
1015 add_proto qw/void vpx_sad32x16x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1016 specialize qw/vpx_sad32x16x4d msa sse2/;
1017
1018 add_proto qw/void vpx_sad16x32x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1019 specialize qw/vpx_sad16x32x4d msa sse2/;
1020
1021 add_proto qw/void vpx_sad16x16x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1022 specialize qw/vpx_sad16x16x4d neon msa sse2/;
1023
1024 add_proto qw/void vpx_sad16x8x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1025 specialize qw/vpx_sad16x8x4d msa sse2/;
1026
1027 add_proto qw/void vpx_sad8x16x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1028 specialize qw/vpx_sad8x16x4d msa sse2/;
1029
1030 add_proto qw/void vpx_sad8x8x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1031 specialize qw/vpx_sad8x8x4d msa sse2/;
1032
1033 add_proto qw/void vpx_sad8x4x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1034 specialize qw/vpx_sad8x4x4d msa sse2/;
1035
1036 add_proto qw/void vpx_sad4x8x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1037 specialize qw/vpx_sad4x8x4d msa sse2/;
1038
1039 add_proto qw/void vpx_sad4x4x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1040 specialize qw/vpx_sad4x4x4d msa sse2/;
1041
1042 add_proto qw/uint64_t vpx_sum_squares_2d_i16/, "const int16_t *src, int stride, int size";
1043 specialize qw/vpx_sum_squares_2d_i16 sse2 msa/;
1044
1045 #
1046 # Structured Similarity (SSIM)
1047 #
1048 if (vpx_config("CONFIG_INTERNAL_STATS") eq "yes") {
1049     add_proto qw/void vpx_ssim_parms_8x8/, "const uint8_t *s, int sp, const uint8_t *r, int rp, uint32_t *sum_s, uint32_t *sum_r, uint32_t *sum_sq_s, uint32_t *sum_sq_r, uint32_t *sum_sxr";
1050     specialize qw/vpx_ssim_parms_8x8/, "$sse2_x86_64";
1051
1052     add_proto qw/void vpx_ssim_parms_16x16/, "const uint8_t *s, int sp, const uint8_t *r, int rp, uint32_t *sum_s, uint32_t *sum_r, uint32_t *sum_sq_s, uint32_t *sum_sq_r, uint32_t *sum_sxr";
1053     specialize qw/vpx_ssim_parms_16x16/, "$sse2_x86_64";
1054 }
1055
1056 if (vpx_config("CONFIG_VP9_HIGHBITDEPTH") eq "yes") {
1057   #
1058   # Block subtraction
1059   #
1060   add_proto qw/void vpx_highbd_subtract_block/, "int rows, int cols, int16_t *diff_ptr, ptrdiff_t diff_stride, const uint8_t *src_ptr, ptrdiff_t src_stride, const uint8_t *pred_ptr, ptrdiff_t pred_stride, int bd";
1061
1062   #
1063   # Single block SAD
1064   #
1065   add_proto qw/unsigned int vpx_highbd_sad64x64/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1066   specialize qw/vpx_highbd_sad64x64 sse2/;
1067
1068   add_proto qw/unsigned int vpx_highbd_sad64x32/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1069   specialize qw/vpx_highbd_sad64x32 sse2/;
1070
1071   add_proto qw/unsigned int vpx_highbd_sad32x64/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1072   specialize qw/vpx_highbd_sad32x64 sse2/;
1073
1074   add_proto qw/unsigned int vpx_highbd_sad32x32/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1075   specialize qw/vpx_highbd_sad32x32 sse2/;
1076
1077   add_proto qw/unsigned int vpx_highbd_sad32x16/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1078   specialize qw/vpx_highbd_sad32x16 sse2/;
1079
1080   add_proto qw/unsigned int vpx_highbd_sad16x32/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1081   specialize qw/vpx_highbd_sad16x32 sse2/;
1082
1083   add_proto qw/unsigned int vpx_highbd_sad16x16/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1084   specialize qw/vpx_highbd_sad16x16 sse2/;
1085
1086   add_proto qw/unsigned int vpx_highbd_sad16x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1087   specialize qw/vpx_highbd_sad16x8 sse2/;
1088
1089   add_proto qw/unsigned int vpx_highbd_sad8x16/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1090   specialize qw/vpx_highbd_sad8x16 sse2/;
1091
1092   add_proto qw/unsigned int vpx_highbd_sad8x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1093   specialize qw/vpx_highbd_sad8x8 sse2/;
1094
1095   add_proto qw/unsigned int vpx_highbd_sad8x4/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1096   specialize qw/vpx_highbd_sad8x4 sse2/;
1097
1098   add_proto qw/unsigned int vpx_highbd_sad4x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1099
1100   add_proto qw/unsigned int vpx_highbd_sad4x4/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1101
1102   #
1103   # Avg
1104   #
1105   add_proto qw/unsigned int vpx_highbd_avg_8x8/, "const uint8_t *, int p";
1106   add_proto qw/unsigned int vpx_highbd_avg_4x4/, "const uint8_t *, int p";
1107   add_proto qw/void vpx_highbd_minmax_8x8/, "const uint8_t *s, int p, const uint8_t *d, int dp, int *min, int *max";
1108
1109   add_proto qw/unsigned int vpx_highbd_sad64x64_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1110   specialize qw/vpx_highbd_sad64x64_avg sse2/;
1111
1112   add_proto qw/unsigned int vpx_highbd_sad64x32_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1113   specialize qw/vpx_highbd_sad64x32_avg sse2/;
1114
1115   add_proto qw/unsigned int vpx_highbd_sad32x64_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1116   specialize qw/vpx_highbd_sad32x64_avg sse2/;
1117
1118   add_proto qw/unsigned int vpx_highbd_sad32x32_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1119   specialize qw/vpx_highbd_sad32x32_avg sse2/;
1120
1121   add_proto qw/unsigned int vpx_highbd_sad32x16_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1122   specialize qw/vpx_highbd_sad32x16_avg sse2/;
1123
1124   add_proto qw/unsigned int vpx_highbd_sad16x32_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1125   specialize qw/vpx_highbd_sad16x32_avg sse2/;
1126
1127   add_proto qw/unsigned int vpx_highbd_sad16x16_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1128   specialize qw/vpx_highbd_sad16x16_avg sse2/;
1129
1130   add_proto qw/unsigned int vpx_highbd_sad16x8_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1131   specialize qw/vpx_highbd_sad16x8_avg sse2/;
1132
1133   add_proto qw/unsigned int vpx_highbd_sad8x16_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1134   specialize qw/vpx_highbd_sad8x16_avg sse2/;
1135
1136   add_proto qw/unsigned int vpx_highbd_sad8x8_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1137   specialize qw/vpx_highbd_sad8x8_avg sse2/;
1138
1139   add_proto qw/unsigned int vpx_highbd_sad8x4_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1140   specialize qw/vpx_highbd_sad8x4_avg sse2/;
1141
1142   add_proto qw/unsigned int vpx_highbd_sad4x8_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1143
1144   add_proto qw/unsigned int vpx_highbd_sad4x4_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1145
1146   #
1147   # Multi-block SAD, comparing a reference to N blocks 1 pixel apart horizontally
1148   #
1149   # Blocks of 3
1150   add_proto qw/void vpx_highbd_sad64x64x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1151
1152   add_proto qw/void vpx_highbd_sad32x32x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1153
1154   add_proto qw/void vpx_highbd_sad16x16x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1155
1156   add_proto qw/void vpx_highbd_sad16x8x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1157
1158   add_proto qw/void vpx_highbd_sad8x16x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1159
1160   add_proto qw/void vpx_highbd_sad8x8x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1161
1162   add_proto qw/void vpx_highbd_sad4x4x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1163
1164   # Blocks of 8
1165   add_proto qw/void vpx_highbd_sad64x64x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1166
1167   add_proto qw/void vpx_highbd_sad32x32x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1168
1169   add_proto qw/void vpx_highbd_sad16x16x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1170
1171   add_proto qw/void vpx_highbd_sad16x8x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1172
1173   add_proto qw/void vpx_highbd_sad8x16x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1174
1175   add_proto qw/void vpx_highbd_sad8x8x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1176
1177   add_proto qw/void vpx_highbd_sad8x4x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1178
1179   add_proto qw/void vpx_highbd_sad4x8x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1180
1181   add_proto qw/void vpx_highbd_sad4x4x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1182
1183   #
1184   # Multi-block SAD, comparing a reference to N independent blocks
1185   #
1186   add_proto qw/void vpx_highbd_sad64x64x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1187   specialize qw/vpx_highbd_sad64x64x4d sse2/;
1188
1189   add_proto qw/void vpx_highbd_sad64x32x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1190   specialize qw/vpx_highbd_sad64x32x4d sse2/;
1191
1192   add_proto qw/void vpx_highbd_sad32x64x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1193   specialize qw/vpx_highbd_sad32x64x4d sse2/;
1194
1195   add_proto qw/void vpx_highbd_sad32x32x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1196   specialize qw/vpx_highbd_sad32x32x4d sse2/;
1197
1198   add_proto qw/void vpx_highbd_sad32x16x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1199   specialize qw/vpx_highbd_sad32x16x4d sse2/;
1200
1201   add_proto qw/void vpx_highbd_sad16x32x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1202   specialize qw/vpx_highbd_sad16x32x4d sse2/;
1203
1204   add_proto qw/void vpx_highbd_sad16x16x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1205   specialize qw/vpx_highbd_sad16x16x4d sse2/;
1206
1207   add_proto qw/void vpx_highbd_sad16x8x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1208   specialize qw/vpx_highbd_sad16x8x4d sse2/;
1209
1210   add_proto qw/void vpx_highbd_sad8x16x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1211   specialize qw/vpx_highbd_sad8x16x4d sse2/;
1212
1213   add_proto qw/void vpx_highbd_sad8x8x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1214   specialize qw/vpx_highbd_sad8x8x4d sse2/;
1215
1216   add_proto qw/void vpx_highbd_sad8x4x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1217   specialize qw/vpx_highbd_sad8x4x4d sse2/;
1218
1219   add_proto qw/void vpx_highbd_sad4x8x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1220   specialize qw/vpx_highbd_sad4x8x4d sse2/;
1221
1222   add_proto qw/void vpx_highbd_sad4x4x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1223   specialize qw/vpx_highbd_sad4x4x4d sse2/;
1224
1225   #
1226   # Structured Similarity (SSIM)
1227   #
1228   if (vpx_config("CONFIG_INTERNAL_STATS") eq "yes") {
1229     add_proto qw/void vpx_highbd_ssim_parms_8x8/, "const uint16_t *s, int sp, const uint16_t *r, int rp, uint32_t *sum_s, uint32_t *sum_r, uint32_t *sum_sq_s, uint32_t *sum_sq_r, uint32_t *sum_sxr";
1230   }
1231 }  # CONFIG_VP9_HIGHBITDEPTH
1232 }  # CONFIG_ENCODERS
1233
1234 if (vpx_config("CONFIG_ENCODERS") eq "yes" || vpx_config("CONFIG_POSTPROC") eq "yes" || vpx_config("CONFIG_VP9_POSTPROC") eq "yes") {
1235
1236 #
1237 # Variance
1238 #
1239 add_proto qw/unsigned int vpx_variance64x64/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1240   specialize qw/vpx_variance64x64 sse2 avx2 neon msa/;
1241
1242 add_proto qw/unsigned int vpx_variance64x32/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1243   specialize qw/vpx_variance64x32 sse2 avx2 neon msa/;
1244
1245 add_proto qw/unsigned int vpx_variance32x64/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1246   specialize qw/vpx_variance32x64 sse2 neon msa/;
1247
1248 add_proto qw/unsigned int vpx_variance32x32/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1249   specialize qw/vpx_variance32x32 sse2 avx2 neon msa/;
1250
1251 add_proto qw/unsigned int vpx_variance32x16/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1252   specialize qw/vpx_variance32x16 sse2 avx2 msa/;
1253
1254 add_proto qw/unsigned int vpx_variance16x32/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1255   specialize qw/vpx_variance16x32 sse2 msa/;
1256
1257 add_proto qw/unsigned int vpx_variance16x16/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1258   specialize qw/vpx_variance16x16 sse2 avx2 neon msa/;
1259
1260 add_proto qw/unsigned int vpx_variance16x8/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1261   specialize qw/vpx_variance16x8 sse2 neon msa/;
1262
1263 add_proto qw/unsigned int vpx_variance8x16/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1264   specialize qw/vpx_variance8x16 sse2 neon msa/;
1265
1266 add_proto qw/unsigned int vpx_variance8x8/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1267   specialize qw/vpx_variance8x8 sse2 neon msa/;
1268
1269 add_proto qw/unsigned int vpx_variance8x4/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1270   specialize qw/vpx_variance8x4 sse2 msa/;
1271
1272 add_proto qw/unsigned int vpx_variance4x8/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1273   specialize qw/vpx_variance4x8 sse2 msa/;
1274
1275 add_proto qw/unsigned int vpx_variance4x4/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1276   specialize qw/vpx_variance4x4 sse2 msa/;
1277
1278 #
1279 # Specialty Variance
1280 #
1281 add_proto qw/void vpx_get16x16var/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse, int *sum";
1282   specialize qw/vpx_get16x16var sse2 avx2 neon msa/;
1283
1284 add_proto qw/void vpx_get8x8var/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse, int *sum";
1285   specialize qw/vpx_get8x8var sse2 neon msa/;
1286
1287 add_proto qw/unsigned int vpx_mse16x16/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1288   specialize qw/vpx_mse16x16 sse2 avx2 neon msa/;
1289
1290 add_proto qw/unsigned int vpx_mse16x8/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1291   specialize qw/vpx_mse16x8 sse2 msa/;
1292
1293 add_proto qw/unsigned int vpx_mse8x16/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1294   specialize qw/vpx_mse8x16 sse2 msa/;
1295
1296 add_proto qw/unsigned int vpx_mse8x8/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1297   specialize qw/vpx_mse8x8 sse2 msa/;
1298
1299 add_proto qw/unsigned int vpx_get_mb_ss/, "const int16_t *";
1300   specialize qw/vpx_get_mb_ss sse2 msa/;
1301
1302 add_proto qw/unsigned int vpx_get4x4sse_cs/, "const unsigned char *src_ptr, int source_stride, const unsigned char *ref_ptr, int  ref_stride";
1303   specialize qw/vpx_get4x4sse_cs neon msa/;
1304
1305 add_proto qw/void vpx_comp_avg_pred/, "uint8_t *comp_pred, const uint8_t *pred, int width, int height, const uint8_t *ref, int ref_stride";
1306
1307 #
1308 # Subpixel Variance
1309 #
1310 add_proto qw/uint32_t vpx_sub_pixel_variance64x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1311   specialize qw/vpx_sub_pixel_variance64x64 avx2 neon msa sse2 ssse3/;
1312
1313 add_proto qw/uint32_t vpx_sub_pixel_variance64x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1314   specialize qw/vpx_sub_pixel_variance64x32 msa sse2 ssse3/;
1315
1316 add_proto qw/uint32_t vpx_sub_pixel_variance32x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1317   specialize qw/vpx_sub_pixel_variance32x64 msa sse2 ssse3/;
1318
1319 add_proto qw/uint32_t vpx_sub_pixel_variance32x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1320   specialize qw/vpx_sub_pixel_variance32x32 avx2 neon msa sse2 ssse3/;
1321
1322 add_proto qw/uint32_t vpx_sub_pixel_variance32x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1323   specialize qw/vpx_sub_pixel_variance32x16 msa sse2 ssse3/;
1324
1325 add_proto qw/uint32_t vpx_sub_pixel_variance16x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1326   specialize qw/vpx_sub_pixel_variance16x32 msa sse2 ssse3/;
1327
1328 add_proto qw/uint32_t vpx_sub_pixel_variance16x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1329   specialize qw/vpx_sub_pixel_variance16x16 neon msa sse2 ssse3/;
1330
1331 add_proto qw/uint32_t vpx_sub_pixel_variance16x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1332   specialize qw/vpx_sub_pixel_variance16x8 msa sse2 ssse3/;
1333
1334 add_proto qw/uint32_t vpx_sub_pixel_variance8x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1335   specialize qw/vpx_sub_pixel_variance8x16 msa sse2 ssse3/;
1336
1337 add_proto qw/uint32_t vpx_sub_pixel_variance8x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1338   specialize qw/vpx_sub_pixel_variance8x8 neon msa sse2 ssse3/;
1339
1340 add_proto qw/uint32_t vpx_sub_pixel_variance8x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1341   specialize qw/vpx_sub_pixel_variance8x4 msa sse2 ssse3/;
1342
1343 add_proto qw/uint32_t vpx_sub_pixel_variance4x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1344   specialize qw/vpx_sub_pixel_variance4x8 msa sse2 ssse3/;
1345
1346 add_proto qw/uint32_t vpx_sub_pixel_variance4x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1347   specialize qw/vpx_sub_pixel_variance4x4 msa sse2 ssse3/;
1348
1349 add_proto qw/uint32_t vpx_sub_pixel_avg_variance64x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1350   specialize qw/vpx_sub_pixel_avg_variance64x64 avx2 msa sse2 ssse3/;
1351
1352 add_proto qw/uint32_t vpx_sub_pixel_avg_variance64x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1353   specialize qw/vpx_sub_pixel_avg_variance64x32 msa sse2 ssse3/;
1354
1355 add_proto qw/uint32_t vpx_sub_pixel_avg_variance32x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1356   specialize qw/vpx_sub_pixel_avg_variance32x64 msa sse2 ssse3/;
1357
1358 add_proto qw/uint32_t vpx_sub_pixel_avg_variance32x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1359   specialize qw/vpx_sub_pixel_avg_variance32x32 avx2 msa sse2 ssse3/;
1360
1361 add_proto qw/uint32_t vpx_sub_pixel_avg_variance32x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1362   specialize qw/vpx_sub_pixel_avg_variance32x16 msa sse2 ssse3/;
1363
1364 add_proto qw/uint32_t vpx_sub_pixel_avg_variance16x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1365   specialize qw/vpx_sub_pixel_avg_variance16x32 msa sse2 ssse3/;
1366
1367 add_proto qw/uint32_t vpx_sub_pixel_avg_variance16x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1368   specialize qw/vpx_sub_pixel_avg_variance16x16 msa sse2 ssse3/;
1369
1370 add_proto qw/uint32_t vpx_sub_pixel_avg_variance16x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1371   specialize qw/vpx_sub_pixel_avg_variance16x8 msa sse2 ssse3/;
1372
1373 add_proto qw/uint32_t vpx_sub_pixel_avg_variance8x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1374   specialize qw/vpx_sub_pixel_avg_variance8x16 msa sse2 ssse3/;
1375
1376 add_proto qw/uint32_t vpx_sub_pixel_avg_variance8x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1377   specialize qw/vpx_sub_pixel_avg_variance8x8 msa sse2 ssse3/;
1378
1379 add_proto qw/uint32_t vpx_sub_pixel_avg_variance8x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1380   specialize qw/vpx_sub_pixel_avg_variance8x4 msa sse2 ssse3/;
1381
1382 add_proto qw/uint32_t vpx_sub_pixel_avg_variance4x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1383   specialize qw/vpx_sub_pixel_avg_variance4x8 msa sse2 ssse3/;
1384
1385 add_proto qw/uint32_t vpx_sub_pixel_avg_variance4x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1386   specialize qw/vpx_sub_pixel_avg_variance4x4 msa sse2 ssse3/;
1387
1388 if (vpx_config("CONFIG_VP9_HIGHBITDEPTH") eq "yes") {
1389   add_proto qw/unsigned int vpx_highbd_12_variance64x64/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1390   specialize qw/vpx_highbd_12_variance64x64 sse2/;
1391
1392   add_proto qw/unsigned int vpx_highbd_12_variance64x32/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1393   specialize qw/vpx_highbd_12_variance64x32 sse2/;
1394
1395   add_proto qw/unsigned int vpx_highbd_12_variance32x64/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1396   specialize qw/vpx_highbd_12_variance32x64 sse2/;
1397
1398   add_proto qw/unsigned int vpx_highbd_12_variance32x32/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1399   specialize qw/vpx_highbd_12_variance32x32 sse2/;
1400
1401   add_proto qw/unsigned int vpx_highbd_12_variance32x16/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1402   specialize qw/vpx_highbd_12_variance32x16 sse2/;
1403
1404   add_proto qw/unsigned int vpx_highbd_12_variance16x32/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1405   specialize qw/vpx_highbd_12_variance16x32 sse2/;
1406
1407   add_proto qw/unsigned int vpx_highbd_12_variance16x16/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1408   specialize qw/vpx_highbd_12_variance16x16 sse2/;
1409
1410   add_proto qw/unsigned int vpx_highbd_12_variance16x8/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1411   specialize qw/vpx_highbd_12_variance16x8 sse2/;
1412
1413   add_proto qw/unsigned int vpx_highbd_12_variance8x16/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1414   specialize qw/vpx_highbd_12_variance8x16 sse2/;
1415
1416   add_proto qw/unsigned int vpx_highbd_12_variance8x8/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1417   specialize qw/vpx_highbd_12_variance8x8 sse2/;
1418
1419   add_proto qw/unsigned int vpx_highbd_12_variance8x4/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1420   add_proto qw/unsigned int vpx_highbd_12_variance4x8/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1421   add_proto qw/unsigned int vpx_highbd_12_variance4x4/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1422
1423   add_proto qw/unsigned int vpx_highbd_10_variance64x64/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1424   specialize qw/vpx_highbd_10_variance64x64 sse2/;
1425
1426   add_proto qw/unsigned int vpx_highbd_10_variance64x32/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1427   specialize qw/vpx_highbd_10_variance64x32 sse2/;
1428
1429   add_proto qw/unsigned int vpx_highbd_10_variance32x64/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1430   specialize qw/vpx_highbd_10_variance32x64 sse2/;
1431
1432   add_proto qw/unsigned int vpx_highbd_10_variance32x32/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1433   specialize qw/vpx_highbd_10_variance32x32 sse2/;
1434
1435   add_proto qw/unsigned int vpx_highbd_10_variance32x16/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1436   specialize qw/vpx_highbd_10_variance32x16 sse2/;
1437
1438   add_proto qw/unsigned int vpx_highbd_10_variance16x32/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1439   specialize qw/vpx_highbd_10_variance16x32 sse2/;
1440
1441   add_proto qw/unsigned int vpx_highbd_10_variance16x16/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1442   specialize qw/vpx_highbd_10_variance16x16 sse2/;
1443
1444   add_proto qw/unsigned int vpx_highbd_10_variance16x8/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1445   specialize qw/vpx_highbd_10_variance16x8 sse2/;
1446
1447   add_proto qw/unsigned int vpx_highbd_10_variance8x16/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1448   specialize qw/vpx_highbd_10_variance8x16 sse2/;
1449
1450   add_proto qw/unsigned int vpx_highbd_10_variance8x8/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1451   specialize qw/vpx_highbd_10_variance8x8 sse2/;
1452
1453   add_proto qw/unsigned int vpx_highbd_10_variance8x4/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1454   add_proto qw/unsigned int vpx_highbd_10_variance4x8/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1455   add_proto qw/unsigned int vpx_highbd_10_variance4x4/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1456
1457   add_proto qw/unsigned int vpx_highbd_8_variance64x64/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1458   specialize qw/vpx_highbd_8_variance64x64 sse2/;
1459
1460   add_proto qw/unsigned int vpx_highbd_8_variance64x32/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1461   specialize qw/vpx_highbd_8_variance64x32 sse2/;
1462
1463   add_proto qw/unsigned int vpx_highbd_8_variance32x64/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1464   specialize qw/vpx_highbd_8_variance32x64 sse2/;
1465
1466   add_proto qw/unsigned int vpx_highbd_8_variance32x32/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1467   specialize qw/vpx_highbd_8_variance32x32 sse2/;
1468
1469   add_proto qw/unsigned int vpx_highbd_8_variance32x16/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1470   specialize qw/vpx_highbd_8_variance32x16 sse2/;
1471
1472   add_proto qw/unsigned int vpx_highbd_8_variance16x32/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1473   specialize qw/vpx_highbd_8_variance16x32 sse2/;
1474
1475   add_proto qw/unsigned int vpx_highbd_8_variance16x16/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1476   specialize qw/vpx_highbd_8_variance16x16 sse2/;
1477
1478   add_proto qw/unsigned int vpx_highbd_8_variance16x8/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1479   specialize qw/vpx_highbd_8_variance16x8 sse2/;
1480
1481   add_proto qw/unsigned int vpx_highbd_8_variance8x16/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1482   specialize qw/vpx_highbd_8_variance8x16 sse2/;
1483
1484   add_proto qw/unsigned int vpx_highbd_8_variance8x8/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1485   specialize qw/vpx_highbd_8_variance8x8 sse2/;
1486
1487   add_proto qw/unsigned int vpx_highbd_8_variance8x4/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1488   add_proto qw/unsigned int vpx_highbd_8_variance4x8/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1489   add_proto qw/unsigned int vpx_highbd_8_variance4x4/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1490
1491   add_proto qw/void vpx_highbd_8_get16x16var/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse, int *sum";
1492   add_proto qw/void vpx_highbd_8_get8x8var/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse, int *sum";
1493
1494   add_proto qw/void vpx_highbd_10_get16x16var/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse, int *sum";
1495   add_proto qw/void vpx_highbd_10_get8x8var/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse, int *sum";
1496
1497   add_proto qw/void vpx_highbd_12_get16x16var/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse, int *sum";
1498   add_proto qw/void vpx_highbd_12_get8x8var/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse, int *sum";
1499
1500   add_proto qw/unsigned int vpx_highbd_8_mse16x16/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1501   specialize qw/vpx_highbd_8_mse16x16 sse2/;
1502
1503   add_proto qw/unsigned int vpx_highbd_8_mse16x8/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1504   add_proto qw/unsigned int vpx_highbd_8_mse8x16/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1505   add_proto qw/unsigned int vpx_highbd_8_mse8x8/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1506   specialize qw/vpx_highbd_8_mse8x8 sse2/;
1507
1508   add_proto qw/unsigned int vpx_highbd_10_mse16x16/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1509   specialize qw/vpx_highbd_10_mse16x16 sse2/;
1510
1511   add_proto qw/unsigned int vpx_highbd_10_mse16x8/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1512   add_proto qw/unsigned int vpx_highbd_10_mse8x16/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1513   add_proto qw/unsigned int vpx_highbd_10_mse8x8/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1514   specialize qw/vpx_highbd_10_mse8x8 sse2/;
1515
1516   add_proto qw/unsigned int vpx_highbd_12_mse16x16/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1517   specialize qw/vpx_highbd_12_mse16x16 sse2/;
1518
1519   add_proto qw/unsigned int vpx_highbd_12_mse16x8/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1520   add_proto qw/unsigned int vpx_highbd_12_mse8x16/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1521   add_proto qw/unsigned int vpx_highbd_12_mse8x8/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1522   specialize qw/vpx_highbd_12_mse8x8 sse2/;
1523
1524   add_proto qw/void vpx_highbd_comp_avg_pred/, "uint16_t *comp_pred, const uint8_t *pred8, int width, int height, const uint8_t *ref8, int ref_stride";
1525
1526   #
1527   # Subpixel Variance
1528   #
1529   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance64x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1530   specialize qw/vpx_highbd_12_sub_pixel_variance64x64 sse2/;
1531
1532   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance64x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1533   specialize qw/vpx_highbd_12_sub_pixel_variance64x32 sse2/;
1534
1535   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance32x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1536   specialize qw/vpx_highbd_12_sub_pixel_variance32x64 sse2/;
1537
1538   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance32x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1539   specialize qw/vpx_highbd_12_sub_pixel_variance32x32 sse2/;
1540
1541   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance32x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1542   specialize qw/vpx_highbd_12_sub_pixel_variance32x16 sse2/;
1543
1544   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance16x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1545   specialize qw/vpx_highbd_12_sub_pixel_variance16x32 sse2/;
1546
1547   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance16x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1548   specialize qw/vpx_highbd_12_sub_pixel_variance16x16 sse2/;
1549
1550   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance16x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1551   specialize qw/vpx_highbd_12_sub_pixel_variance16x8 sse2/;
1552
1553   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance8x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1554   specialize qw/vpx_highbd_12_sub_pixel_variance8x16 sse2/;
1555
1556   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance8x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1557   specialize qw/vpx_highbd_12_sub_pixel_variance8x8 sse2/;
1558
1559   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance8x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1560   specialize qw/vpx_highbd_12_sub_pixel_variance8x4 sse2/;
1561
1562   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance4x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1563   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance4x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1564
1565   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance64x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1566   specialize qw/vpx_highbd_10_sub_pixel_variance64x64 sse2/;
1567
1568   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance64x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1569   specialize qw/vpx_highbd_10_sub_pixel_variance64x32 sse2/;
1570
1571   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance32x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1572   specialize qw/vpx_highbd_10_sub_pixel_variance32x64 sse2/;
1573
1574   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance32x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1575   specialize qw/vpx_highbd_10_sub_pixel_variance32x32 sse2/;
1576
1577   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance32x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1578   specialize qw/vpx_highbd_10_sub_pixel_variance32x16 sse2/;
1579
1580   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance16x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1581   specialize qw/vpx_highbd_10_sub_pixel_variance16x32 sse2/;
1582
1583   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance16x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1584   specialize qw/vpx_highbd_10_sub_pixel_variance16x16 sse2/;
1585
1586   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance16x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1587   specialize qw/vpx_highbd_10_sub_pixel_variance16x8 sse2/;
1588
1589   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance8x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1590   specialize qw/vpx_highbd_10_sub_pixel_variance8x16 sse2/;
1591
1592   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance8x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1593   specialize qw/vpx_highbd_10_sub_pixel_variance8x8 sse2/;
1594
1595   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance8x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1596   specialize qw/vpx_highbd_10_sub_pixel_variance8x4 sse2/;
1597
1598   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance4x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1599   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance4x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1600
1601   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance64x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1602   specialize qw/vpx_highbd_8_sub_pixel_variance64x64 sse2/;
1603
1604   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance64x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1605   specialize qw/vpx_highbd_8_sub_pixel_variance64x32 sse2/;
1606
1607   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance32x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1608   specialize qw/vpx_highbd_8_sub_pixel_variance32x64 sse2/;
1609
1610   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance32x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1611   specialize qw/vpx_highbd_8_sub_pixel_variance32x32 sse2/;
1612
1613   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance32x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1614   specialize qw/vpx_highbd_8_sub_pixel_variance32x16 sse2/;
1615
1616   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance16x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1617   specialize qw/vpx_highbd_8_sub_pixel_variance16x32 sse2/;
1618
1619   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance16x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1620   specialize qw/vpx_highbd_8_sub_pixel_variance16x16 sse2/;
1621
1622   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance16x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1623   specialize qw/vpx_highbd_8_sub_pixel_variance16x8 sse2/;
1624
1625   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance8x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1626   specialize qw/vpx_highbd_8_sub_pixel_variance8x16 sse2/;
1627
1628   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance8x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1629   specialize qw/vpx_highbd_8_sub_pixel_variance8x8 sse2/;
1630
1631   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance8x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1632   specialize qw/vpx_highbd_8_sub_pixel_variance8x4 sse2/;
1633
1634   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance4x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1635   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance4x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1636
1637   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance64x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1638   specialize qw/vpx_highbd_12_sub_pixel_avg_variance64x64 sse2/;
1639
1640   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance64x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1641   specialize qw/vpx_highbd_12_sub_pixel_avg_variance64x32 sse2/;
1642
1643   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance32x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1644   specialize qw/vpx_highbd_12_sub_pixel_avg_variance32x64 sse2/;
1645
1646   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance32x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1647   specialize qw/vpx_highbd_12_sub_pixel_avg_variance32x32 sse2/;
1648
1649   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance32x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1650   specialize qw/vpx_highbd_12_sub_pixel_avg_variance32x16 sse2/;
1651
1652   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance16x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1653   specialize qw/vpx_highbd_12_sub_pixel_avg_variance16x32 sse2/;
1654
1655   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance16x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1656   specialize qw/vpx_highbd_12_sub_pixel_avg_variance16x16 sse2/;
1657
1658   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance16x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1659   specialize qw/vpx_highbd_12_sub_pixel_avg_variance16x8 sse2/;
1660
1661   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance8x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1662   specialize qw/vpx_highbd_12_sub_pixel_avg_variance8x16 sse2/;
1663
1664   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance8x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1665   specialize qw/vpx_highbd_12_sub_pixel_avg_variance8x8 sse2/;
1666
1667   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance8x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1668   specialize qw/vpx_highbd_12_sub_pixel_avg_variance8x4 sse2/;
1669
1670   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance4x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1671   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance4x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1672
1673   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance64x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1674   specialize qw/vpx_highbd_10_sub_pixel_avg_variance64x64 sse2/;
1675
1676   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance64x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1677   specialize qw/vpx_highbd_10_sub_pixel_avg_variance64x32 sse2/;
1678
1679   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance32x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1680   specialize qw/vpx_highbd_10_sub_pixel_avg_variance32x64 sse2/;
1681
1682   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance32x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1683   specialize qw/vpx_highbd_10_sub_pixel_avg_variance32x32 sse2/;
1684
1685   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance32x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1686   specialize qw/vpx_highbd_10_sub_pixel_avg_variance32x16 sse2/;
1687
1688   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance16x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1689   specialize qw/vpx_highbd_10_sub_pixel_avg_variance16x32 sse2/;
1690
1691   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance16x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1692   specialize qw/vpx_highbd_10_sub_pixel_avg_variance16x16 sse2/;
1693
1694   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance16x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1695   specialize qw/vpx_highbd_10_sub_pixel_avg_variance16x8 sse2/;
1696
1697   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance8x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1698   specialize qw/vpx_highbd_10_sub_pixel_avg_variance8x16 sse2/;
1699
1700   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance8x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1701   specialize qw/vpx_highbd_10_sub_pixel_avg_variance8x8 sse2/;
1702
1703   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance8x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1704   specialize qw/vpx_highbd_10_sub_pixel_avg_variance8x4 sse2/;
1705
1706   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance4x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1707   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance4x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1708
1709   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance64x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1710   specialize qw/vpx_highbd_8_sub_pixel_avg_variance64x64 sse2/;
1711
1712   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance64x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1713   specialize qw/vpx_highbd_8_sub_pixel_avg_variance64x32 sse2/;
1714
1715   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance32x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1716   specialize qw/vpx_highbd_8_sub_pixel_avg_variance32x64 sse2/;
1717
1718   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance32x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1719   specialize qw/vpx_highbd_8_sub_pixel_avg_variance32x32 sse2/;
1720
1721   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance32x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1722   specialize qw/vpx_highbd_8_sub_pixel_avg_variance32x16 sse2/;
1723
1724   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance16x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1725   specialize qw/vpx_highbd_8_sub_pixel_avg_variance16x32 sse2/;
1726
1727   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance16x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1728   specialize qw/vpx_highbd_8_sub_pixel_avg_variance16x16 sse2/;
1729
1730   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance16x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1731   specialize qw/vpx_highbd_8_sub_pixel_avg_variance16x8 sse2/;
1732
1733   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance8x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1734   specialize qw/vpx_highbd_8_sub_pixel_avg_variance8x16 sse2/;
1735
1736   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance8x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1737   specialize qw/vpx_highbd_8_sub_pixel_avg_variance8x8 sse2/;
1738
1739   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance8x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1740   specialize qw/vpx_highbd_8_sub_pixel_avg_variance8x4 sse2/;
1741
1742   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance4x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1743   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance4x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1744
1745 }  # CONFIG_VP9_HIGHBITDEPTH
1746
1747 #
1748 # Post Processing
1749 #
1750 if (vpx_config("CONFIG_POSTPROC") eq "yes" || vpx_config("CONFIG_VP9_POSTPROC") eq "yes") {
1751     add_proto qw/void vpx_plane_add_noise/, "uint8_t *start, const int8_t *noise, int blackclamp, int whiteclamp, int width, int height, int pitch";
1752     specialize qw/vpx_plane_add_noise sse2 msa/;
1753
1754     add_proto qw/void vpx_mbpost_proc_down/, "unsigned char *dst, int pitch, int rows, int cols,int flimit";
1755     specialize qw/vpx_mbpost_proc_down sse2 neon msa/;
1756
1757     add_proto qw/void vpx_mbpost_proc_across_ip/, "unsigned char *dst, int pitch, int rows, int cols,int flimit";
1758     specialize qw/vpx_mbpost_proc_across_ip sse2 neon msa/;
1759
1760     add_proto qw/void vpx_post_proc_down_and_across_mb_row/, "unsigned char *src, unsigned char *dst, int src_pitch, int dst_pitch, int cols, unsigned char *flimits, int size";
1761     specialize qw/vpx_post_proc_down_and_across_mb_row sse2 neon msa/;
1762
1763 }
1764
1765 }  # CONFIG_ENCODERS || CONFIG_POSTPROC || CONFIG_VP9_POSTPROC
1766
1767 1;