granicus.if.org Git - libvpx/blob - vpx_dsp/vpx_dsp_rtcd_defs.pl

   1 sub vpx_dsp_forward_decls() {
   2 print <<EOF
   3 /*
   4  * DSP
   5  */
   6
   7 #include "vpx/vpx_integer.h"
   8 #include "vpx_dsp/vpx_dsp_common.h"
   9
  10 EOF
  11 }
  12 forward_decls qw/vpx_dsp_forward_decls/;
  13
  14 # functions that are 64 bit only.
  15 $mmx_x86_64 = $sse2_x86_64 = $ssse3_x86_64 = $avx_x86_64 = $avx2_x86_64 = '';
  16 if ($opts{arch} eq "x86_64") {
  17   $mmx_x86_64 = 'mmx';
  18   $sse2_x86_64 = 'sse2';
  19   $ssse3_x86_64 = 'ssse3';
  20   $avx_x86_64 = 'avx';
  21   $avx2_x86_64 = 'avx2';
  22 }
  23
  24 #
  25 # Intra prediction
  26 #
  27
  28 add_proto qw/void vpx_d207_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  29 specialize qw/vpx_d207_predictor_4x4 sse2/;
  30
  31 add_proto qw/void vpx_d207e_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  32
  33 add_proto qw/void vpx_d45_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  34 specialize qw/vpx_d45_predictor_4x4 neon sse2/;
  35
  36 add_proto qw/void vpx_d45e_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  37
  38 add_proto qw/void vpx_d63_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  39 specialize qw/vpx_d63_predictor_4x4 ssse3/;
  40
  41 add_proto qw/void vpx_d63e_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  42
  43 add_proto qw/void vpx_d63f_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  44
  45 add_proto qw/void vpx_h_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  46 specialize qw/vpx_h_predictor_4x4 neon dspr2 msa sse2/;
  47
  48 add_proto qw/void vpx_he_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  49
  50 add_proto qw/void vpx_d117_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  51
  52 add_proto qw/void vpx_d135_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  53 specialize qw/vpx_d135_predictor_4x4 neon/;
  54
  55 add_proto qw/void vpx_d153_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  56 specialize qw/vpx_d153_predictor_4x4 ssse3/;
  57
  58 add_proto qw/void vpx_v_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  59 specialize qw/vpx_v_predictor_4x4 neon msa sse2/;
  60
  61 add_proto qw/void vpx_ve_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  62
  63 add_proto qw/void vpx_tm_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  64 specialize qw/vpx_tm_predictor_4x4 neon dspr2 msa sse2/;
  65
  66 add_proto qw/void vpx_dc_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  67 specialize qw/vpx_dc_predictor_4x4 dspr2 msa neon sse2/;
  68
  69 add_proto qw/void vpx_dc_top_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  70 specialize qw/vpx_dc_top_predictor_4x4 msa neon sse2/;
  71
  72 add_proto qw/void vpx_dc_left_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  73 specialize qw/vpx_dc_left_predictor_4x4 msa neon sse2/;
  74
  75 add_proto qw/void vpx_dc_128_predictor_4x4/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  76 specialize qw/vpx_dc_128_predictor_4x4 msa neon sse2/;
  77
  78 add_proto qw/void vpx_d207_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  79 specialize qw/vpx_d207_predictor_8x8 ssse3/;
  80
  81 add_proto qw/void vpx_d207e_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  82
  83 add_proto qw/void vpx_d45_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  84 specialize qw/vpx_d45_predictor_8x8 neon sse2/;
  85
  86 add_proto qw/void vpx_d45e_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  87
  88 add_proto qw/void vpx_d63_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  89 specialize qw/vpx_d63_predictor_8x8 ssse3/;
  90
  91 add_proto qw/void vpx_d63e_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  92
  93 add_proto qw/void vpx_h_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  94 specialize qw/vpx_h_predictor_8x8 neon dspr2 msa sse2/;
  95
  96 add_proto qw/void vpx_d117_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  97
  98 add_proto qw/void vpx_d135_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
  99 specialize qw/vpx_d135_predictor_8x8 neon/;
 100
 101 add_proto qw/void vpx_d153_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 102 specialize qw/vpx_d153_predictor_8x8 ssse3/;
 103
 104 add_proto qw/void vpx_v_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 105 specialize qw/vpx_v_predictor_8x8 neon msa sse2/;
 106
 107 add_proto qw/void vpx_tm_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 108 specialize qw/vpx_tm_predictor_8x8 neon dspr2 msa sse2/;
 109
 110 add_proto qw/void vpx_dc_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 111 specialize qw/vpx_dc_predictor_8x8 dspr2 neon msa sse2/;
 112
 113 add_proto qw/void vpx_dc_top_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 114 specialize qw/vpx_dc_top_predictor_8x8 neon msa sse2/;
 115
 116 add_proto qw/void vpx_dc_left_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 117 specialize qw/vpx_dc_left_predictor_8x8 neon msa sse2/;
 118
 119 add_proto qw/void vpx_dc_128_predictor_8x8/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 120 specialize qw/vpx_dc_128_predictor_8x8 neon msa sse2/;
 121
 122 add_proto qw/void vpx_d207_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 123 specialize qw/vpx_d207_predictor_16x16 ssse3/;
 124
 125 add_proto qw/void vpx_d207e_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 126
 127 add_proto qw/void vpx_d45_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 128 specialize qw/vpx_d45_predictor_16x16 neon ssse3/;
 129
 130 add_proto qw/void vpx_d45e_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 131
 132 add_proto qw/void vpx_d63_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 133 specialize qw/vpx_d63_predictor_16x16 ssse3/;
 134
 135 add_proto qw/void vpx_d63e_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 136
 137 add_proto qw/void vpx_h_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 138 specialize qw/vpx_h_predictor_16x16 neon dspr2 msa sse2/;
 139
 140 add_proto qw/void vpx_d117_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 141
 142 add_proto qw/void vpx_d135_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 143 specialize qw/vpx_d135_predictor_16x16 neon/;
 144
 145 add_proto qw/void vpx_d153_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 146 specialize qw/vpx_d153_predictor_16x16 ssse3/;
 147
 148 add_proto qw/void vpx_v_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 149 specialize qw/vpx_v_predictor_16x16 neon msa sse2/;
 150
 151 add_proto qw/void vpx_tm_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 152 specialize qw/vpx_tm_predictor_16x16 neon msa sse2/;
 153
 154 add_proto qw/void vpx_dc_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 155 specialize qw/vpx_dc_predictor_16x16 dspr2 neon msa sse2/;
 156
 157 add_proto qw/void vpx_dc_top_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 158 specialize qw/vpx_dc_top_predictor_16x16 neon msa sse2/;
 159
 160 add_proto qw/void vpx_dc_left_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 161 specialize qw/vpx_dc_left_predictor_16x16 neon msa sse2/;
 162
 163 add_proto qw/void vpx_dc_128_predictor_16x16/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 164 specialize qw/vpx_dc_128_predictor_16x16 neon msa sse2/;
 165
 166 add_proto qw/void vpx_d207_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 167 specialize qw/vpx_d207_predictor_32x32 ssse3/;
 168
 169 add_proto qw/void vpx_d207e_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 170
 171 add_proto qw/void vpx_d45_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 172 specialize qw/vpx_d45_predictor_32x32 neon ssse3/;
 173
 174 add_proto qw/void vpx_d45e_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 175
 176 add_proto qw/void vpx_d63_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 177 specialize qw/vpx_d63_predictor_32x32 ssse3/;
 178
 179 add_proto qw/void vpx_d63e_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 180
 181 add_proto qw/void vpx_h_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 182 specialize qw/vpx_h_predictor_32x32 neon msa sse2/;
 183
 184 add_proto qw/void vpx_d117_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 185
 186 add_proto qw/void vpx_d135_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 187 specialize qw/vpx_d135_predictor_32x32 neon/;
 188
 189 add_proto qw/void vpx_d153_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 190 specialize qw/vpx_d153_predictor_32x32 ssse3/;
 191
 192 add_proto qw/void vpx_v_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 193 specialize qw/vpx_v_predictor_32x32 neon msa sse2/;
 194
 195 add_proto qw/void vpx_tm_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 196 specialize qw/vpx_tm_predictor_32x32 neon msa sse2/;
 197
 198 add_proto qw/void vpx_dc_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 199 specialize qw/vpx_dc_predictor_32x32 msa neon sse2/;
 200
 201 add_proto qw/void vpx_dc_top_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 202 specialize qw/vpx_dc_top_predictor_32x32 msa neon sse2/;
 203
 204 add_proto qw/void vpx_dc_left_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 205 specialize qw/vpx_dc_left_predictor_32x32 msa neon sse2/;
 206
 207 add_proto qw/void vpx_dc_128_predictor_32x32/, "uint8_t *dst, ptrdiff_t y_stride, const uint8_t *above, const uint8_t *left";
 208 specialize qw/vpx_dc_128_predictor_32x32 msa neon sse2/;
 209
 210 # High bitdepth functions
 211 if (vpx_config("CONFIG_VP9_HIGHBITDEPTH") eq "yes") {
 212   add_proto qw/void vpx_highbd_d207_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 213
 214   add_proto qw/void vpx_highbd_d207e_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 215
 216   add_proto qw/void vpx_highbd_d45_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 217   specialize qw/vpx_highbd_d45_predictor_4x4 neon/;
 218
 219   add_proto qw/void vpx_highbd_d45e_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 220
 221   add_proto qw/void vpx_highbd_d63_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 222
 223   add_proto qw/void vpx_highbd_d63e_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 224
 225   add_proto qw/void vpx_highbd_h_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 226   specialize qw/vpx_highbd_h_predictor_4x4 neon/;
 227
 228   add_proto qw/void vpx_highbd_d117_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 229
 230   add_proto qw/void vpx_highbd_d135_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 231   specialize qw/vpx_highbd_d135_predictor_4x4 neon/;
 232
 233   add_proto qw/void vpx_highbd_d153_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 234
 235   add_proto qw/void vpx_highbd_v_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 236   specialize qw/vpx_highbd_v_predictor_4x4 neon sse2/;
 237
 238   add_proto qw/void vpx_highbd_tm_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 239   specialize qw/vpx_highbd_tm_predictor_4x4 neon sse2/;
 240
 241   add_proto qw/void vpx_highbd_dc_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 242   specialize qw/vpx_highbd_dc_predictor_4x4 neon sse2/;
 243
 244   add_proto qw/void vpx_highbd_dc_top_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 245   specialize qw/vpx_highbd_dc_top_predictor_4x4 neon/;
 246
 247   add_proto qw/void vpx_highbd_dc_left_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 248   specialize qw/vpx_highbd_dc_left_predictor_4x4 neon/;
 249
 250   add_proto qw/void vpx_highbd_dc_128_predictor_4x4/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 251   specialize qw/vpx_highbd_dc_128_predictor_4x4 neon/;
 252
 253   add_proto qw/void vpx_highbd_d207_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 254
 255   add_proto qw/void vpx_highbd_d207e_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 256
 257   add_proto qw/void vpx_highbd_d45_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 258   specialize qw/vpx_highbd_d45_predictor_8x8 neon/;
 259
 260   add_proto qw/void vpx_highbd_d45e_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 261
 262   add_proto qw/void vpx_highbd_d63_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 263
 264   add_proto qw/void vpx_highbd_d63e_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 265
 266   add_proto qw/void vpx_highbd_h_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 267   specialize qw/vpx_highbd_h_predictor_8x8 neon/;
 268
 269   add_proto qw/void vpx_highbd_d117_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 270
 271   add_proto qw/void vpx_highbd_d135_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 272   specialize qw/vpx_highbd_d135_predictor_8x8 neon/;
 273
 274   add_proto qw/void vpx_highbd_d153_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 275
 276   add_proto qw/void vpx_highbd_v_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 277   specialize qw/vpx_highbd_v_predictor_8x8 neon sse2/;
 278
 279   add_proto qw/void vpx_highbd_tm_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 280   specialize qw/vpx_highbd_tm_predictor_8x8 neon sse2/;
 281
 282   add_proto qw/void vpx_highbd_dc_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 283   specialize qw/vpx_highbd_dc_predictor_8x8 neon sse2/;
 284
 285   add_proto qw/void vpx_highbd_dc_top_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 286   specialize qw/vpx_highbd_dc_top_predictor_8x8 neon/;
 287
 288   add_proto qw/void vpx_highbd_dc_left_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 289   specialize qw/vpx_highbd_dc_left_predictor_8x8 neon/;
 290
 291   add_proto qw/void vpx_highbd_dc_128_predictor_8x8/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 292   specialize qw/vpx_highbd_dc_128_predictor_8x8 neon/;
 293
 294   add_proto qw/void vpx_highbd_d207_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 295
 296   add_proto qw/void vpx_highbd_d207e_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 297
 298   add_proto qw/void vpx_highbd_d45_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 299   specialize qw/vpx_highbd_d45_predictor_16x16 neon/;
 300
 301   add_proto qw/void vpx_highbd_d45e_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 302
 303   add_proto qw/void vpx_highbd_d63_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 304
 305   add_proto qw/void vpx_highbd_d63e_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 306
 307   add_proto qw/void vpx_highbd_h_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 308   specialize qw/vpx_highbd_h_predictor_16x16 neon/;
 309
 310   add_proto qw/void vpx_highbd_d117_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 311
 312   add_proto qw/void vpx_highbd_d135_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 313   specialize qw/vpx_highbd_d135_predictor_16x16 neon/;
 314
 315   add_proto qw/void vpx_highbd_d153_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 316
 317   add_proto qw/void vpx_highbd_v_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 318   specialize qw/vpx_highbd_v_predictor_16x16 neon sse2/;
 319
 320   add_proto qw/void vpx_highbd_tm_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 321   specialize qw/vpx_highbd_tm_predictor_16x16 neon sse2/;
 322
 323   add_proto qw/void vpx_highbd_dc_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 324   specialize qw/vpx_highbd_dc_predictor_16x16 neon sse2/;
 325
 326   add_proto qw/void vpx_highbd_dc_top_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 327   specialize qw/vpx_highbd_dc_top_predictor_16x16 neon/;
 328
 329   add_proto qw/void vpx_highbd_dc_left_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 330   specialize qw/vpx_highbd_dc_left_predictor_16x16 neon/;
 331
 332   add_proto qw/void vpx_highbd_dc_128_predictor_16x16/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 333   specialize qw/vpx_highbd_dc_128_predictor_16x16 neon/;
 334
 335   add_proto qw/void vpx_highbd_d207_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 336
 337   add_proto qw/void vpx_highbd_d207e_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 338
 339   add_proto qw/void vpx_highbd_d45_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 340   specialize qw/vpx_highbd_d45_predictor_32x32 neon/;
 341
 342   add_proto qw/void vpx_highbd_d45e_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 343
 344   add_proto qw/void vpx_highbd_d63_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 345
 346   add_proto qw/void vpx_highbd_d63e_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 347
 348   add_proto qw/void vpx_highbd_h_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 349   specialize qw/vpx_highbd_h_predictor_32x32 neon/;
 350
 351   add_proto qw/void vpx_highbd_d117_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 352
 353   add_proto qw/void vpx_highbd_d135_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 354   specialize qw/vpx_highbd_d135_predictor_32x32 neon/;
 355
 356   add_proto qw/void vpx_highbd_d153_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 357
 358   add_proto qw/void vpx_highbd_v_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 359   specialize qw/vpx_highbd_v_predictor_32x32 neon sse2/;
 360
 361   add_proto qw/void vpx_highbd_tm_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 362   specialize qw/vpx_highbd_tm_predictor_32x32 neon sse2/;
 363
 364   add_proto qw/void vpx_highbd_dc_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 365   specialize qw/vpx_highbd_dc_predictor_32x32 neon sse2/;
 366
 367   add_proto qw/void vpx_highbd_dc_top_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 368   specialize qw/vpx_highbd_dc_top_predictor_32x32 neon/;
 369
 370   add_proto qw/void vpx_highbd_dc_left_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 371   specialize qw/vpx_highbd_dc_left_predictor_32x32 neon/;
 372
 373   add_proto qw/void vpx_highbd_dc_128_predictor_32x32/, "uint16_t *dst, ptrdiff_t y_stride, const uint16_t *above, const uint16_t *left, int bd";
 374   specialize qw/vpx_highbd_dc_128_predictor_32x32 neon/;
 375 }  # CONFIG_VP9_HIGHBITDEPTH
 376
 377 #
 378 # Sub Pixel Filters
 379 #
 380 add_proto qw/void vpx_convolve_copy/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 381 specialize qw/vpx_convolve_copy neon dspr2 msa sse2/;
 382
 383 add_proto qw/void vpx_convolve_avg/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 384 specialize qw/vpx_convolve_avg neon dspr2 msa sse2/;
 385
 386 add_proto qw/void vpx_convolve8/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 387 specialize qw/vpx_convolve8 sse2 ssse3 avx2 neon dspr2 msa/;
 388
 389 add_proto qw/void vpx_convolve8_horiz/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 390 specialize qw/vpx_convolve8_horiz sse2 ssse3 avx2 neon dspr2 msa/;
 391
 392 add_proto qw/void vpx_convolve8_vert/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 393 specialize qw/vpx_convolve8_vert sse2 ssse3 avx2 neon dspr2 msa/;
 394
 395 add_proto qw/void vpx_convolve8_avg/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 396 specialize qw/vpx_convolve8_avg sse2 ssse3 neon dspr2 msa/;
 397
 398 add_proto qw/void vpx_convolve8_avg_horiz/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 399 specialize qw/vpx_convolve8_avg_horiz sse2 ssse3 neon dspr2 msa/;
 400
 401 add_proto qw/void vpx_convolve8_avg_vert/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 402 specialize qw/vpx_convolve8_avg_vert sse2 ssse3 neon dspr2 msa/;
 403
 404 add_proto qw/void vpx_scaled_2d/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 405 specialize qw/vpx_scaled_2d ssse3/;
 406
 407 add_proto qw/void vpx_scaled_horiz/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 408
 409 add_proto qw/void vpx_scaled_vert/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 410
 411 add_proto qw/void vpx_scaled_avg_2d/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 412
 413 add_proto qw/void vpx_scaled_avg_horiz/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 414
 415 add_proto qw/void vpx_scaled_avg_vert/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h";
 416
 417 if (vpx_config("CONFIG_VP9_HIGHBITDEPTH") eq "yes") {
 418   #
 419   # Sub Pixel Filters
 420   #
 421   add_proto qw/void vpx_highbd_convolve_copy/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h, int bps";
 422   specialize qw/vpx_highbd_convolve_copy sse2 neon/;
 423
 424   add_proto qw/void vpx_highbd_convolve_avg/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h, int bps";
 425   specialize qw/vpx_highbd_convolve_avg sse2 neon/;
 426
 427   add_proto qw/void vpx_highbd_convolve8/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h, int bps";
 428   specialize qw/vpx_highbd_convolve8 neon/, "$sse2_x86_64";
 429
 430   add_proto qw/void vpx_highbd_convolve8_horiz/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h, int bps";
 431   specialize qw/vpx_highbd_convolve8_horiz neon/, "$sse2_x86_64";
 432
 433   add_proto qw/void vpx_highbd_convolve8_vert/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h, int bps";
 434   specialize qw/vpx_highbd_convolve8_vert neon/, "$sse2_x86_64";
 435
 436   add_proto qw/void vpx_highbd_convolve8_avg/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h, int bps";
 437   specialize qw/vpx_highbd_convolve8_avg neon/, "$sse2_x86_64";
 438
 439   add_proto qw/void vpx_highbd_convolve8_avg_horiz/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h, int bps";
 440   specialize qw/vpx_highbd_convolve8_avg_horiz neon/, "$sse2_x86_64";
 441
 442   add_proto qw/void vpx_highbd_convolve8_avg_vert/, "const uint8_t *src, ptrdiff_t src_stride, uint8_t *dst, ptrdiff_t dst_stride, const int16_t *filter_x, int x_step_q4, const int16_t *filter_y, int y_step_q4, int w, int h, int bps";
 443   specialize qw/vpx_highbd_convolve8_avg_vert neon/, "$sse2_x86_64";
 444 }  # CONFIG_VP9_HIGHBITDEPTH
 445
 446 #
 447 # Loopfilter
 448 #
 449 add_proto qw/void vpx_lpf_vertical_16/, "uint8_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh";
 450 specialize qw/vpx_lpf_vertical_16 sse2 neon dspr2 msa/;
 451
 452 add_proto qw/void vpx_lpf_vertical_16_dual/, "uint8_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh";
 453 specialize qw/vpx_lpf_vertical_16_dual sse2 neon dspr2 msa/;
 454
 455 add_proto qw/void vpx_lpf_vertical_8/, "uint8_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh";
 456 specialize qw/vpx_lpf_vertical_8 sse2 neon dspr2 msa/;
 457
 458 add_proto qw/void vpx_lpf_vertical_8_dual/, "uint8_t *s, int pitch, const uint8_t *blimit0, const uint8_t *limit0, const uint8_t *thresh0, const uint8_t *blimit1, const uint8_t *limit1, const uint8_t *thresh1";
 459 specialize qw/vpx_lpf_vertical_8_dual sse2 neon dspr2 msa/;
 460
 461 add_proto qw/void vpx_lpf_vertical_4/, "uint8_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh";
 462 specialize qw/vpx_lpf_vertical_4 sse2 neon dspr2 msa/;
 463
 464 add_proto qw/void vpx_lpf_vertical_4_dual/, "uint8_t *s, int pitch, const uint8_t *blimit0, const uint8_t *limit0, const uint8_t *thresh0, const uint8_t *blimit1, const uint8_t *limit1, const uint8_t *thresh1";
 465 specialize qw/vpx_lpf_vertical_4_dual sse2 neon dspr2 msa/;
 466
 467 add_proto qw/void vpx_lpf_horizontal_16/, "uint8_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh";
 468 specialize qw/vpx_lpf_horizontal_16 sse2 avx2 neon dspr2 msa/;
 469
 470 add_proto qw/void vpx_lpf_horizontal_16_dual/, "uint8_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh";
 471 specialize qw/vpx_lpf_horizontal_16_dual sse2 avx2 neon dspr2 msa/;
 472
 473 add_proto qw/void vpx_lpf_horizontal_8/, "uint8_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh";
 474 specialize qw/vpx_lpf_horizontal_8 sse2 neon dspr2 msa/;
 475
 476 add_proto qw/void vpx_lpf_horizontal_8_dual/, "uint8_t *s, int pitch, const uint8_t *blimit0, const uint8_t *limit0, const uint8_t *thresh0, const uint8_t *blimit1, const uint8_t *limit1, const uint8_t *thresh1";
 477 specialize qw/vpx_lpf_horizontal_8_dual sse2 neon dspr2 msa/;
 478
 479 add_proto qw/void vpx_lpf_horizontal_4/, "uint8_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh";
 480 specialize qw/vpx_lpf_horizontal_4 sse2 neon dspr2 msa/;
 481
 482 add_proto qw/void vpx_lpf_horizontal_4_dual/, "uint8_t *s, int pitch, const uint8_t *blimit0, const uint8_t *limit0, const uint8_t *thresh0, const uint8_t *blimit1, const uint8_t *limit1, const uint8_t *thresh1";
 483 specialize qw/vpx_lpf_horizontal_4_dual sse2 neon dspr2 msa/;
 484
 485 if (vpx_config("CONFIG_VP9_HIGHBITDEPTH") eq "yes") {
 486   add_proto qw/void vpx_highbd_lpf_vertical_16/, "uint16_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh, int bd";
 487   specialize qw/vpx_highbd_lpf_vertical_16 sse2 neon/;
 488
 489   add_proto qw/void vpx_highbd_lpf_vertical_16_dual/, "uint16_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh, int bd";
 490   specialize qw/vpx_highbd_lpf_vertical_16_dual sse2 neon/;
 491
 492   add_proto qw/void vpx_highbd_lpf_vertical_8/, "uint16_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh, int bd";
 493   specialize qw/vpx_highbd_lpf_vertical_8 sse2 neon/;
 494
 495   add_proto qw/void vpx_highbd_lpf_vertical_8_dual/, "uint16_t *s, int pitch, const uint8_t *blimit0, const uint8_t *limit0, const uint8_t *thresh0, const uint8_t *blimit1, const uint8_t *limit1, const uint8_t *thresh1, int bd";
 496   specialize qw/vpx_highbd_lpf_vertical_8_dual sse2 neon/;
 497
 498   add_proto qw/void vpx_highbd_lpf_vertical_4/, "uint16_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh, int bd";
 499   specialize qw/vpx_highbd_lpf_vertical_4 sse2 neon/;
 500
 501   add_proto qw/void vpx_highbd_lpf_vertical_4_dual/, "uint16_t *s, int pitch, const uint8_t *blimit0, const uint8_t *limit0, const uint8_t *thresh0, const uint8_t *blimit1, const uint8_t *limit1, const uint8_t *thresh1, int bd";
 502   specialize qw/vpx_highbd_lpf_vertical_4_dual sse2 neon/;
 503
 504   add_proto qw/void vpx_highbd_lpf_horizontal_16/, "uint16_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh, int bd";
 505   specialize qw/vpx_highbd_lpf_horizontal_16 sse2 neon/;
 506
 507   add_proto qw/void vpx_highbd_lpf_horizontal_16_dual/, "uint16_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh, int bd";
 508   specialize qw/vpx_highbd_lpf_horizontal_16_dual sse2 neon/;
 509
 510   add_proto qw/void vpx_highbd_lpf_horizontal_8/, "uint16_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh, int bd";
 511   specialize qw/vpx_highbd_lpf_horizontal_8 sse2 neon/;
 512
 513   add_proto qw/void vpx_highbd_lpf_horizontal_8_dual/, "uint16_t *s, int pitch, const uint8_t *blimit0, const uint8_t *limit0, const uint8_t *thresh0, const uint8_t *blimit1, const uint8_t *limit1, const uint8_t *thresh1, int bd";
 514   specialize qw/vpx_highbd_lpf_horizontal_8_dual sse2 neon/;
 515
 516   add_proto qw/void vpx_highbd_lpf_horizontal_4/, "uint16_t *s, int pitch, const uint8_t *blimit, const uint8_t *limit, const uint8_t *thresh, int bd";
 517   specialize qw/vpx_highbd_lpf_horizontal_4 sse2 neon/;
 518
 519   add_proto qw/void vpx_highbd_lpf_horizontal_4_dual/, "uint16_t *s, int pitch, const uint8_t *blimit0, const uint8_t *limit0, const uint8_t *thresh0, const uint8_t *blimit1, const uint8_t *limit1, const uint8_t *thresh1, int bd";
 520   specialize qw/vpx_highbd_lpf_horizontal_4_dual sse2 neon/;
 521 }  # CONFIG_VP9_HIGHBITDEPTH
 522
 523 #
 524 # Encoder functions.
 525 #
 526
 527 #
 528 # Forward transform
 529 #
 530 if (vpx_config("CONFIG_VP9_ENCODER") eq "yes") {
 531 if (vpx_config("CONFIG_VP9_HIGHBITDEPTH") eq "yes") {
 532   add_proto qw/void vpx_fdct4x4/, "const int16_t *input, tran_low_t *output, int stride";
 533   specialize qw/vpx_fdct4x4 sse2/;
 534
 535   add_proto qw/void vpx_fdct4x4_1/, "const int16_t *input, tran_low_t *output, int stride";
 536   specialize qw/vpx_fdct4x4_1 sse2/;
 537
 538   add_proto qw/void vpx_fdct8x8/, "const int16_t *input, tran_low_t *output, int stride";
 539   specialize qw/vpx_fdct8x8 neon sse2/;
 540
 541   add_proto qw/void vpx_fdct8x8_1/, "const int16_t *input, tran_low_t *output, int stride";
 542   specialize qw/vpx_fdct8x8_1 neon sse2/;
 543
 544   add_proto qw/void vpx_fdct16x16/, "const int16_t *input, tran_low_t *output, int stride";
 545   specialize qw/vpx_fdct16x16 sse2/;
 546
 547   add_proto qw/void vpx_fdct16x16_1/, "const int16_t *input, tran_low_t *output, int stride";
 548   specialize qw/vpx_fdct16x16_1 sse2/;
 549
 550   add_proto qw/void vpx_fdct32x32/, "const int16_t *input, tran_low_t *output, int stride";
 551   specialize qw/vpx_fdct32x32 sse2/;
 552
 553   add_proto qw/void vpx_fdct32x32_rd/, "const int16_t *input, tran_low_t *output, int stride";
 554   specialize qw/vpx_fdct32x32_rd sse2/;
 555
 556   add_proto qw/void vpx_fdct32x32_1/, "const int16_t *input, tran_low_t *output, int stride";
 557   specialize qw/vpx_fdct32x32_1 sse2/;
 558
 559   add_proto qw/void vpx_highbd_fdct4x4/, "const int16_t *input, tran_low_t *output, int stride";
 560   specialize qw/vpx_highbd_fdct4x4 sse2/;
 561
 562   add_proto qw/void vpx_highbd_fdct8x8/, "const int16_t *input, tran_low_t *output, int stride";
 563   specialize qw/vpx_highbd_fdct8x8 sse2/;
 564
 565   add_proto qw/void vpx_highbd_fdct8x8_1/, "const int16_t *input, tran_low_t *output, int stride";
 566
 567   add_proto qw/void vpx_highbd_fdct16x16/, "const int16_t *input, tran_low_t *output, int stride";
 568   specialize qw/vpx_highbd_fdct16x16 sse2/;
 569
 570   add_proto qw/void vpx_highbd_fdct16x16_1/, "const int16_t *input, tran_low_t *output, int stride";
 571
 572   add_proto qw/void vpx_highbd_fdct32x32/, "const int16_t *input, tran_low_t *output, int stride";
 573   specialize qw/vpx_highbd_fdct32x32 sse2/;
 574
 575   add_proto qw/void vpx_highbd_fdct32x32_rd/, "const int16_t *input, tran_low_t *output, int stride";
 576   specialize qw/vpx_highbd_fdct32x32_rd sse2/;
 577
 578   add_proto qw/void vpx_highbd_fdct32x32_1/, "const int16_t *input, tran_low_t *output, int stride";
 579 } else {
 580   add_proto qw/void vpx_fdct4x4/, "const int16_t *input, tran_low_t *output, int stride";
 581   specialize qw/vpx_fdct4x4 sse2 msa/;
 582
 583   add_proto qw/void vpx_fdct4x4_1/, "const int16_t *input, tran_low_t *output, int stride";
 584   specialize qw/vpx_fdct4x4_1 sse2/;
 585
 586   add_proto qw/void vpx_fdct8x8/, "const int16_t *input, tran_low_t *output, int stride";
 587   specialize qw/vpx_fdct8x8 sse2 neon msa/, "$ssse3_x86_64";
 588
 589   add_proto qw/void vpx_fdct8x8_1/, "const int16_t *input, tran_low_t *output, int stride";
 590   specialize qw/vpx_fdct8x8_1 sse2 neon msa/;
 591
 592   add_proto qw/void vpx_fdct16x16/, "const int16_t *input, tran_low_t *output, int stride";
 593   specialize qw/vpx_fdct16x16 sse2 msa/;
 594
 595   add_proto qw/void vpx_fdct16x16_1/, "const int16_t *input, tran_low_t *output, int stride";
 596   specialize qw/vpx_fdct16x16_1 sse2 msa/;
 597
 598   add_proto qw/void vpx_fdct32x32/, "const int16_t *input, tran_low_t *output, int stride";
 599   specialize qw/vpx_fdct32x32 sse2 avx2 msa/;
 600
 601   add_proto qw/void vpx_fdct32x32_rd/, "const int16_t *input, tran_low_t *output, int stride";
 602   specialize qw/vpx_fdct32x32_rd sse2 avx2 msa/;
 603
 604   add_proto qw/void vpx_fdct32x32_1/, "const int16_t *input, tran_low_t *output, int stride";
 605   specialize qw/vpx_fdct32x32_1 sse2 msa/;
 606 }  # CONFIG_VP9_HIGHBITDEPTH
 607 }  # CONFIG_VP9_ENCODER
 608
 609 #
 610 # Inverse transform
 611 if (vpx_config("CONFIG_VP9") eq "yes") {
 612 if (vpx_config("CONFIG_VP9_HIGHBITDEPTH") eq "yes") {
 613   # Note as optimized versions of these functions are added we need to add a check to ensure
 614   # that when CONFIG_EMULATE_HARDWARE is on, it defaults to the C versions only.
 615   add_proto qw/void vpx_iwht4x4_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 616
 617   add_proto qw/void vpx_iwht4x4_16_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 618   specialize qw/vpx_iwht4x4_16_add sse2/;
 619
 620   add_proto qw/void vpx_highbd_idct4x4_1_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 621   specialize qw/vpx_highbd_idct4x4_1_add neon/;
 622
 623   add_proto qw/void vpx_highbd_idct8x8_1_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 624   specialize qw/vpx_highbd_idct8x8_1_add neon/;
 625
 626   add_proto qw/void vpx_highbd_idct16x16_1_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 627   specialize qw/vpx_highbd_idct16x16_1_add neon/;
 628
 629   add_proto qw/void vpx_highbd_idct32x32_1024_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 630
 631   add_proto qw/void vpx_highbd_idct32x32_34_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 632
 633   add_proto qw/void vpx_highbd_idct32x32_1_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 634   specialize qw/vpx_highbd_idct32x32_1_add neon sse2/;
 635
 636   add_proto qw/void vpx_highbd_iwht4x4_1_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 637
 638   add_proto qw/void vpx_highbd_iwht4x4_16_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 639
 640   # Force C versions if CONFIG_EMULATE_HARDWARE is 1
 641   if (vpx_config("CONFIG_EMULATE_HARDWARE") eq "yes") {
 642     add_proto qw/void vpx_idct4x4_16_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 643
 644     add_proto qw/void vpx_idct4x4_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 645
 646     add_proto qw/void vpx_idct8x8_64_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 647
 648     add_proto qw/void vpx_idct8x8_12_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 649
 650     add_proto qw/void vpx_idct8x8_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 651
 652     add_proto qw/void vpx_idct16x16_256_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 653
 654     add_proto qw/void vpx_idct16x16_38_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 655
 656     add_proto qw/void vpx_idct16x16_10_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 657
 658     add_proto qw/void vpx_idct16x16_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 659
 660     add_proto qw/void vpx_idct32x32_1024_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 661
 662     add_proto qw/void vpx_idct32x32_135_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 663
 664     add_proto qw/void vpx_idct32x32_34_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 665
 666     add_proto qw/void vpx_idct32x32_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 667
 668     add_proto qw/void vpx_highbd_idct4x4_16_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 669
 670     add_proto qw/void vpx_highbd_idct8x8_64_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 671
 672     add_proto qw/void vpx_highbd_idct8x8_12_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 673
 674     add_proto qw/void vpx_highbd_idct16x16_256_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 675
 676     add_proto qw/void vpx_highbd_idct16x16_38_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 677
 678     add_proto qw/void vpx_highbd_idct16x16_10_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 679
 680     add_proto qw/void vpx_highbd_idct32x32_1024_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 681
 682     add_proto qw/void vpx_highbd_idct32x32_135_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 683
 684     add_proto qw/void vpx_highbd_idct32x32_34_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 685   } else {
 686     add_proto qw/void vpx_idct4x4_16_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 687     specialize qw/vpx_idct4x4_16_add neon sse2/;
 688
 689     add_proto qw/void vpx_idct4x4_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 690     specialize qw/vpx_idct4x4_1_add neon sse2/;
 691
 692     add_proto qw/void vpx_idct8x8_64_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 693     specialize qw/vpx_idct8x8_64_add neon sse2 ssse3/;
 694
 695     add_proto qw/void vpx_idct8x8_12_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 696     specialize qw/vpx_idct8x8_12_add neon sse2 ssse3/;
 697
 698     add_proto qw/void vpx_idct8x8_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 699     specialize qw/vpx_idct8x8_1_add neon sse2/;
 700
 701     add_proto qw/void vpx_idct16x16_256_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 702     specialize qw/vpx_idct16x16_256_add neon sse2/;
 703
 704     add_proto qw/void vpx_idct16x16_38_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 705     specialize qw/vpx_idct16x16_38_add neon sse2/;
 706     $vpx_idct16x16_38_add_sse2=vpx_idct16x16_256_add_sse2;
 707
 708     add_proto qw/void vpx_idct16x16_10_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 709     specialize qw/vpx_idct16x16_10_add neon sse2/;
 710
 711     add_proto qw/void vpx_idct16x16_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 712     specialize qw/vpx_idct16x16_1_add neon sse2/;
 713
 714     add_proto qw/void vpx_idct32x32_1024_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 715     specialize qw/vpx_idct32x32_1024_add neon sse2 ssse3/;
 716
 717     add_proto qw/void vpx_idct32x32_135_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 718     specialize qw/vpx_idct32x32_135_add neon sse2 ssse3/;
 719     # Need to add 135 eob idct32x32 implementations.
 720     $vpx_idct32x32_135_add_sse2=vpx_idct32x32_1024_add_sse2;
 721
 722     add_proto qw/void vpx_idct32x32_34_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 723     specialize qw/vpx_idct32x32_34_add neon sse2 ssse3/;
 724
 725     add_proto qw/void vpx_idct32x32_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 726     specialize qw/vpx_idct32x32_1_add neon sse2/;
 727
 728     add_proto qw/void vpx_highbd_idct4x4_16_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 729     specialize qw/vpx_highbd_idct4x4_16_add neon sse2/;
 730
 731     add_proto qw/void vpx_highbd_idct8x8_64_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 732     specialize qw/vpx_highbd_idct8x8_64_add neon sse2/;
 733
 734     add_proto qw/void vpx_highbd_idct8x8_12_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 735     specialize qw/vpx_highbd_idct8x8_12_add neon sse2/;
 736
 737     add_proto qw/void vpx_highbd_idct16x16_256_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 738     specialize qw/vpx_highbd_idct16x16_256_add neon sse2/;
 739
 740     add_proto qw/void vpx_highbd_idct16x16_38_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 741     specialize qw/vpx_highbd_idct16x16_38_add neon sse2/;
 742     $vpx_highbd_idct16x16_38_add_sse2=vpx_highbd_idct16x16_256_add_sse2;
 743
 744     add_proto qw/void vpx_highbd_idct16x16_10_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 745     specialize qw/vpx_highbd_idct16x16_10_add neon sse2/;
 746
 747     add_proto qw/void vpx_highbd_idct32x32_1024_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 748     specialize qw/vpx_highbd_idct32x32_1024_add neon/;
 749
 750     add_proto qw/void vpx_highbd_idct32x32_135_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 751     specialize qw/vpx_highbd_idct32x32_135_add neon/;
 752
 753     add_proto qw/void vpx_highbd_idct32x32_34_add/, "const tran_low_t *input, uint8_t *dest, int stride, int bd";
 754     specialize qw/vpx_highbd_idct32x32_34_add neon/;
 755   }  # CONFIG_EMULATE_HARDWARE
 756 } else {
 757   # Force C versions if CONFIG_EMULATE_HARDWARE is 1
 758   if (vpx_config("CONFIG_EMULATE_HARDWARE") eq "yes") {
 759     add_proto qw/void vpx_idct4x4_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 760
 761     add_proto qw/void vpx_idct4x4_16_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 762
 763     add_proto qw/void vpx_idct8x8_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 764
 765     add_proto qw/void vpx_idct8x8_64_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 766
 767     add_proto qw/void vpx_idct8x8_12_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 768
 769     add_proto qw/void vpx_idct16x16_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 770
 771     add_proto qw/void vpx_idct16x16_256_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 772
 773     add_proto qw/void vpx_idct16x16_38_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 774
 775     add_proto qw/void vpx_idct16x16_10_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 776
 777     add_proto qw/void vpx_idct32x32_1024_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 778
 779     add_proto qw/void vpx_idct32x32_135_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 780
 781     add_proto qw/void vpx_idct32x32_34_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 782
 783     add_proto qw/void vpx_idct32x32_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 784
 785     add_proto qw/void vpx_iwht4x4_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 786
 787     add_proto qw/void vpx_iwht4x4_16_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 788   } else {
 789     add_proto qw/void vpx_idct4x4_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 790     specialize qw/vpx_idct4x4_1_add sse2 neon dspr2 msa/;
 791
 792     add_proto qw/void vpx_idct4x4_16_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 793     specialize qw/vpx_idct4x4_16_add sse2 neon dspr2 msa/;
 794
 795     add_proto qw/void vpx_idct8x8_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 796     specialize qw/vpx_idct8x8_1_add sse2 neon dspr2 msa/;
 797
 798     add_proto qw/void vpx_idct8x8_64_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 799     specialize qw/vpx_idct8x8_64_add sse2 ssse3 neon dspr2 msa/;
 800
 801     add_proto qw/void vpx_idct8x8_12_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 802     specialize qw/vpx_idct8x8_12_add sse2 ssse3 neon dspr2 msa/;
 803
 804     add_proto qw/void vpx_idct16x16_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 805     specialize qw/vpx_idct16x16_1_add sse2 neon dspr2 msa/;
 806
 807     add_proto qw/void vpx_idct16x16_256_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 808     specialize qw/vpx_idct16x16_256_add sse2 neon dspr2 msa/;
 809
 810     add_proto qw/void vpx_idct16x16_38_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 811     specialize qw/vpx_idct16x16_38_add sse2 neon dspr2 msa/;
 812     $vpx_idct16x16_38_add_sse2=vpx_idct16x16_256_add_sse2;
 813     $vpx_idct16x16_38_add_dspr2=vpx_idct16x16_256_add_dspr2;
 814     $vpx_idct16x16_38_add_msa=vpx_idct16x16_256_add_msa;
 815
 816     add_proto qw/void vpx_idct16x16_10_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 817     specialize qw/vpx_idct16x16_10_add sse2 neon dspr2 msa/;
 818
 819     add_proto qw/void vpx_idct32x32_1024_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 820     specialize qw/vpx_idct32x32_1024_add sse2 ssse3 neon dspr2 msa/;
 821
 822     add_proto qw/void vpx_idct32x32_135_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 823     specialize qw/vpx_idct32x32_135_add sse2 ssse3 neon dspr2 msa/;
 824     $vpx_idct32x32_135_add_sse2=vpx_idct32x32_1024_add_sse2;
 825     $vpx_idct32x32_135_add_dspr2=vpx_idct32x32_1024_add_dspr2;
 826     $vpx_idct32x32_135_add_msa=vpx_idct32x32_1024_add_msa;
 827
 828     add_proto qw/void vpx_idct32x32_34_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 829     specialize qw/vpx_idct32x32_34_add sse2 ssse3 neon dspr2 msa/;
 830
 831     add_proto qw/void vpx_idct32x32_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 832     specialize qw/vpx_idct32x32_1_add sse2 neon dspr2 msa/;
 833
 834     add_proto qw/void vpx_iwht4x4_1_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 835     specialize qw/vpx_iwht4x4_1_add msa/;
 836
 837     add_proto qw/void vpx_iwht4x4_16_add/, "const tran_low_t *input, uint8_t *dest, int stride";
 838     specialize qw/vpx_iwht4x4_16_add msa sse2/;
 839   }  # CONFIG_EMULATE_HARDWARE
 840 }  # CONFIG_VP9_HIGHBITDEPTH
 841 }  # CONFIG_VP9
 842
 843 #
 844 # Quantization
 845 #
 846 if (vpx_config("CONFIG_VP9_ENCODER") eq "yes") {
 847   add_proto qw/void vpx_quantize_b/, "const tran_low_t *coeff_ptr, intptr_t n_coeffs, int skip_block, const int16_t *zbin_ptr, const int16_t *round_ptr, const int16_t *quant_ptr, const int16_t *quant_shift_ptr, tran_low_t *qcoeff_ptr, tran_low_t *dqcoeff_ptr, const int16_t *dequant_ptr, uint16_t *eob_ptr, const int16_t *scan, const int16_t *iscan";
 848   specialize qw/vpx_quantize_b sse2/, "$ssse3_x86_64", "$avx_x86_64";
 849
 850   add_proto qw/void vpx_quantize_b_32x32/, "const tran_low_t *coeff_ptr, intptr_t n_coeffs, int skip_block, const int16_t *zbin_ptr, const int16_t *round_ptr, const int16_t *quant_ptr, const int16_t *quant_shift_ptr, tran_low_t *qcoeff_ptr, tran_low_t *dqcoeff_ptr, const int16_t *dequant_ptr, uint16_t *eob_ptr, const int16_t *scan, const int16_t *iscan";
 851   specialize qw/vpx_quantize_b_32x32/, "$ssse3_x86_64", "$avx_x86_64";
 852
 853   if (vpx_config("CONFIG_VP9_HIGHBITDEPTH") eq "yes") {
 854     add_proto qw/void vpx_highbd_quantize_b/, "const tran_low_t *coeff_ptr, intptr_t n_coeffs, int skip_block, const int16_t *zbin_ptr, const int16_t *round_ptr, const int16_t *quant_ptr, const int16_t *quant_shift_ptr, tran_low_t *qcoeff_ptr, tran_low_t *dqcoeff_ptr, const int16_t *dequant_ptr, uint16_t *eob_ptr, const int16_t *scan, const int16_t *iscan";
 855     specialize qw/vpx_highbd_quantize_b sse2/;
 856
 857     add_proto qw/void vpx_highbd_quantize_b_32x32/, "const tran_low_t *coeff_ptr, intptr_t n_coeffs, int skip_block, const int16_t *zbin_ptr, const int16_t *round_ptr, const int16_t *quant_ptr, const int16_t *quant_shift_ptr, tran_low_t *qcoeff_ptr, tran_low_t *dqcoeff_ptr, const int16_t *dequant_ptr, uint16_t *eob_ptr, const int16_t *scan, const int16_t *iscan";
 858     specialize qw/vpx_highbd_quantize_b_32x32 sse2/;
 859   }  # CONFIG_VP9_HIGHBITDEPTH
 860 }  # CONFIG_VP9_ENCODER
 861
 862 if (vpx_config("CONFIG_ENCODERS") eq "yes") {
 863 #
 864 # Block subtraction
 865 #
 866 add_proto qw/void vpx_subtract_block/, "int rows, int cols, int16_t *diff_ptr, ptrdiff_t diff_stride, const uint8_t *src_ptr, ptrdiff_t src_stride, const uint8_t *pred_ptr, ptrdiff_t pred_stride";
 867 specialize qw/vpx_subtract_block neon msa sse2/;
 868
 869 #
 870 # Single block SAD
 871 #
 872 add_proto qw/unsigned int vpx_sad64x64/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 873 specialize qw/vpx_sad64x64 avx2 neon msa sse2/;
 874
 875 add_proto qw/unsigned int vpx_sad64x32/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 876 specialize qw/vpx_sad64x32 avx2 msa sse2/;
 877
 878 add_proto qw/unsigned int vpx_sad32x64/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 879 specialize qw/vpx_sad32x64 avx2 msa sse2/;
 880
 881 add_proto qw/unsigned int vpx_sad32x32/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 882 specialize qw/vpx_sad32x32 avx2 neon msa sse2/;
 883
 884 add_proto qw/unsigned int vpx_sad32x16/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 885 specialize qw/vpx_sad32x16 avx2 msa sse2/;
 886
 887 add_proto qw/unsigned int vpx_sad16x32/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 888 specialize qw/vpx_sad16x32 msa sse2/;
 889
 890 add_proto qw/unsigned int vpx_sad16x16/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 891 specialize qw/vpx_sad16x16 neon msa sse2/;
 892
 893 add_proto qw/unsigned int vpx_sad16x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 894 specialize qw/vpx_sad16x8 neon msa sse2/;
 895
 896 add_proto qw/unsigned int vpx_sad8x16/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 897 specialize qw/vpx_sad8x16 neon msa sse2/;
 898
 899 add_proto qw/unsigned int vpx_sad8x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 900 specialize qw/vpx_sad8x8 neon msa sse2/;
 901
 902 add_proto qw/unsigned int vpx_sad8x4/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 903 specialize qw/vpx_sad8x4 msa sse2/;
 904
 905 add_proto qw/unsigned int vpx_sad4x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 906 specialize qw/vpx_sad4x8 msa sse2/;
 907
 908 add_proto qw/unsigned int vpx_sad4x4/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
 909 specialize qw/vpx_sad4x4 neon msa sse2/;
 910
 911 #
 912 # Avg
 913 #
 914 if (vpx_config("CONFIG_VP9_ENCODER") eq "yes") {
 915   add_proto qw/unsigned int vpx_avg_8x8/, "const uint8_t *, int p";
 916   specialize qw/vpx_avg_8x8 sse2 neon msa/;
 917
 918   add_proto qw/unsigned int vpx_avg_4x4/, "const uint8_t *, int p";
 919   specialize qw/vpx_avg_4x4 sse2 neon msa/;
 920
 921   add_proto qw/void vpx_minmax_8x8/, "const uint8_t *s, int p, const uint8_t *d, int dp, int *min, int *max";
 922   specialize qw/vpx_minmax_8x8 sse2 neon msa/;
 923
 924   if (vpx_config("CONFIG_VP9_HIGHBITDEPTH") eq "yes") {
 925     add_proto qw/void vpx_hadamard_8x8/, "const int16_t *src_diff, int src_stride, tran_low_t *coeff";
 926     specialize qw/vpx_hadamard_8x8 sse2 neon vsx/, "$ssse3_x86_64";
 927
 928     add_proto qw/void vpx_hadamard_16x16/, "const int16_t *src_diff, int src_stride, tran_low_t *coeff";
 929     specialize qw/vpx_hadamard_16x16 sse2 neon vsx/;
 930
 931     add_proto qw/int vpx_satd/, "const tran_low_t *coeff, int length";
 932     specialize qw/vpx_satd sse2 neon/;
 933   } else {
 934     add_proto qw/void vpx_hadamard_8x8/, "const int16_t *src_diff, int src_stride, int16_t *coeff";
 935     specialize qw/vpx_hadamard_8x8 sse2 neon msa vsx/, "$ssse3_x86_64";
 936
 937     add_proto qw/void vpx_hadamard_16x16/, "const int16_t *src_diff, int src_stride, int16_t *coeff";
 938     specialize qw/vpx_hadamard_16x16 sse2 neon msa vsx/;
 939
 940     add_proto qw/int vpx_satd/, "const int16_t *coeff, int length";
 941     specialize qw/vpx_satd sse2 neon msa/;
 942   }
 943
 944   add_proto qw/void vpx_int_pro_row/, "int16_t *hbuf, const uint8_t *ref, const int ref_stride, const int height";
 945   specialize qw/vpx_int_pro_row sse2 neon msa/;
 946
 947   add_proto qw/int16_t vpx_int_pro_col/, "const uint8_t *ref, const int width";
 948   specialize qw/vpx_int_pro_col sse2 neon msa/;
 949
 950   add_proto qw/int vpx_vector_var/, "const int16_t *ref, const int16_t *src, const int bwl";
 951   specialize qw/vpx_vector_var neon sse2 msa/;
 952 }  # CONFIG_VP9_ENCODER
 953
 954 add_proto qw/unsigned int vpx_sad64x64_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 955 specialize qw/vpx_sad64x64_avg avx2 msa sse2/;
 956
 957 add_proto qw/unsigned int vpx_sad64x32_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 958 specialize qw/vpx_sad64x32_avg avx2 msa sse2/;
 959
 960 add_proto qw/unsigned int vpx_sad32x64_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 961 specialize qw/vpx_sad32x64_avg avx2 msa sse2/;
 962
 963 add_proto qw/unsigned int vpx_sad32x32_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 964 specialize qw/vpx_sad32x32_avg avx2 msa sse2/;
 965
 966 add_proto qw/unsigned int vpx_sad32x16_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 967 specialize qw/vpx_sad32x16_avg avx2 msa sse2/;
 968
 969 add_proto qw/unsigned int vpx_sad16x32_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 970 specialize qw/vpx_sad16x32_avg msa sse2/;
 971
 972 add_proto qw/unsigned int vpx_sad16x16_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 973 specialize qw/vpx_sad16x16_avg msa sse2/;
 974
 975 add_proto qw/unsigned int vpx_sad16x8_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 976 specialize qw/vpx_sad16x8_avg msa sse2/;
 977
 978 add_proto qw/unsigned int vpx_sad8x16_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 979 specialize qw/vpx_sad8x16_avg msa sse2/;
 980
 981 add_proto qw/unsigned int vpx_sad8x8_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 982 specialize qw/vpx_sad8x8_avg msa sse2/;
 983
 984 add_proto qw/unsigned int vpx_sad8x4_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 985 specialize qw/vpx_sad8x4_avg msa sse2/;
 986
 987 add_proto qw/unsigned int vpx_sad4x8_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 988 specialize qw/vpx_sad4x8_avg msa sse2/;
 989
 990 add_proto qw/unsigned int vpx_sad4x4_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
 991 specialize qw/vpx_sad4x4_avg msa sse2/;
 992
 993 #
 994 # Multi-block SAD, comparing a reference to N blocks 1 pixel apart horizontally
 995 #
 996 # Blocks of 3
 997 add_proto qw/void vpx_sad64x64x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
 998 specialize qw/vpx_sad64x64x3 msa/;
 999
1000 add_proto qw/void vpx_sad32x32x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1001 specialize qw/vpx_sad32x32x3 msa/;
1002
1003 add_proto qw/void vpx_sad16x16x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1004 specialize qw/vpx_sad16x16x3 sse3 ssse3 msa/;
1005
1006 add_proto qw/void vpx_sad16x8x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1007 specialize qw/vpx_sad16x8x3 sse3 ssse3 msa/;
1008
1009 add_proto qw/void vpx_sad8x16x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1010 specialize qw/vpx_sad8x16x3 sse3 msa/;
1011
1012 add_proto qw/void vpx_sad8x8x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1013 specialize qw/vpx_sad8x8x3 sse3 msa/;
1014
1015 add_proto qw/void vpx_sad4x4x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1016 specialize qw/vpx_sad4x4x3 sse3 msa/;
1017
1018 # Blocks of 8
1019 add_proto qw/void vpx_sad64x64x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1020 specialize qw/vpx_sad64x64x8 msa/;
1021
1022 add_proto qw/void vpx_sad32x32x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1023 specialize qw/vpx_sad32x32x8 msa/;
1024
1025 add_proto qw/void vpx_sad16x16x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1026 specialize qw/vpx_sad16x16x8 sse4_1 msa/;
1027
1028 add_proto qw/void vpx_sad16x8x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1029 specialize qw/vpx_sad16x8x8 sse4_1 msa/;
1030
1031 add_proto qw/void vpx_sad8x16x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1032 specialize qw/vpx_sad8x16x8 sse4_1 msa/;
1033
1034 add_proto qw/void vpx_sad8x8x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1035 specialize qw/vpx_sad8x8x8 sse4_1 msa/;
1036
1037 add_proto qw/void vpx_sad8x4x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1038 specialize qw/vpx_sad8x4x8 msa/;
1039
1040 add_proto qw/void vpx_sad4x8x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1041 specialize qw/vpx_sad4x8x8 msa/;
1042
1043 add_proto qw/void vpx_sad4x4x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1044 specialize qw/vpx_sad4x4x8 sse4_1 msa/;
1045
1046 #
1047 # Multi-block SAD, comparing a reference to N independent blocks
1048 #
1049 add_proto qw/void vpx_sad64x64x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1050 specialize qw/vpx_sad64x64x4d avx2 neon msa sse2/;
1051
1052 add_proto qw/void vpx_sad64x32x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1053 specialize qw/vpx_sad64x32x4d msa sse2/;
1054
1055 add_proto qw/void vpx_sad32x64x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1056 specialize qw/vpx_sad32x64x4d msa sse2/;
1057
1058 add_proto qw/void vpx_sad32x32x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1059 specialize qw/vpx_sad32x32x4d avx2 neon msa sse2/;
1060
1061 add_proto qw/void vpx_sad32x16x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1062 specialize qw/vpx_sad32x16x4d msa sse2/;
1063
1064 add_proto qw/void vpx_sad16x32x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1065 specialize qw/vpx_sad16x32x4d msa sse2/;
1066
1067 add_proto qw/void vpx_sad16x16x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1068 specialize qw/vpx_sad16x16x4d neon msa sse2/;
1069
1070 add_proto qw/void vpx_sad16x8x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1071 specialize qw/vpx_sad16x8x4d msa sse2/;
1072
1073 add_proto qw/void vpx_sad8x16x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1074 specialize qw/vpx_sad8x16x4d msa sse2/;
1075
1076 add_proto qw/void vpx_sad8x8x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1077 specialize qw/vpx_sad8x8x4d msa sse2/;
1078
1079 add_proto qw/void vpx_sad8x4x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1080 specialize qw/vpx_sad8x4x4d msa sse2/;
1081
1082 add_proto qw/void vpx_sad4x8x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1083 specialize qw/vpx_sad4x8x4d msa sse2/;
1084
1085 add_proto qw/void vpx_sad4x4x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t * const ref_ptr[], int ref_stride, uint32_t *sad_array";
1086 specialize qw/vpx_sad4x4x4d msa sse2/;
1087
1088 add_proto qw/uint64_t vpx_sum_squares_2d_i16/, "const int16_t *src, int stride, int size";
1089 specialize qw/vpx_sum_squares_2d_i16 sse2 msa/;
1090
1091 #
1092 # Structured Similarity (SSIM)
1093 #
1094 if (vpx_config("CONFIG_INTERNAL_STATS") eq "yes") {
1095     add_proto qw/void vpx_ssim_parms_8x8/, "const uint8_t *s, int sp, const uint8_t *r, int rp, uint32_t *sum_s, uint32_t *sum_r, uint32_t *sum_sq_s, uint32_t *sum_sq_r, uint32_t *sum_sxr";
1096     specialize qw/vpx_ssim_parms_8x8/, "$sse2_x86_64";
1097
1098     add_proto qw/void vpx_ssim_parms_16x16/, "const uint8_t *s, int sp, const uint8_t *r, int rp, uint32_t *sum_s, uint32_t *sum_r, uint32_t *sum_sq_s, uint32_t *sum_sq_r, uint32_t *sum_sxr";
1099     specialize qw/vpx_ssim_parms_16x16/, "$sse2_x86_64";
1100 }
1101
1102 if (vpx_config("CONFIG_VP9_HIGHBITDEPTH") eq "yes") {
1103   #
1104   # Block subtraction
1105   #
1106   add_proto qw/void vpx_highbd_subtract_block/, "int rows, int cols, int16_t *diff_ptr, ptrdiff_t diff_stride, const uint8_t *src_ptr, ptrdiff_t src_stride, const uint8_t *pred_ptr, ptrdiff_t pred_stride, int bd";
1107
1108   #
1109   # Single block SAD
1110   #
1111   add_proto qw/unsigned int vpx_highbd_sad64x64/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1112   specialize qw/vpx_highbd_sad64x64 sse2/;
1113
1114   add_proto qw/unsigned int vpx_highbd_sad64x32/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1115   specialize qw/vpx_highbd_sad64x32 sse2/;
1116
1117   add_proto qw/unsigned int vpx_highbd_sad32x64/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1118   specialize qw/vpx_highbd_sad32x64 sse2/;
1119
1120   add_proto qw/unsigned int vpx_highbd_sad32x32/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1121   specialize qw/vpx_highbd_sad32x32 sse2/;
1122
1123   add_proto qw/unsigned int vpx_highbd_sad32x16/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1124   specialize qw/vpx_highbd_sad32x16 sse2/;
1125
1126   add_proto qw/unsigned int vpx_highbd_sad16x32/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1127   specialize qw/vpx_highbd_sad16x32 sse2/;
1128
1129   add_proto qw/unsigned int vpx_highbd_sad16x16/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1130   specialize qw/vpx_highbd_sad16x16 sse2/;
1131
1132   add_proto qw/unsigned int vpx_highbd_sad16x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1133   specialize qw/vpx_highbd_sad16x8 sse2/;
1134
1135   add_proto qw/unsigned int vpx_highbd_sad8x16/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1136   specialize qw/vpx_highbd_sad8x16 sse2/;
1137
1138   add_proto qw/unsigned int vpx_highbd_sad8x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1139   specialize qw/vpx_highbd_sad8x8 sse2/;
1140
1141   add_proto qw/unsigned int vpx_highbd_sad8x4/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1142   specialize qw/vpx_highbd_sad8x4 sse2/;
1143
1144   add_proto qw/unsigned int vpx_highbd_sad4x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1145
1146   add_proto qw/unsigned int vpx_highbd_sad4x4/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride";
1147
1148   #
1149   # Avg
1150   #
1151   add_proto qw/unsigned int vpx_highbd_avg_8x8/, "const uint8_t *, int p";
1152   add_proto qw/unsigned int vpx_highbd_avg_4x4/, "const uint8_t *, int p";
1153   add_proto qw/void vpx_highbd_minmax_8x8/, "const uint8_t *s, int p, const uint8_t *d, int dp, int *min, int *max";
1154
1155   add_proto qw/unsigned int vpx_highbd_sad64x64_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1156   specialize qw/vpx_highbd_sad64x64_avg sse2/;
1157
1158   add_proto qw/unsigned int vpx_highbd_sad64x32_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1159   specialize qw/vpx_highbd_sad64x32_avg sse2/;
1160
1161   add_proto qw/unsigned int vpx_highbd_sad32x64_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1162   specialize qw/vpx_highbd_sad32x64_avg sse2/;
1163
1164   add_proto qw/unsigned int vpx_highbd_sad32x32_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1165   specialize qw/vpx_highbd_sad32x32_avg sse2/;
1166
1167   add_proto qw/unsigned int vpx_highbd_sad32x16_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1168   specialize qw/vpx_highbd_sad32x16_avg sse2/;
1169
1170   add_proto qw/unsigned int vpx_highbd_sad16x32_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1171   specialize qw/vpx_highbd_sad16x32_avg sse2/;
1172
1173   add_proto qw/unsigned int vpx_highbd_sad16x16_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1174   specialize qw/vpx_highbd_sad16x16_avg sse2/;
1175
1176   add_proto qw/unsigned int vpx_highbd_sad16x8_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1177   specialize qw/vpx_highbd_sad16x8_avg sse2/;
1178
1179   add_proto qw/unsigned int vpx_highbd_sad8x16_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1180   specialize qw/vpx_highbd_sad8x16_avg sse2/;
1181
1182   add_proto qw/unsigned int vpx_highbd_sad8x8_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1183   specialize qw/vpx_highbd_sad8x8_avg sse2/;
1184
1185   add_proto qw/unsigned int vpx_highbd_sad8x4_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1186   specialize qw/vpx_highbd_sad8x4_avg sse2/;
1187
1188   add_proto qw/unsigned int vpx_highbd_sad4x8_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1189
1190   add_proto qw/unsigned int vpx_highbd_sad4x4_avg/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, const uint8_t *second_pred";
1191
1192   #
1193   # Multi-block SAD, comparing a reference to N blocks 1 pixel apart horizontally
1194   #
1195   # Blocks of 3
1196   add_proto qw/void vpx_highbd_sad64x64x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1197
1198   add_proto qw/void vpx_highbd_sad32x32x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1199
1200   add_proto qw/void vpx_highbd_sad16x16x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1201
1202   add_proto qw/void vpx_highbd_sad16x8x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1203
1204   add_proto qw/void vpx_highbd_sad8x16x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1205
1206   add_proto qw/void vpx_highbd_sad8x8x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1207
1208   add_proto qw/void vpx_highbd_sad4x4x3/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1209
1210   # Blocks of 8
1211   add_proto qw/void vpx_highbd_sad64x64x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1212
1213   add_proto qw/void vpx_highbd_sad32x32x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1214
1215   add_proto qw/void vpx_highbd_sad16x16x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1216
1217   add_proto qw/void vpx_highbd_sad16x8x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1218
1219   add_proto qw/void vpx_highbd_sad8x16x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1220
1221   add_proto qw/void vpx_highbd_sad8x8x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1222
1223   add_proto qw/void vpx_highbd_sad8x4x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1224
1225   add_proto qw/void vpx_highbd_sad4x8x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1226
1227   add_proto qw/void vpx_highbd_sad4x4x8/, "const uint8_t *src_ptr, int src_stride, const uint8_t *ref_ptr, int ref_stride, uint32_t *sad_array";
1228
1229   #
1230   # Multi-block SAD, comparing a reference to N independent blocks
1231   #
1232   add_proto qw/void vpx_highbd_sad64x64x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1233   specialize qw/vpx_highbd_sad64x64x4d sse2/;
1234
1235   add_proto qw/void vpx_highbd_sad64x32x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1236   specialize qw/vpx_highbd_sad64x32x4d sse2/;
1237
1238   add_proto qw/void vpx_highbd_sad32x64x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1239   specialize qw/vpx_highbd_sad32x64x4d sse2/;
1240
1241   add_proto qw/void vpx_highbd_sad32x32x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1242   specialize qw/vpx_highbd_sad32x32x4d sse2/;
1243
1244   add_proto qw/void vpx_highbd_sad32x16x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1245   specialize qw/vpx_highbd_sad32x16x4d sse2/;
1246
1247   add_proto qw/void vpx_highbd_sad16x32x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1248   specialize qw/vpx_highbd_sad16x32x4d sse2/;
1249
1250   add_proto qw/void vpx_highbd_sad16x16x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1251   specialize qw/vpx_highbd_sad16x16x4d sse2/;
1252
1253   add_proto qw/void vpx_highbd_sad16x8x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1254   specialize qw/vpx_highbd_sad16x8x4d sse2/;
1255
1256   add_proto qw/void vpx_highbd_sad8x16x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1257   specialize qw/vpx_highbd_sad8x16x4d sse2/;
1258
1259   add_proto qw/void vpx_highbd_sad8x8x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1260   specialize qw/vpx_highbd_sad8x8x4d sse2/;
1261
1262   add_proto qw/void vpx_highbd_sad8x4x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1263   specialize qw/vpx_highbd_sad8x4x4d sse2/;
1264
1265   add_proto qw/void vpx_highbd_sad4x8x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1266   specialize qw/vpx_highbd_sad4x8x4d sse2/;
1267
1268   add_proto qw/void vpx_highbd_sad4x4x4d/, "const uint8_t *src_ptr, int src_stride, const uint8_t* const ref_ptr[], int ref_stride, uint32_t *sad_array";
1269   specialize qw/vpx_highbd_sad4x4x4d sse2/;
1270
1271   #
1272   # Structured Similarity (SSIM)
1273   #
1274   if (vpx_config("CONFIG_INTERNAL_STATS") eq "yes") {
1275     add_proto qw/void vpx_highbd_ssim_parms_8x8/, "const uint16_t *s, int sp, const uint16_t *r, int rp, uint32_t *sum_s, uint32_t *sum_r, uint32_t *sum_sq_s, uint32_t *sum_sq_r, uint32_t *sum_sxr";
1276   }
1277 }  # CONFIG_VP9_HIGHBITDEPTH
1278 }  # CONFIG_ENCODERS
1279
1280 if (vpx_config("CONFIG_ENCODERS") eq "yes" || vpx_config("CONFIG_POSTPROC") eq "yes" || vpx_config("CONFIG_VP9_POSTPROC") eq "yes") {
1281
1282 #
1283 # Variance
1284 #
1285 add_proto qw/unsigned int vpx_variance64x64/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1286   specialize qw/vpx_variance64x64 sse2 avx2 neon msa/;
1287
1288 add_proto qw/unsigned int vpx_variance64x32/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1289   specialize qw/vpx_variance64x32 sse2 avx2 neon msa/;
1290
1291 add_proto qw/unsigned int vpx_variance32x64/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1292   specialize qw/vpx_variance32x64 sse2 neon msa/;
1293
1294 add_proto qw/unsigned int vpx_variance32x32/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1295   specialize qw/vpx_variance32x32 sse2 avx2 neon msa/;
1296
1297 add_proto qw/unsigned int vpx_variance32x16/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1298   specialize qw/vpx_variance32x16 sse2 avx2 msa/;
1299
1300 add_proto qw/unsigned int vpx_variance16x32/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1301   specialize qw/vpx_variance16x32 sse2 msa/;
1302
1303 add_proto qw/unsigned int vpx_variance16x16/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1304   specialize qw/vpx_variance16x16 sse2 avx2 neon msa/;
1305
1306 add_proto qw/unsigned int vpx_variance16x8/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1307   specialize qw/vpx_variance16x8 sse2 neon msa/;
1308
1309 add_proto qw/unsigned int vpx_variance8x16/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1310   specialize qw/vpx_variance8x16 sse2 neon msa/;
1311
1312 add_proto qw/unsigned int vpx_variance8x8/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1313   specialize qw/vpx_variance8x8 sse2 neon msa/;
1314
1315 add_proto qw/unsigned int vpx_variance8x4/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1316   specialize qw/vpx_variance8x4 sse2 msa/;
1317
1318 add_proto qw/unsigned int vpx_variance4x8/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1319   specialize qw/vpx_variance4x8 sse2 msa/;
1320
1321 add_proto qw/unsigned int vpx_variance4x4/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1322   specialize qw/vpx_variance4x4 sse2 msa/;
1323
1324 #
1325 # Specialty Variance
1326 #
1327 add_proto qw/void vpx_get16x16var/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse, int *sum";
1328   specialize qw/vpx_get16x16var sse2 avx2 neon msa/;
1329
1330 add_proto qw/void vpx_get8x8var/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse, int *sum";
1331   specialize qw/vpx_get8x8var sse2 neon msa/;
1332
1333 add_proto qw/unsigned int vpx_mse16x16/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1334   specialize qw/vpx_mse16x16 sse2 avx2 neon msa/;
1335
1336 add_proto qw/unsigned int vpx_mse16x8/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1337   specialize qw/vpx_mse16x8 sse2 msa/;
1338
1339 add_proto qw/unsigned int vpx_mse8x16/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1340   specialize qw/vpx_mse8x16 sse2 msa/;
1341
1342 add_proto qw/unsigned int vpx_mse8x8/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1343   specialize qw/vpx_mse8x8 sse2 msa/;
1344
1345 add_proto qw/unsigned int vpx_get_mb_ss/, "const int16_t *";
1346   specialize qw/vpx_get_mb_ss sse2 msa/;
1347
1348 add_proto qw/unsigned int vpx_get4x4sse_cs/, "const unsigned char *src_ptr, int source_stride, const unsigned char *ref_ptr, int  ref_stride";
1349   specialize qw/vpx_get4x4sse_cs neon msa/;
1350
1351 add_proto qw/void vpx_comp_avg_pred/, "uint8_t *comp_pred, const uint8_t *pred, int width, int height, const uint8_t *ref, int ref_stride";
1352
1353 #
1354 # Subpixel Variance
1355 #
1356 add_proto qw/uint32_t vpx_sub_pixel_variance64x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1357   specialize qw/vpx_sub_pixel_variance64x64 avx2 neon msa sse2 ssse3/;
1358
1359 add_proto qw/uint32_t vpx_sub_pixel_variance64x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1360   specialize qw/vpx_sub_pixel_variance64x32 msa sse2 ssse3/;
1361
1362 add_proto qw/uint32_t vpx_sub_pixel_variance32x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1363   specialize qw/vpx_sub_pixel_variance32x64 msa sse2 ssse3/;
1364
1365 add_proto qw/uint32_t vpx_sub_pixel_variance32x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1366   specialize qw/vpx_sub_pixel_variance32x32 avx2 neon msa sse2 ssse3/;
1367
1368 add_proto qw/uint32_t vpx_sub_pixel_variance32x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1369   specialize qw/vpx_sub_pixel_variance32x16 msa sse2 ssse3/;
1370
1371 add_proto qw/uint32_t vpx_sub_pixel_variance16x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1372   specialize qw/vpx_sub_pixel_variance16x32 msa sse2 ssse3/;
1373
1374 add_proto qw/uint32_t vpx_sub_pixel_variance16x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1375   specialize qw/vpx_sub_pixel_variance16x16 neon msa sse2 ssse3/;
1376
1377 add_proto qw/uint32_t vpx_sub_pixel_variance16x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1378   specialize qw/vpx_sub_pixel_variance16x8 msa sse2 ssse3/;
1379
1380 add_proto qw/uint32_t vpx_sub_pixel_variance8x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1381   specialize qw/vpx_sub_pixel_variance8x16 msa sse2 ssse3/;
1382
1383 add_proto qw/uint32_t vpx_sub_pixel_variance8x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1384   specialize qw/vpx_sub_pixel_variance8x8 neon msa sse2 ssse3/;
1385
1386 add_proto qw/uint32_t vpx_sub_pixel_variance8x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1387   specialize qw/vpx_sub_pixel_variance8x4 msa sse2 ssse3/;
1388
1389 add_proto qw/uint32_t vpx_sub_pixel_variance4x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1390   specialize qw/vpx_sub_pixel_variance4x8 msa sse2 ssse3/;
1391
1392 add_proto qw/uint32_t vpx_sub_pixel_variance4x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1393   specialize qw/vpx_sub_pixel_variance4x4 msa sse2 ssse3/;
1394
1395 add_proto qw/uint32_t vpx_sub_pixel_avg_variance64x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1396   specialize qw/vpx_sub_pixel_avg_variance64x64 avx2 msa sse2 ssse3/;
1397
1398 add_proto qw/uint32_t vpx_sub_pixel_avg_variance64x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1399   specialize qw/vpx_sub_pixel_avg_variance64x32 msa sse2 ssse3/;
1400
1401 add_proto qw/uint32_t vpx_sub_pixel_avg_variance32x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1402   specialize qw/vpx_sub_pixel_avg_variance32x64 msa sse2 ssse3/;
1403
1404 add_proto qw/uint32_t vpx_sub_pixel_avg_variance32x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1405   specialize qw/vpx_sub_pixel_avg_variance32x32 avx2 msa sse2 ssse3/;
1406
1407 add_proto qw/uint32_t vpx_sub_pixel_avg_variance32x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1408   specialize qw/vpx_sub_pixel_avg_variance32x16 msa sse2 ssse3/;
1409
1410 add_proto qw/uint32_t vpx_sub_pixel_avg_variance16x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1411   specialize qw/vpx_sub_pixel_avg_variance16x32 msa sse2 ssse3/;
1412
1413 add_proto qw/uint32_t vpx_sub_pixel_avg_variance16x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1414   specialize qw/vpx_sub_pixel_avg_variance16x16 msa sse2 ssse3/;
1415
1416 add_proto qw/uint32_t vpx_sub_pixel_avg_variance16x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1417   specialize qw/vpx_sub_pixel_avg_variance16x8 msa sse2 ssse3/;
1418
1419 add_proto qw/uint32_t vpx_sub_pixel_avg_variance8x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1420   specialize qw/vpx_sub_pixel_avg_variance8x16 msa sse2 ssse3/;
1421
1422 add_proto qw/uint32_t vpx_sub_pixel_avg_variance8x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1423   specialize qw/vpx_sub_pixel_avg_variance8x8 msa sse2 ssse3/;
1424
1425 add_proto qw/uint32_t vpx_sub_pixel_avg_variance8x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1426   specialize qw/vpx_sub_pixel_avg_variance8x4 msa sse2 ssse3/;
1427
1428 add_proto qw/uint32_t vpx_sub_pixel_avg_variance4x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1429   specialize qw/vpx_sub_pixel_avg_variance4x8 msa sse2 ssse3/;
1430
1431 add_proto qw/uint32_t vpx_sub_pixel_avg_variance4x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1432   specialize qw/vpx_sub_pixel_avg_variance4x4 msa sse2 ssse3/;
1433
1434 if (vpx_config("CONFIG_VP9_HIGHBITDEPTH") eq "yes") {
1435   add_proto qw/unsigned int vpx_highbd_12_variance64x64/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1436   specialize qw/vpx_highbd_12_variance64x64 sse2/;
1437
1438   add_proto qw/unsigned int vpx_highbd_12_variance64x32/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1439   specialize qw/vpx_highbd_12_variance64x32 sse2/;
1440
1441   add_proto qw/unsigned int vpx_highbd_12_variance32x64/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1442   specialize qw/vpx_highbd_12_variance32x64 sse2/;
1443
1444   add_proto qw/unsigned int vpx_highbd_12_variance32x32/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1445   specialize qw/vpx_highbd_12_variance32x32 sse2/;
1446
1447   add_proto qw/unsigned int vpx_highbd_12_variance32x16/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1448   specialize qw/vpx_highbd_12_variance32x16 sse2/;
1449
1450   add_proto qw/unsigned int vpx_highbd_12_variance16x32/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1451   specialize qw/vpx_highbd_12_variance16x32 sse2/;
1452
1453   add_proto qw/unsigned int vpx_highbd_12_variance16x16/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1454   specialize qw/vpx_highbd_12_variance16x16 sse2/;
1455
1456   add_proto qw/unsigned int vpx_highbd_12_variance16x8/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1457   specialize qw/vpx_highbd_12_variance16x8 sse2/;
1458
1459   add_proto qw/unsigned int vpx_highbd_12_variance8x16/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1460   specialize qw/vpx_highbd_12_variance8x16 sse2/;
1461
1462   add_proto qw/unsigned int vpx_highbd_12_variance8x8/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1463   specialize qw/vpx_highbd_12_variance8x8 sse2/;
1464
1465   add_proto qw/unsigned int vpx_highbd_12_variance8x4/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1466   add_proto qw/unsigned int vpx_highbd_12_variance4x8/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1467   add_proto qw/unsigned int vpx_highbd_12_variance4x4/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1468
1469   add_proto qw/unsigned int vpx_highbd_10_variance64x64/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1470   specialize qw/vpx_highbd_10_variance64x64 sse2/;
1471
1472   add_proto qw/unsigned int vpx_highbd_10_variance64x32/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1473   specialize qw/vpx_highbd_10_variance64x32 sse2/;
1474
1475   add_proto qw/unsigned int vpx_highbd_10_variance32x64/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1476   specialize qw/vpx_highbd_10_variance32x64 sse2/;
1477
1478   add_proto qw/unsigned int vpx_highbd_10_variance32x32/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1479   specialize qw/vpx_highbd_10_variance32x32 sse2/;
1480
1481   add_proto qw/unsigned int vpx_highbd_10_variance32x16/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1482   specialize qw/vpx_highbd_10_variance32x16 sse2/;
1483
1484   add_proto qw/unsigned int vpx_highbd_10_variance16x32/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1485   specialize qw/vpx_highbd_10_variance16x32 sse2/;
1486
1487   add_proto qw/unsigned int vpx_highbd_10_variance16x16/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1488   specialize qw/vpx_highbd_10_variance16x16 sse2/;
1489
1490   add_proto qw/unsigned int vpx_highbd_10_variance16x8/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1491   specialize qw/vpx_highbd_10_variance16x8 sse2/;
1492
1493   add_proto qw/unsigned int vpx_highbd_10_variance8x16/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1494   specialize qw/vpx_highbd_10_variance8x16 sse2/;
1495
1496   add_proto qw/unsigned int vpx_highbd_10_variance8x8/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1497   specialize qw/vpx_highbd_10_variance8x8 sse2/;
1498
1499   add_proto qw/unsigned int vpx_highbd_10_variance8x4/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1500   add_proto qw/unsigned int vpx_highbd_10_variance4x8/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1501   add_proto qw/unsigned int vpx_highbd_10_variance4x4/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1502
1503   add_proto qw/unsigned int vpx_highbd_8_variance64x64/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1504   specialize qw/vpx_highbd_8_variance64x64 sse2/;
1505
1506   add_proto qw/unsigned int vpx_highbd_8_variance64x32/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1507   specialize qw/vpx_highbd_8_variance64x32 sse2/;
1508
1509   add_proto qw/unsigned int vpx_highbd_8_variance32x64/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1510   specialize qw/vpx_highbd_8_variance32x64 sse2/;
1511
1512   add_proto qw/unsigned int vpx_highbd_8_variance32x32/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1513   specialize qw/vpx_highbd_8_variance32x32 sse2/;
1514
1515   add_proto qw/unsigned int vpx_highbd_8_variance32x16/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1516   specialize qw/vpx_highbd_8_variance32x16 sse2/;
1517
1518   add_proto qw/unsigned int vpx_highbd_8_variance16x32/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1519   specialize qw/vpx_highbd_8_variance16x32 sse2/;
1520
1521   add_proto qw/unsigned int vpx_highbd_8_variance16x16/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1522   specialize qw/vpx_highbd_8_variance16x16 sse2/;
1523
1524   add_proto qw/unsigned int vpx_highbd_8_variance16x8/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1525   specialize qw/vpx_highbd_8_variance16x8 sse2/;
1526
1527   add_proto qw/unsigned int vpx_highbd_8_variance8x16/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1528   specialize qw/vpx_highbd_8_variance8x16 sse2/;
1529
1530   add_proto qw/unsigned int vpx_highbd_8_variance8x8/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1531   specialize qw/vpx_highbd_8_variance8x8 sse2/;
1532
1533   add_proto qw/unsigned int vpx_highbd_8_variance8x4/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1534   add_proto qw/unsigned int vpx_highbd_8_variance4x8/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1535   add_proto qw/unsigned int vpx_highbd_8_variance4x4/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse";
1536
1537   add_proto qw/void vpx_highbd_8_get16x16var/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse, int *sum";
1538   add_proto qw/void vpx_highbd_8_get8x8var/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse, int *sum";
1539
1540   add_proto qw/void vpx_highbd_10_get16x16var/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse, int *sum";
1541   add_proto qw/void vpx_highbd_10_get8x8var/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse, int *sum";
1542
1543   add_proto qw/void vpx_highbd_12_get16x16var/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse, int *sum";
1544   add_proto qw/void vpx_highbd_12_get8x8var/, "const uint8_t *src_ptr, int source_stride, const uint8_t *ref_ptr, int ref_stride, unsigned int *sse, int *sum";
1545
1546   add_proto qw/unsigned int vpx_highbd_8_mse16x16/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1547   specialize qw/vpx_highbd_8_mse16x16 sse2/;
1548
1549   add_proto qw/unsigned int vpx_highbd_8_mse16x8/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1550   add_proto qw/unsigned int vpx_highbd_8_mse8x16/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1551   add_proto qw/unsigned int vpx_highbd_8_mse8x8/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1552   specialize qw/vpx_highbd_8_mse8x8 sse2/;
1553
1554   add_proto qw/unsigned int vpx_highbd_10_mse16x16/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1555   specialize qw/vpx_highbd_10_mse16x16 sse2/;
1556
1557   add_proto qw/unsigned int vpx_highbd_10_mse16x8/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1558   add_proto qw/unsigned int vpx_highbd_10_mse8x16/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1559   add_proto qw/unsigned int vpx_highbd_10_mse8x8/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1560   specialize qw/vpx_highbd_10_mse8x8 sse2/;
1561
1562   add_proto qw/unsigned int vpx_highbd_12_mse16x16/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1563   specialize qw/vpx_highbd_12_mse16x16 sse2/;
1564
1565   add_proto qw/unsigned int vpx_highbd_12_mse16x8/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1566   add_proto qw/unsigned int vpx_highbd_12_mse8x16/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1567   add_proto qw/unsigned int vpx_highbd_12_mse8x8/, "const uint8_t *src_ptr, int  source_stride, const uint8_t *ref_ptr, int  recon_stride, unsigned int *sse";
1568   specialize qw/vpx_highbd_12_mse8x8 sse2/;
1569
1570   add_proto qw/void vpx_highbd_comp_avg_pred/, "uint16_t *comp_pred, const uint8_t *pred8, int width, int height, const uint8_t *ref8, int ref_stride";
1571
1572   #
1573   # Subpixel Variance
1574   #
1575   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance64x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1576   specialize qw/vpx_highbd_12_sub_pixel_variance64x64 sse2/;
1577
1578   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance64x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1579   specialize qw/vpx_highbd_12_sub_pixel_variance64x32 sse2/;
1580
1581   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance32x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1582   specialize qw/vpx_highbd_12_sub_pixel_variance32x64 sse2/;
1583
1584   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance32x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1585   specialize qw/vpx_highbd_12_sub_pixel_variance32x32 sse2/;
1586
1587   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance32x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1588   specialize qw/vpx_highbd_12_sub_pixel_variance32x16 sse2/;
1589
1590   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance16x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1591   specialize qw/vpx_highbd_12_sub_pixel_variance16x32 sse2/;
1592
1593   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance16x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1594   specialize qw/vpx_highbd_12_sub_pixel_variance16x16 sse2/;
1595
1596   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance16x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1597   specialize qw/vpx_highbd_12_sub_pixel_variance16x8 sse2/;
1598
1599   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance8x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1600   specialize qw/vpx_highbd_12_sub_pixel_variance8x16 sse2/;
1601
1602   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance8x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1603   specialize qw/vpx_highbd_12_sub_pixel_variance8x8 sse2/;
1604
1605   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance8x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1606   specialize qw/vpx_highbd_12_sub_pixel_variance8x4 sse2/;
1607
1608   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance4x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1609   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_variance4x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1610
1611   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance64x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1612   specialize qw/vpx_highbd_10_sub_pixel_variance64x64 sse2/;
1613
1614   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance64x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1615   specialize qw/vpx_highbd_10_sub_pixel_variance64x32 sse2/;
1616
1617   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance32x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1618   specialize qw/vpx_highbd_10_sub_pixel_variance32x64 sse2/;
1619
1620   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance32x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1621   specialize qw/vpx_highbd_10_sub_pixel_variance32x32 sse2/;
1622
1623   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance32x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1624   specialize qw/vpx_highbd_10_sub_pixel_variance32x16 sse2/;
1625
1626   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance16x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1627   specialize qw/vpx_highbd_10_sub_pixel_variance16x32 sse2/;
1628
1629   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance16x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1630   specialize qw/vpx_highbd_10_sub_pixel_variance16x16 sse2/;
1631
1632   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance16x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1633   specialize qw/vpx_highbd_10_sub_pixel_variance16x8 sse2/;
1634
1635   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance8x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1636   specialize qw/vpx_highbd_10_sub_pixel_variance8x16 sse2/;
1637
1638   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance8x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1639   specialize qw/vpx_highbd_10_sub_pixel_variance8x8 sse2/;
1640
1641   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance8x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1642   specialize qw/vpx_highbd_10_sub_pixel_variance8x4 sse2/;
1643
1644   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance4x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1645   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_variance4x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1646
1647   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance64x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1648   specialize qw/vpx_highbd_8_sub_pixel_variance64x64 sse2/;
1649
1650   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance64x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1651   specialize qw/vpx_highbd_8_sub_pixel_variance64x32 sse2/;
1652
1653   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance32x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1654   specialize qw/vpx_highbd_8_sub_pixel_variance32x64 sse2/;
1655
1656   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance32x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1657   specialize qw/vpx_highbd_8_sub_pixel_variance32x32 sse2/;
1658
1659   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance32x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1660   specialize qw/vpx_highbd_8_sub_pixel_variance32x16 sse2/;
1661
1662   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance16x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1663   specialize qw/vpx_highbd_8_sub_pixel_variance16x32 sse2/;
1664
1665   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance16x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1666   specialize qw/vpx_highbd_8_sub_pixel_variance16x16 sse2/;
1667
1668   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance16x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1669   specialize qw/vpx_highbd_8_sub_pixel_variance16x8 sse2/;
1670
1671   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance8x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1672   specialize qw/vpx_highbd_8_sub_pixel_variance8x16 sse2/;
1673
1674   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance8x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1675   specialize qw/vpx_highbd_8_sub_pixel_variance8x8 sse2/;
1676
1677   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance8x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1678   specialize qw/vpx_highbd_8_sub_pixel_variance8x4 sse2/;
1679
1680   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance4x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1681   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_variance4x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse";
1682
1683   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance64x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1684   specialize qw/vpx_highbd_12_sub_pixel_avg_variance64x64 sse2/;
1685
1686   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance64x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1687   specialize qw/vpx_highbd_12_sub_pixel_avg_variance64x32 sse2/;
1688
1689   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance32x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1690   specialize qw/vpx_highbd_12_sub_pixel_avg_variance32x64 sse2/;
1691
1692   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance32x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1693   specialize qw/vpx_highbd_12_sub_pixel_avg_variance32x32 sse2/;
1694
1695   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance32x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1696   specialize qw/vpx_highbd_12_sub_pixel_avg_variance32x16 sse2/;
1697
1698   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance16x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1699   specialize qw/vpx_highbd_12_sub_pixel_avg_variance16x32 sse2/;
1700
1701   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance16x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1702   specialize qw/vpx_highbd_12_sub_pixel_avg_variance16x16 sse2/;
1703
1704   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance16x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1705   specialize qw/vpx_highbd_12_sub_pixel_avg_variance16x8 sse2/;
1706
1707   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance8x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1708   specialize qw/vpx_highbd_12_sub_pixel_avg_variance8x16 sse2/;
1709
1710   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance8x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1711   specialize qw/vpx_highbd_12_sub_pixel_avg_variance8x8 sse2/;
1712
1713   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance8x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1714   specialize qw/vpx_highbd_12_sub_pixel_avg_variance8x4 sse2/;
1715
1716   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance4x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1717   add_proto qw/uint32_t vpx_highbd_12_sub_pixel_avg_variance4x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1718
1719   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance64x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1720   specialize qw/vpx_highbd_10_sub_pixel_avg_variance64x64 sse2/;
1721
1722   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance64x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1723   specialize qw/vpx_highbd_10_sub_pixel_avg_variance64x32 sse2/;
1724
1725   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance32x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1726   specialize qw/vpx_highbd_10_sub_pixel_avg_variance32x64 sse2/;
1727
1728   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance32x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1729   specialize qw/vpx_highbd_10_sub_pixel_avg_variance32x32 sse2/;
1730
1731   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance32x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1732   specialize qw/vpx_highbd_10_sub_pixel_avg_variance32x16 sse2/;
1733
1734   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance16x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1735   specialize qw/vpx_highbd_10_sub_pixel_avg_variance16x32 sse2/;
1736
1737   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance16x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1738   specialize qw/vpx_highbd_10_sub_pixel_avg_variance16x16 sse2/;
1739
1740   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance16x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1741   specialize qw/vpx_highbd_10_sub_pixel_avg_variance16x8 sse2/;
1742
1743   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance8x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1744   specialize qw/vpx_highbd_10_sub_pixel_avg_variance8x16 sse2/;
1745
1746   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance8x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1747   specialize qw/vpx_highbd_10_sub_pixel_avg_variance8x8 sse2/;
1748
1749   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance8x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1750   specialize qw/vpx_highbd_10_sub_pixel_avg_variance8x4 sse2/;
1751
1752   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance4x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1753   add_proto qw/uint32_t vpx_highbd_10_sub_pixel_avg_variance4x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1754
1755   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance64x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1756   specialize qw/vpx_highbd_8_sub_pixel_avg_variance64x64 sse2/;
1757
1758   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance64x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1759   specialize qw/vpx_highbd_8_sub_pixel_avg_variance64x32 sse2/;
1760
1761   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance32x64/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1762   specialize qw/vpx_highbd_8_sub_pixel_avg_variance32x64 sse2/;
1763
1764   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance32x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1765   specialize qw/vpx_highbd_8_sub_pixel_avg_variance32x32 sse2/;
1766
1767   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance32x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1768   specialize qw/vpx_highbd_8_sub_pixel_avg_variance32x16 sse2/;
1769
1770   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance16x32/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1771   specialize qw/vpx_highbd_8_sub_pixel_avg_variance16x32 sse2/;
1772
1773   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance16x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1774   specialize qw/vpx_highbd_8_sub_pixel_avg_variance16x16 sse2/;
1775
1776   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance16x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1777   specialize qw/vpx_highbd_8_sub_pixel_avg_variance16x8 sse2/;
1778
1779   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance8x16/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1780   specialize qw/vpx_highbd_8_sub_pixel_avg_variance8x16 sse2/;
1781
1782   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance8x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1783   specialize qw/vpx_highbd_8_sub_pixel_avg_variance8x8 sse2/;
1784
1785   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance8x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1786   specialize qw/vpx_highbd_8_sub_pixel_avg_variance8x4 sse2/;
1787
1788   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance4x8/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1789   add_proto qw/uint32_t vpx_highbd_8_sub_pixel_avg_variance4x4/, "const uint8_t *src_ptr, int source_stride, int xoffset, int  yoffset, const uint8_t *ref_ptr, int ref_stride, uint32_t *sse, const uint8_t *second_pred";
1790
1791 }  # CONFIG_VP9_HIGHBITDEPTH
1792
1793 #
1794 # Post Processing
1795 #
1796 if (vpx_config("CONFIG_POSTPROC") eq "yes" || vpx_config("CONFIG_VP9_POSTPROC") eq "yes") {
1797     add_proto qw/void vpx_plane_add_noise/, "uint8_t *start, const int8_t *noise, int blackclamp, int whiteclamp, int width, int height, int pitch";
1798     specialize qw/vpx_plane_add_noise sse2 msa/;
1799
1800     add_proto qw/void vpx_mbpost_proc_down/, "unsigned char *dst, int pitch, int rows, int cols,int flimit";
1801     specialize qw/vpx_mbpost_proc_down sse2 neon msa/;
1802
1803     add_proto qw/void vpx_mbpost_proc_across_ip/, "unsigned char *dst, int pitch, int rows, int cols,int flimit";
1804     specialize qw/vpx_mbpost_proc_across_ip sse2 neon msa/;
1805
1806     add_proto qw/void vpx_post_proc_down_and_across_mb_row/, "unsigned char *src, unsigned char *dst, int src_pitch, int dst_pitch, int cols, unsigned char *flimits, int size";
1807     specialize qw/vpx_post_proc_down_and_across_mb_row sse2 neon msa/;
1808
1809 }
1810
1811 }  # CONFIG_ENCODERS || CONFIG_POSTPROC || CONFIG_VP9_POSTPROC
1812
1813 1;