00001
00002
00003
00004
00005
00006
00007
00008
00009
00010
00011
00012
00013
00014
00015
00016
00017
00018
00019
00020
00021
00022 #include "dsputil_mmx.h"
00023
00024 static void apply_welch_window_sse2(const int32_t *data, int len, double *w_data)
00025 {
00026 double c = 2.0 / (len-1.0);
00027 int n2 = len>>1;
00028 long i = -n2*sizeof(int32_t);
00029 long j = n2*sizeof(int32_t);
00030 asm volatile(
00031 "movsd %0, %%xmm7 \n\t"
00032 "movapd %1, %%xmm6 \n\t"
00033 "movapd %2, %%xmm5 \n\t"
00034 "movlhps %%xmm7, %%xmm7 \n\t"
00035 "subpd %%xmm5, %%xmm7 \n\t"
00036 "addsd %%xmm6, %%xmm7 \n\t"
00037 ::"m"(c), "m"(*ff_pd_1), "m"(*ff_pd_2)
00038 );
00039 #define WELCH(MOVPD)\
00040 asm volatile(\
00041 "1: \n\t"\
00042 "movapd %%xmm7, %%xmm1 \n\t"\
00043 "mulpd %%xmm1, %%xmm1 \n\t"\
00044 "movapd %%xmm6, %%xmm0 \n\t"\
00045 "subpd %%xmm1, %%xmm0 \n\t"\
00046 "pshufd $0x4e, %%xmm0, %%xmm1 \n\t"\
00047 "cvtpi2pd (%4,%0), %%xmm2 \n\t"\
00048 "cvtpi2pd (%5,%1), %%xmm3 \n\t"\
00049 "mulpd %%xmm0, %%xmm2 \n\t"\
00050 "mulpd %%xmm1, %%xmm3 \n\t"\
00051 "movapd %%xmm2, (%2,%0,2) \n\t"\
00052 MOVPD" %%xmm3, (%3,%1,2) \n\t"\
00053 "subpd %%xmm5, %%xmm7 \n\t"\
00054 "sub $8, %1 \n\t"\
00055 "add $8, %0 \n\t"\
00056 "jl 1b \n\t"\
00057 :"+&r"(i), "+&r"(j)\
00058 :"r"(w_data+n2), "r"(w_data+len-2-n2),\
00059 "r"(data+n2), "r"(data+len-2-n2)\
00060 );
00061 if(len&1)
00062 WELCH("movupd")
00063 else
00064 WELCH("movapd")
00065 #undef WELCH
00066 }
00067
00068 void ff_flac_compute_autocorr_sse2(const int32_t *data, int len, int lag,
00069 double *autoc)
00070 {
00071 double tmp[len + lag + 2];
00072 double *data1 = tmp + lag;
00073 int j;
00074
00075 if((long)data1 & 15)
00076 data1++;
00077
00078 apply_welch_window_sse2(data, len, data1);
00079
00080 for(j=0; j<lag; j++)
00081 data1[j-lag]= 0.0;
00082 data1[len] = 0.0;
00083
00084 for(j=0; j<lag; j+=2){
00085 long i = -len*sizeof(double);
00086 if(j == lag-2) {
00087 asm volatile(
00088 "movsd %6, %%xmm0 \n\t"
00089 "movsd %6, %%xmm1 \n\t"
00090 "movsd %6, %%xmm2 \n\t"
00091 "1: \n\t"
00092 "movapd (%4,%0), %%xmm3 \n\t"
00093 "movupd -8(%5,%0), %%xmm4 \n\t"
00094 "movapd (%5,%0), %%xmm5 \n\t"
00095 "mulpd %%xmm3, %%xmm4 \n\t"
00096 "mulpd %%xmm3, %%xmm5 \n\t"
00097 "mulpd -16(%5,%0), %%xmm3 \n\t"
00098 "addpd %%xmm4, %%xmm1 \n\t"
00099 "addpd %%xmm5, %%xmm0 \n\t"
00100 "addpd %%xmm3, %%xmm2 \n\t"
00101 "add $16, %0 \n\t"
00102 "jl 1b \n\t"
00103 "movhlps %%xmm0, %%xmm3 \n\t"
00104 "movhlps %%xmm1, %%xmm4 \n\t"
00105 "movhlps %%xmm2, %%xmm5 \n\t"
00106 "addsd %%xmm3, %%xmm0 \n\t"
00107 "addsd %%xmm4, %%xmm1 \n\t"
00108 "addsd %%xmm5, %%xmm2 \n\t"
00109 "movsd %%xmm0, %1 \n\t"
00110 "movsd %%xmm1, %2 \n\t"
00111 "movsd %%xmm2, %3 \n\t"
00112 :"+&r"(i), "=m"(autoc[j]), "=m"(autoc[j+1]), "=m"(autoc[j+2])
00113 :"r"(data1+len), "r"(data1+len-j), "m"(*ff_pd_1)
00114 );
00115 } else {
00116 asm volatile(
00117 "movsd %5, %%xmm0 \n\t"
00118 "movsd %5, %%xmm1 \n\t"
00119 "1: \n\t"
00120 "movapd (%3,%0), %%xmm3 \n\t"
00121 "movupd -8(%4,%0), %%xmm4 \n\t"
00122 "mulpd %%xmm3, %%xmm4 \n\t"
00123 "mulpd (%4,%0), %%xmm3 \n\t"
00124 "addpd %%xmm4, %%xmm1 \n\t"
00125 "addpd %%xmm3, %%xmm0 \n\t"
00126 "add $16, %0 \n\t"
00127 "jl 1b \n\t"
00128 "movhlps %%xmm0, %%xmm3 \n\t"
00129 "movhlps %%xmm1, %%xmm4 \n\t"
00130 "addsd %%xmm3, %%xmm0 \n\t"
00131 "addsd %%xmm4, %%xmm1 \n\t"
00132 "movsd %%xmm0, %1 \n\t"
00133 "movsd %%xmm1, %2 \n\t"
00134 :"+&r"(i), "=m"(autoc[j]), "=m"(autoc[j+1])
00135 :"r"(data1+len), "r"(data1+len-j), "m"(*ff_pd_1)
00136 );
00137 }
00138 }
00139 }