dengzhihao
/
CMSIS-DSP
0
0
Fork 0
Code Issues Pull Requests Packages Projects Releases Wiki Activity

Corrected issue #49

Browse Source 
Incorrect out of bounds value for linear interpolation (float).
pull/53/head
Christophe Favergeon 4 years ago
parent f74f666fb0
commit 633b528421
15 changed files with 865 additions and 816 deletions
Show Stats Download Patch File Download Diff File

2
Source/InterpolationFunctions/arm_linear_interp_f16.c
Unescape Escape View File

@ -62,7 +62,7 @@
/* Calculation of index */ /* Calculation of index */
i = (int32_t) (((_Float16)x - (_Float16)S->x1) / (_Float16)xSpacing); i = (int32_t) (((_Float16)x - (_Float16)S->x1) / (_Float16)xSpacing);
if (i < 0) if (((_Float16)x < (_Float16)S->x1))
{ {
/* Iniatilize output for below specified range as least output value of table */ /* Iniatilize output for below specified range as least output value of table */
y = pYData[0]; y = pYData[0];

2
Source/InterpolationFunctions/arm_linear_interp_f32.c
Unescape Escape View File

@ -90,7 +90,7 @@
/* Calculation of index */ /* Calculation of index */
i = (int32_t) ((x - S->x1) / xSpacing); i = (int32_t) ((x - S->x1) / xSpacing);
if (i < 0) if (x < S->x1)
{ {
/* Iniatilize output for below specified range as least output value of table */ /* Iniatilize output for below specified range as least output value of table */
y = pYData[0]; y = pYData[0];

17
Testing/PatternGeneration/Interpolate.py
Unescape Escape View File

@ -17,11 +17,12 @@ def writeTests(config,format):
x = np.linspace(0, NBSAMPLES, num=NBSAMPLES+1, endpoint=True) x = np.linspace(0, NBSAMPLES, num=NBSAMPLES+1, endpoint=True)
y = np.cos(-x**2/(NBSAMPLES - 1)) y = np.cos(-x**2/(NBSAMPLES - 1))
f = interp1d(x, y) f = interp1d(x, y,bounds_error=False,fill_value=(y[0],y[-1]))
data=x+0.5 data=x-0.9
data=data[:-1] data=np.hstack((data,np.array(data[-1]+1.5)))
z = f(data) z = f(data)
config.setOverwrite(True)
if format != 0 and format != 16: if format != 0 and format != 16:
data = data / 2.0**11 data = data / 2.0**11
if format != 0 and format != 16: if format != 0 and format != 16:
@ -33,6 +34,8 @@ def writeTests(config,format):
ref = z ref = z
config.writeReference(1, ref) config.writeReference(1, ref)
config.setOverwrite(False)
# Bilinear interpolation test # Bilinear interpolation test
x = np.arange(-3.14, 3.14, 1.0) x = np.arange(-3.14, 3.14, 1.0)
y = np.arange(-3.14, 3.14, 0.8) y = np.arange(-3.14, 3.14, 0.8)
@ -54,7 +57,7 @@ def writeTests(config,format):
# Now we generate other points. The points where we want to evaluate # Now we generate other points. The points where we want to evaluate
# the function. # the function.
# In Python they must be rescale between -3.14 and tghe max x or max y defined above. # In Python they must be rescale between -3.14 and the max x or max y defined above.
# In CMSIS they will be between 1 and numRow-1 or numCols-1. # In CMSIS they will be between 1 and numRow-1 or numCols-1.
# Since we add 0.5 to be sure we are between grid point, we use # Since we add 0.5 to be sure we are between grid point, we use
# numCols-2 as bound to be sured we are <= numCols-1 # numCols-2 as bound to be sured we are <= numCols-1
@ -135,6 +138,12 @@ def generatePatterns():
configq15=Tools.Config(PATTERNDIR,PARAMDIR,"q15") configq15=Tools.Config(PATTERNDIR,PARAMDIR,"q15")
configq7=Tools.Config(PATTERNDIR,PARAMDIR,"q7") configq7=Tools.Config(PATTERNDIR,PARAMDIR,"q7")
configf32.setOverwrite(False)
configf16.setOverwrite(False)
configq31.setOverwrite(False)
configq15.setOverwrite(False)
configq7.setOverwrite(False)
writeTests(configf32,0) writeTests(configf32,0)
writeTests(configf16,16) writeTests(configf16,16)
writeTests(configq31,31) writeTests(configq31,31)

166
Testing/Patterns/DSP/Interpolation/InterpolationF16/Input1_f16.txt
Unescape Escape View File

@ -1,82 +1,86 @@
H H
40 42
// 0.500000 // -0.900000
0x3800 0xbb33
// 1.500000 // 0.100000
0x3e00 0x2e66
// 2.500000 // 1.100000
0x4100 0x3c66
// 3.500000 // 2.100000
0x4300 0x4033
// 4.500000 // 3.100000
0x4480 0x4233
// 5.500000 // 4.100000
0x4580 0x441a
// 6.500000 // 5.100000
0x4680 0x451a
// 7.500000 // 6.100000
0x4780 0x461a
// 8.500000 // 7.100000
0x4840 0x471a
// 9.500000 // 8.100000
0x48c0 0x480d
// 10.500000 // 9.100000
0x4940 0x488d
// 11.500000 // 10.100000
0x49c0 0x490d
// 12.500000 // 11.100000
0x4a40 0x498d
// 13.500000 // 12.100000
0x4ac0 0x4a0d
// 14.500000 // 13.100000
0x4b40 0x4a8d
// 15.500000 // 14.100000
0x4bc0 0x4b0d
// 16.500000 // 15.100000
0x4c20 0x4b8d
// 17.500000 // 16.100000
0x4c60 0x4c06
// 18.500000 // 17.100000
0x4ca0 0x4c46
// 19.500000 // 18.100000
0x4ce0 0x4c86
// 20.500000 // 19.100000
0x4d20 0x4cc6
// 21.500000 // 20.100000
0x4d60 0x4d06
// 22.500000 // 21.100000
0x4da0 0x4d46
// 23.500000 // 22.100000
0x4de0 0x4d86
// 24.500000 // 23.100000
0x4e20 0x4dc6
// 25.500000 // 24.100000
0x4e60 0x4e06
// 26.500000 // 25.100000
0x4ea0 0x4e46
// 27.500000 // 26.100000
0x4ee0 0x4e86
// 28.500000 // 27.100000
0x4f20 0x4ec6
// 29.500000 // 28.100000
0x4f60 0x4f06
// 30.500000 // 29.100000
0x4fa0 0x4f46
// 31.500000 // 30.100000
0x4fe0 0x4f86
// 32.500000 // 31.100000
0x5010 0x4fc6
// 33.500000 // 32.100000
0x5030 0x5003
// 34.500000 // 33.100000
0x5050 0x5023
// 35.500000 // 34.100000
0x5070 0x5043
// 36.500000 // 35.100000
0x5090 0x5063
// 37.500000 // 36.100000
0x50b0 0x5083
// 38.500000 // 37.100000
0x50d0 0x50a3
// 39.500000 // 38.100000
0x50f0 0x50c3
// 39.100000
0x50e3
// 40.600000
0x5113

164
Testing/Patterns/DSP/Interpolation/InterpolationF16/Reference1_f16.txt
Unescape Escape View File

@ -1,82 +1,86 @@
H H
40 42
// 0.999836 // 1.000000
0x3c00 0x3c00
// 0.997208 // 0.999967
0x3bfa 0x3c00
// 0.984118 // 0.999179
0x3bdf 0x3bfe
// 0.945255 // 0.992619
0x3b90 0x3bf1
// 0.859251 // 0.967844
0x3ae0 0x3bbe
// 0.702426 // 0.905465
0x399f 0x3b3e
// 0.456301 // 0.781671
0x374d 0x3a41
// 0.119531 // 0.573956
0x2fa6 0x3897
// -0.277482 // 0.271292
0xb471 0x3457
// -0.661314 // -0.111634
0xb94a 0xaf25
// -0.918537 // -0.520097
0xbb59 0xb829
// -0.925695 // -0.853976
0xbb68 0xbad5
// -0.611097 // -0.984530
0xb8e4 0xbbe0
// -0.030945 // -0.803940
0xa7ec 0xba6e
// 0.589481 // -0.302224
0x38b7 0xb4d6
// 0.915804 // 0.364419
0x3b54 0x35d5
// 0.695054 // 0.879807
0x398f 0x3b0a
// -0.004498 // 0.907652
0x9c9b 0x3b43
// -0.712082 // 0.342546
0xb9b2 0x357b
// -0.829765 // -0.493059
0xbaa3 0xb7e4
// -0.183298 // -0.954641
0xb1de 0xbba3
// 0.647457 // -0.575596
0x392e 0xb89b
// 0.765024 // 0.375151
0x3a1f 0x3601
// -0.024301 // 0.943276
0xa639 0x3b8c
// -0.770387 // 0.428907
0xba2a 0x36dd
// -0.447708 // -0.626726
0xb72a 0xb904
// 0.521104 // -0.849512
0x382b 0xbacc
// 0.650064 // 0.147858
0x3933 0x30bb
// -0.298863 // 0.920142
0xb4c8 0x3b5c
// -0.688210 // 0.190200
0xb981 0x3216
// 0.207648 // -0.865797
0x32a5 0xbaed
// 0.656951 // -0.331452
0x3941 0xb54e
// -0.253282 // 0.836609
0xb40d 0x3ab1
// -0.570816 // 0.295245
0xb891 0x34b9
// 0.398647 // -0.865316
0x3661 0xbaec
// 0.379176 // -0.082423
0x3611 0xad46
// -0.548368 // 0.875822
0xb863 0x3b02
// -0.036721 // -0.302978
0xa8b3 0xb4d9
// 0.524152 // -0.691427
0x3831 0xb988
// -0.358152 // 0.730160
0xb5bb 0x39d7
// 0.141684
0x3089
// -0.982948
0xbbdd

166
Testing/Patterns/DSP/Interpolation/InterpolationF32/Input1_f32.txt
Unescape Escape View File

@ -1,82 +1,86 @@
W W
40 42
// 0.500000 // -0.900000
0x3f000000 0xbf666666
// 1.500000 // 0.100000
0x3fc00000 0x3dcccccd
// 2.500000 // 1.100000
0x40200000 0x3f8ccccd
// 3.500000 // 2.100000
0x40600000 0x40066666
// 4.500000 // 3.100000
0x40900000 0x40466666
// 5.500000 // 4.100000
0x40b00000 0x40833333
// 6.500000 // 5.100000
0x40d00000 0x40a33333
// 7.500000 // 6.100000
0x40f00000 0x40c33333
// 8.500000 // 7.100000
0x41080000 0x40e33333
// 9.500000 // 8.100000
0x41180000 0x4101999a
// 10.500000 // 9.100000
0x41280000 0x4111999a
// 11.500000 // 10.100000
0x41380000 0x4121999a
// 12.500000 // 11.100000
0x41480000 0x4131999a
// 13.500000 // 12.100000
0x41580000 0x4141999a
// 14.500000 // 13.100000
0x41680000 0x4151999a
// 15.500000 // 14.100000
0x41780000 0x4161999a
// 16.500000 // 15.100000
0x41840000 0x4171999a
// 17.500000 // 16.100000
0x418c0000 0x4180cccd
// 18.500000 // 17.100000
0x41940000 0x4188cccd
// 19.500000 // 18.100000
0x419c0000 0x4190cccd
// 20.500000 // 19.100000
0x41a40000 0x4198cccd
// 21.500000 // 20.100000
0x41ac0000 0x41a0cccd
// 22.500000 // 21.100000
0x41b40000 0x41a8cccd
// 23.500000 // 22.100000
0x41bc0000 0x41b0cccd
// 24.500000 // 23.100000
0x41c40000 0x41b8cccd
// 25.500000 // 24.100000
0x41cc0000 0x41c0cccd
// 26.500000 // 25.100000
0x41d40000 0x41c8cccd
// 27.500000 // 26.100000
0x41dc0000 0x41d0cccd
// 28.500000 // 27.100000
0x41e40000 0x41d8cccd
// 29.500000 // 28.100000
0x41ec0000 0x41e0cccd
// 30.500000 // 29.100000
0x41f40000 0x41e8cccd
// 31.500000 // 30.100000
0x41fc0000 0x41f0cccd
// 32.500000 // 31.100000
0x42020000 0x41f8cccd
// 33.500000 // 32.100000
0x42060000 0x42006666
// 34.500000 // 33.100000
0x420a0000 0x42046666
// 35.500000 // 34.100000
0x420e0000 0x42086666
// 36.500000 // 35.100000
0x42120000 0x420c6666
// 37.500000 // 36.100000
0x42160000 0x42106666
// 38.500000 // 37.100000
0x421a0000 0x42146666
// 39.500000 // 38.100000
0x421e0000 0x42186666
// 39.100000
0x421c6666
// 40.600000
0x42226666

166
Testing/Patterns/DSP/Interpolation/InterpolationF32/Reference1_f32.txt
Unescape Escape View File

@ -1,82 +1,86 @@
W W
40 42
// 0.999836 // 1.000000
0x3f7ff53b 0x3f800000
// 0.997208 // 0.999967
0x3f7f4908 0x3f7ffdd9
// 0.984118 // 0.999179
0x3f7bef25 0x3f7fca2c
// 0.945255 // 0.992619
0x3f71fc36 0x3f7e1c50
// 0.859251 // 0.967844
0x3f5bf7db 0x3f77c498
// 0.702426 // 0.905465
0x3f33d232 0x3f67cc8e
// 0.456301 // 0.781671
0x3ee9a049 0x3f481b9f
// 0.119531 // 0.573956
0x3df4cc6e 0x3f12eec2
// -0.277482 // 0.271292
0xbe8e122d 0x3e8ae6d2
// -0.661314 // -0.111634
0xbf294be6 0xbde4a03e
// -0.918537 // -0.520097
0xbf6b253e 0xbf05251b
// -0.925695 // -0.853976
0xbf6cfa51 0xbf5a9e28
// -0.611097 // -0.984530
0xbf1c70d9 0xbf7c0a23
// -0.030945 // -0.803940
0xbcfd7f9a 0xbf4dcf00
// 0.589481 // -0.302224
0x3f16e834 0xbe9abd0d
// 0.915804 // 0.364419
0x3f6a7228 0x3eba952d
// 0.695054 // 0.879807
0x3f31ef13 0x3f613b02
// -0.004498 // 0.907652
0xbb9367b4 0x3f685be3
// -0.712082 // 0.342546
0xbf364afd 0x3eaf622b
// -0.829765 // -0.493059
0xbf546b7a 0xbefc7247
// -0.183298 // -0.954641
0xbe3bb262 0xbf746355
// 0.647457 // -0.575596
0x3f25bfbd 0xbf135a3f
// 0.765024 // 0.375151
0x3f43d8a0 0x3ec013d8
// -0.024301 // 0.943276
0xbcc71299 0x3f717a88
// -0.770387 // 0.428907
0xbf453819 0x3edb99bf
// -0.447708 // -0.626726
0xbee53a07 0xbf207123
// 0.521104 // -0.849512
0x3f056717 0xbf5979a4
// 0.650064 // 0.147858
0x3f266a9a 0x3e176823
// -0.298863 // 0.920142
0xbe9904a3 0x3f6b8e73
// -0.688210 // 0.190200
0xbf302e8f 0x3e42c3dd
// 0.207648 // -0.865797
0x3e54a1be 0xbf5da4da
// 0.656951 // -0.331452
0x3f282dea 0xbea9b424
// -0.253282 // 0.836609
0xbe81ae2d 0x3f562c09
// -0.570816 // 0.295245
0xbf1220fa 0x3e972a62
// 0.398647 // -0.865316
0x3ecc1b6e 0xbf5d8558
// 0.379176 // -0.082423
0x3ec2236a 0xbda8cd5f
// -0.548368 // 0.875822
0xbf0c61d1 0x3f6035e6
// -0.036721 // -0.302978
0xbd1668f6 0xbe9b1ffb
// 0.524152 // -0.691427
0x3f062ed8 0xbf310164
// -0.358152 // 0.730160
0xbeb75fc4 0x3f3aebc0
// 0.141684
0x3e111592
// -0.982948
0xbf7ba27a

166
Testing/Patterns/DSP/Interpolation/InterpolationQ15/Input1_q31.txt
Unescape Escape View File

@ -1,82 +1,86 @@
W W
40 42
// 0.000244 // -0.000439
0x00080000 0xFFF1999A
// 0.000732 // 0.000049
0x00180000 0x0001999A
// 0.001221 // 0.000537
0x00280000 0x0011999A
// 0.001709 // 0.001025
0x00380000 0x0021999A
// 0.002197 // 0.001514
0x00480000 0x0031999A
// 0.002686 // 0.002002
0x00580000 0x0041999A
// 0.003174 // 0.002490
0x00680000 0x0051999A
// 0.003662 // 0.002979
0x00780000 0x0061999A
// 0.004150 // 0.003467
0x00880000 0x0071999A
// 0.004639 // 0.003955
0x00980000 0x0081999A
// 0.005127 // 0.004443
0x00A80000 0x0091999A
// 0.005615 // 0.004932
0x00B80000 0x00A1999A
// 0.006104 // 0.005420
0x00C80000 0x00B1999A
// 0.006592 // 0.005908
0x00D80000 0x00C1999A
// 0.007080 // 0.006396
0x00E80000 0x00D1999A
// 0.007568 // 0.006885
0x00F80000 0x00E1999A
// 0.008057 // 0.007373
0x01080000 0x00F1999A
// 0.008545 // 0.007861
0x01180000 0x0101999A
// 0.009033 // 0.008350
0x01280000 0x0111999A
// 0.009521 // 0.008838
0x01380000 0x0121999A
// 0.010010 // 0.009326
0x01480000 0x0131999A
// 0.010498 // 0.009814
0x01580000 0x0141999A
// 0.010986 // 0.010303
0x01680000 0x0151999A
// 0.011475 // 0.010791
0x01780000 0x0161999A
// 0.011963 // 0.011279
0x01880000 0x0171999A
// 0.012451 // 0.011768
0x01980000 0x0181999A
// 0.012939 // 0.012256
0x01A80000 0x0191999A
// 0.013428 // 0.012744
0x01B80000 0x01A1999A
// 0.013916 // 0.013232
0x01C80000 0x01B1999A
// 0.014404 // 0.013721
0x01D80000 0x01C1999A
// 0.014893 // 0.014209
0x01E80000 0x01D1999A
// 0.015381 // 0.014697
0x01F80000 0x01E1999A
// 0.015869 // 0.015186
0x02080000 0x01F1999A
// 0.016357 // 0.015674
0x02180000 0x0201999A
// 0.016846 // 0.016162
0x02280000 0x0211999A
// 0.017334 // 0.016650
0x02380000 0x0221999A
// 0.017822 // 0.017139
0x02480000 0x0231999A
// 0.018311 // 0.017627
0x02580000 0x0241999A
// 0.018799 // 0.018115
0x02680000 0x0251999A
// 0.019287 // 0.018604
0x02780000 0x0261999A
// 0.019092
0x0271999A
// 0.019824
0x0289999A

166
Testing/Patterns/DSP/Interpolation/InterpolationQ15/Reference1_q15.txt
Unescape Escape View File

@ -1,82 +1,86 @@
H H
40 42
// 0.999836 // 1.000000
0x7FFB 0x7FFF
// 0.997208 // 0.999967
0x7FA5 0x7FFF
// 0.984118 // 0.999179
0x7DF8 0x7FE5
// 0.945255 // 0.992619
0x78FE 0x7F0E
// 0.859251 // 0.967844
0x6DFC 0x7BE2
// 0.702426 // 0.905465
0x59E9 0x73E6
// 0.456301 // 0.781671
0x3A68 0x640E
// 0.119531 // 0.573956
0x0F4D 0x4977
// -0.277482 // 0.271292
0xDC7B 0x22BA
// -0.661314 // -0.111634
0xAB5A 0xF1B6
// -0.918537 // -0.520097
0x8A6D 0xBD6D
// -0.925695 // -0.853976
0x8983 0x92B1
// -0.611097 // -0.984530
0xB1C8 0x81FB
// -0.030945 // -0.803940
0xFC0A 0x9918
// 0.589481 // -0.302224
0x4B74 0xD951
// 0.915804 // 0.364419
0x7539 0x2EA5
// 0.695054 // 0.879807
0x58F8 0x709E
// -0.004498 // 0.907652
0xFF6D 0x742E
// -0.712082 // 0.342546
0xA4DB 0x2BD9
// -0.829765 // -0.493059
0x95CA 0xC0E3
// -0.183298 // -0.954641
0xE88A 0x85CE
// 0.647457 // -0.575596
0x52E0 0xB653
// 0.765024 // 0.375151
0x61EC 0x3005
// -0.024301 // 0.943276
0xFCE4 0x78BD
// -0.770387 // 0.428907
0x9D64 0x36E6
// -0.447708 // -0.626726
0xC6B1 0xAFC7
// 0.521104 // -0.849512
0x42B4 0x9343
// 0.650064 // 0.147858
0x5335 0x12ED
// -0.298863 // 0.920142
0xD9BF 0x75C7
// -0.688210 // 0.190200
0xA7E9 0x1858
// 0.207648 // -0.865797
0x1A94 0x912E
// 0.656951 // -0.331452
0x5417 0xD593
// -0.253282 // 0.836609
0xDF94 0x6B16
// -0.570816 // 0.295245
0xB6F0 0x25CB
// 0.398647 // -0.865316
0x3307 0x913D
// 0.379176 // -0.082423
0x3089 0xF573
// -0.548368 // 0.875822
0xB9CF 0x701B
// -0.036721 // -0.302978
0xFB4D 0xD938
// 0.524152 // -0.691427
0x4317 0xA77F
// -0.358152 // 0.730160
0xD228 0x5D76
// 0.141684
0x1223
// -0.982948
0x822F

166
Testing/Patterns/DSP/Interpolation/InterpolationQ31/Input1_q31.txt
Unescape Escape View File

@ -1,82 +1,86 @@
W W
40 42
// 0.000244 // -0.000439
0x00080000 0xFFF1999A
// 0.000732 // 0.000049
0x00180000 0x0001999A
// 0.001221 // 0.000537
0x00280000 0x0011999A
// 0.001709 // 0.001025
0x00380000 0x0021999A
// 0.002197 // 0.001514
0x00480000 0x0031999A
// 0.002686 // 0.002002
0x00580000 0x0041999A
// 0.003174 // 0.002490
0x00680000 0x0051999A
// 0.003662 // 0.002979
0x00780000 0x0061999A
// 0.004150 // 0.003467
0x00880000 0x0071999A
// 0.004639 // 0.003955
0x00980000 0x0081999A
// 0.005127 // 0.004443
0x00A80000 0x0091999A
// 0.005615 // 0.004932
0x00B80000 0x00A1999A
// 0.006104 // 0.005420
0x00C80000 0x00B1999A
// 0.006592 // 0.005908
0x00D80000 0x00C1999A
// 0.007080 // 0.006396
0x00E80000 0x00D1999A
// 0.007568 // 0.006885
0x00F80000 0x00E1999A
// 0.008057 // 0.007373
0x01080000 0x00F1999A
// 0.008545 // 0.007861
0x01180000 0x0101999A
// 0.009033 // 0.008350
0x01280000 0x0111999A
// 0.009521 // 0.008838
0x01380000 0x0121999A
// 0.010010 // 0.009326
0x01480000 0x0131999A
// 0.010498 // 0.009814
0x01580000 0x0141999A
// 0.010986 // 0.010303
0x01680000 0x0151999A
// 0.011475 // 0.010791
0x01780000 0x0161999A
// 0.011963 // 0.011279
0x01880000 0x0171999A
// 0.012451 // 0.011768
0x01980000 0x0181999A
// 0.012939 // 0.012256
0x01A80000 0x0191999A
// 0.013428 // 0.012744
0x01B80000 0x01A1999A
// 0.013916 // 0.013232
0x01C80000 0x01B1999A
// 0.014404 // 0.013721
0x01D80000 0x01C1999A
// 0.014893 // 0.014209
0x01E80000 0x01D1999A
// 0.015381 // 0.014697
0x01F80000 0x01E1999A
// 0.015869 // 0.015186
0x02080000 0x01F1999A
// 0.016357 // 0.015674
0x02180000 0x0201999A
// 0.016846 // 0.016162
0x02280000 0x0211999A
// 0.017334 // 0.016650
0x02380000 0x0221999A
// 0.017822 // 0.017139
0x02480000 0x0231999A
// 0.018311 // 0.017627
0x02580000 0x0241999A
// 0.018799 // 0.018115
0x02680000 0x0251999A
// 0.019287 // 0.018604
0x02780000 0x0261999A
// 0.019092
0x0271999A
// 0.019824
0x0289999A

166
Testing/Patterns/DSP/Interpolation/InterpolationQ31/Reference1_q31.txt
Unescape Escape View File

@ -1,82 +1,86 @@
W W
40 42
// 0.999836 // 1.000000
0x7FFA9D47 0x7FFFFFFF
// 0.997208 // 0.999967
0x7FA483D7 0x7FFEEC41
// 0.984118 // 0.999179
0x7DF792AA 0x7FE51603
// 0.945255 // 0.992619
0x78FE1AD3 0x7F0E27D5
// 0.859251 // 0.967844
0x6DFBED5A 0x7BE24BEE
// 0.702426 // 0.905465
0x59E918D9 0x73E64706
// 0.456301 // 0.781671
0x3A681221 0x640DCF94
// 0.119531 // 0.573956
0x0F4CC6E6 0x497760C6
// -0.277482 // 0.271292
0xDC7B74C7 0x22B9B470
// -0.661314 // -0.111634
0xAB5A0CFB 0xF1B5FC22
// -0.918537 // -0.520097
0x8A6D613A 0xBD6D7243
// -0.925695 // -0.853976
0x8982D786 0x92B0EBC0
// -0.611097 // -0.984530
0xB1C79353 0x81FAEE5C
// -0.030945 // -0.803940
0xFC0A0199 0x99187FD8
// 0.589481 // -0.302224
0x4B7419C6 0xD950BCDB
// 0.915804 // 0.364419
0x753913C6 0x2EA54B2D
// 0.695054 // 0.879807
0x58F7896E 0x709D80C5
// -0.004498 // 0.907652
0xFF6C984C 0x742DF182
// -0.712082 // 0.342546
0xA4DA81BA 0x2BD88AB9
// -0.829765 // -0.493059
0x95CA42E6 0xC0E36E27
// -0.183298 // -0.954641
0xE889B3C1 0x85CE5589
// 0.647457 // -0.575596
0x52DFDEA1 0xB652E06F
// 0.765024 // 0.375151
0x61EC4FCA 0x3004F60D
// -0.024301 // 0.943276
0xFCE3B59E 0x78BD443E
// -0.770387 // 0.428907
0x9D63F365 0x36E66FB3
// -0.447708 // -0.626726
0xC6B17E22 0xAFC76E4A
// 0.521104 // -0.849512
0x42B38BB9 0x93432DD9
// 0.650064 // 0.147858
0x53354CCE 0x12ED0456
// -0.298863 // 0.920142
0xD9BED74A 0x75C739B9
// -0.688210 // 0.190200
0xA7E8B864 0x18587B95
// 0.207648 // -0.865797
0x1A9437BE 0x912D9338
// 0.656951 // -0.331452
0x5416F502 0xD592F709
// -0.253282 // 0.836609
0xDF9474DD 0x6B1604B4
// -0.570816 // 0.295245
0xB6EF8307 0x25CA987D
// 0.398647 // -0.865316
0x3306DB70 0x913D5412
// 0.379176 // -0.082423
0x3088DA74 0xF5732A11
// -0.548368 // 0.875822
0xB9CF17B9 0x701AF303
// -0.036721 // -0.302978
0xFB4CB84E 0xD9380158
// 0.524152 // -0.691427
0x43176BFA 0xA77F4E37
// -0.358152 // 0.730160
0xD2280F1C 0x5D75DFEE
// 0.141684
0x1222B240
// -0.982948
0x822EC32F

166
Testing/Patterns/DSP/Interpolation/InterpolationQ7/Input1_q31.txt
Unescape Escape View File

@ -1,82 +1,86 @@
W W
40 42
// 0.000244 // -0.000439
0x00080000 0xFFF1999A
// 0.000732 // 0.000049
0x00180000 0x0001999A
// 0.001221 // 0.000537
0x00280000 0x0011999A
// 0.001709 // 0.001025
0x00380000 0x0021999A
// 0.002197 // 0.001514
0x00480000 0x0031999A
// 0.002686 // 0.002002
0x00580000 0x0041999A
// 0.003174 // 0.002490
0x00680000 0x0051999A
// 0.003662 // 0.002979
0x00780000 0x0061999A
// 0.004150 // 0.003467
0x00880000 0x0071999A
// 0.004639 // 0.003955
0x00980000 0x0081999A
// 0.005127 // 0.004443
0x00A80000 0x0091999A
// 0.005615 // 0.004932
0x00B80000 0x00A1999A
// 0.006104 // 0.005420
0x00C80000 0x00B1999A
// 0.006592 // 0.005908
0x00D80000 0x00C1999A
// 0.007080 // 0.006396
0x00E80000 0x00D1999A
// 0.007568 // 0.006885
0x00F80000 0x00E1999A
// 0.008057 // 0.007373
0x01080000 0x00F1999A
// 0.008545 // 0.007861
0x01180000 0x0101999A
// 0.009033 // 0.008350
0x01280000 0x0111999A
// 0.009521 // 0.008838
0x01380000 0x0121999A
// 0.010010 // 0.009326
0x01480000 0x0131999A
// 0.010498 // 0.009814
0x01580000 0x0141999A
// 0.010986 // 0.010303
0x01680000 0x0151999A
// 0.011475 // 0.010791
0x01780000 0x0161999A
// 0.011963 // 0.011279
0x01880000 0x0171999A
// 0.012451 // 0.011768
0x01980000 0x0181999A
// 0.012939 // 0.012256
0x01A80000 0x0191999A
// 0.013428 // 0.012744
0x01B80000 0x01A1999A
// 0.013916 // 0.013232
0x01C80000 0x01B1999A
// 0.014404 // 0.013721
0x01D80000 0x01C1999A
// 0.014893 // 0.014209
0x01E80000 0x01D1999A
// 0.015381 // 0.014697
0x01F80000 0x01E1999A
// 0.015869 // 0.015186
0x02080000 0x01F1999A
// 0.016357 // 0.015674
0x02180000 0x0201999A
// 0.016846 // 0.016162
0x02280000 0x0211999A
// 0.017334 // 0.016650
0x02380000 0x0221999A
// 0.017822 // 0.017139
0x02480000 0x0231999A
// 0.018311 // 0.017627
0x02580000 0x0241999A
// 0.018799 // 0.018115
0x02680000 0x0251999A
// 0.019287 // 0.018604
0x02780000 0x0261999A
// 0.019092
0x0271999A
// 0.019824
0x0289999A

160
Testing/Patterns/DSP/Interpolation/InterpolationQ7/Reference1_q7.txt
Unescape Escape View File

@ -1,82 +1,86 @@
B B
40 42
// 0.999836 // 1.000000
0x7F 0x7F
// 0.997208 // 0.999967
0x7F 0x7F
// 0.984118 // 0.999179
0x7E 0x7F
// 0.945255 // 0.992619
0x7F
// 0.967844
0x7C
// 0.905465
0x74
// 0.781671
0x64
// 0.573956
0x49
// 0.271292
0x23
// -0.111634
0xF2
// -0.520097
0xBD
// -0.853976
0x93
// -0.984530
0x82
// -0.803940
0x99
// -0.302224
0xD9
// 0.364419
0x2F
// 0.879807
0x71
// 0.907652
0x74
// 0.342546
0x2C
// -0.493059
0xC1
// -0.954641
0x86
// -0.575596
0xB6
// 0.375151
0x30
// 0.943276
0x79 0x79
// 0.859251 // 0.428907
0x6E 0x37
// 0.702426 // -0.626726
0x5A 0xB0
// 0.456301 // -0.849512
0x3A 0x93
// 0.119531 // 0.147858
0x0F 0x13
// -0.277482 // 0.920142
0xDC 0x76
// -0.661314 // 0.190200
0xAB 0x18
// -0.918537 // -0.865797
0x8A 0x91
// -0.925695 // -0.331452
0x8A 0xD6
// -0.611097 // 0.836609
0xB2 0x6B
// -0.030945 // 0.295245
0xFC 0x26
// 0.589481 // -0.865316
0x4B 0x91
// 0.915804 // -0.082423
0x75 0xF5
// 0.695054 // 0.875822
0x59 0x70
// -0.004498 // -0.302978
0xFF 0xD9
// -0.712082 // -0.691427
0xA5 0xA7
// -0.829765 // 0.730160
0x96 0x5D
// -0.183298 // 0.141684
0xE9 0x12
// 0.647457 // -0.982948
0x53 0x82
// 0.765024
0x62
// -0.024301
0xFD
// -0.770387
0x9D
// -0.447708
0xC7
// 0.521104
0x43
// 0.650064
0x53
// -0.298863
0xDA
// -0.688210
0xA8
// 0.207648
0x1B
// 0.656951
0x54
// -0.253282
0xE0
// -0.570816
0xB7
// 0.398647
0x33
// 0.379176
0x31
// -0.548368
0xBA
// -0.036721
0xFB
// 0.524152
0x43
// -0.358152
0xD2

6
Testing/Source/Tests/InterpolationTestsF16.cpp
Unescape Escape View File

@ -2,7 +2,7 @@
#include <stdio.h> #include <stdio.h>
#include "Error.h" #include "Error.h"
#define SNR_THRESHOLD 55 #define SNR_THRESHOLD 44
/* /*
@ -11,8 +11,8 @@ a double precision computation.
*/ */
#define REL_ERROR (5.0e-3) #define REL_ERROR (6.0e-3)
#define ABS_ERROR (5.0e-3) #define ABS_ERROR (7.0e-3)

2
Testing/Source/Tests/InterpolationTestsF32.cpp
Unescape Escape View File

@ -2,7 +2,7 @@
#include <stdio.h> #include <stdio.h>
#include "Error.h" #include "Error.h"
#define SNR_THRESHOLD 120 #define SNR_THRESHOLD 119
/* /*

Write Preview
Loading…
Cancel
Save