You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference6_q7.txt

515 lines
4.3 KiB
Plaintext

B
256
// -0.480850
0xc2
// 0.247116
0x20
// 0.151265
0x13
// -0.136104
0xef
// 0.088762
0xb
// 0.263679
0x22
// -0.190122
0xe8
// 0.262155
0x22
// 0.227646
0x1d
// -0.026814
0xfd
// -0.051320
0xf9
// 0.018362
0x2
// 0.016374
0x2
// -0.308338
0xd9
// 0.326194
0x2a
// -0.019207
0xfe
// 0.120305
0xf
// -0.161971
0xeb
// 0.204503
0x1a
// 0.256912
0x21
// 0.101520
0xd
// 0.273857
0x23
// -0.092294
0xf4
// 0.387212
0x32
// -0.228040
0xe3
// -0.338831
0xd5
// -0.202034
0xe6
// -0.294200
0xda
// 0.033958
0x4
// 0.102505
0xd
// 0.066434
0x9
// 0.089699
0xb
// 0.058659
0x8
// -0.084472
0xf5
// 0.024409
0x3
// -0.106480
0xf2
// 0.224949
0x1d
// 0.222454
0x1c
// 0.055319
0x7
// 0.203315
0x1a
// 0.272459
0x23
// 0.047197
0x6
// -0.247379
0xe0
// -0.123333
0xf0
// 0.128064
0x10
// -0.286054
0xdb
// -0.361116
0xd2
// 0.289787
0x25
// 0.209454
0x1b
// -0.040653
0xfb
// -0.218035
0xe4
// -0.142885
0xee
// 0.029731
0x4
// 0.064043
0x8
// 0.247953
0x20
// -0.011359
0xff
// -0.136928
0xee
// 0.246439
0x20
// -0.203091
0xe6
// -0.061891
0xf8
// -0.257027
0xdf
// -0.055565
0xf9
// 0.389864
0x32
// 0.073625
0x9
// -0.277924
0xdc
// -0.211025
0xe5
// 0.127501
0x10
// 0.312672
0x28
// 0.152873
0x14
// 0.036376
0x5
// 0.418561
0x36
// -0.060807
0xf8
// 0.311700
0x28
// 0.424941
0x36
// -0.176438
0xe9
// -0.093309
0xf4
// 0.130806
0x11
// -0.245334
0xe1
// -0.027453
0xfc
// -0.412196
0xcb
// 0.213610
0x1b
// -0.240409
0xe1
// -0.463027
0xc5
// 0.057583
0x7
// -0.305861
0xd9
// 0.188407
0x18
// -0.342599
0xd4
// -0.125811
0xf0
// 0.039957
0x5
// -0.093257
0xf4
// -0.143438
0xee
// -0.085691
0xf5
// -0.184196
0xe8
// -0.515065
0xbe
// 0.047575
0x6
// 0.180487
0x17
// 0.295076
0x26
// -0.097388
0xf4
// 0.060029
0x8
// -0.368077
0xd1
// -0.300858
0xd9
// -0.108295
0xf2
// -0.021010
0xfd
// 0.011650
0x1
// -0.271958
0xdd
// 0.128197
0x10
// -0.371402
0xd0
// 0.063718
0x8
// 0.105646
0xe
// 0.114536
0xf
// 0.088812
0xb
// -0.068119
0xf7
// 0.050331
0x6
// -0.201260
0xe6
// -0.277807
0xdc
// 0.116356
0xf
// 0.268332
0x22
// 0.356841
0x2e
// -0.509925
0xbf
// 0.154583
0x14
// -0.160026
0xec
// 0.146889
0x13
// -0.057056
0xf9
// -0.359189
0xd2
// 0.353558
0x2d
// 0.393991
0x32
// 0.484212
0x3e
// -0.223390
0xe3
// 0.043747
0x6
// 0.120163
0xf
// 0.067904
0x9
// 0.022982
0x3
// -0.081760
0xf6
// 0.083811
0xb
// 0.101280
0xd
// 0.249134
0x20
// -0.197277
0xe7
// 0.480278
0x3d
// -0.172511
0xea
// -0.101640
0xf3
// -0.094166
0xf4
// -0.060360
0xf8
// -0.221953
0xe4
// -0.035912
0xfb
// -0.066819
0xf7
// -0.145223
0xed
// -0.224265
0xe3
// -0.011069
0xff
// -0.006279
0xff
// 0.485935
0x3e
// 0.254896
0x21
// 0.202518
0x1a
// -0.074611
0xf6
// 0.010027
0x1
// 0.140656
0x12
// -0.129205
0xef
// -0.346615
0xd4
// -0.114705
0xf1
// -0.469390
0xc4
// -0.038422
0xfb
// -0.312017
0xd8
// -0.109044
0xf2
// 0.167741
0x15
// 0.053938
0x7
// -0.316555
0xd7
// 0.005470
0x1
// 0.242888
0x1f
// -0.093228
0xf4
// 0.051446
0x7
// 0.133346
0x11
// 0.141203
0x12
// -0.295413
0xda
// -0.078341
0xf6
// -0.226907
0xe3
// -0.338120
0xd5
// 0.055174
0x7
// -0.433468
0xc9
// 0.001628
0x0
// 0.163245
0x15
// 0.105736
0xe
// 0.124267
0x10
// 0.162134
0x15
// -0.382517
0xcf
// 0.072148
0x9
// -0.029966
0xfc
// -0.289126
0xdb
// -0.232925
0xe2
// 0.089507
0xb
// 0.262184
0x22
// -0.174351
0xea
// -0.139332
0xee
// 0.190950
0x18
// -0.265858
0xde
// 0.098168
0xd
// -0.090076
0xf4
// 0.280716
0x24
// -0.116939
0xf1
// -0.081527
0xf6
// 0.003908
0x1
// -0.072833
0xf7
// -0.075524
0xf6
// 0.147494
0x13
// 0.135252
0x11
// 0.457584
0x3b
// 0.207139
0x1b
// 0.130471
0x11
// -0.314263
0xd8
// -0.136468
0xef
// -0.089601
0xf5
// -0.175737
0xea
// 0.019562
0x3
// -0.199138
0xe7
// 0.233079
0x1e
// 0.070440
0x9
// 0.500000
0x40
// -0.210264
0xe5
// -0.497703
0xc0
// -0.046568
0xfa
// 0.222358
0x1c
// -0.228086
0xe3
// 0.073355
0x9
// 0.219546
0x1c
// 0.071859
0x9
// -0.009477
0xff
// -0.158506
0xec
// 0.092430
0xc
// 0.229942
0x1d
// -0.246929
0xe0
// -0.481358
0xc2
// -0.115750
0xf1
// 0.004900
0x1
// -0.148492
0xed
// 0.219747
0x1c
// 0.197214
0x19
// -0.202540
0xe6
// -0.191817
0xe7
// 0.188822
0x18
// -0.457813
0xc5
// 0.298394
0x26
// -0.074438
0xf6
// 0.467035
0x3c
// 0.157879
0x14
// 0.275298
0x23
// 0.171021
0x16
// -0.145654
0xed
// -0.450533
0xc6
// 0.143485
0x12
// -0.045948
0xfa
// -0.190411
0xe8
// 0.422934
0x36
// -0.062318
0xf8
// 0.163971
0x15
// 0.041761
0x5
// 0.089785
0xb
// -0.187455
0xe8
// 0.258772
0x21