You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference10_q7.txt

515 lines
4.3 KiB
Plaintext

B
256
// 0.170273
0x16
// 0.223610
0x1D
// 0.054577
0x07
// 0.046255
0x06
// 0.312150
0x28
// 0.159180
0x14
// 0.496730
0x40
// 0.045669
0x06
// 0.245053
0x1F
// 0.098011
0x0D
// 0.009762
0x01
// 0.118576
0x0F
// 0.261734
0x22
// 0.335202
0x2B
// 0.495857
0x3F
// 0.277590
0x24
// 0.179632
0x17
// 0.450048
0x3A
// 0.372076
0x30
// 0.644907
0x53
// 0.692830
0x59
// 0.105452
0x0D
// 0.357840
0x2E
// 0.166385
0x15
// 0.242633
0x1F
// 0.149128
0x13
// 0.134761
0x11
// 0.090255
0x0C
// 1.000000
0x7F
// 0.151423
0x13
// 0.190097
0x18
// 0.248857
0x20
// 0.040990
0x05
// 0.085359
0x0B
// 0.360624
0x2E
// 0.865526
0x6F
// 0.343898
0x2C
// 0.221510
0x1C
// 0.884167
0x71
// 0.156461
0x14
// 0.158978
0x14
// 0.397123
0x33
// 0.316443
0x29
// 0.257212
0x21
// 0.143652
0x12
// 0.184907
0x18
// 0.145298
0x13
// 0.341277
0x2C
// 0.448485
0x39
// 0.138176
0x12
// 0.222118
0x1C
// 0.334124
0x2B
// 0.334233
0x2B
// 0.077021
0x0A
// 0.527222
0x43
// 0.055369
0x07
// 0.234080
0x1E
// 0.350809
0x2D
// 0.041971
0x05
// 0.313819
0x28
// 0.229986
0x1D
// 0.128056
0x10
// 0.183910
0x18
// 0.018742
0x02
// 0.231184
0x1E
// 0.024291
0x03
// 0.345040
0x2C
// 0.142365
0x12
// 0.642319
0x52
// 0.041835
0x05
// 0.017943
0x02
// 0.051957
0x07
// 0.214067
0x1B
// 0.055473
0x07
// 0.459676
0x3B
// 0.289808
0x25
// 0.108289
0x0E
// 0.094941
0x0C
// 0.401235
0x33
// 0.016710
0x02
// 0.194257
0x19
// 0.609753
0x4E
// 0.085311
0x0B
// 0.501344
0x40
// 0.224315
0x1D
// 0.464911
0x3C
// 0.775765
0x63
// 0.070715
0x09
// 0.015846
0x02
// 0.202939
0x1A
// 0.100559
0x0D
// 0.358015
0x2E
// 0.674382
0x56
// 0.009244
0x01
// 0.095776
0x0C
// 0.218782
0x1C
// 0.294581
0x26
// 0.041271
0x05
// 0.616940
0x4F
// 0.053886
0x07
// 0.040347
0x05
// 0.399475
0x33
// 0.091846
0x0C
// 0.071784
0x09
// 0.336069
0x2B
// 0.122225
0x10
// 0.025528
0x03
// 0.544928
0x46
// 0.389335
0x32
// 0.214059
0x1B
// 0.217621
0x1C
// 0.201776
0x1A
// 0.099737
0x0D
// 0.037296
0x05
// 0.002526
0x00
// 0.261953
0x22
// 0.041671
0x05
// 0.377145
0x30
// 0.439785
0x38
// 0.293655
0x26
// 0.002033
0x00
// 0.104499
0x0D
// 0.348428
0x2D
// 0.080543
0x0A
// 0.112523
0x0E
// 0.059496
0x08
// 0.253709
0x20
// 0.004250
0x01
// 0.316745
0x29
// 0.213748
0x1B
// 0.068126
0x09
// 0.161825
0x15
// 0.113171
0x0E
// 0.227092
0x1D
// 0.370824
0x2F
// 0.261590
0x21
// 0.064022
0x08
// 0.183532
0x17
// 0.177090
0x17
// 0.576485
0x4A
// 0.169092
0x16
// 0.488003
0x3E
// 0.647858
0x53
// 0.150312
0x13
// 0.479424
0x3D
// 0.045368
0x06
// 0.185869
0x18
// 0.446031
0x39
// 0.282988
0x24
// 0.203277
0x1A
// 0.246298
0x20
// 0.312479
0x28
// 0.004315
0x01
// 0.571950
0x49
// 0.505839
0x41
// 0.436138
0x38
// 0.846078
0x6C
// 0.181966
0x17
// 0.343549
0x2C
// 0.209109
0x1B
// 0.044176
0x06
// 0.059191
0x08
// 0.111352
0x0E
// 0.257875
0x21
// 0.470747
0x3C
// 0.277152
0x23
// 0.028023
0x04
// 0.185348
0x18
// 0.150630
0x13
// 0.535496
0x45
// 0.014962
0x02
// 0.150175
0x13
// 0.298794
0x26
// 0.418195
0x36
// 0.174602
0x16
// 0.269261
0x22
// 0.436678
0x38
// 0.331173
0x2A
// 0.366851
0x2F
// 0.370428
0x2F
// 0.283261
0x24
// 0.231500
0x1E
// 0.233046
0x1E
// 0.446571
0x39
// 0.085783
0x0B
// 0.461865
0x3B
// 0.011142
0x01
// 0.055811
0x07
// 0.178694
0x17
// 0.290681
0x25
// 0.202204
0x1A
// 0.259537
0x21
// 0.002177
0x00
// 0.371484
0x30
// 0.180753
0x17
// 0.246209
0x20
// 0.004583
0x01
// 0.390049
0x32
// 0.087546
0x0B
// 0.249774
0x20
// 0.234289
0x1E
// 0.626216
0x50
// 0.005797
0x01
// 0.128477
0x10
// 0.218108
0x1C
// 0.200645
0x1A
// 0.120604
0x0F
// 0.095283
0x0C
// 0.259724
0x21
// 0.191522
0x19
// 0.013932
0x02
// 0.194910
0x19
// 0.141778
0x12
// 0.095258
0x0C
// 0.634834
0x51
// 0.025660
0x03
// 0.418897
0x36
// 0.046155
0x06
// 0.360508
0x2E
// 0.139436
0x12
// 0.450964
0x3A
// 0.122888
0x10
// 0.279241
0x24
// 0.476152
0x3D
// 0.530259
0x44
// 0.042361
0x05
// 0.183534
0x17
// 0.027383
0x04
// 0.462077
0x3B
// 0.196482
0x19
// 0.362248
0x2E
// 0.354517
0x2D
// 0.100748
0x0D
// 0.097024
0x0C
// 0.249561
0x20
// 0.277086
0x23
// 0.280640
0x24
// 0.053372
0x07
// 0.073417
0x09
// 0.150934
0x13
// 0.440900
0x38
// 0.128279
0x10
// 0.275382
0x23
// 0.180200
0x17
// 0.225039
0x1D
// 0.035604
0x05
// 0.066925
0x09
// 0.010681
0x01
// 0.249740
0x20
// 0.001299
0x00
// 0.015767
0x02
// 0.153981
0x14
// 0.128325
0x10
// 0.163872
0x15
// 0.416178
0x35
// 0.464387
0x3B