You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ15/Reference3_q15.txt

515 lines
4.8 KiB
Plaintext

H
256
// 0.050209
0x066D
// 0.005764
0x00BD
// 0.034541
0x046C
// 0.018908
0x026C
// 0.027124
0x0379
// 0.031053
0x03FA
// 0.002232
0x0049
// 0.018275
0x0257
// 0.066331
0x087E
// 0.056238
0x0733
// 0.026028
0x0355
// 0.050869
0x0683
// 0.132626
0x10FA
// 0.000261
0x0009
// 0.020158
0x0295
// 0.059770
0x07A7
// 0.002959
0x0061
// 0.007148
0x00EA
// 0.007530
0x00F7
// 0.003494
0x0073
// 0.328352
0x2A07
// 0.005322
0x00AE
// 0.016341
0x0217
// 0.012791
0x01A3
// 0.000183
0x0006
// 0.008915
0x0124
// 0.000988
0x0020
// 0.004480
0x0093
// 0.172341
0x160F
// 0.034587
0x046D
// 0.133336
0x1111
// 0.324882
0x2996
// 0.007747
0x00FE
// 0.024979
0x0333
// 0.002344
0x004D
// 0.139736
0x11E3
// 0.043765
0x059A
// 0.038250
0x04E5
// 0.122109
0x0FA1
// 0.022463
0x02E0
// 0.000530
0x0011
// 0.000057
0x0002
// 0.130731
0x10BC
// 0.021704
0x02C7
// 0.022824
0x02EC
// 0.164149
0x1503
// 0.000019
0x0001
// 0.045461
0x05D2
// 0.013193
0x01B0
// 0.156799
0x1412
// 0.000137
0x0004
// 0.180658
0x1720
// 0.024109
0x0316
// 0.007379
0x00F2
// 0.007940
0x0104
// 0.001568
0x0033
// 0.000724
0x0018
// 0.000848
0x001C
// 0.090101
0x0B88
// 0.067452
0x08A2
// 0.003852
0x007E
// 0.024194
0x0319
// 0.012689
0x01A0
// 0.033183
0x043F
// 0.028881
0x03B2
// 0.196343
0x1922
// 0.003185
0x0068
// 0.109630
0x0E08
// 0.018793
0x0268
// 0.004090
0x0086
// 0.040335
0x052A
// 0.312086
0x27F2
// 0.073815
0x0973
// 0.017963
0x024D
// 0.143385
0x125A
// 0.037265
0x04C5
// 0.035484
0x048B
// 0.119386
0x0F48
// 0.001899
0x003E
// 0.029355
0x03C2
// 0.000137
0x0004
// 0.010616
0x015C
// 0.049169
0x064B
// 0.004202
0x008A
// 0.000027
0x0001
// 0.231349
0x1D9D
// 0.006082
0x00C7
// 0.047234
0x060C
// 0.110014
0x0E15
// 0.022913
0x02EF
// 0.093578
0x0BFA
// 0.055044
0x070C
// 0.036844
0x04B7
// 0.007574
0x00F8
// 0.005740
0x00BC
// 0.010570
0x015A
// 0.011665
0x017E
// 0.084401
0x0ACE
// 0.072891
0x0954
// 0.007432
0x00F4
// 0.105973
0x0D91
// 0.013939
0x01C9
// 0.037275
0x04C5
// 0.005389
0x00B1
// 0.121681
0x0F93
// 0.015361
0x01F7
// 0.035183
0x0481
// 0.001811
0x003B
// 0.012128
0x018D
// 0.099673
0x0CC2
// 0.000380
0x000C
// 0.048649
0x063A
// 0.056622
0x073F
// 0.086728
0x0B1A
// 0.054987
0x070A
// 0.018247
0x0256
// 0.086675
0x0B18
// 0.002121
0x0045
// 0.000021
0x0001
// 0.145616
0x12A4
// 0.100602
0x0CE1
// 0.004610
0x0097
// 0.067308
0x089E
// 0.011773
0x0182
// 0.018357
0x025A
// 0.000284
0x0009
// 0.093032
0x0BE8
// 0.008268
0x010F
// 0.014087
0x01CE
// 0.021613
0x02C4
// 0.025622
0x0348
// 0.010152
0x014D
// 0.038436
0x04EB
// 0.036539
0x04AD
// 0.205195
0x1A44
// 0.120060
0x0F5E
// 0.061827
0x07EA
// 0.014656
0x01E0
// 0.094620
0x0C1D
// 0.020333
0x029A
// 0.090587
0x0B98
// 0.043101
0x0584
// 0.073328
0x0963
// 0.050913
0x0684
// 0.000181
0x0006
// 0.163829
0x14F8
// 0.044897
0x05BF
// 0.091483
0x0BB6
// 0.011585
0x017C
// 0.008799
0x0120
// 0.181628
0x1740
// 0.023647
0x0307
// 0.003798
0x007C
// 0.054658
0x06FF
// 0.050349
0x0672
// 0.015692
0x0202
// 0.079812
0x0A37
// 0.045513
0x05D3
// 0.000000
0x0000
// 0.056929
0x0749
// 0.003583
0x0075
// 0.028517
0x03A6
// 0.000000
0x0000
// 0.008805
0x0121
// 0.000447
0x000F
// 0.024347
0x031E
// 0.011250
0x0171
// 0.011131
0x016D
// 0.101515
0x0CFE
// 0.167077
0x1563
// 0.001906
0x003E
// 0.008352
0x0112
// 0.000015
0x0001
// 0.000781
0x001A
// 0.065247
0x085A
// 0.000207
0x0007
// 0.102091
0x0D11
// 0.002659
0x0057
// 0.027177
0x037B
// 0.008058
0x0108
// 0.017305
0x0237
// 0.055082
0x070D
// 0.017687
0x0244
// 0.241556
0x1EEB
// 0.084761
0x0AD9
// 0.068811
0x08CF
// 0.095014
0x0C29
// 0.002010
0x0042
// 0.003483
0x0072
// 0.043451
0x0590
// 0.038051
0x04DF
// 0.321046
0x2918
// 0.173702
0x163C
// 0.000590
0x0013
// 0.511814
0x4183
// 0.000112
0x0004
// 0.002152
0x0047
// 0.081562
0x0A71
// 0.019342
0x027A
// 0.065945
0x0871
// 0.102312
0x0D19
// 0.009370
0x0133
// 0.043819
0x059C
// 0.052405
0x06B5
// 0.105655
0x0D86
// 0.004233
0x008B
// 0.105256
0x0D79
// 0.149939
0x1331
// 0.002223
0x0049
// 0.022849
0x02ED
// 0.006367
0x00D1
// 0.104293
0x0D59
// 0.009575
0x013A
// 0.006977
0x00E5
// 0.016589
0x0220
// 0.222044
0x1C6C
// 0.083822
0x0ABB
// 0.007435
0x00F4
// 0.238793
0x1E91
// 0.017253
0x0235
// 0.000144
0x0005
// 0.168816
0x159C
// 0.058104
0x0770
// 0.010842
0x0163
// 0.006134
0x00C9
// 0.012966
0x01A9
// 0.200245
0x19A2
// 0.032853
0x0435
// 0.037307
0x04C6
// 0.066480
0x0882
// 0.043766
0x059A
// 0.087332
0x0B2E
// 0.021442
0x02BF
// 0.070727
0x090E
// 0.006146
0x00C9
// 0.076910
0x09D8
// 0.030169
0x03DD
// 0.087481
0x0B33
// 0.001342
0x002C
// 0.074795
0x0993
// 0.029223
0x03BE
// 0.070021
0x08F6
// 0.073665
0x096E
// 0.061941
0x07EE
// 0.010829
0x0163
// 0.000339
0x000B
// 0.006472
0x00D4
// 0.027001
0x0375
// 0.005993
0x00C4
// 0.008029
0x0107
// 0.057350
0x0757
// 0.005382
0x00B0
// 0.027646
0x038A
// 0.017448
0x023C
// 0.000081
0x0003
// 0.080478
0x0A4D