You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ15/Reference3_q15.txt

515 lines
4.8 KiB
Plaintext

H
256
// 0.008183
0x010C
// 0.001765
0x003A
// 0.008728
0x011E
// 0.000839
0x001B
// 0.001047
0x0022
// 0.188999
0x1831
// 0.065029
0x0853
// 0.035797
0x0495
// 0.005417
0x00B2
// 0.423191
0x362B
// 0.023111
0x02F5
// 0.010657
0x015D
// 0.035484
0x048B
// 0.007626
0x00FA
// 0.000288
0x0009
// 0.004898
0x00A1
// 0.180661
0x1720
// 0.027174
0x037A
// 0.017284
0x0236
// 0.057205
0x0752
// 0.019005
0x026F
// 0.027700
0x038C
// 0.077972
0x09FB
// 0.034853
0x0476
// 0.173078
0x1627
// 0.094476
0x0C18
// 0.011595
0x017C
// 0.033551
0x044B
// 0.021251
0x02B8
// 0.074401
0x0986
// 0.017984
0x024D
// 0.262548
0x219B
// 0.459179
0x3AC6
// 0.000325
0x000B
// 0.030724
0x03EF
// 0.223387
0x1C98
// 0.125703
0x1017
// 0.267504
0x223E
// 0.044293
0x05AB
// 0.151751
0x136D
// 0.509417
0x4135
// 0.021262
0x02B9
// 0.118710
0x0F32
// 0.016177
0x0212
// 0.083209
0x0AA7
// 0.120155
0x0F61
// 0.002703
0x0059
// 0.000006
0x0000
// 0.000800
0x001A
// 0.113262
0x0E7F
// 0.040012
0x051F
// 0.000020
0x0001
// 0.059329
0x0798
// 0.012846
0x01A5
// 0.056888
0x0748
// 0.150359
0x133F
// 0.005146
0x00A9
// 0.000263
0x0009
// 0.054169
0x06EF
// 0.034582
0x046D
// 0.054708
0x0701
// 0.010238
0x014F
// 0.008186
0x010C
// 0.002737
0x005A
// 0.000010
0x0000
// 0.020115
0x0293
// 0.016625
0x0221
// 0.014301
0x01D5
// 0.090189
0x0B8B
// 0.072734
0x094F
// 0.213669
0x1B5A
// 0.382421
0x30F3
// 0.350366
0x2CD9
// 0.006637
0x00D9
// 0.086292
0x0B0C
// 0.000275
0x0009
// 0.096988
0x0C6A
// 0.004589
0x0096
// 0.055363
0x0716
// 0.098865
0x0CA8
// 0.313248
0x2819
// 0.034412
0x0468
// 0.022040
0x02D2
// 0.061789
0x07E9
// 0.012622
0x019E
// 0.011232
0x0170
// 0.052620
0x06BC
// 0.046336
0x05EE
// 0.010353
0x0153
// 0.035970
0x049B
// 0.079412
0x0A2A
// 0.101276
0x0CF7
// 0.222998
0x1C8B
// 0.041971
0x055F
// 0.093145
0x0BEC
// 0.012976
0x01A9
// 0.002521
0x0053
// 0.033600
0x044D
// 0.000122
0x0004
// 0.140194
0x11F2
// 0.213012
0x1B44
// 0.051053
0x0689
// 0.001292
0x002A
// 0.024162
0x0318
// 0.010226
0x014F
// 0.093412
0x0BF5
// 0.542724
0x4578
// 0.013528
0x01BB
// 0.003419
0x0070
// 0.000601
0x0014
// 0.021363
0x02BC
// 0.006470
0x00D4
// 0.362402
0x2E63
// 0.075610
0x09AE
// 0.051501
0x0698
// 0.008599
0x011A
// 0.204942
0x1A3C
// 0.072960
0x0957
// 0.246507
0x1F8E
// 0.199069
0x197B
// 0.006989
0x00E5
// 0.132625
0x10FA
// 0.063443
0x081F
// 0.102761
0x0D27
// 0.009466
0x0136
// 0.006367
0x00D1
// 0.047996
0x0625
// 0.185916
0x17CC
// 0.050968
0x0686
// 0.000900
0x001D
// 0.315443
0x2860
// 0.104231
0x0D57
// 0.018092
0x0251
// 0.003177
0x0068
// 0.022497
0x02E1
// 0.007697
0x00FC
// 0.013385
0x01B7
// 0.084940
0x0ADF
// 0.001058
0x0023
// 0.193651
0x18CA
// 0.003019
0x0063
// 0.049415
0x0653
// 0.002131
0x0046
// 0.012673
0x019F
// 0.065997
0x0873
// 0.002761
0x005A
// 0.000200
0x0007
// 0.007211
0x00EC
// 0.000994
0x0021
// 0.109135
0x0DF8
// 0.049222
0x064D
// 0.075852
0x09B6
// 0.248484
0x1FCE
// 0.029984
0x03D7
// 0.031372
0x0404
// 0.084551
0x0AD3
// 0.034561
0x046C
// 0.022802
0x02EB
// 0.001324
0x002B
// 0.081657
0x0A74
// 0.275997
0x2354
// 0.000428
0x000E
// 0.033724
0x0451
// 0.005104
0x00A7
// 0.058673
0x0783
// 0.140592
0x11FF
// 0.320801
0x2910
// 0.000091
0x0003
// 0.000182
0x0006
// 0.004442
0x0092
// 0.033095
0x043C
// 0.039459
0x050D
// 0.050010
0x0667
// 0.017872
0x024A
// 0.053310
0x06D3
// 0.428731
0x36E1
// 0.521407
0x42BD
// 0.122647
0x0FB3
// 0.018622
0x0262
// 0.032887
0x0436
// 0.015988
0x020C
// 0.124293
0x0FE9
// 0.066475
0x0882
// 0.014431
0x01D9
// 0.133696
0x111D
// 0.229103
0x1D53
// 0.024165
0x0318
// 0.014195
0x01D1
// 0.170571
0x15D5
// 0.036181
0x04A2
// 0.054898
0x0707
// 0.120848
0x0F78
// 0.000751
0x0019
// 0.003857
0x007E
// 0.068821
0x08CF
// 0.084228
0x0AC8
// 0.227387
0x1D1B
// 0.007556
0x00F8
// 0.005011
0x00A4
// 0.027730
0x038D
// 0.035244
0x0483
// 0.004285
0x008C
// 0.077692
0x09F2
// 0.027171
0x037A
// 0.043336
0x058C
// 0.015084
0x01EE
// 0.003324
0x006D
// 0.019059
0x0271
// 0.081755
0x0A77
// 0.124004
0x0FDF
// 0.061258
0x07D7
// 0.036903
0x04B9
// 0.120648
0x0F71
// 0.120453
0x0F6B
// 0.094285
0x0C12
// 0.025151
0x0338
// 0.232734
0x1DCA
// 0.006435
0x00D3
// 0.028781
0x03AF
// 0.109693
0x0E0A
// 0.267493
0x223D
// 0.069065
0x08D7
// 0.005175
0x00AA
// 0.000349
0x000B
// 0.001716
0x0038
// 0.000423
0x000E
// 0.046947
0x0602
// 0.022797
0x02EB
// 0.005192
0x00AA
// 0.226519
0x1CFF
// 0.472069
0x3C6D
// 0.226550
0x1D00
// 0.023256
0x02FA
// 0.109828
0x0E0F
// 0.192470
0x18A3
// 0.019517
0x0280
// 0.000437
0x000E
// 0.089040
0x0B66
// 0.078520
0x0A0D
// 0.028757
0x03AE
// 0.068388
0x08C1
// 0.000740
0x0018
// 0.008534
0x0118
// 0.024846
0x032E
// 0.000160
0x0005
// 0.001538
0x0032
// 0.023353
0x02FD
// 0.523312
0x42FC
// 0.003117
0x0066
// 0.007796
0x00FF
// 0.127194
0x1048
// 0.000040
0x0001
// 0.113755
0x0E90
// 0.008240
0x010E
// 0.000030
0x0001
// 0.159066
0x145C