You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ15/Reference10_q15.txt

515 lines
4.8 KiB
Plaintext

H
256
// 0.220082
0x1C2C
// 0.648327
0x52FC
// 0.384923
0x3145
// 0.342804
0x2BE1
// 0.186740
0x17E7
// 0.242768
0x1F13
// 1.000000
0x7FFF
// 0.219692
0x1C1F
// 0.708863
0x5ABC
// 0.046558
0x05F6
// 0.266138
0x2211
// 0.141689
0x1223
// 0.238624
0x1E8B
// 0.253288
0x206C
// 0.122863
0x0FBA
// 0.079772
0x0A36
// 0.116209
0x0EE0
// 0.004822
0x009E
// 0.304033
0x26EB
// 0.100791
0x0CE7
// 0.388702
0x31C1
// 0.131467
0x10D4
// 0.423712
0x363C
// 0.268629
0x2262
// 0.554728
0x4701
// 0.413113
0x34E1
// 0.218451
0x1BF6
// 0.284060
0x245C
// 0.142942
0x124C
// 0.213610
0x1B58
// 0.187221
0x17F7
// 0.085661
0x0AF7
// 0.193862
0x18D0
// 0.222182
0x1C70
// 0.051635
0x069C
// 0.109786
0x0E0D
// 0.019315
0x0279
// 0.631926
0x50E3
// 0.139429
0x11D9
// 0.363772
0x2E90
// 0.058933
0x078B
// 0.137276
0x1192
// 0.042911
0x057E
// 0.311712
0x27E6
// 0.422450
0x3613
// 0.107314
0x0DBC
// 0.231744
0x1DAA
// 0.317017
0x2894
// 0.385759
0x3161
// 0.089848
0x0B80
// 0.334632
0x2AD5
// 0.473275
0x3C94
// 0.446880
0x3933
// 0.109839
0x0E0F
// 0.134084
0x112A
// 0.074039
0x097A
// 0.182938
0x176B
// 0.359825
0x2E0F
// 0.027050
0x0376
// 0.402421
0x3383
// 0.581003
0x4A5E
// 0.409156
0x345F
// 0.132150
0x10EA
// 0.051599
0x069B
// 0.023049
0x02F3
// 0.035463
0x048A
// 0.426251
0x368F
// 0.261355
0x2174
// 0.539896
0x451B
// 0.208864
0x1ABC
// 0.482423
0x3DC0
// 0.448126
0x395C
// 0.210026
0x1AE2
// 0.012241
0x0191
// 0.172387
0x1611
// 0.413264
0x34E6
// 0.771709
0x62C7
// 0.288345
0x24E8
// 0.196498
0x1927
// 0.877371
0x704E
// 0.353832
0x2D4A
// 0.174340
0x1651
// 0.031563
0x040A
// 0.538060
0x44DF
// 0.277797
0x238F
// 0.515457
0x41FB
// 0.337930
0x2B41
// 0.057265
0x0754
// 0.678871
0x56E5
// 0.341715
0x2BBD
// 0.133303
0x1110
// 0.070760
0x090F
// 0.103167
0x0D35
// 0.114818
0x0EB2
// 0.468950
0x3C07
// 0.238719
0x1E8E
// 0.017460
0x023C
// 0.156982
0x1418
// 0.333725
0x2AB7
// 0.274001
0x2312
// 0.110301
0x0E1E
// 0.146732
0x12C8
// 0.237958
0x1E75
// 0.323186
0x295E
// 0.406440
0x3406
// 0.226232
0x1CF5
// 0.060577
0x07C1
// 0.220115
0x1C2D
// 0.230301
0x1D7A
// 0.519917
0x428D
// 0.153004
0x1396
// 0.022194
0x02D7
// 0.194255
0x18DD
// 0.224090
0x1CAF
// 0.085157
0x0AE6
// 0.324252
0x2981
// 0.048763
0x063E
// 0.346810
0x2C64
// 0.247603
0x1FB1
// 0.357303
0x2DBC
// 0.206534
0x1A70
// 0.263535
0x21BC
// 0.015248
0x01F4
// 0.872890
0x6FBB
// 0.247580
0x1FB1
// 0.516149
0x4211
// 0.094302
0x0C12
// 0.052902
0x06C6
// 0.778240
0x639D
// 0.427637
0x36BD
// 0.283986
0x245A
// 0.672614
0x5618
// 0.457756
0x3A98
// 0.486848
0x3E51
// 0.495655
0x3F72
// 0.660337
0x5486
// 0.414922
0x351C
// 0.684546
0x579F
// 0.091087
0x0BA9
// 0.306805
0x2745
// 0.167335
0x156B
// 0.233959
0x1DF2
// 0.290164
0x2524
// 0.323524
0x2969
// 0.514280
0x41D4
// 0.042699
0x0577
// 0.707219
0x5A86
// 0.091950
0x0BC5
// 0.253710
0x207A
// 0.795096
0x65C6
// 0.346711
0x2C61
// 0.399200
0x3319
// 0.204730
0x1A35
// 0.355544
0x2D82
// 0.223820
0x1CA6
// 0.546668
0x45F9
// 0.388739
0x31C2
// 0.645919
0x52AD
// 0.092108
0x0BCA
// 0.032834
0x0434
// 0.080452
0x0A4C
// 0.062094
0x07F3
// 0.058031
0x076E
// 0.672297
0x560E
// 0.037181
0x04C2
// 0.032767
0x0432
// 0.073803
0x0972
// 0.121025
0x0F7E
// 0.507999
0x4106
// 0.554037
0x46EB
// 0.711653
0x5B17
// 0.207512
0x1A90
// 0.228481
0x1D3F
// 0.177144
0x16AD
// 0.200805
0x19B4
// 0.335654
0x2AF7
// 0.034701
0x0471
// 0.229649
0x1D65
// 0.252566
0x2054
// 0.294584
0x25B5
// 0.290876
0x253B
// 0.292269
0x2569
// 0.019291
0x0278
// 0.034358
0x0466
// 0.017612
0x0241
// 0.114118
0x0E9B
// 0.059584
0x07A0
// 0.278205
0x239C
// 0.104771
0x0D69
// 0.110870
0x0E31
// 0.077777
0x09F5
// 0.052804
0x06C2
// 0.233495
0x1DE3
// 0.313370
0x281D
// 0.426198
0x368E
// 0.513922
0x41C8
// 0.014071
0x01CD
// 0.999800
0x7FF9
// 0.394377
0x327B
// 0.164722
0x1516
// 0.215053
0x1B87
// 0.162370
0x14C9
// 0.189193
0x1837
// 0.086890
0x0B1F
// 0.161248
0x14A4
// 0.150896
0x1351
// 0.515634
0x4200
// 0.206213
0x1A65
// 0.138097
0x11AD
// 0.065921
0x0870
// 0.171033
0x15E4
// 0.275296
0x233D
// 0.658778
0x5453
// 0.148681
0x1308
// 0.133878
0x1123
// 0.376806
0x303B
// 0.227601
0x1D22
// 0.035221
0x0482
// 0.010615
0x015C
// 0.552262
0x46B1
// 0.451795
0x39D4
// 0.090798
0x0B9F
// 0.378894
0x3080
// 0.029821
0x03D1
// 0.242290
0x1F03
// 0.162618
0x14D1
// 0.250998
0x2021
// 0.071852
0x0932
// 0.112652
0x0E6B
// 0.097851
0x0C86
// 0.263820
0x21C5
// 0.027472
0x0384
// 0.217912
0x1BE5
// 0.016859
0x0228
// 0.171079
0x15E6
// 0.020164
0x0295
// 0.231661
0x1DA7
// 0.081522
0x0A6F
// 0.230455
0x1D80
// 0.012309
0x0193
// 0.204439
0x1A2B
// 0.087960
0x0B42
// 0.702082
0x59DE
// 0.331918
0x2A7C
// 0.142557
0x123F
// 0.364452
0x2EA6
// 0.311095
0x27D2
// 0.379811
0x309E
// 0.097802
0x0C85
// 0.254235
0x208B
// 0.533323
0x4444
// 0.179138
0x16EE
// 0.274026
0x2313
// 0.408047
0x343B
// 0.037919
0x04DB
// 0.289733
0x2516