You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ15/Reference10_q15.txt

515 lines
4.8 KiB
Plaintext

H
256
// 0.391039
0x320E
// 0.132494
0x10F6
// 0.324339
0x2984
// 0.239965
0x1EB7
// 0.287413
0x24CA
// 0.307525
0x275D
// 0.082443
0x0A8D
// 0.235917
0x1E33
// 0.449457
0x3988
// 0.413851
0x34F9
// 0.281545
0x240A
// 0.393602
0x3262
// 0.635543
0x5159
// 0.028199
0x039C
// 0.247774
0x1FB7
// 0.426651
0x369D
// 0.094929
0x0C27
// 0.147548
0x12E3
// 0.151437
0x1362
// 0.103162
0x0D34
// 1.000000
0x7FFF
// 0.127316
0x104C
// 0.223084
0x1C8E
// 0.197370
0x1943
// 0.023579
0x0305
// 0.164779
0x1517
// 0.054862
0x0706
// 0.116807
0x0EF4
// 0.724476
0x5CBC
// 0.324554
0x298B
// 0.637242
0x5191
// 0.994701
0x7F52
// 0.153605
0x13A9
// 0.275814
0x234E
// 0.084495
0x0AD1
// 0.652355
0x5380
// 0.365086
0x2EBB
// 0.341305
0x2BB0
// 0.609822
0x4E0F
// 0.261556
0x217B
// 0.040176
0x0524
// 0.013211
0x01B1
// 0.630985
0x50C4
// 0.257101
0x20E9
// 0.263646
0x21BF
// 0.707048
0x5A81
// 0.007630
0x00FA
// 0.372092
0x2FA1
// 0.200446
0x19A8
// 0.691038
0x5874
// 0.020442
0x029E
// 0.741753
0x5EF2
// 0.270967
0x22AF
// 0.149906
0x1330
// 0.155500
0x13E7
// 0.069104
0x08D8
// 0.046970
0x0603
// 0.050831
0x0682
// 0.523837
0x430D
// 0.453239
0x3A04
// 0.108311
0x0DDD
// 0.271445
0x22BF
// 0.196582
0x192A
// 0.317899
0x28B1
// 0.296574
0x25F6
// 0.773282
0x62FB
// 0.098481
0x0C9B
// 0.577823
0x49F6
// 0.239237
0x1E9F
// 0.111604
0x0E49
// 0.350488
0x2CDD
// 0.974917
0x7CCA
// 0.474137
0x3CB1
// 0.233892
0x1DF0
// 0.660819
0x5496
// 0.336884
0x2B1F
// 0.328735
0x2A14
// 0.602986
0x4D2F
// 0.076045
0x09BC
// 0.299000
0x2646
// 0.020428
0x029D
// 0.179805
0x1704
// 0.386969
0x3188
// 0.113119
0x0E7B
// 0.009004
0x0127
// 0.839391
0x6B71
// 0.136101
0x116C
// 0.379279
0x308C
// 0.578833
0x4A17
// 0.264163
0x21D0
// 0.533847
0x4455
// 0.409433
0x3468
// 0.334975
0x2AE0
// 0.151882
0x1371
// 0.132220
0x10ED
// 0.179417
0x16F7
// 0.188481
0x1820
// 0.506994
0x40E5
// 0.471158
0x3C4F
// 0.150447
0x1342
// 0.568105
0x48B8
// 0.206037
0x1A5F
// 0.336932
0x2B21
// 0.128105
0x1066
// 0.608755
0x4DEC
// 0.216292
0x1BAF
// 0.327339
0x29E6
// 0.074259
0x0981
// 0.192190
0x189A
// 0.550959
0x4686
// 0.034023
0x045B
// 0.384915
0x3145
// 0.415263
0x3527
// 0.513936
0x41C9
// 0.409222
0x3461
// 0.235739
0x1E2D
// 0.513779
0x41C4
// 0.080366
0x0A49
// 0.008089
0x0109
// 0.665939
0x553E
// 0.553521
0x46DA
// 0.118488
0x0F2B
// 0.452754
0x39F4
// 0.189352
0x183D
// 0.236447
0x1E44
// 0.029425
0x03C4
// 0.532288
0x4422
// 0.158685
0x1450
// 0.207125
0x1A83
// 0.256558
0x20D7
// 0.279340
0x23C1
// 0.175831
0x1682
// 0.342134
0x2BCB
// 0.333585
0x2AB3
// 0.790520
0x6530
// 0.604685
0x4D66
// 0.433929
0x378B
// 0.211268
0x1B0B
// 0.536812
0x44B6
// 0.248849
0x1FDA
// 0.525246
0x433B
// 0.362304
0x2E60
// 0.472568
0x3C7D
// 0.393772
0x3267
// 0.023451
0x0300
// 0.706359
0x5A6A
// 0.369775
0x2F55
// 0.527837
0x4390
// 0.187832
0x180B
// 0.163702
0x14F4
// 0.743740
0x5F33
// 0.268361
0x225A
// 0.107554
0x0DC4
// 0.407995
0x3439
// 0.391583
0x321F
// 0.218611
0x1BFB
// 0.493020
0x3F1B
// 0.372303
0x2FA8
// 0.001229
0x0028
// 0.416385
0x354C
// 0.104454
0x0D5F
// 0.294703
0x25B9
// 0.000552
0x0012
// 0.163755
0x14F6
// 0.036916
0x04BA
// 0.272303
0x22DB
// 0.185096
0x17B1
// 0.184122
0x1791
// 0.556027
0x472C
// 0.713326
0x5B4E
// 0.076186
0x09C0
// 0.159486
0x146A
// 0.006846
0x00E0
// 0.048756
0x063E
// 0.445768
0x390F
// 0.025109
0x0337
// 0.557602
0x4760
// 0.089997
0x0B85
// 0.287693
0x24D3
// 0.156651
0x140D
// 0.229572
0x1D63
// 0.409576
0x346D
// 0.232089
0x1DB5
// 0.857708
0x6DC9
// 0.508076
0x4109
// 0.457783
0x3A99
// 0.537929
0x44DB
// 0.078232
0x0A04
// 0.102995
0x0D2F
// 0.363774
0x2E90
// 0.340417
0x2B93
// 0.988812
0x7E91
// 0.727331
0x5D19
// 0.042403
0x056D
// 1.248493
0x7FFF
// 0.018439
0x025C
// 0.080956
0x0A5D
// 0.498395
0x3FCB
// 0.242706
0x1F11
// 0.448147
0x395D
// 0.558205
0x4773
// 0.168927
0x159F
// 0.365310
0x2EC2
// 0.399500
0x3323
// 0.567251
0x489C
// 0.113547
0x0E89
// 0.566178
0x4879
// 0.675753
0x567F
// 0.082284
0x0A88
// 0.263793
0x21C4
// 0.139256
0x11D3
// 0.563582
0x4823
// 0.170762
0x15DC
// 0.145771
0x12A9
// 0.224769
0x1CC5
// 0.822337
0x6942
// 0.505253
0x40AC
// 0.150475
0x1343
// 0.852788
0x6D28
// 0.229226
0x1D57
// 0.020920
0x02AE
// 0.717030
0x5BC8
// 0.420662
0x35D8
// 0.181715
0x1742
// 0.136679
0x117F
// 0.198719
0x1970
// 0.780927
0x63F5
// 0.316314
0x287D
// 0.337074
0x2B25
// 0.449962
0x3998
// 0.365087
0x2EBB
// 0.515723
0x4203
// 0.255542
0x20B6
// 0.464113
0x3B68
// 0.136815
0x1183
// 0.483973
0x3DF3
// 0.303115
0x26CC
// 0.516164
0x4212
// 0.063928
0x082F
// 0.477272
0x3D17
// 0.298325
0x2630
// 0.461789
0x3B1C
// 0.473654
0x3CA1
// 0.434329
0x3798
// 0.181605
0x173F
// 0.032139
0x041D
// 0.140397
0x11F9
// 0.286762
0x24B5
// 0.135101
0x114B
// 0.156372
0x1404
// 0.417922
0x357E
// 0.128029
0x1063
// 0.290168
0x2524
// 0.230520
0x1D82
// 0.015709
0x0203
// 0.495071
0x3F5E