You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ15/Reference10_q15.txt

515 lines
4.8 KiB
Plaintext

H
256
// 0.546866
0x4600
// 0.443453
0x38C3
// 0.221804
0x1C64
// 0.198164
0x195D
// 0.300204
0x266D
// 0.538974
0x44FD
// 0.055571
0x071D
// 0.155062
0x13D9
// 0.152244
0x137D
// 0.412526
0x34CE
// 0.127306
0x104C
// 0.129060
0x1085
// 0.315419
0x2860
// 0.625770
0x5019
// 0.114089
0x0E9A
// 0.245284
0x1F65
// 0.407679
0x342F
// 0.641903
0x522A
// 0.211078
0x1B05
// 0.057388
0x0758
// 0.186438
0x17DD
// 0.369618
0x2F50
// 0.050712
0x067E
// 0.096864
0x0C66
// 0.117015
0x0EFA
// 0.500093
0x4003
// 0.145662
0x12A5
// 0.605117
0x4D74
// 0.227249
0x1D17
// 0.453235
0x3A04
// 0.336781
0x2B1C
// 0.228145
0x1D34
// 0.563396
0x481D
// 0.262478
0x2199
// 0.369860
0x2F58
// 0.111761
0x0E4E
// 0.177764
0x16C1
// 0.404558
0x33C9
// 0.358955
0x2DF2
// 0.081665
0x0A74
// 0.444104
0x38D8
// 0.727062
0x5D10
// 0.041726
0x0557
// 0.583210
0x4AA7
// 0.416295
0x3549
// 0.041032
0x0541
// 0.363384
0x2E83
// 0.338083
0x2B46
// 0.136072
0x116B
// 0.521101
0x42B3
// 0.209601
0x1AD4
// 0.308822
0x2787
// 0.308562
0x277F
// 0.312801
0x280A
// 0.372826
0x2FB9
// 0.263405
0x21B7
// 0.382090
0x30E8
// 0.216965
0x1BC6
// 0.143359
0x125A
// 0.103433
0x0D3D
// 0.339459
0x2B73
// 0.396407
0x32BD
// 0.241575
0x1EEC
// 0.107420
0x0DC0
// 0.252628
0x2056
// 0.366100
0x2EDC
// 0.010757
0x0160
// 0.404784
0x33D0
// 0.512272
0x4192
// 0.033341
0x0445
// 0.500546
0x4012
// 0.082519
0x0A90
// 0.202308
0x19E5
// 0.400729
0x334B
// 0.196058
0x1918
// 0.098951
0x0CAA
// 0.177540
0x16BA
// 0.173993
0x1645
// 0.378628
0x3077
// 0.068563
0x08C7
// 0.295027
0x25C3
// 0.480881
0x3D8D
// 0.335554
0x2AF3
// 0.312849
0x280B
// 0.054477
0x06F9
// 0.588330
0x4B4E
// 0.099212
0x0CB3
// 0.096455
0x0C59
// 0.092897
0x0BE4
// 0.462904
0x3B40
// 0.157416
0x1426
// 0.222383
0x1C77
// 0.144902
0x128C
// 0.008098
0x0109
// 0.059179
0x0793
// 0.081957
0x0A7E
// 0.308741
0x2785
// 0.507227
0x40ED
// 0.051098
0x068A
// 0.411228
0x34A3
// 0.418088
0x3584
// 0.360994
0x2E35
// 0.338464
0x2B53
// 0.458108
0x3AA3
// 0.427897
0x36C5
// 0.391981
0x322C
// 0.457637
0x3A94
// 0.430437
0x3719
// 0.166151
0x1544
// 0.101827
0x0D09
// 0.431721
0x3743
// 0.330364
0x2A49
// 0.137739
0x11A1
// 0.072774
0x0951
// 0.392809
0x3248
// 0.108188
0x0DD9
// 0.369774
0x2F55
// 0.052514
0x06B9
// 0.094186
0x0C0E
// 0.230398
0x1D7E
// 0.230443
0x1D7F
// 0.235512
0x1E25
// 0.147509
0x12E2
// 0.137516
0x119A
// 0.356913
0x2DAF
// 0.210395
0x1AEE
// 0.084398
0x0ACE
// 0.088971
0x0B63
// 0.045835
0x05DE
// 0.241937
0x1EF8
// 0.377815
0x305C
// 0.247238
0x1FA5
// 0.319215
0x28DC
// 0.267559
0x223F
// 0.591715
0x4BBD
// 0.039573
0x0511
// 0.891872
0x7229
// 0.041431
0x054E
// 0.158548
0x144B
// 0.145248
0x1297
// 0.211683
0x1B18
// 0.393029
0x324F
// 0.109999
0x0E14
// 0.340071
0x2B87
// 0.211160
0x1B07
// 0.215865
0x1BA1
// 1.000000
0x7FFF
// 0.148993
0x1312
// 0.136973
0x1188
// 0.233144
0x1DD8
// 0.435647
0x37C3
// 0.255031
0x20A5
// 0.211155
0x1B07
// 0.511728
0x4180
// 0.327900
0x29F9
// 0.046716
0x05FB
// 0.055972
0x072A
// 0.025485
0x0343
// 0.356589
0x2DA5
// 0.199427
0x1987
// 0.745529
0x5F6D
// 0.280353
0x23E3
// 0.248298
0x1FC8
// 0.093830
0x0C03
// 0.074282
0x0982
// 0.131022
0x10C5
// 0.004065
0x0085
// 0.445896
0x3913
// 0.197786
0x1951
// 0.014617
0x01DF
// 0.090630
0x0B9A
// 0.392684
0x3243
// 0.157432
0x1427
// 0.174263
0x164E
// 0.306317
0x2735
// 0.409623
0x346F
// 0.035611
0x048F
// 0.512288
0x4193
// 0.020097
0x0293
// 0.031161
0x03FD
// 0.141292
0x1216
// 0.061148
0x07D4
// 0.049968
0x0665
// 0.171556
0x15F6
// 0.410872
0x3497
// 0.145607
0x12A3
// 0.292643
0x2575
// 0.256092
0x20C8
// 0.219227
0x1C10
// 0.345780
0x2C43
// 0.450529
0x39AB
// 0.025111
0x0337
// 0.230837
0x1D8C
// 0.082604
0x0A93
// 0.178979
0x16E9
// 0.018402
0x025B
// 0.322582
0x294A
// 0.409440
0x3469
// 0.005349
0x00AF
// 0.302134
0x26AC
// 0.071314
0x0921
// 0.014573
0x01DE
// 0.101998
0x0D0E
// 0.053686
0x06DF
// 0.549937
0x4664
// 0.134964
0x1147
// 0.062648
0x0805
// 0.293864
0x259D
// 0.077820
0x09F6
// 0.167922
0x157E
// 0.066774
0x088C
// 0.391710
0x3224
// 0.555403
0x4717
// 0.059744
0x07A6
// 0.248988
0x1FDF
// 0.251275
0x202A
// 0.056588
0x073E
// 0.197631
0x194C
// 0.331378
0x2A6B
// 0.243164
0x1F20
// 0.126731
0x1039
// 0.065647
0x0867
// 0.523790
0x430C
// 0.259105
0x212A
// 0.157265
0x1421
// 0.018381
0x025A
// 0.541672
0x4556
// 0.532482
0x4428
// 0.246183
0x1F83
// 0.051695
0x069E
// 0.011050
0x016A
// 0.688852
0x582C
// 0.069324
0x08E0
// 0.235501
0x1E25
// 0.721602
0x5C5D
// 0.511626
0x417D
// 0.087013
0x0B23
// 0.167610
0x1574
// 0.219248
0x1C10
// 0.115866
0x0ED5
// 0.434348
0x3799
// 0.201262
0x19C3
// 0.363747
0x2E8F
// 0.343432
0x2BF6
// 0.081949
0x0A7D
// 0.374720
0x2FF7
// 0.201992
0x19DB
// 0.022288
0x02DA
// 0.361553
0x2E47
// 0.554800
0x4704
// 0.056507
0x073C
// 0.009801
0x0141
// 0.242913
0x1F18
// 0.110993
0x0E35
// 0.070830
0x0911
// 0.106057
0x0D93