You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ15/Reference10_q15.txt

515 lines
4.8 KiB
Plaintext

H
256
// 0.291372
0x254C
// 0.112738
0x0E6E
// 0.238117
0x1E7B
// 0.038878
0x04FA
// 0.294852
0x25BE
// 0.107647
0x0DC7
// 0.769109
0x6272
// 0.084075
0x0AC3
// 0.329781
0x2A36
// 0.320584
0x2909
// 0.219050
0x1C0A
// 0.190578
0x1865
// 0.165900
0x153C
// 0.281091
0x23FB
// 1.020124
0x7FFF
// 0.675056
0x5668
// 0.283130
0x243E
// 0.773159
0x62F7
// 0.722326
0x5C75
// 0.322220
0x293F
// 0.348974
0x2CAB
// 0.595221
0x4C30
// 0.069654
0x08EA
// 0.136401
0x1176
// 0.367788
0x2F14
// 0.275101
0x2337
// 0.652923
0x5393
// 0.172436
0x1612
// 0.114230
0x0E9F
// 0.203455
0x1A0B
// 0.118325
0x0F25
// 0.299473
0x2655
// 0.096281
0x0C53
// 0.853706
0x6D46
// 1.017484
0x7FFF
// 0.130138
0x10A8
// 0.245529
0x1F6D
// 0.148787
0x130B
// 0.544863
0x45BE
// 0.112934
0x0E75
// 0.946172
0x791C
// 0.132993
0x1106
// 0.065405
0x085F
// 0.186642
0x17E4
// 0.756814
0x60DF
// 0.105861
0x0D8D
// 0.437403
0x37FD
// 0.081627
0x0A73
// 0.006338
0x00D0
// 0.268326
0x2259
// 0.092221
0x0BCE
// 0.106395
0x0D9E
// 0.081742
0x0A77
// 0.034894
0x0477
// 0.772030
0x62D2
// 0.195714
0x190D
// 0.113011
0x0E77
// 0.320860
0x2912
// 0.040862
0x053B
// 0.227119
0x1D12
// 0.316674
0x2889
// 0.097933
0x0C89
// 0.199199
0x197F
// 0.079258
0x0A25
// 0.626025
0x5022
// 0.755253
0x60AC
// 0.360077
0x2E17
// 0.534840
0x4476
// 0.126088
0x1024
// 0.165333
0x152A
// 0.157822
0x1434
// 0.426616
0x369B
// 0.057844
0x0767
// 0.240266
0x1EC1
// 0.438159
0x3816
// 0.373584
0x2FD2
// 0.402123
0x3379
// 0.360179
0x2E1A
// 0.505158
0x40A9
// 0.095831
0x0C44
// 0.046939
0x0602
// 0.746193
0x5F83
// 0.042432
0x056E
// 0.768082
0x6251
// 0.218351
0x1BF3
// 0.271949
0x22CF
// 0.689579
0x5844
// 0.324210
0x2980
// 0.938547
0x7822
// 0.417882
0x357D
// 0.179682
0x1700
// 0.075396
0x09A7
// 0.411513
0x34AC
// 0.079135
0x0A21
// 0.149243
0x131A
// 0.411160
0x34A1
// 0.131389
0x10D1
// 0.037460
0x04CB
// 0.068980
0x08D4
// 0.217882
0x1BE4
// 0.361686
0x2E4C
// 0.396804
0x32CA
// 1.000000
0x7FFF
// 0.861870
0x6E52
// 0.492371
0x3F06
// 0.475058
0x3CCF
// 0.326745
0x29D3
// 0.022422
0x02DF
// 0.723679
0x5CA2
// 0.198195
0x195E
// 0.215361
0x1B91
// 0.379118
0x3087
// 0.118425
0x0F29
// 0.216039
0x1BA7
// 0.216784
0x1BC0
// 0.658123
0x543D
// 0.922551
0x7616
// 0.171079
0x15E6
// 0.971339
0x7C55
// 0.004590
0x0096
// 0.124396
0x0FEC
// 0.043263
0x058A
// 0.143471
0x125D
// 0.329250
0x2A25
// 0.686717
0x57E6
// 0.028428
0x03A4
// 0.681094
0x572E
// 0.489830
0x3EB3
// 0.259075
0x2129
// 0.352294
0x2D18
// 0.129524
0x1094
// 0.197127
0x193B
// 0.269581
0x2282
// 0.543085
0x4584
// 0.203516
0x1A0D
// 0.292197
0x2567
// 0.363223
0x2E7E
// 0.247482
0x1FAE
// 0.337804
0x2B3D
// 0.653685
0x53AC
// 0.313478
0x2820
// 0.225233
0x1CD4
// 0.055920
0x0728
// 0.284999
0x247B
// 0.016551
0x021E
// 0.351903
0x2D0B
// 0.489580
0x3EAB
// 0.074839
0x0994
// 0.447269
0x3940
// 0.025272
0x033C
// 0.417648
0x3575
// 0.255674
0x20BA
// 0.256246
0x20CD
// 0.390200
0x31F2
// 0.319831
0x28F0
// 0.027698
0x038C
// 0.233688
0x1DEA
// 0.893321
0x7258
// 0.296030
0x25E4
// 0.186033
0x17D0
// 0.291623
0x2554
// 0.472528
0x3C7C
// 0.380391
0x30B1
// 0.299344
0x2651
// 0.043065
0x0583
// 0.214653
0x1B7A
// 0.484534
0x3E05
// 0.718725
0x5BFF
// 0.071545
0x0928
// 0.067909
0x08B1
// 0.403341
0x33A1
// 0.428537
0x36DA
// 0.307753
0x2764
// 0.287282
0x24C6
// 0.182047
0x174D
// 0.560512
0x47BF
// 0.147036
0x12D2
// 0.543678
0x4597
// 0.726262
0x5CF6
// 0.123755
0x0FD7
// 0.236564
0x1E48
// 0.711449
0x5B11
// 0.086785
0x0B1C
// 0.444971
0x38F5
// 0.224133
0x1CB0
// 0.021716
0x02C8
// 0.443658
0x38CA
// 0.250084
0x2003
// 0.364422
0x2EA5
// 0.204438
0x1A2B
// 0.488969
0x3E97
// 0.622727
0x4FB6
// 0.596908
0x4C67
// 0.829206
0x6A23
// 0.284500
0x246A
// 0.051519
0x0698
// 0.296029
0x25E4
// 0.276982
0x2374
// 0.535533
0x448C
// 0.398493
0x3302
// 0.046804
0x05FE
// 0.083330
0x0AAB
// 0.041901
0x055D
// 0.071995
0x0937
// 0.121075
0x0F7F
// 0.699388
0x5986
// 0.484348
0x3DFF
// 0.027504
0x0385
// 0.488884
0x3E94
// 0.338561
0x2B56
// 0.317218
0x289B
// 0.533173
0x443F
// 0.161179
0x14A2
// 0.110650
0x0E2A
// 0.576178
0x49C0
// 0.426651
0x369C
// 0.150455
0x1342
// 0.333766
0x2AB9
// 0.362308
0x2E60
// 0.590622
0x4B99
// 0.694183
0x58DB
// 0.245185
0x1F62
// 0.014160
0x01D0
// 0.159924
0x1478
// 0.307676
0x2762
// 0.361295
0x2E3F
// 0.427751
0x36C1
// 0.299083
0x2648
// 0.319458
0x28E4
// 0.049485
0x0656
// 0.598299
0x4C95
// 0.464446
0x3B73
// 0.179628
0x16FE
// 0.204011
0x1A1D
// 0.515296
0x41F5
// 0.070968
0x0915
// 0.163492
0x14ED
// 0.141388
0x1219
// 0.042870
0x057D
// 0.501338
0x402C
// 0.497520
0x3FAF
// 0.403774
0x33AF
// 0.520140
0x4294
// 0.070466
0x0905
// 0.358134
0x2DD7
// 0.284262
0x2463
// 0.997219
0x7FA5
// 0.836779
0x6B1C
// 0.008837
0x0122
// 0.211862
0x1B1E
// 0.090126
0x0B89
// 0.052889
0x06C5
// 0.157819
0x1433
// 0.073654
0x096E
// 0.016595
0x0220
// 0.240174
0x1EBE