You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ15/Reference5_q15.txt

515 lines
4.8 KiB
Plaintext

H
256
// 0.208628
0x1AB4
// 0.612738
0x4E6E
// 0.738117
0x5E7B
// 0.538878
0x44FA
// 0.794852
0x65BE
// 0.392353
0x3239
// 1.269109
0x7FFF
// 0.584075
0x4AC3
// 0.829781
0x6A36
// 0.820584
0x6909
// 0.719050
0x5C0A
// 0.690578
0x5865
// 0.665900
0x553C
// 0.781091
0x63FB
// -0.520124
0xBD6D
// 1.175056
0x7FFF
// 0.216870
0x1BC2
// 1.273159
0x7FFF
// -0.222326
0xE38B
// 0.177780
0x16C1
// 0.151026
0x1355
// 1.095221
0x7FFF
// 0.430346
0x3716
// 0.636401
0x5176
// 0.867788
0x6F14
// 0.224899
0x1CC9
// 1.152923
0x7FFF
// 0.327564
0x29EE
// 0.614230
0x4E9F
// 0.703455
0x5A0B
// 0.618325
0x4F25
// 0.799473
0x6655
// 0.403719
0x33AD
// 1.353706
0x7FFF
// -0.517484
0xBDC3
// 0.630138
0x50A8
// 0.745529
0x5F6D
// 0.648787
0x530B
// 1.044863
0x7FFF
// 0.612934
0x4E75
// 1.446172
0x7FFF
// 0.367007
0x2EFA
// 0.565405
0x485F
// 0.313358
0x281C
// -0.256814
0xDF21
// 0.605861
0x4D8D
// 0.062597
0x0803
// 0.418373
0x358D
// 0.493662
0x3F30
// 0.768326
0x6259
// 0.407779
0x3432
// 0.606395
0x4D9E
// 0.581742
0x4A77
// 0.465106
0x3B89
// -0.272030
0xDD2E
// 0.695714
0x590D
// 0.613011
0x4E77
// 0.820860
0x6912
// 0.459138
0x3AC5
// 0.727119
0x5D12
// 0.816674
0x6889
// 0.597933
0x4C89
// 0.699199
0x597F
// 0.420742
0x35DB
// -0.126025
0xEFDE
// -0.255253
0xDF54
// 0.139923
0x11E9
// -0.034840
0xFB8A
// 0.373912
0x2FDC
// 0.665333
0x552A
// 0.342178
0x2BCC
// 0.926616
0x769B
// 0.442156
0x3899
// 0.740266
0x5EC1
// 0.061841
0x07EA
// 0.126416
0x102E
// 0.097877
0x0C87
// 0.860179
0x6E1A
// 1.005158
0x7FFF
// 0.404169
0x33BC
// 0.453061
0x39FE
// -0.246193
0xE07D
// 0.542432
0x456E
// -0.268082
0xDDAF
// 0.281649
0x240D
// 0.228051
0x1D31
// 1.189579
0x7FFF
// 0.175790
0x1680
// -0.438547
0xC7DE
// 0.917882
0x757D
// 0.320318
0x2900
// 0.424604
0x3659
// 0.911513
0x74AC
// 0.579135
0x4A21
// 0.350757
0x2CE6
// 0.911160
0x74A1
// 0.631389
0x50D1
// 0.462540
0x3B35
// 0.431020
0x372C
// 0.282118
0x241C
// 0.861686
0x6E4C
// 0.103196
0x0D36
// 1.500000
0x7FFF
// 1.361870
0x7FFF
// 0.007629
0x00FA
// 0.975058
0x7CCF
// 0.826745
0x69D3
// 0.477578
0x3D21
// -0.223679
0xE35E
// 0.698195
0x595E
// 0.284639
0x246F
// 0.120882
0x0F79
// 0.618425
0x4F29
// 0.716039
0x5BA7
// 0.283216
0x2440
// -0.158123
0xEBC3
// -0.422551
0xC9EA
// 0.328921
0x2A1A
// 1.471339
0x7FFF
// 0.495410
0x3F6A
// 0.375604
0x3014
// 0.456737
0x3A76
// 0.356529
0x2DA3
// 0.170750
0x15DB
// -0.186717
0xE81A
// 0.471572
0x3C5C
// -0.181094
0xE8D2
// 0.989830
0x7EB3
// 0.759075
0x6129
// 0.147706
0x12E8
// 0.629524
0x5094
// 0.302873
0x26C5
// 0.769581
0x6282
// -0.043085
0xFA7C
// 0.296484
0x25F3
// 0.792197
0x6567
// 0.136777
0x1182
// 0.252518
0x2052
// 0.162196
0x14C3
// 1.153685
0x7FFF
// 0.813478
0x6820
// 0.274767
0x232C
// 0.444080
0x38D8
// 0.215001
0x1B85
// 0.483449
0x3DE2
// 0.851903
0x6D0B
// 0.010420
0x0155
// 0.425161
0x366C
// 0.052731
0x06C0
// 0.474728
0x3CC4
// 0.082352
0x0A8B
// 0.755674
0x60BA
// 0.243754
0x1F33
// 0.109800
0x0E0E
// 0.180169
0x1710
// 0.527698
0x438C
// 0.733688
0x5DEA
// 1.393321
0x7FFF
// 0.203970
0x1A1C
// 0.686033
0x57D0
// 0.208377
0x1AAC
// 0.027472
0x0384
// 0.119609
0x0F4F
// 0.799344
0x6651
// 0.456935
0x3A7D
// 0.285347
0x2486
// 0.984534
0x7E05
// -0.218725
0xE401
// 0.571545
0x4928
// 0.432091
0x374F
// 0.903341
0x73A1
// 0.071463
0x0926
// 0.807753
0x6764
// 0.212718
0x1B3A
// 0.317953
0x28B3
// -0.060512
0xF841
// 0.647036
0x52D2
// 1.043678
0x7FFF
// 1.226262
0x7FFF
// 0.376245
0x3029
// 0.263436
0x21B8
// 1.211449
0x7FFF
// 0.586785
0x4B1C
// 0.055029
0x070B
// 0.275867
0x2350
// 0.478284
0x3D38
// 0.943658
0x78CA
// 0.249916
0x1FFD
// 0.135578
0x115B
// 0.704438
0x5A2B
// 0.988969
0x7E97
// -0.122727
0xF04A
// -0.096908
0xF399
// -0.329206
0xD5DD
// 0.784500
0x646A
// 0.448481
0x3968
// 0.203971
0x1A1C
// 0.223018
0x1C8C
// -0.035533
0xFB74
// 0.101507
0x0CFE
// 0.546804
0x45FE
// 0.416670
0x3555
// 0.458099
0x3AA3
// 0.571995
0x4937
// 0.378925
0x3081
// 1.199388
0x7FFF
// 0.015652
0x0201
// 0.527504
0x4385
// 0.011116
0x016C
// 0.838561
0x6B56
// 0.817218
0x689B
// 1.033173
0x7FFF
// 0.338821
0x2B5E
// 0.610650
0x4E2A
// -0.076178
0xF640
// 0.073349
0x0964
// 0.349545
0x2CBE
// 0.166234
0x1547
// 0.862308
0x6E60
// 1.090622
0x7FFF
// -0.194183
0xE725
// 0.745185
0x5F62
// 0.514160
0x41D0
// 0.659924
0x5478
// 0.807676
0x6762
// 0.138705
0x11C1
// 0.072249
0x093F
// 0.799083
0x6648
// 0.819458
0x68E4
// 0.450515
0x39AA
// 1.098299
0x7FFF
// 0.035554
0x048D
// 0.320372
0x2902
// 0.704011
0x5A1D
// 1.015296
0x7FFF
// 0.429032
0x36EB
// 0.663492
0x54ED
// 0.641388
0x5219
// 0.542870
0x457D
// -0.001338
0xFFD4
// 0.997520
0x7FAF
// 0.903774
0x73AF
// -0.020140
0xFD6C
// 0.429534
0x36FB
// 0.141866
0x1229
// 0.784262
0x6463
// -0.497219
0xC05B
// -0.336779
0xD4E4
// 0.508837
0x4122
// 0.288138
0x24E2
// 0.590126
0x4B89
// 0.552889
0x46C5
// 0.657819
0x5433
// 0.573654
0x496E
// 0.516595
0x4220
// 0.740174
0x5EBE