You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ15/Reference6_q15.txt

515 lines
4.9 KiB
Plaintext

H
256
// 0.063371
0x081D
// -0.029433
0xFC3C
// 0.065446
0x0861
// 0.020292
0x0299
// 0.022667
0x02E7
// -0.304553
0xD904
// -0.178643
0xE922
// 0.132543
0x10F7
// 0.051560
0x069A
// 0.455724
0x3A55
// -0.106499
0xF25E
// 0.072319
0x0942
// -0.131962
0xEF1C
// 0.061174
0x07D5
// -0.011878
0xFE7B
// -0.049030
0xF9B9
// 0.297759
0x261D
// 0.115481
0x0EC8
// -0.092099
0xF436
// -0.167552
0xEA8E
// -0.096575
0xF3A3
// 0.116594
0x0EED
// 0.195616
0x190A
// -0.130784
0xEF42
// 0.291444
0x254E
// 0.215325
0x1B90
// 0.075435
0x09A8
// 0.128317
0x106D
// -0.102123
0xF2EE
// -0.191084
0xE78B
// -0.093946
0xF3FA
// 0.358953
0x2DF2
// -0.474706
0xC33D
// -0.012625
0xFE62
// 0.122792
0x0FB8
// 0.331103
0x2A62
// 0.248374
0x1FCB
// -0.362326
0xD19F
// -0.147436
0xED21
// 0.272897
0x22EE
// 0.500000
0x4000
// 0.102148
0x0D13
// -0.241366
0xE11B
// -0.089100
0xF498
// 0.202078
0x19DE
// -0.242831
0xE0EB
// 0.036424
0x04AA
// -0.001708
0xFFC8
// 0.019819
0x0289
// -0.235763
0xE1D3
// -0.140129
0xEE10
// -0.003118
0xFF9A
// 0.170635
0x15D7
// -0.079399
0xF5D6
// 0.167087
0x1563
// -0.271642
0xDD3B
// -0.050254
0xF991
// -0.011356
0xFE8C
// -0.163045
0xEB21
// 0.130274
0x10AD
// -0.163855
0xEB07
// 0.070884
0x0913
// -0.063383
0xF7E3
// 0.036651
0x04B1
// 0.002166
0x0047
// 0.099355
0x0CB8
// 0.090325
0x0B90
// 0.083775
0x0AB9
// -0.210383
0xE512
// -0.188931
0xE7D1
// 0.323820
0x2973
// 0.433216
0x3774
// -0.414662
0xCAEC
// 0.057071
0x074E
// 0.205788
0x1A57
// -0.011620
0xFE83
// -0.218169
0xE413
// 0.047458
0x0613
// -0.164832
0xEAE7
// -0.220270
0xE3CE
// -0.392082
0xCDD0
// -0.129953
0xEF5E
// -0.104001
0xF2B0
// -0.174137
0xE9B6
// 0.078703
0x0A13
// -0.074244
0xF67F
// -0.160698
0xEB6E
// -0.150797
0xECB3
// 0.071280
0x0920
// -0.132863
0xEEFE
// 0.197413
0x1945
// -0.222939
0xE377
// -0.330814
0xD5A8
// 0.143519
0x125F
// -0.213802
0xE4A2
// 0.079800
0x0A37
// 0.035175
0x0481
// -0.128412
0xEF90
// -0.007729
0xFF03
// 0.262300
0x2193
// -0.323322
0xD69D
// 0.158287
0x1443
// -0.025183
0xFCC7
// -0.108893
0xF210
// -0.070840
0xF6EF
// -0.214109
0xE498
// -0.516087
0xBDF1
// 0.081481
0x0A6E
// 0.040960
0x053E
// -0.017173
0xFDCD
// 0.102391
0x0D1B
// 0.056350
0x0736
// 0.421724
0x35FB
// 0.192629
0x18A8
// 0.158980
0x1459
// 0.064960
0x0851
// -0.317138
0xD768
// -0.189223
0xE7C8
// -0.347815
0xD37B
// 0.312561
0x2802
// 0.058566
0x077F
// -0.255121
0xDF58
// -0.176451
0xE96A
// 0.224568
0x1CBF
// 0.068159
0x08B9
// -0.055897
0xF8D8
// 0.153474
0x13A5
// -0.302059
0xD956
// 0.158154
0x143E
// -0.021017
0xFD4F
// -0.393454
0xCDA3
// -0.226168
0xE30D
// 0.094226
0x0C10
// 0.039488
0x050E
// 0.105074
0x0D73
// -0.061460
0xF822
// -0.081049
0xF5A0
// 0.204169
0x1A22
// 0.022788
0x02EB
// 0.308279
0x2776
// -0.038492
0xFB13
// 0.155727
0x13EF
// 0.032341
0x0424
// 0.078864
0x0A18
// -0.179968
0xE8F7
// 0.036808
0x04B6
// 0.009907
0x0145
// 0.059487
0x079D
// 0.022088
0x02D4
// 0.231428
0x1D9F
// -0.155423
0xEC1B
// -0.192938
0xE74E
// -0.349207
0xD34D
// 0.121306
0x0F87
// 0.124081
0x0FE2
// 0.203700
0x1A13
// 0.130235
0x10AC
// -0.105784
0xF276
// -0.025494
0xFCBD
// 0.200185
0x19A0
// 0.368032
0x2F1C
// 0.014500
0x01DB
// -0.128649
0xEF88
// -0.050049
0xF998
// -0.169689
0xEA48
// -0.262672
0xDE61
// 0.396781
0x32CA
// -0.006692
0xFF25
// 0.009444
0x0135
// -0.046688
0xFA06
// 0.127442
0x1050
// -0.139157
0xEE30
// 0.156661
0x140D
// -0.093652
0xF403
// -0.161747
0xEB4C
// -0.458697
0xC549
// -0.505850
0xBF40
// -0.245336
0xE099
// -0.095597
0xF3C3
// 0.127041
0x1043
// 0.088580
0x0B57
// 0.246977
0x1F9D
// -0.180618
0xE8E2
// -0.084156
0xF53A
// -0.256149
0xDF36
// -0.335312
0xD514
// -0.108901
0xF210
// -0.083464
0xF551
// 0.289325
0x2509
// 0.133252
0x110E
// 0.164140
0x1503
// 0.243530
0x1F2C
// 0.019200
0x0275
// 0.043505
0x0592
// -0.183779
0xE87A
// 0.203312
0x1A06
// 0.334054
0x2AC2
// -0.060896
0xF835
// 0.049590
0x0659
// 0.116656
0x0EEF
// -0.131515
0xEF2B
// 0.045859
0x05DF
// 0.195264
0x18FE
// 0.115475
0x0EC8
// 0.145834
0x12AB
// 0.086039
0x0B03
// -0.040388
0xFAD5
// 0.096714
0x0C61
// -0.200304
0xE65C
// 0.246690
0x1F94
// -0.173387
0xE9CE
// -0.134576
0xEEC6
// -0.243329
0xE0DB
// 0.243132
0x1F1F
// 0.215107
0x1B89
// -0.111100
0xF1C7
// -0.337958
0xD4BE
// 0.056195
0x0731
// -0.118846
0xF0CA
// 0.232018
0x1DB3
// -0.362318
0xD1A0
// -0.184104
0xE86F
// 0.050396
0x0673
// -0.013078
0xFE53
// 0.029023
0x03B7
// 0.014404
0x01D8
// -0.151788
0xEC92
// -0.105773
0xF276
// -0.050477
0xF98A
// 0.333416
0x2AAD
// 0.481322
0x3D9C
// -0.333438
0xD552
// 0.106832
0x0DAD
// -0.232161
0xE249
// -0.307337
0xD8A9
// 0.097867
0x0C87
// -0.014651
0xFE20
// 0.209039
0x1AC2
// -0.196302
0xE6E0
// -0.118797
0xF0CB
// -0.183199
0xE88D
// -0.019058
0xFD90
// 0.064717
0x0849
// 0.110424
0x0E22
// -0.008864
0xFEDE
// -0.027474
0xFC7C
// 0.107055
0x0DB4
// -0.506773
0xBF22
// -0.039108
0xFAFF
// -0.061856
0xF815
// -0.249843
0xE005
// 0.004407
0x0090
// 0.236276
0x1E3E
// -0.063590
0xF7DC
// 0.003854
0x007E
// 0.279398
0x23C3