You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ15/Reference2_q15.txt

515 lines
4.9 KiB
Plaintext

H
256
// -0.550558
0xB987
// 0.045188
0x05C9
// 0.415046
0x3520
// 0.507918
0x4103
// 0.089253
0x0B6D
// -0.587609
0xB4C9
// 0.084543
0x0AD2
// 0.126649
0x1036
// 1.094733
0x7FFF
// 0.202234
0x19E3
// -0.599974
0xB334
// 0.131336
0x10D0
// 0.293873
0x259E
// 0.343704
0x2BFE
// -0.105672
0xF279
// 0.869618
0x6F50
// -0.512134
0xBE72
// 0.439479
0x3841
// -0.129971
0xEF5D
// -0.050079
0xF997
// -0.171140
0xEA18
// 0.192198
0x189A
// 0.350046
0x2CCE
// 0.399277
0x331B
// 0.537263
0x44C5
// -0.319175
0xD725
// -0.565610
0xB79A
// 0.351954
0x2D0D
// -0.383131
0xCEF6
// -0.035761
0xFB6C
// -0.648233
0xAD07
// -0.205431
0xE5B4
// -0.400760
0xCCB4
// -0.564238
0xB7C7
// 0.152527
0x1386
// 0.919512
0x75B3
// -0.027762
0xFC72
// 0.423718
0x363C
// -0.535945
0xBB66
// -0.186837
0xE816
// 0.607466
0x4DC1
// -0.630155
0xAF57
// -0.116417
0xF119
// 0.067808
0x08AE
// -0.964541
0x848A
// -0.016610
0xFDE0
// 0.349806
0x2CC6
// -0.043117
0xFA7B
// 0.350534
0x2CDE
// -0.672081
0xA9F9
// -0.202308
0xE61B
// -0.841278
0x9451
// -0.087991
0xF4BD
// -1.060668
0x8000
// 0.386949
0x3188
// 0.103936
0x0D4E
// 0.302964
0x26C8
// 1.261540
0x7FFF
// -0.896036
0x8D4F
// -0.530820
0xBC0E
// 0.530172
0x43DD
// 0.616475
0x4EE9
// 0.472724
0x3C82
// 0.705695
0x5A54
// 0.379991
0x30A4
// -0.413808
0xCB08
// -0.168729
0xEA67
// 0.881360
0x70D0
// -0.998786
0x8028
// 0.710022
0x5AE2
// -0.574966
0xB668
// 0.185214
0x17B5
// -0.750674
0x9FEA
// 0.446561
0x3929
// 0.870545
0x6F6E
// -0.188688
0xE7D9
// 0.199841
0x1994
// 0.719815
0x5C23
// 0.189959
0x1851
// 0.820665
0x690C
// -0.809345
0x9867
// -0.330750
0xD5AA
// 0.323834
0x2973
// 0.124565
0x0FF2
// -0.359109
0xD209
// 0.308002
0x276D
// 0.603493
0x4D3F
// 0.222606
0x1C7E
// 0.260901
0x2165
// -0.078639
0xF5EF
// 0.315916
0x2870
// -0.793482
0x9A6F
// -0.641748
0xADDB
// -0.129561
0xEF6B
// -0.288647
0xDB0E
// 0.991382
0x7EE6
// -0.412596
0xCB30
// -1.001949
0x8000
// -0.694704
0xA714
// -0.156352
0xEBFD
// -0.300056
0xD998
// -0.257078
0xDF18
// 0.772142
0x62D6
// -0.342234
0xD432
// 0.265958
0x220B
// 1.120433
0x7FFF
// 0.055776
0x0724
// -0.676560
0xA966
// 0.458185
0x3AA6
// 0.318580
0x28C7
// 0.776864
0x6370
// 0.455825
0x3A58
// -0.710160
0xA519
// 0.371006
0x2F7D
// 0.051208
0x068E
// 0.446725
0x392E
// 0.438973
0x3830
// 0.557642
0x4761
// 0.258520
0x2117
// 0.079846
0x0A38
// -0.801974
0x9959
// 0.374797
0x2FF9
// 0.117995
0x0F1A
// 0.318584
0x28C7
// 0.154584
0x13C9
// 0.699641
0x598E
// -0.175846
0xE97E
// 0.641479
0x521C
// -1.131120
0x8000
// 0.095271
0x0C32
// 0.653388
0x53A2
// 0.712070
0x5B25
// 0.205102
0x1A41
// 0.010597
0x015B
// -0.036343
0xFB59
// 0.912842
0x74D8
// 0.662853
0x54D8
// 0.769431
0x627D
// 1.580829
0x7FFF
// 0.152755
0x138D
// 1.125574
0x7FFF
// -0.519716
0xBD7A
// -0.595584
0xB3C4
// 0.053358
0x06D4
// 0.591849
0x4BC2
// -0.120555
0xF092
// 0.341947
0x2BC5
// 0.713212
0x5B4B
// -0.328274
0xD5FB
// 0.334611
0x2AD5
// 0.773241
0x62FA
// -0.347486
0xD386
// 0.107490
0x0DC2
// -0.399224
0xCCE6
// 0.937494
0x7800
// 0.627479
0x5051
// 0.204313
0x1A27
// -1.121102
0x8000
// -0.337513
0xD4CC
// -0.051671
0xF963
// 0.621661
0x4F93
// -0.304164
0xD911
// -0.727204
0xA2EB
// 0.129106
0x1087
// 0.296814
0x25FE
// -0.306576
0xD8C2
// 0.105016
0x0D71
// -0.062855
0xF7F4
// 0.266519
0x221D
// -0.236127
0xE1C7
// -0.027636
0xFC76
// -0.112337
0xF19F
// 0.074945
0x0998
// 0.757618
0x60FA
// -0.255453
0xDF4D
// 0.154107
0x13BA
// -0.337819
0xD4C2
// -0.215299
0xE471
// -0.350109
0xD330
// 0.444483
0x38E5
// 0.434580
0x37A0
// -0.976728
0x82FB
// 0.515259
0x41F4
// -1.628329
0x8000
// -0.760339
0x9EAD
// -0.111032
0xF1CA
// 0.447492
0x3947
// 0.313892
0x282E
// 0.027254
0x037D
// -0.321758
0xD6D1
// 0.182610
0x1760
// 0.529194
0x43BD
// -0.626458
0xAFD0
// -0.023709
0xFCF7
// 0.234660
0x1E09
// 0.696742
0x592F
// -0.612190
0xB1A4
// 0.858632
0x6DE8
// -0.361693
0xD1B4
// -0.250508
0xDFEF
// -0.507961
0xBEFB
// 0.982933
0x7DD1
// 0.578258
0x4A04
// -0.793211
0x9A78
// -0.731897
0xA251
// 0.405171
0x33DD
// 0.844225
0x6C10
// 0.449666
0x398F
// -0.036191
0xFB5E
// -0.319150
0xD726
// -0.170450
0xEA2F
// 0.110324
0x0E1F
// -1.362636
0x8000
// 0.039768
0x0517
// 0.193419
0x18C2
// 0.445124
0x38FA
// -0.435345
0xC847
// 0.089173
0x0B6A
// 0.069747
0x08ED
// 0.253385
0x206F
// 0.417416
0x356E
// 0.617439
0x4F08
// 0.215251
0x1B8D
// 0.646433
0x52BE
// 0.163393
0x14EA
// 0.387493
0x3199
// 0.027432
0x0383
// -0.509840
0xBEBE
// 0.320541
0x2907
// 0.196758
0x192F
// -0.153320
0xEC60
// -0.156965
0xEBE9
// 0.782828
0x6434
// 0.052910
0x06C6
// 0.314437
0x283F
// -0.643202
0xADAC
// 0.709906
0x5ADE
// 0.699463
0x5988
// 0.512333
0x4194
// 0.534388
0x4467
// -0.379619
0xCF69
// 0.580422
0x4A4B
// 0.002525
0x0053
// 0.346468
0x2C59
// 0.457963
0x3A9F
// -0.386189
0xCE91
// 0.457267
0x3A88
// 0.382325
0x30F0
// -0.520337
0xBD66
// 0.466695
0x3BBD
// -0.235568
0xE1D9
// 0.201918
0x19D8
// 0.800452
0x6675
// -0.035487
0xFB75
// -0.876275
0x8FD6
// 0.245129
0x1F60