You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ15/Reference1_q15.txt

515 lines
4.9 KiB
Plaintext

H
256
// 0.027226
0x037C
// 0.068246
0x08BC
// 0.434448
0x379C
// 0.235482
0x1E24
// -0.277740
0xDC73
// -0.271129
0xDD4C
// 0.559292
0x4797
// -0.256762
0xDF22
// 0.065351
0x085D
// -0.277961
0xDC6C
// -0.063397
0xF7E3
// -0.586252
0xB4F6
// -0.036748
0xFB4C
// -0.459929
0xC521
// -0.821357
0x96DE
// 0.141240
0x1214
// 0.361271
0x2E3E
// 0.447501
0x3948
// 0.911742
0x74B4
// -0.265946
0xDDF5
// 0.318080
0x28B7
// 0.158541
0x144B
// -0.317059
0xD76B
// 0.307485
0x275C
// 0.111154
0x0E3A
// 0.964196
0x7B6B
// -0.729608
0xA29C
// -0.523074
0xBD0C
// -0.433386
0xC887
// 0.122180
0x0FA4
// -0.693541
0xA73A
// 0.447621
0x394C
// -0.295185
0xDA37
// -0.460972
0xC4FF
// 0.450963
0x39B9
// 0.810279
0x67B7
// -0.793364
0x9A73
// 0.741297
0x5EE3
// 0.263144
0x21AF
// -0.240805
0xE12D
// 0.743758
0x5F33
// 0.342775
0x2BE0
// 0.215334
0x1B90
// 0.897448
0x72E0
// -0.605621
0xB27B
// 0.333558
0x2AB2
// 0.401329
0x335F
// 0.144763
0x1288
// 0.252006
0x2042
// -0.394725
0xCD7A
// 0.075869
0x09B6
// 0.896937
0x72CF
// -0.679089
0xA914
// 0.160296
0x1485
// -0.473559
0xC362
// -0.195195
0xE704
// 0.554027
0x46EA
// -0.828487
0x95F4
// -0.015483
0xFE05
// 1.064985
0x7FFF
// 0.521057
0x42B2
// 0.260191
0x214E
// 0.275550
0x2345
// -0.280493
0xDC19
// 0.131083
0x10C7
// 0.518653
0x4263
// -0.967493
0x8429
// -0.098186
0xF36F
// 0.574118
0x497D
// -0.225032
0xE332
// 0.317281
0x289D
// 0.027351
0x0380
// -0.151196
0xECA6
// 0.145097
0x1293
// -0.147085
0xED2C
// 0.188417
0x181E
// 0.278610
0x23A9
// 0.270718
0x22A7
// -0.840978
0x945B
// 0.675238
0x566E
// -0.149462
0xECDE
// -0.309835
0xD857
// 0.019839
0x028A
// -1.100988
0x8000
// 0.290980
0x253F
// 0.189614
0x1845
// 0.206186
0x1A64
// 0.134611
0x113B
// 0.670540
0x55D4
// -0.325866
0xD64A
// -0.180300
0xE8EC
// -0.007471
0xFF0B
// -0.879587
0x8F6A
// 0.273011
0x22F2
// 0.071027
0x0917
// 0.078049
0x09FE
// 0.121354
0x0F89
// 0.123524
0x0FD0
// 0.252754
0x205A
// 0.226356
0x1CF9
// 0.531100
0x43FB
// 0.158437
0x1448
// -0.354213
0xD2A9
// 0.641851
0x5228
// 0.034344
0x0465
// 0.015085
0x01EE
// 0.833216
0x6AA7
// 0.156133
0x13FC
// 0.130241
0x10AC
// -0.784811
0x9B8B
// -0.084136
0xF53B
// 0.103297
0x0D39
// 0.194956
0x18F4
// 0.474032
0x3CAD
// 0.101167
0x0CF3
// 0.360466
0x2E24
// 0.086398
0x0B0F
// 0.114457
0x0EA7
// -0.823017
0x96A7
// -0.413578
0xCB10
// 0.342503
0x2BD7
// -0.441102
0xC78A
// -0.306694
0xD8BE
// -0.904402
0x8C3D
// -0.577818
0xB60A
// 0.294331
0x25AD
// -0.315033
0xD7AD
// 0.953829
0x7A17
// -0.938590
0x87DC
// 0.269217
0x2276
// 0.732725
0x5DCA
// -0.151948
0xEC8D
// -0.946166
0x86E4
// -0.191407
0xE780
// 0.392962
0x324D
// 0.725888
0x5CEA
// 0.376546
0x3033
// 0.200336
0x19A5
// -0.093822
0xF3FE
// -0.894542
0x8D80
// 0.404251
0x33BE
// 0.203698
0x1A13
// 0.472336
0x3C76
// -0.008685
0xFEE3
// 0.261393
0x2175
// -0.625889
0xAFE3
// -0.826139
0x9641
// 0.084838
0x0ADC
// 0.126384
0x102D
// 0.724878
0x5CC9
// -0.678487
0xA927
// -1.323734
0x8000
// -0.031094
0xFC05
// -0.286968
0xDB45
// 0.283131
0x243E
// -0.937660
0x87FB
// -0.195889
0xE6ED
// -0.620530
0xB092
// 0.138133
0x11AE
// -0.487469
0xC19B
// -0.114917
0xF14A
// -0.495952
0xC085
// -0.138253
0xEE4E
// -1.138003
0x8000
// -0.094572
0xF3E5
// -0.430163
0xC8F0
// -0.490250
0xC13F
// 0.106986
0x0DB2
// -1.122827
0x8000
// 0.231052
0x1D93
// -0.118643
0xF0D0
// -0.389575
0xCE22
// -0.190815
0xE793
// 0.376443
0x302F
// -0.358998
0xD20C
// 0.028229
0x039D
// 0.328847
0x2A18
// 0.339692
0x2B7B
// -0.334809
0xD525
// 0.205552
0x1A50
// 0.433214
0x3774
// 0.239096
0x1E9B
// 0.128128
0x1067
// -0.027193
0xFC85
// -0.402383
0xCC7F
// -0.057795
0xF89A
// 0.738711
0x5E8E
// 0.656008
0x53F8
// 0.694280
0x58DE
// 0.689734
0x5849
// -0.145922
0xED52
// 0.043040
0x0582
// 0.279058
0x23B8
// 0.055886
0x0727
// 0.505589
0x40B7
// -0.239798
0xE14E
// 0.249251
0x1FE7
// -1.268649
0x8000
// 0.643369
0x525A
// 0.123921
0x0FDD
// -0.304616
0xD902
// -0.060358
0xF846
// -0.748172
0xA03C
// -0.490456
0xC139
// -0.116222
0xF120
// -0.033426
0xFBB9
// -0.398740
0xCCF6
// -0.594277
0xB3EF
// 0.447697
0x394E
// 0.494081
0x3F3E
// 0.344685
0x2C1F
// -0.187109
0xE80D
// 0.039728
0x0516
// -0.037260
0xFB3B
// -0.111276
0xF1C2
// -0.023044
0xFD0D
// -0.309623
0xD85E
// 0.409274
0x3463
// -0.067783
0xF753
// 0.900174
0x7339
// 0.961337
0x7B0D
// -0.538955
0xBB04
// -0.558832
0xB878
// -0.580345
0xB5B7
// -0.777566
0x9C79
// -0.189506
0xE7BE
// -0.596384
0xB3AA
// -0.351416
0xD305
// 0.438793
0x382A
// 0.582441
0x4A8D
// -0.164347
0xEAF7
// 0.078689
0x0A12
// 0.222278
0x1C74
// 0.043121
0x0585
// -0.568349
0xB740
// 1.020164
0x7FFF
// -0.283375
0xDBBA
// 0.200845
0x19B5
// 0.050993
0x0687
// 0.311735
0x27E7
// -0.650136
0xACC8
// -0.136608
0xEE84
// 0.175264
0x166F
// 0.585257
0x4AEA
// -0.672608
0xA9E8
// -0.812366
0x9804
// -0.045368
0xFA31
// -0.935825
0x8837
// -0.265420
0xDE07
// 0.327253
0x29E3
// -0.181712
0xE8BE
// -0.535426
0xBB77
// 0.674522
0x5657
// 0.448117
0x395C
// 0.619671
0x4F51
// -0.522965
0xBD0F