You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ15/Reference3_q15.txt

515 lines
4.9 KiB
Plaintext

H
256
// -0.005861
0xFF40
// 0.028143
0x039A
// 0.150439
0x1342
// -0.178307
0xE92D
// -0.091760
0xF441
// -0.029086
0xFC47
// 0.262746
0x21A2
// -0.096835
0xF39B
// 0.074230
0x0980
// 0.210806
0x1AFC
// -0.174056
0xE9B9
// -0.089409
0xF48E
// 0.088376
0x0B50
// -0.031045
0xFC07
// 0.007979
0x0105
// 0.258061
0x2108
// -0.109250
0xF204
// 0.003902
0x0080
// 0.029319
0x03C1
// -0.019119
0xFD8E
// 0.252840
0x205D
// -0.316019
0xD78D
// 0.325626
0x29AE
// -0.213027
0xE4BC
// 0.047656
0x061A
// -0.030456
0xFC1A
// -0.056147
0xF8D0
// 0.000840
0x001C
// 0.004799
0x009D
// 0.183220
0x1774
// -0.260316
0xDEAE
// 0.013050
0x01AC
// -0.077455
0xF616
// -0.212431
0xE4CF
// 0.046607
0x05F7
// 0.100909
0x0CEB
// 0.023949
0x0311
// 0.010268
0x0150
// 0.216155
0x1BAB
// -0.068054
0xF74A
// 0.497264
0x3FA6
// 0.113201
0x0E7D
// -0.025282
0xFCC4
// 0.028126
0x039A
// 0.233773
0x1DEC
// -0.001547
0xFFCD
// -0.235487
0xE1DC
// -0.012910
0xFE59
// -0.094420
0xF3EA
// -0.105886
0xF272
// 0.018396
0x025B
// -0.093415
0xF40B
// -0.032663
0xFBD2
// 0.202981
0x19FB
// 0.010450
0x0156
// 0.025968
0x0353
// -0.168958
0xEA60
// -0.000160
0xFFFB
// -0.284770
0xDB8D
// -0.105948
0xF270
// -0.118577
0xF0D2
// 0.029613
0x03CA
// 0.094961
0x0C28
// 0.807962
0x676B
// 0.007595
0x00F9
// -0.095257
0xF3CF
// -0.041486
0xFAB1
// -0.056332
0xF8CA
// -0.014891
0xFE18
// 0.050680
0x067D
// 0.268916
0x226C
// -0.111624
0xF1B6
// 0.006181
0x00CB
// -0.266566
0xDDE1
// -0.183342
0xE888
// 0.131057
0x10C6
// -0.015974
0xFDF5
// 0.010534
0x0159
// 0.039876
0x051B
// -0.009996
0xFEB8
// -0.165327
0xEAD7
// 0.381134
0x30C9
// -0.001713
0xFFC8
// 0.047418
0x0612
// 0.054807
0x0704
// 0.009698
0x013E
// -0.026789
0xFC92
// -0.054820
0xF8FC
// 0.071954
0x0936
// -0.030964
0xFC09
// -0.002676
0xFFA8
// -0.131745
0xEF23
// -0.002763
0xFFA5
// 0.173071
0x1627
// 0.017769
0x0246
// -0.005441
0xFF4E
// 0.006478
0x00D4
// -0.079249
0xF5DB
// -0.191457
0xE77E
// 0.099848
0x0CC8
// -0.006734
0xFF23
// -0.213402
0xE4AF
// -0.016201
0xFDED
// 0.004858
0x009F
// 0.000327
0x000B
// -0.257538
0xDF09
// 0.007171
0x00EB
// 0.001461
0x0030
// 0.040071
0x0521
// -0.229975
0xE290
// 0.053126
0x06CD
// 0.049420
0x0653
// -0.052641
0xF943
// 0.121230
0x0F84
// 0.002464
0x0051
// 0.011273
0x0171
// -0.021192
0xFD4A
// 0.019889
0x028C
// 0.008366
0x0112
// -0.160539
0xEB73
// -0.105577
0xF27C
// -0.186679
0xE81B
// -0.013024
0xFE55
// 0.009022
0x0128
// 0.093097
0x0BEB
// -0.205889
0xE5A5
// -0.039574
0xFAEF
// -0.002695
0xFFA8
// -0.227700
0xE2DB
// 0.069961
0x08F4
// 0.439931
0x3850
// -0.284944
0xDB87
// -0.020538
0xFD5F
// -0.011569
0xFE85
// -0.049980
0xF99A
// -0.252440
0xDFB0
// 0.087813
0x0B3D
// 0.158838
0x1455
// 0.057237
0x0754
// -0.118989
0xF0C5
// 0.003562
0x0075
// 0.133688
0x111D
// 0.231535
0x1DA3
// 0.027504
0x0385
// 0.249076
0x1FE2
// 0.005823
0x00BF
// 0.118075
0x0F1D
// 0.010119
0x014C
// -0.026256
0xFCA4
// -0.317584
0xD759
// 0.067102
0x0897
// 0.118822
0x0F36
// -0.150512
0xECBC
// 0.007758
0x00FE
// 0.002663
0x0057
// 0.110328
0x0E1F
// 0.054018
0x06EA
// -0.150450
0xECBE
// -0.079468
0xF5D4
// -0.225696
0xE31C
// 0.006497
0x00D5
// -0.149082
0xECEB
// 0.056951
0x074A
// 0.015488
0x01FC
// 0.247764
0x1FB7
// 0.161149
0x14A1
// -0.336204
0xD4F7
// 0.085347
0x0AED
// 0.100207
0x0CD4
// 0.005754
0x00BD
// -0.519149
0xBD8D
// 0.113210
0x0E7E
// -0.000399
0xFFF3
// -0.004229
0xFF75
// 0.018484
0x025E
// 0.059357
0x0799
// -0.012961
0xFE57
// -0.055770
0xF8DD
// -0.011008
0xFE97
// 0.005781
0x00BD
// -0.038369
0xFB17
// 0.290218
0x2526
// 0.023792
0x030C
// -0.050920
0xF97B
// -0.047990
0xF9DB
// 0.159452
0x1469
// 0.000816
0x001B
// 0.166327
0x154A
// 0.021496
0x02C0
// -0.001292
0xFFD6
// 0.000663
0x0016
// -0.134265
0xEED0
// -0.024555
0xFCDB
// 0.038731
0x04F5
// 0.045980
0x05E3
// 0.136941
0x1187
// -0.118283
0xF0DC
// 0.086407
0x0B0F
// -0.045322
0xFA33
// -0.324726
0xD66F
// -0.033367
0xFBBB
// -0.030884
0xFC0C
// -0.033285
0xFBBD
// 0.347485
0x2C7A
// -0.003595
0xFF8A
// -0.080462
0xF5B3
// -0.017415
0xFDC5
// 0.237007
0x1E56
// -0.038812
0xFB08
// 0.015365
0x01F7
// 0.176316
0x1692
// -0.077872
0xF608
// 0.157596
0x142C
// -0.298588
0xD9C8
// -0.115928
0xF129
// -0.246818
0xE068
// -0.148343
0xED03
// 0.027151
0x037A
// 0.000069
0x0002
// 0.035694
0x0492
// -0.015530
0xFE03
// 0.061905
0x07EC
// 0.048781
0x063E
// -0.000886
0xFFE3
// 0.356192
0x2D98
// -0.020455
0xFD62
// 0.097591
0x0C7E
// -0.067495
0xF75C
// 0.126164
0x1026
// 0.108535
0x0DE4
// -0.136567
0xEE85
// 0.107170
0x0DB8
// 0.003050
0x0064
// -0.021825
0xFD35
// -0.035354
0xFB7A
// -0.022612
0xFD1B
// 0.017204
0x0234
// 0.047601
0x0618
// 0.107697
0x0DC9
// 0.203399
0x1A09
// -0.010815
0xFE9E
// -0.096742
0xF39E
// -0.050776
0xF980
// -0.017023
0xFDD2
// -0.028336
0xFC5F
// -0.063666
0xF7DA
// -0.003171
0xFF98
// -0.419777
0xCA45
// 0.108484
0x0DE3
// 0.118664
0x0F30
// -0.002338
0xFFB3
// 0.148746
0x130A
// -0.123706
0xF02A
// 0.285546
0x248D
// -0.106240
0xF267
// -0.007707
0xFF03