You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ15/Reference3_q15.txt

515 lines
4.9 KiB
Plaintext

H
256
// 0.120440
0x0F6B
// 0.139072
0x11CD
// -0.033313
0xFBBC
// 0.008907
0x0124
// 0.033200
0x0440
// -0.085738
0xF507
// 0.012165
0x018F
// -0.003352
0xFF92
// -0.268739
0xDD9A
// 0.128014
0x1063
// -0.064933
0xF7B0
// 0.008056
0x0108
// -0.019787
0xFD78
// 0.088808
0x0B5E
// -0.002788
0xFFA5
// 0.012630
0x019E
// 0.016551
0x021E
// -0.025973
0xFCAD
// 0.063036
0x0812
// 0.069558
0x08E7
// -0.006830
0xFF20
// 0.027819
0x0390
// 0.171911
0x1601
// -0.009747
0xFEC1
// -0.040349
0xFAD6
// -0.015603
0xFE01
// -0.071158
0xF6E4
// -0.004471
0xFF6D
// 0.243024
0x1F1B
// 0.071079
0x0919
// 0.167119
0x1564
// 0.178174
0x16CE
// -0.002890
0xFFA1
// -0.061182
0xF82B
// 0.024434
0x0321
// -0.013977
0xFE36
// 0.084343
0x0ACC
// -0.014863
0xFE19
// -0.068912
0xF72E
// 0.010360
0x0153
// -0.080974
0xF5A3
// -0.085462
0xF510
// 0.180703
0x1721
// 0.033619
0x044E
// -0.190654
0xE799
// 0.059640
0x07A2
// 0.116485
0x0EE9
// 0.086405
0x0B0F
// -0.029039
0xFC48
// -0.015384
0xFE08
// 0.026396
0x0361
// -0.126527
0xEFCE
// 0.004396
0x0090
// -0.107405
0xF241
// 0.026558
0x0366
// 0.039849
0x051A
// -0.004342
0xFF72
// -0.382380
0xCF0E
// -0.197929
0xE6AA
// -0.013688
0xFE3F
// -0.044805
0xFA44
// -0.068697
0xF735
// 0.000816
0x001B
// -0.123977
0xF022
// -0.032670
0xFBD1
// 0.003997
0x0083
// -0.002333
0xFFB4
// -0.153094
0xEC67
// -0.201973
0xE626
// -0.124351
0xF015
// -0.079588
0xF5D0
// -0.008241
0xFEF2
// -0.140847
0xEDF9
// -0.047822
0xF9E1
// -0.181576
0xE8C2
// -0.007902
0xFEFD
// -0.002815
0xFFA4
// 0.246039
0x1F7E
// -0.005389
0xFF4F
// -0.167885
0xEA83
// -0.060637
0xF83D
// -0.023082
0xFD0C
// -0.025349
0xFCC1
// 0.202072
0x19DE
// 0.092208
0x0BCD
// 0.022520
0x02E2
// 0.067679
0x08AA
// 0.183662
0x1782
// 0.027201
0x037B
// 0.054874
0x0706
// 0.003010
0x0063
// -0.156257
0xEC00
// 0.105704
0x0D88
// 0.015264
0x01F4
// 0.010526
0x0159
// -0.202616
0xE611
// -0.041483
0xFAB1
// -0.168320
0xEA74
// 0.087582
0x0B36
// 0.029248
0x03BE
// 0.155089
0x13DA
// 0.062047
0x07F1
// -0.111665
0xF1B5
// -0.013233
0xFE4E
// 0.023431
0x0300
// -0.300802
0xD97F
// 0.333769
0x2AB9
// -0.114432
0xF15A
// -0.040380
0xFAD5
// 0.325989
0x29BA
// -0.137145
0xEE72
// -0.051809
0xF95E
// -0.071196
0xF6E3
// -0.000789
0xFFE6
// 0.052973
0x06C8
// -0.036648
0xFB4F
// -0.008588
0xFEE7
// -0.047463
0xF9ED
// 0.017742
0x0245
// -0.001593
0xFFCC
// -0.034289
0xFB9C
// -0.033526
0xFBB5
// 0.153863
0x13B2
// 0.038859
0x04F9
// 0.143117
0x1252
// 0.273015
0x22F2
// 0.400218
0x333A
// -0.033222
0xFBBF
// -0.318019
0xD74B
// 0.017804
0x0247
// 0.080515
0x0A4E
// -0.120279
0xF09B
// 0.022246
0x02D9
// 0.058676
0x0783
// 0.247713
0x1FB5
// -0.160100
0xEB82
// -0.081716
0xF58A
// 0.230569
0x1D83
// -0.610794
0xB1D2
// -0.002692
0xFFA8
// -0.301102
0xD976
// 0.274482
0x2322
// -0.033762
0xFBAE
// 0.035461
0x048A
// 0.013172
0x01B0
// 0.353681
0x2D45
// 0.024009
0x0313
// -0.120447
0xF095
// -0.025958
0xFCAD
// -0.023607
0xFCFA
// -0.149013
0xECED
// 0.187027
0x17F1
// 0.239908
0x1EB5
// -0.023368
0xFD02
// -0.219430
0xE3EA
// -0.079385
0xF5D7
// 0.107856
0x0DCE
// -0.201310
0xE63B
// -0.012899
0xFE59
// 0.012323
0x0194
// 0.125122
0x1004
// 0.003849
0x007E
// -0.121097
0xF080
// 0.033002
0x0439
// -0.021945
0xFD31
// -0.023110
0xFD0B
// 0.047861
0x0620
// -0.000103
0xFFFD
// 0.065036
0x0853
// 0.181750
0x1744
// 0.025396
0x0340
// 0.279042
0x23B8
// -0.000864
0xFFE4
// -0.131220
0xEF34
// 0.013609
0x01BE
// 0.230396
0x1D7E
// -0.021212
0xFD49
// 0.049097
0x0649
// 0.003476
0x0072
// 0.304806
0x2704
// -0.046035
0xFA1C
// -0.236214
0xE1C4
// -0.066173
0xF788
// -0.628329
0xAF93
// -0.142067
0xEDD1
// 0.017611
0x0241
// -0.000097
0xFFFD
// -0.003955
0xFF7E
// 0.066787
0x088C
// 0.080247
0x0A46
// 0.007584
0x00F9
// 0.111973
0x0E55
// 0.002496
0x0052
// 0.146713
0x12C7
// -0.013130
0xFE52
// -0.075672
0xF650
// -0.089898
0xF47E
// -0.163168
0xEB1D
// -0.016957
0xFDD4
// 0.121704
0x0F94
// 0.084842
0x0ADC
// -0.209975
0xE520
// -0.055739
0xF8DE
// -0.147767
0xED16
// -0.111050
0xF1C9
// -0.006813
0xFF21
// -0.113969
0xF169
// -0.037401
0xFB36
// -0.000325
0xFFF5
// 0.012337
0x0194
// 0.050746
0x067F
// -0.002086
0xFFBC
// -0.457645
0xC56C
// 0.006219
0x00CC
// 0.143527
0x125F
// -0.048982
0xF9BB
// -0.041821
0xFAA6
// -0.001163
0xFFDA
// 0.057412
0x0759
// 0.089752
0x0B7D
// 0.028910
0x03B3
// -0.014657
0xFE20
// 0.007610
0x00F9
// -0.053928
0xF919
// -0.006662
0xFF26
// -0.035680
0xFB6F
// -0.000121
0xFFFC
// -0.014164
0xFE30
// -0.025658
0xFCB7
// 0.070280
0x08FF
// 0.101353
0x0CF9
// 0.010879
0x0164
// 0.164065
0x1500
// 0.004511
0x0094
// 0.135300
0x1152
// 0.002944
0x0060
// -0.010326
0xFEAE
// -0.107692
0xF237
// 0.009950
0x0146
// -0.054309
0xF90C
// -0.036005
0xFB64
// -0.031607
0xFBF4
// 0.096912
0x0C68
// 0.304985
0x270A
// 0.206967
0x1A7E
// 0.067123
0x0897
// -0.044039
0xFA5D
// -0.029780
0xFC30
// -0.067012
0xF76C
// -0.037118
0xFB40
// 0.053986
0x06E9
// 0.020135
0x0294
// -0.160177
0xEB7F
// 0.107334
0x0DBD
// 0.070211
0x08FD
// 0.015871
0x0208