You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ15/Reference3_q15.txt

515 lines
4.8 KiB
Plaintext

H
256
// 0.027221
0x037C
// 0.004075
0x0086
// 0.018180
0x0254
// 0.000485
0x0010
// 0.027875
0x0391
// 0.003715
0x007A
// 0.189663
0x1847
// 0.002266
0x004A
// 0.034870
0x0477
// 0.032953
0x0438
// 0.015385
0x01F8
// 0.011645
0x017E
// 0.008825
0x0121
// 0.025334
0x033E
// 0.333667
0x2AB6
// 0.146112
0x12B4
// 0.025703
0x034A
// 0.191666
0x1889
// 0.167292
0x156A
// 0.033290
0x0443
// 0.039048
0x0500
// 0.113596
0x0E8A
// 0.001556
0x0033
// 0.005965
0x00C3
// 0.043371
0x058D
// 0.024266
0x031B
// 0.136688
0x117F
// 0.009534
0x0138
// 0.004184
0x0089
// 0.013272
0x01B3
// 0.004489
0x0093
// 0.028756
0x03AE
// 0.002972
0x0061
// 0.233681
0x1DE9
// 0.331943
0x2A7D
// 0.005430
0x00B2
// 0.019329
0x0279
// 0.007098
0x00E9
// 0.095188
0x0C2F
// 0.004089
0x0086
// 0.287044
0x24BE
// 0.005671
0x00BA
// 0.001372
0x002D
// 0.011169
0x016E
// 0.183648
0x1782
// 0.003593
0x0076
// 0.061344
0x07DA
// 0.002136
0x0046
// 0.000013
0x0000
// 0.023085
0x02F4
// 0.002727
0x0059
// 0.003630
0x0077
// 0.002142
0x0046
// 0.000390
0x000D
// 0.191107
0x1876
// 0.012281
0x0192
// 0.004095
0x0086
// 0.033010
0x043A
// 0.000535
0x0012
// 0.016539
0x021E
// 0.032154
0x041E
// 0.003075
0x0065
// 0.012723
0x01A1
// 0.002014
0x0042
// 0.125658
0x1016
// 0.182891
0x1769
// 0.041572
0x0552
// 0.091718
0x0BBD
// 0.005097
0x00A7
// 0.008764
0x011F
// 0.007986
0x0106
// 0.058355
0x0778
// 0.001073
0x0023
// 0.018509
0x025F
// 0.061556
0x07E1
// 0.044749
0x05BA
// 0.051847
0x06A3
// 0.041595
0x0553
// 0.081820
0x0A79
// 0.002945
0x0060
// 0.000706
0x0017
// 0.178530
0x16DA
// 0.000577
0x0013
// 0.189157
0x1836
// 0.015287
0x01F5
// 0.023713
0x0309
// 0.152467
0x1384
// 0.033702
0x0450
// 0.282436
0x2427
// 0.055991
0x072B
// 0.010352
0x0153
// 0.001823
0x003C
// 0.054297
0x06F3
// 0.002008
0x0042
// 0.007142
0x00EA
// 0.054204
0x06F0
// 0.005535
0x00B5
// 0.000450
0x000F
// 0.001526
0x0032
// 0.015221
0x01F3
// 0.041944
0x055E
// 0.050485
0x0676
// 0.320633
0x290A
// 0.238172
0x1E7C
// 0.077731
0x09F3
// 0.072360
0x0943
// 0.034232
0x0462
// 0.000161
0x0005
// 0.167919
0x157E
// 0.012595
0x019D
// 0.014871
0x01E7
// 0.046085
0x05E6
// 0.004497
0x0093
// 0.014965
0x01EA
// 0.015068
0x01EE
// 0.138874
0x11C7
// 0.272890
0x22EE
// 0.009384
0x0134
// 0.302516
0x26B9
// 0.000007
0x0000
// 0.004962
0x00A3
// 0.000600
0x0014
// 0.006600
0x00D8
// 0.034758
0x0473
// 0.151204
0x135B
// 0.000259
0x0008
// 0.148738
0x130A
// 0.076930
0x09D9
// 0.021521
0x02C1
// 0.039794
0x0518
// 0.005379
0x00B0
// 0.012459
0x0198
// 0.023302
0x02FC
// 0.094568
0x0C1B
// 0.013280
0x01B3
// 0.027375
0x0381
// 0.042301
0x056A
// 0.019638
0x0283
// 0.036588
0x04AF
// 0.137007
0x1189
// 0.031508
0x0408
// 0.016266
0x0215
// 0.001003
0x0021
// 0.026043
0x0355
// 0.000088
0x0003
// 0.039706
0x0515
// 0.076852
0x09D6
// 0.001796
0x003B
// 0.064142
0x0836
// 0.000205
0x0007
// 0.055928
0x0729
// 0.020960
0x02AF
// 0.021053
0x02B2
// 0.048818
0x0640
// 0.032798
0x0433
// 0.000246
0x0008
// 0.017510
0x023E
// 0.255872
0x20C0
// 0.028098
0x0399
// 0.011097
0x016C
// 0.027268
0x037E
// 0.071592
0x092A
// 0.046395
0x05F0
// 0.028731
0x03AD
// 0.000595
0x0013
// 0.014773
0x01E4
// 0.075276
0x09A3
// 0.165628
0x1533
// 0.001641
0x0036
// 0.001479
0x0030
// 0.052162
0x06AD
// 0.058882
0x0789
// 0.030368
0x03E3
// 0.026462
0x0363
// 0.010626
0x015C
// 0.100734
0x0CE5
// 0.006932
0x00E3
// 0.094774
0x0C22
// 0.169120
0x15A6
// 0.004911
0x00A1
// 0.017943
0x024C
// 0.162291
0x14C6
// 0.002415
0x004F
// 0.063485
0x0820
// 0.016107
0x0210
// 0.000151
0x0005
// 0.063111
0x0814
// 0.020053
0x0291
// 0.042581
0x0573
// 0.013401
0x01B7
// 0.076660
0x09D0
// 0.124338
0x0FEA
// 0.114241
0x0E9F
// 0.220461
0x1C38
// 0.025952
0x0352
// 0.000851
0x001C
// 0.028098
0x0399
// 0.024599
0x0326
// 0.091956
0x0BC5
// 0.050915
0x0684
// 0.000702
0x0017
// 0.002226
0x0049
// 0.000563
0x0012
// 0.001662
0x0036
// 0.004700
0x009A
// 0.156835
0x1413
// 0.075218
0x09A1
// 0.000243
0x0008
// 0.076634
0x09CF
// 0.036752
0x04B4
// 0.032264
0x0421
// 0.091147
0x0BAB
// 0.008330
0x0111
// 0.003926
0x0081
// 0.106444
0x0DA0
// 0.058365
0x0779
// 0.007258
0x00EE
// 0.035718
0x0492
// 0.042088
0x0563
// 0.111848
0x0E51
// 0.154510
0x13C7
// 0.019275
0x0278
// 0.000064
0x0002
// 0.008200
0x010D
// 0.030353
0x03E3
// 0.041853
0x055B
// 0.058667
0x0782
// 0.028681
0x03AC
// 0.032722
0x0430
// 0.000785
0x001A
// 0.114774
0x0EB1
// 0.069164
0x08DA
// 0.010346
0x0153
// 0.013345
0x01B5
// 0.085138
0x0AE6
// 0.001615
0x0035
// 0.008570
0x0119
// 0.006410
0x00D2
// 0.000589
0x0013
// 0.080588
0x0A51
// 0.079365
0x0A29
// 0.052274
0x06B1
// 0.086746
0x0B1A
// 0.001592
0x0034
// 0.041124
0x0544
// 0.025909
0x0351
// 0.318852
0x28D0
// 0.224507
0x1CBD
// 0.000025
0x0001
// 0.014392
0x01D8
// 0.002604
0x0055
// 0.000897
0x001D
// 0.007986
0x0106
// 0.001739
0x0039
// 0.000088
0x0003
// 0.018495
0x025E