You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ15/Reference3_q15.txt

515 lines
4.4 KiB
Plaintext

H
256
// 0.036294
0x4a5
// 0.005131
0xa8
// 0.026267
0x35d
// 0.044425
0x5b0
// 0.050477
0x676
// 0.095900
0xc46
// 0.056606
0x73f
// 0.005791
0xbe
// 0.008063
0x108
// 0.101615
0xd02
// 0.013840
0x1c6
// 0.003994
0x83
// 0.020227
0x297
// 0.003528
0x74
// 0.000018
0x1
// 0.057583
0x75f
// 0.006539
0xd6
// 0.004134
0x87
// 0.015497
0x1fc
// 0.003283
0x6c
// 0.017416
0x23b
// 0.001985
0x41
// 0.018453
0x25d
// 0.006873
0xe1
// 0.002994
0x62
// 0.000168
0x5
// 0.093162
0xbed
// 0.009775
0x140
// 0.065017
0x852
// 0.002843
0x5d
// 0.101850
0xd09
// 0.003468
0x72
// 0.000235
0x8
// 0.000107
0x4
// 0.051174
0x68d
// 0.016127
0x210
// 0.003455
0x71
// 0.025783
0x34d
// 0.075771
0x9b3
// 0.000543
0x12
// 0.001008
0x21
// 0.002426
0x50
// 0.002842
0x5d
// 0.021126
0x2b4
// 0.001638
0x36
// 0.047133
0x608
// 0.001521
0x32
// 0.000320
0xb
// 0.008505
0x117
// 0.050898
0x684
// 0.000155
0x5
// 0.119950
0xf5b
// 0.007245
0xed
// 0.005547
0xb6
// 0.001721
0x38
// 0.019205
0x275
// 0.015267
0x1f4
// 0.002695
0x58
// 0.026751
0x36d
// 0.000031
0x1
// 0.079534
0xa2e
// 0.029656
0x3cc
// 0.021784
0x2ca
// 0.020518
0x2a0
// 0.017717
0x245
// 0.001140
0x25
// 0.008681
0x11c
// 0.000014
0x0
// 0.000707
0x17
// 0.040721
0x536
// 0.009446
0x136
// 0.000210
0x7
// 0.001631
0x35
// 0.057686
0x762
// 0.036667
0x4b2
// 0.000906
0x1e
// 0.000982
0x20
// 0.001809
0x3b
// 0.106795
0xdab
// 0.044036
0x5a3
// 0.007986
0x106
// 0.000035
0x1
// 0.027196
0x37b
// 0.015846
0x207
// 0.004076
0x86
// 0.012276
0x192
// 0.042006
0x560
// 0.000842
0x1c
// 0.002448
0x50
// 0.001978
0x41
// 0.000633
0x15
// 0.026934
0x373
// 0.001011
0x21
// 0.132515
0x10f6
// 0.000000
0x0
// 0.072306
0x941
// 0.075328
0x9a4
// 0.001972
0x41
// 0.000592
0x13
// 0.002802
0x5c
// 0.000609
0x14
// 0.002261
0x4a
// 0.032400
0x426
// 0.028373
0x3a2
// 0.041555
0x552
// 0.004698
0x9a
// 0.014857
0x1e7
// 0.030012
0x3d7
// 0.029524
0x3c7
// 0.005821
0xbf
// 0.058330
0x777
// 0.000238
0x8
// 0.033946
0x458
// 0.011052
0x16a
// 0.009424
0x135
// 0.015633
0x200
// 0.013106
0x1ad
// 0.002213
0x49
// 0.000819
0x1b
// 0.003436
0x71
// 0.000049
0x2
// 0.009243
0x12f
// 0.030036
0x3d8
// 0.007727
0xfd
// 0.032038
0x41a
// 0.000122
0x4
// 0.048066
0x627
// 0.074298
0x983
// 0.018399
0x25b
// 0.153412
0x13a3
// 0.007141
0xea
// 0.021627
0x2c5
// 0.000384
0xd
// 0.039961
0x51d
// 0.002634
0x56
// 0.010994
0x168
// 0.003390
0x6f
// 0.015388
0x1f8
// 0.043657
0x597
// 0.026432
0x362
// 0.025254
0x33c
// 0.027830
0x390
// 0.053885
0x6e6
// 0.081959
0xa7e
// 0.008138
0x10b
// 0.028615
0x3aa
// 0.008176
0x10c
// 0.020306
0x299
// 0.074237
0x981
// 0.007441
0xf4
// 0.009530
0x138
// 0.033370
0x445
// 0.004493
0x93
// 0.001834
0x3c
// 0.039211
0x505
// 0.000066
0x2
// 0.005667
0xba
// 0.025019
0x334
// 0.018520
0x25f
// 0.048997
0x646
// 0.025605
0x347
// 0.000644
0x15
// 0.004347
0x8e
// 0.002914
0x5f
// 0.027221
0x37c
// 0.017940
0x24c
// 0.005573
0xb7
// 0.041634
0x554
// 0.012941
0x1a8
// 0.081940
0xa7d
// 0.005017
0xa4
// 0.001737
0x39
// 0.064894
0x84e
// 0.071891
0x934
// 0.005355
0xaf
// 0.376727
0x3039
// 0.012574
0x19c
// 0.079324
0xa27
// 0.008789
0x120
// 0.046195
0x5ea
// 0.000840
0x1c
// 0.004179
0x89
// 0.053102
0x6cc
// 0.075510
0x9aa
// 0.042007
0x560
// 0.000578
0x13
// 0.000972
0x20
// 0.000010
0x0
// 0.079701
0xa34
// 0.000197
0x6
// 0.000847
0x1c
// 0.033688
0x450
// 0.115349
0xec4
// 0.007941
0x104
// 0.027430
0x383
// 0.044721
0x5b9
// 0.025126
0x337
// 0.001924
0x3f
// 0.011162
0x16e
// 0.000553
0x12
// 0.020449
0x29e
// 0.065578
0x865
// 0.020928
0x2ae
// 0.005145
0xa9
// 0.012902
0x1a7
// 0.007545
0xf7
// 0.005680
0xba
// 0.000006
0x0
// 0.010676
0x15e
// 0.004431
0x91
// 0.028131
0x39a
// 0.122706
0xfb5
// 0.210079
0x1ae4
// 0.012902
0x1a7
// 0.085810
0xafc
// 0.002129
0x46
// 0.067747
0x8ac
// 0.041675
0x556
// 0.021852
0x2cc
// 0.005754
0xbd
// 0.064456
0x840
// 0.000038
0x1
// 0.041244
0x547
// 0.003251
0x6b
// 0.020933
0x2ae
// 0.007086
0xe8
// 0.007206
0xec
// 0.002507
0x52
// 0.029043
0x3b8
// 0.047344
0x60f
// 0.009954
0x146
// 0.000643
0x15
// 0.002936
0x60
// 0.019196
0x275
// 0.000908
0x1e
// 0.001691
0x37
// 0.006428
0xd3
// 0.000125
0x4
// 0.002688
0x58
// 0.001846
0x3c
// 0.028435
0x3a4
// 0.000181
0x6
// 0.071714
0x92e
// 0.005820
0xbf
// 0.011886
0x185
// 0.002265
0x4a
// 0.007969
0x105
// 0.018507
0x25e
// 0.019244
0x277
// 0.008503
0x117
// 0.001649
0x36
// 0.033206
0x440
// 0.000001
0x0
// 0.001371
0x2d
// 0.006284
0xce
// 0.005423
0xb2