You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference3_q7.txt

515 lines
4.0 KiB
Plaintext

B
256
// 0.275690
0x23
// 0.072812
0x9
// 0.027282
0x3
// 0.022088
0x3
// 0.009394
0x1
// 0.082900
0xb
// 0.043099
0x6
// 0.081944
0xa
// 0.061791
0x8
// 0.000857
0x0
// 0.003140
0x0
// 0.000402
0x0
// 0.000320
0x0
// 0.113359
0xf
// 0.126869
0x10
// 0.000440
0x0
// 0.017257
0x2
// 0.031281
0x4
// 0.049866
0x6
// 0.078699
0xa
// 0.012289
0x2
// 0.089423
0xb
// 0.010157
0x1
// 0.178773
0x17
// 0.062005
0x8
// 0.136890
0x12
// 0.048669
0x6
// 0.103202
0xd
// 0.001375
0x0
// 0.012528
0x2
// 0.005262
0x1
// 0.009594
0x1
// 0.004103
0x1
// 0.008508
0x1
// 0.000710
0x0
// 0.013519
0x2
// 0.060335
0x8
// 0.059005
0x8
// 0.003649
0x0
// 0.049288
0x6
// 0.088512
0xb
// 0.002656
0x0
// 0.072967
0x9
// 0.018137
0x2
// 0.019555
0x3
// 0.097566
0xc
// 0.155488
0x14
// 0.100129
0xd
// 0.052310
0x7
// 0.001971
0x0
// 0.056683
0x7
// 0.024343
0x3
// 0.001054
0x0
// 0.004890
0x1
// 0.073306
0x9
// 0.000154
0x0
// 0.022356
0x3
// 0.072414
0x9
// 0.049179
0x6
// 0.004567
0x1
// 0.078770
0xa
// 0.003681
0x0
// 0.181230
0x17
// 0.006463
0x1
// 0.092099
0xc
// 0.053097
0x7
// 0.019383
0x2
// 0.116569
0xf
// 0.027866
0x4
// 0.001578
0x0
// 0.208892
0x1b
// 0.004409
0x1
// 0.115845
0xf
// 0.215309
0x1c
// 0.037118
0x5
// 0.010381
0x1
// 0.020401
0x3
// 0.071766
0x9
// 0.000899
0x0
// 0.202587
0x1a
// 0.054406
0x7
// 0.068913
0x9
// 0.255633
0x21
// 0.003954
0x1
// 0.111545
0xe
// 0.042325
0x5
// 0.139951
0x12
// 0.018873
0x2
// 0.001904
0x0
// 0.010370
0x1
// 0.024532
0x3
// 0.008755
0x1
// 0.040454
0x5
// 0.316320
0x28
// 0.002699
0x0
// 0.038841
0x5
// 0.103817
0xd
// 0.011309
0x1
// 0.004297
0x1
// 0.161540
0x15
// 0.107926
0xe
// 0.013984
0x2
// 0.000526
0x0
// 0.000162
0x0
// 0.088187
0xb
// 0.019596
0x3
// 0.164472
0x15
// 0.004841
0x1
// 0.013308
0x2
// 0.015642
0x2
// 0.009405
0x1
// 0.005533
0x1
// 0.003020
0x0
// 0.048297
0x6
// 0.092022
0xc
// 0.016143
0x2
// 0.085851
0xb
// 0.151828
0x13
// 0.310039
0x28
// 0.028492
0x4
// 0.030534
0x4
// 0.025727
0x3
// 0.003881
0x0
// 0.153833
0x14
// 0.149047
0x13
// 0.185087
0x18
// 0.279560
0x24
// 0.059502
0x8
// 0.002282
0x0
// 0.017217
0x2
// 0.005498
0x1
// 0.000630
0x0
// 0.007971
0x1
// 0.008375
0x1
// 0.012231
0x2
// 0.074006
0x9
// 0.046404
0x6
// 0.275035
0x23
// 0.035484
0x5
// 0.012318
0x2
// 0.010573
0x1
// 0.004344
0x1
// 0.058739
0x8
// 0.001538
0x0
// 0.005324
0x1
// 0.025146
0x3
// 0.059969
0x8
// 0.000146
0x0
// 0.000047
0x0
// 0.281553
0x24
// 0.077469
0xa
// 0.048903
0x6
// 0.006638
0x1
// 0.000120
0x0
// 0.023589
0x3
// 0.019905
0x3
// 0.143251
0x12
// 0.015688
0x2
// 0.262707
0x22
// 0.001760
0x0
// 0.116080
0xf
// 0.014178
0x2
// 0.033549
0x4
// 0.003469
0x0
// 0.119482
0xf
// 0.000036
0x0
// 0.070342
0x9
// 0.010363
0x1
// 0.003156
0x0
// 0.021201
0x3
// 0.023773
0x3
// 0.104055
0xd
// 0.007318
0x1
// 0.061390
0x8
// 0.136315
0x11
// 0.003630
0x0
// 0.224035
0x1d
// 0.000003
0x0
// 0.031775
0x4
// 0.013331
0x2
// 0.018412
0x2
// 0.031344
0x4
// 0.174464
0x16
// 0.006207
0x1
// 0.001071
0x0
// 0.099673
0xd
// 0.064690
0x8
// 0.009553
0x1
// 0.081963
0xa
// 0.036245
0x5
// 0.023148
0x3
// 0.043475
0x6
// 0.084276
0xb
// 0.011491
0x1
// 0.009674
0x1
// 0.093959
0xc
// 0.016305
0x2
// 0.007925
0x1
// 0.000018
0x0
// 0.006325
0x1
// 0.006801
0x1
// 0.025939
0x3
// 0.021812
0x3
// 0.249658
0x20
// 0.051160
0x7
// 0.020297
0x3
// 0.117757
0xf
// 0.022206
0x3
// 0.009573
0x1
// 0.036824
0x5
// 0.000456
0x0
// 0.047284
0x6
// 0.064775
0x8
// 0.005916
0x1
// 0.298087
0x26
// 0.052715
0x7
// 0.295355
0x26
// 0.002586
0x0
// 0.058953
0x8
// 0.062030
0x8
// 0.006416
0x1
// 0.057472
0x7
// 0.006157
0x1
// 0.000107
0x0
// 0.029957
0x4
// 0.010187
0x1
// 0.063043
0x8
// 0.072702
0x9
// 0.276274
0x23
// 0.015975
0x2
// 0.000029
0x0
// 0.026291
0x3
// 0.057577
0x7
// 0.046374
0x6
// 0.048913
0x6
// 0.043871
0x6
// 0.042512
0x5
// 0.249907
0x20
// 0.106165
0xe
// 0.006607
0x1
// 0.260077
0x21
// 0.029720
0x4
// 0.090367
0xc
// 0.034874
0x4
// 0.025296
0x3
// 0.242022
0x1f
// 0.024548
0x3
// 0.002517
0x0
// 0.043230
0x6
// 0.213279
0x1b
// 0.004631
0x1
// 0.032058
0x4
// 0.002079
0x0
// 0.009612
0x1
// 0.041898
0x5
// 0.079843
0xa