You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference3_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// 0.021544
0x03
// -0.017502
0xFE
// -0.107432
0xF2
// -0.014941
0xFE
// -0.028797
0xFC
// 0.000097
0x00
// -0.036918
0xFB
// 0.017257
0x02
// -0.053207
0xF9
// -0.119664
0xF1
// 0.000435
0x00
// 0.006927
0x01
// -0.024599
0xFD
// 0.135241
0x11
// 0.016424
0x02
// -0.022860
0xFD
// -0.185517
0xE8
// 0.052030
0x07
// 0.087073
0x0B
// 0.054335
0x07
// 0.036920
0x05
// -0.023440
0xFD
// -0.087431
0xF5
// 0.018131
0x02
// -0.029849
0xFC
// 0.036770
0x05
// -0.061821
0xF8
// -0.012755
0xFE
// -0.038695
0xFB
// 0.063765
0x08
// 0.045794
0x06
// 0.015187
0x02
// 0.006151
0x01
// -0.049417
0xFA
// 0.013893
0x02
// 0.004026
0x01
// 0.003348
0x00
// 0.000656
0x00
// 0.022620
0x03
// -0.007186
0xFF
// 0.207260
0x1B
// -0.009492
0xFF
// -0.077826
0xF6
// -0.015529
0xFE
// -0.020049
0xFD
// 0.022284
0x03
// -0.084362
0xF5
// 0.017446
0x02
// 0.002012
0x00
// 0.053978
0x07
// 0.018914
0x02
// -0.003255
0x00
// 0.042569
0x05
// 0.187710
0x18
// 0.001053
0x00
// -0.009744
0xFF
// 0.011942
0x02
// -0.001901
0x00
// 0.001809
0x00
// 0.051813
0x07
// -0.143360
0xEE
// 0.141423
0x12
// 0.015177
0x02
// 0.031851
0x04
// -0.008671
0xFF
// 0.000681
0x00
// -0.188668
0xE8
// 0.020190
0x03
// 0.035292
0x05
// 0.040645
0x05
// 0.089165
0x0B
// 0.231474
0x1E
// -0.053614
0xF9
// -0.000301
0x00
// -0.031081
0xFC
// -0.054262
0xF9
// 0.049664
0x06
// -0.045172
0xFA
// 0.112728
0x0E
// 0.119807
0x0F
// 0.069669
0x09
// 0.122403
0x10
// -0.065795
0xF8
// 0.000376
0x00
// -0.065530
0xF8
// -0.013314
0xFE
// 0.000493
0x00
// -0.040405
0xFB
// -0.068163
0xF7
// -0.112925
0xF2
// 0.053098
0x07
// 0.232590
0x1E
// -0.136050
0xEF
// -0.046607
0xFA
// 0.002808
0x00
// -0.047243
0xFA
// 0.123125
0x10
// -0.001056
0x00
// 0.009458
0x01
// 0.149875
0x13
// 0.007010
0x01
// 0.017778
0x02
// -0.004879
0xFF
// 0.214504
0x1B
// 0.010145
0x01
// 0.055272
0x07
// -0.091991
0xF4
// 0.208246
0x1B
// 0.000214
0x00
// 0.030970
0x04
// 0.106081
0x0E
// -0.006109
0xFF
// -0.026738
0xFD
// 0.000736
0x00
// -0.015192
0xFE
// -0.027305
0xFD
// 0.015376
0x02
// -0.249354
0xE0
// 0.079536
0x0A
// 0.002278
0x00
// 0.119253
0x0F
// -0.043692
0xFA
// -0.056021
0xF9
// -0.444999
0xC7
// -0.005824
0xFF
// 0.000348
0x00
// -0.193492
0xE7
// 0.006273
0x01
// -0.005764
0xFF
// 0.014586
0x02
// 0.003834
0x00
// -0.058491
0xF9
// 0.025183
0x03
// -0.080097
0xF6
// 0.338555
0x2B
// 0.013623
0x02
// -0.038796
0xFB
// -0.028430
0xFC
// -0.063543
0xF8
// -0.037966
0xFB
// -0.028868
0xFC
// 0.018139
0x02
// 0.044461
0x06
// -0.127742
0xF0
// -0.022144
0xFD
// 0.032667
0x04
// -0.006704
0xFF
// -0.040172
0xFB
// -0.018785
0xFE
// -0.023707
0xFD
// 0.003755
0x00
// 0.078971
0x0A
// 0.003783
0x00
// 0.003565
0x00
// -0.002479
0x00
// 0.001956
0x00
// -0.069585
0xF7
// -0.084370
0xF5
// -0.016255
0xFE
// 0.005520
0x01
// 0.054088
0x07
// 0.003577
0x00
// 0.005186
0x01
// 0.069681
0x09
// 0.069047
0x09
// 0.078696
0x0A
// -0.060242
0xF8
// -0.038911
0xFB
// -0.036002
0xFB
// -0.020995
0xFD
// -0.051669
0xF9
// -0.003022
0x00
// -0.017885
0xFE
// -0.005264
0xFF
// 0.054692
0x07
// 0.129937
0x11
// 0.112971
0x0E
// -0.025395
0xFD
// -0.029475
0xFC
// -0.011256
0xFF
// -0.140276
0xEE
// -0.042344
0xFB
// 0.037356
0x05
// -0.006960
0xFF
// -0.017055
0xFE
// 0.014132
0x02
// 0.064729
0x08
// -0.000836
0x00
// -0.004538
0xFF
// 0.035251
0x05
// 0.143153
0x12
// 0.221579
0x1C
// -0.051935
0xF9
// 0.816942
0x69
// 0.008773
0x01
// 0.279636
0x24
// 0.041432
0x05
// 0.162031
0x15
// -0.014487
0xFE
// 0.035164
0x05
// 0.061091
0x08
// 0.053786
0x07
// -0.005598
0xFF
// -0.000172
0x00
// 0.013739
0x02
// 0.023980
0x03
// 0.077064
0x0A
// 0.007059
0x01
// 0.001858
0x00
// -0.065378
0xF8
// 0.013752
0x02
// -0.022887
0xFD
// -0.102683
0xF3
// 0.060744
0x08
// -0.178331
0xE9
// 0.110577
0x0E
// -0.105434
0xF3
// -0.000016
0x00
// -0.098922
0xF3
// -0.127286
0xF0
// -0.023523
0xFD
// -0.009678
0xFF
// 0.059703
0x08
// 0.160412
0x15
// 0.079664
0x0A
// -0.147345
0xED
// 0.040544
0x05
// -0.001049
0x00
// -0.005961
0xFF
// 0.030518
0x04
// 0.046610
0x06
// 0.068688
0x09
// -0.017533
0xFE
// 0.139943
0x12
// -0.000321
0x00
// -0.010157
0xFF
// 0.008496
0x01
// 0.012035
0x02
// -0.010197
0xFF
// -0.182242
0xE9
// 0.048724
0x06
// 0.094690
0x0C
// 0.021746
0x03
// 0.024648
0x03
// -0.191948
0xE7
// -0.199375
0xE6
// 0.011179
0x01
// -0.002022
0x00
// 0.015250
0x02
// 0.254429
0x21
// 0.042404
0x05
// -0.009411
0xFF
// -0.083754
0xF5
// -0.123821
0xF0
// 0.000719
0x00
// -0.050949
0xF9