You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference3_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// 0.150871
0x13
// -0.001235
0x00
// 0.068009
0x09
// -0.027587
0xFC
// 0.619842
0x4F
// 0.005972
0x01
// -0.014384
0xFE
// 0.009581
0x01
// 0.022593
0x03
// -0.027634
0xFC
// 0.102989
0x0D
// 0.094173
0x0C
// -0.000349
0x00
// -0.008330
0xFF
// -0.001302
0x00
// -0.021140
0xFD
// -0.013911
0xFE
// 0.080725
0x0A
// 0.010224
0x01
// -0.041681
0xFB
// 0.099494
0x0D
// -0.022727
0xFD
// -0.366623
0xD1
// -0.070855
0xF7
// -0.031042
0xFC
// 0.036753
0x05
// 0.028789
0x04
// -0.043151
0xFA
// -0.037829
0xFB
// -0.065384
0xF8
// -0.014573
0xFE
// 0.004386
0x01
// -0.024534
0xFD
// -0.045426
0xFA
// 0.028607
0x04
// 0.062876
0x08
// 0.140566
0x12
// 0.003734
0x00
// 0.018136
0x02
// 0.332679
0x2B
// -0.077515
0xF6
// 0.161428
0x15
// -0.110851
0xF2
// 0.026331
0x03
// 0.077780
0x0A
// 0.024475
0x03
// -0.063063
0xF8
// -0.093599
0xF4
// 0.031507
0x04
// -0.061232
0xF8
// 0.259905
0x21
// 0.153106
0x14
// 0.041840
0x05
// -0.190979
0xE8
// 0.043891
0x06
// 0.013863
0x02
// -0.151459
0xED
// 0.016832
0x02
// 0.041183
0x05
// -0.337839
0xD5
// 0.007461
0x01
// -0.038146
0xFB
// 0.007095
0x01
// 0.043185
0x06
// -0.110659
0xF2
// -0.064667
0xF8
// 0.001573
0x00
// 0.047914
0x06
// 0.033215
0x04
// 0.000171
0x00
// -0.086397
0xF5
// 0.021104
0x03
// -0.113113
0xF2
// 0.044639
0x06
// -0.012671
0xFE
// -0.012946
0xFE
// 0.111815
0x0E
// 0.023043
0x03
// -0.077200
0xF6
// -0.136578
0xEF
// -0.072020
0xF7
// 0.037742
0x05
// 0.087511
0x0B
// -0.054329
0xF9
// -0.000304
0x00
// 0.022784
0x03
// -0.007887
0xFF
// 0.003151
0x00
// 0.071421
0x09
// 0.004268
0x01
// -0.104182
0xF3
// -0.005983
0xFF
// -0.007784
0xFF
// 0.010666
0x01
// 0.020089
0x03
// 0.013613
0x02
// 0.013508
0x02
// -0.162415
0xEB
// 0.184782
0x18
// 0.038943
0x05
// 0.048678
0x06
// 0.156160
0x14
// 0.000137
0x00
// -0.093018
0xF4
// -0.200826
0xE6
// 0.001284
0x00
// 0.092154
0x0C
// -0.381932
0xCF
// -0.047713
0xFA
// 0.166171
0x15
// 0.199431
0x1A
// 0.089741
0x0B
// 0.005283
0x01
// 0.224560
0x1D
// 0.005622
0x01
// 0.107772
0x0E
// -0.000340
0x00
// -0.232649
0xE2
// -0.040870
0xFB
// -0.001810
0x00
// 0.027137
0x03
// -0.068923
0xF7
// -0.017893
0xFE
// -0.084336
0xF5
// 0.070259
0x09
// -0.030680
0xFC
// 0.040127
0x05
// -0.094252
0xF4
// -0.002978
0x00
// 0.037803
0x05
// -0.021295
0xFD
// -0.096210
0xF4
// -0.017860
0xFE
// -0.003124
0x00
// -0.001587
0x00
// 0.024724
0x03
// 0.189198
0x18
// -0.031363
0xFC
// 0.110421
0x0E
// -0.000214
0x00
// -0.135162
0xEF
// -0.018006
0xFE
// 0.041335
0x05
// 0.083775
0x0B
// 0.141755
0x12
// 0.144843
0x13
// 0.355486
0x2E
// -0.007453
0xFF
// 0.120082
0x0F
// 0.064515
0x08
// -0.088151
0xF5
// -0.148095
0xED
// -0.292943
0xDB
// 0.147443
0x13
// 0.006034
0x01
// -0.030465
0xFC
// -0.030077
0xFC
// -0.001175
0x00
// 0.024448
0x03
// -0.066410
0xF7
// -0.063104
0xF8
// -0.054323
0xF9
// 0.055380
0x07
// -0.163484
0xEB
// -0.023283
0xFD
// -0.103160
0xF3
// 0.093579
0x0C
// 0.036953
0x05
// -0.107302
0xF2
// -0.525496
0xBD
// -0.024449
0xFD
// -0.129314
0xEF
// 0.000033
0x00
// -0.014460
0xFE
// 0.089161
0x0B
// -0.106025
0xF2
// -0.057190
0xF9
// -0.033596
0xFC
// -0.003918
0xFF
// -0.021709
0xFD
// -0.002174
0x00
// -0.154092
0xEC
// 0.338881
0x2B
// -0.056196
0xF9
// -0.008484
0xFF
// -0.013550
0xFE
// -0.117724
0xF1
// -0.139566
0xEE
// -0.019025
0xFE
// 0.031028
0x04
// 0.080705
0x0A
// 0.028663
0x04
// 0.104196
0x0D
// -0.280070
0xDC
// -0.023776
0xFD
// 0.003332
0x00
// -0.315854
0xD8
// -0.044266
0xFA
// 0.024631
0x03
// -0.055515
0xF9
// 0.161333
0x15
// -0.027239
0xFD
// 0.091037
0x0C
// 0.047738
0x06
// 0.169034
0x16
// 0.003578
0x00
// -0.070173
0xF7
// 0.296473
0x26
// -0.006542
0xFF
// 0.121746
0x10
// 0.006714
0x01
// 0.142334
0x12
// 0.048239
0x06
// -0.247319
0xE0
// -0.020328
0xFD
// 0.055008
0x07
// -0.021125
0xFD
// 0.123764
0x10
// 0.076213
0x0A
// 0.090290
0x0C
// 0.320628
0x29
// -0.045560
0xFA
// 0.000131
0x00
// -0.044545
0xFA
// 0.026560
0x03
// 0.057942
0x07
// 0.013256
0x02
// -0.037697
0xFB
// -0.047298
0xFA
// -0.088425
0xF5
// 0.025672
0x03
// -0.014634
0xFE
// -0.365637
0xD1
// 0.059488
0x08
// 0.040389
0x05
// -0.034957
0xFC
// -0.295521
0xDA
// 0.055857
0x07
// 0.060314
0x08
// 0.268986
0x22
// -0.258369
0xDF
// 0.193179
0x19
// 0.084545
0x0B
// -0.001241
0x00
// 0.000100
0x00
// -0.022432
0xFD
// 0.028643
0x04
// -0.123417
0xF0
// -0.135408
0xEF
// -0.028728
0xFC
// 0.070340
0x09
// 0.024662
0x03
// 0.013435
0x02
// 0.073725
0x09
// 0.029077
0x04
// -0.035997
0xFB