You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference3_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// 0.031041
0x04
// 0.050784
0x07
// 0.021524
0x03
// -0.037786
0xFB
// 0.000693
0x00
// 0.053675
0x07
// -0.022329
0xFD
// -0.062266
0xF8
// -0.002062
0x00
// -0.346159
0xD4
// 0.004212
0x01
// 0.001757
0x00
// 0.009014
0x01
// 0.297272
0x26
// -0.104137
0xF3
// -0.044266
0xFA
// 0.214671
0x1B
// -0.065804
0xF8
// 0.068427
0x09
// -0.015546
0xFE
// -0.083342
0xF5
// -0.003511
0x00
// -0.007178
0xFF
// 0.853503
0x6D
// -0.037748
0xFB
// -0.006529
0xFF
// -0.008248
0xFF
// -0.085875
0xF5
// -0.009201
0xFF
// -0.048576
0xFA
// -0.003432
0x00
// 0.018930
0x02
// -0.062627
0xF8
// 0.110634
0x0E
// 0.140130
0x12
// 0.391398
0x32
// 0.002030
0x00
// -0.005385
0xFF
// -0.137237
0xEE
// 0.011617
0x01
// 0.044251
0x06
// -0.006609
0xFF
// -0.028982
0xFC
// 0.144148
0x12
// -0.022396
0xFD
// -0.130411
0xEF
// 0.122255
0x10
// -0.194451
0xE7
// -0.244825
0xE1
// -0.002958
0x00
// -0.240350
0xE1
// 0.003930
0x01
// -0.087906
0xF5
// -0.031234
0xFC
// -0.030906
0xFC
// -0.031374
0xFC
// -0.031164
0xFC
// -0.093784
0xF4
// 0.152781
0x14
// 0.020691
0x03
// 0.047319
0x06
// -0.001190
0x00
// 0.059863
0x08
// 0.007077
0x01
// -0.059548
0xF8
// 0.148608
0x13
// -0.085665
0xF5
// -0.075282
0xF6
// -0.008300
0xFF
// 0.066386
0x08
// 0.010860
0x01
// -0.002514
0x00
// 0.025692
0x03
// 0.087873
0x0B
// -0.084295
0xF5
// -0.017403
0xFE
// -0.020100
0xFD
// -0.022000
0xFD
// 0.022500
0x03
// -0.005700
0xFF
// 0.020087
0x03
// 0.021758
0x03
// 0.164862
0x15
// -0.069863
0xF7
// -0.027255
0xFD
// -0.000377
0x00
// 0.012426
0x02
// -0.000441
0x00
// 0.056853
0x07
// -0.018892
0xFE
// -0.057351
0xF9
// -0.022463
0xFD
// -0.111215
0xF2
// 0.205653
0x1A
// 0.028767
0x04
// 0.009626
0x01
// 0.043976
0x06
// 0.057828
0x07
// -0.011511
0xFF
// -0.038163
0xFB
// 0.031012
0x04
// 0.012657
0x02
// -0.008223
0xFF
// 0.005374
0x01
// -0.100867
0xF3
// 0.030435
0x04
// -0.031656
0xFC
// -0.058020
0xF9
// -0.063530
0xF8
// -0.002650
0x00
// -0.043009
0xFA
// 0.103123
0x0D
// -0.009077
0xFF
// -0.096084
0xF4
// 0.156231
0x14
// 0.018620
0x02
// -0.014049
0xFE
// 0.002572
0x00
// 0.082163
0x0B
// -0.045564
0xFA
// 0.100274
0x0D
// -0.178675
0xE9
// 0.049239
0x06
// -0.225949
0xE3
// 0.185818
0x18
// -0.163633
0xEB
// 0.063519
0x08
// -0.027318
0xFD
// 0.023429
0x03
// -0.030973
0xFC
// -0.007066
0xFF
// -0.009678
0xFF
// -0.008540
0xFF
// -0.014019
0xFE
// -0.024651
0xFD
// -0.334984
0xD5
// -0.037394
0xFB
// -0.015785
0xFE
// 0.191713
0x19
// -0.017290
0xFE
// -0.007747
0xFF
// 0.014530
0x02
// -0.125771
0xF0
// -0.001151
0x00
// 0.238199
0x1E
// -0.061476
0xF8
// -0.076309
0xF6
// 0.112269
0x0E
// -0.018619
0xFE
// 0.393411
0x32
// 0.025788
0x03
// 0.048212
0x06
// -0.037626
0xFB
// -0.039054
0xFB
// -0.170441
0xEA
// -0.006195
0xFF
// -0.018545
0xFE
// -0.244790
0xE1
// 0.095391
0x0C
// 0.423833
0x36
// -0.065432
0xF8
// 0.312918
0x28
// -0.076875
0xF6
// 0.020480
0x03
// -0.018674
0xFE
// 0.272367
0x23
// 0.094762
0x0C
// 0.107601
0x0E
// -0.010854
0xFF
// 0.027117
0x03
// 0.002709
0x00
// -0.000277
0x00
// 0.018040
0x02
// 0.109474
0x0E
// 0.100039
0x0D
// 0.282284
0x24
// 0.087682
0x0B
// 0.009835
0x01
// 0.027342
0x03
// 0.080621
0x0A
// -0.114547
0xF1
// 0.247688
0x20
// -0.066811
0xF7
// 0.134401
0x11
// -0.060348
0xF8
// 0.005537
0x01
// 0.009188
0x01
// 0.001910
0x00
// -0.071917
0xF7
// 0.001210
0x00
// 0.014736
0x02
// 0.021961
0x03
// -0.163574
0xEB
// -0.042781
0xFB
// 0.022377
0x03
// 0.068911
0x09
// 0.164101
0x15
// 0.029610
0x04
// -0.064338
0xF8
// 0.026460
0x03
// -0.033158
0xFC
// 0.040724
0x05
// 0.107231
0x0E
// -0.087657
0xF5
// 0.068653
0x09
// -0.006781
0xFF
// 0.013490
0x02
// 0.024486
0x03
// 0.015066
0x02
// 0.086329
0x0B
// 0.014096
0x02
// -0.247742
0xE0
// -0.006163
0xFF
// -0.013973
0xFE
// 0.030519
0x04
// 0.000142
0x00
// 0.107696
0x0E
// -0.022520
0xFD
// 0.118332
0x0F
// 0.041869
0x05
// -0.017728
0xFE
// -0.108500
0xF2
// 0.398289
0x33
// 0.025885
0x03
// -0.470929
0xC4
// 0.082239
0x0B
// -0.009615
0xFF
// 0.008691
0x01
// 0.018792
0x02
// -0.004614
0xFF
// -0.004501
0xFF
// -0.229564
0xE3
// -0.005568
0xFF
// 0.001836
0x00
// 0.007522
0x01
// -0.006985
0xFF
// -0.030925
0xFC
// -0.033700
0xFC
// -0.006568
0xFF
// -0.000041
0x00
// 0.002682
0x00
// 0.000202
0x00
// 0.005120
0x01
// -0.052215
0xF9
// -0.025773
0xFD
// -0.003707
0x00
// -0.001223
0x00
// -0.015702
0xFE
// 0.094491
0x0C
// 0.073763
0x09
// 0.175371
0x16
// 0.060434
0x08
// -0.017294
0xFE
// 0.035464
0x05
// 0.041998
0x05
// -0.019343
0xFE