You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference1_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// -0.390767
0xCE
// 0.578071
0x4A
// 0.300400
0x26
// -0.064864
0xF8
// -0.158617
0xEC
// 0.495815
0x3F
// -0.357052
0xD2
// -0.561464
0xB8
// 0.045259
0x06
// 0.214737
0x1B
// 0.141641
0x12
// -0.236142
0xE2
// -0.205662
0xE6
// 1.119407
0x7F
// -0.023905
0xFD
// 0.074821
0x0A
// -0.968104
0x84
// -0.283938
0xDC
// 0.565686
0x48
// -0.014431
0xFE
// -0.670528
0xAA
// -0.672629
0xAA
// -0.314709
0xD8
// -1.853503
0x80
// -0.112337
0xF2
// 0.027336
0x03
// 0.583627
0x4B
// -0.015768
0xFE
// -0.134717
0xEF
// -0.060353
0xF8
// -0.383267
0xCF
// 0.285284
0x25
// -0.250098
0xE0
// 0.853199
0x6D
// 0.749160
0x60
// -1.258645
0x80
// 0.090432
0x0C
// 0.197177
0x19
// -0.129891
0xEF
// -0.215567
0xE4
// 0.499560
0x40
// -0.318437
0xD7
// 0.223521
0x1D
// 0.760383
0x61
// 0.293585
0x26
// 0.053653
0x07
// 0.716584
0x5C
// 0.234586
0x1E
// -0.219634
0xE4
// -0.161597
0xEB
// 0.723209
0x5D
// -0.276952
0xDD
// -0.112433
0xF2
// 0.707011
0x5A
// -0.306981
0xD9
// 0.567425
0x49
// 0.270417
0x23
// -0.627268
0xB0
// 0.782134
0x64
// -0.353359
0xD3
// -0.521989
0xBD
// 0.034486
0x04
// 0.496260
0x40
// 0.168968
0x16
// -0.239352
0xE1
// 0.945001
0x79
// -0.237625
0xE2
// -0.081487
0xF6
// -0.388268
0xCE
// 0.820447
0x69
// 0.304958
0x27
// -0.050277
0xFA
// -0.765808
0x9E
// -0.668618
0xAA
// -0.272121
0xDD
// 0.251426
0x20
// -0.111950
0xF2
// 0.051821
0x07
// -0.348605
0xD3
// -0.364400
0xD1
// -0.316872
0xD7
// 0.509138
0x41
// -0.992181
0x81
// -0.172658
0xEA
// -0.044343
0xFA
// 0.031407
0x04
// 0.266184
0x22
// 0.153738
0x14
// 0.476906
0x3D
// -0.085984
0xF5
// -0.202076
0xE6
// -0.089478
0xF5
// 0.156410
0x14
// 0.907153
0x74
// -0.342625
0xD4
// 0.272161
0x23
// -0.419769
0xCA
// -0.490387
0xC1
// 0.397293
0x33
// -0.249481
0xE0
// -0.412336
0xCB
// 0.257344
0x21
// -0.172022
0xEA
// -0.153146
0xEC
// 0.083153
0x0B
// -0.372165
0xD0
// -0.237380
0xE2
// 0.018381
0x02
// -0.030725
0xFC
// -0.116542
0xF1
// 0.145680
0x13
// -0.819846
0x97
// -0.009879
0xFF
// -0.276290
0xDD
// -0.804950
0x99
// 0.335291
0x2B
// -0.100991
0xF3
// -0.145706
0xED
// 0.573432
0x49
// 0.089647
0x0B
// -0.659561
0xAC
// 0.199656
0x1A
// -0.767791
0x9E
// -0.306937
0xD9
// 0.862284
0x6E
// 0.463553
0x3B
// -0.674513
0xAA
// -0.107184
0xF2
// -0.398649
0xCD
// -0.263228
0xDE
// -0.051233
0xF9
// -0.000460
0x00
// -0.142512
0xEE
// -0.094595
0xF4
// -0.059932
0xF8
// -0.250597
0xE0
// 0.153882
0x14
// 0.293478
0x26
// -0.898021
0x8D
// 0.158838
0x14
// 0.064295
0x08
// 0.264857
0x22
// 0.155468
0x14
// 0.190423
0x18
// -0.986062
0x82
// 0.020115
0x03
// 0.205850
0x1A
// 0.691437
0x59
// 0.151961
0x13
// 1.393411
0x7F
// 0.401182
0x33
// -0.440321
0xC8
// -0.305283
0xD9
// -0.721193
0xA4
// 0.375243
0x30
// -0.059197
0xF8
// 0.044081
0x06
// 0.258553
0x21
// 0.655115
0x54
// 1.303767
0x7F
// -0.275550
0xDD
// -1.154540
0x80
// 0.169714
0x16
// -0.319487
0xD7
// -0.059271
0xF8
// 1.073115
0x7F
// -0.700241
0xA6
// 0.657426
0x54
// -0.287177
0xDB
// 0.356351
0x2E
// -0.673524
0xAA
// 0.078307
0x0A
// -0.283422
0xDC
// -0.662639
0xAB
// 0.875941
0x70
// 1.119067
0x7F
// -0.595346
0xB4
// 0.204228
0x1A
// 0.368527
0x2F
// -0.584006
0xB5
// -0.016617
0xFE
// 1.017897
0x7F
// -0.438608
0xC8
// 0.877032
0x70
// 0.325330
0x2A
// -0.150447
0xED
// -0.467595
0xC4
// 0.533959
0x44
// 0.013534
0x02
// -0.069872
0xF7
// -0.259522
0xDF
// -0.667893
0xAB
// -0.029000
0xFC
// -0.195888
0xE7
// -0.335183
0xD5
// 0.538327
0x45
// 0.842119
0x6C
// -0.357538
0xD2
// -0.179492
0xE9
// 0.514490
0x42
// -0.208438
0xE5
// -0.406733
0xCC
// 0.679375
0x57
// -0.381748
0xCF
// -0.650116
0xAD
// -0.265796
0xDE
// -0.890232
0x8E
// 0.501570
0x40
// -0.774417
0x9D
// -0.592221
0xB4
// 0.607166
0x4E
// 0.001760
0x00
// 0.029546
0x04
// 0.039392
0x05
// -0.403736
0xCC
// 0.070277
0x09
// 0.656506
0x54
// -0.258643
0xDF
// 0.694048
0x59
// -0.409623
0xCC
// -0.406018
0xCC
// 0.390807
0x32
// -1.308821
0x80
// -0.479292
0xC3
// 0.399628
0x33
// -0.857556
0x92
// -0.138101
0xEE
// 0.713265
0x5B
// 0.280009
0x24
// -0.298823
0xDA
// -0.060079
0xF8
// 0.073605
0x09
// 0.046594
0x06
// -0.444490
0xC7
// -0.409166
0xCC
// -0.159698
0xEC
// 0.075774
0x0A
// -0.255032
0xDF
// 0.444889
0x39
// 0.020334
0x03
// -0.130101
0xEF
// -0.028533
0xFC
// -0.161705
0xEB
// 0.307590
0x27
// 0.259841
0x21
// 0.599425
0x4D
// 0.030165
0x04
// -0.081809
0xF6
// 0.623107
0x50
// -0.777931
0x9C
// 0.869934
0x6F
// -0.586781
0xB5
// -0.150899
0xED
// -0.423989
0xCA
// 0.416055
0x35
// -0.666832
0xAB