You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Input28_q7.txt

609 lines
5.2 KiB
Plaintext

B
303
// -0.900000
0x8D
// -0.894040
0x8E
// -0.888079
0x8E
// -0.882119
0x8F
// -0.876159
0x90
// -0.870199
0x91
// -0.864238
0x91
// -0.858278
0x92
// -0.852318
0x93
// -0.846358
0x94
// -0.840397
0x94
// -0.834437
0x95
// -0.828477
0x96
// -0.822517
0x97
// -0.816556
0x97
// -0.810596
0x98
// -0.804636
0x99
// -0.798675
0x9A
// -0.792715
0x9B
// -0.786755
0x9B
// -0.780795
0x9C
// -0.774834
0x9D
// -0.768874
0x9E
// -0.762914
0x9E
// -0.756954
0x9F
// -0.750993
0xA0
// -0.745033
0xA1
// -0.739073
0xA1
// -0.733113
0xA2
// -0.727152
0xA3
// -0.721192
0xA4
// -0.715232
0xA4
// -0.709272
0xA5
// -0.703311
0xA6
// -0.697351
0xA7
// -0.691391
0xA8
// -0.685430
0xA8
// -0.679470
0xA9
// -0.673510
0xAA
// -0.667550
0xAB
// -0.661589
0xAB
// -0.655629
0xAC
// -0.649669
0xAD
// -0.643709
0xAE
// -0.637748
0xAE
// -0.631788
0xAF
// -0.625828
0xB0
// -0.619868
0xB1
// -0.613907
0xB1
// -0.607947
0xB2
// -0.601987
0xB3
// -0.596026
0xB4
// -0.590066
0xB4
// -0.584106
0xB5
// -0.578146
0xB6
// -0.572185
0xB7
// -0.566225
0xB8
// -0.560265
0xB8
// -0.554305
0xB9
// -0.548344
0xBA
// -0.542384
0xBB
// -0.536424
0xBB
// -0.530464
0xBC
// -0.524503
0xBD
// -0.518543
0xBE
// -0.512583
0xBE
// -0.506623
0xBF
// -0.500662
0xC0
// -0.494702
0xC1
// -0.488742
0xC1
// -0.482781
0xC2
// -0.476821
0xC3
// -0.470861
0xC4
// -0.464901
0xC4
// -0.458940
0xC5
// -0.452980
0xC6
// -0.447020
0xC7
// -0.441060
0xC8
// -0.435099
0xC8
// -0.429139
0xC9
// -0.423179
0xCA
// -0.417219
0xCB
// -0.411258
0xCB
// -0.405298
0xCC
// -0.399338
0xCD
// -0.393377
0xCE
// -0.387417
0xCE
// -0.381457
0xCF
// -0.375497
0xD0
// -0.369536
0xD1
// -0.363576
0xD1
// -0.357616
0xD2
// -0.351656
0xD3
// -0.345695
0xD4
// -0.339735
0xD5
// -0.333775
0xD5
// -0.327815
0xD6
// -0.321854
0xD7
// -0.315894
0xD8
// -0.309934
0xD8
// -0.303974
0xD9
// -0.298013
0xDA
// -0.292053
0xDB
// -0.286093
0xDB
// -0.280132
0xDC
// -0.274172
0xDD
// -0.268212
0xDE
// -0.262252
0xDE
// -0.256291
0xDF
// -0.250331
0xE0
// -0.244371
0xE1
// -0.238411
0xE1
// -0.232450
0xE2
// -0.226490
0xE3
// -0.220530
0xE4
// -0.214570
0xE5
// -0.208609
0xE5
// -0.202649
0xE6
// -0.196689
0xE7
// -0.190728
0xE8
// -0.184768
0xE8
// -0.178808
0xE9
// -0.172848
0xEA
// -0.166887
0xEB
// -0.160927
0xEB
// -0.154967
0xEC
// -0.149007
0xED
// -0.143046
0xEE
// -0.137086
0xEE
// -0.131126
0xEF
// -0.125166
0xF0
// -0.119205
0xF1
// -0.113245
0xF2
// -0.107285
0xF2
// -0.101325
0xF3
// -0.095364
0xF4
// -0.089404
0xF5
// -0.083444
0xF5
// -0.077483
0xF6
// -0.071523
0xF7
// -0.065563
0xF8
// -0.059603
0xF8
// -0.053642
0xF9
// -0.047682
0xFA
// -0.041722
0xFB
// -0.035762
0xFB
// -0.029801
0xFC
// -0.023841
0xFD
// -0.017881
0xFE
// -0.011921
0xFE
// -0.005960
0xFF
// 0.000000
0x00
// 0.005960
0x01
// 0.011921
0x02
// 0.017881
0x02
// 0.023841
0x03
// 0.029801
0x04
// 0.035762
0x05
// 0.041722
0x05
// 0.047682
0x06
// 0.053642
0x07
// 0.059603
0x08
// 0.065563
0x08
// 0.071523
0x09
// 0.077483
0x0A
// 0.083444
0x0B
// 0.089404
0x0B
// 0.095364
0x0C
// 0.101325
0x0D
// 0.107285
0x0E
// 0.113245
0x0E
// 0.119205
0x0F
// 0.125166
0x10
// 0.131126
0x11
// 0.137086
0x12
// 0.143046
0x12
// 0.149007
0x13
// 0.154967
0x14
// 0.160927
0x15
// 0.166887
0x15
// 0.172848
0x16
// 0.178808
0x17
// 0.184768
0x18
// 0.190728
0x18
// 0.196689
0x19
// 0.202649
0x1A
// 0.208609
0x1B
// 0.214570
0x1B
// 0.220530
0x1C
// 0.226490
0x1D
// 0.232450
0x1E
// 0.238411
0x1F
// 0.244371
0x1F
// 0.250331
0x20
// 0.256291
0x21
// 0.262252
0x22
// 0.268212
0x22
// 0.274172
0x23
// 0.280132
0x24
// 0.286093
0x25
// 0.292053
0x25
// 0.298013
0x26
// 0.303974
0x27
// 0.309934
0x28
// 0.315894
0x28
// 0.321854
0x29
// 0.327815
0x2A
// 0.333775
0x2B
// 0.339735
0x2B
// 0.345695
0x2C
// 0.351656
0x2D
// 0.357616
0x2E
// 0.363576
0x2F
// 0.369536
0x2F
// 0.375497
0x30
// 0.381457
0x31
// 0.387417
0x32
// 0.393377
0x32
// 0.399338
0x33
// 0.405298
0x34
// 0.411258
0x35
// 0.417219
0x35
// 0.423179
0x36
// 0.429139
0x37
// 0.435099
0x38
// 0.441060
0x38
// 0.447020
0x39
// 0.452980
0x3A
// 0.458940
0x3B
// 0.464901
0x3C
// 0.470861
0x3C
// 0.476821
0x3D
// 0.482781
0x3E
// 0.488742
0x3F
// 0.494702
0x3F
// 0.500662
0x40
// 0.506623
0x41
// 0.512583
0x42
// 0.518543
0x42
// 0.524503
0x43
// 0.530464
0x44
// 0.536424
0x45
// 0.542384
0x45
// 0.548344
0x46
// 0.554305
0x47
// 0.560265
0x48
// 0.566225
0x48
// 0.572185
0x49
// 0.578146
0x4A
// 0.584106
0x4B
// 0.590066
0x4C
// 0.596026
0x4C
// 0.601987
0x4D
// 0.607947
0x4E
// 0.613907
0x4F
// 0.619868
0x4F
// 0.625828
0x50
// 0.631788
0x51
// 0.637748
0x52
// 0.643709
0x52
// 0.649669
0x53
// 0.655629
0x54
// 0.661589
0x55
// 0.667550
0x55
// 0.673510
0x56
// 0.679470
0x57
// 0.685430
0x58
// 0.691391
0x58
// 0.697351
0x59
// 0.703311
0x5A
// 0.709272
0x5B
// 0.715232
0x5C
// 0.721192
0x5C
// 0.727152
0x5D
// 0.733113
0x5E
// 0.739073
0x5F
// 0.745033
0x5F
// 0.750993
0x60
// 0.756954
0x61
// 0.762914
0x62
// 0.768874
0x62
// 0.774834
0x63
// 0.780795
0x64
// 0.786755
0x65
// 0.792715
0x65
// 0.798675
0x66
// 0.804636
0x67
// 0.810596
0x68
// 0.816556
0x69
// 0.822517
0x69
// 0.828477
0x6A
// 0.834437
0x6B
// 0.840397
0x6C
// 0.846358
0x6C
// 0.852318
0x6D
// 0.858278
0x6E
// 0.864238
0x6F
// 0.870199
0x6F
// 0.876159
0x70
// 0.882119
0x71
// 0.888079
0x72
// 0.894040
0x72
// 0.900000
0x73