dengzhihao
/
CMSIS-DSP
0
0
Fork 0
Code Issues Pull Requests Packages Projects Releases Wiki Activity
You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
hotfix
gh-pages
main
v1.14.4
v1.14.3
v1.14.2
v1.14.1
v1.14.0
v1.13.0
v1.12.0
v1.11.0
v1.10.1
Branches Tags
${ item.name }
Create tag ${ searchTerm }
Create branch ${ searchTerm }
from '2a7714ced7'
${ noResults }
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference29_q7.txt

579 lines
4.9 KiB
Plaintext
Raw Blame History

B
288
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.500000
0xC0
// -0.494702
0xC1
// -0.488742
0xC1
// -0.482781
0xC2
// -0.476821
0xC3
// -0.470861
0xC4
// -0.464901
0xC4
// -0.458940
0xC5
// -0.452980
0xC6
// -0.447020
0xC7
// -0.441060
0xC8
// -0.435099
0xC8
// -0.429139
0xC9
// -0.423179
0xCA
// -0.417219
0xCB
// -0.411258
0xCB
// -0.405298
0xCC
// -0.399338
0xCD
// -0.393377
0xCE
// -0.387417
0xCE
// -0.381457
0xCF
// -0.375497
0xD0
// -0.369536
0xD1
// -0.363576
0xD1
// -0.357616
0xD2
// -0.351656
0xD3
// -0.345695
0xD4
// -0.339735
0xD5
// -0.333775
0xD5
// -0.327815
0xD6
// -0.321854
0xD7
// -0.315894
0xD8
// -0.309934
0xD8
// -0.303974
0xD9
// -0.298013
0xDA
// -0.292053
0xDB
// -0.286093
0xDB
// -0.280132
0xDC
// -0.274172
0xDD
// -0.268212
0xDE
// -0.262252
0xDE
// -0.256291
0xDF
// -0.250331
0xE0
// -0.244371
0xE1
// -0.238411
0xE1
// -0.232450
0xE2
// -0.226490
0xE3
// -0.220530
0xE4
// -0.214570
0xE5
// -0.208609
0xE5
// -0.202649
0xE6
// -0.196689
0xE7
// -0.190728
0xE8
// -0.184768
0xE8
// -0.178808
0xE9
// -0.172848
0xEA
// -0.166887
0xEB
// -0.160927
0xEB
// -0.154967
0xEC
// -0.149007
0xED
// -0.143046
0xEE
// -0.137086
0xEE
// -0.131126
0xEF
// -0.125166
0xF0
// -0.119205
0xF1
// -0.113245
0xF2
// -0.107285
0xF2
// -0.101325
0xF3
// -0.095364
0xF4
// -0.089404
0xF5
// -0.083444
0xF5
// -0.077483
0xF6
// -0.071523
0xF7
// -0.065563
0xF8
// -0.059603
0xF8
// -0.053642
0xF9
// -0.047682
0xFA
// -0.041722
0xFB
// -0.035762
0xFB
// -0.029801
0xFC
// -0.023841
0xFD
// -0.017881
0xFE
// -0.011921
0xFE
// -0.005960
0xFF
// 0.000000
0x00
// 0.005960
0x01
// 0.011921
0x02
// 0.017881
0x02
// 0.023841
0x03
// 0.029801
0x04
// 0.035762
0x05
// 0.041722
0x05
// 0.047682
0x06
// 0.053642
0x07
// 0.059603
0x08
// 0.065563
0x08
// 0.071523
0x09
// 0.077483
0x0A
// 0.083444
0x0B
// 0.089404
0x0B
// 0.095364
0x0C
// 0.101325
0x0D
// 0.107285
0x0E
// 0.113245
0x0E
// 0.119205
0x0F
// 0.125166
0x10
// 0.131126
0x11
// 0.137086
0x12
// 0.143046
0x12
// 0.149007
0x13
// 0.154967
0x14
// 0.160927
0x15
// 0.166887
0x15
// 0.172848
0x16
// 0.178808
0x17
// 0.184768
0x18
// 0.190728
0x18
// 0.196689
0x19
// 0.202649
0x1A
// 0.208609
0x1B
// 0.214570
0x1B
// 0.220530
0x1C
// 0.226490
0x1D
// 0.232450
0x1E
// 0.238411
0x1F
// 0.244371
0x1F
// 0.250331
0x20
// 0.256291
0x21
// 0.262252
0x22
// 0.268212
0x22
// 0.274172
0x23
// 0.280132
0x24
// 0.286093
0x25
// 0.292053
0x25
// 0.298013
0x26
// 0.303974
0x27
// 0.309934
0x28
// 0.315894
0x28
// 0.321854
0x29
// 0.327815
0x2A
// 0.333775
0x2B
// 0.339735
0x2B
// 0.345695
0x2C
// 0.351656
0x2D
// 0.357616
0x2E
// 0.363576
0x2F
// 0.369536
0x2F
// 0.375497
0x30
// 0.381457
0x31
// 0.387417
0x32
// 0.393377
0x32
// 0.399338
0x33
// 0.405298
0x34
// 0.411258
0x35
// 0.417219
0x35
// 0.423179
0x36
// 0.429139
0x37
// 0.435099
0x38
// 0.441060
0x38
// 0.447020
0x39
// 0.452980
0x3A
// 0.458940
0x3B
// 0.464901
0x3C
// 0.470861
0x3C
// 0.476821
0x3D
// 0.482781
0x3E
// 0.488742
0x3F
// 0.494702
0x3F
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
// 0.500000
0x40
Reference in New Issue View Git Blame Copy Permalink