You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference2_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// -0.168927
0xEA
// 0.361979
0x2E
// 0.064391
0x08
// 0.394147
0x32
// 0.149626
0x13
// 0.176439
0x17
// 0.465619
0x3C
// 0.751202
0x60
// -0.101462
0xF3
// -1.196139
0x80
// -0.056683
0xF9
// -0.220758
0xE4
// -0.078988
0xF6
// 0.252953
0x20
// 0.645846
0x53
// 0.427388
0x37
// 0.280253
0x24
// 0.586375
0x4B
// 0.215159
0x1C
// 0.249781
0x20
// 0.884859
0x71
// 0.682988
0x57
// -0.357424
0xD2
// 0.146497
0x13
// 0.404491
0x34
// -0.163901
0xEB
// -0.611237
0xB2
// 0.586301
0x4B
// 0.234419
0x1E
// 0.444912
0x39
// -0.400776
0xCD
// -0.075288
0xF6
// -0.559514
0xB8
// 0.534242
0x44
// -0.026848
0xFD
// 0.136369
0x11
// 0.007563
0x01
// -0.245801
0xE1
// 0.752210
0x60
// 0.001775
0x00
// 0.269360
0x22
// -0.357547
0xD2
// 0.407297
0x34
// 0.039894
0x05
// -0.419258
0xCA
// 0.724240
0x5D
// 0.156440
0x14
// -0.912598
0x8B
// -1.013677
0x80
// 0.194791
0x19
// 1.218372
0x7F
// 0.246948
0x20
// 0.603545
0x4D
// 0.790443
0x65
// -0.466755
0xC4
// 0.668928
0x56
// -0.444724
0xC7
// -0.876698
0x90
// 0.024652
0x03
// 0.205181
0x1A
// -0.288440
0xDB
// 0.077137
0x0A
// -0.082586
0xF5
// 0.015522
0x02
// -0.543582
0xBA
// 0.546439
0x46
// -0.631764
0xAF
// -0.554767
0xB9
// 0.428895
0x37
// -0.638426
0xAE
// 0.222619
0x1C
// 0.112179
0x0E
// -0.695483
0xA7
// -0.309124
0xD8
// 0.641271
0x52
// -0.364454
0xD1
// -0.304849
0xD9
// 0.301141
0x27
// -0.177557
0xE9
// 0.394445
0x32
// -0.141635
0xEE
// -0.414956
0xCB
// 0.570066
0x49
// -0.556114
0xB9
// -0.333145
0xD5
// -0.049961
0xFA
// 0.145431
0x13
// -0.159377
0xEC
// 0.005333
0x01
// 0.288028
0x25
// 0.519844
0x43
// -0.312822
0xD8
// -0.685073
0xA8
// -0.017721
0xFE
// -0.048207
0xFA
// -0.188598
0xE8
// 0.017407
0x02
// 0.095744
0x0C
// 0.451536
0x3A
// -0.463563
0xC5
// 0.214409
0x1B
// 0.124893
0x10
// 0.249963
0x20
// 0.044248
0x06
// 0.640612
0x52
// 0.129493
0x11
// -0.427754
0xC9
// 0.482099
0x3E
// -0.505040
0xBF
// 0.155506
0x14
// 0.439614
0x38
// -0.509563
0xBF
// 0.190802
0x18
// -0.678729
0xA9
// 0.151726
0x13
// -0.194782
0xE7
// -0.257670
0xDF
// -0.104602
0xF3
// 0.013172
0x02
// 0.436225
0x38
// 0.184191
0x18
// -0.868655
0x91
// 0.626536
0x50
// 0.999004
0x7F
// 0.016242
0x02
// -0.932424
0x89
// -0.448209
0xC7
// 0.347505
0x2C
// -0.255354
0xDF
// -0.439521
0xC8
// 0.175751
0x16
// -0.196752
0xE7
// -0.233386
0xE2
// -0.254995
0xDF
// 0.319680
0x29
// 1.184371
0x7F
// 0.416238
0x35
// -0.386355
0xCF
// 0.198972
0x19
// 0.307229
0x27
// 0.187404
0x18
// -0.109675
0xF2
// 0.726124
0x5D
// -0.202149
0xE6
// -0.139720
0xEE
// -0.496293
0xC0
// -0.589584
0xB5
// -0.170326
0xEA
// -0.312358
0xD8
// 0.606589
0x4E
// -0.240409
0xE1
// -0.032143
0xFC
// -0.493660
0xC1
// 0.822397
0x69
// -0.906958
0x8C
// 0.168181
0x16
// -0.275904
0xDD
// 1.022745
0x7F
// 0.218199
0x1C
// -0.066911
0xF7
// 0.581083
0x4A
// -0.285118
0xDC
// 0.579915
0x4A
// -0.141960
0xEE
// -0.279656
0xDC
// 0.249209
0x20
// -0.333599
0xD5
// 0.042497
0x05
// -0.354803
0xD3
// 0.136076
0x11
// -0.665431
0xAB
// 0.085081
0x0B
// 0.090382
0x0C
// -0.034542
0xFC
// -0.605903
0xB2
// 0.350964
0x2D
// -0.060892
0xF8
// -0.048670
0xFA
// 0.162617
0x15
// -0.136306
0xEF
// 0.677100
0x57
// -0.212984
0xE5
// -0.677952
0xA9
// -0.481230
0xC2
// -0.589263
0xB5
// 0.022009
0x03
// 0.426487
0x37
// -0.526758
0xBD
// 0.536519
0x45
// -0.006376
0xFF
// -0.091684
0xF4
// -0.598529
0xB3
// 0.809405
0x68
// -0.457707
0xC5
// -0.151124
0xED
// -0.118957
0xF1
// -0.229696
0xE3
// -0.096922
0xF4
// 0.538118
0x45
// -0.398570
0xCD
// -0.419619
0xCA
// 0.050358
0x06
// -0.180634
0xE9
// -0.704529
0xA6
// -0.384758
0xCF
// -0.312684
0xD8
// 0.859392
0x6E
// -0.391955
0xCE
// -0.734477
0xA2
// -0.073547
0xF7
// 0.558810
0x48
// 0.995476
0x7F
// -0.159769
0xEC
// -0.239674
0xE1
// -0.202300
0xE6
// 0.066108
0x08
// 0.014688
0x02
// -0.396202
0xCD
// 0.091521
0x0C
// 0.017734
0x02
// -0.485556
0xC2
// -0.765982
0x9E
// 0.346202
0x2C
// 0.355220
0x2D
// 1.429482
0x7F
// -0.637530
0xAE
// -0.239861
0xE1
// 0.688464
0x58
// 0.056897
0x07
// -0.328257
0xD6
// 0.147017
0x13
// -0.961079
0x85
// 0.156342
0x14
// 0.436151
0x38
// -0.370580
0xD1
// -0.231177
0xE2
// 0.359781
0x2E
// -0.447034
0xC7
// -0.473494
0xC3
// -0.024030
0xFD
// -0.078729
0xF6
// -0.002070
0x00
// 0.075276
0x0A
// 0.550881
0x47
// -0.413047
0xCB
// 0.611670
0x4E
// -0.076183
0xF6
// 0.263633
0x22
// 0.101482
0x0D
// 0.556887
0x47
// 0.235161
0x1E
// 0.320273
0x29
// -0.303230
0xD9
// 0.194707
0x19
// -0.071471
0xF7
// -0.722521
0xA4