You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference4_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// -0.181216
0xE9
// 0.403627
0x34
// -0.401102
0xCD
// 0.107169
0x0E
// -0.156790
0xEC
// -0.004570
0xFF
// -0.331827
0xD6
// 0.113268
0x0E
// 0.153566
0x14
// -0.266551
0xDE
// -0.004763
0xFF
// 0.067456
0x09
// -0.331032
0xD6
// 0.583850
0x4B
// 0.386373
0x31
// 0.148613
0x13
// -0.370576
0xD1
// 0.191114
0x18
// 0.416069
0x35
// 0.189754
0x18
// 0.111779
0x0E
// -0.059704
0xF8
// 0.453147
0x3A
// 0.111754
0x0E
// -0.407047
0xCC
// -0.370378
0xD1
// 0.243746
0x1F
// 0.133592
0x11
// 0.183877
0x18
// 0.114664
0x0F
// 0.493016
0x3F
// 0.135679
0x11
// -0.462306
0xC5
// -0.277181
0xDD
// -0.054236
0xF9
// -0.008192
0xFF
// 0.015219
0x02
// -0.055259
0xF9
// -0.024789
0xFD
// 0.072613
0x09
// -0.537467
0xBB
// 0.083019
0x0B
// 0.179441
0x17
// 0.089441
0x0B
// -0.118568
0xF1
// -0.145730
0xED
// 0.084362
0x0B
// 0.111544
0x0E
// -0.043860
0xFA
// -0.215101
0xE4
// 0.096750
0x0C
// 0.035758
0x05
// -0.138523
0xEE
// 0.632031
0x51
// -0.069038
0xF7
// -0.090767
0xF4
// 0.187000
0x18
// -0.019607
0xFD
// 0.110495
0x0E
// -0.121935
0xF0
// -0.351894
0xD3
// 0.350039
0x2D
// -0.171155
0xEA
// 0.082943
0x0B
// -0.393129
0xCE
// -0.090213
0xF4
// -0.691661
0xA7
// 0.298561
0x26
// -0.094434
0xF4
// -0.220204
0xE4
// 0.587807
0x4B
// -0.574070
0xB7
// -0.273333
0xDD
// -0.040472
0xFB
// 0.739503
0x5F
// -0.258348
0xDF
// -0.213451
0xE5
// -0.234420
0xE2
// 0.392324
0x32
// 0.494684
0x3F
// 0.248444
0x20
// -0.686931
0xA8
// -0.268890
0xDE
// -0.004379
0xFF
// 0.289877
0x25
// -0.041008
0xFB
// -0.047418
0xFA
// -0.371806
0xD0
// 0.386434
0x31
// 0.403290
0x34
// -0.099025
0xF3
// 0.738701
0x5F
// -0.435008
0xC8
// -0.413158
0xCB
// 0.015681
0x02
// -0.193102
0xE7
// 0.336050
0x2B
// -0.008123
0xFF
// -0.163857
0xEB
// -0.429105
0xC9
// -0.123822
0xF0
// 0.281398
0x24
// 0.091915
0x0C
// 0.378398
0x30
// -0.068357
0xF7
// -0.118549
0xF1
// -0.219348
0xE4
// 0.725306
0x5D
// 0.420273
0x36
// 0.070372
0x09
// -0.318475
0xD7
// -0.193068
0xE7
// -0.122817
0xF0
// 0.082641
0x0B
// 0.038080
0x05
// 0.315395
0x28
// -0.076395
0xF6
// 0.717992
0x5C
// 0.347933
0x2D
// -0.062847
0xF8
// -0.530530
0xBC
// 0.259621
0x21
// -0.370730
0xD1
// -0.735093
0xA2
// 0.045893
0x06
// 0.030460
0x04
// -0.559008
0xB8
// -0.086566
0xF5
// 0.043421
0x06
// 0.551533
0x47
// -0.527201
0xBD
// 0.101285
0x0D
// 0.406013
0x34
// -0.826112
0x96
// -0.630873
0xAF
// -0.082319
0xF5
// 0.063211
0x08
// 0.453180
0x3A
// 0.356949
0x2E
// 0.253860
0x20
// 0.326077
0x2A
// 0.046790
0x06
// 0.251059
0x20
// -0.214805
0xE5
// 0.408910
0x34
// -0.381246
0xCF
// -0.019856
0xFD
// 0.244610
0x1F
// -0.183679
0xE8
// -0.132042
0xEF
// -0.033642
0xFC
// 0.402795
0x34
// 0.044331
0x06
// 0.075293
0x0A
// 0.019273
0x02
// -0.285501
0xDB
// -0.106905
0xF2
// -0.405161
0xCC
// -0.165000
0xEB
// 0.191778
0x19
// 0.269544
0x23
// 0.223239
0x1D
// 0.013358
0x02
// 0.262471
0x22
// -0.137972
0xEE
// 0.398347
0x33
// 0.249673
0x20
// 0.081052
0x0A
// 0.330007
0x2A
// 0.083466
0x0B
// 0.268356
0x22
// -0.097671
0xF3
// -0.312330
0xD8
// -0.072696
0xF7
// 0.111004
0x0E
// 0.485827
0x3E
// -0.200024
0xE6
// -0.654073
0xAC
// 0.541300
0x45
// 0.162322
0x15
// 0.567907
0x49
// 0.292542
0x25
// -0.137798
0xEE
// -0.040634
0xFB
// -0.114305
0xF1
// 0.144029
0x12
// -0.564498
0xB8
// 0.002447
0x00
// -0.018589
0xFE
// -0.134575
0xEF
// 0.421843
0x36
// 0.677000
0x57
// -0.090847
0xF4
// -1.000000
0x80
// -0.229704
0xE3
// -0.405931
0xCC
// -0.151072
0xED
// 0.438213
0x38
// -0.163988
0xEB
// 0.046663
0x06
// 0.266505
0x22
// -0.443940
0xC7
// 0.018985
0x02
// -0.013731
0xFE
// -0.071736
0xF7
// -0.051589
0xF9
// -0.343928
0xD4
// 0.092136
0x0C
// 0.140217
0x12
// 0.180959
0x17
// -0.136478
0xEF
// -0.266551
0xDE
// 0.232789
0x1E
// 0.666706
0x55
// -0.428431
0xC9
// 0.494374
0x3F
// 0.175770
0x16
// -0.000851
0x00
// -0.485537
0xC2
// 0.152894
0x14
// -0.276610
0xDD
// -0.023975
0xFD
// 0.141342
0x12
// 0.541801
0x45
// 0.235439
0x1E
// -0.849903
0x93
// -0.178136
0xE9
// 0.002521
0x00
// 0.130783
0x11
// -0.366823
0xD1
// -0.196761
0xE7
// -0.384699
0xCF
// -0.038078
0xFB
// 0.410185
0x35
// 0.009598
0x01
// -0.079587
0xF6
// -0.320836
0xD7
// 0.706686
0x5A
// 0.302337
0x27
// -0.519460
0xBE
// -0.205545
0xE6
// 0.264143
0x22
// -0.255671
0xDF
// -0.382866
0xCF
// -0.481653
0xC2
// -0.405366
0xCC
// 0.042807
0x05
// -0.134655
0xEF
// 0.229266
0x1D
// 0.879790
0x71
// 0.113813
0x0F
// 0.451797
0x3A
// 0.135779
0x11
// -0.632740
0xAF
// -0.007305
0xFF
// 0.251973
0x20