You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference5_q7.txt

515 lines
4.3 KiB
Plaintext

B
256
// 0.681216
0x57
// 0.096373
0x0C
// 0.901102
0x73
// 0.392831
0x32
// 0.656790
0x54
// 0.504570
0x41
// 0.831827
0x6A
// 0.386732
0x32
// 0.346434
0x2C
// 0.766551
0x62
// 0.504763
0x41
// 0.432544
0x37
// 0.831032
0x6A
// -0.083850
0xF5
// 0.113627
0x0F
// 0.351387
0x2D
// 0.870576
0x6F
// 0.308886
0x28
// 0.083931
0x0B
// 0.310246
0x28
// 0.388221
0x32
// 0.559704
0x48
// 0.046853
0x06
// 0.388246
0x32
// 0.907047
0x74
// 0.870378
0x6F
// 0.256254
0x21
// 0.366408
0x2F
// 0.316123
0x28
// 0.385336
0x31
// 0.006984
0x01
// 0.364321
0x2F
// 0.962306
0x7B
// 0.777181
0x63
// 0.554236
0x47
// 0.508192
0x41
// 0.484781
0x3E
// 0.555259
0x47
// 0.524789
0x43
// 0.427387
0x37
// 1.037467
0x7F
// 0.416981
0x35
// 0.320559
0x29
// 0.410559
0x35
// 0.618568
0x4F
// 0.645730
0x53
// 0.415638
0x35
// 0.388456
0x32
// 0.543860
0x46
// 0.715101
0x5C
// 0.403250
0x34
// 0.464242
0x3B
// 0.638523
0x52
// -0.132031
0xEF
// 0.569038
0x49
// 0.590767
0x4C
// 0.313000
0x28
// 0.519607
0x43
// 0.389505
0x32
// 0.621935
0x50
// 0.851894
0x6D
// 0.149961
0x13
// 0.671155
0x56
// 0.417057
0x35
// 0.893129
0x72
// 0.590213
0x4C
// 1.191661
0x7F
// 0.201439
0x1A
// 0.594434
0x4C
// 0.720204
0x5C
// -0.087807
0xF5
// 1.074070
0x7F
// 0.773333
0x63
// 0.540472
0x45
// -0.239503
0xE1
// 0.758348
0x61
// 0.713451
0x5B
// 0.734420
0x5E
// 0.107676
0x0E
// 0.005316
0x01
// 0.251556
0x20
// 1.186931
0x7F
// 0.768890
0x62
// 0.504379
0x41
// 0.210123
0x1B
// 0.541008
0x45
// 0.547418
0x46
// 0.871806
0x70
// 0.113566
0x0F
// 0.096710
0x0C
// 0.599025
0x4D
// -0.238701
0xE1
// 0.935008
0x78
// 0.913158
0x75
// 0.484319
0x3E
// 0.693102
0x59
// 0.163950
0x15
// 0.508123
0x41
// 0.663857
0x55
// 0.929105
0x77
// 0.623822
0x50
// 0.218602
0x1C
// 0.408085
0x34
// 0.121602
0x10
// 0.568357
0x49
// 0.618549
0x4F
// 0.719348
0x5C
// -0.225306
0xE3
// 0.079727
0x0A
// 0.429628
0x37
// 0.818475
0x69
// 0.693068
0x59
// 0.622817
0x50
// 0.417359
0x35
// 0.461920
0x3B
// 0.184605
0x18
// 0.576395
0x4A
// -0.217992
0xE4
// 0.152067
0x13
// 0.562847
0x48
// 1.030530
0x7F
// 0.240379
0x1F
// 0.870730
0x6F
// 1.235093
0x7F
// 0.454107
0x3A
// 0.469540
0x3C
// 1.059008
0x7F
// 0.586566
0x4B
// 0.456579
0x3A
// -0.051533
0xF9
// 1.027201
0x7F
// 0.398715
0x33
// 0.093987
0x0C
// 1.326112
0x7F
// 1.130873
0x7F
// 0.582319
0x4B
// 0.436789
0x38
// 0.046820
0x06
// 0.143051
0x12
// 0.246140
0x20
// 0.173923
0x16
// 0.453210
0x3A
// 0.248941
0x20
// 0.714805
0x5B
// 0.091090
0x0C
// 0.881246
0x71
// 0.519856
0x43
// 0.255390
0x21
// 0.683679
0x58
// 0.632042
0x51
// 0.533642
0x44
// 0.097205
0x0C
// 0.455669
0x3A
// 0.424707
0x36
// 0.480727
0x3E
// 0.785501
0x65
// 0.606905
0x4E
// 0.905161
0x74
// 0.665000
0x55
// 0.308222
0x27
// 0.230456
0x1D
// 0.276761
0x23
// 0.486642
0x3E
// 0.237529
0x1E
// 0.637972
0x52
// 0.101653
0x0D
// 0.250327
0x20
// 0.418948
0x36
// 0.169993
0x16
// 0.416534
0x35
// 0.231644
0x1E
// 0.597671
0x4D
// 0.812330
0x68
// 0.572696
0x49
// 0.388996
0x32
// 0.014173
0x02
// 0.700024
0x5A
// 1.154073
0x7F
// -0.041300
0xFB
// 0.337678
0x2B
// -0.067907
0xF7
// 0.207458
0x1B
// 0.637798
0x52
// 0.540634
0x45
// 0.614305
0x4F
// 0.355971
0x2E
// 1.064498
0x7F
// 0.497553
0x40
// 0.518589
0x42
// 0.634575
0x51
// 0.078157
0x0A
// -0.177000
0xE9
// 0.590847
0x4C
// 1.500000
0x7F
// 0.729704
0x5D
// 0.905931
0x74
// 0.651072
0x53
// 0.061787
0x08
// 0.663988
0x55
// 0.453337
0x3A
// 0.233495
0x1E
// 0.943940
0x79
// 0.481015
0x3E
// 0.513731
0x42
// 0.571736
0x49
// 0.551589
0x47
// 0.843928
0x6C
// 0.407864
0x34
// 0.359783
0x2E
// 0.319041
0x29
// 0.636478
0x51
// 0.766551
0x62
// 0.267211
0x22
// -0.166706
0xEB
// 0.928431
0x77
// 0.005626
0x01
// 0.324230
0x2A
// 0.500851
0x40
// 0.985537
0x7E
// 0.347106
0x2C
// 0.776610
0x63
// 0.523975
0x43
// 0.358658
0x2E
// -0.041801
0xFB
// 0.264561
0x22
// 1.349903
0x7F
// 0.678136
0x57
// 0.497479
0x40
// 0.369217
0x2F
// 0.866823
0x6F
// 0.696761
0x59
// 0.884699
0x71
// 0.538078
0x45
// 0.089815
0x0B
// 0.490402
0x3F
// 0.579587
0x4A
// 0.820836
0x69
// -0.206686
0xE6
// 0.197663
0x19
// 1.019460
0x7F
// 0.705545
0x5A
// 0.235857
0x1E
// 0.755671
0x61
// 0.882866
0x71
// 0.981653
0x7E
// 0.905366
0x74
// 0.457193
0x3B
// 0.634655
0x51
// 0.270734
0x23
// -0.379790
0xCF
// 0.386187
0x31
// 0.048203
0x06
// 0.364221
0x2F
// 1.132740
0x7F
// 0.507305
0x41
// 0.248027
0x20