You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference10_q7.txt

515 lines
4.3 KiB
Plaintext

B
256
// 0.181216
0x17
// 0.403627
0x34
// 0.401102
0x33
// 0.107169
0x0E
// 0.156790
0x14
// 0.004570
0x01
// 0.331827
0x2A
// 0.113268
0x0E
// 0.153566
0x14
// 0.266551
0x22
// 0.004763
0x01
// 0.067456
0x09
// 0.331032
0x2A
// 0.583850
0x4B
// 0.386373
0x31
// 0.148613
0x13
// 0.370576
0x2F
// 0.191114
0x18
// 0.416069
0x35
// 0.189754
0x18
// 0.111779
0x0E
// 0.059704
0x08
// 0.453147
0x3A
// 0.111754
0x0E
// 0.407047
0x34
// 0.370378
0x2F
// 0.243746
0x1F
// 0.133592
0x11
// 0.183877
0x18
// 0.114664
0x0F
// 0.493016
0x3F
// 0.135679
0x11
// 0.462306
0x3B
// 0.277181
0x23
// 0.054236
0x07
// 0.008192
0x01
// 0.015219
0x02
// 0.055259
0x07
// 0.024789
0x03
// 0.072613
0x09
// 0.537467
0x45
// 0.083019
0x0B
// 0.179441
0x17
// 0.089441
0x0B
// 0.118568
0x0F
// 0.145730
0x13
// 0.084362
0x0B
// 0.111544
0x0E
// 0.043860
0x06
// 0.215101
0x1C
// 0.096750
0x0C
// 0.035758
0x05
// 0.138523
0x12
// 0.632031
0x51
// 0.069038
0x09
// 0.090767
0x0C
// 0.187000
0x18
// 0.019607
0x03
// 0.110495
0x0E
// 0.121935
0x10
// 0.351894
0x2D
// 0.350039
0x2D
// 0.171155
0x16
// 0.082943
0x0B
// 0.393129
0x32
// 0.090213
0x0C
// 0.691661
0x59
// 0.298561
0x26
// 0.094434
0x0C
// 0.220204
0x1C
// 0.587807
0x4B
// 0.574070
0x49
// 0.273333
0x23
// 0.040472
0x05
// 0.739503
0x5F
// 0.258348
0x21
// 0.213451
0x1B
// 0.234420
0x1E
// 0.392324
0x32
// 0.494684
0x3F
// 0.248444
0x20
// 0.686931
0x58
// 0.268890
0x22
// 0.004379
0x01
// 0.289877
0x25
// 0.041008
0x05
// 0.047418
0x06
// 0.371806
0x30
// 0.386434
0x31
// 0.403290
0x34
// 0.099025
0x0D
// 0.738701
0x5F
// 0.435008
0x38
// 0.413158
0x35
// 0.015681
0x02
// 0.193102
0x19
// 0.336050
0x2B
// 0.008123
0x01
// 0.163857
0x15
// 0.429105
0x37
// 0.123822
0x10
// 0.281398
0x24
// 0.091915
0x0C
// 0.378398
0x30
// 0.068357
0x09
// 0.118549
0x0F
// 0.219348
0x1C
// 0.725306
0x5D
// 0.420273
0x36
// 0.070372
0x09
// 0.318475
0x29
// 0.193068
0x19
// 0.122817
0x10
// 0.082641
0x0B
// 0.038080
0x05
// 0.315395
0x28
// 0.076395
0x0A
// 0.717992
0x5C
// 0.347933
0x2D
// 0.062847
0x08
// 0.530530
0x44
// 0.259621
0x21
// 0.370730
0x2F
// 0.735093
0x5E
// 0.045893
0x06
// 0.030460
0x04
// 0.559008
0x48
// 0.086566
0x0B
// 0.043421
0x06
// 0.551533
0x47
// 0.527201
0x43
// 0.101285
0x0D
// 0.406013
0x34
// 0.826112
0x6A
// 0.630873
0x51
// 0.082319
0x0B
// 0.063211
0x08
// 0.453180
0x3A
// 0.356949
0x2E
// 0.253860
0x20
// 0.326077
0x2A
// 0.046790
0x06
// 0.251059
0x20
// 0.214805
0x1B
// 0.408910
0x34
// 0.381246
0x31
// 0.019856
0x03
// 0.244610
0x1F
// 0.183679
0x18
// 0.132042
0x11
// 0.033642
0x04
// 0.402795
0x34
// 0.044331
0x06
// 0.075293
0x0A
// 0.019273
0x02
// 0.285501
0x25
// 0.106905
0x0E
// 0.405161
0x34
// 0.165000
0x15
// 0.191778
0x19
// 0.269544
0x23
// 0.223239
0x1D
// 0.013358
0x02
// 0.262471
0x22
// 0.137972
0x12
// 0.398347
0x33
// 0.249673
0x20
// 0.081052
0x0A
// 0.330007
0x2A
// 0.083466
0x0B
// 0.268356
0x22
// 0.097671
0x0D
// 0.312330
0x28
// 0.072696
0x09
// 0.111004
0x0E
// 0.485827
0x3E
// 0.200024
0x1A
// 0.654073
0x54
// 0.541300
0x45
// 0.162322
0x15
// 0.567907
0x49
// 0.292542
0x25
// 0.137798
0x12
// 0.040634
0x05
// 0.114305
0x0F
// 0.144029
0x12
// 0.564498
0x48
// 0.002447
0x00
// 0.018589
0x02
// 0.134575
0x11
// 0.421843
0x36
// 0.677000
0x57
// 0.090847
0x0C
// 1.000000
0x7F
// 0.229704
0x1D
// 0.405931
0x34
// 0.151072
0x13
// 0.438213
0x38
// 0.163988
0x15
// 0.046663
0x06
// 0.266505
0x22
// 0.443940
0x39
// 0.018985
0x02
// 0.013731
0x02
// 0.071736
0x09
// 0.051589
0x07
// 0.343928
0x2C
// 0.092136
0x0C
// 0.140217
0x12
// 0.180959
0x17
// 0.136478
0x11
// 0.266551
0x22
// 0.232789
0x1E
// 0.666706
0x55
// 0.428431
0x37
// 0.494374
0x3F
// 0.175770
0x16
// 0.000851
0x00
// 0.485537
0x3E
// 0.152894
0x14
// 0.276610
0x23
// 0.023975
0x03
// 0.141342
0x12
// 0.541801
0x45
// 0.235439
0x1E
// 0.849903
0x6D
// 0.178136
0x17
// 0.002521
0x00
// 0.130783
0x11
// 0.366823
0x2F
// 0.196761
0x19
// 0.384699
0x31
// 0.038078
0x05
// 0.410185
0x35
// 0.009598
0x01
// 0.079587
0x0A
// 0.320836
0x29
// 0.706686
0x5A
// 0.302337
0x27
// 0.519460
0x42
// 0.205545
0x1A
// 0.264143
0x22
// 0.255671
0x21
// 0.382866
0x31
// 0.481653
0x3E
// 0.405366
0x34
// 0.042807
0x05
// 0.134655
0x11
// 0.229266
0x1D
// 0.879790
0x71
// 0.113813
0x0F
// 0.451797
0x3A
// 0.135779
0x11
// 0.632740
0x51
// 0.007305
0x01
// 0.251973
0x20