You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference6_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// -0.386374
0xCF
// 0.033773
0x04
// 0.014545
0x02
// -0.010711
0xFF
// -0.481813
0xC2
// 0.038481
0x05
// 0.075931
0x0A
// -0.037788
0xFB
// 0.015569
0x02
// -0.019687
0xFD
// 0.098869
0x0D
// -0.089920
0xF4
// 0.013042
0x02
// -0.012987
0xFE
// 0.011855
0x02
// -0.179076
0xE9
// 0.091204
0x0C
// -0.072104
0xF7
// -0.126258
0xF0
// -0.172666
0xEA
// -0.089755
0xF5
// 0.016217
0x02
// -0.008448
0xFF
// 0.045959
0x06
// -0.246590
0xE0
// -0.036122
0xFB
// 0.500000
0x40
// -0.071953
0xF7
// -0.031394
0xFC
// 0.228395
0x1D
// 0.172195
0x16
// -0.201326
0xE6
// -0.114358
0xF1
// 0.206327
0x1A
// -0.034865
0xFC
// 0.077380
0x0A
// 0.157875
0x14
// 0.046097
0x06
// -0.180479
0xE9
// -0.110070
0xF2
// -0.065805
0xF8
// -0.024721
0xFD
// 0.355669
0x2E
// -0.041585
0xFB
// 0.316194
0x28
// -0.051409
0xF9
// -0.045440
0xFA
// 0.253170
0x20
// 0.308876
0x28
// -0.037390
0xFB
// -0.173763
0xEA
// -0.025042
0xFD
// -0.028796
0xFC
// -0.289246
0xDB
// 0.129267
0x11
// -0.086573
0xF5
// -0.076598
0xF6
// -0.023282
0xFD
// -0.082182
0xF5
// -0.244581
0xE1
// 0.374310
0x30
// -0.034789
0xFC
// -0.158054
0xEC
// 0.160110
0x14
// 0.434613
0x38
// 0.068529
0x09
// 0.167039
0x15
// 0.038854
0x05
// -0.112380
0xF2
// -0.238911
0xE1
// 0.046543
0x06
// -0.257353
0xDF
// 0.056782
0x07
// -0.320927
0xD7
// 0.182699
0x17
// -0.001683
0x00
// -0.196772
0xE7
// -0.099588
0xF3
// 0.126164
0x10
// 0.274010
0x23
// 0.417033
0x35
// 0.433165
0x37
// -0.114277
0xF1
// -0.098281
0xF3
// 0.258084
0x21
// 0.040329
0x05
// 0.167529
0x15
// -0.006584
0xFF
// 0.239621
0x1F
// 0.203646
0x1A
// -0.130262
0xEF
// 0.071967
0x09
// 0.076005
0x0A
// -0.216247
0xE4
// 0.165718
0x15
// -0.147017
0xED
// 0.095005
0x0C
// -0.195968
0xE7
// 0.086524
0x0B
// -0.254936
0xDF
// -0.128542
0xF0
// 0.208379
0x1B
// -0.141442
0xEE
// -0.012111
0xFE
// 0.092002
0x0C
// 0.048628
0x06
// -0.070290
0xF7
// 0.072914
0x09
// 0.101680
0x0D
// 0.058069
0x07
// 0.301563
0x27
// -0.007311
0xFF
// 0.061585
0x08
// -0.066662
0xF7
// -0.075459
0xF6
// 0.070622
0x09
// -0.339191
0xD5
// 0.113609
0x0F
// 0.012354
0x02
// 0.012237
0x02
// 0.048508
0x06
// -0.137888
0xEE
// -0.167265
0xEB
// 0.052226
0x07
// -0.046229
0xFA
// -0.127868
0xF0
// -0.066598
0xF7
// -0.135825
0xEF
// -0.166886
0xEB
// 0.131652
0x11
// 0.010305
0x01
// -0.122268
0xF0
// -0.013282
0xFE
// -0.003221
0x00
// -0.012027
0xFE
// 0.286404
0x25
// 0.079760
0x0A
// 0.383614
0x31
// 0.263139
0x22
// -0.111184
0xF2
// 0.106225
0x0E
// 0.075100
0x0A
// -0.001711
0x00
// 0.272778
0x23
// -0.008954
0xFF
// 0.101836
0x0D
// 0.095798
0x0C
// 0.021414
0x03
// -0.305003
0xD9
// 0.291695
0x25
// -0.240601
0xE1
// 0.235565
0x1E
// -0.171494
0xEA
// 0.213622
0x1B
// -0.116115
0xF1
// 0.004402
0x01
// -0.023282
0xFD
// -0.010742
0xFF
// 0.054649
0x07
// 0.207975
0x1B
// -0.051561
0xF9
// -0.281558
0xDC
// 0.115778
0x0F
// -0.127067
0xF0
// 0.004565
0x01
// 0.043509
0x06
// -0.066525
0xF7
// 0.360312
0x2E
// 0.248666
0x20
// 0.080241
0x0A
// 0.026446
0x03
// -0.159846
0xEC
// -0.080520
0xF6
// -0.133866
0xEF
// 0.272544
0x23
// 0.178238
0x17
// -0.004674
0xFF
// 0.263931
0x22
// 0.043681
0x06
// 0.260567
0x21
// 0.036560
0x05
// 0.251910
0x20
// -0.062354
0xF8
// 0.064738
0x08
// -0.179072
0xE9
// -0.018827
0xFE
// -0.156625
0xEC
// 0.005847
0x01
// -0.004190
0xFF
// 0.141234
0x12
// 0.082476
0x0B
// 0.035679
0x05
// -0.072887
0xF7
// -0.075606
0xF6
// 0.257740
0x21
// -0.110126
0xF2
// 0.076196
0x0A
// 0.143656
0x12
// 0.089143
0x0B
// -0.023303
0xFD
// 0.043685
0x06
// -0.234196
0xE2
// 0.015752
0x02
// -0.126752
0xF0
// -0.117534
0xF1
// -0.000707
0x00
// -0.115221
0xF1
// 0.251854
0x20
// -0.132659
0xEF
// 0.014377
0x02
// 0.218554
0x1C
// -0.157288
0xEC
// -0.180402
0xE9
// 0.319510
0x29
// -0.022449
0xFD
// 0.174013
0x16
// -0.019284
0xFE
// 0.021463
0x03
// -0.141724
0xEE
// -0.122702
0xF0
// -0.194732
0xE7
// -0.051132
0xF9
// -0.224701
0xE3
// 0.004683
0x01
// -0.069902
0xF7
// -0.146469
0xED
// -0.158207
0xEC
// -0.072442
0xF7
// -0.183651
0xE8
// 0.151424
0x13
// 0.192642
0x19
// 0.227693
0x1D
// -0.413327
0xCB
// -0.067121
0xF7
// -0.152709
0xEC
// -0.025679
0xFD
// 0.146515
0x13
// 0.032404
0x04
// -0.187698
0xE8
// 0.096006
0x0C
// -0.122241
0xF0
// -0.029352
0xFC
// -0.142767
0xEE
// 0.141709
0x12
// 0.263231
0x22
// -0.081814
0xF6
// 0.178600
0x17
// -0.034165
0xFC
// 0.098805
0x0D
// -0.188550
0xE8
// -0.011540
0xFF
// -0.115831
0xF1
// 0.447768
0x39
// 0.114295
0x0F
// -0.338862
0xD5
// 0.109931
0x0E