You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference6_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// -0.032252
0xFC
// -0.019309
0xFE
// 0.067469
0x09
// 0.206060
0x1A
// -0.053667
0xF9
// 0.214576
0x1B
// -0.108087
0xF2
// -0.196812
0xE7
// -0.100103
0xF3
// 0.362546
0x2E
// -0.061061
0xF8
// -0.005862
0xFF
// -0.054031
0xF9
// 0.113355
0x0F
// -0.155197
0xEC
// 0.046985
0x06
// -0.073148
0xF7
// -0.323757
0xD7
// -0.160529
0xEB
// 0.003091
0x00
// 0.271782
0x23
// 0.113561
0x0F
// 0.244052
0x1F
// 0.020489
0x03
// 0.230357
0x1D
// -0.263212
0xDE
// 0.026230
0x03
// 0.011520
0x01
// -0.016952
0xFE
// 0.230954
0x1E
// -0.032673
0xFC
// -0.040708
0xFB
// -0.219133
0xE4
// -0.297573
0xDA
// -0.217594
0xE4
// 0.221436
0x1C
// -0.021300
0xFD
// -0.038548
0xFB
// -0.216368
0xE4
// 0.151857
0x13
// -0.125257
0xF0
// 0.117933
0x0F
// -0.233034
0xE2
// 0.260626
0x21
// -0.188317
0xE8
// -0.346883
0xD4
// -0.425557
0xCA
// 0.217784
0x1C
// 0.033564
0x04
// 0.109987
0x0E
// 0.236792
0x1E
// -0.185166
0xE8
// 0.213847
0x1B
// -0.470524
0xC4
// 0.158157
0x14
// 0.022411
0x03
// -0.192283
0xE7
// -0.173999
0xEA
// -0.598565
0xB3
// -0.055627
0xF9
// 0.139663
0x12
// 0.034703
0x04
// -0.104321
0xF3
// -0.104054
0xF3
// 0.075676
0x0A
// 0.375517
0x30
// 0.167634
0x15
// 0.123278
0x10
// 0.125277
0x10
// -0.188129
0xE8
// -0.302651
0xD9
// -0.074964
0xF6
// -0.306345
0xD9
// 0.185966
0x18
// -0.212228
0xE5
// -0.382537
0xCF
// -0.413060
0xCB
// 0.066807
0x09
// 0.103261
0x0D
// -0.173720
0xEA
// 0.086353
0x0B
// 0.079178
0x0A
// 0.032684
0x04
// 0.023609
0x03
// 0.236661
0x1E
// -0.135917
0xEF
// 0.293190
0x26
// 0.174259
0x16
// 0.172706
0x16
// -0.212223
0xE5
// 0.371036
0x2F
// 0.130130
0x11
// -0.091406
0xF4
// 0.250573
0x20
// -0.140251
0xEE
// -0.194273
0xE7
// -0.135367
0xEF
// -0.213631
0xE5
// 0.226185
0x1D
// 0.057452
0x07
// -0.043967
0xFA
// 0.363538
0x2F
// 0.072148
0x09
// -0.209187
0xE5
// 0.035985
0x05
// 0.178419
0x17
// 0.299451
0x26
// 0.298834
0x26
// 0.297958
0x26
// 0.316511
0x29
// 0.099246
0x0D
// -0.096305
0xF4
// -0.068706
0xF7
// 0.022828
0x03
// 0.310920
0x28
// 0.031063
0x04
// 0.179253
0x17
// 0.093697
0x0C
// 0.282381
0x24
// -0.000191
0x00
// -0.088907
0xF5
// -0.097834
0xF3
// -0.017726
0xFE
// 0.071593
0x09
// 0.237814
0x1E
// -0.002979
0x00
// -0.326982
0xD6
// 0.084402
0x0B
// 0.102767
0x0D
// 0.162206
0x15
// -0.093920
0xF4
// -0.178916
0xE9
// 0.314628
0x28
// -0.127984
0xF0
// -0.100074
0xF3
// 0.118186
0x0F
// 0.010831
0x01
// -0.252970
0xE0
// -0.152968
0xEC
// 0.243671
0x1F
// -0.243097
0xE1
// -0.212474
0xE5
// -0.096543
0xF4
// -0.122796
0xF0
// 0.116895
0x0F
// -0.227504
0xE3
// -0.096487
0xF4
// 0.109836
0x0E
// 0.065035
0x08
// 0.259998
0x21
// -0.040688
0xFB
// -0.386146
0xCF
// -0.231040
0xE2
// 0.261130
0x21
// 0.052993
0x07
// -0.110161
0xF2
// 0.123763
0x10
// 0.189622
0x18
// 0.214162
0x1B
// 0.004927
0x01
// 0.340339
0x2C
// -0.004052
0xFF
// 0.012547
0x02
// -0.169225
0xEA
// 0.122016
0x10
// -0.072299
0xF7
// -0.065687
0xF8
// 0.128546
0x10
// 0.136899
0x12
// 0.072856
0x09
// 0.055178
0x07
// 0.163872
0x15
// 0.126676
0x10
// 0.055599
0x07
// 0.120372
0x0F
// 0.072046
0x09
// 0.177382
0x17
// -0.094962
0xF4
// 0.171229
0x16
// -0.080314
0xF6
// -0.169078
0xEA
// 0.048573
0x06
// -0.200220
0xE6
// -0.085681
0xF5
// 0.025117
0x03
// -0.293146
0xDA
// -0.017348
0xFE
// 0.277557
0x24
// -0.345004
0xD4
// 0.104297
0x0D
// 0.248273
0x20
// 0.099700
0x0D
// -0.186274
0xE8
// 0.412200
0x35
// 0.392732
0x32
// -0.094248
0xF4
// -0.077573
0xF6
// 0.134639
0x11
// 0.244522
0x1F
// 0.089579
0x0B
// -0.139793
0xEE
// -0.011133
0xFF
// -0.143857
0xEE
// -0.102539
0xF3
// 0.091716
0x0C
// -0.089775
0xF5
// -0.306145
0xD9
// 0.125525
0x10
// -0.084695
0xF5
// -0.111131
0xF2
// -0.257849
0xDF
// -0.076193
0xF6
// -0.183622
0xE8
// 0.181501
0x17
// -0.157863
0xEC
// 0.500000
0x40
// 0.071554
0x09
// 0.130141
0x11
// 0.422455
0x36
// -0.014594
0xFE
// -0.212324
0xE5
// 0.269555
0x23
// 0.045344
0x06
// 0.041929
0x05
// 0.048795
0x06
// -0.196561
0xE7
// -0.145021
0xED
// 0.142367
0x12
// 0.065640
0x08
// -0.107291
0xF2
// 0.074583
0x0A
// 0.118037
0x0F
// -0.184965
0xE8
// 0.130834
0x11
// -0.077440
0xF6
// 0.014459
0x02
// 0.119083
0x0F
// 0.168571
0x16
// -0.157386
0xEC
// -0.195916
0xE7
// -0.122881
0xF0
// 0.174866
0x16
// 0.132829
0x11
// -0.385000
0xCF
// -0.248361
0xE0
// 0.081584
0x0A
// 0.180778
0x17
// -0.097800
0xF3
// -0.013550
0xFE
// 0.235327
0x1E
// -0.080336
0xF6
// -0.074135
0xF7
// 0.250361
0x20
// -0.039299
0xFB
// -0.048638
0xFA
// -0.419490
0xCA