You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference6_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// 0.090608
0x0C
// -0.201814
0xE6
// 0.200551
0x1A
// -0.053584
0xF9
// 0.078395
0x0A
// 0.002285
0x00
// 0.165913
0x15
// -0.056634
0xF9
// -0.076783
0xF6
// 0.133276
0x11
// 0.002381
0x00
// -0.033728
0xFC
// 0.165516
0x15
// -0.291925
0xDB
// -0.193187
0xE7
// -0.074306
0xF6
// 0.185288
0x18
// -0.095557
0xF4
// -0.208034
0xE5
// -0.094877
0xF4
// -0.055890
0xF9
// 0.029852
0x04
// -0.226574
0xE3
// -0.055877
0xF9
// 0.203524
0x1A
// 0.185189
0x18
// -0.121873
0xF0
// -0.066796
0xF7
// -0.091939
0xF4
// -0.057332
0xF9
// -0.246508
0xE0
// -0.067839
0xF7
// 0.231153
0x1E
// 0.138591
0x12
// 0.027118
0x03
// 0.004096
0x01
// -0.007609
0xFF
// 0.027629
0x04
// 0.012394
0x02
// -0.036307
0xFB
// 0.268733
0x22
// -0.041509
0xFB
// -0.089720
0xF5
// -0.044721
0xFA
// 0.059284
0x08
// 0.072865
0x09
// -0.042181
0xFB
// -0.055772
0xF9
// 0.021930
0x03
// 0.107550
0x0E
// -0.048375
0xFA
// -0.017879
0xFE
// 0.069261
0x09
// -0.316016
0xD8
// 0.034519
0x04
// 0.045383
0x06
// -0.093500
0xF4
// 0.009803
0x01
// -0.055247
0xF9
// 0.060968
0x08
// 0.175947
0x17
// -0.175019
0xEA
// 0.085578
0x0B
// -0.041472
0xFB
// 0.196564
0x19
// 0.045107
0x06
// 0.345830
0x2C
// -0.149281
0xED
// 0.047217
0x06
// 0.110102
0x0E
// -0.293904
0xDA
// 0.287035
0x25
// 0.136666
0x11
// 0.020236
0x03
// -0.369752
0xD1
// 0.129174
0x11
// 0.106725
0x0E
// 0.117210
0x0F
// -0.196162
0xE7
// -0.247342
0xE0
// -0.124222
0xF0
// 0.343465
0x2C
// 0.134445
0x11
// 0.002190
0x00
// -0.144938
0xED
// 0.020504
0x03
// 0.023709
0x03
// 0.185903
0x18
// -0.193217
0xE7
// -0.201645
0xE6
// 0.049512
0x06
// -0.369351
0xD1
// 0.217504
0x1C
// 0.206579
0x1A
// -0.007841
0xFF
// 0.096551
0x0C
// -0.168025
0xEA
// 0.004061
0x01
// 0.081929
0x0A
// 0.214553
0x1B
// 0.061911
0x08
// -0.140699
0xEE
// -0.045958
0xFA
// -0.189199
0xE8
// 0.034178
0x04
// 0.059274
0x08
// 0.109674
0x0E
// -0.362653
0xD2
// -0.210136
0xE5
// -0.035186
0xFB
// 0.159238
0x14
// 0.096534
0x0C
// 0.061408
0x08
// -0.041320
0xFB
// -0.019040
0xFE
// -0.157698
0xEC
// 0.038198
0x05
// -0.358996
0xD2
// -0.173966
0xEA
// 0.031423
0x04
// 0.265265
0x22
// -0.129810
0xEF
// 0.185365
0x18
// 0.367546
0x2F
// -0.022947
0xFD
// -0.015230
0xFE
// 0.279504
0x24
// 0.043283
0x06
// -0.021710
0xFD
// -0.275766
0xDD
// 0.263601
0x22
// -0.050643
0xFA
// -0.203007
0xE6
// 0.413056
0x35
// 0.315437
0x28
// 0.041160
0x05
// -0.031605
0xFC
// -0.226590
0xE3
// -0.178474
0xE9
// -0.126930
0xF0
// -0.163038
0xEB
// -0.023395
0xFD
// -0.125530
0xF0
// 0.107403
0x0E
// -0.204455
0xE6
// 0.190623
0x18
// 0.009928
0x01
// -0.122305
0xF0
// 0.091839
0x0C
// 0.066021
0x08
// 0.016821
0x02
// -0.201398
0xE6
// -0.022166
0xFD
// -0.037647
0xFB
// -0.009636
0xFF
// 0.142750
0x12
// 0.053452
0x07
// 0.202580
0x1A
// 0.082500
0x0B
// -0.095889
0xF4
// -0.134772
0xEF
// -0.111620
0xF2
// -0.006679
0xFF
// -0.131235
0xEF
// 0.068986
0x09
// -0.199174
0xE7
// -0.124837
0xF0
// -0.040526
0xFB
// -0.165003
0xEB
// -0.041733
0xFB
// -0.134178
0xEF
// 0.048835
0x06
// 0.156165
0x14
// 0.036348
0x05
// -0.055502
0xF9
// -0.242914
0xE1
// 0.100012
0x0D
// 0.327036
0x2A
// -0.270650
0xDD
// -0.081161
0xF6
// -0.283954
0xDC
// -0.146271
0xED
// 0.068899
0x09
// 0.020317
0x03
// 0.057153
0x07
// -0.072014
0xF7
// 0.282249
0x24
// -0.001223
0x00
// 0.009295
0x01
// 0.067288
0x09
// -0.210922
0xE5
// -0.338500
0xD5
// 0.045424
0x06
// 0.500000
0x40
// 0.114852
0x0F
// 0.202965
0x1A
// 0.075536
0x0A
// -0.219106
0xE4
// 0.081994
0x0A
// -0.023331
0xFD
// -0.133253
0xEF
// 0.221970
0x1C
// -0.009492
0xFF
// 0.006866
0x01
// 0.035868
0x05
// 0.025795
0x03
// 0.171964
0x16
// -0.046068
0xFA
// -0.070108
0xF7
// -0.090479
0xF4
// 0.068239
0x09
// 0.133276
0x11
// -0.116394
0xF1
// -0.333353
0xD5
// 0.214215
0x1B
// -0.247187
0xE0
// -0.087885
0xF5
// 0.000425
0x00
// 0.242769
0x1F
// -0.076447
0xF6
// 0.138305
0x12
// 0.011988
0x02
// -0.070671
0xF7
// -0.270901
0xDD
// -0.117719
0xF1
// 0.424952
0x36
// 0.089068
0x0B
// -0.001261
0x00
// -0.065391
0xF8
// 0.183412
0x17
// 0.098380
0x0D
// 0.192349
0x19
// 0.019039
0x02
// -0.205093
0xE6
// -0.004799
0xFF
// 0.039793
0x05
// 0.160418
0x15
// -0.353343
0xD3
// -0.151168
0xED
// 0.259730
0x21
// 0.102772
0x0D
// -0.132071
0xEF
// 0.127835
0x10
// 0.191433
0x19
// 0.240827
0x1F
// 0.202683
0x1A
// -0.021403
0xFD
// 0.067327
0x09
// -0.114633
0xF1
// -0.439895
0xC8
// -0.056906
0xF9
// -0.225898
0xE3
// -0.067890
0xF7
// 0.316370
0x28
// 0.003653
0x00
// -0.125987
0xF0