You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference3_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// -0.003953
0xFF
// 0.102686
0x0D
// 0.003096
0x00
// 0.010374
0x01
// -0.006888
0xFF
// -0.051269
0xF9
// -0.038379
0xFB
// 0.014261
0x02
// -0.052232
0xF9
// -0.017937
0xFE
// 0.001337
0x00
// 0.001206
0x00
// 0.113162
0x0E
// -0.007924
0xFF
// 0.124921
0x10
// 0.064433
0x08
// -0.022191
0xFD
// 0.144033
0x12
// -0.163218
0xEB
// -0.287807
0xDB
// -0.179420
0xE9
// 0.090758
0x0C
// 0.006225
0x01
// 0.068414
0x09
// -0.068357
0xF7
// 0.048462
0x06
// 0.025146
0x03
// 0.017733
0x02
// -0.349646
0xD3
// -0.064020
0xF8
// -0.121602
0xF0
// -0.085217
0xF5
// -0.017146
0xFE
// 0.015240
0x02
// -0.040862
0xFB
// -0.449067
0xC7
// -0.193387
0xE7
// 0.029864
0x04
// -0.332099
0xD5
// -0.014855
0xFE
// 0.068609
0x09
// 0.163732
0x15
// 0.012900
0x02
// -0.070890
0xF7
// 0.028411
0x04
// 0.092175
0x0C
// -0.119400
0xF1
// 0.029203
0x04
// -0.007609
0xFF
// -0.032885
0xFC
// -0.032504
0xFC
// 0.161228
0x15
// -0.098663
0xF3
// -0.004396
0xFF
// 0.102847
0x0D
// 0.010784
0x01
// -0.122797
0xF0
// -0.011391
0xFF
// 0.030879
0x04
// -0.066423
0xF7
// -0.051000
0xF9
// -0.062332
0xF8
// 0.079208
0x0A
// -0.001433
0x00
// -0.019726
0xFD
// -0.001062
0x00
// 0.139747
0x12
// 0.007116
0x01
// 0.000529
0x00
// -0.012485
0xFE
// -0.009170
0xFF
// 0.007670
0x01
// 0.039630
0x05
// -0.007042
0xFF
// -0.064851
0xF8
// -0.013803
0xFE
// -0.019662
0xFD
// -0.030699
0xFC
// -0.104131
0xF3
// -0.000226
0x00
// -0.032243
0xFC
// 0.067253
0x09
// 0.055635
0x07
// 0.086950
0x0B
// -0.058169
0xF9
// -0.231115
0xE2
// 0.165531
0x15
// 0.036924
0x05
// -0.004058
0xFF
// -0.075186
0xF6
// 0.024182
0x03
// 0.005479
0x01
// 0.142359
0x12
// -0.005861
0xFF
// 0.037939
0x05
// 0.005835
0x01
// 0.123724
0x10
// -0.026978
0xFD
// 0.010894
0x01
// 0.007338
0x01
// 0.011462
0x01
// -0.103596
0xF3
// 0.039602
0x05
// -0.038851
0xFB
// 0.015685
0x02
// -0.042517
0xFB
// -0.005001
0xFF
// -0.205785
0xE6
// -0.023273
0xFD
// 0.001797
0x00
// -0.009095
0xFF
// -0.092561
0xF4
// -0.018511
0xFE
// 0.009959
0x01
// -0.000921
0x00
// 0.140445
0x12
// -0.018178
0xFE
// -0.052596
0xF9
// -0.014732
0xFE
// 0.154981
0x14
// -0.000274
0x00
// -0.001468
0x00
// 0.130360
0x11
// 0.005689
0x01
// 0.031985
0x04
// 0.026629
0x03
// 0.054376
0x07
// -0.000536
0x00
// -0.096622
0xF4
// 0.078178
0x0A
// -0.022476
0xFD
// 0.024894
0x03
// -0.049031
0xFA
// -0.176237
0xE9
// -0.208223
0xE5
// 0.014198
0x02
// -0.006224
0xFF
// 0.027730
0x04
// 0.022536
0x03
// 0.444605
0x39
// 0.038556
0x05
// 0.043294
0x06
// -0.094652
0xF4
// -0.039845
0xFB
// 0.132677
0x11
// -0.011696
0xFF
// 0.015661
0x02
// 0.160506
0x15
// 0.049064
0x06
// -0.024984
0xFD
// -0.009158
0xFF
// -0.079812
0xF6
// -0.001805
0x00
// 0.039185
0x05
// -0.114580
0xF1
// 0.134850
0x11
// -0.846078
0x94
// -0.069554
0xF7
// -0.040325
0xFB
// 0.156731
0x14
// -0.006757
0xFF
// -0.041593
0xFB
// 0.000437
0x00
// -0.061527
0xF8
// -0.266702
0xDE
// -0.000312
0x00
// 0.004456
0x01
// -0.002954
0x00
// -0.018719
0xFE
// -0.088047
0xF5
// -0.005196
0xFF
// -0.035160
0xFB
// -0.000924
0x00
// 0.021553
0x03
// -0.074976
0xF6
// 0.006975
0x01
// 0.050926
0x07
// -0.012976
0xFE
// -0.060558
0xF8
// -0.145601
0xED
// 0.021774
0x03
// 0.072961
0x09
// -0.005333
0xFF
// 0.120408
0x0F
// 0.027820
0x04
// 0.314983
0x28
// -0.005199
0xFF
// -0.005285
0xFF
// -0.059170
0xF8
// -0.027267
0xFD
// -0.001619
0x00
// -0.217059
0xE4
// 0.000526
0x00
// -0.090103
0xF4
// -0.023636
0xFD
// -0.076703
0xF6
// -0.000166
0x00
// 0.137453
0x12
// -0.020064
0xFD
// -0.000899
0x00
// -0.007345
0xFF
// -0.032884
0xFC
// 0.001857
0x00
// 0.037390
0x05
// 0.035142
0x04
// -0.023790
0xFD
// 0.024159
0x03
// 0.000422
0x00
// -0.012213
0xFE
// 0.081253
0x0A
// -0.004025
0xFF
// 0.020452
0x03
// 0.084936
0x0B
// 0.044193
0x06
// 0.182432
0x17
// -0.003439
0x00
// 0.172259
0x16
// 0.006263
0x01
// 0.132284
0x11
// 0.010240
0x01
// 0.046577
0x06
// -0.047528
0xFA
// -0.056384
0xF9
// -0.111371
0xF2
// 0.247873
0x20
// 0.000391
0x00
// 0.025734
0x03
// 0.003126
0x00
// 0.027913
0x04
// 0.018170
0x02
// 0.142901
0x12
// -0.103675
0xF3
// -0.032633
0xFC
// -0.005737
0xFF
// 0.102252
0x0D
// 0.083379
0x0B
// -0.026988
0xFD
// 0.010031
0x01
// -0.018530
0xFE
// 0.014277
0x02
// -0.092777
0xF4
// 0.010537
0x01
// -0.005276
0xFF
// -0.015193
0xFE
// -0.113877
0xF1
// -0.009508
0xFF
// -0.016610
0xFE
// 0.005003
0x01
// 0.205926
0x1A
// -0.000025
0x00
// 0.002865
0x00
// 0.007832
0x01
// 0.024297
0x03
// -0.036855
0xFB
// -0.110868
0xF2
// 0.103878
0x0D