You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference6_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// -0.085136
0xF5
// 0.111805
0x0E
// -0.027289
0xFD
// -0.023127
0xFD
// -0.156075
0xEC
// -0.079590
0xF6
// -0.248365
0xE0
// 0.022834
0x03
// 0.122526
0x10
// 0.049006
0x06
// 0.004881
0x01
// 0.059288
0x08
// 0.130867
0x11
// 0.167601
0x15
// 0.247928
0x20
// 0.138795
0x12
// -0.089816
0xF5
// 0.225024
0x1D
// -0.186038
0xE8
// 0.322453
0x29
// -0.346415
0xD4
// -0.052726
0xF9
// -0.178920
0xE9
// 0.083193
0x0B
// -0.121317
0xF0
// -0.074564
0xF6
// -0.067380
0xF7
// 0.045127
0x06
// -0.500000
0xC0
// 0.075711
0x0A
// -0.095048
0xF4
// 0.124428
0x10
// 0.020495
0x03
// -0.042680
0xFB
// -0.180312
0xE9
// 0.432763
0x37
// -0.171949
0xEA
// -0.110755
0xF2
// -0.442084
0xC7
// -0.078230
0xF6
// 0.079489
0x0A
// -0.198562
0xE7
// -0.158222
0xEC
// -0.128606
0xF0
// 0.071826
0x09
// 0.092454
0x0C
// 0.072649
0x09
// -0.170639
0xEA
// -0.224242
0xE3
// 0.069088
0x09
// -0.111059
0xF2
// 0.167062
0x15
// 0.167117
0x15
// -0.038510
0xFB
// 0.263611
0x22
// -0.027684
0xFC
// -0.117040
0xF1
// 0.175405
0x16
// 0.020986
0x03
// 0.156909
0x14
// 0.114993
0x0F
// -0.064028
0xF8
// 0.091955
0x0C
// -0.009371
0xFF
// 0.115592
0x0F
// 0.012146
0x02
// -0.172520
0xEA
// 0.071183
0x09
// -0.321160
0xD7
// -0.020918
0xFD
// -0.008972
0xFF
// -0.025979
0xFD
// 0.107034
0x0E
// -0.027736
0xFC
// 0.229838
0x1D
// -0.144904
0xED
// -0.054144
0xF9
// 0.047470
0x06
// 0.200617
0x1A
// 0.008355
0x01
// -0.097128
0xF4
// -0.304876
0xD9
// 0.042655
0x05
// -0.250672
0xE0
// 0.112157
0x0E
// -0.232455
0xE2
// -0.387882
0xCE
// 0.035357
0x05
// -0.007923
0xFF
// 0.101470
0x0D
// -0.050280
0xFA
// -0.179007
0xE9
// 0.337191
0x2B
// -0.004622
0xFF
// 0.047888
0x06
// 0.109391
0x0E
// -0.147290
0xED
// 0.020636
0x03
// -0.308470
0xD9
// 0.026943
0x03
// 0.020173
0x03
// 0.199737
0x1A
// 0.045923
0x06
// -0.035892
0xFB
// 0.168034
0x16
// 0.061112
0x08
// 0.012764
0x02
// -0.272464
0xDD
// -0.194667
0xE7
// -0.107030
0xF2
// -0.108810
0xF2
// -0.100888
0xF3
// 0.049868
0x06
// -0.018648
0xFE
// 0.001263
0x00
// -0.130976
0xEF
// 0.020836
0x03
// -0.188573
0xE8
// -0.219893
0xE4
// 0.146827
0x13
// -0.001016
0x00
// -0.052249
0xF9
// 0.174214
0x16
// -0.040271
0xFB
// -0.056261
0xF9
// -0.029748
0xFC
// -0.126855
0xF0
// -0.002125
0x00
// 0.158373
0x14
// 0.106874
0x0E
// 0.034063
0x04
// 0.080912
0x0A
// 0.056585
0x07
// -0.113546
0xF1
// 0.185412
0x18
// -0.130795
0xEF
// 0.032011
0x04
// 0.091766
0x0C
// 0.088545
0x0B
// -0.288243
0xDB
// -0.084546
0xF5
// -0.244001
0xE1
// 0.323929
0x29
// 0.075156
0x0A
// -0.239712
0xE1
// -0.022684
0xFD
// -0.092934
0xF4
// 0.223015
0x1D
// -0.141494
0xEE
// -0.101638
0xF3
// 0.123149
0x10
// -0.156239
0xEC
// -0.002157
0x00
// 0.285975
0x25
// 0.252919
0x20
// 0.218069
0x1C
// -0.423039
0xCA
// 0.090983
0x0C
// 0.171775
0x16
// -0.104554
0xF3
// -0.022088
0xFD
// -0.029596
0xFC
// 0.055676
0x07
// 0.128937
0x11
// 0.235373
0x1E
// -0.138576
0xEE
// 0.014011
0x02
// 0.092674
0x0C
// -0.075315
0xF6
// -0.267748
0xDE
// 0.007481
0x01
// -0.075087
0xF6
// -0.149397
0xED
// -0.209098
0xE5
// -0.087301
0xF5
// -0.134631
0xEF
// -0.218339
0xE4
// -0.165586
0xEB
// 0.183426
0x17
// -0.185214
0xE8
// 0.141631
0x12
// -0.115750
0xF1
// -0.116523
0xF1
// -0.223285
0xE3
// 0.042891
0x05
// 0.230932
0x1E
// -0.005571
0xFF
// 0.027906
0x04
// -0.089347
0xF5
// 0.145341
0x13
// -0.101102
0xF3
// -0.129769
0xEF
// -0.001089
0x00
// -0.185742
0xE8
// -0.090376
0xF4
// 0.123105
0x10
// 0.002292
0x00
// 0.195024
0x19
// 0.043773
0x06
// -0.124887
0xF0
// -0.117145
0xF1
// 0.313108
0x28
// 0.002899
0x00
// 0.064238
0x08
// -0.109054
0xF2
// 0.100322
0x0D
// 0.060302
0x08
// -0.047641
0xFA
// 0.129862
0x11
// -0.095761
0xF4
// -0.006966
0xFF
// -0.097455
0xF4
// -0.070889
0xF7
// 0.047629
0x06
// 0.317417
0x29
// -0.012830
0xFE
// 0.209448
0x1B
// 0.023077
0x03
// 0.180254
0x17
// 0.069718
0x09
// -0.225482
0xE3
// -0.061444
0xF8
// -0.139620
0xEE
// 0.238076
0x1E
// 0.265129
0x22
// -0.021180
0xFD
// -0.091767
0xF4
// -0.013692
0xFE
// -0.231038
0xE2
// -0.098241
0xF3
// -0.181124
0xE9
// 0.177259
0x17
// -0.050374
0xFA
// 0.048512
0x06
// -0.124781
0xF0
// 0.138543
0x12
// -0.140320
0xEE
// 0.026686
0x03
// -0.036708
0xFB
// -0.075467
0xF6
// 0.220450
0x1C
// 0.064139
0x08
// 0.137691
0x12
// 0.090100
0x0C
// -0.112520
0xF2
// 0.017802
0x02
// 0.033463
0x04
// -0.005340
0xFF
// -0.124870
0xF0
// -0.000649
0x00
// 0.007883
0x01
// -0.076990
0xF6
// -0.064163
0xF8
// 0.081936
0x0A
// -0.208089
0xE5
// -0.232194
0xE2