You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/BasicMaths/BasicMathsQ7/Reference6_q7.txt

515 lines
4.4 KiB
Plaintext

B
256
// 0.318413
0x29
// 0.002329
0x00
// 0.276598
0x23
// 0.124877
0x10
// -0.355979
0xD2
// -0.010735
0xFF
// -0.016679
0xFE
// 0.266636
0x22
// -0.043150
0xFA
// -0.208253
0xE5
// 0.163666
0x15
// -0.098448
0xF3
// 0.119022
0x0F
// 0.154368
0x14
// -0.004086
0xFF
// -0.067777
0xF7
// 0.240274
0x1F
// 0.172868
0x16
// 0.017579
0x02
// 0.196648
0x19
// -0.320562
0xD7
// 0.035585
0x05
// -0.257194
0xDF
// -0.044352
0xFA
// 0.141705
0x12
// -0.021633
0xFD
// -0.131792
0xEF
// -0.163775
0xEB
// -0.046055
0xFA
// -0.098674
0xF3
// 0.052683
0x07
// -0.161758
0xEB
// 0.063672
0x08
// 0.097178
0x0C
// 0.046974
0x06
// -0.217486
0xE4
// -0.269999
0xDD
// 0.116373
0x0F
// 0.017755
0x02
// -0.335932
0xD5
// 0.264311
0x22
// 0.373437
0x30
// 0.176079
0x17
// 0.128583
0x10
// 0.110214
0x0E
// -0.062463
0xF8
// 0.179496
0x17
// 0.143546
0x12
// -0.045142
0xFA
// -0.057285
0xF9
// -0.222661
0xE3
// 0.098642
0x0D
// 0.149021
0x13
// -0.270824
0xDD
// -0.187846
0xE8
// 0.031897
0x04
// 0.271572
0x23
// -0.027123
0xFD
// -0.065590
0xF8
// 0.490423
0x3F
// 0.097333
0x0C
// 0.116735
0x0F
// 0.107354
0x0E
// 0.038157
0x05
// 0.121256
0x10
// 0.132944
0x11
// 0.068523
0x09
// 0.063316
0x08
// 0.074195
0x09
// 0.020894
0x03
// 0.254854
0x21
// 0.059873
0x08
// 0.229052
0x1D
// -0.037817
0xFB
// -0.028168
0xFC
// 0.269682
0x23
// -0.103620
0xF3
// -0.109877
0xF2
// 0.078340
0x0A
// -0.197839
0xE7
// -0.107078
0xF2
// -0.074818
0xF6
// -0.052519
0xF9
// 0.079070
0x0A
// -0.001906
0x00
// -0.067749
0xF7
// -0.070005
0xF7
// -0.150253
0xED
// 0.097459
0x0C
// 0.070670
0x09
// -0.295057
0xDA
// 0.041602
0x05
// -0.331719
0xD6
// 0.077502
0x0A
// 0.038325
0x05
// -0.034092
0xFC
// 0.083012
0x0B
// 0.206519
0x1A
// 0.219586
0x1C
// 0.046725
0x06
// -0.210724
0xE5
// 0.195905
0x19
// 0.009314
0x01
// -0.151678
0xED
// 0.121119
0x10
// -0.001596
0x00
// -0.276714
0xDD
// 0.360347
0x2E
// -0.109054
0xF2
// 0.221105
0x1C
// -0.126794
0xF0
// -0.103447
0xF3
// 0.036761
0x05
// -0.324716
0xD6
// 0.053802
0x07
// 0.186933
0x18
// 0.138734
0x12
// -0.318671
0xD7
// -0.044813
0xFA
// 0.008668
0x01
// 0.118004
0x0F
// -0.104727
0xF3
// 0.114881
0x0F
// -0.124274
0xF0
// -0.249406
0xE0
// 0.084917
0x0B
// -0.081767
0xF6
// 0.207026
0x1A
// -0.336760
0xD5
// 0.189368
0x18
// -0.047510
0xFA
// -0.419836
0xCA
// -0.017900
0xFE
// -0.021025
0xFD
// -0.170698
0xEA
// 0.088897
0x0B
// 0.211848
0x1B
// -0.042909
0xFB
// 0.149921
0x13
// -0.001102
0x00
// 0.348948
0x2D
// -0.137084
0xEE
// 0.278615
0x24
// -0.230458
0xE3
// -0.126257
0xF0
// -0.478069
0xC3
// -0.209203
0xE5
// 0.149225
0x13
// 0.232083
0x1E
// -0.220226
0xE4
// 0.209408
0x1B
// 0.192446
0x19
// -0.186120
0xE8
// -0.325698
0xD6
// 0.017902
0x02
// 0.098158
0x0D
// 0.027249
0x03
// -0.045137
0xFA
// -0.255901
0xDF
// -0.073862
0xF7
// -0.214419
0xE5
// -0.174365
0xEA
// 0.090486
0x0C
// -0.249922
0xE0
// 0.052698
0x07
// -0.131143
0xEF
// -0.192929
0xE7
// -0.148226
0xED
// 0.397812
0x33
// -0.417349
0xCB
// -0.115451
0xF1
// -0.110848
0xF2
// 0.000088
0x00
// 0.064022
0x08
// -0.077236
0xF6
// -0.279706
0xDC
// -0.167613
0xEB
// 0.153508
0x14
// 0.043896
0x06
// -0.137613
0xEE
// 0.075382
0x0A
// -0.482102
0xC2
// -0.174632
0xEA
// -0.130792
0xEF
// -0.199021
0xE7
// -0.186551
0xE8
// 0.211433
0x1B
// 0.228065
0x1D
// -0.015303
0xFE
// -0.146341
0xED
// 0.167973
0x16
// -0.125628
0xF0
// 0.128596
0x10
// -0.145214
0xED
// -0.124555
0xF0
// 0.122784
0x10
// 0.389465
0x32
// -0.063154
0xF8
// -0.443202
0xC7
// 0.053454
0x07
// 0.267933
0x22
// -0.122962
0xF0
// 0.224065
0x1D
// -0.500000
0xC0
// -0.268651
0xDE
// -0.038282
0xFB
// -0.219748
0xE4
// 0.259764
0x21
// 0.006541
0x01
// 0.218990
0x1C
// 0.085162
0x0B
// 0.384268
0x31
// -0.117030
0xF1
// 0.231892
0x1E
// -0.010164
0xFF
// -0.110061
0xF2
// -0.037721
0xFB
// -0.433215
0xC9
// 0.082891
0x0B
// -0.063976
0xF8
// -0.333327
0xD5
// 0.415265
0x35
// 0.087329
0x0B
// 0.053983
0x07
// -0.052307
0xF9
// -0.234002
0xE2
// -0.096730
0xF4
// 0.053138
0x07
// -0.334942
0xD5
// 0.201610
0x1A
// 0.112439
0x0E
// 0.073818
0x09
// 0.266867
0x22
// -0.095459
0xF4
// -0.053866
0xF9
// -0.065637
0xF8
// 0.178156
0x17
// 0.133404
0x11
// 0.265002
0x22
// 0.254751
0x21
// 0.172042
0x16
// 0.178132
0x17
// 0.454516
0x3A
// 0.006467
0x01
// 0.086018
0x0B
// 0.023159
0x03
// -0.084200
0xF5
// 0.268720
0x22
// -0.206544
0xE6
// -0.131857
0xEF
// -0.103690
0xF3
// -0.052096
0xF9
// 0.059872
0x08
// -0.132056
0xEF
// 0.208302
0x1B
// 0.036678
0x05