You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/Matrix/Unary/UnaryQ15/InputCholeskySDPO1_q15.txt

161 lines
1.5 KiB
Plaintext

H
79
// 0.250000
0x2000
// 0.750000
0x6000
// 0.250000
0x2000
// 0.250000
0x2000
// 0.750000
0x6000
// 0.536103
0x449F
// -0.188078
0xE7ED
// 0.219022
0x1C09
// -0.188078
0xE7ED
// 0.613523
0x4E88
// -0.030943
0xFC0A
// 0.219022
0x1C09
// -0.030943
0xFC0A
// 0.850373
0x6CD9
// 0.171504
0x15F4
// 0.083522
0x0AB1
// 0.162223
0x14C4
// 0.068192
0x08BB
// 0.083522
0x0AB1
// 0.040675
0x0535
// 0.079002
0x0A1D
// 0.033209
0x0440
// 0.162223
0x14C4
// 0.079002
0x0A1D
// 0.153445
0x13A4
// 0.064502
0x0842
// 0.068192
0x08BB
// 0.033209
0x0440
// 0.064502
0x0842
// 0.027114
0x0378
// 0.609265
0x4DFC
// 0.628980
0x5082
// 0.636303
0x5172
// 0.356624
0x2DA6
// 0.143215
0x1255
// 0.652301
0x537F
// 0.321540
0x2928
// 0.628980
0x5082
// 0.997558
0x7FB0
// 0.966302
0x7BB0
// 0.300226
0x266E
// 0.276556
0x2366
// 0.980489
0x7D81
// 0.457480
0x3A8F
// 0.636303
0x5172
// 0.966302
0x7BB0
// 0.975580
0x7CE0
// 0.298031
0x2626
// 0.282774
0x2432
// 0.952960
0x79FB
// 0.471986
0x3C6A
// 0.356624
0x2DA6
// 0.300226
0x266E
// 0.298031
0x2626
// 0.228440
0x1D3E
// 0.047819
0x061F
// 0.322396
0x2944
// 0.155519
0x13E8
// 0.143215
0x1255
// 0.276556
0x2366
// 0.282774
0x2432
// 0.047819
0x061F
// 0.104151
0x0D55
// 0.266059
0x220E
// 0.129743
0x109B
// 0.652301
0x537F
// 0.980489
0x7D81
// 0.952960
0x79FB
// 0.322396
0x2944
// 0.266059
0x220E
// 0.969213
0x7C0F
// 0.454246
0x3A25
// 0.321540
0x2928
// 0.457480
0x3A8F
// 0.471986
0x3C6A
// 0.155519
0x13E8
// 0.129743
0x109B
// 0.454246
0x3A25
// 0.233729
0x1DEB