You cannot select more than 25 topics Topics must start with a letter or number, can include dashes ('-') and can be up to 35 characters long.
CMSIS-DSP/Testing/Patterns/DSP/Matrix/Unary/UnaryQ7/RefLTSolve1_q7.txt

367 lines
3.2 KiB
Plaintext

B
182
// -17.719312
0x80
// 9.861521
0x7F
// 2.256313
0x7F
// -2.265357
0x80
// -4.441373
0x80
// -4.626933
0x80
// -16.785437
0x80
// 23.891352
0x7F
// 85.640049
0x7F
// 70.687327
0x7F
// 250.441753
0x7F
// 2.096873
0x7F
// 0.847495
0x6C
// -108.706175
0x80
// 80.837366
0x7F
// 2.059023
0x7F
// 3.315419
0x7F
// -2.859827
0x80
// -1.051305
0x80
// -5.621637
0x80
// -1.325000
0x80
// -2.507657
0x80
// 0.974525
0x7D
// -0.244644
0xE1
// -0.632247
0xAF
// -0.311327
0xD8
// 0.382837
0x31
// 2.224037
0x7F
// -0.735481
0xA2
// -0.556435
0xB9
// 9.180577
0x7F
// -6.781406
0x80
// -3.596244
0x80
// -0.686045
0xA8
// -1.899736
0x80
// 0.467103
0x3C
// 1.898165
0x7F
// 3.043699
0x7F
// -1.692553
0x80
// -6.851173
0x80
// 0.220963
0x1C
// -2.176534
0x80
// 2.633654
0x7F
// 4.672774
0x7F
// -0.740967
0xA1
// -3.071281
0x80
// 2.497820
0x7F
// 1.245658
0x7F
// -0.050803
0xF9
// 2.669634
0x7F
// 4.790460
0x7F
// 4.955616
0x7F
// -4.817571
0x80
// 1.138998
0x7F
// -6.398495
0x80
// -12.441938
0x80
// 1.708148
0x7F
// -13.306797
0x80
// 13.947143
0x7F
// -0.759549
0x9F
// 20.288660
0x7F
// -21.762806
0x80
// -1.087118
0x80
// 12.121553
0x7F
// -12.655619
0x80
// -36.564515
0x80
// 294.764192
0x7F
// -324.953180
0x80
// -119.671898
0x80
// 918.313506
0x7F
// -1006.894920
0x80
// 42.607232
0x7F
// -324.767658
0x80
// 356.199398
0x7F
// -67.828890
0x80
// 517.163164
0x7F
// -567.155534
0x80
// 0.301246
0x27
// 0.350666
0x2D
// 0.419727
0x36
// -0.090695
0xF4
// 1.088691
0x7F
// -0.765675
0x9E
// 0.548433
0x46
// 0.458278
0x3B
// -4.668934
0x80
// -0.593729
0xB4
// -2.868840
0x80
// 4.577523
0x7F
// 28.509705
0x7F
// 2.816348
0x7F
// 13.625089
0x7F
// -21.041918
0x80
// 10.306017
0x7F
// 0.156690
0x14
// 4.036201
0x7F
// -5.528942
0x80
// 69.140889
0x7F
// 10.339849
0x7F
// 34.524397
0x7F
// -62.838510
0x80
// -294.342265
0x80
// -34.455070
0x80
// -139.097318
0x80
// 241.408803
0x7F
// -0.435097
0xC8
// -0.179556
0xE9
// 0.266845
0x22
// -0.444920
0xC7
// 0.228424
0x1D
// 1.858639
0x7F
// 4.530786
0x7F
// -3.337697
0x80
// -1.557870
0x80
// -1.002511
0x80
// -0.788508
0x9B
// 2.687905
0x7F
// 0.542784
0x45
// -0.657184
0xAC
// 1.084709
0x7F
// 2.366916
0x7F
// -0.217884
0xE4
// -2.007432
0x80
// 0.497051
0x40
// -0.546760
0xBA
// -0.451564
0xC6
// 10.120958
0x7F
// -4.781845
0x80
// -3.610974
0x80
// -1.062588
0x80
// 9.637944
0x7F
// -14.283105
0x80
// 0.412165
0x35
// 12.940473
0x7F
// -3.730688
0x80
// 19.701388
0x7F
// -34.455592
0x80
// 5.023420
0x7F
// 34.929867
0x7F
// -4.744589
0x80
// 4.593362
0x7F
// 6.616761
0x7F
// 7.436096
0x7F
// -4.525301
0x80
// -4.226180
0x80
// -1.807381
0x80
// -7.244664
0x80
// -11.576933
0x80
// -14.342717
0x80
// 9.810456
0x7F
// 8.893511
0x7F
// 2.161233
0x7F
// 15.863518
0x7F
// 21.255549
0x7F
// 27.121003
0x7F
// -18.369800
0x80
// -17.851020
0x80
// -5.232299
0x80
// 16.892940
0x7F
// 34.411792
0x7F
// 38.150076
0x7F
// -33.944701
0x80
// -21.927750
0x80
// -9.742313
0x80
// -9.231150
0x80
// -14.377668
0x80
// -16.152413
0x80
// 10.913433
0x7F
// 10.189051
0x7F
// 4.222831
0x7F
// -231.047653
0x80
// -468.112700
0x80
// -535.547715
0x80
// 370.052912
0x7F
// 299.647189
0x7F
// 131.206204
0x7F
// -57.169349
0x80
// -124.759703
0x80
// -138.199408
0x80
// 106.505420
0x7F
// 76.288655
0x7F
// 35.572435
0x7F